]> git.cameronkatri.com Git - mandoc.git/blobdiff - mdoc.c
store the operating system name obtained from uname(3) in the adequate
[mandoc.git] / mdoc.c
diff --git a/mdoc.c b/mdoc.c
index 86adead36c7a2ec02cca84f2eba8bd14270bf6c2..475a6aa0ddb3cac71309fe5fe5450f1ce110c825 100644 (file)
--- a/mdoc.c
+++ b/mdoc.c
-/*     $Id: mdoc.c,v 1.96 2009/07/27 19:43:02 kristaps Exp $ */
+/* $Id: mdoc.c,v 1.275 2020/04/06 10:16:17 schwarze Exp $ */
 /*
- * Copyright (c) 2008, 2009 Kristaps Dzonsons <kristaps@kth.se>
+ * Copyright (c) 2010, 2012-2018, 2020 Ingo Schwarze <schwarze@openbsd.org>
+ * Copyright (c) 2008, 2009, 2010, 2011 Kristaps Dzonsons <kristaps@bsd.lv>
  *
  * Permission to use, copy, modify, and distribute this software for any
  * purpose with or without fee is hereby granted, provided that the above
  * copyright notice and this permission notice appear in all copies.
  *
- * THE SOFTWARE IS PROVIDED "AS IS" AND THE AUTHOR DISCLAIMS ALL WARRANTIES
+ * THE SOFTWARE IS PROVIDED "AS IS" AND THE AUTHORS DISCLAIM ALL WARRANTIES
  * WITH REGARD TO THIS SOFTWARE INCLUDING ALL IMPLIED WARRANTIES OF
- * MERCHANTABILITY AND FITNESS. IN NO EVENT SHALL THE AUTHOR BE LIABLE FOR
+ * MERCHANTABILITY AND FITNESS. IN NO EVENT SHALL THE AUTHORS BE LIABLE FOR
  * ANY SPECIAL, DIRECT, INDIRECT, OR CONSEQUENTIAL DAMAGES OR ANY DAMAGES
  * WHATSOEVER RESULTING FROM LOSS OF USE, DATA OR PROFITS, WHETHER IN AN
  * ACTION OF CONTRACT, NEGLIGENCE OR OTHER TORTIOUS ACTION, ARISING OUT OF
  * OR IN CONNECTION WITH THE USE OR PERFORMANCE OF THIS SOFTWARE.
+ *
+ * Top level and utility functions of the mdoc(7) parser for mandoc(1).
  */
+#include "config.h"
+
+#include <sys/types.h>
+
 #include <assert.h>
 #include <ctype.h>
 #include <stdarg.h>
 #include <stdio.h>
 #include <stdlib.h>
 #include <string.h>
-
+#include <time.h>
+
+#include "mandoc_aux.h"
+#include "mandoc.h"
+#include "roff.h"
+#include "mdoc.h"
+#include "libmandoc.h"
+#include "roff_int.h"
 #include "libmdoc.h"
 
-const  char *const __mdoc_merrnames[MERRMAX] = {                
-       "trailing whitespace", /* ETAILWS */
-       "unexpected quoted parameter", /* EQUOTPARM */
-       "unterminated quoted parameter", /* EQUOTTERM */
-       "system: malloc error", /* EMALLOC */
-       "argument parameter suggested", /* EARGVAL */
-       "macro not callable", /* ENOCALL */
-       "macro disallowed in prologue", /* EBODYPROL */
-       "macro disallowed in body", /* EPROLBODY */
-       "text disallowed in prologue", /* ETEXTPROL */
-       "blank line disallowed", /* ENOBLANK */
-       "text parameter too long", /* ETOOLONG */
-       "invalid escape sequence", /* EESCAPE */
-       "invalid character", /* EPRINT */
-       "document has no body", /* ENODAT */
-       "document has no prologue", /* ENOPROLOGUE */
-       "expected line arguments", /* ELINE */
-       "invalid AT&T argument", /* EATT */
-       "default name not yet set", /* ENAME */
-       "missing list type", /* ELISTTYPE */
-       "missing display type", /* EDISPTYPE */
-       "too many display types", /* EMULTIDISP */
-       "too many list types", /* EMULTILIST */
-       "NAME section must be first", /* ESECNAME */
-       "badly-formed NAME section", /* ENAMESECINC */
-       "argument repeated", /* EARGREP */
-       "expected boolean parameter", /* EBOOL */
-       "inconsistent column syntax", /* ECOLMIS */
-       "nested display invalid", /* ENESTDISP */
-       "width argument missing", /* EMISSWIDTH */
-       "invalid section for this manual section", /* EWRONGMSEC */
-       "section out of conventional order", /* ESECOOO */
-       "section repeated", /* ESECREP */
-       "invalid standard argument", /* EBADSTAND */
-       "multi-line arguments discouraged", /* ENOMULTILINE */
-       "multi-line arguments suggested", /* EMULTILINE */
-       "line arguments discouraged", /* ENOLINE */
-       "prologue macro out of conventional order", /* EPROLOOO */
-       "prologue macro repeated", /* EPROLREP */
-       "invalid manual section", /* EBADMSEC */
-       "invalid section", /* EBADSEC */
-       "invalid font mode", /* EFONT */
-       "invalid date syntax", /* EBADDATE */
-       "invalid number format", /* ENUMFMT */
-       "superfluous width argument", /* ENOWIDTH */
-       "system: utsname error", /* EUTSNAME */
-       "obsolete macro", /* EOBS */
-       "macro-like parameter", /* EMACPARM */
-       "end-of-line scope violation", /* EIMPBRK */
-       "empty macro ignored", /* EIGNE */
-       "unclosed explicit scope", /* EOPEN */
-       "unterminated quoted phrase", /* EQUOTPHR */
-       "closure macro without prior context", /* ENOCTX */
-       "invalid whitespace after control character", /* ESPACE */
-       "no description found for library" /* ELIB */
-};
-
-const  char *const __mdoc_macronames[MDOC_MAX] = {              
-       "Ap",           "Dd",           "Dt",           "Os",
-       "Sh",           "Ss",           "Pp",           "D1",
-       "Dl",           "Bd",           "Ed",           "Bl",
-       "El",           "It",           "Ad",           "An",
-       "Ar",           "Cd",           "Cm",           "Dv",
-       "Er",           "Ev",           "Ex",           "Fa",
-       "Fd",           "Fl",           "Fn",           "Ft",
-       "Ic",           "In",           "Li",           "Nd",
-       "Nm",           "Op",           "Ot",           "Pa",
-       "Rv",           "St",           "Va",           "Vt",
-       /* LINTED */
-       "Xr",           "\%A",          "\%B",          "\%D",
-       /* LINTED */
-       "\%I",          "\%J",          "\%N",          "\%O",
-       /* LINTED */
-       "\%P",          "\%R",          "\%T",          "\%V",
-       "Ac",           "Ao",           "Aq",           "At",
-       "Bc",           "Bf",           "Bo",           "Bq",
-       "Bsx",          "Bx",           "Db",           "Dc",
-       "Do",           "Dq",           "Ec",           "Ef",
-       "Em",           "Eo",           "Fx",           "Ms",
-       "No",           "Ns",           "Nx",           "Ox",
-       "Pc",           "Pf",           "Po",           "Pq",
-       "Qc",           "Ql",           "Qo",           "Qq",
-       "Re",           "Rs",           "Sc",           "So",
-       "Sq",           "Sm",           "Sx",           "Sy",
-       "Tn",           "Ux",           "Xc",           "Xo",
-       "Fo",           "Fc",           "Oo",           "Oc",
-       "Bk",           "Ek",           "Bt",           "Hf",
-       "Fr",           "Ud",           "Lb",           "Lp",
-       "Lk",           "Mt",           "Brq",          "Bro",
-       /* LINTED */
-       "Brc",          "\%C",          "Es",           "En",
-       /* LINTED */
-       "Dx",           "\%Q",          "br",           "sp"
-       };
-
-const  char *const __mdoc_argnames[MDOC_ARG_MAX] = {            
+const  char *const __mdoc_argnames[MDOC_ARG_MAX] = {
        "split",                "nosplit",              "ragged",
-       "unfilled",             "literal",              "file",          
-       "offset",               "bullet",               "dash",          
-       "hyphen",               "item",                 "enum",          
-       "tag",                  "diag",                 "hang",          
-       "ohang",                "inset",                "column",        
-       "width",                "compact",              "std",   
+       "unfilled",             "literal",              "file",
+       "offset",               "bullet",               "dash",
+       "hyphen",               "item",                 "enum",
+       "tag",                  "diag",                 "hang",
+       "ohang",                "inset",                "column",
+       "width",                "compact",              "std",
        "filled",               "words",                "emphasis",
-       "symbolic",             "nested"
-       };
-
-const  char * const *mdoc_macronames = __mdoc_macronames;
+       "symbolic",             "nested",               "centered"
+};
 const  char * const *mdoc_argnames = __mdoc_argnames;
 
-static void              mdoc_free1(struct mdoc *);
-static int               mdoc_alloc1(struct mdoc *);
-static struct mdoc_node *node_alloc(struct mdoc *, int, int, 
-                               int, enum mdoc_type);
-static int               node_append(struct mdoc *, 
-                               struct mdoc_node *);
-static int               parsetext(struct mdoc *, int, char *);
-static int               parsemacro(struct mdoc *, int, char *);
-static int               macrowarn(struct mdoc *, int, const char *);
-static int               pstring(struct mdoc *, int, int, 
-                               const char *, size_t);
-
-#ifdef __linux__
-extern size_t            strlcpy(char *, const char *, size_t);
-#endif
-
-
-const struct mdoc_node *
-mdoc_node(const struct mdoc *m)
-{
-
-       return(MDOC_HALT & m->flags ? NULL : m->first);
-}
-
-
-const struct mdoc_meta *
-mdoc_meta(const struct mdoc *m)
-{
-
-       return(MDOC_HALT & m->flags ? NULL : &m->meta);
-}
-
-
-/*
- * Frees volatile resources (parse tree, meta-data, fields).
- */
-static void
-mdoc_free1(struct mdoc *mdoc)
-{
-
-       if (mdoc->first)
-               mdoc_node_freelist(mdoc->first);
-       if (mdoc->meta.title)
-               free(mdoc->meta.title);
-       if (mdoc->meta.os)
-               free(mdoc->meta.os);
-       if (mdoc->meta.name)
-               free(mdoc->meta.name);
-       if (mdoc->meta.arch)
-               free(mdoc->meta.arch);
-       if (mdoc->meta.vol)
-               free(mdoc->meta.vol);
-}
-
-
-/*
- * Allocate all volatile resources (parse tree, meta-data, fields).
- */
-static int
-mdoc_alloc1(struct mdoc *mdoc)
-{
-
-       bzero(&mdoc->meta, sizeof(struct mdoc_meta));
-       mdoc->flags = 0;
-       mdoc->lastnamed = mdoc->lastsec = SEC_NONE;
-       mdoc->last = calloc(1, sizeof(struct mdoc_node));
-       if (NULL == mdoc->last)
-               return(0);
-
-       mdoc->first = mdoc->last;
-       mdoc->last->type = MDOC_ROOT;
-       mdoc->next = MDOC_NEXT_CHILD;
-       return(1);
-}
-
-
-/*
- * Free up volatile resources (see mdoc_free1()) then re-initialises the
- * data with mdoc_alloc1().  After invocation, parse data has been reset
- * and the parser is ready for re-invocation on a new tree; however,
- * cross-parse non-volatile data is kept intact.
- */
-int
-mdoc_reset(struct mdoc *mdoc)
-{
-
-       mdoc_free1(mdoc);
-       return(mdoc_alloc1(mdoc));
-}
-
-
-/*
- * Completely free up all volatile and non-volatile parse resources.
- * After invocation, the pointer is no longer usable.
- */
-void
-mdoc_free(struct mdoc *mdoc)
-{
-
-       mdoc_free1(mdoc);
-       if (mdoc->htab)
-               mdoc_hash_free(mdoc->htab);
-       free(mdoc);
-}
-
-
-/*
- * Allocate volatile and non-volatile parse resources.  
- */
-struct mdoc *
-mdoc_alloc(void *data, int pflags, const struct mdoc_cb *cb)
-{
-       struct mdoc     *p;
-
-       if (NULL == (p = calloc(1, sizeof(struct mdoc))))
-               return(NULL);
-       if (cb)
-               (void)memcpy(&p->cb, cb, sizeof(struct mdoc_cb));
-
-       p->data = data;
-       p->pflags = pflags;
-
-       if (NULL == (p->htab = mdoc_hash_alloc())) {
-               free(p);
-               return(NULL);
-       } else if (mdoc_alloc1(p))
-               return(p);
-
-       free(p);
-       return(NULL);
-}
-
-
-/*
- * Climb back up the parse tree, validating open scopes.  Mostly calls
- * through to macro_end() in macro.c.
- */
-int
-mdoc_endparse(struct mdoc *m)
-{
-
-       if (MDOC_HALT & m->flags)
-               return(0);
-       else if (mdoc_macroend(m))
-               return(1);
-       m->flags |= MDOC_HALT;
-       return(0);
-}
+static int               mdoc_ptext(struct roff_man *, int, char *, int);
+static int               mdoc_pmacro(struct roff_man *, int, char *, int);
 
 
 /*
  * Main parse routine.  Parses a single line -- really just hands off to
- * the macro (parsemacro()) or text parser (parsetext()).
+ * the macro (mdoc_pmacro()) or text parser (mdoc_ptext()).
  */
 int
-mdoc_parseln(struct mdoc *m, int ln, char *buf)
+mdoc_parseln(struct roff_man *mdoc, int ln, char *buf, int offs)
 {
 
-       if (MDOC_HALT & m->flags)
-               return(0);
-
-       return('.' == *buf ? parsemacro(m, ln, buf) :
-                       parsetext(m, ln, buf));
-}
-
-
-int
-mdoc_verr(struct mdoc *mdoc, int ln, int pos, 
-               const char *fmt, ...)
-{
-       char             buf[256];
-       va_list          ap;
-
-       if (NULL == mdoc->cb.mdoc_err)
-               return(0);
-
-       va_start(ap, fmt);
-       (void)vsnprintf(buf, sizeof(buf) - 1, fmt, ap);
-       va_end(ap);
+       if (mdoc->last->type != ROFFT_EQN || ln > mdoc->last->line)
+               mdoc->flags |= MDOC_NEWLINE;
 
-       return((*mdoc->cb.mdoc_err)(mdoc->data, ln, pos, buf));
+       /*
+        * Let the roff nS register switch SYNOPSIS mode early,
+        * such that the parser knows at all times
+        * whether this mode is on or off.
+        * Note that this mode is also switched by the Sh macro.
+        */
+       if (roff_getreg(mdoc->roff, "nS"))
+               mdoc->flags |= MDOC_SYNOPSIS;
+       else
+               mdoc->flags &= ~MDOC_SYNOPSIS;
+
+       return roff_getcontrol(mdoc->roff, buf, &offs) ?
+           mdoc_pmacro(mdoc, ln, buf, offs) :
+           mdoc_ptext(mdoc, ln, buf, offs);
 }
 
-
-int
-mdoc_vwarn(struct mdoc *mdoc, int ln, int pos, const char *fmt, ...)
+void
+mdoc_tail_alloc(struct roff_man *mdoc, int line, int pos, enum roff_tok tok)
 {
-       char             buf[256];
-       va_list          ap;
-
-       if (NULL == mdoc->cb.mdoc_warn)
-               return(0);
-
-       va_start(ap, fmt);
-       (void)vsnprintf(buf, sizeof(buf) - 1, fmt, ap);
-       va_end(ap);
+       struct roff_node *p;
 
-       return((*mdoc->cb.mdoc_warn)(mdoc->data, ln, pos, buf));
+       p = roff_node_alloc(mdoc, line, pos, ROFFT_TAIL, tok);
+       roff_node_append(mdoc, p);
+       mdoc->next = ROFF_NEXT_CHILD;
 }
 
-
-int
-mdoc_err(struct mdoc *m, int line, int pos, int iserr, enum merr type)
+struct roff_node *
+mdoc_endbody_alloc(struct roff_man *mdoc, int line, int pos,
+    enum roff_tok tok, struct roff_node *body)
 {
-       const char      *p;
-
-       p = __mdoc_merrnames[(int)type];
-       assert(p);
-
-       if (iserr)
-               return(mdoc_verr(m, line, pos, p));
-
-       return(mdoc_vwarn(m, line, pos, p));
+       struct roff_node *p;
+
+       body->flags |= NODE_ENDED;
+       body->parent->flags |= NODE_ENDED;
+       p = roff_node_alloc(mdoc, line, pos, ROFFT_BODY, tok);
+       p->body = body;
+       p->norm = body->norm;
+       p->end = ENDBODY_SPACE;
+       roff_node_append(mdoc, p);
+       mdoc->next = ROFF_NEXT_SIBLING;
+       return p;
 }
 
-
-int
-mdoc_macro(struct mdoc *m, int tok, 
-               int ln, int pp, int *pos, char *buf)
+struct roff_node *
+mdoc_block_alloc(struct roff_man *mdoc, int line, int pos,
+    enum roff_tok tok, struct mdoc_arg *args)
 {
+       struct roff_node *p;
 
-       if (MDOC_PROLOGUE & mdoc_macros[tok].flags && 
-                       MDOC_PBODY & m->flags)
-               return(mdoc_perr(m, ln, pp, EPROLBODY));
-       if ( ! (MDOC_PROLOGUE & mdoc_macros[tok].flags) && 
-                       ! (MDOC_PBODY & m->flags))
-               return(mdoc_perr(m, ln, pp, EBODYPROL));
-
-       if (1 != pp && ! (MDOC_CALLABLE & mdoc_macros[tok].flags))
-               return(mdoc_perr(m, ln, pp, ENOCALL));
-
-       return((*mdoc_macros[tok].fp)(m, tok, ln, pp, pos, buf));
-}
-
-
-static int
-node_append(struct mdoc *mdoc, struct mdoc_node *p)
-{
-
-       assert(mdoc->last);
-       assert(mdoc->first);
-       assert(MDOC_ROOT != p->type);
-
-       switch (mdoc->next) {
-       case (MDOC_NEXT_SIBLING):
-               mdoc->last->next = p;
-               p->prev = mdoc->last;
-               p->parent = mdoc->last->parent;
-               break;
-       case (MDOC_NEXT_CHILD):
-               mdoc->last->child = p;
-               p->parent = mdoc->last;
-               break;
-       default:
-               abort();
-               /* NOTREACHED */
-       }
-
-       p->parent->nchild++;
-
-       if ( ! mdoc_valid_pre(mdoc, p))
-               return(0);
-       if ( ! mdoc_action_pre(mdoc, p))
-               return(0);
-
-       switch (p->type) {
-       case (MDOC_HEAD):
-               assert(MDOC_BLOCK == p->parent->type);
-               p->parent->head = p;
-               break;
-       case (MDOC_TAIL):
-               assert(MDOC_BLOCK == p->parent->type);
-               p->parent->tail = p;
-               break;
-       case (MDOC_BODY):
-               assert(MDOC_BLOCK == p->parent->type);
-               p->parent->body = p;
-               break;
-       default:
-               break;
-       }
-
-       mdoc->last = p;
+       p = roff_node_alloc(mdoc, line, pos, ROFFT_BLOCK, tok);
+       p->args = args;
+       if (p->args)
+               (args->refcnt)++;
 
-       switch (p->type) {
-       case (MDOC_TEXT):
-               if ( ! mdoc_valid_post(mdoc))
-                       return(0);
-               if ( ! mdoc_action_post(mdoc))
-                       return(0);
+       switch (tok) {
+       case MDOC_Bd:
+       case MDOC_Bf:
+       case MDOC_Bl:
+       case MDOC_En:
+       case MDOC_Rs:
+               p->norm = mandoc_calloc(1, sizeof(union mdoc_data));
                break;
        default:
                break;
        }
-
-       return(1);
-}
-
-
-static struct mdoc_node *
-node_alloc(struct mdoc *m, int line, 
-               int pos, int tok, enum mdoc_type type)
-{
-       struct mdoc_node *p;
-
-       if (NULL == (p = calloc(1, sizeof(struct mdoc_node)))) {
-               (void)mdoc_nerr(m, m->last, EMALLOC);
-               return(NULL);
-       }
-
-       p->sec = m->lastsec;
-       p->line = line;
-       p->pos = pos;
-       p->tok = tok;
-       if (MDOC_TEXT != (p->type = type))
-               assert(p->tok >= 0);
-
-       return(p);
-}
-
-
-int
-mdoc_tail_alloc(struct mdoc *m, int line, int pos, int tok)
-{
-       struct mdoc_node *p;
-
-       p = node_alloc(m, line, pos, tok, MDOC_TAIL);
-       if (NULL == p)
-               return(0);
-       return(node_append(m, p));
-}
-
-
-int
-mdoc_head_alloc(struct mdoc *m, int line, int pos, int tok)
-{
-       struct mdoc_node *p;
-
-       assert(m->first);
-       assert(m->last);
-
-       p = node_alloc(m, line, pos, tok, MDOC_HEAD);
-       if (NULL == p)
-               return(0);
-       return(node_append(m, p));
-}
-
-
-int
-mdoc_body_alloc(struct mdoc *m, int line, int pos, int tok)
-{
-       struct mdoc_node *p;
-
-       p = node_alloc(m, line, pos, tok, MDOC_BODY);
-       if (NULL == p)
-               return(0);
-       return(node_append(m, p));
-}
-
-
-int
-mdoc_block_alloc(struct mdoc *m, int line, int pos, 
-               int tok, struct mdoc_arg *args)
-{
-       struct mdoc_node *p;
-
-       p = node_alloc(m, line, pos, tok, MDOC_BLOCK);
-       if (NULL == p)
-               return(0);
-       p->args = args;
-       if (p->args)
-               (args->refcnt)++;
-       return(node_append(m, p));
+       roff_node_append(mdoc, p);
+       mdoc->next = ROFF_NEXT_CHILD;
+       return p;
 }
 
-
-int
-mdoc_elem_alloc(struct mdoc *m, int line, int pos, 
-               int tok, struct mdoc_arg *args)
+void
+mdoc_elem_alloc(struct roff_man *mdoc, int line, int pos,
+     enum roff_tok tok, struct mdoc_arg *args)
 {
-       struct mdoc_node *p;
+       struct roff_node *p;
 
-       p = node_alloc(m, line, pos, tok, MDOC_ELEM);
-       if (NULL == p)
-               return(0);
+       p = roff_node_alloc(mdoc, line, pos, ROFFT_ELEM, tok);
        p->args = args;
        if (p->args)
                (args->refcnt)++;
-       return(node_append(m, p));
-}
-
-
-static int
-pstring(struct mdoc *m, int line, int pos, const char *p, size_t len)
-{
-       struct mdoc_node *n;
-       size_t            sv;
-
-       n = node_alloc(m, line, pos, -1, MDOC_TEXT);
-       if (NULL == n)
-               return(mdoc_nerr(m, m->last, EMALLOC));
 
-       n->string = malloc(len + 1);
-       if (NULL == n->string) {
-               free(n);
-               return(mdoc_nerr(m, m->last, EMALLOC));
+       switch (tok) {
+       case MDOC_An:
+               p->norm = mandoc_calloc(1, sizeof(union mdoc_data));
+               break;
+       default:
+               break;
        }
-
-       sv = strlcpy(n->string, p, len + 1);
-
-       /* Prohibit truncation. */
-       assert(sv < len + 1);
-
-       return(node_append(m, n));
-}
-
-
-int
-mdoc_word_alloc(struct mdoc *m, int line, int pos, const char *p)
-{
-
-       return(pstring(m, line, pos, p, strlen(p)));
+       roff_node_append(mdoc, p);
+       mdoc->next = ROFF_NEXT_CHILD;
 }
 
-
-void
-mdoc_node_free(struct mdoc_node *p)
-{
-
-       if (p->parent)
-               p->parent->nchild--;
-       if (p->string)
-               free(p->string);
-       if (p->args)
-               mdoc_argv_free(p->args);
-       free(p);
-}
-
-
-void
-mdoc_node_freelist(struct mdoc_node *p)
-{
-
-       if (p->child)
-               mdoc_node_freelist(p->child);
-       if (p->next)
-               mdoc_node_freelist(p->next);
-
-       assert(0 == p->nchild);
-       mdoc_node_free(p);
-}
-
-
 /*
  * Parse free-form text, that is, a line that does not begin with the
  * control character.
  */
 static int
-parsetext(struct mdoc *m, int line, char *buf)
+mdoc_ptext(struct roff_man *mdoc, int line, char *buf, int offs)
 {
-       int              i, j;
+       struct roff_node *n;
+       const char       *cp, *sp;
+       char             *c, *ws, *end;
+
+       n = mdoc->last;
 
-       if (SEC_NONE == m->lastnamed)
-               return(mdoc_perr(m, line, 0, ETEXTPROL));
-       
        /*
-        * If in literal mode, then pass the buffer directly to the
-        * back-end, as it should be preserved as a single term.
+        * If a column list contains plain text, assume an implicit item
+        * macro.  This can happen one or more times at the beginning
+        * of such a list, intermixed with non-It mdoc macros and with
+        * nodes generated on the roff level, for example by tbl.
         */
 
-       if (MDOC_LITERAL & m->flags) {
-               if ( ! mdoc_word_alloc(m, line, 0, buf))
-                       return(0);
-               m->next = MDOC_NEXT_SIBLING;
-               return(1);
+       if ((n->tok == MDOC_Bl && n->type == ROFFT_BODY &&
+            n->end == ENDBODY_NOT && n->norm->Bl.type == LIST_column) ||
+           (n->parent != NULL && n->parent->tok == MDOC_Bl &&
+            n->parent->norm->Bl.type == LIST_column)) {
+               mdoc->flags |= MDOC_FREECOL;
+               (*mdoc_macro(MDOC_It)->fp)(mdoc, MDOC_It,
+                   line, offs, &offs, buf);
+               return 1;
        }
 
-       /* Disallow blank/white-space lines in non-literal mode. */
-
-       for (i = 0; ' ' == buf[i]; i++)
-               /* Skip leading whitespace. */ ;
-       if (0 == buf[i])
-               return(mdoc_perr(m, line, 0, ENOBLANK));
-
        /*
-        * Break apart a free-form line into tokens.  Spaces are
-        * stripped out of the input.
+        * Search for the beginning of unescaped trailing whitespace (ws)
+        * and for the first character not to be output (end).
         */
 
-       for (j = i; buf[i]; i++) {
-               if (' ' != buf[i])
-                       continue;
-
-               /* Escaped whitespace. */
-               if (i && ' ' == buf[i] && '\\' == buf[i - 1])
+       /* FIXME: replace with strcspn(). */
+       ws = NULL;
+       for (c = end = buf + offs; *c; c++) {
+               switch (*c) {
+               case ' ':
+                       if (NULL == ws)
+                               ws = c;
                        continue;
+               case '\t':
+                       /*
+                        * Always warn about trailing tabs,
+                        * even outside literal context,
+                        * where they should be put on the next line.
+                        */
+                       if (NULL == ws)
+                               ws = c;
+                       /*
+                        * Strip trailing tabs in literal context only;
+                        * outside, they affect the next line.
+                        */
+                       if (mdoc->flags & ROFF_NOFILL)
+                               continue;
+                       break;
+               case '\\':
+                       /* Skip the escaped character, too, if any. */
+                       if (c[1])
+                               c++;
+                       /* FALLTHROUGH */
+               default:
+                       ws = NULL;
+                       break;
+               }
+               end = c + 1;
+       }
+       *end = '\0';
 
-               buf[i++] = 0;
-               if ( ! pstring(m, line, j, &buf[j], (size_t)(i - j)))
-                       return(0);
-               m->next = MDOC_NEXT_SIBLING;
+       if (ws)
+               mandoc_msg(MANDOCERR_SPACE_EOL, line, (int)(ws - buf), NULL);
 
-               for ( ; ' ' == buf[i]; i++)
-                       /* Skip trailing whitespace. */ ;
+       /*
+        * Blank lines are allowed in no-fill mode
+        * and cancel preceding \c,
+        * but add a single vertical space elsewhere.
+        */
 
-               j = i;
-               if (0 == buf[i])
+       if (buf[offs] == '\0' && (mdoc->flags & ROFF_NOFILL) == 0) {
+               switch (mdoc->last->type) {
+               case ROFFT_TEXT:
+                       sp = mdoc->last->string;
+                       cp = end = strchr(sp, '\0') - 2;
+                       if (cp < sp || cp[0] != '\\' || cp[1] != 'c')
+                               break;
+                       while (cp > sp && cp[-1] == '\\')
+                               cp--;
+                       if ((end - cp) % 2)
+                               break;
+                       *end = '\0';
+                       return 1;
+               default:
                        break;
+               }
+               mandoc_msg(MANDOCERR_FI_BLANK, line, (int)(c - buf), NULL);
+               roff_elem_alloc(mdoc, line, offs, ROFF_sp);
+               mdoc->last->flags |= NODE_VALID | NODE_ENDED;
+               mdoc->next = ROFF_NEXT_SIBLING;
+               return 1;
        }
 
-       if (j != i && ! pstring(m, line, j, &buf[j], (size_t)(i - j)))
-               return(0);
+       roff_word_alloc(mdoc, line, offs, buf+offs);
 
-       m->next = MDOC_NEXT_SIBLING;
-       return(1);
-}
+       if (mdoc->flags & ROFF_NOFILL)
+               return 1;
 
+       /*
+        * End-of-sentence check.  If the last character is an unescaped
+        * EOS character, then flag the node as being the end of a
+        * sentence.  The front-end will know how to interpret this.
+        */
 
+       assert(buf < end);
 
+       if (mandoc_eos(buf+offs, (size_t)(end-buf-offs)))
+               mdoc->last->flags |= NODE_EOS;
 
-static int
-macrowarn(struct mdoc *m, int ln, const char *buf)
-{
-       if ( ! (MDOC_IGN_MACRO & m->pflags))
-               return(mdoc_verr(m, ln, 0, 
-                               "unknown macro: %s%s", 
-                               buf, strlen(buf) > 3 ? "..." : ""));
-       return(mdoc_vwarn(m, ln, 0, "unknown macro: %s%s",
-                               buf, strlen(buf) > 3 ? "..." : ""));
-}
+       for (c = buf + offs; c != NULL; c = strchr(c + 1, '.')) {
+               if (c - buf < offs + 2)
+                       continue;
+               if (end - c < 3)
+                       break;
+               if (c[1] != ' ' ||
+                   isalnum((unsigned char)c[-2]) == 0 ||
+                   isalnum((unsigned char)c[-1]) == 0 ||
+                   (c[-2] == 'n' && c[-1] == 'c') ||
+                   (c[-2] == 'v' && c[-1] == 's'))
+                       continue;
+               c += 2;
+               if (*c == ' ')
+                       c++;
+               if (*c == ' ')
+                       c++;
+               if (isupper((unsigned char)(*c)))
+                       mandoc_msg(MANDOCERR_EOS, line, (int)(c - buf), NULL);
+       }
 
+       return 1;
+}
 
 /*
  * Parse a macro line, that is, a line beginning with the control
  * character.
  */
-int
-parsemacro(struct mdoc *m, int ln, char *buf)
+static int
+mdoc_pmacro(struct roff_man *mdoc, int ln, char *buf, int offs)
 {
-       int               i, c;
-       char              mac[5];
-
-       /* Empty lines are ignored. */
+       struct roff_node *n;
+       const char       *cp;
+       size_t            sz;
+       enum roff_tok     tok;
+       int               sv;
+
+       /* Determine the line macro. */
+
+       sv = offs;
+       tok = TOKEN_NONE;
+       for (sz = 0; sz < 4 && strchr(" \t\\", buf[offs]) == NULL; sz++)
+               offs++;
+       if (sz == 2 || sz == 3)
+               tok = roffhash_find(mdoc->mdocmac, buf + sv, sz);
+       if (tok == TOKEN_NONE) {
+               mandoc_msg(MANDOCERR_MACRO, ln, sv, "%s", buf + sv - 1);
+               return 1;
+       }
 
-       if (0 == buf[1])
-               return(1);
+       /* Skip a leading escape sequence or tab. */
 
-       if (' ' == buf[1]) {
-               i = 2;
-               while (buf[i] && ' ' == buf[i])
-                       i++;
-               if (0 == buf[i])
-                       return(1);
-               return(mdoc_perr(m, ln, 1, ESPACE));
+       switch (buf[offs]) {
+       case '\\':
+               cp = buf + offs + 1;
+               mandoc_escape(&cp, NULL, NULL);
+               offs = cp - buf;
+               break;
+       case '\t':
+               offs++;
+               break;
+       default:
+               break;
        }
 
-       /* Copy the first word into a nil-terminated buffer. */
+       /* Jump to the next non-whitespace word. */
 
-       for (i = 1; i < 5; i++) {
-               if (0 == (mac[i - 1] = buf[i]))
-                       break;
-               else if (' ' == buf[i])
-                       break;
+       while (buf[offs] == ' ')
+               offs++;
+
+       /*
+        * Trailing whitespace.  Note that tabs are allowed to be passed
+        * into the parser as "text", so we only warn about spaces here.
+        */
+
+       if ('\0' == buf[offs] && ' ' == buf[offs - 1])
+               mandoc_msg(MANDOCERR_SPACE_EOL, ln, offs - 1, NULL);
+
+       /*
+        * If an initial or transparent macro or a list invocation,
+        * divert directly into macro processing.
+        */
+
+       n = mdoc->last;
+       if (n == NULL || tok == MDOC_It || tok == MDOC_El ||
+           roff_tok_transparent(tok)) {
+               (*mdoc_macro(tok)->fp)(mdoc, tok, ln, sv, &offs, buf);
+               return 1;
        }
 
-       mac[i - 1] = 0;
-
-       if (i == 5 || i <= 2) {
-               if ( ! macrowarn(m, ln, mac))
-                       goto err;
-               return(1);
-       } 
-       
-       if (MDOC_MAX == (c = mdoc_hash_find(m->htab, mac))) {
-               if ( ! macrowarn(m, ln, mac))
-                       goto err;
-               return(1);
+       /*
+        * If a column list contains a non-It macro, assume an implicit
+        * item macro.  This can happen one or more times at the
+        * beginning of such a list, intermixed with text lines and
+        * with nodes generated on the roff level, for example by tbl.
+        */
+
+       if ((n->tok == MDOC_Bl && n->type == ROFFT_BODY &&
+            n->end == ENDBODY_NOT && n->norm->Bl.type == LIST_column) ||
+           (n->parent != NULL && n->parent->tok == MDOC_Bl &&
+            n->parent->norm->Bl.type == LIST_column)) {
+               mdoc->flags |= MDOC_FREECOL;
+               (*mdoc_macro(MDOC_It)->fp)(mdoc, MDOC_It, ln, sv, &sv, buf);
+               return 1;
        }
 
-       /* The macro is sane.  Jump to the next word. */
+       /* Normal processing of a macro. */
 
-       while (buf[i] && ' ' == buf[i])
-               i++;
+       (*mdoc_macro(tok)->fp)(mdoc, tok, ln, sv, &offs, buf);
 
-       /* Begin recursive parse sequence. */
+       /* In quick mode (for mandocdb), abort after the NAME section. */
 
-       if ( ! mdoc_macro(m, c, ln, 1, &i, buf)) 
-               goto err;
+       if (mdoc->quick && MDOC_Sh == tok &&
+           SEC_NAME != mdoc->last->sec)
+               return 2;
 
-       return(1);
+       return 1;
+}
 
-err:   /* Error out. */
+enum mdelim
+mdoc_isdelim(const char *p)
+{
 
-       m->flags |= MDOC_HALT;
-       return(0);
+       if ('\0' == p[0])
+               return DELIM_NONE;
+
+       if ('\0' == p[1])
+               switch (p[0]) {
+               case '(':
+               case '[':
+                       return DELIM_OPEN;
+               case '|':
+                       return DELIM_MIDDLE;
+               case '.':
+               case ',':
+               case ';':
+               case ':':
+               case '?':
+               case '!':
+               case ')':
+               case ']':
+                       return DELIM_CLOSE;
+               default:
+                       return DELIM_NONE;
+               }
+
+       if ('\\' != p[0])
+               return DELIM_NONE;
+
+       if (0 == strcmp(p + 1, "."))
+               return DELIM_CLOSE;
+       if (0 == strcmp(p + 1, "fR|\\fP"))
+               return DELIM_MIDDLE;
+
+       return DELIM_NONE;
 }