]> git.cameronkatri.com Git - mandoc.git/blobdiff - mdoc.c
Third step towards parser unification:
[mandoc.git] / mdoc.c
diff --git a/mdoc.c b/mdoc.c
index 47be4b04be5973ed29584e3c865e31fee5d1487d..6398c61319276e0a85113cf4e24c88bb640bff8f 100644 (file)
--- a/mdoc.c
+++ b/mdoc.c
@@ -1,39 +1,41 @@
-/* $Id: mdoc.c,v 1.43 2009/01/20 20:56:21 kristaps Exp $ */
+/*     $Id: mdoc.c,v 1.241 2015/04/02 23:48:19 schwarze Exp $ */
 /*
- * Copyright (c) 2008 Kristaps Dzonsons <kristaps@kth.se>
+ * Copyright (c) 2008, 2009, 2010, 2011 Kristaps Dzonsons <kristaps@bsd.lv>
+ * Copyright (c) 2010, 2012-2015 Ingo Schwarze <schwarze@openbsd.org>
  *
  * Permission to use, copy, modify, and distribute this software for any
- * purpose with or without fee is hereby granted, provided that the
- * above copyright notice and this permission notice appear in all
- * copies.
+ * purpose with or without fee is hereby granted, provided that the above
+ * copyright notice and this permission notice appear in all copies.
  *
- * THE SOFTWARE IS PROVIDED "AS IS" AND THE AUTHOR DISCLAIMS ALL
- * WARRANTIES WITH REGARD TO THIS SOFTWARE INCLUDING ALL IMPLIED
- * WARRANTIES OF MERCHANTABILITY AND FITNESS. IN NO EVENT SHALL THE
- * AUTHOR BE LIABLE FOR ANY SPECIAL, DIRECT, INDIRECT, OR CONSEQUENTIAL
- * DAMAGES OR ANY DAMAGES WHATSOEVER RESULTING FROM LOSS OF USE, DATA OR
- * PROFITS, WHETHER IN AN ACTION OF CONTRACT, NEGLIGENCE OR OTHER
- * TORTIOUS ACTION, ARISING OUT OF OR IN CONNECTION WITH THE USE OR
- * PERFORMANCE OF THIS SOFTWARE.
+ * THE SOFTWARE IS PROVIDED "AS IS" AND THE AUTHORS DISCLAIM ALL WARRANTIES
+ * WITH REGARD TO THIS SOFTWARE INCLUDING ALL IMPLIED WARRANTIES OF
+ * MERCHANTABILITY AND FITNESS. IN NO EVENT SHALL THE AUTHORS BE LIABLE FOR
+ * ANY SPECIAL, DIRECT, INDIRECT, OR CONSEQUENTIAL DAMAGES OR ANY DAMAGES
+ * WHATSOEVER RESULTING FROM LOSS OF USE, DATA OR PROFITS, WHETHER IN AN
+ * ACTION OF CONTRACT, NEGLIGENCE OR OTHER TORTIOUS ACTION, ARISING OUT OF
+ * OR IN CONNECTION WITH THE USE OR PERFORMANCE OF THIS SOFTWARE.
  */
+#include "config.h"
+
+#include <sys/types.h>
+
 #include <assert.h>
 #include <ctype.h>
-#include <err.h>
 #include <stdarg.h>
-#include <stdlib.h>
 #include <stdio.h>
+#include <stdlib.h>
 #include <string.h>
+#include <time.h>
 
-#include "private.h"
-
-/*
- * Main caller in the libmdoc library.  This begins the parsing routine,
- * handles allocation of data, and so forth.  Most of the "work" is done
- * in macro.c, but this orchestrates who does what, when.
- */
+#include "mandoc_aux.h"
+#include "mandoc.h"
+#include "roff.h"
+#include "mdoc.h"
+#include "libmandoc.h"
+#include "libmdoc.h"
 
-const  char *const __mdoc_macronames[MDOC_MAX] = {              
-       "\\\"",         "Dd",           "Dt",           "Os",
+const  char *const __mdoc_macronames[MDOC_MAX + 1] = {
+       "Ap",           "Dd",           "Dt",           "Os",
        "Sh",           "Ss",           "Pp",           "D1",
        "Dl",           "Bd",           "Ed",           "Bl",
        "El",           "It",           "Ad",           "An",
@@ -43,12 +45,9 @@ const        char *const __mdoc_macronames[MDOC_MAX] = {
        "Ic",           "In",           "Li",           "Nd",
        "Nm",           "Op",           "Ot",           "Pa",
        "Rv",           "St",           "Va",           "Vt",
-       /* LINTED */
-       "Xr",           "\%A",          "\%B",          "\%D",
-       /* LINTED */
-       "\%I",          "\%J",          "\%N",          "\%O",
-       /* LINTED */
-       "\%P",          "\%R",          "\%T",          "\%V",
+       "Xr",           "%A",           "%B",           "%D",
+       "%I",           "%J",           "%N",           "%O",
+       "%P",           "%R",           "%T",           "%V",
        "Ac",           "Ao",           "Aq",           "At",
        "Bc",           "Bf",           "Bo",           "Bq",
        "Bsx",          "Bx",           "Db",           "Dc",
@@ -62,718 +61,840 @@ const     char *const __mdoc_macronames[MDOC_MAX] = {
        "Tn",           "Ux",           "Xc",           "Xo",
        "Fo",           "Fc",           "Oo",           "Oc",
        "Bk",           "Ek",           "Bt",           "Hf",
-       "Fr",           "Ud",
+       "Fr",           "Ud",           "Lb",           "Lp",
+       "Lk",           "Mt",           "Brq",          "Bro",
+       "Brc",          "%C",           "Es",           "En",
+       "Dx",           "%Q",           "br",           "sp",
+       "%U",           "Ta",           "ll",           "text",
        };
 
-const  char *const __mdoc_argnames[MDOC_ARG_MAX] = {            
+const  char *const __mdoc_argnames[MDOC_ARG_MAX] = {
        "split",                "nosplit",              "ragged",
-       "unfilled",             "literal",              "file",          
-       "offset",               "bullet",               "dash",          
-       "hyphen",               "item",                 "enum",          
-       "tag",                  "diag",                 "hang",          
-       "ohang",                "inset",                "column",        
-       "width",                "compact",              "std",   
-       "p1003.1-88",           "p1003.1-90",           "p1003.1-96",
-       "p1003.1-2001",         "p1003.1-2004",         "p1003.1",
-       "p1003.1b",             "p1003.1b-93",          "p1003.1c-95",
-       "p1003.1g-2000",        "p1003.2-92",           "p1387.2-95",
-       "p1003.2",              "p1387.2",              "isoC-90",
-       "isoC-amd1",            "isoC-tcor1",           "isoC-tcor2",
-       "isoC-99",              "ansiC",                "ansiC-89",
-       "ansiC-99",             "ieee754",              "iso8802-3",
-       "xpg3",                 "xpg4",                 "xpg4.2",
-       "xpg4.3",               "xbd5",                 "xcu5",
-       "xsh5",                 "xns5",                 "xns5.2d2.0",
-       "xcurses4.2",           "susv2",                "susv3",
-       "svid4",                "filled",               "words",
-       "emphasis",             "symbolic",
+       "unfilled",             "literal",              "file",
+       "offset",               "bullet",               "dash",
+       "hyphen",               "item",                 "enum",
+       "tag",                  "diag",                 "hang",
+       "ohang",                "inset",                "column",
+       "width",                "compact",              "std",
+       "filled",               "words",                "emphasis",
+       "symbolic",             "nested",               "centered"
        };
 
-/* Central table of library: who gets parsed how. */
-
-const  struct mdoc_macro __mdoc_macros[MDOC_MAX] = {
-       { NULL, 0 }, /* \" */
-       { macro_constant, MDOC_PROLOGUE }, /* Dd */
-       { macro_constant, MDOC_PROLOGUE }, /* Dt */
-       { macro_constant, MDOC_PROLOGUE }, /* Os */
-       { macro_scoped, 0 }, /* Sh */
-       { macro_scoped, 0 }, /* Ss */ 
-       { macro_text, 0 }, /* Pp */ 
-       { macro_scoped_line, MDOC_PARSED }, /* D1 */
-       { macro_scoped_line, MDOC_PARSED }, /* Dl */
-       { macro_scoped, MDOC_EXPLICIT }, /* Bd */
-       { macro_scoped_close, MDOC_EXPLICIT }, /* Ed */
-       { macro_scoped, MDOC_EXPLICIT }, /* Bl */
-       { macro_scoped_close, MDOC_EXPLICIT }, /* El */
-       { macro_scoped, MDOC_PARSED }, /* It */
-       { macro_text, MDOC_CALLABLE | MDOC_PARSED }, /* Ad */ 
-       { macro_text, MDOC_PARSED }, /* An */
-       { macro_text, MDOC_CALLABLE | MDOC_PARSED }, /* Ar */
-       { macro_constant, 0 }, /* Cd */
-       { macro_text, MDOC_CALLABLE | MDOC_PARSED }, /* Cm */
-       { macro_text, MDOC_CALLABLE | MDOC_PARSED }, /* Dv */ 
-       { macro_text, MDOC_CALLABLE | MDOC_PARSED }, /* Er */ 
-       { macro_text, MDOC_CALLABLE | MDOC_PARSED }, /* Ev */ 
-       { macro_constant, 0 }, /* Ex */
-       { macro_text, MDOC_CALLABLE | MDOC_PARSED }, /* Fa */ 
-       { macro_constant, 0 }, /* Fd */ 
-       { macro_text, MDOC_CALLABLE | MDOC_PARSED }, /* Fl */
-       { macro_text, MDOC_CALLABLE | MDOC_PARSED }, /* Fn */ 
-       { macro_text, MDOC_PARSED }, /* Ft */ 
-       { macro_text, MDOC_CALLABLE | MDOC_PARSED }, /* Ic */ 
-       { macro_constant, 0 }, /* In */ 
-       { macro_text, MDOC_CALLABLE | MDOC_PARSED }, /* Li */
-       { macro_constant, 0 }, /* Nd */ 
-       { macro_text, MDOC_CALLABLE | MDOC_PARSED }, /* Nm */ 
-       { macro_scoped_line, MDOC_CALLABLE | MDOC_PARSED }, /* Op */
-       { macro_obsolete, 0 }, /* Ot */
-       { macro_text, MDOC_CALLABLE | MDOC_PARSED }, /* Pa */
-       { macro_constant, 0 }, /* Rv */
-       /* XXX - .St supposed to be (but isn't) callable. */
-       { macro_constant_delimited, MDOC_PARSED }, /* St */ 
-       { macro_text, MDOC_CALLABLE | MDOC_PARSED }, /* Va */
-       { macro_text, MDOC_CALLABLE | MDOC_PARSED }, /* Vt */ 
-       { macro_text, MDOC_CALLABLE | MDOC_PARSED }, /* Xr */
-       { macro_constant, 0 }, /* %A */
-       { macro_constant, 0 }, /* %B */
-       { macro_constant, 0 }, /* %D */
-       { macro_constant, 0 }, /* %I */
-       { macro_constant, 0 }, /* %J */
-       { macro_constant, 0 }, /* %N */
-       { macro_constant, 0 }, /* %O */
-       { macro_constant, 0 }, /* %P */
-       { macro_constant, 0 }, /* %R */
-       { macro_constant, 0 }, /* %T */
-       { macro_constant, 0 }, /* %V */
-       { macro_scoped_close, MDOC_EXPLICIT | MDOC_CALLABLE | MDOC_PARSED }, /* Ac */
-       { macro_constant_scoped, MDOC_CALLABLE | MDOC_PARSED | MDOC_EXPLICIT }, /* Ao */
-       { macro_scoped_line, MDOC_CALLABLE | MDOC_PARSED }, /* Aq */
-       { macro_constant_delimited, 0 }, /* At */
-       { macro_scoped_close, MDOC_EXPLICIT | MDOC_CALLABLE | MDOC_PARSED }, /* Bc */
-       { macro_scoped, MDOC_EXPLICIT }, /* Bf */ 
-       { macro_constant_scoped, MDOC_CALLABLE | MDOC_PARSED | MDOC_EXPLICIT }, /* Bo */
-       { macro_scoped_line, MDOC_CALLABLE | MDOC_PARSED }, /* Bq */
-       { macro_constant_delimited, MDOC_PARSED }, /* Bsx */
-       { macro_constant_delimited, MDOC_PARSED }, /* Bx */
-       { macro_constant, 0 }, /* Db */
-       { macro_scoped_close, MDOC_EXPLICIT | MDOC_CALLABLE | MDOC_PARSED }, /* Dc */
-       { macro_constant_scoped, MDOC_CALLABLE | MDOC_PARSED | MDOC_EXPLICIT }, /* Do */
-       { macro_scoped_line, MDOC_CALLABLE | MDOC_PARSED }, /* Dq */
-       { macro_scoped_close, MDOC_EXPLICIT | MDOC_CALLABLE | MDOC_PARSED }, /* Ec */
-       { macro_scoped_close, MDOC_EXPLICIT }, /* Ef */
-       { macro_text, MDOC_CALLABLE | MDOC_PARSED }, /* Em */ 
-       { macro_constant_scoped, MDOC_CALLABLE | MDOC_PARSED | MDOC_EXPLICIT }, /* Eo */
-       { macro_constant_delimited, MDOC_PARSED }, /* Fx */
-       { macro_text, MDOC_PARSED }, /* Ms */
-       { macro_constant_delimited, MDOC_CALLABLE | MDOC_PARSED }, /* No */
-       { macro_constant_delimited, MDOC_CALLABLE | MDOC_PARSED }, /* Ns */
-       { macro_constant_delimited, MDOC_PARSED }, /* Nx */
-       { macro_constant_delimited, MDOC_PARSED }, /* Ox */
-       { macro_scoped_close, MDOC_EXPLICIT | MDOC_CALLABLE | MDOC_PARSED }, /* Pc */
-       { macro_constant_delimited, MDOC_PARSED }, /* Pf */
-       { macro_constant_scoped, MDOC_CALLABLE | MDOC_PARSED | MDOC_EXPLICIT }, /* Po */
-       { macro_scoped_line, MDOC_CALLABLE | MDOC_PARSED }, /* Pq */
-       { macro_scoped_close, MDOC_EXPLICIT | MDOC_CALLABLE | MDOC_PARSED }, /* Qc */
-       { macro_scoped_line, MDOC_CALLABLE | MDOC_PARSED }, /* Ql */
-       { macro_constant_scoped, MDOC_CALLABLE | MDOC_PARSED | MDOC_EXPLICIT }, /* Qo */
-       { macro_scoped_line, MDOC_CALLABLE | MDOC_PARSED }, /* Qq */
-       { macro_scoped_close, MDOC_EXPLICIT }, /* Re */
-       { macro_scoped, MDOC_EXPLICIT }, /* Rs */
-       { macro_scoped_close, MDOC_EXPLICIT | MDOC_CALLABLE | MDOC_PARSED }, /* Sc */
-       { macro_constant_scoped, MDOC_CALLABLE | MDOC_PARSED | MDOC_EXPLICIT }, /* So */
-       { macro_scoped_line, MDOC_CALLABLE | MDOC_PARSED }, /* Sq */
-       { macro_constant, 0 }, /* Sm */
-       { macro_text, MDOC_CALLABLE | MDOC_PARSED }, /* Sx */
-       { macro_text, MDOC_CALLABLE | MDOC_PARSED }, /* Sy */
-       { macro_text, MDOC_CALLABLE | MDOC_PARSED }, /* Tn */
-       { macro_constant_delimited, MDOC_PARSED }, /* Ux */
-       { macro_scoped_close, MDOC_EXPLICIT | MDOC_CALLABLE | MDOC_PARSED }, /* Xc */
-       { macro_constant_scoped, MDOC_CALLABLE | MDOC_PARSED | MDOC_EXPLICIT }, /* Xo */
-       /* XXX - .Fo supposed to be (but isn't) callable. */
-       { macro_scoped, MDOC_EXPLICIT }, /* Fo */ 
-       /* XXX - .Fc supposed to be (but isn't) callable. */
-       { macro_scoped_close, MDOC_EXPLICIT }, /* Fc */ 
-       { macro_constant_scoped, MDOC_CALLABLE | MDOC_PARSED | MDOC_EXPLICIT }, /* Oo */
-       { macro_scoped_close, MDOC_EXPLICIT | MDOC_CALLABLE | MDOC_PARSED }, /* Oc */
-       { macro_scoped, MDOC_EXPLICIT }, /* Bk */
-       { macro_scoped_close, MDOC_EXPLICIT }, /* Ek */
-       { macro_constant, 0 }, /* Bt */
-       { macro_constant, 0 }, /* Hf */
-       { macro_obsolete, 0 }, /* Fr */
-       { macro_constant, 0 }, /* Ud */
-};
-
 const  char * const *mdoc_macronames = __mdoc_macronames;
 const  char * const *mdoc_argnames = __mdoc_argnames;
-const  struct mdoc_macro * const mdoc_macros = __mdoc_macros;
 
-static struct mdoc_arg  *argdup(size_t, const struct mdoc_arg *);
-static void              argfree(size_t, struct mdoc_arg *);
-static void              argcpy(struct mdoc_arg *, 
-                               const struct mdoc_arg *);
+static void              mdoc_node_free(struct roff_node *);
+static void              mdoc_node_unlink(struct mdoc *,
+                               struct roff_node *);
+static void              mdoc_free1(struct mdoc *);
+static void              mdoc_alloc1(struct mdoc *);
+static struct roff_node *node_alloc(struct mdoc *, int, int,
+                               int, enum roff_type);
+static void              node_append(struct mdoc *, struct roff_node *);
+static int               mdoc_ptext(struct mdoc *, int, char *, int);
+static int               mdoc_pmacro(struct mdoc *, int, char *, int);
 
-static int               mdoc_node_append(struct mdoc *, 
-                               struct mdoc_node *);
-static void              mdoc_elem_free(struct mdoc_elem *);
-static void              mdoc_text_free(struct mdoc_text *);
 
-
-const struct mdoc_node *
-mdoc_node(struct mdoc *mdoc)
+const struct roff_node *
+mdoc_node(const struct mdoc *mdoc)
 {
 
        return(mdoc->first);
 }
 
-
-const struct mdoc_meta *
-mdoc_meta(struct mdoc *mdoc)
+const struct roff_meta *
+mdoc_meta(const struct mdoc *mdoc)
 {
 
        return(&mdoc->meta);
 }
 
-
-void
-mdoc_free(struct mdoc *mdoc)
+/*
+ * Frees volatile resources (parse tree, meta-data, fields).
+ */
+static void
+mdoc_free1(struct mdoc *mdoc)
 {
 
        if (mdoc->first)
-               mdoc_node_freelist(mdoc->first);
-       if (mdoc->htab)
-               mdoc_tokhash_free(mdoc->htab);
-       if (mdoc->meta.title)
-               free(mdoc->meta.title);
-       if (mdoc->meta.os)
-               free(mdoc->meta.os);
-       if (mdoc->meta.name)
-               free(mdoc->meta.name);
-
-       free(mdoc);
+               mdoc_node_delete(mdoc, mdoc->first);
+       free(mdoc->meta.msec);
+       free(mdoc->meta.vol);
+       free(mdoc->meta.arch);
+       free(mdoc->meta.date);
+       free(mdoc->meta.title);
+       free(mdoc->meta.os);
+       free(mdoc->meta.name);
 }
 
-
-struct mdoc *
-mdoc_alloc(void *data, const struct mdoc_cb *cb)
+/*
+ * Allocate all volatile resources (parse tree, meta-data, fields).
+ */
+static void
+mdoc_alloc1(struct mdoc *mdoc)
 {
-       struct mdoc     *p;
 
-       p = xcalloc(1, sizeof(struct mdoc));
-
-       p->data = data;
-       if (cb)
-               (void)memcpy(&p->cb, cb, sizeof(struct mdoc_cb));
-
-       p->last = xcalloc(1, sizeof(struct mdoc_node));
-       p->last->type = MDOC_ROOT;
-       p->first = p->last;
-
-       p->next = MDOC_NEXT_CHILD;
-       p->htab = mdoc_tokhash_alloc();
-
-       return(p);
+       memset(&mdoc->meta, 0, sizeof(mdoc->meta));
+       mdoc->flags = 0;
+       mdoc->lastnamed = mdoc->lastsec = SEC_NONE;
+       mdoc->last = mandoc_calloc(1, sizeof(*mdoc->last));
+       mdoc->first = mdoc->last;
+       mdoc->last->type = ROFFT_ROOT;
+       mdoc->last->tok = MDOC_MAX;
+       mdoc->next = MDOC_NEXT_CHILD;
 }
 
-
-int
-mdoc_endparse(struct mdoc *mdoc)
+/*
+ * Free up volatile resources (see mdoc_free1()) then re-initialises the
+ * data with mdoc_alloc1().  After invocation, parse data has been reset
+ * and the parser is ready for re-invocation on a new tree; however,
+ * cross-parse non-volatile data is kept intact.
+ */
+void
+mdoc_reset(struct mdoc *mdoc)
 {
 
-       if (MDOC_HALT & mdoc->flags)
-               return(0);
-       if (NULL == mdoc->first)
-               return(1);
-
-       assert(mdoc->last);
-       if ( ! macro_end(mdoc)) {
-               mdoc->flags |= MDOC_HALT;
-               return(0);
-       }
-       return(1);
+       mdoc_free1(mdoc);
+       mdoc_alloc1(mdoc);
 }
 
-
-int
-mdoc_parseln(struct mdoc *mdoc, int line, char *buf)
+/*
+ * Completely free up all volatile and non-volatile parse resources.
+ * After invocation, the pointer is no longer usable.
+ */
+void
+mdoc_free(struct mdoc *mdoc)
 {
-       int               c, i;
-       char              tmp[5];
-
-       if (MDOC_HALT & mdoc->flags)
-               return(0);
-
-       mdoc->linetok = 0;
 
-       if ('.' != *buf) {
-               if ( ! (MDOC_BODYPARSE & mdoc->flags))
-                       return(mdoc_perr(mdoc, line, 0, "text disallowed"));
-               if ( ! mdoc_word_alloc(mdoc, line, 0, buf))
-                       return(0);
-               mdoc->next = MDOC_NEXT_SIBLING;
-               return(1);
-       }
-
-       if (buf[1] && '\\' == buf[1])
-               if (buf[2] && '\"' == buf[2])
-                       return(1);
-
-       i = 1;
-       while (buf[i] && ! isspace((int)buf[i]) && i < (int)sizeof(tmp))
-               i++;
-
-       if (i == (int)sizeof(tmp)) {
-               mdoc->flags |= MDOC_HALT;
-               return(mdoc_perr(mdoc, line, 1, "unknown macro"));
-       } else if (i <= 2) {
-               mdoc->flags |= MDOC_HALT;
-               return(mdoc_perr(mdoc, line, 1, "unknown macro"));
-       }
-
-       i--;
+       mdoc_free1(mdoc);
+       free(mdoc);
+}
 
-       (void)memcpy(tmp, buf + 1, (size_t)i);
-       tmp[i++] = 0;
+/*
+ * Allocate volatile and non-volatile parse resources.
+ */
+struct mdoc *
+mdoc_alloc(struct roff *roff, struct mparse *parse,
+       const char *defos, int quick)
+{
+       struct mdoc     *p;
 
-       if (MDOC_MAX == (c = mdoc_find(mdoc, tmp))) {
-               mdoc->flags |= MDOC_HALT;
-               return(mdoc_perr(mdoc, line, 1, "unknown macro"));
-       }
+       p = mandoc_calloc(1, sizeof(struct mdoc));
 
-       while (buf[i] && isspace((int)buf[i]))
-               i++;
+       p->parse = parse;
+       p->defos = defos;
+       p->quick = quick;
+       p->roff = roff;
 
-       if ( ! mdoc_macro(mdoc, c, line, 1, &i, buf)) {
-               mdoc->flags |= MDOC_HALT;
-               return(0);
-       }
-       return(1);
+       mdoc_hash_init();
+       mdoc_alloc1(p);
+       return(p);
 }
 
-
 void
-mdoc_vmsg(struct mdoc *mdoc, int ln, int pos, const char *fmt, ...)
+mdoc_endparse(struct mdoc *mdoc)
 {
-       char              buf[256];
-       va_list           ap;
-
-       if (NULL == mdoc->cb.mdoc_msg)
-               return;
 
-       va_start(ap, fmt);
-       (void)vsnprintf(buf, sizeof(buf) - 1, fmt, ap);
-       va_end(ap);
-       (*mdoc->cb.mdoc_msg)(mdoc->data, ln, pos, buf);
+       mdoc_macroend(mdoc);
 }
 
-
-int
-mdoc_verr(struct mdoc *mdoc, int ln, int pos, 
-               const char *fmt, ...)
+void
+mdoc_addeqn(struct mdoc *mdoc, const struct eqn *ep)
 {
-       char             buf[256];
-       va_list          ap;
+       struct roff_node *n;
+
+       n = node_alloc(mdoc, ep->ln, ep->pos, MDOC_MAX, ROFFT_EQN);
+       n->eqn = ep;
+       if (ep->ln > mdoc->last->line)
+               n->flags |= MDOC_LINE;
+       node_append(mdoc, n);
+       mdoc->next = MDOC_NEXT_SIBLING;
+}
 
-       if (NULL == mdoc->cb.mdoc_err)
-               return(0);
+void
+mdoc_addspan(struct mdoc *mdoc, const struct tbl_span *sp)
+{
+       struct roff_node *n;
 
-       va_start(ap, fmt);
-       (void)vsnprintf(buf, sizeof(buf) - 1, fmt, ap);
-       va_end(ap);
-       return((*mdoc->cb.mdoc_err)(mdoc->data, ln, pos, buf));
+       n = node_alloc(mdoc, sp->line, 0, MDOC_MAX, ROFFT_TBL);
+       n->span = sp;
+       node_append(mdoc, n);
+       mdoc->next = MDOC_NEXT_SIBLING;
 }
 
-
+/*
+ * Main parse routine.  Parses a single line -- really just hands off to
+ * the macro (mdoc_pmacro()) or text parser (mdoc_ptext()).
+ */
 int
-mdoc_vwarn(struct mdoc *mdoc, int ln, int pos, 
-               enum mdoc_warn type, const char *fmt, ...)
+mdoc_parseln(struct mdoc *mdoc, int ln, char *buf, int offs)
 {
-       char             buf[256];
-       va_list          ap;
 
-       if (NULL == mdoc->cb.mdoc_warn)
-               return(0);
+       if (mdoc->last->type != ROFFT_EQN || ln > mdoc->last->line)
+               mdoc->flags |= MDOC_NEWLINE;
+
+       /*
+        * Let the roff nS register switch SYNOPSIS mode early,
+        * such that the parser knows at all times
+        * whether this mode is on or off.
+        * Note that this mode is also switched by the Sh macro.
+        */
+       if (roff_getreg(mdoc->roff, "nS"))
+               mdoc->flags |= MDOC_SYNOPSIS;
+       else
+               mdoc->flags &= ~MDOC_SYNOPSIS;
 
-       va_start(ap, fmt);
-       (void)vsnprintf(buf, sizeof(buf) - 1, fmt, ap);
-       va_end(ap);
-       return((*mdoc->cb.mdoc_warn)(mdoc->data, ln, pos, type, buf));
+       return(roff_getcontrol(mdoc->roff, buf, &offs) ?
+           mdoc_pmacro(mdoc, ln, buf, offs) :
+           mdoc_ptext(mdoc, ln, buf, offs));
 }
 
-
-int
-mdoc_macro(struct mdoc *mdoc, int tok, 
-               int ln, int ppos, int *pos, char *buf)
+void
+mdoc_macro(MACRO_PROT_ARGS)
 {
-
-       assert(mdoc_macros[tok].fp);
-
-       if ( ! (MDOC_PROLOGUE & mdoc_macros[tok].flags) &&
-                       ! (MDOC_BODYPARSE & mdoc->flags))
-               return(mdoc_perr(mdoc, ln, ppos, "macro disallowed: not in document body"));
-       if (1 != ppos && ! (MDOC_CALLABLE & mdoc_macros[tok].flags))
-               return(mdoc_perr(mdoc, ln, ppos, "macro not callable"));
-       return((*mdoc_macros[tok].fp)(mdoc, tok, ln, ppos, pos, buf));
+       assert(tok < MDOC_MAX);
+
+       if (mdoc->flags & MDOC_PBODY) {
+               if (tok == MDOC_Dt) {
+                       mandoc_vmsg(MANDOCERR_DT_LATE,
+                           mdoc->parse, line, ppos,
+                           "Dt %s", buf + *pos);
+                       return;
+               }
+       } else if ( ! (mdoc_macros[tok].flags & MDOC_PROLOGUE)) {
+               if (mdoc->meta.title == NULL) {
+                       mandoc_vmsg(MANDOCERR_DT_NOTITLE,
+                           mdoc->parse, line, ppos, "%s %s",
+                           mdoc_macronames[tok], buf + *pos);
+                       mdoc->meta.title = mandoc_strdup("UNTITLED");
+               }
+               if (NULL == mdoc->meta.vol)
+                       mdoc->meta.vol = mandoc_strdup("LOCAL");
+               mdoc->flags |= MDOC_PBODY;
+       }
+       (*mdoc_macros[tok].fp)(mdoc, tok, line, ppos, pos, buf);
 }
 
 
-static int
-mdoc_node_append(struct mdoc *mdoc, struct mdoc_node *p)
+static void
+node_append(struct mdoc *mdoc, struct roff_node *p)
 {
-       const char       *nn, *nt, *on, *ot, *act;
 
        assert(mdoc->last);
        assert(mdoc->first);
-       assert(MDOC_ROOT != p->type);
-
-       /* See if we exceed the suggest line-max. */
-
-       switch (p->type) {
-       case (MDOC_TEXT):
-               /* FALLTHROUGH */
-       case (MDOC_ELEM):
-               /* FALLTHROUGH */
-       case (MDOC_BLOCK):
-               mdoc->linetok++;
-               break;
-       default:
-               break;
-       }
-
-       /* This sort-of works (re-opening of text macros...). */
-       if (mdoc->linetok > MDOC_LINEARG_SOFTMAX) 
-               if ( ! mdoc_nwarn(mdoc, p, WARN_COMPAT, 
-                                       "suggested %d tokens per line exceeded (has %d)",
-                                       MDOC_LINEARG_SOFTMAX, mdoc->linetok))
-                       return(0);
-
-       if (MDOC_TEXT == mdoc->last->type)
-               on = "<text>";
-       else if (MDOC_ROOT == mdoc->last->type)
-               on = "<root>";
-       else
-               on = mdoc_macronames[mdoc->last->tok];
-
-       if (MDOC_TEXT == p->type)
-               nn = "<text>";
-       else if (MDOC_ROOT == p->type)
-               nn = "<root>";
-       else
-               nn = mdoc_macronames[p->tok];
-
-       ot = mdoc_type2a(mdoc->last->type);
-       nt = mdoc_type2a(p->type);
+       assert(p->type != ROFFT_ROOT);
 
        switch (mdoc->next) {
-       case (MDOC_NEXT_SIBLING):
+       case MDOC_NEXT_SIBLING:
                mdoc->last->next = p;
                p->prev = mdoc->last;
                p->parent = mdoc->last->parent;
-               act = "sibling";
                break;
-       case (MDOC_NEXT_CHILD):
+       case MDOC_NEXT_CHILD:
                mdoc->last->child = p;
                p->parent = mdoc->last;
-               act = "child";
                break;
        default:
                abort();
                /* NOTREACHED */
        }
 
-       if ( ! mdoc_valid_pre(mdoc, p))
-               return(0);
+       p->parent->nchild++;
+
+       /*
+        * Copy over the normalised-data pointer of our parent.  Not
+        * everybody has one, but copying a null pointer is fine.
+        */
 
        switch (p->type) {
-       case (MDOC_HEAD):
-               assert(MDOC_BLOCK == p->parent->type);
-               p->parent->data.block.head = p;
+       case ROFFT_BODY:
+               if (ENDBODY_NOT != p->end)
+                       break;
+               /* FALLTHROUGH */
+       case ROFFT_TAIL:
+               /* FALLTHROUGH */
+       case ROFFT_HEAD:
+               p->norm = p->parent->norm;
                break;
-       case (MDOC_TAIL):
-               assert(MDOC_BLOCK == p->parent->type);
-               p->parent->data.block.tail = p;
+       default:
                break;
-       case (MDOC_BODY):
-               assert(MDOC_BLOCK == p->parent->type);
-               p->parent->data.block.body = p;
+       }
+
+       mdoc_valid_pre(mdoc, p);
+
+       switch (p->type) {
+       case ROFFT_HEAD:
+               assert(p->parent->type == ROFFT_BLOCK);
+               p->parent->head = p;
+               break;
+       case ROFFT_TAIL:
+               assert(p->parent->type == ROFFT_BLOCK);
+               p->parent->tail = p;
+               break;
+       case ROFFT_BODY:
+               if (p->end)
+                       break;
+               assert(p->parent->type == ROFFT_BLOCK);
+               p->parent->body = p;
                break;
        default:
                break;
        }
 
        mdoc->last = p;
-       mdoc_msg(mdoc, "parse: %s `%s' %s of %s `%s'", 
-                       nt, nn, act, ot, on);
-       return(1);
-}
 
+       switch (p->type) {
+       case ROFFT_TBL:
+               /* FALLTHROUGH */
+       case ROFFT_TEXT:
+               mdoc_valid_post(mdoc);
+               break;
+       default:
+               break;
+       }
+}
 
-int
-mdoc_tail_alloc(struct mdoc *mdoc, int line, int pos, int tok)
+static struct roff_node *
+node_alloc(struct mdoc *mdoc, int line, int pos,
+       int tok, enum roff_type type)
 {
-       struct mdoc_node *p;
-
-       assert(mdoc->first);
-       assert(mdoc->last);
-
-       p = xcalloc(1, sizeof(struct mdoc_node));
+       struct roff_node *p;
 
+       p = mandoc_calloc(1, sizeof(*p));
+       p->sec = mdoc->lastsec;
        p->line = line;
        p->pos = pos;
-       p->type = MDOC_TAIL;
        p->tok = tok;
+       p->type = type;
 
-       return(mdoc_node_append(mdoc, p));
+       /* Flag analysis. */
+
+       if (MDOC_SYNOPSIS & mdoc->flags)
+               p->flags |= MDOC_SYNPRETTY;
+       else
+               p->flags &= ~MDOC_SYNPRETTY;
+       if (MDOC_NEWLINE & mdoc->flags)
+               p->flags |= MDOC_LINE;
+       mdoc->flags &= ~MDOC_NEWLINE;
+
+       return(p);
 }
 
+void
+mdoc_tail_alloc(struct mdoc *mdoc, int line, int pos, int tok)
+{
+       struct roff_node *p;
 
-int
+       p = node_alloc(mdoc, line, pos, tok, ROFFT_TAIL);
+       node_append(mdoc, p);
+       mdoc->next = MDOC_NEXT_CHILD;
+}
+
+struct roff_node *
 mdoc_head_alloc(struct mdoc *mdoc, int line, int pos, int tok)
 {
-       struct mdoc_node *p;
+       struct roff_node *p;
 
        assert(mdoc->first);
        assert(mdoc->last);
-
-       p = xcalloc(1, sizeof(struct mdoc_node));
-
-       p->line = line;
-       p->pos = pos;
-       p->type = MDOC_HEAD;
-       p->tok = tok;
-
-       return(mdoc_node_append(mdoc, p));
+       p = node_alloc(mdoc, line, pos, tok, ROFFT_HEAD);
+       node_append(mdoc, p);
+       mdoc->next = MDOC_NEXT_CHILD;
+       return(p);
 }
 
-
-int
+struct roff_node *
 mdoc_body_alloc(struct mdoc *mdoc, int line, int pos, int tok)
 {
-       struct mdoc_node *p;
+       struct roff_node *p;
 
-       assert(mdoc->first);
-       assert(mdoc->last);
+       p = node_alloc(mdoc, line, pos, tok, ROFFT_BODY);
+       node_append(mdoc, p);
+       mdoc->next = MDOC_NEXT_CHILD;
+       return(p);
+}
 
-       p = xcalloc(1, sizeof(struct mdoc_node));
+struct roff_node *
+mdoc_endbody_alloc(struct mdoc *mdoc, int line, int pos, int tok,
+               struct roff_node *body, enum mdoc_endbody end)
+{
+       struct roff_node *p;
+
+       body->flags |= MDOC_ENDED;
+       body->parent->flags |= MDOC_ENDED;
+       p = node_alloc(mdoc, line, pos, tok, ROFFT_BODY);
+       p->body = body;
+       p->norm = body->norm;
+       p->end = end;
+       node_append(mdoc, p);
+       mdoc->next = MDOC_NEXT_SIBLING;
+       return(p);
+}
 
-       p->line = line;
-       p->pos = pos;
-       p->type = MDOC_BODY;
-       p->tok = tok;
+struct roff_node *
+mdoc_block_alloc(struct mdoc *mdoc, int line, int pos,
+       int tok, struct mdoc_arg *args)
+{
+       struct roff_node *p;
 
-       return(mdoc_node_append(mdoc, p));
-}
+       p = node_alloc(mdoc, line, pos, tok, ROFFT_BLOCK);
+       p->args = args;
+       if (p->args)
+               (args->refcnt)++;
 
+       switch (tok) {
+       case MDOC_Bd:
+               /* FALLTHROUGH */
+       case MDOC_Bf:
+               /* FALLTHROUGH */
+       case MDOC_Bl:
+               /* FALLTHROUGH */
+       case MDOC_En:
+               /* FALLTHROUGH */
+       case MDOC_Rs:
+               p->norm = mandoc_calloc(1, sizeof(union mdoc_data));
+               break;
+       default:
+               break;
+       }
+       node_append(mdoc, p);
+       mdoc->next = MDOC_NEXT_CHILD;
+       return(p);
+}
 
-int
-mdoc_root_alloc(struct mdoc *mdoc)
+void
+mdoc_elem_alloc(struct mdoc *mdoc, int line, int pos,
+       int tok, struct mdoc_arg *args)
 {
-       struct mdoc_node *p;
+       struct roff_node *p;
 
-       p = xcalloc(1, sizeof(struct mdoc_node));
+       p = node_alloc(mdoc, line, pos, tok, ROFFT_ELEM);
+       p->args = args;
+       if (p->args)
+               (args->refcnt)++;
 
-       p->type = MDOC_ROOT;
+       switch (tok) {
+       case MDOC_An:
+               p->norm = mandoc_calloc(1, sizeof(union mdoc_data));
+               break;
+       default:
+               break;
+       }
+       node_append(mdoc, p);
+       mdoc->next = MDOC_NEXT_CHILD;
+}
 
-       return(mdoc_node_append(mdoc, p));
+void
+mdoc_word_alloc(struct mdoc *mdoc, int line, int pos, const char *p)
+{
+       struct roff_node *n;
+
+       n = node_alloc(mdoc, line, pos, MDOC_MAX, ROFFT_TEXT);
+       n->string = roff_strdup(mdoc->roff, p);
+       node_append(mdoc, n);
+       mdoc->next = MDOC_NEXT_SIBLING;
 }
 
+void
+mdoc_word_append(struct mdoc *mdoc, const char *p)
+{
+       struct roff_node        *n;
+       char                    *addstr, *newstr;
+
+       n = mdoc->last;
+       addstr = roff_strdup(mdoc->roff, p);
+       mandoc_asprintf(&newstr, "%s %s", n->string, addstr);
+       free(addstr);
+       free(n->string);
+       n->string = newstr;
+       mdoc->next = MDOC_NEXT_SIBLING;
+}
 
-int
-mdoc_block_alloc(struct mdoc *mdoc, int line, int pos, 
-               int tok, size_t argsz, const struct mdoc_arg *args)
+static void
+mdoc_node_free(struct roff_node *p)
 {
-       struct mdoc_node *p;
 
-       p = xcalloc(1, sizeof(struct mdoc_node));
+       if (p->type == ROFFT_BLOCK || p->type == ROFFT_ELEM)
+               free(p->norm);
+       if (p->string)
+               free(p->string);
+       if (p->args)
+               mdoc_argv_free(p->args);
+       free(p);
+}
 
-       p->pos = pos;
-       p->line = line;
-       p->type = MDOC_BLOCK;
-       p->tok = tok;
-       p->data.block.argc = argsz;
-       p->data.block.argv = argdup(argsz, args);
+static void
+mdoc_node_unlink(struct mdoc *mdoc, struct roff_node *n)
+{
 
-       return(mdoc_node_append(mdoc, p));
-}
+       /* Adjust siblings. */
 
+       if (n->prev)
+               n->prev->next = n->next;
+       if (n->next)
+               n->next->prev = n->prev;
 
-int
-mdoc_elem_alloc(struct mdoc *mdoc, int line, int pos, 
-               int tok, size_t argsz, const struct mdoc_arg *args)
-{
-       struct mdoc_node *p;
+       /* Adjust parent. */
 
-       p = xcalloc(1, sizeof(struct mdoc_node));
+       if (n->parent) {
+               n->parent->nchild--;
+               if (n->parent->child == n)
+                       n->parent->child = n->prev ? n->prev : n->next;
+               if (n->parent->last == n)
+                       n->parent->last = n->prev ? n->prev : NULL;
+       }
 
-       p->line = line;
-       p->pos = pos;
-       p->type = MDOC_ELEM;
-       p->tok = tok;
-       p->data.elem.argc = argsz;
-       p->data.elem.argv = argdup(argsz, args);
+       /* Adjust parse point, if applicable. */
 
-       return(mdoc_node_append(mdoc, p));
-}
+       if (mdoc && mdoc->last == n) {
+               if (n->prev) {
+                       mdoc->last = n->prev;
+                       mdoc->next = MDOC_NEXT_SIBLING;
+               } else {
+                       mdoc->last = n->parent;
+                       mdoc->next = MDOC_NEXT_CHILD;
+               }
+       }
 
+       if (mdoc && mdoc->first == n)
+               mdoc->first = NULL;
+}
 
-int
-mdoc_word_alloc(struct mdoc *mdoc, 
-               int line, int pos, const char *word)
+void
+mdoc_node_delete(struct mdoc *mdoc, struct roff_node *p)
 {
-       struct mdoc_node *p;
 
-       p = xcalloc(1, sizeof(struct mdoc_node));
-       p->line = line;
-       p->pos = pos;
-       p->type = MDOC_TEXT;
-       p->data.text.string = xstrdup(word);
+       while (p->child) {
+               assert(p->nchild);
+               mdoc_node_delete(mdoc, p->child);
+       }
+       assert(0 == p->nchild);
 
-       return(mdoc_node_append(mdoc, p));
+       mdoc_node_unlink(mdoc, p);
+       mdoc_node_free(p);
 }
 
+void
+mdoc_node_relink(struct mdoc *mdoc, struct roff_node *p)
+{
 
-static void
-argfree(size_t sz, struct mdoc_arg *p)
+       mdoc_node_unlink(mdoc, p);
+       node_append(mdoc, p);
+}
+
+/*
+ * Parse free-form text, that is, a line that does not begin with the
+ * control character.
+ */
+static int
+mdoc_ptext(struct mdoc *mdoc, int line, char *buf, int offs)
 {
-       int              i, j;
+       struct roff_node *n;
+       char             *c, *ws, *end;
 
-       if (0 == sz)
-               return;
+       assert(mdoc->last);
+       n = mdoc->last;
+
+       /*
+        * Divert directly to list processing if we're encountering a
+        * columnar ROFFT_BLOCK with or without a prior ROFFT_BLOCK entry
+        * (a ROFFT_BODY means it's already open, in which case we should
+        * process within its context in the normal way).
+        */
+
+       if (n->tok == MDOC_Bl && n->type == ROFFT_BODY &&
+           n->end == ENDBODY_NOT && n->norm->Bl.type == LIST_column) {
+               /* `Bl' is open without any children. */
+               mdoc->flags |= MDOC_FREECOL;
+               mdoc_macro(mdoc, MDOC_It, line, offs, &offs, buf);
+               return(1);
+       }
 
-       assert(p);
-       /* LINTED */
-       for (i = 0; i < (int)sz; i++)
-               if (p[i].sz > 0) {
-                       assert(p[i].value);
-                       /* LINTED */
-                       for (j = 0; j < (int)p[i].sz; j++)
-                               free(p[i].value[j]);
-                       free(p[i].value);
+       if (n->tok == MDOC_It && n->type == ROFFT_BLOCK &&
+           NULL != n->parent &&
+           MDOC_Bl == n->parent->tok &&
+           LIST_column == n->parent->norm->Bl.type) {
+               /* `Bl' has block-level `It' children. */
+               mdoc->flags |= MDOC_FREECOL;
+               mdoc_macro(mdoc, MDOC_It, line, offs, &offs, buf);
+               return(1);
+       }
+
+       /*
+        * Search for the beginning of unescaped trailing whitespace (ws)
+        * and for the first character not to be output (end).
+        */
+
+       /* FIXME: replace with strcspn(). */
+       ws = NULL;
+       for (c = end = buf + offs; *c; c++) {
+               switch (*c) {
+               case ' ':
+                       if (NULL == ws)
+                               ws = c;
+                       continue;
+               case '\t':
+                       /*
+                        * Always warn about trailing tabs,
+                        * even outside literal context,
+                        * where they should be put on the next line.
+                        */
+                       if (NULL == ws)
+                               ws = c;
+                       /*
+                        * Strip trailing tabs in literal context only;
+                        * outside, they affect the next line.
+                        */
+                       if (MDOC_LITERAL & mdoc->flags)
+                               continue;
+                       break;
+               case '\\':
+                       /* Skip the escaped character, too, if any. */
+                       if (c[1])
+                               c++;
+                       /* FALLTHROUGH */
+               default:
+                       ws = NULL;
+                       break;
                }
-       free(p);
-}
+               end = c + 1;
+       }
+       *end = '\0';
+
+       if (ws)
+               mandoc_msg(MANDOCERR_SPACE_EOL, mdoc->parse,
+                   line, (int)(ws-buf), NULL);
+
+       if (buf[offs] == '\0' && ! (mdoc->flags & MDOC_LITERAL)) {
+               mandoc_msg(MANDOCERR_FI_BLANK, mdoc->parse,
+                   line, (int)(c - buf), NULL);
+
+               /*
+                * Insert a `sp' in the case of a blank line.  Technically,
+                * blank lines aren't allowed, but enough manuals assume this
+                * behaviour that we want to work around it.
+                */
+               mdoc_elem_alloc(mdoc, line, offs, MDOC_sp, NULL);
+               mdoc->next = MDOC_NEXT_SIBLING;
+               mdoc_valid_post(mdoc);
+               return(1);
+       }
 
+       mdoc_word_alloc(mdoc, line, offs, buf+offs);
 
-static void
-mdoc_elem_free(struct mdoc_elem *p)
-{
+       if (mdoc->flags & MDOC_LITERAL)
+               return(1);
 
-       argfree(p->argc, p->argv);
-}
+       /*
+        * End-of-sentence check.  If the last character is an unescaped
+        * EOS character, then flag the node as being the end of a
+        * sentence.  The front-end will know how to interpret this.
+        */
 
+       assert(buf < end);
 
-static void
-mdoc_block_free(struct mdoc_block *p)
+       if (mandoc_eos(buf+offs, (size_t)(end-buf-offs)))
+               mdoc->last->flags |= MDOC_EOS;
+       return(1);
+}
+
+/*
+ * Parse a macro line, that is, a line beginning with the control
+ * character.
+ */
+static int
+mdoc_pmacro(struct mdoc *mdoc, int ln, char *buf, int offs)
 {
+       struct roff_node *n;
+       const char       *cp;
+       int               tok;
+       int               i, sv;
+       char              mac[5];
 
-       argfree(p->argc, p->argv);
-}
+       sv = offs;
 
+       /*
+        * Copy the first word into a nil-terminated buffer.
+        * Stop when a space, tab, escape, or eoln is encountered.
+        */
 
-static void
-mdoc_text_free(struct mdoc_text *p)
-{
+       i = 0;
+       while (i < 4 && strchr(" \t\\", buf[offs]) == NULL)
+               mac[i++] = buf[offs++];
 
-       if (p->string)
-               free(p->string);
-}
+       mac[i] = '\0';
 
+       tok = (i > 1 && i < 4) ? mdoc_hash_find(mac) : MDOC_MAX;
 
-void
-mdoc_node_free(struct mdoc_node *p)
-{
+       if (tok == MDOC_MAX) {
+               mandoc_msg(MANDOCERR_MACRO, mdoc->parse,
+                   ln, sv, buf + sv - 1);
+               return(1);
+       }
 
-       switch (p->type) {
-       case (MDOC_TEXT):
-               mdoc_text_free(&p->data.text);
-               break;
-       case (MDOC_ELEM):
-               mdoc_elem_free(&p->data.elem);
+       /* Skip a leading escape sequence or tab. */
+
+       switch (buf[offs]) {
+       case '\\':
+               cp = buf + offs + 1;
+               mandoc_escape(&cp, NULL, NULL);
+               offs = cp - buf;
                break;
-       case (MDOC_BLOCK):
-               mdoc_block_free(&p->data.block);
+       case '\t':
+               offs++;
                break;
        default:
                break;
        }
 
-       free(p);
-}
+       /* Jump to the next non-whitespace word. */
 
+       while (buf[offs] && ' ' == buf[offs])
+               offs++;
 
-void
-mdoc_node_freelist(struct mdoc_node *p)
-{
+       /*
+        * Trailing whitespace.  Note that tabs are allowed to be passed
+        * into the parser as "text", so we only warn about spaces here.
+        */
 
-       if (p->child)
-               mdoc_node_freelist(p->child);
-       if (p->next)
-               mdoc_node_freelist(p->next);
+       if ('\0' == buf[offs] && ' ' == buf[offs - 1])
+               mandoc_msg(MANDOCERR_SPACE_EOL, mdoc->parse,
+                   ln, offs - 1, NULL);
 
-       mdoc_node_free(p);
-}
+       /*
+        * If an initial macro or a list invocation, divert directly
+        * into macro processing.
+        */
 
+       if (NULL == mdoc->last || MDOC_It == tok || MDOC_El == tok) {
+               mdoc_macro(mdoc, tok, ln, sv, &offs, buf);
+               return(1);
+       }
 
-int
-mdoc_find(const struct mdoc *mdoc, const char *key)
-{
+       n = mdoc->last;
+       assert(mdoc->last);
 
-       return(mdoc_tokhash_find(mdoc->htab, key));
-}
+       /*
+        * If the first macro of a `Bl -column', open an `It' block
+        * context around the parsed macro.
+        */
 
+       if (n->tok == MDOC_Bl && n->type == ROFFT_BODY &&
+           n->end == ENDBODY_NOT && n->norm->Bl.type == LIST_column) {
+               mdoc->flags |= MDOC_FREECOL;
+               mdoc_macro(mdoc, MDOC_It, ln, sv, &sv, buf);
+               return(1);
+       }
 
-static void
-argcpy(struct mdoc_arg *dst, const struct mdoc_arg *src)
-{
-       int              i;
+       /*
+        * If we're following a block-level `It' within a `Bl -column'
+        * context (perhaps opened in the above block or in ptext()),
+        * then open an `It' block context around the parsed macro.
+        */
+
+       if (n->tok == MDOC_It && n->type == ROFFT_BLOCK &&
+           NULL != n->parent &&
+           MDOC_Bl == n->parent->tok &&
+           LIST_column == n->parent->norm->Bl.type) {
+               mdoc->flags |= MDOC_FREECOL;
+               mdoc_macro(mdoc, MDOC_It, ln, sv, &sv, buf);
+               return(1);
+       }
 
-       dst->line = src->line;
-       dst->pos = src->pos;
-       dst->arg = src->arg;
-       if (0 == (dst->sz = src->sz))
-               return;
-       dst->value = xcalloc(dst->sz, sizeof(char *));
-       for (i = 0; i < (int)dst->sz; i++)
-               dst->value[i] = xstrdup(src->value[i]);
-}
+       /* Normal processing of a macro. */
 
+       mdoc_macro(mdoc, tok, ln, sv, &offs, buf);
 
-static struct mdoc_arg *
-argdup(size_t argsz, const struct mdoc_arg *args)
+       /* In quick mode (for mandocdb), abort after the NAME section. */
+
+       if (mdoc->quick && MDOC_Sh == tok &&
+           SEC_NAME != mdoc->last->sec)
+               return(2);
+
+       return(1);
+}
+
+enum mdelim
+mdoc_isdelim(const char *p)
 {
-       struct mdoc_arg *pp;
-       int              i;
 
-       if (0 == argsz)
-               return(NULL);
+       if ('\0' == p[0])
+               return(DELIM_NONE);
+
+       if ('\0' == p[1])
+               switch (p[0]) {
+               case '(':
+                       /* FALLTHROUGH */
+               case '[':
+                       return(DELIM_OPEN);
+               case '|':
+                       return(DELIM_MIDDLE);
+               case '.':
+                       /* FALLTHROUGH */
+               case ',':
+                       /* FALLTHROUGH */
+               case ';':
+                       /* FALLTHROUGH */
+               case ':':
+                       /* FALLTHROUGH */
+               case '?':
+                       /* FALLTHROUGH */
+               case '!':
+                       /* FALLTHROUGH */
+               case ')':
+                       /* FALLTHROUGH */
+               case ']':
+                       return(DELIM_CLOSE);
+               default:
+                       return(DELIM_NONE);
+               }
 
-       pp = xcalloc((size_t)argsz, sizeof(struct mdoc_arg));
-       for (i = 0; i < (int)argsz; i++)
-               argcpy(&pp[i], &args[i]);
+       if ('\\' != p[0])
+               return(DELIM_NONE);
 
-       return(pp);
-}
+       if (0 == strcmp(p + 1, "."))
+               return(DELIM_CLOSE);
+       if (0 == strcmp(p + 1, "fR|\\fP"))
+               return(DELIM_MIDDLE);
 
+       return(DELIM_NONE);
+}
 
-/* FIXME: deprecate. */
-char *
-mdoc_node2a(struct mdoc_node *node)
+void
+mdoc_deroff(char **dest, const struct roff_node *n)
 {
-       static char      buf[64];
+       char    *cp;
+       size_t   sz;
 
-       assert(node);
+       if (n->type != ROFFT_TEXT) {
+               for (n = n->child; n; n = n->next)
+                       mdoc_deroff(dest, n);
+               return;
+       }
 
-       buf[0] = 0;
-       (void)xstrlcat(buf, mdoc_type2a(node->type), 64);
-       if (MDOC_ROOT == node->type)
-               return(buf);
-       (void)xstrlcat(buf, " `", 64);
-       if (MDOC_TEXT == node->type)
-               (void)xstrlcat(buf, node->data.text.string, 64);
-       else
-               (void)xstrlcat(buf, mdoc_macronames[node->tok], 64);
-       (void)xstrlcat(buf, "'", 64);
+       /* Skip leading whitespace. */
 
-       return(buf);
-}
+       for (cp = n->string; '\0' != *cp; cp++)
+               if (0 == isspace((unsigned char)*cp))
+                       break;
 
+       /* Skip trailing whitespace. */
 
+       for (sz = strlen(cp); sz; sz--)
+               if (0 == isspace((unsigned char)cp[sz-1]))
+                       break;
+
+       /* Skip empty strings. */
+
+       if (0 == sz)
+               return;
+
+       if (NULL == *dest) {
+               *dest = mandoc_strndup(cp, sz);
+               return;
+       }
+
+       mandoc_asprintf(&cp, "%s %*s", *dest, (int)sz, cp);
+       free(*dest);
+       *dest = cp;
+}