]> git.cameronkatri.com Git - mandoc.git/blobdiff - mdoc_macro.c
Clarify that .Ta as a line macro is a portability problem,
[mandoc.git] / mdoc_macro.c
index 8a81165238c844da5dd06972f7f64bde86244c88..b463d03e225c1b0bf143b219f902ff30ba50afc3 100644 (file)
@@ -1,7 +1,7 @@
-/*     $Id: mdoc_macro.c,v 1.194 2015/04/21 16:14:25 schwarze Exp $ */
+/*     $Id: mdoc_macro.c,v 1.224 2017/05/30 16:22:03 schwarze Exp $ */
 /*
  * Copyright (c) 2008-2012 Kristaps Dzonsons <kristaps@bsd.lv>
- * Copyright (c) 2010, 2012-2015 Ingo Schwarze <schwarze@openbsd.org>
+ * Copyright (c) 2010, 2012-2017 Ingo Schwarze <schwarze@openbsd.org>
  *
  * Permission to use, copy, modify, and distribute this software for any
  * purpose with or without fee is hereby granted, provided that the above
@@ -46,19 +46,21 @@ static      void            phrase_ta(MACRO_PROT_ARGS);
 static void            append_delims(struct roff_man *, int, int *, char *);
 static void            dword(struct roff_man *, int, int, const char *,
                                enum mdelim, int);
-static int             find_pending(struct roff_man *, int, int, int,
-                               struct roff_node *);
+static int             find_pending(struct roff_man *, enum roff_tok,
+                               int, int, struct roff_node *);
 static int             lookup(struct roff_man *, int, int, int, const char *);
 static int             macro_or_word(MACRO_PROT_ARGS, int);
-static int             parse_rest(struct roff_man *, int, int, int *, char *);
-static int             rew_alt(int);
-static void            rew_elem(struct roff_man *, int);
+static void            break_intermediate(struct roff_node *,
+                               struct roff_node *);
+static int             parse_rest(struct roff_man *, enum roff_tok,
+                               int, int *, char *);
+static enum roff_tok   rew_alt(enum roff_tok);
+static void            rew_elem(struct roff_man *, enum roff_tok);
 static void            rew_last(struct roff_man *, const struct roff_node *);
 static void            rew_pending(struct roff_man *,
                                const struct roff_node *);
 
-const  struct mdoc_macro __mdoc_macros[MDOC_MAX] = {
-       { in_line_argn, MDOC_CALLABLE | MDOC_PARSED | MDOC_JOIN }, /* Ap */
+const  struct mdoc_macro __mdoc_macros[MDOC_MAX - MDOC_Dd] = {
        { in_line_eoln, MDOC_PROLOGUE }, /* Dd */
        { in_line_eoln, MDOC_PROLOGUE }, /* Dt */
        { in_line_eoln, MDOC_PROLOGUE }, /* Os */
@@ -74,6 +76,8 @@ const struct mdoc_macro __mdoc_macros[MDOC_MAX] = {
        { blk_full, MDOC_PARSED | MDOC_JOIN }, /* It */
        { in_line, MDOC_CALLABLE | MDOC_PARSED }, /* Ad */
        { in_line, MDOC_CALLABLE | MDOC_PARSED | MDOC_JOIN }, /* An */
+       { in_line_argn, MDOC_CALLABLE | MDOC_PARSED |
+                       MDOC_IGNDELIM | MDOC_JOIN }, /* Ap */
        { in_line, MDOC_CALLABLE | MDOC_PARSED }, /* Ar */
        { in_line, MDOC_CALLABLE | MDOC_PARSED | MDOC_JOIN }, /* Cd */
        { in_line, MDOC_CALLABLE | MDOC_PARSED }, /* Cm */
@@ -194,14 +198,10 @@ const     struct mdoc_macro __mdoc_macros[MDOC_MAX] = {
        { blk_part_imp, MDOC_CALLABLE | MDOC_PARSED | MDOC_JOIN }, /* En */
        { in_line_argn, MDOC_CALLABLE | MDOC_PARSED }, /* Dx */
        { in_line_eoln, MDOC_JOIN }, /* %Q */
-       { in_line_eoln, 0 }, /* br */
-       { in_line_eoln, 0 }, /* sp */
        { in_line_eoln, 0 }, /* %U */
        { phrase_ta, MDOC_CALLABLE | MDOC_PARSED | MDOC_JOIN }, /* Ta */
-       { in_line_eoln, MDOC_PROLOGUE }, /* ll */
 };
-
-const  struct mdoc_macro * const mdoc_macros = __mdoc_macros;
+const  struct mdoc_macro *const mdoc_macros = __mdoc_macros - MDOC_Dd;
 
 
 /*
@@ -210,24 +210,25 @@ const     struct mdoc_macro * const mdoc_macros = __mdoc_macros;
  * are errors.
  */
 void
-mdoc_macroend(struct roff_man *mdoc)
+mdoc_endparse(struct roff_man *mdoc)
 {
        struct roff_node *n;
 
        /* Scan for open explicit scopes. */
 
-       n = mdoc->last->flags & MDOC_VALID ?
+       n = mdoc->last->flags & NODE_VALID ?
            mdoc->last->parent : mdoc->last;
 
        for ( ; n; n = n->parent)
                if (n->type == ROFFT_BLOCK &&
                    mdoc_macros[n->tok].flags & MDOC_EXPLICIT)
                        mandoc_msg(MANDOCERR_BLK_NOEND, mdoc->parse,
-                           n->line, n->pos, mdoc_macronames[n->tok]);
+                           n->line, n->pos, roff_name[n->tok]);
 
        /* Rewind to the first. */
 
        rew_last(mdoc, mdoc->first);
+       mdoc_state_reset(mdoc);
 }
 
 /*
@@ -237,19 +238,22 @@ mdoc_macroend(struct roff_man *mdoc)
 static int
 lookup(struct roff_man *mdoc, int from, int line, int ppos, const char *p)
 {
-       int      res;
+       enum roff_tok    res;
 
+       if (mdoc->flags & MDOC_PHRASEQF) {
+               mdoc->flags &= ~MDOC_PHRASEQF;
+               return TOKEN_NONE;
+       }
        if (from == TOKEN_NONE || mdoc_macros[from].flags & MDOC_PARSED) {
-               res = mdoc_hash_find(p);
+               res = roffhash_find(mdoc->mdocmac, p, 0);
                if (res != TOKEN_NONE) {
                        if (mdoc_macros[res].flags & MDOC_CALLABLE)
-                               return(res);
-                       if (res != MDOC_br && res != MDOC_sp && res != MDOC_ll)
-                               mandoc_msg(MANDOCERR_MACRO_CALL,
-                                   mdoc->parse, line, ppos, p);
+                               return res;
+                       mandoc_msg(MANDOCERR_MACRO_CALL,
+                           mdoc->parse, line, ppos, p);
                }
        }
-       return(TOKEN_NONE);
+       return TOKEN_NONE;
 }
 
 /*
@@ -258,27 +262,18 @@ lookup(struct roff_man *mdoc, int from, int line, int ppos, const char *p)
 static void
 rew_last(struct roff_man *mdoc, const struct roff_node *to)
 {
-       struct roff_node *n, *np;
 
-       if (to->flags & MDOC_VALID)
+       if (to->flags & NODE_VALID)
                return;
 
-       mdoc->next = ROFF_NEXT_SIBLING;
        while (mdoc->last != to) {
-               /*
-                * Save the parent here, because we may delete the
-                * mdoc->last node in the post-validation phase and reset
-                * it to mdoc->last->parent, causing a step in the closing
-                * out to be lost.
-                */
-               np = mdoc->last->parent;
-               mdoc_valid_post(mdoc);
-               n = mdoc->last;
-               mdoc->last = np;
-               assert(mdoc->last);
-               mdoc->last->last = n;
+               mdoc_state(mdoc, mdoc->last);
+               mdoc->last->flags |= NODE_VALID | NODE_ENDED;
+               mdoc->last = mdoc->last->parent;
        }
-       mdoc_valid_post(mdoc);
+       mdoc_state(mdoc, mdoc->last);
+       mdoc->last->flags |= NODE_VALID | NODE_ENDED;
+       mdoc->next = ROFF_NEXT_SIBLING;
 }
 
 /*
@@ -296,13 +291,13 @@ rew_pending(struct roff_man *mdoc, const struct roff_node *n)
                        case ROFFT_HEAD:
                                roff_body_alloc(mdoc, n->line, n->pos,
                                    n->tok);
-                               return;
+                               break;
                        case ROFFT_BLOCK:
                                break;
                        default:
                                return;
                        }
-                       if ( ! (n->flags & MDOC_BROKEN))
+                       if ( ! (n->flags & NODE_BROKEN))
                                return;
                } else
                        n = mdoc->last;
@@ -313,7 +308,7 @@ rew_pending(struct roff_man *mdoc, const struct roff_node *n)
 
                        if (n->type == ROFFT_BLOCK ||
                            n->type == ROFFT_HEAD) {
-                               if (n->flags & MDOC_ENDED)
+                               if (n->flags & NODE_ENDED)
                                        break;
                                else
                                        return;
@@ -326,50 +321,49 @@ rew_pending(struct roff_man *mdoc, const struct roff_node *n)
  * For a block closing macro, return the corresponding opening one.
  * Otherwise, return the macro itself.
  */
-static int
-rew_alt(int tok)
+static enum roff_tok
+rew_alt(enum roff_tok tok)
 {
        switch (tok) {
        case MDOC_Ac:
-               return(MDOC_Ao);
+               return MDOC_Ao;
        case MDOC_Bc:
-               return(MDOC_Bo);
+               return MDOC_Bo;
        case MDOC_Brc:
-               return(MDOC_Bro);
+               return MDOC_Bro;
        case MDOC_Dc:
-               return(MDOC_Do);
+               return MDOC_Do;
        case MDOC_Ec:
-               return(MDOC_Eo);
+               return MDOC_Eo;
        case MDOC_Ed:
-               return(MDOC_Bd);
+               return MDOC_Bd;
        case MDOC_Ef:
-               return(MDOC_Bf);
+               return MDOC_Bf;
        case MDOC_Ek:
-               return(MDOC_Bk);
+               return MDOC_Bk;
        case MDOC_El:
-               return(MDOC_Bl);
+               return MDOC_Bl;
        case MDOC_Fc:
-               return(MDOC_Fo);
+               return MDOC_Fo;
        case MDOC_Oc:
-               return(MDOC_Oo);
+               return MDOC_Oo;
        case MDOC_Pc:
-               return(MDOC_Po);
+               return MDOC_Po;
        case MDOC_Qc:
-               return(MDOC_Qo);
+               return MDOC_Qo;
        case MDOC_Re:
-               return(MDOC_Rs);
+               return MDOC_Rs;
        case MDOC_Sc:
-               return(MDOC_So);
+               return MDOC_So;
        case MDOC_Xc:
-               return(MDOC_Xo);
+               return MDOC_Xo;
        default:
-               return(tok);
+               return tok;
        }
-       /* NOTREACHED */
 }
 
 static void
-rew_elem(struct roff_man *mdoc, int tok)
+rew_elem(struct roff_man *mdoc, enum roff_tok tok)
 {
        struct roff_node *n;
 
@@ -381,42 +375,56 @@ rew_elem(struct roff_man *mdoc, int tok)
        rew_last(mdoc, n);
 }
 
+static void
+break_intermediate(struct roff_node *n, struct roff_node *breaker)
+{
+       if (n != breaker &&
+           n->type != ROFFT_BLOCK && n->type != ROFFT_HEAD &&
+           (n->type != ROFFT_BODY || n->end != ENDBODY_NOT))
+               n = n->parent;
+       while (n != breaker) {
+               if ( ! (n->flags & NODE_VALID))
+                       n->flags |= NODE_BROKEN;
+               n = n->parent;
+       }
+}
+
 /*
  * If there is an open sub-block of the target requiring
  * explicit close-out, postpone closing out the target until
  * the rew_pending() call closing out the sub-block.
  */
 static int
-find_pending(struct roff_man *mdoc, int tok, int line, int ppos,
+find_pending(struct roff_man *mdoc, enum roff_tok tok, int line, int ppos,
        struct roff_node *target)
 {
        struct roff_node        *n;
        int                      irc;
 
+       if (target->flags & NODE_VALID)
+               return 0;
+
        irc = 0;
        for (n = mdoc->last; n != NULL && n != target; n = n->parent) {
-               if (n->flags & MDOC_ENDED) {
-                       if ( ! (n->flags & MDOC_VALID))
-                               n->flags |= MDOC_BROKEN;
+               if (n->flags & NODE_ENDED)
                        continue;
-               }
                if (n->type == ROFFT_BLOCK &&
                    mdoc_macros[n->tok].flags & MDOC_EXPLICIT) {
                        irc = 1;
-                       n->flags = MDOC_BROKEN;
+                       break_intermediate(mdoc->last, target);
                        if (target->type == ROFFT_HEAD)
-                               target->flags = MDOC_ENDED;
-                       else if ( ! (target->flags & MDOC_ENDED)) {
+                               target->flags |= NODE_ENDED;
+                       else if ( ! (target->flags & NODE_ENDED)) {
                                mandoc_vmsg(MANDOCERR_BLK_NEST,
                                    mdoc->parse, line, ppos,
-                                   "%s breaks %s", mdoc_macronames[tok],
-                                   mdoc_macronames[n->tok]);
+                                   "%s breaks %s", roff_name[tok],
+                                   roff_name[n->tok]);
                                mdoc_endbody_alloc(mdoc, line, ppos,
-                                   tok, target, ENDBODY_NOSPACE);
+                                   tok, target);
                        }
                }
        }
-       return(irc);
+       return irc;
 }
 
 /*
@@ -449,11 +457,11 @@ dword(struct roff_man *mdoc, int line, int col, const char *p,
         */
 
        if (d == DELIM_OPEN)
-               mdoc->last->flags |= MDOC_DELIMO;
+               mdoc->last->flags |= NODE_DELIMO;
        else if (d == DELIM_CLOSE &&
            ! (mdoc->flags & MDOC_NODELIMC) &&
            mdoc->last->parent->tok != MDOC_Fd)
-               mdoc->last->flags |= MDOC_DELIMC;
+               mdoc->last->flags |= NODE_DELIMC;
        mdoc->flags &= ~MDOC_NODELIMC;
 }
 
@@ -486,7 +494,7 @@ append_delims(struct roff_man *mdoc, int line, int *pos, char *buf)
                 */
 
                if (mandoc_eos(p, strlen(p)))
-                       mdoc->last->flags |= MDOC_EOS;
+                       mdoc->last->flags |= NODE_EOS;
        }
 }
 
@@ -511,14 +519,15 @@ macro_or_word(MACRO_PROT_ARGS, int parsed)
        if (ntok == TOKEN_NONE) {
                dword(mdoc, line, ppos, p, DELIM_MAX, tok == TOKEN_NONE ||
                    mdoc_macros[tok].flags & MDOC_JOIN);
-               return(0);
+               return 0;
        } else {
-               if (mdoc_macros[tok].fp == in_line_eoln)
+               if (tok != TOKEN_NONE &&
+                   mdoc_macros[tok].fp == in_line_eoln)
                        rew_elem(mdoc, tok);
                mdoc_macro(mdoc, ntok, line, ppos, pos, buf);
                if (tok == TOKEN_NONE)
                        append_delims(mdoc, line, pos, buf);
-               return(1);
+               return 1;
        }
 }
 
@@ -537,7 +546,7 @@ blk_exp_close(MACRO_PROT_ARGS)
 
        int              j, lastarg, maxargs, nl, pending;
        enum margserr    ac;
-       int              atok, ntok;
+       enum roff_tok    atok, ntok;
        char            *p;
 
        nl = MDOC_NEWLINE & mdoc->flags;
@@ -554,30 +563,46 @@ blk_exp_close(MACRO_PROT_ARGS)
                break;
        }
 
+       /* Search backwards for the beginning of our own body. */
+
+       atok = rew_alt(tok);
+       body = NULL;
+       for (n = mdoc->last; n; n = n->parent) {
+               if (n->flags & NODE_ENDED || n->tok != atok ||
+                   n->type != ROFFT_BODY || n->end != ENDBODY_NOT)
+                       continue;
+               body = n;
+               break;
+       }
+
        /*
         * Search backwards for beginnings of blocks,
         * both of our own and of pending sub-blocks.
         */
 
-       atok = rew_alt(tok);
-       body = endbody = itblk = later = NULL;
+       endbody = itblk = later = NULL;
        for (n = mdoc->last; n; n = n->parent) {
-               if (n->flags & MDOC_ENDED) {
-                       if ( ! (n->flags & MDOC_VALID))
-                               n->flags |= MDOC_BROKEN;
+               if (n->flags & NODE_ENDED)
                        continue;
-               }
 
-               /* Remember the start of our own body. */
+               /*
+                * Mismatching end macros can never break anything
+                * and we only care about the breaking of BLOCKs.
+                */
 
-               if (n->type == ROFFT_BODY && atok == n->tok) {
-                       if (n->end == ENDBODY_NOT)
-                               body = n;
+               if (body == NULL || n->type != ROFFT_BLOCK)
                        continue;
-               }
 
-               if (n->type != ROFFT_BLOCK || n->tok == MDOC_Nm)
+               /*
+                * SYNOPSIS name blocks can not be broken themselves,
+                * but they do get broken together with a broken child.
+                */
+
+               if (n->tok == MDOC_Nm) {
+                       if (later != NULL)
+                               n->flags |= NODE_BROKEN | NODE_ENDED;
                        continue;
+               }
 
                if (n->tok == MDOC_It) {
                        itblk = n;
@@ -585,7 +610,6 @@ blk_exp_close(MACRO_PROT_ARGS)
                }
 
                if (atok == n->tok) {
-                       assert(body);
 
                        /*
                         * Found the start of our own block.
@@ -607,14 +631,13 @@ blk_exp_close(MACRO_PROT_ARGS)
 
                        mandoc_vmsg(MANDOCERR_BLK_NEST, mdoc->parse,
                            line, ppos, "%s breaks %s",
-                           mdoc_macronames[atok],
-                           mdoc_macronames[later->tok]);
+                           roff_name[atok], roff_name[later->tok]);
 
                        endbody = mdoc_endbody_alloc(mdoc, line, ppos,
-                           atok, body, ENDBODY_SPACE);
+                           atok, body);
 
                        if (tok == MDOC_El)
-                               itblk->flags |= MDOC_ENDED | MDOC_BROKEN;
+                               itblk->flags |= NODE_ENDED | NODE_BROKEN;
 
                        /*
                         * If a block closing macro taking arguments
@@ -627,30 +650,37 @@ blk_exp_close(MACRO_PROT_ARGS)
                        break;
                }
 
-               /* Explicit blocks close out description lines. */
+               /*
+                * Explicit blocks close out description lines, but
+                * even those can get broken together with a child.
+                */
 
                if (n->tok == MDOC_Nd) {
-                       rew_last(mdoc, n);
+                       if (later != NULL)
+                               n->flags |= NODE_BROKEN | NODE_ENDED;
+                       else
+                               rew_last(mdoc, n);
                        continue;
                }
 
                /* Breaking an open sub block. */
 
-               n->flags |= MDOC_BROKEN;
+               break_intermediate(mdoc->last, body);
+               n->flags |= NODE_BROKEN;
                if (later == NULL)
                        later = n;
        }
 
        if (body == NULL) {
                mandoc_msg(MANDOCERR_BLK_NOTOPEN, mdoc->parse,
-                   line, ppos, mdoc_macronames[tok]);
+                   line, ppos, roff_name[tok]);
                if (maxargs && endbody == NULL) {
                        /*
                         * Stray .Ec without previous .Eo:
                         * Break the output line, keep the arguments.
                         */
-                       roff_elem_alloc(mdoc, line, ppos, MDOC_br);
-                       rew_elem(mdoc, MDOC_br);
+                       roff_elem_alloc(mdoc, line, ppos, ROFF_br);
+                       rew_elem(mdoc, ROFF_br);
                }
        } else if (endbody == NULL) {
                rew_last(mdoc, body);
@@ -662,7 +692,7 @@ blk_exp_close(MACRO_PROT_ARGS)
                if (buf[*pos] != '\0')
                        mandoc_vmsg(MANDOCERR_ARG_SKIP,
                            mdoc->parse, line, ppos,
-                           "%s %s", mdoc_macronames[tok],
+                           "%s %s", roff_name[tok],
                            buf + *pos);
                if (endbody == NULL && n != NULL)
                        rew_pending(mdoc, n);
@@ -671,6 +701,8 @@ blk_exp_close(MACRO_PROT_ARGS)
 
        if (endbody != NULL)
                n = endbody;
+
+       ntok = TOKEN_NONE;
        for (j = 0; ; j++) {
                lastarg = *pos;
 
@@ -681,8 +713,7 @@ blk_exp_close(MACRO_PROT_ARGS)
                if (ac == ARGS_PUNCT || ac == ARGS_EOLN)
                        break;
 
-               ntok = ac == ARGS_QWORD ? TOKEN_NONE :
-                   lookup(mdoc, tok, line, lastarg, p);
+               ntok = lookup(mdoc, tok, line, lastarg, p);
 
                if (ntok == TOKEN_NONE) {
                        dword(mdoc, line, lastarg, p, DELIM_MAX,
@@ -698,15 +729,14 @@ blk_exp_close(MACRO_PROT_ARGS)
        }
 
        if (n != NULL) {
-               if (n != mdoc->last && n->flags & MDOC_BROKEN) {
+               pending = 0;
+               if (ntok != TOKEN_NONE && n->flags & NODE_BROKEN) {
                        target = n;
                        do
                                target = target->parent;
-                       while ( ! (target->flags & MDOC_ENDED));
-                       pending = find_pending(mdoc, ntok, line, ppos,
-                           target);
-               } else
-                       pending = 0;
+                       while ( ! (target->flags & NODE_ENDED));
+                       pending = find_pending(mdoc, ntok, line, ppos, target);
+               }
                if ( ! pending)
                        rew_pending(mdoc, n);
        }
@@ -718,7 +748,7 @@ static void
 in_line(MACRO_PROT_ARGS)
 {
        int              la, scope, cnt, firstarg, mayopen, nc, nl;
-       int              ntok;
+       enum roff_tok    ntok;
        enum margserr    ac;
        enum mdelim      d;
        struct mdoc_arg *arg;
@@ -733,15 +763,10 @@ in_line(MACRO_PROT_ARGS)
 
        switch (tok) {
        case MDOC_An:
-               /* FALLTHROUGH */
        case MDOC_Ar:
-               /* FALLTHROUGH */
        case MDOC_Fl:
-               /* FALLTHROUGH */
        case MDOC_Mt:
-               /* FALLTHROUGH */
        case MDOC_Nm:
-               /* FALLTHROUGH */
        case MDOC_Pa:
                nc = 1;
                break;
@@ -766,7 +791,7 @@ in_line(MACRO_PROT_ARGS)
 
                if (ac == ARGS_EOLN) {
                        if (d == DELIM_OPEN)
-                               mdoc->last->flags &= ~MDOC_DELIMO;
+                               mdoc->last->flags &= ~NODE_DELIMO;
                        break;
                }
 
@@ -784,7 +809,7 @@ in_line(MACRO_PROT_ARGS)
                        break;
                }
 
-               ntok = (ac == ARGS_QWORD || (tok == MDOC_Fn && !cnt)) ?
+               ntok = (tok == MDOC_Fn && !cnt) ?
                    TOKEN_NONE : lookup(mdoc, tok, line, la, p);
 
                /*
@@ -804,7 +829,7 @@ in_line(MACRO_PROT_ARGS)
                                mdoc_argv_free(arg);
                                mandoc_msg(MANDOCERR_MACRO_EMPTY,
                                    mdoc->parse, line, ppos,
-                                   mdoc_macronames[tok]);
+                                   roff_name[tok]);
                        }
                        mdoc_macro(mdoc, ntok, line, la, pos, buf);
                        if (nl)
@@ -813,14 +838,11 @@ in_line(MACRO_PROT_ARGS)
                }
 
                /*
-                * Non-quote-enclosed punctuation.  Set up our scope, if
-                * a word; rewind the scope, if a delimiter; then append
-                * the word.
+                * Handle punctuation.  Set up our scope, if a word;
+                * rewind the scope, if a delimiter; then append the word.
                 */
 
-               d = ac == ARGS_QWORD ? DELIM_NONE : mdoc_isdelim(p);
-
-               if (DELIM_NONE != d) {
+               if ((d = mdoc_isdelim(p)) != DELIM_NONE) {
                        /*
                         * If we encounter closing punctuation, no word
                         * has been emitted, no scope is open, and we're
@@ -840,11 +862,12 @@ in_line(MACRO_PROT_ARGS)
                         * Close out our scope, if one is open, before
                         * any punctuation.
                         */
-                       if (scope)
+                       if (scope && tok != MDOC_Lk) {
                                rew_elem(mdoc, tok);
-                       scope = 0;
-                       if (tok == MDOC_Fn)
-                               mayopen = 0;
+                               scope = 0;
+                               if (tok == MDOC_Fn)
+                                       mayopen = 0;
+                       }
                } else if (mayopen && !scope) {
                        mdoc_elem_alloc(mdoc, line, ppos, tok, arg);
                        scope = 1;
@@ -852,7 +875,7 @@ in_line(MACRO_PROT_ARGS)
                }
 
                dword(mdoc, line, la, p, d,
-                   MDOC_JOIN & mdoc_macros[tok].flags);
+                   mdoc_macros[tok].flags & MDOC_JOIN);
 
                /*
                 * If the first argument is a closing delimiter,
@@ -860,7 +883,7 @@ in_line(MACRO_PROT_ARGS)
                 */
 
                if (firstarg && d == DELIM_CLOSE && !nc)
-                       mdoc->last->flags &= ~MDOC_DELIMC;
+                       mdoc->last->flags &= ~NODE_DELIMC;
                firstarg = 0;
 
                /*
@@ -874,8 +897,10 @@ in_line(MACRO_PROT_ARGS)
                }
        }
 
-       if (scope)
+       if (scope && tok != MDOC_Lk) {
                rew_elem(mdoc, tok);
+               scope = 0;
+       }
 
        /*
         * If no elements have been collected and we're allowed to have
@@ -890,11 +915,13 @@ in_line(MACRO_PROT_ARGS)
                } else {
                        mdoc_argv_free(arg);
                        mandoc_msg(MANDOCERR_MACRO_EMPTY, mdoc->parse,
-                           line, ppos, mdoc_macronames[tok]);
+                           line, ppos, roff_name[tok]);
                }
        }
        if (nl)
                append_delims(mdoc, line, pos, buf);
+       if (scope)
+               rew_elem(mdoc, tok);
 }
 
 static void
@@ -913,7 +940,7 @@ blk_full(MACRO_PROT_ARGS)
 
        if (buf[*pos] == '\0' && (tok == MDOC_Sh || tok == MDOC_Ss)) {
                mandoc_msg(MANDOCERR_MACRO_EMPTY, mdoc->parse,
-                   line, ppos, mdoc_macronames[tok]);
+                   line, ppos, roff_name[tok]);
                return;
        }
 
@@ -923,9 +950,9 @@ blk_full(MACRO_PROT_ARGS)
 
                blk = NULL;
                for (n = mdoc->last; n != NULL; n = n->parent) {
-                       if (n->flags & MDOC_ENDED) {
-                               if ( ! (n->flags & MDOC_VALID))
-                                       n->flags |= MDOC_BROKEN;
+                       if (n->flags & NODE_ENDED) {
+                               if ( ! (n->flags & NODE_VALID))
+                                       n->flags |= NODE_BROKEN;
                                continue;
                        }
                        if (n->type != ROFFT_BLOCK)
@@ -936,7 +963,7 @@ blk_full(MACRO_PROT_ARGS)
                                        mandoc_vmsg(MANDOCERR_BLK_BROKEN,
                                            mdoc->parse, line, ppos,
                                            "It breaks %s",
-                                           mdoc_macronames[blk->tok]);
+                                           roff_name[blk->tok]);
                                        rew_pending(mdoc, blk);
                                }
                                break;
@@ -945,13 +972,11 @@ blk_full(MACRO_PROT_ARGS)
                        if (mdoc_macros[n->tok].flags & MDOC_EXPLICIT) {
                                switch (tok) {
                                case MDOC_Sh:
-                                       /* FALLTHROUGH */
                                case MDOC_Ss:
                                        mandoc_vmsg(MANDOCERR_BLK_BROKEN,
                                            mdoc->parse, line, ppos,
-                                           "%s breaks %s",
-                                           mdoc_macronames[tok],
-                                           mdoc_macronames[n->tok]);
+                                           "%s breaks %s", roff_name[tok],
+                                           roff_name[n->tok]);
                                        rew_pending(mdoc, n);
                                        n = mdoc->last;
                                        continue;
@@ -977,15 +1002,14 @@ blk_full(MACRO_PROT_ARGS)
                        if (blk != NULL) {
                                mandoc_vmsg(MANDOCERR_BLK_BROKEN,
                                    mdoc->parse, line, ppos,
-                                   "It breaks %s",
-                                   mdoc_macronames[blk->tok]);
+                                   "It breaks %s", roff_name[blk->tok]);
                                rew_pending(mdoc, blk);
                                blk = NULL;
                        }
 
                        /* Close out prior implicit scopes. */
 
-                       rew_last(mdoc, n);
+                       rew_pending(mdoc, n);
                }
 
                /* Skip items outside lists. */
@@ -993,8 +1017,8 @@ blk_full(MACRO_PROT_ARGS)
                if (tok == MDOC_It && (n == NULL || n->tok != MDOC_Bl)) {
                        mandoc_vmsg(MANDOCERR_IT_STRAY, mdoc->parse,
                            line, ppos, "It %s", buf + *pos);
-                       roff_elem_alloc(mdoc, line, ppos, MDOC_br);
-                       rew_elem(mdoc, MDOC_br);
+                       roff_elem_alloc(mdoc, line, ppos, ROFF_br);
+                       rew_elem(mdoc, ROFF_br);
                        return;
                }
        }
@@ -1035,30 +1059,43 @@ blk_full(MACRO_PROT_ARGS)
        if (tok == MDOC_Bk)
                mdoc->flags |= MDOC_KEEP;
 
-       ac = ARGS_PEND;
+       ac = ARGS_EOLN;
        for (;;) {
+
+               /*
+                * If we are right after a tab character,
+                * do not parse the first word for macros.
+                */
+
+               if (mdoc->flags & MDOC_PHRASEQN) {
+                       mdoc->flags &= ~MDOC_PHRASEQN;
+                       mdoc->flags |= MDOC_PHRASEQF;
+               }
+
                la = *pos;
                lac = ac;
                ac = mdoc_args(mdoc, line, pos, buf, tok, &p);
                if (ac == ARGS_EOLN) {
-                       if (lac != ARGS_PPHRASE && lac != ARGS_PHRASE)
+                       if (lac != ARGS_PHRASE ||
+                           ! (mdoc->flags & MDOC_PHRASEQF))
                                break;
+
                        /*
-                        * This is necessary: if the last token on a
-                        * line is a `Ta' or tab, then we'll get
-                        * ARGS_EOLN, so we must be smart enough to
-                        * reopen our scope if the last parse was a
-                        * phrase or partial phrase.
+                        * This line ends in a tab; start the next
+                        * column now, with a leading blank.
                         */
+
                        if (body != NULL)
                                rew_last(mdoc, body);
                        body = roff_body_alloc(mdoc, line, ppos, tok);
+                       roff_word_alloc(mdoc, line, ppos, "\\&");
                        break;
                }
+
                if (tok == MDOC_Bd || tok == MDOC_Bk) {
                        mandoc_vmsg(MANDOCERR_ARG_EXCESS,
                            mdoc->parse, line, la, "%s ... %s",
-                           mdoc_macronames[tok], buf + la);
+                           roff_name[tok], buf + la);
                        break;
                }
                if (tok == MDOC_Rs) {
@@ -1075,10 +1112,7 @@ blk_full(MACRO_PROT_ARGS)
                 */
 
                if (head == NULL &&
-                   ac != ARGS_PEND &&
                    ac != ARGS_PHRASE &&
-                   ac != ARGS_PPHRASE &&
-                   ac != ARGS_QWORD &&
                    mdoc_isdelim(p) == DELIM_OPEN) {
                        dword(mdoc, line, la, p, DELIM_OPEN, 0);
                        continue;
@@ -1089,9 +1123,7 @@ blk_full(MACRO_PROT_ARGS)
                if (head == NULL)
                        head = roff_head_alloc(mdoc, line, ppos, tok);
 
-               if (ac == ARGS_PHRASE ||
-                   ac == ARGS_PEND ||
-                   ac == ARGS_PPHRASE) {
+               if (ac == ARGS_PHRASE) {
 
                        /*
                         * If we haven't opened a body yet, rewind the
@@ -1101,18 +1133,16 @@ blk_full(MACRO_PROT_ARGS)
                        rew_last(mdoc, body == NULL ? head : body);
                        body = roff_body_alloc(mdoc, line, ppos, tok);
 
-                       /*
-                        * Process phrases: set whether we're in a
-                        * partial-phrase (this effects line handling)
-                        * then call down into the phrase parser.
-                        */
+                       /* Process to the tab or to the end of the line. */
 
-                       if (ac == ARGS_PPHRASE)
-                               mdoc->flags |= MDOC_PPHRASE;
-                       if (ac == ARGS_PEND && lac == ARGS_PPHRASE)
-                               mdoc->flags |= MDOC_PPHRASE;
+                       mdoc->flags |= MDOC_PHRASE;
                        parse_rest(mdoc, TOKEN_NONE, line, &la, buf);
-                       mdoc->flags &= ~MDOC_PPHRASE;
+                       mdoc->flags &= ~MDOC_PHRASE;
+
+                       /* There may have been `Ta' macros. */
+
+                       while (body->next != NULL)
+                               body = body->next;
                        continue;
                }
 
@@ -1120,7 +1150,7 @@ blk_full(MACRO_PROT_ARGS)
                        break;
        }
 
-       if (blk->flags & MDOC_VALID)
+       if (blk->flags & NODE_VALID)
                return;
        if (head == NULL)
                head = roff_head_alloc(mdoc, line, ppos, tok);
@@ -1179,8 +1209,7 @@ blk_part_imp(MACRO_PROT_ARGS)
                if (ac == ARGS_EOLN || ac == ARGS_PUNCT)
                        break;
 
-               if (body == NULL && ac != ARGS_QWORD &&
-                   mdoc_isdelim(p) == DELIM_OPEN) {
+               if (body == NULL && mdoc_isdelim(p) == DELIM_OPEN) {
                        dword(mdoc, line, la, p, DELIM_OPEN, 0);
                        continue;
                }
@@ -1236,8 +1265,7 @@ blk_part_exp(MACRO_PROT_ARGS)
 
                /* Flush out leading punctuation. */
 
-               if (head == NULL && ac != ARGS_QWORD &&
-                   mdoc_isdelim(p) == DELIM_OPEN) {
+               if (head == NULL && mdoc_isdelim(p) == DELIM_OPEN) {
                        dword(mdoc, line, la, p, DELIM_OPEN, 0);
                        continue;
                }
@@ -1272,7 +1300,7 @@ in_line_argn(MACRO_PROT_ARGS)
        struct mdoc_arg *arg;
        char            *p;
        enum margserr    ac;
-       int              ntok;
+       enum roff_tok    ntok;
        int              state; /* arg#; -1: not yet open; -2: closed */
        int              la, maxargs, nl;
 
@@ -1288,16 +1316,12 @@ in_line_argn(MACRO_PROT_ARGS)
 
        switch (tok) {
        case MDOC_Ap:
-               /* FALLTHROUGH */
        case MDOC_Ns:
-               /* FALLTHROUGH */
        case MDOC_Ux:
                maxargs = 0;
                break;
        case MDOC_Bx:
-               /* FALLTHROUGH */
        case MDOC_Es:
-               /* FALLTHROUGH */
        case MDOC_Xr:
                maxargs = 2;
                break;
@@ -1340,7 +1364,7 @@ in_line_argn(MACRO_PROT_ARGS)
                        state = -2;
                }
 
-               ntok = (ac == ARGS_QWORD || (tok == MDOC_Pf && state == 0)) ?
+               ntok = (tok == MDOC_Pf && state == 0) ?
                    TOKEN_NONE : lookup(mdoc, tok, line, la, p);
 
                if (ntok != TOKEN_NONE) {
@@ -1352,8 +1376,7 @@ in_line_argn(MACRO_PROT_ARGS)
                        break;
                }
 
-               if (ac == ARGS_QWORD ||
-                   mdoc_macros[tok].flags & MDOC_IGNDELIM ||
+               if (mdoc_macros[tok].flags & MDOC_IGNDELIM ||
                    mdoc_isdelim(p) == DELIM_NONE) {
                        if (state == -1) {
                                mdoc_elem_alloc(mdoc, line, ppos, tok, arg);
@@ -1366,12 +1389,12 @@ in_line_argn(MACRO_PROT_ARGS)
                }
 
                dword(mdoc, line, la, p, DELIM_MAX,
-                   MDOC_JOIN & mdoc_macros[tok].flags);
+                   mdoc_macros[tok].flags & MDOC_JOIN);
        }
 
        if (state == -1) {
                mandoc_msg(MANDOCERR_MACRO_EMPTY, mdoc->parse,
-                   line, ppos, mdoc_macronames[tok]);
+                   line, ppos, roff_name[tok]);
                return;
        }
 
@@ -1395,13 +1418,13 @@ in_line_eoln(MACRO_PROT_ARGS)
                if (mdoc->next == ROFF_NEXT_SIBLING)
                        n = n->parent;
                if (n->tok == MDOC_Nm)
-                       rew_last(mdoc, mdoc->last->parent);
+                       rew_last(mdoc, n->parent);
        }
 
        if (buf[*pos] == '\0' &&
-           (tok == MDOC_Fd || mdoc_macronames[tok][0] == '%')) {
+           (tok == MDOC_Fd || *roff_name[tok] == '%')) {
                mandoc_msg(MANDOCERR_MACRO_EMPTY, mdoc->parse,
-                   line, ppos, mdoc_macronames[tok]);
+                   line, ppos, roff_name[tok]);
                return;
        }
 
@@ -1418,16 +1441,17 @@ in_line_eoln(MACRO_PROT_ARGS)
  * or until the next macro, call that macro, and return 1.
  */
 static int
-parse_rest(struct roff_man *mdoc, int tok, int line, int *pos, char *buf)
+parse_rest(struct roff_man *mdoc, enum roff_tok tok,
+    int line, int *pos, char *buf)
 {
        int              la;
 
        for (;;) {
                la = *pos;
                if (mdoc_args(mdoc, line, pos, buf, tok, NULL) == ARGS_EOLN)
-                       return(0);
+                       return 0;
                if (macro_or_word(mdoc, tok, line, la, pos, buf, 1))
-                       return(1);
+                       return 1;
        }
 }
 
@@ -1459,11 +1483,11 @@ phrase_ta(MACRO_PROT_ARGS)
 
        body = NULL;
        for (n = mdoc->last; n != NULL; n = n->parent) {
-               if (n->flags & MDOC_ENDED)
+               if (n->flags & NODE_ENDED)
                        continue;
                if (n->tok == MDOC_It && n->type == ROFFT_BODY)
                        body = n;
-               if (n->tok == MDOC_Bl)
+               if (n->tok == MDOC_Bl && n->end == ENDBODY_NOT)
                        break;
        }