编译原理实战三:语法分析之 怎么消除左递归、怎么确保正确的优先级和结合性JS版?

1,392 阅读10分钟

编译原理:语法分析实战纯手工实现一个公式计算器中已经讲解了如何初步实现一个简单的公式计算器,并直观地获得了写语法分析程序的体验,对语法分析有了已经的认识。 本篇文章主要是解决上篇文章中关于怎么消除左递归,怎么确保正确的优先级和结合性等问题

不过在课程开始之前,先来简单地温习一下什么是左递归(Left Recursive)、优先级(Priority)和结合性(Associativity)。

在二元表达式的语法规则中,如果产生式的第一个元素是它自身,那么程序就会无限地递归下去,这种情况就叫做左递归。比如加法表达式的产生式“加法表达式 + 乘法表达式”,就是左递归的。而优先级和结合性则是计算机语言中与表达式有关的核心概念。它们都涉及了语法规则的设计问题。

书写语法规则,并进行推导

语法规则是由上下文无关文法表示的,而上下文无关文法是由一组替换规则(又叫产生式)组成的,比如算术表达式的文法规则可以表达成下面这种形式:

add -> mul | add + mul
mul -> pri | mul * pri
pri -> Id | Num | (add) 

按照上面的产生式,add 可以替换成 mul,或者 add + mul。这样的替换过程又叫做“推导”。以“2+3*5” 和 “2+3+4”这两个算术表达式为例,这两个算术表达式的推导过程分别如下图所示: 语法规则

通过上图的推导过程,你可以清楚地看到这两个表达式是怎样生成的。而分析过程中形成的这棵树,其实就是 AST。只不过我们手写的算法在生成 AST 的时候,通常会做一些简化,省略掉中间一些不必要的节点。比如,“add-add-mul-pri-Num”这一条分支,实际手写时会被简化成“add-Num”。其实,简化 AST 也是优化编译过程的一种手段,如果不做简化,呈现的效果就是上图的样子。

那么,上图中两颗树的叶子节点有哪些呢? Num、+ 和 * 都是终结符,终结符都是词法分析中产生的 Token。而那些非叶子节点,就是非终结符文法的推导过程,就是把非终结符不断替换的过程,让最后的结果没有非终结符,只有终结符

而在实际应用中,语法规则经常写成下面这种形式:

add ::= mul | add + mul
mul ::= pri | mul * pri
pri ::= Id | Num | (add) 

这种写法叫做“巴科斯范式”,简称 BNF。Antlr 和 Yacc 这两个工具都用这种写法。

有时还会听到一个术语,叫做扩展巴科斯范式 (EBNF)。它跟普通的 BNF 表达式最大的区别,就是里面会用到类似正则表达式的一些写法。比如下面这个规则中运用了 * 号,来表示这个部分可以重复 0 到多次:

add -> mul (+ mul)*

其实这种写法跟标准的 BNF 写法是等价的,但是更简洁。为什么是等价的呢?因为一个项多次重复,就等价于通过递归来推导。从这里我们还可以得到一个推论:就是上下文无关文法包含了正则文法,比正则文法能做更多的事情

如何确保正确的优先级

刚讲述了如何由加法规则推导到乘法规则,这种方式保证了 AST 中的乘法节点一定会在加法节点的下层,也就保证了乘法计算优先于加法计算。

我们接下来看下常用的表达式的语法规则:

exp -> or | or = exp   
or -> and | or || and
and -> equal | and && equal
equal -> rel | equal == rel | equal != rel
rel -> add | rel > add | rel < add | rel >= add | rel <= add
add -> mul | add + mul | add - mul 
mul -> pri | mul * pri | mul / pri 

这里表达的优先级从低到高是:赋值运算、逻辑运算(or)、逻辑运算(and)、相等比较(equal)、大小比较(rel)、加法运算(add)、乘法运算(mul)和基础表达式(pri)。 实际语言中还有更多不同的优先级,比如位运算等。而且优先级是能够改变的,比如我们通常会在语法里通过括号来改变计算的优先级。不过这怎么表达成语法规则呢?

其实,在最低层也就是优先级最高的基础表达式(pri)这里,用括号把表达式包裹起来,递归地引用表达式就可以了。这样的话,只要在解析表达式的时候遇到括号,那么就知道这个是最优先的。这样的话就实现了优先级的改变:

pri -> Id | Literal | (exp)

到目前为止,已经会写整套的表达式规则了,也能让公式计算器支持这些规则了。另外,在使用一门语言的时候,如果你不清楚各种运算确切的优先级,除了查阅常规的资料,你还多了一项新技能,就是阅读这门语言的语法规则文件,这些规则可能就是用 BNF 或 EBNF 的写法书写的。

如何确保正确的结合性

上篇文章中 对“2+3+4”这个算术表达式,先计算了“3+4”然后才和“2”相加,计算顺序从右到左,正确的应该是从左往右才对。

这就是运算符的结合性问题。什么是结合性呢?同样优先级的运算符是从左到右计算还是从右到左计算叫做结合性。我们常见的加减乘除等算术运算是左结合的,“.”符号也是左结合的。

比如“rectangle.center.x” 是先获得长方形(rectangle)的中心点(center),再获得这个点的 x 坐标。计算顺序是从左向右的。那有没有右结合的例子呢?肯定是有的。赋值运算就是典型的右结合的例子,比如“x = y = 10”。

我们再来回顾一下“2+3+4”计算顺序出错的原因。用之前错误的右递归的文法解析这个表达式形成的简化版本的 AST 如下: 2+3+4 截屏2021-03-27 下午8.24.11.png

根据这个 AST(对计算机语言的结构化表示,它是一切后续工作的基础,比如做语义分析,翻译成目标代码。) 做计算会出现计算顺序的错误。不过如果我们将递归项写在左边,就不会出现这种结合性的错误。于是我们得出一个规律:对于左结合的运算符,递归项要放在左边;而右结合的运算符,递归项放在右边

所以在写加法表达式的规则的时候,是这样写的:

add -> mul | add + mul   

这是犯错之后所学到的知识。那么问题来了,大多数二元运算都是左结合的,那岂不是都要面临左递归问题?不用担心,我们可以通过改写左递归的文法,解决这个问题。

消除左递归

上文 提到过左递归的情况,也指出递归下降算法不能处理左递归。这里需要补充一点,并不是所有的算法都不能处理左递归,对于另外一些算法,左递归是没有问题的,比如 LR 算法。

消除左递归,用一个标准的方法,就能够把左递归文法改写成非左递归的文法。以加法表达式规则为例,原来的文法是“add -> add + mul”,现在我们改写成:

add -> mul add'
add' -> + mul add' | ε

文法中,ε(读作 epsilon)是空集的意思。接下来,我们用刚刚改写的规则再次推导一下 “2+3+4”这个表达式,得到了下图中左边的结果:

消除左递归

左边的分析树是推导后的结果。问题是,由于 add’的规则是右递归的,如果用标准的递归下降算法,会跟上一讲一样,又会出现运算符结合性的错误。我们期待的 AST 是右边的那棵,它的结合性才是正确的。那么有没有解决办法呢?

答案是有的。我们仔细分析一下上面语法规则的推导过程。只有第一步是按照 add 规则推导,之后都是按照 add’规则推导,一直到结束。

如果用 EBNF 方式表达,也就是允许用 * 号和 + 号表示重复,上面两条规则可以合并成一条:

add -> mul (+ mul)* 

写成这样的好处是能够优化我们写算法的思路。对于 (+ mul)* 这部分,我们其实可以写成一个循环,而不是一次次的递归调用。伪代码如下:

mul();
while(next token is +){
  mul()
  createAddNode
}

在研究递归函数的时候,有一个概念叫做尾递归尾递归函数的最后一句是递归地调用自身。

编译程序通常都会把尾递归转化为一个循环语句,使用的原理跟上面的伪代码是一样的。相对于递归调用来说,循环语句对系统资源的开销更低,因此,把尾递归转化为循环语句也是一种编译优化技术

我们继续左递归的话题。现在我们知道怎么写这种左递归的算法了,大概是下面的样子:

additive(tokens) {
    let child1 = this.multiplicative(tokens); // 应用 add 规则
    let node = child1;

    if(child1 != null){
        while(true){    // 循环应用 add'
            let token = tokens.peek();  
            if(token !== null && (token.getType() === TokenType.Plus)){
                token = tokens.read();  // 读出加号
                let child2 = this.multiplicative(tokens);  // 计算下级节点
                node = new SimpleASTNode(ASTNodeType.Additive, token.getText());
                node.addChildren(child1); // 注意,新节点在顶层,保证正确的结合性
                node.addChildren(child2);
                child1 = node;
            } else {
                break;
            }
        }
    }

    return node;
}

修改完后,再次运行语法分析器分析“2+3+4”,会得到正确的 AST: 截屏2021-03-27 下午3.53.59.png

修改后重新执行代码结果如下: 2+3+4

这样就把左递归问题解决了。左递归问题是用递归下降算法写语法分析器遇到的最大的一只“拦路虎”。解决这只“拦路虎”以后,你的道路将会越来越平坦。

本篇的重点知识:

  • 优先级是通过在语法推导中的层次来决定的,优先级越低的,越先尝试推导
  • 结合性是跟左递归还是右递归有关的,左递归导致左结合,右递归导致右结合
  • 左递归可以通过改写语法规则来避免,而改写后的语法又可以表达成简洁的 EBNF 格式,从而启发我们用循环代替右递归

相关问答

1.替换规则是为了做什么?

add -> mul | add + mul
mul -> pri | mul * pri
pri -> Id | Num | (add)

替换过程,就是推导过程。这样不断替换,就是不断推导。 如果某个句子,能用某个文法推导出来,那就说这个句子符合某个文法。比如2+3*5就符合我们上面的文法。 我们说语法解析,实际上是语法推导的反过程,是把它怎么推导的过程给逆向出来。

2.为什么替换规则是这样的?

这就是文法设计的问题。这要根据问题域的特征来设计。比如,假设你为汉语设计一个文法,那么就知道分成“主谓宾”三个部分。而表达式是分为加减乘数运算,又分成优先级,所以就用上面的规则来表达。验证的方法就是看能否推导出所有可能的表达式。

编译原理实战四:带你用JS实现一门简单的脚本语言

课程内容参考自 极客时间 编译原理课程