簡介

在這篇文章中，我將向大家演示怎樣向一個通用計算器一樣解析并計算一個四則運算表達式。當(dāng)我們結(jié)束的時候，我們將得到一個可以處理諸如 1+2*-(-3+2)/5.6+3樣式的表達式的計算器了。當(dāng)然，你也可以將它拓展的更為強大。

我本意是想提供一個簡單有趣的課程來講解 語法分析 和 正規(guī)語法（編譯原理內(nèi)容）。同時，介紹一下PlyPlus,這是一個我斷斷續(xù)續(xù)改進了好幾年的語法解析 接口。作為這個課程的附加產(chǎn)物，我們最后會得到完全可替代eval（）的一個安全的四則運算器。

如果你想在自家的電腦上試試本文中給的例子的話，你應(yīng)該先安裝 PlyPlus ,使用命令pip install plyplus  。（譯者注：pip是一個包管理系統(tǒng)，用來安裝用python寫的軟件包，具體使用方法大家可以百度之或是google之，就不贅述了。）

本篇文章需要對python的繼承使用有所了解。

語法

對于那些不懂的如何解析和正式語法工作的人而言，這里有一個快速的概覽：正式語法是用來解析文本的一些不同層面的規(guī)則。每一個規(guī)則都描述了相對應(yīng)的那部分輸入的文本是如何組成的。

這里是一個用來展示如何解析1+2+3+4的例子：
 

Rule #1 - add IS MADE OF add + number
            OR number + number

或者用 EBNF:
 

add: add'+'number
  | number'+'number
  ;

解析器每次都會尋找add+number或者number+number，找到一個之后就會將其轉(zhuǎn)換成add?；旧隙?，每一個解析器的目標(biāo)都在于盡可能的找到最高層次的表達式抽象。

以下是解析器的每個步驟：

  number + number + number + number

    第一次轉(zhuǎn)換將所有的Number變成“number”規(guī)則

  [number + number] + number + number

    解析器找到了它的第一個匹配模式！

  [add + number] + number

    在轉(zhuǎn)換成一個模式之后，它開始尋找下一個

  [add + number]
  add

這些有次序的符號變成了一個層次上的兩個簡單規(guī)則: number+number和add+number。這樣，只需要告訴計算機如果解決這兩個問題，它就能解析整個表達式。事實上，無論多長的加法序列，它都能解決! 這就是形式文法的力量。
運算符優(yōu)先級

算數(shù)表達式并不僅僅是符號的線性增長，運算符創(chuàng)造了一個隱式的層次結(jié)構(gòu)，這非常適合用形式文法來表示:

1 + 2 * 3 / 4 - 5 + 6

這相當(dāng)于:

1 + (2 * 3 / 4) - 5 + 6

我們可以通過嵌套規(guī)則表示此語法中的結(jié)構(gòu):
 

add: add+mul
  | mul'+'mul
  ;
mul: mul '*; number
  | number'*'number
  ;

通過將add設(shè)為操作mul而不是number，我們就得到了乘法優(yōu)先的規(guī)則。

讓我們在腦海中模擬一下使用這個神奇的解析器來分析1+2*3*4的過程：

  number + number * number * number
  number + [number * number] * number

    解析器不知道number+number的結(jié)果，所以這是它（解析器）的另一個選擇

  number + [mul * number]
  number + mul
  ???

現(xiàn)在我們遇到了一點困難! 解析器不知道如何處理number+mul。我們可以區(qū)分這種情況，但是如果我們繼續(xù)探索下去，就會發(fā)現(xiàn)有很多不同的沒有考慮到得可能，比如mul+number, add+number, add+add, 等等。

那么我們應(yīng)該怎么做呢？

幸運的是，我們可以做一點小“把戲”：我們可以認為一個number本身是一個乘積，并且一個乘積本身是一個和！

這種思路一開始看起來有點古怪，不過它的確是有意義的：
 

add: add'+'mul
  | mul'+'mul
  | mul
  ;
mul: mul'*'number
  | number'*'number
  | number
  ;

但是如果 mul能夠變成 add, 且 number能夠變成 mul ， 有些行的內(nèi)容就變得多余了。丟棄它們，我們就得到了：
 

add: add'+'mul
  | mul
  ;
mul: mul'*'number
  | number
  ;

讓我們來使用這種新的語法來模擬運行一下1+2*3*4：

  number + number * number * number

    現(xiàn)在沒有一個規(guī)則是對應(yīng)number*number的了，但是解析器可以“變得有創(chuàng)造性”

  number + [number] * number * number
  number + [mul * number] * number
  number + [mul * number]
  [number] + mul
  [mul] + mul
  [add + mul]
  add

成功了?。?！

如果你覺得這個很奇妙，那么嘗試著去用另一種算數(shù)表達式來模擬運行一下，然后看看表達式是如何用正確的方式來一步步解決問題的?；蛘叩戎喿x下一節(jié)中的內(nèi)容，看看計算機是如何一步步運行出來的！

運行解析器

現(xiàn)在我們對于如何讓我們的語法運作起來已經(jīng)有了非常不錯的想法了，那就寫一個實際的語法來應(yīng)用一下吧:

>>>fromplyplusimportGrammar
>>> g=Grammar("""...""")
>>>printg.parse('1+2*3-5').pretty()
start
 add
  add
   add
    mul
     number
      1
   add_symbol
    +
   mul
    mul
     number
      2
    mul_symbol
     *
    number
     3
  add_symbol
   -
  mul
   number
    5

干得漂亮!

仔細研究一下這棵樹，看看解析器選擇了什么層次。

如果你希望親自運行這個解析器，并使用你自己的表達式，你只需有Python即可。安裝Pip和PlyPlus之后，將上面的命令粘貼到Python內(nèi)(記得將'...'替換為實際的語法哦~)。

使樹成形

Plyplus會自動創(chuàng)建一棵樹，但它并不一定是最優(yōu)的。將number放入到mul和將mul放入到add非常有利于創(chuàng)建一個階層，現(xiàn)在我們已經(jīng)有了一個階層那它們反而會成為一個負擔(dān)。我們告訴Plyplus對它們加前綴去“展開”（i.e.刪除）規(guī)則。

碰到一個@常常會展開一個規(guī)則，一個#則會壓平它，一個?會在它有一個子結(jié)點時展開。在這種情況下，?就是我們所需要的。
 

start: add;
?add: add add_symbol mul | mul;   // Expand add if it's just a mul
?mul: mul mul_symbol number | number;// Expand mul if it's just a number
number:'[d.]+';
mul_symbol:'*'|'/';
add_symbol:'+'|'-';

在新語法下樹是這樣的：
 

>>> g=Grammar("""...""")
>>>printg.parse('1+2*3-5').pretty()
start
 add
  add
   number
    1
   add_symbol
    +
   mul
    number
     2
    mul_symbol
     *
    number
     3
  add_symbol
   -
  number
   5

哦，這樣變得簡潔多了，我敢說，它是非常好的。

括號的處理及其它特性

目前為止，我們還明顯缺少一些必須的特性：括號，單元運算符(-(1+2))，及表達式中間允許存在空字符。其實這些特性都很容易就能實現(xiàn)，下面我們來嘗試一下。

需要先引入一個重要的概念：原子。在一個原子里面（括號中及單元運算）發(fā)生的所有操作都優(yōu)先于所有加法或乘法運算（包括位操作）。由于原子只是一個優(yōu)先級的構(gòu)造器，并無語法意義，幫我們加上"@"符號以確保在編譯時它被能展開。

允許空格出現(xiàn)在表達式內(nèi)最簡單的方法就是使用這種解釋方式：add SPACE add_symbol SPACE mul | mul;  但個解釋結(jié)果啰嗦且可讀性差。所有，我們需要令Plyplus總是忽略空格。

下面是完整的語法，包容了以上所述特性：
 

start: add;
?add: (add add_symbol)? mul;
?mul: (mul mul_symbol)? atom;
@atom: neg | number |'('add')';
neg:'-'atom;
number:'[d.]+';
mul_symbol:'*'|'/';
add_symbol:'+'|'-';
WHITESPACE:'[ t]+'(%ignore);

請確保理解這個語法再進入下一步：計算！

運算

現(xiàn)在，我們已經(jīng)可以將一個表達式轉(zhuǎn)化成一棵分層樹了，只需要逐分支地掃描這棵樹，便可得到最終結(jié)果。

我們現(xiàn)在要開始編寫代碼了，在此之前，我需要對這棵樹做兩點解釋：

    1.每個分支都是包含如下兩個屬性的實例：

•         頭(head)：規(guī)則的名字(例如add或者number);
•         尾(tail)：包含所有與其匹配的子規(guī)則的列表。

    2.Plyplus默認會刪除不必要的標(biāo)記。在本例中，'( ' ，')' 和 '-' 會被刪除。但add和mul會有自己的規(guī)則，Plyplus會知道它們是必須的，從而不會被刪除它們。如果你需要保留這些標(biāo)記，可以手動關(guān)掉這項功能，但從我的經(jīng)驗來看，最好不要這樣做，而是手動修改相關(guān)語法效果更佳。

言歸正傳，現(xiàn)在我們開始編寫代碼。我們將用一個非常簡單的轉(zhuǎn)換器來掃描這棵樹。它會從最外面的分支開始掃描，直到到達根節(jié)點為止，而我們的工作是告訴它如何掃描。如果一切順利的話，它將總會從最外層開始掃描!讓我們看看具體的實現(xiàn)吧。

>>>importoperator as op
>>>fromplyplusimportSTransformer
 
classCalc(STransformer):
 
  def_bin_operator(self, exp):
    arg1, operator_symbol, arg2=exp.tail
 
    operator_func={'+': op.add,
             '-': op.sub,
             '*': op.mul,
             '/': op.div }[operator_symbol]
 
    returnoperator_func(arg1, arg2)
 
  number   =lambdaself, exp:float(exp.tail[0])
  neg    =lambdaself, exp:-exp.tail[0]
  __default__=lambdaself, exp: exp.tail[0]
 
  add=_bin_operator
  mul=_bin_operator

每個方法都對應(yīng)一個規(guī)則。如果方法不存在的話，將調(diào)用__default__方法。我們在其中省略了start,add_symbol和mul_symbol，因為它們只會返回自己的分支。

我使用了float()來解析數(shù)字，這是個懶方法，但我也可以用解析器來實現(xiàn)。

為了使語句整潔，我使用了運算符模塊。例如add基本上是 'lambda x,y: x+y'之類的。

OK，現(xiàn)在我們運行這段代碼來檢查一下結(jié)果。
 

>>> Calc().transform( g.parse('1 + 2 * -(-3+2) / 5.6 + 30'))
31.357142857142858

那么eval()呢？7
 

>>>eval('1 + 2 * -(-3+2) / 5.6 + 30')
31.357142857142858

成功了:)
 
最后一步：REPL

為了美觀，我們把它封裝到一個不錯的計算器 REPL：
 

defmain():
  calc=Calc()
  whileTrue:
    try:
      s=raw_input('> ')
    exceptEOFError:
      break
    ifs=='':
      break
    tree=calc_grammar.parse(s)
    printcalc.transform(tree)

完整的代碼可從這里獲?。?br /> https://github.com/erezsh/plyplus/blob/master/examples/calc.py