如何利用Python开发一个Python解释器
如何利用Python开发一个Python解释器
本篇文章给大家分享的是有关如何利用Python开发一个Python解释器,小编觉得挺实用的,因此分享给大家学习,希望大家阅读完这篇文章后可以有所收获,话不多说,跟着小编一起来看看吧。
前言:
计算机只能理解机器码。归根结底,编程语言只是一串文字,目的是为了让人类更容易编写他们想让计算机做的事情。真正的魔法是由编译器和解释器完成,它们弥合了两者之间的差距。解释器逐行读取代码并将其转换为机器码。
在本文中,我们将设计一个可以执行算术运算的解释器。
我们不会重新造轮子。文章将使用由 David M. Beazley 开发的词法解析器 ——PLY(Python Lex-Yacc(https://github.com/dabeaz/ply))
。
PLY 可以通过以下方式下载:
$pipinstallply
我们将粗略地浏览一下创建解释器所需的基础知识。欲了解更多,请参阅这个 GitHub
仓库(https://github.com/dabeaz/ply)
。
1.标记(Token)
标记是为解释器提供有意义信息的最小字符单位。标记包含一对名称和属性值。
让我们从创建标记名称列表开始。这是一个必要的步骤。
tokens=(#数据类型"NUM","FLOAT",#算术运算"PLUS","MINUS","MUL","DIV",#括号"LPAREN","RPAREN",)
2.词法分析器(Lexer)
将语句转换为标记的过程称为标记化或词法分析。执行词法分析的程序是词法分析器。
#标记的正则表达t_PLUS=r"\+"t_MINUS=r"\-"t_MUL=r"\*"t_DIV=r"/"t_LPAREN=r"\("t_RPAREN=r"\)"t_POW=r"\^"#忽略空格和制表符t_ignore="\t"#为每个规则添加动作deft_FLOAT(t):r"""\d+\.\d+"""t.value=float(t.value)returntdeft_NUM(t):r"""\d+"""t.value=int(t.value)returnt#未定义规则字符的错误处理deft_error(t):#此处的t.value包含未标记的其余输入print(f"keywordnotfound:{t.value[0]}\nline{t.lineno}")t.lexer.skip(1)#如果遇到\n则将其设为新的一行deft_newline(t):r"""\n+"""t.lexer.lineno+=t.value.count("\n")
为导入词法分析器,我们将使用:
importply.lexaslex
t_
是一个特殊的前缀,表示定义标记的规则。每条词法规则都是用正则表达式制作的,与 Python
中的 re
模块兼容。正则表达式能够根据规则扫描输入并搜索符合的符号串。正则表达式定义的文法称为正则文法。正则文法定义的语言则称为正则语言。
定义好了规则,我们将构建词法分析器:
data='a=2+(10-8)/1.0'lexlexer=lex.lex()lexer.input(data)whiletok:=lexer.token():print(tok)
为了传递输入字符串,我们使用lexer.input(data)
。lexer.token()
将返回下一个 LexToken
实例,最后返回 None。根据上述规则,代码 2 + ( 10 -8)/1.0 的标记将是:
紫色字符代表的是标记的名称,其后是标记的具体内容。
3.巴科斯-诺尔范式(Backus-Naur Form,BNF)
大多数编程语言都可以用上下文无关文法来编写。它比常规语言更复杂。对于上下文无关文法,我们用上下文无关语法,它是描述语言中所有可能语法的规则集。BNF
是一种定义语法的方式,它描述了编程语言的语法。
让我们看看例子:
symbol : alternative1 | alternative2 …
根据产生式,: 的左侧被替换为右侧的其中一个值替换。右侧的值由 | 分隔(可理解为 symbol
定义为 alternative1
或 alternative2
或…… 等等)。
对于我们的这个算术解释器,语法规格如下:
expression:expression'+'expression|expression'-'expression|expression'/'expression|expression'*'expression|expression'^'expression|+expression|-expression|(expression)|NUM|FLOAT
输入的标记是诸如 NUM
、FLOAT
、+、-、*、/ 之类的符号,称作终端(无法继续分解或产生其他符号的字符)。一个表达式由终端和规则集组成,例如 expression
则称为非终端。
4.解析器(Parser)
我们将使用 YACC(Yet Another Compiler Compiler) 作为解析器生成器。导入模块:import ply.yacc as yacc
。
fromoperatorimport(add,sub,mul,truediv,pow)#我们的解释器支持的运算符列表ops={"+":add,"-":sub,"*":mul,"/":truediv,"^":pow,}defp_expression(p):"""expression:expressionPLUSexpression|expressionMINUSexpression|expressionDIVexpression|expressionMULexpression|expressionPOWexpression"""if(p[2],p[3])==("/",0):#如果除以0,则将“INF”(无限)作为值p[0]=float("INF")else:p[0]=ops[p[2]](p[1],p[3])defp_expression_uplus_or_expr(p):"""expression:PLUSexpression%precUPLUS|LPARENexpressionRPAREN"""p[0]=p[2]defp_expression_uminus(p):"""expression:MINUSexpression%precUMINUS"""p[0]=-p[2]defp_expression_num(p):"""expression:NUM|FLOAT"""p[0]=p[1]#语法错误时的规则defp_error(p):print(f"Syntaxerrorin{p.value}")
在文档字符串中,我们将添加适当的语法规范。p 列表中的的元素与语法符号一一对应,如下所示:
expression:expressionPLUSexpressionp[0]p[1]p[2]p[3]
在上文中,%prec UPLUS
和 %prec UMINUS
是用来表示自定义运算的。%prec
即是 precedence
的缩写。在符号中本来没有 UPLUS 和 UMINUS 这个说法(在本文中这两个自定义运算表示一元正号和符号,其实 UPLUS 和 UMINUS 只是个名字,想取什么就取什么)。之后,我们可以添加基于表达式的规则。YACC 允许为每个令牌分配优先级。
我们可以使用以下方法设置它:
precedence=(("left","PLUS","MINUS"),("left","MUL","DIV"),("left","POW"),("right","UPLUS","UMINUS"))
在优先级声明中,标记按优先级从低到高的顺序排列。PLUS
和 MINUS
优先级相同并且具有左结合性(运算从左至右执行)。MUL
和 DIV
的优先级高于 PLUS 和 MINUS,也具有左结合性。POW 亦是如此,不过优先级更高。UPLUS 和 UMINUS 则是具有右结合性(运算从右至左执行)。
要解析输入我们将使用:
parser=yacc.yacc()result=parser.parse(data)print(result)
完整代码如下:
######################################引入模块######################################fromloggingimport(basicConfig,INFO,getLogger)fromoperatorimport(add,sub,mul,truediv,pow)importply.lexasleximportply.yaccasyacc#我们的解释器支持的运算符列表ops={"+":add,"-":sub,"*":mul,"/":truediv,"^":pow,}######################################标记集######################################tokens=(#数据类型"NUM","FLOAT",#算术运算"PLUS","MINUS","MUL","DIV","POW",#括号"LPAREN","RPAREN",)######################################标记的正则表达式######################################t_PLUS=r"\+"t_MINUS=r"\-"t_MUL=r"\*"t_DIV=r"/"t_LPAREN=r"\("t_RPAREN=r"\)"t_POW=r"\^"#忽略空格和制表符t_ignore="\t"#为每个规则添加动作deft_FLOAT(t):r"""\d+\.\d+"""t.value=float(t.value)returntdeft_NUM(t):r"""\d+"""t.value=int(t.value)returnt#未定义规则字符的错误处理deft_error(t):#此处的t.value包含未标记的其余输入print(f"keywordnotfound:{t.value[0]}\nline{t.lineno}")t.lexer.skip(1)#如果看到\n则将其设为新的一行deft_newline(t):r"""\n+"""t.lexer.lineno+=t.value.count("\n")######################################设置符号优先级######################################precedence=(("left","PLUS","MINUS"),("left","MUL","DIV"),("left","POW"),("right","UPLUS","UMINUS"))######################################书写BNF规则######################################defp_expression(p):"""expression:expressionPLUSexpression|expressionMINUSexpression|expressionDIVexpression|expressionMULexpression|expressionPOWexpression"""if(p[2],p[3])==("/",0):#如果除以0,则将“INF”(无限)作为值p[0]=float("INF")else:p[0]=ops[p[2]](p[1],p[3])defp_expression_uplus_or_expr(p):"""expression:PLUSexpression%precUPLUS|LPARENexpressionRPAREN"""p[0]=p[2]defp_expression_uminus(p):"""expression:MINUSexpression%precUMINUS"""p[0]=-p[2]defp_expression_num(p):"""expression:NUM|FLOAT"""p[0]=p[1]#语法错误时的规则defp_error(p):print(f"Syntaxerrorin{p.value}")######################################主程式######################################if__name__=="__main__":basicConfig(level=INFO,filename="logs.txt")lexlexer=lex.lex()parser=yacc.yacc()whileTrue:try:result=parser.parse(input(">>>"),debug=getLogger())print(result)exceptAttributeError:print("invalidsyntax")
以上就是如何利用Python开发一个Python解释器,小编相信有部分知识点可能是我们日常工作会见到或用到的。希望你能通过这篇文章学到更多知识。更多详情敬请关注亿速云行业资讯频道。
推荐阅读
-
python多行注释符号怎么表示
python多行注释符号怎么表示这篇文章主要介绍“python多行...
-
python支持的操作系统是什么
python支持的操作系统是什么这篇文章主要介绍“python支持...
-
python如何判断列表为空
python如何判断列表为空这篇文章主要介绍“python如何判断...
-
Python如何利用D3Blocks绘制可动态交互的图表
-
2021年度编程语言揭晓
-
PPython:PHP 拥抱 Python 的利器
-
哪种Python IDE最适合你?这里有一份优缺点列表
-
Python分隔字符串函数用法split
aaa,bbb=str.split(‘&&’,2)第一个参数为分隔符第二个参数是要完成的最大拆分数...
-
php安全编程——python测试实例编写
-
神奇的Python模块:pdfkit,将Python抓取的网址内容保存pdf文件