编译原理学习笔记2——使用Lex

类别:编程语言 点击:0 评论:0 推荐:

第一次在blog上粘代码时觉得很郁闷,缩进变得很短,关键字也没有颜色变化(当然这么简单的用复制粘贴也只能是这种效果)后来自己用c#做了个小程序,用来在代码里贴上html标签。折腾里一个晚上,费了不少劲。第二天在自习室里泡了一整天,终于看到了Lex的使用,这时才恍然大悟,原来昨晚做的就是词法分析,那干吗不用现成的工具作呢?

选择工具

Unix下的Lex是词法分析生成器的祖师,这个软件我们应该是很难见到,不过他的后继们使用起来都差不多。比较容易找到是Linux下的flex,如果想在Windows下使用,可以安装Cygwin。作为辅助工具,我觉得utraledit也值得装一下,使用起来比vi和Xemacs好用一些,而Notepad又不支持Unix的换行。如果喜欢别的语言,也可以去网上找些相应的Lex工具,比如生成Java的JLex,以及用JLex扩展出的C#Lex.

学习工具

flex有详细的使用说明。想查的话在Linux/Cygwin的控制台里敲man flex  不过在控制台里一页一页的看很烦人,不如敲man flex>flextut.txt  然后用UltraEdit慢慢看。另外,网上关于flex使用的文章很多。至于C#Lex,相关的文章不多,遇到问题可以找有关JLex的文档。

写脚本

把代码转成Html源文件的第一步应该是替换特殊字符,看看用flex怎么写。

%option noyywrap

%%

" "            {printf(" ");}
"<"            {printf("<");}
">"            {printf(">");}
"\n"           {printf("<br>");}
"\t"           {printf(" &nbsp;&nbsp;&nbsp;&nbsp;");}

%%

int main()
{
    printf("<FONT face=\"Courier New\" size=2>");
    yylex();
    printf("</FONT>");
}

flex的输入文件(.l)文件由%%分成了三部分,大致上可以把他们看作是函数(yylex( ))前,函数内和函数后。简单的字符转换不需要写宏定义,第一部分本来什么也不用写了,但他生成的代码总是不能通过编译,说缺少yywrap的定义。后来多方查找反复试验终于发现,在前面加个%option noyywrap就好了

第二部分是行为定义,也就是说匹配到什么串就执行什么操作,是整个flex脚本的核心。前面的字符替换应该一目了然。最后一部分是在函数外面运行的,通常要写个main函数。现在这个东西就可以看作是个flex的最简单应用了。然后保存文件replace.l,运行flex replace.l会生成一个lex.yy.c,这就是根据你的脚本生成的c源文件了。编译(gcc lex.yy.c)、运行(a.exe<code.txt>des.txt)。des.txt里的东西就是替换后的文本了。

处理完特殊字符后,就要处理保留字和注释的着色,这时候就看出来flex的强大了。代码如下:

 

%option noyywrap
%{
    #include<string>
    #include<cstdio>
    using namespace std;
    
    string keywords[]={"class","namespace","if","else","while","null","char", 
                                     "int","string","private","public","protected","get",
                                     "set","value","true","false","double","return","for",
                                     "virtual","override","void","bool","foreach","in","is",
                                     "as","using","new","this",""};
%}

digit            [0-9]
alpha            [A-Za-z]

comment          "//"([^>])*\>
String           \"([^"]*("/\"")?)*\"
identify         {alpha}({alpha}|{digit})*


%%

{comment}         {printf("<font color=green>%s</font>",yytext);}
{identify}        { 
                         int iskey=0; 
                         for(int i=0;keywords[i]!=string("");i++) 
                         if(string(yytext)==keywords[i]) 
                         { 
                             iskey=1; 
                             break; 
                         } 
                         if(iskey) 
                             printf("<font color=blue>%s</font>",yytext); 
                         else 
                             printf("%s",yytext); 
                   }
{String}          {printf("%s",yytext);}

%%

int main()
{
    yylex();
}

在第一部分里有一个%{  %}括起来的部分,在这里可以添加yylex( )函数外想写的东西,通常要有些#include命令。另外,虽然按照默认规定,用flex生成的是c源文件,但可以使用stl库,只是编译时得使用g++。

第一部分剩下的东西可以看作是宏定义,给你喜欢的正则表达式起个别名,第二部分定义行为时,只要在这个宏名外加个{}就行了。

本文地址:http://com.8s8s.com/it/it27864.htm