1
0

syntax.c 11 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220221222223224225226227228229230231232233234235236237238239240241242243244245246247248249250251252253254255256257258259260261262263264265266267268269270271272273274275276277278279280281282283284285286
  1. #include "__syntax.h"
  2. /**
  3. * 匹配一个数字字面量
  4. * 匹配器规则:
  5. * START模式:判断比较第一个字符(是否为数字或者小数点),若匹配成功则进入ING模式,若失败则进入MISTAKE模式
  6. * ING模式:继续匹配,直到遇到非数字或小数点。则检查是否为英文字母,若是则进入SECOND模式,否则进入END模式
  7. * SECOND模式:继续匹配,知道遇到非字母、下划线、数字的内容,进入END模式
  8. * END模式:进入END模式意味着匹配结束了,通过checkoutMather可以检查该匹配器是否被采用,采用后则生成token,并且读取器回退一个字符
  9. * MISTAKE模式:错误
  10. * 匹配内容:12.3jk_2,其中12.3存储在str中,jk_2存储在str_second中
  11. * @param p
  12. * @param mather
  13. */
  14. void numberMather(int p, LexMather *mather){
  15. if (mather->status == LEXMATHER_START || mather->status == LEXMATHER_ING || mather->status == LEXMATHER_INGPOINT)
  16. if (isdigit(p) || '.' == p && mather->status == LEXMATHER_ING){
  17. mather->str = memStrCharcpy(mather->str, 1, true, true, p);
  18. mather->len += 1;
  19. if ('.' == p)
  20. mather->status = LEXMATHER_INGPOINT;
  21. else if (mather->status == LEXMATHER_START)
  22. mather->status = LEXMATHER_ING;
  23. }
  24. else if(mather->status == LEXMATHER_ING || mather->status == LEXMATHER_INGPOINT){
  25. if (isalpha(p) ||'_' == p){
  26. mather->second_str = memStrCharcpy(mather->second_str, 1, true, true, p);
  27. mather->status = LEXMATHER_INGSECOND;
  28. }
  29. else
  30. mather->status = LEXMATHER_END;
  31. }
  32. else
  33. mather->status = LEXMATHER_MISTAKE;
  34. else if (mather->status == LEXMATHER_INGSECOND)
  35. if (isalnum(p) ||'_' == p)
  36. mather->second_str = memStrCharcpy(mather->second_str, 1, true, true, p);
  37. else
  38. mather->status = LEXMATHER_END;
  39. else
  40. mather->status = LEXMATHER_MISTAKE;
  41. }
  42. /**
  43. * 匹配一个变量
  44. * 匹配模式:匹配器结束模式为END_SECOND模式,也就是当checkoutMather检查的时候,END_SECOND位于END的优先级之后。
  45. * END_SECOND解决了冲突:关键词if可以满足varMather的匹配,但他并不是变量,if有特殊的匹配器(strMather)来匹配。
  46. * 匹配内容:a, a_123
  47. * @param p
  48. * @param mather
  49. */
  50. void varMather(int p, LexMather *mather){
  51. if (mather->status == LEXMATHER_START || mather->status == LEXMATHER_ING){
  52. if (isalpha(p) ||'_' == p || isdigit(p) && mather->status == LEXMATHER_ING){
  53. mather->str = memStrCharcpy(mather->str, 1, true, true, p);
  54. mather->len ++;
  55. mather->status = LEXMATHER_ING;
  56. }
  57. else if(mather->status == LEXMATHER_ING)
  58. mather->status = LEXMATHER_END_SECOND;
  59. else if(mather->status == LEXMATHER_START)
  60. mather->status = LEXMATHER_MISTAKE;
  61. }
  62. else{
  63. mather->status = LEXMATHER_MISTAKE;
  64. }
  65. }
  66. /**
  67. * 匹配一个字符串字面量
  68. * 注意:string_type记录的是字符串结束标志(‘或者“)
  69. * 此处引进LEXMATHER_PASS,是为了在匹配到结束标志"或者'后,多读取一个字符,然后在统一回退
  70. * 匹配内容:’134‘,”123“
  71. * @param p
  72. * @param mather
  73. */
  74. void stringMather(int p, LexMather *mather){
  75. if (mather->status == LEXMATHER_START)
  76. if ('\"' == p || '\'' == p){
  77. mather->status = LEXMATHER_ING;
  78. mather->string_type = p;
  79. }
  80. else
  81. mather->status = LEXMATHER_MISTAKE;
  82. else if (mather->status == LEXMATHER_ING)
  83. if (mather->string_type == p)
  84. mather->status = LEXMATHER_INGPASS;
  85. else if (EOF == p)
  86. mather->status = LEXMATHER_MISTAKE;
  87. else{
  88. mather->str = memStrCharcpy(mather->str, 1, true, true, p);
  89. mather->len ++;
  90. mather->status = LEXMATHER_ING;
  91. }
  92. else if (mather->status == LEXMATHER_INGSECOND)
  93. if (isalnum(p) ||'_' == p)
  94. mather->second_str = memStrCharcpy(mather->second_str, 1, true, true, p);
  95. else
  96. mather->status = LEXMATHER_END;
  97. else if(mather->status == LEXMATHER_INGPASS)
  98. if (isalpha(p) ||'_' == p){
  99. mather->second_str = memStrCharcpy(mather->second_str, 1, true, true, p);
  100. mather->status = LEXMATHER_INGSECOND;
  101. }
  102. else
  103. mather->status = LEXMATHER_END;
  104. else
  105. mather->status = LEXMATHER_MISTAKE;
  106. }
  107. /**
  108. * 匹配关键词dest_p
  109. * @param p
  110. * @param mather
  111. * @param dest_p
  112. */
  113. void strMather(int p, LexMather *mather, const char *dest_p){
  114. if (mather->status == LEXMATHER_START || mather->status == LEXMATHER_ING)
  115. if (p == dest_p[mather->len]){
  116. mather->str = memStrCharcpy(mather->str, 1, true, true, p);
  117. mather->len ++;
  118. mather->status = LEXMATHER_ING;
  119. }
  120. else if(mather->status == LEXMATHER_ING && mather->len == memStrlen((char *)dest_p))
  121. mather->status = LEXMATHER_END;
  122. else
  123. mather->status = LEXMATHER_MISTAKE;
  124. else
  125. mather->status = LEXMATHER_MISTAKE;
  126. }
  127. /**
  128. * 匹配但个字符dest_p
  129. * @param p
  130. * @param mather
  131. * @param dest_p
  132. */
  133. void charMather(int p, LexMather *mather, int dest_p){
  134. if (p == dest_p && mather->status == LEXMATHER_START){
  135. mather->str = memStrCharcpy(mather->str, 1, true, true, p);
  136. mather->len ++;
  137. mather->status = LEXMATHER_ING;
  138. }
  139. else if (mather->status == LEXMATHER_ING)
  140. mather->status = LEXMATHER_END;
  141. else
  142. mather->status = LEXMATHER_MISTAKE;
  143. }
  144. /**
  145. * 开始匹配,返回的int即checkoutMather返回的值(匹配成功的匹配器的索引)
  146. * @param file
  147. * @param mathers
  148. * @return
  149. */
  150. int getMatherStatus(LexFile *file, LexMathers *mathers, FILE *debug) {
  151. setupMathers(mathers);
  152. int status = -1;
  153. while (status == -1){
  154. int p = readChar(file);
  155. if (p == EOF)
  156. writeLog_(debug, LEXICAL_DEBUG, "get char: (EOF)\n", NULL);
  157. else if (p == '\n')
  158. writeLog_(debug, LEXICAL_DEBUG, "get char: (\\n)\n", NULL);
  159. else
  160. writeLog_(debug, LEXICAL_DEBUG, "get char: '%c'\n", p);
  161. numberMather(p ,mathers->mathers[MATHER_NUMBER]);
  162. stringMather(p ,mathers->mathers[MATHER_STRING]);
  163. varMather(p ,mathers->mathers[MATHER_VAR]);
  164. charMatherMacro(MATHER_EOF, EOF);
  165. charMatherMacro(MATHER_ENTER, '\n');
  166. charMatherMacro(MATHER_SPACE, ' ');
  167. strMatherMacro(MATHER_IF, "if"); // 条件判断
  168. strMatherMacro(MATHER_ELIF, "elif"); // 条件循环
  169. strMatherMacro(MATHER_WHILE, "while"); // 条件循环
  170. strMatherMacro(MATHER_FOR, "for"); // 遍历
  171. strMatherMacro(MATHER_IN, "in"); // 定义类
  172. strMatherMacro(MATHER_TRY, "try"); // 定义函数
  173. strMatherMacro(MATHER_EXCEPT, "except"); // 定义表达式(匿名函数)
  174. strMatherMacro(MATHER_AS, "as"); // 异常捕获
  175. strMatherMacro(MATHER_WITH, "with"); // 异常捕获
  176. strMatherMacro(MATHER_DO, "do"); // 捕获
  177. strMatherMacro(MATHER_ELSE, "else"); // 捕获
  178. strMatherMacro(MATHER_FINALLY, "finally"); // 条件分支
  179. strMatherMacro(MATHER_DEFAULT, "default"); // 条件-否则
  180. strMatherMacro(MATHER_GLOBAL, "global"); // 结束分支
  181. strMatherMacro(MATHER_NONLOCAL, "nonlocal"); // 结束分支
  182. strMatherMacro(MATHER_PUBLIC, "public"); // 结束分支
  183. strMatherMacro(MATHER_PROTECT, "protect"); // break跳出分支(循环、条件等)
  184. strMatherMacro(MATHER_PRIVATE, "private");
  185. strMatherMacro(MATHER_TRUE, "true");
  186. strMatherMacro(MATHER_FALSE, "false");
  187. strMatherMacro(MATHER_NULL, "null");
  188. strMatherMacro(MATHER_DEF, "def");
  189. strMatherMacro(MATHER_CLASS, "class");
  190. strMatherMacro(MATHER_BLOCK, "block");
  191. strMatherMacro(MATHER_BREAK, "break");
  192. strMatherMacro(MATHER_CONTINUE, "continue");
  193. strMatherMacro(MATHER_REGO, "rego");
  194. strMatherMacro(MATHER_RESTART, "restart");
  195. strMatherMacro(MATHER_RETURN, "return");
  196. strMatherMacro(MATHER_YIELD, "yield");
  197. strMatherMacro(MATHER_IMPORT, "import");
  198. strMatherMacro(MATHER_INCLUDE, "include");
  199. charMatherMacro(MATHER_ADD, '+');
  200. charMatherMacro(MATHER_SUB, '-');
  201. charMatherMacro(MATHER_MUL, '*');
  202. charMatherMacro(MATHER_DIV, '/');
  203. strMatherMacro(MATHER_INTDIV, "//");
  204. charMatherMacro(MATHER_PER, '%');
  205. strMatherMacro(MATHER_POW, "**");
  206. strMatherMacro(MATHER_EQ, "==");
  207. strMatherMacro(MATHER_MOREEQ, ">=");
  208. strMatherMacro(MATHER_LESSEQ, "<=");
  209. charMatherMacro(MATHER_MORE, '>');
  210. charMatherMacro(MATHER_LESS, '<');
  211. strMatherMacro(MATHER_NOTEQ, "!=");
  212. charMatherMacro(MATHER_BITAND, '&');
  213. charMatherMacro(MATHER_BITOR, '|');
  214. charMatherMacro(MATHER_BITXOR, '^');
  215. charMatherMacro(MATHER_BITNOT, '~');
  216. strMatherMacro(MATHER_BITLEFT, "<<");
  217. strMatherMacro(MATHER_BITRIGHT, ">>");
  218. strMatherMacro(MATHER_BOOLAND, "&&");
  219. strMatherMacro(MATHER_BOOLOR, "||");
  220. charMatherMacro(MATHER_BOOLNOT, '!');
  221. charMatherMacro(MATHER_ASSIGNMENT, '=');
  222. charMatherMacro(MATHER_POINT, '.');
  223. charMatherMacro(MATHER_AT, '@');
  224. charMatherMacro(MATHER_SVAR, '$');
  225. charMatherMacro(MATHER_LP, '(');
  226. charMatherMacro(MATHER_RP, ')');
  227. charMatherMacro(MATHER_LB, '[');
  228. charMatherMacro(MATHER_RB, ']');
  229. charMatherMacro(MATHER_LC, '{');
  230. charMatherMacro(MATHER_RC, '}');
  231. charMatherMacro(MATHER_COMMA, ',');
  232. charMatherMacro(MATHER_COLON, ':');
  233. charMatherMacro(MATHER_SEMICOLON, ';');
  234. strMatherMacro(MATHER_LINK, "->");
  235. strMatherMacro(MATHER_RAISE, "raise");
  236. strMatherMacro(MATHER_FROM, "from");
  237. status = checkoutMather(mathers, MATHER_MAX, debug);
  238. writeLog_(debug, LEXICAL_DEBUG, "get status: %d\n", status);
  239. }
  240. backChar(file);
  241. return status;
  242. }
  243. /**
  244. * getMatherStatus的高级封装,若匹配到空格则自动忽略(再次匹配)
  245. * @param file
  246. * @param mathers
  247. * @return
  248. */
  249. Token *getToken(LexFile *file, LexMathers *mathers, FILE *debug) {
  250. int status = MATHER_SPACE;
  251. Token *tmp;
  252. writeLog_(debug, DEBUG, "get token: [%ld]\n", file->count);
  253. while (status == MATHER_SPACE)
  254. status = getMatherStatus(file, mathers, debug);
  255. if (status == -2){
  256. writeLog_(debug, ERROR, "lexical ERROR\n", NULL);
  257. tmp = makeLexToken(MATHER_ERROR_, NULL, NULL, file->line);
  258. goto return_;
  259. }
  260. tmp = makeLexToken(status, mathers->mathers[status]->str, mathers->mathers[status]->second_str, file->line);
  261. printTokenEnter(tmp, debug, DEBUG, "new token: ");
  262. writeLog_(debug, DEBUG, "\n", NULL);
  263. return_:
  264. file->count ++;
  265. return tmp;
  266. }