syntax.c 13 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220221222223224225226227228229230231232233234235236237238239240241242243244245246247248249250251252253254255256257258259260261262263264265266267268269270271272273274275276277278279280281282283284285286287288289290291292293294295296297298299300301302303304305306307308309310311312313314315316317318319320321322323324325326327328329330331332333334335336337338339340341342343344345346347348349350351352353354355356357358359360361362363364365366367368369
  1. #include "__virtualmath.h"
  2. /**
  3. * 匹配一个数字字面量
  4. * 匹配器规则:
  5. * START模式:判断比较第一个字符(是否为数字或者小数点),若匹配成功则进入ING模式,若失败则进入MISTAKE模式
  6. * ING模式:继续匹配,直到遇到非数字或小数点。则检查是否为英文字母,若是则进入SECOND模式,否则进入END模式
  7. * SECOND模式:继续匹配,知道遇到非字母、下划线、数字的内容,进入END模式
  8. * END模式:进入END模式意味着匹配结束了,通过checkoutMather可以检查该匹配器是否被采用,采用后则生成token,并且读取器回退一个字符
  9. * MISTAKE模式:错误
  10. * 匹配内容:12.3jk_2,其中12.3存储在str中,jk_2存储在str_second中
  11. * @param p
  12. * @param mather
  13. */
  14. void numberMather(int p, LexMather *mather){
  15. if (mather->status == LEXMATHER_START || mather->status == LEXMATHER_ING_1 || mather->status == LEXMATHER_ING_2)
  16. if (isdigit(p) || '.' == p && mather->status == LEXMATHER_ING_1){
  17. mather->str = memStrCharcpy(mather->str, 1, true, true, p);
  18. mather->len += 1;
  19. if ('.' == p)
  20. mather->status = LEXMATHER_ING_2;
  21. else if (mather->status == LEXMATHER_START)
  22. mather->status = LEXMATHER_ING_1;
  23. }
  24. else if(mather->status == LEXMATHER_ING_1 || mather->status == LEXMATHER_ING_2){
  25. if (isalpha(p) ||'_' == p){
  26. mather->second_str = memStrCharcpy(mather->second_str, 1, true, true, p);
  27. mather->status = LEXMATHER_ING_3;
  28. }
  29. else
  30. mather->status = LEXMATHER_END_1;
  31. }
  32. else
  33. mather->status = LEXMATHER_MISTAKE;
  34. else if (mather->status == LEXMATHER_ING_3)
  35. if (isalnum(p) ||'_' == p)
  36. mather->second_str = memStrCharcpy(mather->second_str, 1, true, true, p);
  37. else
  38. mather->status = LEXMATHER_END_1;
  39. else
  40. mather->status = LEXMATHER_MISTAKE;
  41. }
  42. /**
  43. * 匹配一个变量
  44. * 匹配模式:匹配器结束模式为END_SECOND模式,也就是当checkoutMather检查的时候,END_SECOND位于END的优先级之后。
  45. * END_SECOND解决了冲突:关键词if可以满足varMather的匹配,但他并不是变量,if有特殊的匹配器(strMather)来匹配。
  46. * 匹配内容:a, a_123
  47. * @param p
  48. * @param mather
  49. */
  50. void varMather(int p, LexMather *mather){
  51. if (mather->status == LEXMATHER_START || mather->status == LEXMATHER_ING_1){
  52. if (isalpha(p) ||'_' == p || isdigit(p) && mather->status == LEXMATHER_ING_1){
  53. mather->str = memStrCharcpy(mather->str, 1, true, true, p);
  54. mather->len ++;
  55. mather->status = LEXMATHER_ING_1;
  56. }
  57. else if(mather->status == LEXMATHER_ING_1)
  58. mather->status = LEXMATHER_END_2;
  59. else if(mather->status == LEXMATHER_START)
  60. mather->status = LEXMATHER_MISTAKE;
  61. }
  62. else{
  63. mather->status = LEXMATHER_MISTAKE;
  64. }
  65. }
  66. /**
  67. * 匹配一个字符串字面量
  68. * 注意:string_type记录的是字符串结束标志(‘或者“)
  69. * 此处引进LEXMATHER_PASS,是为了在匹配到结束标志"或者'后,多读取一个字符,然后在统一回退
  70. * 匹配内容:’134‘,”123“
  71. * @param p
  72. * @param mather
  73. */
  74. void stringMather(int p, LexMather *mather){
  75. if (mather->status == LEXMATHER_START)
  76. if ('\"' == p || '\'' == p){
  77. mather->status = LEXMATHER_ING_1;
  78. mather->string_type = p;
  79. }
  80. else
  81. mather->status = LEXMATHER_MISTAKE;
  82. else if (mather->status == LEXMATHER_ING_1)
  83. if (mather->string_type == p)
  84. mather->status = LEXMATHER_ING_4;
  85. else if (EOF == p)
  86. mather->status = LEXMATHER_MISTAKE;
  87. else{
  88. mather->str = memStrCharcpy(mather->str, 1, true, true, p);
  89. mather->len ++;
  90. mather->status = LEXMATHER_ING_1;
  91. }
  92. else if (mather->status == LEXMATHER_ING_3)
  93. if (isalnum(p) ||'_' == p)
  94. mather->second_str = memStrCharcpy(mather->second_str, 1, true, true, p);
  95. else
  96. mather->status = LEXMATHER_END_1;
  97. else if(mather->status == LEXMATHER_ING_4)
  98. if (isalpha(p) ||'_' == p){
  99. mather->second_str = memStrCharcpy(mather->second_str, 1, true, true, p);
  100. mather->status = LEXMATHER_ING_3;
  101. }
  102. else
  103. mather->status = LEXMATHER_END_1;
  104. else
  105. mather->status = LEXMATHER_MISTAKE;
  106. }
  107. /**
  108. * 匹配关键词dest_p
  109. * @param p
  110. * @param mather
  111. * @param dest_p
  112. */
  113. void strMather(int p, LexMather *mather, const char *dest_p){
  114. if (mather->status == LEXMATHER_START || mather->status == LEXMATHER_ING_1)
  115. if (p == dest_p[mather->len]){
  116. mather->str = memStrCharcpy(mather->str, 1, true, true, p);
  117. mather->len ++;
  118. mather->status = LEXMATHER_ING_1;
  119. }
  120. else if(mather->status == LEXMATHER_ING_1 && mather->len == memStrlen((char *)dest_p))
  121. mather->status = LEXMATHER_END_1;
  122. else
  123. mather->status = LEXMATHER_MISTAKE;
  124. else
  125. mather->status = LEXMATHER_MISTAKE;
  126. }
  127. /**
  128. * 匹配但个字符dest_p
  129. * @param p
  130. * @param mather
  131. * @param dest_p
  132. */
  133. void charMather(int p, LexMather *mather, int dest_p){
  134. if (p == dest_p && mather->status == LEXMATHER_START){
  135. mather->str = memStrCharcpy(mather->str, 1, true, true, p);
  136. mather->len ++;
  137. mather->status = LEXMATHER_ING_1;
  138. }
  139. else if (mather->status == LEXMATHER_ING_1)
  140. mather->status = LEXMATHER_END_1;
  141. else
  142. mather->status = LEXMATHER_MISTAKE;
  143. }
  144. /**
  145. * 匹配空白符号
  146. * @param p
  147. * @param mather
  148. */
  149. void spaceMather(int p, LexMather *mather){
  150. if (mather->status == LEXMATHER_START || mather->status == LEXMATHER_ING_1)
  151. if (isspace(p) && p != '\n'){
  152. mather->str = memStrCharcpy(mather->str, 1, true, true, p);
  153. mather->len ++;
  154. mather->status = LEXMATHER_ING_1;
  155. }
  156. else if (mather->status == LEXMATHER_ING_1)
  157. mather->status = LEXMATHER_END_1;
  158. else
  159. mather->status = LEXMATHER_MISTAKE;
  160. else
  161. mather->status = LEXMATHER_MISTAKE;
  162. }
  163. void backslashMather(int p, LexMather *mather){
  164. if (mather->status == LEXMATHER_START)
  165. if (p == '\\')
  166. mather->status = LEXMATHER_ING_1;
  167. else
  168. mather->status = LEXMATHER_MISTAKE;
  169. else if (mather->status == LEXMATHER_ING_1) {
  170. if (p == EOF)
  171. mather->status = LEXMATHER_END_1;
  172. else if (p == '\n')
  173. mather->status = LEXMATHER_ING_2;
  174. }
  175. else if (mather->status == LEXMATHER_ING_2)
  176. mather->status = LEXMATHER_END_1;
  177. else
  178. mather->status = LEXMATHER_MISTAKE;
  179. }
  180. void commentMather(int p, LexMather *mather){
  181. if (mather->status == LEXMATHER_START) {
  182. if (p == '#')
  183. mather->status = LEXMATHER_ING_1;
  184. else
  185. mather->status = LEXMATHER_MISTAKE;
  186. }
  187. else if (mather->status == LEXMATHER_ING_1) { // 匹配到1个#的模式
  188. if (p == '#')
  189. mather->status = LEXMATHER_ING_3;
  190. else if (p == '\n' || p == EOF)
  191. mather->status = LEXMATHER_END_1;
  192. else
  193. mather->status = LEXMATHER_ING_2;
  194. }
  195. else if (mather->status == LEXMATHER_ING_2){ // 单#匹配模式
  196. if (p == '\n' || p == EOF)
  197. mather->status = LEXMATHER_END_1;
  198. }
  199. else if (mather->status == LEXMATHER_ING_3) { // 双#匹配模式
  200. if (p == '#')
  201. mather->status = LEXMATHER_ING_4;
  202. else if (p == EOF)
  203. mather->status = LEXMATHER_END_1;
  204. }
  205. else if (mather->status == LEXMATHER_ING_4) {
  206. if (p == '#')
  207. mather->status = LEXMATHER_ING_5;
  208. else
  209. mather->status = LEXMATHER_ING_3;
  210. }
  211. else if (mather->status == LEXMATHER_ING_5)
  212. mather->status = LEXMATHER_END_1;
  213. else
  214. mather->status = LEXMATHER_MISTAKE;
  215. }
  216. /**
  217. * 开始匹配,返回的int即checkoutMather返回的值(匹配成功的匹配器的索引)
  218. * @param file
  219. * @param mathers
  220. * @return
  221. */
  222. int getMatherStatus(LexFile *file, LexMathers *mathers) {
  223. setupMathers(mathers);
  224. int status = -1;
  225. while (status == -1){
  226. int p = readChar(file);
  227. numberMather(p ,mathers->mathers[MATHER_NUMBER]);
  228. stringMather(p ,mathers->mathers[MATHER_STRING]);
  229. varMather(p ,mathers->mathers[MATHER_VAR]);
  230. spaceMather(p ,mathers->mathers[MATHER_SPACE]);
  231. commentMather(p ,mathers->mathers[MATHER_COMMENT]);
  232. backslashMather(p ,mathers->mathers[MATHER_NOTENTER]);
  233. charMatherMacro(MATHER_EOF, EOF);
  234. charMatherMacro(MATHER_ENTER, '\n');
  235. strMatherMacro(MATHER_IF, "if"); // 条件判断
  236. strMatherMacro(MATHER_ELIF, "elif"); // 条件循环
  237. strMatherMacro(MATHER_WHILE, "while"); // 条件循环
  238. strMatherMacro(MATHER_FOR, "for"); // 遍历
  239. strMatherMacro(MATHER_IN, "in"); // 定义类
  240. strMatherMacro(MATHER_TRY, "try"); // 定义函数
  241. strMatherMacro(MATHER_EXCEPT, "except"); // 定义表达式(匿名函数)
  242. strMatherMacro(MATHER_AS, "as"); // 异常捕获
  243. strMatherMacro(MATHER_WITH, "with"); // 异常捕获
  244. strMatherMacro(MATHER_DO, "do"); // 捕获
  245. strMatherMacro(MATHER_ELSE, "else"); // 捕获
  246. strMatherMacro(MATHER_FINALLY, "finally"); // 条件分支
  247. strMatherMacro(MATHER_DEFAULT, "default"); // 条件-否则
  248. strMatherMacro(MATHER_GLOBAL, "global"); // 结束分支
  249. strMatherMacro(MATHER_NONLOCAL, "nonlocal"); // 结束分支
  250. strMatherMacro(MATHER_PUBLIC, "public"); // 结束分支
  251. strMatherMacro(MATHER_PROTECT, "protect"); // break跳出分支(循环、条件等)
  252. strMatherMacro(MATHER_PRIVATE, "private");
  253. strMatherMacro(MATHER_TRUE, "true");
  254. strMatherMacro(MATHER_FALSE, "false");
  255. strMatherMacro(MATHER_NULL, "null");
  256. strMatherMacro(MATHER_DEF, "def");
  257. strMatherMacro(MATHER_CLASS, "class");
  258. strMatherMacro(MATHER_BLOCK, "block");
  259. strMatherMacro(MATHER_BREAK, "break");
  260. strMatherMacro(MATHER_CONTINUE, "continue");
  261. strMatherMacro(MATHER_REGO, "rego");
  262. strMatherMacro(MATHER_RESTART, "restart");
  263. strMatherMacro(MATHER_RETURN, "return");
  264. strMatherMacro(MATHER_YIELD, "yield");
  265. strMatherMacro(MATHER_IMPORT, "import");
  266. strMatherMacro(MATHER_INCLUDE, "include");
  267. charMatherMacro(MATHER_ADD, '+');
  268. charMatherMacro(MATHER_SUB, '-');
  269. charMatherMacro(MATHER_MUL, '*');
  270. charMatherMacro(MATHER_DIV, '/');
  271. strMatherMacro(MATHER_INTDIV, "//");
  272. charMatherMacro(MATHER_PER, '%');
  273. strMatherMacro(MATHER_POW, "**");
  274. strMatherMacro(MATHER_EQ, "==");
  275. strMatherMacro(MATHER_MOREEQ, ">=");
  276. strMatherMacro(MATHER_LESSEQ, "<=");
  277. charMatherMacro(MATHER_MORE, '>');
  278. charMatherMacro(MATHER_LESS, '<');
  279. strMatherMacro(MATHER_NOTEQ, "!=");
  280. charMatherMacro(MATHER_BITAND, '&');
  281. charMatherMacro(MATHER_BITOR, '|');
  282. charMatherMacro(MATHER_BITXOR, '^');
  283. charMatherMacro(MATHER_BITNOT, '~');
  284. strMatherMacro(MATHER_BITLEFT, "<<");
  285. strMatherMacro(MATHER_BITRIGHT, ">>");
  286. strMatherMacro(MATHER_BOOLAND, "&&");
  287. strMatherMacro(MATHER_BOOLOR, "||");
  288. charMatherMacro(MATHER_BOOLNOT, '!');
  289. charMatherMacro(MATHER_ASSIGNMENT, '=');
  290. charMatherMacro(MATHER_POINT, '.');
  291. charMatherMacro(MATHER_AT, '@');
  292. charMatherMacro(MATHER_SVAR, '$');
  293. charMatherMacro(MATHER_LP, '(');
  294. charMatherMacro(MATHER_RP, ')');
  295. charMatherMacro(MATHER_LB, '[');
  296. charMatherMacro(MATHER_RB, ']');
  297. charMatherMacro(MATHER_LC, '{');
  298. charMatherMacro(MATHER_RC, '}');
  299. charMatherMacro(MATHER_COMMA, ',');
  300. charMatherMacro(MATHER_COLON, ':');
  301. charMatherMacro(MATHER_SEMICOLON, ';');
  302. strMatherMacro(MATHER_LINK, "->");
  303. strMatherMacro(MATHER_RAISE, "raise");
  304. strMatherMacro(MATHER_FROM, "from");
  305. strMatherMacro(MATHER_ASSERT, "assert");
  306. strMatherMacro(MATHER_LAMBDA, "lambda");
  307. strMatherMacro(MATHER_GOTO, "goto");
  308. strMatherMacro(MATHER_LABEL, "label");
  309. strMatherMacro(MATHER_PASSVALUE, "...");
  310. status = checkoutMather(mathers, MATHER_MAX);
  311. }
  312. backChar(file);
  313. return status;
  314. }
  315. int lexFilter(LexFile *file, int status){
  316. if (status == MATHER_SPACE || status == MATHER_NOTENTER || status == MATHER_COMMENT)
  317. return -1;
  318. if (file->filter_data.enter != 0 && status == MATHER_ENTER) {
  319. printf("TAG A\n");
  320. return -1;
  321. }
  322. return status;
  323. }
  324. /**
  325. * getMatherStatus的高级封装,若匹配到空格则自动忽略(再次匹配)
  326. * @param file
  327. * @param mathers
  328. * @return
  329. */
  330. Token *getToken(LexFile *file, LexMathers *mathers) {
  331. int status = MATHER_SPACE;
  332. int filter;
  333. Token *tmp = NULL;
  334. while ((filter = lexFilter(file, status)) == -1)
  335. status = getMatherStatus(file, mathers);
  336. if (status == -2){
  337. tmp = makeLexToken(MATHER_ERROR_, NULL, NULL, file->line);
  338. goto return_;
  339. }
  340. tmp = makeLexToken(filter, mathers->mathers[status]->str, mathers->mathers[status]->second_str, file->line);
  341. return_:
  342. return tmp;
  343. }