词法分析（Lexical Analysis）：分析由字符组成的单词是否合法，如果没有问题的话，则产生一个单词流。
语法分析（Syntactic Analysis）：分析由单词组成的句子是否合法，如果没有问题的话，则产生一个语法树。
在词法分析器分析源代码文本的时候，有一个概念需要明确：
1.物理行：由回车字符序列（在Windows上是CR LF，在Unix上是LF）结尾的字符序列组成一个物理行。
2.逻辑行：由一个或者多个物理行组成，可以明确地使用反斜杠（\）来连接多个物理行使之成为一个逻辑行；或者，处在圆括号，中括号，花括号内的表达式可以跨越多个物理行，但是被当作一个逻辑行。
词法分析器是面向逻辑行的，也就是说，对于词法分析器而言，只有逻辑行才算是一行，它只在逻辑行结束之处才产生NEWLINE这个单词或者说token。
对于每一处缩进，不管它有多少个空白字符，词法分析器只会产生一个INDENT单词或者说token，代表缩进一级，每当要退出一级缩进的时候，词法分析器就会产生一个DEDENT单词或者说token。注意，单词DEDENT并没有一个或一组字符与之对应，它是完全的逻辑概念。
Python使用稍作修改的BNF（巴科斯范式）来表示词法与语法规则。
下面重点说一下需要注意的地方，以避免发生一些低级但是隐蔽的编程错误。
1.标识符是区分大小写的，但是仍然不要仅仅用大小写不同来区分两个变量。
2.不要使用那些在其它编程语言中是关键字的标识符作为变量名，因为它们很可能会成为Python的关键字。
3.不要使用Python明确声明有特殊意义的标志符作为变量名（这类变量一般以下划线开头），除非明确自己要使用那个特殊含义。
4.不要在Python中使用$和?(字符串中除外)，它们不是合法的字符。
5.不要混用Tab和空格来表示缩进，只使用其中一种，并养成习惯。
6.整数字面常量有10，16，8，2几种表示方法，如果使用16进制，请写0xa或者0Xa；如果使用8进制，请写0o7或者0O7；如果使用2进制，请写0b1或者0B1；总之，不要省略掉那个标识进制的字母，建议只使用小写字母。
7.在整数字面常量后加一个l或者L就形成了一个长整数，建议只使用L，因为小写l看起来像数字1.
8.整数使用32位表示，但是长整数并不限于多少位表示，在内存允许的情况下，它可以表示任意大小的整数，这与C语言等是不一样的。
9.如果一个整数字面常量的值超过32位整数的表示范围，那么Python会自动将它升级为长整数，但是在早期的Python实现中可能并非如此，因此如果你预计需要一个很大的整数值，请明确使用长整数。
10.浮点数字面常量只有10进制形式。
0
0
Python的词法分析与语法分析
php中文网
发布时间：2016-06-16 08:46:32
|1624人浏览过
|来源于php中文网
原创
相关文章
argparse 如何实现“参数A存在时必须同时提供参数B”
Python typing 模块为何如此复杂？
Python 列表切片的时间复杂度分析
Python 中 id() 返回的值是否唯一？生命周期视角分析
标题：质数指数编码的压缩本质与不可行性分析
python速学教程(入门到精通)
下载
python怎么学习？python怎么入门？python在哪学？python怎么学才快？不用担心，这里为大家提供了python速学教程(入门到精通)，有需要的小伙伴保存下载就能学习啦！
本站声明：本文内容由网友自发贡献，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系admin@php.cn
热门AI工具
相关专题
PHP WebSocket 实时通信开发
本专题系统讲解 PHP 在实时通信与长连接场景中的应用实践，涵盖 WebSocket 协议原理、服务端连接管理、消息推送机制、心跳检测、断线重连以及与前端的实时交互实现。通过聊天系统、实时通知等案例，帮助开发者掌握 使用 PHP 构建实时通信与推送服务的完整开发流程，适用于即时消息与高互动性应用场景。
3
2026.01.19
C++ 单元测试与代码质量保障
本专题系统讲解 C++ 在单元测试与代码质量保障方面的实战方法，包括测试驱动开发理念、Google Test/Google Mock 的使用、测试用例设计、边界条件验证、持续集成中的自动化测试流程，以及常见代码质量问题的发现与修复。通过工程化示例，帮助开发者建立 可测试、可维护、高质量的 C++ 项目体系。
57
2026.01.16
热门下载
精品课程
相关推荐
/
热门推荐
/
最新课程
