1. 自然语言处理(NLP)的本质与核心任务
自然语言处理(Natural Language Processing,简称NLP)是人工智能领域中最具挑战性的分支之一,它致力于让计算机能够理解、解释和生成人类语言。与编程语言不同,人类语言充满歧义、隐喻和文化特异性,这使得NLP成为连接人类认知与机器智能的关键桥梁。
1.1 语言理解的三个层次
NLP系统处理语言时通常需要跨越三个认知层次:
- 词法分析:将原始文本分解为有意义的单元。中文分词就是典型例子,"自然语言处理"需要被正确切分为["自然","语言","处理"]而非["自然语","言处","理"]。英文虽然以空格分隔单词,但"New York"这样的复合词仍需特殊处理。
- 句法分析:理解词语间的结构关系。例如在句子"苹果吃完了"中,需要区分"苹果"是主语(水果被食用)还是宾语(公司产品被消耗)。依赖解析树(Dependency Parsing)和成分分析(Constituency Parsing)是两种主流方法。
- 语义理解:捕捉文本的真实含义。当用户说"会议室太冷了",NLP系统需要理解这可能是要求调高温度,而不仅仅是环境状态描述。这涉及到指代消解、语义角色标注等复杂任务。
1.2 经典NLP任务全景图
现代NLP技术已渗透到各个应用场景,以下是最具代表性的六类任务:
| 任务类型 | 典型应用 | 技术难点 | 常用算法 |
|---|---|---|---|
| 文本分类 | 垃圾邮件过滤、情感分析 | 短文本特征稀疏 | SVM、FastText、BERT |
| 序列标注 | 命名实体识别、词性标注 | 标签依赖关系 | CRF、BiLSTM |
| 语义匹配 |
