经典 NLP 任务：文本分类、信息抽取与机器翻译

2196 字

11 分钟

经典 NLP 任务：文本分类、信息抽取与机器翻译

2026-10-13

09-自然语言处理

NLP

/

Text-Classification

/

Information-Extraction

/

Machine-Translation

三个典型任务#

词法分析和句法分析提供基础结构，文本分类、信息抽取和机器翻译则把结构用于实际任务。这三个任务覆盖了 NLP 的三种典型输出形式：

文本分类：输出离散类别；
信息抽取：输出结构化字段或三元组；
机器翻译：输出另一段自然语言文本。

文本分类#

文本分类在给定分类体系下，自动判断文本所属的类别。常见任务包括：

主题分类：科技、体育、财经等；
情感分类：正向、负向、中性；
意图识别：对话系统中判断用户想做什么；
自然语言推理：判断前提与假设之间是蕴含、矛盾还是中立；
多选问答：从候选答案中选择正确项。

按分类单元，可以分为文档级、句子级和属性级。属性级情感分析会针对句子中的不同属性分别判断情感极性，例如“屏幕很好，但价格太贵”中，屏幕是正向、价格是负向。

统计文本分类的流程#

传统文本分类通常包括四步：

1
文本 → 文本表示 → 特征选择 → 分类模型 → 类别

文本表示#

词袋模型（Bag of Words）：忽略词序，只统计词的出现；
向量空间模型（Vector Space Model）：把文本表示为高维向量；
n-gram 特征：保留局部词序信息；
TF-IDF：用词频和逆文档频率衡量词对文档的区分能力；
词向量：用 Word2Vec、GloVe 等稠密向量表示词，再池化为文本表示。

TF-IDF 的常见形式为：

\text{tf-idf}(t, d) = \text{tf}(t, d) \cdot \log\frac{N}{\text{df}(t)}

其中：

$\text{tf}(t,d)$ ：词 $t$ 在文档 $d$ 中的频率；
$\text{df}(t)$ ：包含词 $t$ 的文档数；
$N$ ：文档总数。

特征选择#

高维稀疏特征容易导致过拟合。常用特征选择方法包括信息增益、卡方检验、互信息和文档频率阈值。

分类模型#

常见的统计分类器有：

K 近邻（KNN）
决策树
朴素贝叶斯
逻辑回归
最大熵模型
支持向量机（SVM）

这些模型各有偏好：

朴素贝叶斯：适合高维稀疏文本；
SVM：在小样本高维数据上表现稳定；
逻辑回归：可解释性好，且输出概率。

深度学习方法#

神经网络把特征工程和分类器合并为一个端到端模型：

CNN 用卷积核捕捉局部 n-gram 特征；
RNN/LSTM 建模词序和长距离依赖；
Transformer/BERT 用自注意力获取上下文表示，再在 [CLS] 上接分类头。

BERT 的微调流程见 BERT 预训练和 BERT 微调实践。分类任务的评价指标见 NLP 评价指标。

信息抽取#

信息抽取（Information Extraction, IE）从非结构化或半结构化文本中抽取实体、属性、关系和事件，形成结构化数据。它是知识图谱构建的核心技术。

信息抽取通常包括三个层次：

实体抽取：识别文本中的实体及其类别，即命名实体识别；
关系抽取：识别实体之间的语义关系；
事件抽取：识别事件及其参与者、时间、地点等要素。

实体抽取#

实体抽取就是 NER。按领域可以分：

通用领域：人名、地名、机构名；
垂直领域：需要定义领域实体，例如医疗领域的疾病名、药品名、仪器名，电影领域的电影名、演员名、导演名。

具体方法见词法分析。

关系抽取#

关系抽取自动识别两个或多个实体之间的语义联系。给定句子“阿尔伯特·爱因斯坦 1879 年 3 月 14 日出生在德国”，可以抽取：

1
(阿尔伯特·爱因斯坦, 出生地, 德国)
2
(阿尔伯特·爱因斯坦, 出生日期, 1879-03-14)

关系抽取可以按不同维度分类：

按实体数量：二元关系抽取和多元关系抽取；
按数据来源：面向结构化数据、半结构化数据和非结构化文本的抽取。

按关系集合是否预定义，又可以分为：

限定域关系抽取：从预定义的关系类别中选择，通常建模为分类任务；
开放域关系抽取：不限定关系类别，直接从文本中抽取关系短语和三元组。

传统方法包括：

基于模板：人工编写“[X]出生于[Y]”等模板，可解释但维护成本高；
基于统计学习：把关系抽取看作分类任务，利用实体类型、上下文词、句法特征等训练分类器；
远程监督：用已有知识库对齐文本，自动生成弱标注数据。其基本假设是：如果两个实体在知识库中存在某种关系，那么包含这两个实体的句子都可能表达该关系。远程监督能缓解标注数据不足，但会引入噪声。

深度学习方法用 CNN、RNN、Transformer 编码句子，再做关系分类；也可以把实体抽取和关系抽取联合建模，减少错误传播。

事件抽取#

事件抽取检测文本中的事件及其相关信息。事件通常包含：

事件触发词（trigger）：标志事件发生的词或短语，往往是主要动词；
事件论元（argument）：参与事件的实体和属性；
论元角色（role）：论元在事件中扮演的角色，如施事、受事、时间、地点。

例如：

1
[Welch] 在 [GE] 的退休方案中获得了 [退休待遇]。
2
Trigger: 退休
3
Event type: 人事变动：离职
4
Person-Arg: Welch
5
Entity-Arg: GE

事件抽取分为：

闭域事件抽取：基于预定义的事件类型和论元角色，通常转化为分类或序列标注任务。ACE-2005 是经典的多语言事件抽取数据集。
开域事件抽取：不预设事件结构，从文本中自动发现事件类型和论元。

事件抽取比实体和关系抽取更复杂，因为一个事件可能跨越多句，论元也可能远离触发词。现代方法常用预训练模型编码文档，再做触发词识别和论元角色分类。知识图谱中的事件抽取与表示见知识图谱。

机器翻译#

机器翻译（Machine Translation, MT）用计算机把一种语言的文本转换为另一种语言。它是 NLP 中历史最悠久、影响最广泛的任务之一。

发展脉络#

基于规则的方法：人工编写源语言到目标语言的语法规则和词典，进行词法、句法转换。可解释但规则爆炸，难以覆盖真实语言。
统计机器翻译：从双语平行语料中学习翻译概率，核心包括词对齐、翻译模型和语言模型。基于短语的方法把连续短语作为翻译单元，显著提升了流畅度。
神经机器翻译：用编码器把源句编码为向量，解码器自回归生成译文。Seq2Seq + 注意力解决了长句对齐问题，Transformer 进一步用自注意力替代 RNN，成为 NMT 的主流架构。相关基础见 Seq2Seq 和自注意力。
大模型翻译：用大规模多语言预训练模型直接生成译文，配合提示工程、上下文示例和术语约束，在通用领域取得很强的效果，但在低资源语言、专业领域和术语一致性上仍需专门优化。

机器翻译的难点#

词对齐：源语言和目标语言的词不是一一对应，存在一对多、多对一和语序调整；
语序差异：如中英文的定语、状语位置不同；
歧义：词义、句法结构和指代都可能有多解；
没有唯一答案：同一句话可以有多种正确译法，评价比分类任务困难；
领域与文化：专业术语、习语、文化背景需要额外知识。

机器翻译的评价#

机器翻译常用 BLEU 评价：统计候选译文与参考译文的 n-gram 精确率，并用长度惩罚抑制过短译文。BLEU 的公式和局限见 NLP 评价指标。基于预训练模型的 BERTScore、COMET 以及 LLM-as-a-Judge 也在翻译评价中广泛使用。

biscuitの博客