1、新闻文本特征工程概述

大家好，我是你们这趟课的讲师。做了这么多年NLP，我越来越觉得，特征工程就像做菜的刀工——食材再好，切得乱七八糟也成不了席。今天咱们就来聊聊，新闻文本的特征工程到底是个啥，为什么非做不可。

什么是特征工程

说白了，特征工程就是把原始文本变成机器能理解的语言。你想想看，计算机不认识汉字，它只认数字。我们得想办法把一篇新闻稿，转成一串有意义的数字向量。

我个人的习惯是，把特征工程分成三个层次：

• 基础层：词袋模型、TF-IDF，这些是最朴素的表示方法
• 结构层：n-gram、词性标注、句法依赖，捕捉文本的局部结构
• 语义层：词向量、主题模型、预训练表示，理解文本的深层含义

记得我刚入行时，带我的老工程师说过一句话：「特征工程做得好，模型训练省一半的力。」这话我到现在都深以为然。

为什么新闻文本需要特征工程

新闻文本有个特点——又长又杂。一篇报道可能上千字，里面掺杂着人名、地名、数字、引语。直接扔给模型，效果往往很差。

我在项目中遇到过这样一个案例：某新闻分类任务，直接用原始文本训练，准确率只有68%。后来我们做了特征工程——提取关键词、计算TF-IDF、加入新闻来源特征，准确率直接跳到83%。

为什么会这样？因为新闻文本有几个天然痛点：

痛点	说明	特征工程解法
高维稀疏	词汇量大，但每篇只出现少量词	特征选择、降维
噪声多	广告、无关信息、错别字	文本清洗、停用词过滤
语义复杂	一词多义、反讽、隐含情感	词向量、上下文特征
时效性强	新词、热词不断涌现	动态词表、增量更新

嗯，这里要注意一点：新闻文本的特征工程，不能只做一次就完事。新闻是活的，特征也得跟着迭代。

特征工程在NLP中的位置

我经常把NLP流程比作一条流水线：

没有特征工程，模型就像瞎子摸象。有了好的特征，模型才能看清全貌。

下面这张图是我自己画的，能帮你快速理解特征工程在整个NLP流程中的位置：

避坑指南

做新闻文本特征工程，有几个坑我踩过，分享给你：

• 不要过度清洗：我曾经把新闻中的引号、冒号全删了，结果模型分不清谁在说话。有些标点其实是语义特征。
• 注意数据泄露：做特征时千万别用到未来信息。比如用整篇文章的词频做TF-IDF，训练集和测试集要分开计算。
• 别迷信复杂特征：有时候简单的词频特征，比花里胡哨的预训练向量更管用。先跑个baseline再说。

好了，这一章咱们把特征工程的概念、必要性、以及在NLP中的位置都捋了一遍。下一章我会带你手把手做新闻文本的清洗和分词，那才是真正动手的时候。