Bag of Words

词袋模型将文本表示为无序词频向量，忽略语法与词序，是文本分类与检索的基础表示。

用途

将文本转为固定维度向量，使机器学习算法可处理文本。

机制

构建词汇表 V，对每篇文档统计每个词的出现次数，输出 |V| 维向量。忽略词序与语法。常配合 TF-IDF 加权与停用词过滤。维度等于词汇表大小。

用例

文本分类（朴素贝叶斯）
垃圾邮件检测
情感分析
文档聚类

示例

输入

"the cat sat" + "the dog ran"

输出

Word-frequency vector

Ignores word order

常见错误

Ignoring word order loses semantic meaning: Use n-gram or deep models to preserve order

相关词条

TF-IDF（词频-逆文档频率）衡量词对文档的重要程度：在该文档高频但在语料中低频的词权重高。

分词是将文本切分为语义单元（词、子词、字符）的序列，是 NLP 与搜索引擎的基础步骤。

Cosine Similarity

余弦相似度度量两向量夹角的余弦值，忽略向量长度，常用于文本向量相似度计算。

N-gram 是将文本切分为 N 个连续单元（字符或词）的序列，用于语言模型、相似度与文本分析。

参考链接