Stemming
词干提取是将单词还原为词根(stem)的启发式过程,如 running → run,使词形变化不影响检索匹配。
用途
使不同词形的单词匹配同一词根,提升搜索召回率。
机制
用启发式规则(如 Porter 算法)去除后缀:ing、ed、s、ly 等。不保证语言学正确(如 universe → univers,university → univers),但快速且确定。Snowball 为改进版。
用例
- 搜索引擎词形归并
- 文本分类特征降维
- 信息检索查询扩展
- 词频统计
示例
- 输入
running → run输出Stem runPorter algorithm
常见错误
- Over-stemming (e.g., business → bus)
- Use dictionary-assisted lemmatization