跳到主要内容
uencoder

Stemming

词干提取是将单词还原为词根(stem)的启发式过程,如 running → run,使词形变化不影响检索匹配。

用途

使不同词形的单词匹配同一词根,提升搜索召回率。

机制

用启发式规则(如 Porter 算法)去除后缀:ing、ed、s、ly 等。不保证语言学正确(如 universe → univers,university → univers),但快速且确定。Snowball 为改进版。

用例

  • 搜索引擎词形归并
  • 文本分类特征降维
  • 信息检索查询扩展
  • 词频统计

示例

  • 输入
    running → run
    输出
    Stem run

    Porter algorithm

常见错误

Over-stemming (e.g., business → bus)
Use dictionary-assisted lemmatization

相关词条

参考链接