跳到主要内容
uencoder

SimHash

SimHash 是 Charikar 提出的局部敏感哈希(LSH),将文本映射为定长位串,相似文本的汉明距离小。

用途

在大规模文本集合中以 O(1) 比较发现近似重复文档,支撑去重与聚类。

机制

对文本的每个特征(如 N-gram)计算独立哈希,按哈希各位的 0/1 对特征权重做加减,最终符号位组成 SimHash 指纹。相似度越高汉明距离越小。

用例

  • 大规模网页去重
  • 近似文档聚类
  • 抄袭检测

相关工具

参考链接