SimHash
SimHash 是 Charikar 提出的局部敏感哈希(LSH),将文本映射为定长位串,相似文本的汉明距离小。
用途
在大规模文本集合中以 O(1) 比较发现近似重复文档,支撑去重与聚类。
机制
对文本的每个特征(如 N-gram)计算独立哈希,按哈希各位的 0/1 对特征权重做加减,最终符号位组成 SimHash 指纹。相似度越高汉明距离越小。
用例
- 大规模网页去重
- 近似文档聚类
- 抄袭检测
SimHash 是 Charikar 提出的局部敏感哈希(LSH),将文本映射为定长位串,相似文本的汉明距离小。
在大规模文本集合中以 O(1) 比较发现近似重复文档,支撑去重与聚类。
对文本的每个特征(如 N-gram)计算独立哈希,按哈希各位的 0/1 对特征权重做加减,最终符号位组成 SimHash 指纹。相似度越高汉明距离越小。