这篇文章主要介绍python如何实现Simhash算法,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!

1、simhash步骤

simhash包含分词、hash、加权、合并、降维五大步骤

simhash代码如下:

importjiebaimportjieba.analyseimportnumpyasnpclassSimHash(object):defsimHash(self,content):seg=jieba.cut(content)#jieba.analyse.set_stop_words('stopword.txt')#jieba基于TF-IDF提取关键词keyWords=jieba.analyse.extract_tags("|".join(seg),topK=10,withWeight=True)keyList=[]forfeature,weightinkeyWords:#print('feature:'+feature)print('weight:{}'.format(weight))#weight=math.ceil(weight)weight=int(weight)binstr=self.string_hash(feature)print('feature:%s,string_hash%s'%(feature,binstr))temp=[]forcinbinstr:if(c=='1'):temp.append(weight)else:temp.append(-weight)keyList.append(temp)listSum=np.sum(np.array(keyList),axis=0)if(keyList==[]):return'00'simhash=''foriinlistSum:if(i>0):simhash=simhash+'1'else:simhash=simhash+'0'returnsimhashdefstring_hash(self,source):ifsource=="":return0else:temp=source[0]temp1=ord(temp)x=ord(source[0])<<7m=1000003mask=2**128-1forcinsource:x=((x*m)^ord(c))&maskx^=len(source)ifx==-1:x=-2x=bin(x).replace('0b','').zfill(64)[-64:]returnstr(x)defgetDistance(self,hashstr1,hashstr2):'''计算两个simhash的汉明距离'''length=0forindex,charinenumerate(hashstr1):ifchar==hashstr2[index]:continueelse:length+=1returnlength1.1分词

分词是将文本文档进行分割成不同的词组,比如词1为:今天星期四,词2为:今天星期五

得出分词结果为【今天,星期四】【今天,星期五】

1.2hash

hash是将分词结果取hash值
星期四hash为:0010001100100000101001101010000000101111011010010001100011011110
今天hash为:0010001111010100010011110001110010100011110111111011001011110101
星期五hash为:0010001100100000101001101010000000101111011010010000000010010001

1.3加权

1.4合并

1.5降维

降维是将合并的结果进行降维,如果值大于0,则置为1小于0 则置为0,因此得到的结果为:

2、simhash比对

一般simhash采用海明距离来进行计算相似度,海明距离计算如下:

对于A,B两个n维二进制数

二者的海明距离为:

其中:

举例:

1000与1111的海明距离为3

以上是“python如何实现Simhash算法”这篇文章的所有内容,感谢各位的阅读!希望分享的内容对大家有帮助,更多相关知识,欢迎关注亿速云行业资讯频道!