模块5:jieba库的使用

jiaba分词的原理

jiaba分词依靠中文词库

——利用一个中文词库,确定汉字之间的关联概率

——汉字间概率大的组成词组,形成分词结果

——除了分词,用户还可以添加自定义的词组

jiaba库使用说明

精确模式、全模式、搜索引擎模式

——精确模式:吧文本精确的切分开i,不存在冗余单词;

——全模式:把文本中所有可能的词语都扫描出来,有冗余;

——搜索引擎模式:在精确模式基础上,对长词再次切分。

jiaba库常用函数

猜你喜欢

转载自www.cnblogs.com/li-zhi-qiang/p/9268915.html