python使用结巴分词导入自己的分词词典

1.创建分词字典:
创建一个TXT文件,文件一行为一个词(文档编码必须为UTF-8)
dict.txt

青藏铁路
责任编辑
西藏自治区

导入:

import jieba

jieba.load_userdict("./dict.txt") #导入自己的分词词典
word_list = jieba.cut(content) #对文本进行分词
print("|".join(word_list))

2.使用add_word和suggest_freq:

import jieba

jieba.suggest_freq('青藏铁路',True)
jieba.add_word('青藏铁路',tag='d')
jieba.add_word('责任编辑',tag='d')
jieba.add_word('西藏自治区',tag='d')
word_list = jieba.cut(content)
print("|".join(word_list))

猜你喜欢

转载自blog.csdn.net/liusisi_/article/details/107154251