我们在文本中进行关键词查找或替换时,会使用 re 模块以正则的形式实现。在文本数量、文本内容、关键词数量较小时,该方法能够满足我们程序的功能、性能需要。但当在大规模的文本或者对大量关键词语料查找或者替换,re 实现方案的性能将成为瓶颈,本文我们将介绍一种新的关键词搜索和替换的算法——Flashtext。
安装方法:
$ pip install flashtext
使用代码实例:
from flashtext import KeywordProcessor keyword_processor = KeywordProcessor() keyword_processor.add_keyword('Big Apple', 'New York') keyword_processor.add_keyword('Bay Area') keywords_found ['New York', 'Bay Area']
通常如果需要对文本进行清理或者替换,我们使用re模块或者是正则就可以处理完成了,但是如果积累的内容较多,就不适应这些方式,因此掌握住FlashText模块,是最好用的替代方式。
神龙|纯净稳定代理IP免费测试>>>>>>>>天启|企业级代理IP免费测试>>>>>>>>IPIPGO|全球住宅代理IP免费测试