色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

基于flashtext模塊使用FlashText算法進行字符串查找和替換

科技綠洲 ? 來源:Python實用寶典 ? 作者:Python實用寶典 ? 2023-10-30 10:16 ? 次閱讀

FlashText 算法是由 Vikash Singh 于2017年發表的大規模關鍵詞替換算法,這個算法的時間復雜度僅由文本長度(N)決定,算法時間復雜度為O(N)。

而對于正則表達式的替換,算法時間復雜度還需要考慮被替換的關鍵詞數量(M),因此時間復雜度為O(MxN)。

簡而言之, 基于FlashText算法的字符串替換比正則表達式替換快M倍以上,這個M是需要替換的關鍵詞數量,關鍵詞越多,FlashText算法的優勢就越明顯

下面就給大家介紹如何在 Python 中基于 flashtext 模塊使用 FlashText 算法進行字符串查找和替換,如果覺得對你的項目團隊很有幫助,請記得幫作者轉發一下哦。

1.準備

開始之前,你要確保Python和pip已經成功安裝在電腦上,如果沒有,可以訪問這篇文章:超詳細Python安裝指南 進行安裝。

(可選1) 如果你用Python的目的是數據分析,可以直接安裝Anaconda:Python數據分析與挖掘好幫手—Anaconda,它內置了Python和pip.

(可選2) 此外,推薦大家用VSCode編輯器,它有許多的優點:Python 編程的最好搭檔—VSCode 詳細指南

請選擇以下任一種方式輸入命令安裝依賴

  1. Windows 環境 打開 Cmd (開始-運行-CMD)。
  2. MacOS 環境 打開 Terminal (command+空格輸入Terminal)。
  3. 如果你用的是 VSCode編輯器 或 Pycharm,可以直接使用界面下方的Terminal.
pip install flashtext

2.基本使用

提取關鍵詞

一個最基本的提取關鍵詞的例子如下:

from flashtext import KeywordProcessor
# 1. 初始化關鍵字處理器
keyword_processor = KeywordProcessor()
# 2. 添加關鍵詞
keyword_processor.add_keyword('Big Apple', 'New York')
keyword_processor.add_keyword('Bay Area')
# 3. 處理目標句子并提取相應關鍵詞
keywords_found = keyword_processor.extract_keywords('I love Big Apple and Bay Area.')
# 4. 結果
print(keywords_found)
# ['New York', 'Bay Area']

其中** add_keyword **的第一個參數代表需要被查找的關鍵詞,第二個參數是給這個關鍵詞一個別名,如果找到了則以別名顯示。

替換關鍵詞

如果你想要替換關鍵詞,只需要調用處理器的** replace_keywords **函數:

from flashtext import KeywordProcessor
# 1. 初始化關鍵字處理器
keyword_processor = KeywordProcessor()
# 2. 添加關鍵詞
keyword_processor.add_keyword('New Delhi', 'NCR region')
# 3. 替換關鍵詞
new_sentence = keyword_processor.replace_keywords('I love Big Apple and new delhi.')
# 4. 結果
print(new_sentence)
# 'I love New York and NCR region.'

關鍵詞大小寫敏感

如果你需要精確提取,識別大小寫字母,那么你可以在處理器初始化的時候設定** sensitive **參數:

from flashtext import KeywordProcessor
# 1. 初始化關鍵字處理器, 注意設置大小寫敏感(case_sensitive)為TRUE
keyword_processor = KeywordProcessor(case_sensitive=True)
# 2. 添加關鍵詞
keyword_processor.add_keyword('Big Apple', 'New York')
keyword_processor.add_keyword('Bay Area')
# 3. 處理目標句子并提取相應關鍵詞
keywords_found = keyword_processor.extract_keywords('I love big Apple and Bay Area.')
# 4. 結果
print(keywords_found)
# ['Bay Area']

標記關鍵詞位置

如果你需要獲取關鍵詞在句子中的位置,在** extract_keywords的時候添加span_info=True **參數即可:

from flashtext import KeywordProcessor
# 1. 初始化關鍵字處理器
keyword_processor = KeywordProcessor()
# 2. 添加關鍵詞
keyword_processor.add_keyword('Big Apple', 'New York')
keyword_processor.add_keyword('Bay Area')
# 3. 處理目標句子并提取相應關鍵詞, 并標記關鍵詞的起始、終止位置
keywords_found = keyword_processor.extract_keywords('I love big Apple and Bay Area.', span_info=True)
# 4. 結果
print(keywords_found)
# [('New York', 7, 16), ('Bay Area', 21, 29)]

獲取目前所有的關鍵詞

如果你需要獲取當前已經添加的所有關鍵詞,只需要調用處理器的** get_all_keywords **函數:

from flashtext import KeywordProcessor
# 1. 初始化關鍵字處理器
keyword_processor = KeywordProcessor()
# 2. 添加關鍵詞
keyword_processor.add_keyword('j2ee', 'Java')
keyword_processor.add_keyword('colour', 'color')
# 3. 獲取所有關鍵詞
keyword_processor.get_all_keywords()
# output: {'colour': 'color', 'j2ee': 'Java'}

批量添加關鍵詞

批量添加關鍵詞有兩種方法,一種是通過詞典,一種是通過數組:

from flashtext import KeywordProcessor
# 1. 初始化關鍵字處理器
keyword_processor = KeywordProcessor()
# 2. (第一種)通過字典批量添加關鍵詞
keyword_dict = {
    "java": ["java_2e", "java programing"],
    "product management": ["PM", "product manager"]
}
keyword_processor.add_keywords_from_dict(keyword_dict)
# 2. (第二種)通過數組批量添加關鍵詞
keyword_processor.add_keywords_from_list(["java", "python"])
# 3. 第一種的提取效果如下
keyword_processor.extract_keywords('I am a product manager for a java_2e platform')
# output ['product management', 'java']

單一或批量刪除關鍵詞

刪除關鍵詞也非常簡單,和添加類似:

from flashtext import KeywordProcessor
# 1. 初始化關鍵字處理器
keyword_processor = KeywordProcessor()
# 2. 通過字典批量添加關鍵詞
keyword_dict = {
    "java": ["java_2e", "java programing"],
    "product management": ["PM", "product manager"]
}
keyword_processor.add_keywords_from_dict(keyword_dict)
# 3. 提取效果如下
print(keyword_processor.extract_keywords('I am a product manager for a java_2e platform'))
# ['product management', 'java']
# 4. 單個刪除關鍵詞
keyword_processor.remove_keyword('java_2e')
# 5. 批量刪除關鍵詞,也是可以通過詞典或者數組的形式
keyword_processor.remove_keywords_from_dict({"product management": ["PM"]})
keyword_processor.remove_keywords_from_list(["java programing"])
# 6. 刪除了java programing關鍵詞后的效果如下
keyword_processor.extract_keywords('I am a product manager for a java_2e platform')
# ['product management']

3.高級使用

支持額外信息

前面提到在添加關鍵詞的時候第二個參數為其別名,其實你不僅可以指示別名,還可以將額外信息放到第二個參數中:

from flashtext import KeywordProcessor
# 1. 初始化關鍵字處理器
kp = KeywordProcessor()
# 2. 添加關鍵詞并附帶額外信息
kp.add_keyword('Taj Mahal', ('Monument', 'Taj Mahal'))
kp.add_keyword('Delhi', ('Location', 'Delhi'))
# 3. 效果如下
kp.extract_keywords('Taj Mahal is in Delhi.')
# [('Monument', 'Taj Mahal'), ('Location', 'Delhi')]

這樣,在提取關鍵詞的時候,你還能拿到其他一些你想要在得到此關鍵詞時輸出的信息。

支持特殊單詞邊界

Flashtext 檢測的單詞邊界一般局限于 w [A-Za-z0-9_] 外的任意字符,但是如果你想添加某些特殊字符作為單詞的一部分也是可以實現的:

from flashtext import KeywordProcessor
# 1. 初始化關鍵字處理器
keyword_processor = KeywordProcessor()
# 2. 添加關鍵詞
keyword_processor.add_keyword('Big Apple')
# 3. 正常效果
print(keyword_processor.extract_keywords('I love Big Apple/Bay Area.'))
# ['Big Apple']
# 4. 將 '/' 作為單詞一部分
keyword_processor.add_non_word_boundary('/')
# 5. 優化后的效果
print(keyword_processor.extract_keywords('I love Big Apple/Bay Area.'))
# []

4.結尾

個人認為這個模塊已經滿足我們的基本使用了,如果你有一些該模塊提供的功能之外的使用需求,可以給 flashtext 貢獻代碼:
https://github.com/vi3k6i5/flashtext

附 FlashText 與正則相比 查詢關鍵詞 所花費的時間之比:

圖片

附 FlashText 與正則相比 替換關鍵詞 所花費的時間之比:

圖片

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 模塊
    +關注

    關注

    7

    文章

    2721

    瀏覽量

    47566
  • 字符串
    +關注

    關注

    1

    文章

    584

    瀏覽量

    20552
收藏 人收藏

    評論

    相關推薦

    Labview之搜索替換字符串

    Labview之搜索替換字符串,很好的Labview資料,快來下載學習吧。
    發表于 04-19 10:23 ?0次下載

    Labview之替換字符串

    Labview之替換字符串,很好的Labview資料,快來下載學習吧。
    發表于 04-19 10:43 ?0次下載

    C語言教程之字符串替換

    C語言教程之字符串替換,很好的C語言資料,快來學習吧。
    發表于 04-25 15:49 ?0次下載

    python基礎教程之Python學習入門字符串的詳細程序資料說明

    Python 字符串操作,如string替換、刪除、截取、復制、連接、比較、查找、包含、大小寫轉換、分割等。
    發表于 10-30 19:13 ?8次下載

    LabVIEW的常用字符串操作教程免費下載

    字符串操作與信息的保存和顯示密不可分,而字符串操作運用也是LabⅥEW程序設計的一個難點,因此熟練使用字符串操作函數是使用LabⅥEW進行編程所必備的能力之
    發表于 08-21 14:51 ?26次下載
    LabVIEW的常用<b class='flag-5'>字符串</b>操作教程免費下載

    Python替換字符串的新方法

    FlashText 算法是由 Vikash Singh 于2017年發表的大規模關鍵詞替換算法,這個算法的時間復雜度僅由文本長度(N)決定,算法
    的頭像 發表于 04-09 16:37 ?2060次閱讀

    字符串函數重寫練習

    字符串函數重寫練習:字符串比較、字符串拼接、字符串查找字符串拷貝、內存比較、內存拷貝、內存初始
    的頭像 發表于 05-05 15:02 ?2004次閱讀

    C語言總結_字符串函數封裝練習

    字符串函數重寫練習:字符串比較、字符串拼接、字符串查找字符串拷貝、內存比較、內存拷貝、內存初始
    的頭像 發表于 08-14 09:42 ?1009次閱讀

    探究字符串模式匹配的高級數據結構和算法

    在講解算法之前,先定義兩個概念,方便后面講解。他們分別是主(S)和模式(P)。比如說要在字符串A中查找字符串B,那么A就是主
    的頭像 發表于 11-07 11:29 ?992次閱讀

    Python替換字符串的新姿勢

    FlashText 算法是由 Vikash Singh 于2017年發表的大規模關鍵詞替換算法,這個算法的時間復雜度僅由文本長度(N)決定,算法
    的頭像 發表于 02-24 10:50 ?854次閱讀
    Python<b class='flag-5'>替換</b><b class='flag-5'>字符串</b>的新姿勢

    字符串的相關知識

    TCL 中的數據類型只有一種:字符串。這些字符串可以是字母、數字、布爾值、標點符號等特殊字符的組合。在某些特殊命令的作用下,字符串可以向其他數據類型轉換。下面將系統的講解或回顧下
    的頭像 發表于 03-29 11:41 ?1169次閱讀

    FlashText算法的優勢

    時間復雜度還需要考慮被替換的關鍵詞數量(M),因此時間復雜度為O(MxN)。 簡而言之, 基于FlashText算法字符串替換比正則表達式
    的頭像 發表于 11-01 09:44 ?485次閱讀
    <b class='flag-5'>FlashText</b><b class='flag-5'>算法</b>的優勢

    字符串如何轉換成日期型

    隨著計算機技術的不斷發展,我們經常遇到需要處理日期的情況。在編程中,字符串是最常見的日期輸入格式,在許多情況下,我們需要將字符串轉換為日期類型以便進行日期計算和比較。本篇文章將詳細介紹如何使用不
    的頭像 發表于 11-17 16:27 ?1w次閱讀

    MySQL替換字符串函數REPLACE

    MySQL是目前非常流行的開源數據庫管理系統之一,它具有強大的功能和性能。其中之一的字符串函數REPLACE,可以用于替換字符串中的指定字符字符串
    的頭像 發表于 11-30 10:44 ?1572次閱讀

    labview中怎么對字符串中的進行實時處理

    字符串操作函數: LabVIEW提供了許多函數來對字符串進行操作。這些函數包括查找替換、插入、刪除和連接等。使用這些函數,您可以實時修
    的頭像 發表于 12-26 14:12 ?1947次閱讀
    主站蜘蛛池模板: 好大太快了快插穿子宫了| 丰满艳妇亲伦| 午夜理伦片免费| 欧美日韩精品| 榴莲推广APP网站入口下载安装| 海角国精产品一区一区三区糖心| 疯狂小护士| 超碰最新地址| ppypp午夜限制不卡影院私人| 97影院理论午夜伦不卡偷| 91精品国产免费入口| 制服丝袜第一页| 又硬又粗又大一区二区三区视频 | 亚洲午夜久久久精品影院| 亚洲AV无码专区国产乱码网站| 小黄文污到你湿| 亚洲成人中文| 亚洲日韩KKK444KKK聚色| 亚洲免费黄色| 伊在香蕉国产在线视频| 再深点灬舒服灬太大了在线视频| 在线视频 国产精品 中文字幕| 中文字幕一区二区三区在线不卡 | 8x8x我要打机飞在线观看| 97无码欧美熟妇人妻蜜桃天美| 99综合之综合久久伊人| 成人伦理影院| 国产精品久久久久久久久久影院| 日本美女抠逼| 老年日本老年daddy| 九九热这里只有精品视频免费| 国产亚洲精品AAAAAAA片| 国产盗摄一区二区| 国产成人精品精品欧美| 国产扒开美女双腿屁股流白浆| 成人在线观看免费视频| tobu中国日本高清| 99在线精品国自产拍不卡| 99久久无码热高清精品| 日操夜操天天操| 欧美性受xxxx狂喷水|