色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

關于論辯圖譜的互動論點對識別

深度學習自然語言處理 ? 來源:復旦DISC ? 作者:復旦DISC ? 2021-06-15 16:28 ? 次閱讀

引言

本文介紹了復旦大學數據智能與社會計算實驗室(Fudan DISC)在Findings of ACL 2021上錄用的一篇關于論辯挖掘的工作:Leveraging Argumentation Knowledge Graph for Interactive Argument Pair Identification,通過構建論辯領域的知識圖譜并融合其中的相關知識,提升互動論點對識別任務的準確性。

互動論點對識別(Interactive Argument Pair Interaction)是對話式論辯挖掘研究領域中的一個核心任務。現有對于互動論點對識別的研究將其視為句子匹配問題,并且在很大程度上依賴于文本信息來計算文本相似性。然而,論點之間的互動通常會涉及論題的背景知識,并需要知識概念之間的推理,這超出了文本相似度層面的信息。

在本文中,我們提出利用外部知識來增強交互式論點對的識別。我們從在線論壇中不同主題的討論語料中構建論辯知識圖譜。在此基礎上,被引用論點和回復論點之間的交互便可被表示為知識圖譜中的推理路徑。在實際中,我們利用圖卷積網絡 (GCN) 來學習知識圖中的概念實體表示,并使用基于 Transformer 的編碼器來學習推理路徑的表示。

最后,采用信息對齊網絡來捕獲概念信息(實體級和路徑級)和文本信息的交互。實驗結果表明,我們的模型在基準數據集中達到了最先進的性能。進一步的實驗分析證明了我們模型通過知識圖譜中的概念路徑來執行知識推理的合理性及有效性。

研究背景

論辯挖掘旨在分析論辯性文本中的語義和邏輯結構。目前論辯挖掘的研究方向大致可以分為單篇式論辯(Monological Argumentation)以及對話式論辯(Dialogical Argumentation)。

二者的主要區別在于,單篇式論辯的研究對象通常為單篇式的論辯場景,如學生議論文、公開演講等一整篇論辯性文章或一段論辯文本,相關的任務包括論辯部件預測、說服力評估和論辯總結等;而對話式論辯的研究對象通常為辯論賽或者在線論壇場景下,由持有不同觀點的多方參與者之間的互動所產生的文本,相關任務包含互動論點對識別、抽取等。

現有對于互動論點對識別的研究將其視為句子匹配問題,并且在很大程度上依賴于文本信息來計算文本相似性。雖然相關深度學習模型取得了一定的判別效果,但對于互動論點對中真正具有互動關系的概念實體的利用程度仍有不足,也就是說該任務需要超出文本相似度的知識信息。

兩條現有模型無法正確識別的互動論點對示例。在第一個例子中,兩句論點之間的聯系由“president”和“Obama”以及“John Boehner”和“speaker of the house”所構建,這屬于自然語言中常見的常識類知識;而在第二個例子中,兩句論點之間的聯系則需要通過“global warming”導致“sea level”提高來體現,這段推理過程中所出現的關系為論辯領域中所特有的因果聯系。

因此,我們希望在互動論點對識別的任務中融入上述兩類知識,來提升該任務上模型的效果,并提供更直接的可解釋性。具體做法上,本文構建了論辯領域的知識圖譜,并以圖譜中推理路徑的方式來融合相關知識。在模型層面,本文通過使用圖卷積網絡(GCN)編碼相關實體,并使用Transformer編碼器編碼相關推理路徑,再將這兩個級別的概念編碼與文本編碼進行信息對齊,從而完成對于互動論點對識別任務的增強。

圖譜構建

原始圖譜構建

本文在Tan等人所構建的CMV文本數據集的基礎上,采用OpenIE來抽取出其中的(實體、關系、實體)三元組,將所有的實體作為節點,所有的關系作為邊,得到了原始的知識圖譜。該階段中加入的知識對應于研究背景中提到的第二類知識——因果聯系。該階段的圖譜統計信息如下圖所示。

概念對齊

為了進一步提升我們所構建的圖譜質量,同時也為了加入研究背景中所提到的第一類常識知識,本文在得到上述原始圖譜后,進行了概念對齊操作。對于兩個知識圖譜中的實體,如果它們在Wiikipedia中的搜索結果相同,則將它們之間加入”等價“的實體關系。概念對齊后的知識圖譜相關統計信息如下圖所示。結果顯示概念對齊后,圖譜的連通性明顯增加,稀疏性的問題得到了一定程度上的解決。

方法描述

本文提出了將論辯圖譜知識融入互動論點對識別任務的模型框架。該框架主要包含三個模塊,文本編碼器、概念編碼器以及信息對齊網絡。

論點對文本信息建模

給定一對候選引用-回復論點對,我們將其拼接后通入BERT句子對分類模型,取出其中的[CLS]符號的表示即可得到論點對的文本層面表示。

論點對概念信息建模

給定一對候選引用-回復論點對的上下文,我們抽取出其中所包含的概念實體,接下來從實體和路徑兩個層面進行概念信息建模。

2.1 實體級別

我們采用平均池化的BERT詞向量得到每個節點的初始化表示,接著使用二層GCN網絡來對每個節點信息進行匯總融合,從而得到了每個提及的實體的概念表示。

2.2 路徑級別

在本文中,推理路徑定義為論辯雙方所提到的概念實體對之間在知識圖譜中經過遍歷而順次連接得到的序列。在得到上述實體的表示后,我們從圖譜中枚舉出雙方所有的概念實體對之間的最短路徑,再經過Transformer編碼器來對其進行編碼表示,進而得到了每條推理路徑的表示

信息對齊網絡

得到基于每個實體以及每條路徑的概念表示之后,我們構建了信息對齊網絡來將不同的實體以及路徑匯總得到概念層面的總表示。具體來說,我們利用文本信息表示來對所有的推理路徑進行注意力池化匯總得到推理路徑的總表示,在利用推理路徑總表示來對所有的實體進行注意力池化匯總得到概念實體的總表示。

在得到以上文本和概念層面的總表示后,我們將這些維度的特征拼接并通過一個線性層,來預測當前候選論點對成為互動論點對的匹配分數,從而得到最終的判別結果。

實驗

互動論點對識別性能

下表展示了在互動論點對識別數據集上的各模型性能。實驗結果顯示本文提出的模型在P@1和MRR指標上均優于已有模型,一方面體現在文本信息建模方面,預訓練模型BERT的性能超過了之前最先進的DVAE模型;另一方面體現在上下文信息建模方面,通過融入論辯圖譜對于論點概念的編碼表示的組件超過了之前的層次化CNN上下文建模給模型所帶來的提升。

消融實驗

下表展示了本文所提模型的消融實驗,從結果中可以發現三個主要模塊中對模型性能影響最大的是文本信息編碼;在概念編碼中對于模型性能提升最明顯的是路徑編碼器。

進一步分析

本文對于得到的知識圖譜中推理路徑進行了進一步探究,主要分為四個子實驗:

(a)概念對連通性:實驗顯示對于存在互動關系的正確論點對以及不存在互動關系的負樣本,雙方概念中存在推理路徑(即聯通)的實體對分別占54%和41%,即連通性對于判斷是否存在互動關系有一定判別作用;

(b)推理路徑長度分布:實驗顯示在正確論點對中的推理路徑平均長度會略低于負樣本中的推理路徑,即更長的推理路徑傾向于出現在無關的論點對中;

(c)推理路徑中的關系分布:我們通過統計出現在所有推理路徑中的關系,并應用一些詞典資源(如+/-EffectWordnet/Connotation Frames等)對關系進行分類,結果顯示在所有推理路徑中,常識知識的關系和因果知識的關系占比非常接近,各占了所有關系的40%左右;

(d)路徑長度截斷:本文通過對路徑長度做限制,去掉超過限制長度的推理路徑并重復實驗,結果顯示對于互動論點對識別的任務,當推理路徑的長度限制設置在4的時候達到最好效果,經分析這可能是推理路徑數量(路徑長度越大路徑數越多)和推理路徑質量(路徑長度越小越有可能為正樣本中的路徑)之間的權衡。

總結

本文提出了一個模擬人類辯論推理過程的模型框架。具體實踐中,我們首先從在線辯論論壇ChangeMyView出發,利用OpenIE工具、詞典資源和Wikipedia相關API進行概念對齊,構建了一個對話式辯論領域的知識圖譜。

接著利用基于路徑的圖模型對辯論雙方的概念對之間的推理路徑進行編碼,并將概念信息與預先訓練好的語言模型BERT獲得的語義信息進行對齊。在互動論點對識別任務上的實驗表明該模型能夠有效、透明地利用外部知識,進一步關于推理路徑的實驗也顯示出基于我們構建的知識圖譜所生成的推理路徑具有較高的質量。

編輯:jq

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 編碼器
    +關注

    關注

    45

    文章

    3639

    瀏覽量

    134439
  • ACL
    ACL
    +關注

    關注

    0

    文章

    61

    瀏覽量

    11978

原文標題:基于論辯圖譜的互動論點對識別

文章出處:【微信號:zenRRan,微信公眾號:深度學習自然語言處理】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    光譜看譜鏡分析圖譜

    火電廠材質分析看譜鏡圖譜
    發表于 12-06 15:02 ?0次下載

    軟通動力入選《人工智能數據標注產業圖譜

    近日,由中國信息通信研究院、中國人工智能產業發展聯盟牽頭,聯合中國電信集團、沈陽市數據局、保定高新區等70多家單位編制完成并發布了《人工智能數據標注產業圖譜》。
    的頭像 發表于 12-03 10:18 ?148次閱讀

    HarmonyOS Next元服務蒹葭動卡體驗互動

    各位大佬,純血鴻蒙HarmonyOS NEX手機、平板,應用市場搜索“蒹葭動卡”即可體驗,打開留言即可發表你的文學觀點,謝謝互動。 您也可以通過以下方式,打開“蒹葭動卡”互動。
    發表于 11-26 10:31

    HarmonyOS Next元服務大學之道動卡互動

    各位大佬,純血鴻蒙HarmonyOS NEX手機、平板,應用市場搜索“大學之道動卡”即可體驗,打開留言即可發表你的文學觀點,謝謝互動。 您也可以通過以下方式,打開“大學之道動卡”互動。
    發表于 11-26 10:18

    58大新質生產力產業鏈圖譜

    大躍升 的先進生產力。 58大新質生產力產業鏈圖譜 01 元宇宙產業圖譜 02 算力產業圖譜 03 數商產業圖譜 04 人形機器人產業圖譜
    的頭像 發表于 11-09 10:16 ?346次閱讀
    58大新質生產力產業鏈<b class='flag-5'>圖譜</b>

    大屏數字互動墻軟件 液晶拼接屏互動軟件 LED大屏交互軟件

    在這個數字化浪潮洶涌的時代,各種數字多媒體互動設備不斷出現,為數字展覽提供了眾多不一樣的展示與互動效果,大屏數字互動墻軟件,為觀眾提供了諸多新鮮的互動體驗,讓人不禁感嘆科技發展之迅速,
    的頭像 發表于 10-23 17:19 ?267次閱讀
    大屏數字<b class='flag-5'>互動</b>墻軟件 液晶拼接屏<b class='flag-5'>互動</b>軟件 LED大屏交互軟件

    物體識別桌 AR物體識互動桌 電容屏實物識別漫游桌

    在這個科技發達的時代,AR增強技術也在迅速發展,在展廳展館中發光發熱,帶來了創意無限的互動展示效果,AR技術結合物體識別技術打造的AR物體識別桌,讓游客有了全新的體驗,通過新穎的人機交互方式和趣味展示效果,能吸引人們的目光,吸引
    的頭像 發表于 10-21 17:44 ?182次閱讀

    物體識別交互軟件 AR實物識別桌軟件 電容物體識別

    物體識別交互軟件是一種新型的展示互動設備,其采用Unity3D技術開發,還運用物體識別技術、多媒體技術等現代先進技術。軟件擁有強大的互動性和展示效果,有效提升了展品宣傳效果,讓觀眾了解
    的頭像 發表于 10-16 17:22 ?232次閱讀

    智能玩具用離線語音識別芯片有什么優勢

    離線語音識別芯片NRK3301在智能玩具中應用廣泛,其高識別率、低成本、低功耗等特性,提升了用戶體驗和互動性,支持本地和云端處理,適合無網絡環境下的互動。
    的頭像 發表于 09-19 10:00 ?579次閱讀
    智能玩具用離線語音<b class='flag-5'>識別</b>芯片有什么優勢

    知識圖譜與大模型之間的關系

    在人工智能的廣闊領域中,知識圖譜與大模型是兩個至關重要的概念,它們各自擁有獨特的優勢和應用場景,同時又相互補充,共同推動著人工智能技術的發展。本文將從定義、特點、應用及相互關系等方面深入探討知識圖譜與大模型之間的關系。
    的頭像 發表于 07-10 11:39 ?1025次閱讀

    字節跳動關停多個互動劇業務

    字節跳動商業化部門巨量引擎旗下的多款互動劇小程序業務,包括泡泡心選、爪爪心選、果凍心選,將于6月17日正式關停。這些小程序以其獨特的IAP(In-App Purchase)互動劇形式,深受用戶喜愛,并長期內嵌于抖音APP中,為用戶提供了豐富的娛樂體驗。
    的頭像 發表于 06-13 16:47 ?835次閱讀

    智能故事機離線語音識別芯片,兒童教育新體驗!

    隨著家庭經濟水平的提升,家長們對于孩子的教育投入也愈加重視。而智能故事機作為一種集教育、娛樂、互動于一體的兒童教育產品,恰好滿足了家長們的需求。離線語音識別芯片作為智能故事機的核心技術,更是讓這款
    的頭像 發表于 05-22 09:21 ?505次閱讀

    熱重分析儀圖譜怎么分析?#熱重分析儀 #tga熱重分析儀 #圖譜分析

    分析儀分配圖譜
    南京大展檢測儀器
    發布于 :2024年02月29日 17:08:54

    利用知識圖譜與Llama-Index技術構建大模型驅動的RAG系統(下)

    對于語言模型(LLM)幻覺,知識圖譜被證明優于向量數據庫。知識圖譜提供更準確、多樣化、有趣、邏輯和一致的信息,減少了LLM中出現幻覺的可能性。
    的頭像 發表于 02-22 14:13 ?1208次閱讀
    利用知識<b class='flag-5'>圖譜</b>與Llama-Index技術構建大模型驅動的RAG系統(下)

    知識圖譜基礎知識應用和學術前沿趨勢

    知識圖譜(Knowledge Graph)以結構化的形式描述客觀世界中概念、實體及其關系。是融合了認知計算、知識表示與推理、信息檢索與抽取、自然語言處理、Web技術、機器學習與大數據挖掘等等方向的交叉學科。人工智能是以傳統符號派與目前流行的深度神經網路為主,如下圖所示,知識圖譜
    的頭像 發表于 01-08 10:57 ?943次閱讀
    知識<b class='flag-5'>圖譜</b>基礎知識應用和學術前沿趨勢
    主站蜘蛛池模板: 在线欧美 精品 第1页| qvod在线| 儿子日母亲B好爽| 国精产品一区一区三区有限在线 | FREE17一18外女破| 国产蜜臀AV在线一区视频| 久久婷婷色香五月综合激情| 日本xxxxxxxxx老师59| 亚洲熟女丰满多毛XXXXX| 扒开黑女人p大荫蒂老女人| 吉吉av电影| 色爱区综合激情五月综合激情| 亚洲深夜在线| 高清国语自产拍免费| 久久人妻熟女中文字幕AV蜜芽| 十大禁止安装的黄台有风险| 玉林天天论坛| 国产精品自在在线午夜精品| 男生插女生下体| 亚洲午夜无码久久久久蜜臀av| 大屁股妇女流出白浆| 久久综合网久久综合| 小萝ar视频网站| JIZJIZJIZ 日本老师水多| 久久不卡免费视频| 王晶三级作品| cntv官网| 老阿姨才是最有味的一区二区| 亚洲AV精品无码国产一区| 电影果冻传媒在线播放| 免费在线视频一区| 一二三四电影完整版免费观看 | 手机在线国产视频| 99久久热视频只有精品| 精品一二三区久久AAA片| 帅哥操美女| 超大号黑吊magnet| 男男高h浪荡受h| 在线观看视频中文字幕| 很很射影院| 学生无码AV一区二区三区|