色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

“技術故障”背刺巴菲特,金融大模型到底靠不靠譜?

愛云資訊 ? 2024-06-28 23:05 ? 次閱讀

一個“技術問題”,導致巴菲特的伯克希爾-哈撒韋公司股價暴跌近100%。

想必很多小伙伴已經感受過了這則鋪天蓋地的消息,所帶來的億點點震撼。

而根據事后的消息來看,這個大故障是紐交所的合并報價系統(CTA)在更新軟件時出現了問題。

許多專家都對此做了分析,有人認為是CTA軟件在進行版本更新時出現了數據一致性問題;也有人提出最大的問題應該是出現在了數據庫。

但總而言之,這并非是紐交所今年來第一次出現的故障,而是眾多里的一個:

wKgaomZ-0TeACn4EAAEmBP8e0N8243.jpg

甚至某開源數據庫聯合創始人Jason直言不諱地表示:

>紐交所在CTA軟件上相關的IT水平還不及中國的大型金融機構和互聯網公司,在中國已經很少會發生這種低級錯誤了。

即便如此,這也不禁令人產生更大的顧慮和擔憂——

傳統軟件問題尚能引發如此大的問題,那么站在大模型時代當下,AI+金融,是否又能做到準確可信?

正所謂實踐是檢驗真理唯一標準,要回答的這個問題,我們不妨了解一下已經在金融領域“上崗”了的AI大模型。

大模型上崗金融,都在做什么?

誠然AI大模型的發展已然呈現勢不可擋的趨勢,但在金融領域真正應用的時候,依舊存在一些顯著的困難和挑戰。

例如數據隱私和安全方面,金融數據往往高度敏感,涉及個人和企業的財務信息,確保數據隱私和安全是首要挑戰之一。

并且這些數據具有多源和異構的特點,需要進行有效的整合和處理,才能確保它們的準確性和完整性。

再如模型本身,大模型往往被視為“黑箱”,因為其內部決策過程難以解釋;在金融領域,尤其是涉及風險管理和監管合規時,可解釋性和決策透明性是非常重要的。

還有在實時性和資源消耗方面,金融市場瞬息萬變,需要實時數據處理和決策支持,大模型的推理涉及到大量的矩陣乘法計算,對硬件的矩陣乘法計算能力提出較高要求,計算復雜性可能導致響應時間延遲,不利于實時應用。

加之大模型訓練和推理過程需要大量的計算資源和能量消耗,這對企業的成本和環保要求提出了挑戰。

而成立于1998年的老牌金融科技公司金證,面對上述固有的重重困難,卻有著自己的一套解法。

wKgZomZ-0TeAJp2cAAFDO-sRQeY985.png

在金證看來,大模型的優勢在于文本及非結構化數據處理能力、人機交互能力、生成能力和邏輯推理能力較強。

而相比小模型而言,大模型也存在明顯的劣勢,例如大模型“幻覺”問題(即大模型答非所問),大模型的部署算力要求高造成算力資源浪費,部署成本高等問題。

因此,金證的解法就是——通過組合式AI,即大模型+小模型+工具,以此來支撐各個業務場景AI需求。

大模型方面,包含金證去年年底推出的K-GPT以及業內眾多頂流的大模型,在特定的金融任務中發揮大模型的特長。

小模型則是指諸如OCR、NLP、人臉識別、文字識別、財務分析等傳統模型,可以細分任務做到快準狠地處理。

至于工具,則是指地圖、天氣、CRM、郵件、OA等。

wKgaomZ-0TeAIrAMAAHw_41kwRs418.png

一言蔽之,在某個金融領域任務中,這種模式可以讓大模型、小模型和工具做到“專業的人干專業事”,尤其能極大地提高效率。

值得一提的是,相比于通用大模型,金證的K-GPT在數據查詢的準確性方面表現更佳,能夠更好地理解金融術語,提供專業且數據扎實的回復。

wKgaomZ-0TeAbJMxAAN3GjksO_0717.png

據了解,K-GPT 還支持查看引用的知識源,并具備與實時數據和模塊化集成的能力,可以調取實時數據和組件。

依托龐大的金融知識庫,K-GPT專為金融場景服務,其核心優勢在于對金融的深入理解、數據準確、可驗證性以及支持調用Agent功能。

從效果上不難看出,金證已然讓大模型在金融領域中合格地上崗,那么針對成本和資源上的痛點,金證又是如何解決的呢?

背后是高帶寬內存(HBM)的至強處理器在發力

金證K-GPT方案中,還有一點比較特別:與英特爾合作,采用了基于CPU的大模型推理方案。

據了解,他們主要是看中的是英特爾? 至強? CPU Max 系列處理器。

這是英特爾唯一一款基于x86架構并采用高帶寬內存(HBM)的CPU系列,采用了片上HBM設計,內存帶寬高達4TB/s。和傳統DDR5內存相比,HBM具有更多的訪存通道和更長的讀取位寬,理論帶寬可達DDR5的4倍之多。

要知道,大模型推理涉及大量的權重數據讀取,對硬件平臺的內存訪問帶寬提出了很高的要求。

至強? CPU Max具有64GB HBM,每個內核可以分攤到超過1GB的內存,對于包括大模型推理任務在內的絕大多數計算任務,HBM都可以容納全部的權重數據。

內存帶寬還不是金證選擇這款CPU的全部理由。

英特爾? 至強? CPU Max系列還內置了英特爾? 高級矩陣擴展 (英特爾?? AMX)引擎,大幅提升了大規模矩陣乘法運算性能。

金證K-GPT基于Transformer架構,其核心特點包括多頭注意力機制和前饋神經網絡層,這其中都包含大量矩陣運算,而英特爾? AMX通過1024位TMUL指令和8個獨立的矩陣計算單元,可以每時鐘周期執行8次獨立的矩陣乘累加操作,為這些運算提供強大的加速能力。

如此一來,大模型推理的效果如何呢?

在只用單顆 CPU 的情況下,推理130億參數大模型,首個詞元生成時間就能壓到1秒左右,模型推理TPS超過10 tokens/s,用戶提問后約2秒內就能得到響應。

別忘了遇到負載高峰等情況,還可以同時啟用2顆CPU,性能還能提升將近一倍,可以說足以滿足金融場景的大部分應用需求了。

除了硬件層面的突破,英特爾還提供了經過優化的軟件工具來挖掘硬件潛力。

比如廣泛使用的OpenVINO? 工具套件,就被用來專門調優加速模型的Embedding處理進行。

金融場景涉及大量專業文檔的輸入任務,Emedding正是把文本從離散變量轉變為連續向量的過程,好讓AI能夠理解。

經過OpenVINO? 工具套件優化后,K-GPT大模型的批量Embedding性能提升到3倍之多。

wKgZomZ-0TeASawVAACknFlOGVI410.png

圖注:OpenVINO? 工具套件優化前后 Embedding 性能比較

再比如金證與K-GPT配合使用的開源向量數據庫Faiss,英特爾也提供了優化版本,以提升在至強? CPU Max上的模型推理性能。

在大規模向量相似性檢索任務中,經英特爾優化過的版本性能可提升至4倍左右。

wKgaomZ-0TeAGbgoAACgiTxIsqI523.png

圖注:英特爾優化版 Faiss 與原始 Faiss 性能對比(越高越好)

除了性能方面之外,金證選擇英特爾? 至強? CPU Max系列作為算力底座還帶來其他方面的優勢:

首先是靈活性。由于與主流的 x86 架構完全兼容,金證可以繼續使用原有的機器,靈活搭配適合自身業務的配置。而且 CPU 能同時應對推理和通用計算,可根據負載情況隨時調配資源。

第二是總擁有成本 (TCO)。從長遠來看,CPU路線能以更低的部署和維護開銷,實現與專用加速器相媲美的性能。這對于需要控制預算的金融機構來說至關重要。

綜合看下來,英特爾? 至強? CPU Max系列處理器在硬件能力、軟件優化、生態適配、總擁有成本優勢等方面都與金融場景非常契合,不失為業界大模型落地的一種新思路。

如何評價?

隨著數字化轉型的不斷深入,大模型為金融行業帶來的機遇與挑戰并存。

越來越多的金融機構開始探索如何將 AIGC 技術與實際業務相結合,在提質增效的同時控制成本。但總的來說,大模型在金融行業的應用仍處于初步探索階段。

金證攜手英特爾打造的這套大模型推理方案,可謂是應用層、模型層、算力層的深度融合,為業界樹立了標桿。

不久前舉辦的金證科技節,就吸引了眾多金融機構前來"取經"。

作為連接金融與科技的重要平臺,金證科技節吸引了眾多來自銀行、證券、保險等領域的金融行業玩家參與,共同探討 AI 技術在金融領域的應用前景與優質實踐。

可以預見,在英特爾的算力加持下,金證將在大模型技術上不斷突破,助力更多金融機構實現數字化轉型,為用戶帶來更智能、高效的服務體驗。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 處理器
    +關注

    關注

    68

    文章

    19261

    瀏覽量

    229659
  • AI
    AI
    +關注

    關注

    87

    文章

    30752

    瀏覽量

    268901
  • 大模型
    +關注

    關注

    2

    文章

    2425

    瀏覽量

    2646
收藏 人收藏

    評論

    相關推薦

    DAC7554模擬與數字混用,輸出的信號質量嗎?

    想用DAC7554,但是發現它不區分模擬與數字部分。 注意到,涉及電源的端口只有VDD與GND,這意味該芯片的輸出VOUTA~D都是基于數字地GND的模擬信號,像這樣模擬與數字混用,輸出的信號質量嗎?
    發表于 12-10 06:12

    常見氦質檢漏儀故障及解決方法

    氦質檢漏儀是180°磁偏轉型的質譜分析計,其基本原理是根據離子在磁場中運動時,不同質荷比的離子具有不同的偏轉半徑來實現不同種類離子的分離。檢漏儀主要由質室、真空系統及電氣控制部分組成。常見氦質
    的頭像 發表于 11-26 15:10 ?387次閱讀

    巴菲特賣掉1億股蘋果股票

    據外媒報道“股神”巴菲特所領導的伯克希爾-哈撒韋在2024年第三季度大幅減持了蘋果公司的股票。據持倉統計數據顯示,伯克希爾-哈撒韋已連續四個季度減持。在第三季度減持了大約25%的蘋果股票(1億股蘋果
    的頭像 發表于 11-04 14:59 ?274次閱讀

    低費用外國云服務器嗎?

    低費用外國云服務器在特定條件下可以考慮為,但需要用戶綜合考慮多個因素,以確保選擇的服務器既能滿足需求又能保證性價比。低費用外國云服務器具有其獨特的優勢,如成本較低、選擇性豐富等,但也伴隨著一定的風險和不足。
    的頭像 發表于 08-30 11:19 ?243次閱讀

    巴菲特再套現9.8億美元

    近期我們看到股神巴菲特大手筆拋售蘋果公司的股票,根據巴菲特旗下伯克希爾-哈撒韋公司公布的2024年二季度財報數據顯示;伯克希爾-哈撒韋公司在二季度將其持有的蘋果公司的股票大幅拋售;持倉已經從一
    的頭像 發表于 08-29 14:50 ?468次閱讀

    AI宣布GLM-4-Flash大模型免費開放

    AI近日宣布了一項重大舉措,其自主研發的GLM-4-Flash大模型正式向公眾免費開放,用戶可通過智AI大模型開放平臺輕松調用。這款大模型
    的頭像 發表于 08-28 17:41 ?849次閱讀

    華為如何助力金融模型開出價值之花

    2024,我們正見證金融模型走向成熟
    的頭像 發表于 07-09 13:59 ?2590次閱讀

    谷歌攜手巴菲特公司,利用地熱能驅動數據中心

    近日,全球科技巨頭谷歌宣布了一項重大合作計劃,攜手“股神”巴菲特旗下的美國內華達州公用事業公司以及一家專注于地熱能源的初創企業,共同開發高效清潔能源——地熱能,用于驅動谷歌龐大的數據中心。
    的頭像 發表于 06-14 09:26 ?511次閱讀

    巴菲特再度出手,鋰產業迎來發展新篇章

    在風起云涌的資本市場中,股神巴菲特的名字總是與智慧、穩健和長遠眼光緊密相連。近日,這位傳奇投資者再度出手,將目光投向了新能源汽車產業鏈上游的關鍵材料——鋰。這一戰略性的加碼投資不僅展示了巴菲特對新能源產業未來發展的堅定信念,也為鋰產業注入了新的活力與機遇。
    的頭像 發表于 06-06 15:47 ?424次閱讀

    巴菲特看好萬億儲能產業,傳感器迎來產業大爆發!

    來源:感知芯視界,謝謝 編輯:感知芯視界 前幾天,全球最著名投資者、被譽為“股神”的九旬老人巴菲特,攜CEO接班人、伯克希爾非保險業務的負責人阿貝爾(Greg Abel),以及保險業務負責人賈因
    的頭像 發表于 05-16 09:14 ?449次閱讀

    巴菲特談自動駕駛和AI 巴菲特也怕AI詐騙

    巴菲特談自動駕駛和AI 巴菲特也怕AI詐騙 股神巴菲特的一舉一動都牽動著億萬人心,巴菲特的伯克希爾·哈撒韋公司(Berkshire Hathaway)日前在美國內布拉斯加州的奧馬哈市召
    的頭像 發表于 05-06 19:00 ?1119次閱讀

    打臉、、食言,一家硅谷大模型企業的營利路

    模型
    腦極體
    發布于 :2024年04月12日 19:44:01

    華為云盤古大模型通過金融模型標準符合性驗證

    近日,在中國信通院組織的可信AI大模型標準符合性驗證中,華為云的盤古大模型表現出色,成功通過了金融模型標準的符合性驗證,并榮獲優秀級(4+級)評分。此評級不僅是本次
    的頭像 發表于 03-05 10:12 ?637次閱讀

    FPGA培訓機構

    各位大佬好,想問下是否的FPGA的培訓機構推薦的?
    發表于 02-28 15:02

    減持蘋果依然巴菲特去年大賺6900億元 巴菲特明確接班人

    減持蘋果依然巴菲特去年大賺6900億元 巴菲特明確接班人 根據巴菲特旗下伯克希爾·哈撒韋發布的2023年四季度及全年財報數據顯示,伯克希爾·哈撒韋在2023年全年的凈利潤為962.23億美元(換算
    的頭像 發表于 02-25 11:35 ?8221次閱讀
    主站蜘蛛池模板: 深夜草逼逼| 这里只有精品在线视频| 久久婷婷色香五月综合激情| 啊轻点灬大JI巴又大又粗| 亚洲视频成人| 善良的女房东味道2在线观看| 巨污全肉np一女多男| 国产精品久久久久AV麻豆| 99国产精品| 亚洲无线观看国产| 无限资源日本2019版免费| 欧美双拳极限扩张| 久久久WWW免费人成精品| 国产伦精品一区二区免费| 波多野结衣网站www| 748亚洲大胆国模人体| 亚洲伊人久久综合影院2021| 乌克兰14一18处交见血| 日本特黄网站| 青草精品国产福利在线视频| 麻豆沈芯语| 久久亚洲AV成人无码动态图| 国产在线视频在线观看| 国产成人精品区在线观看| 阿娇和冠希13分钟在线观看| 5g天天影院天天看天天爽| 又大又硬又爽免费视频| 亚洲欧美日韩高清专区| 亚洲xxxx动漫| 亚洲成a人不卡在线观看| 无套内射在线观看THEPORN| 双性诱受灌满哭求饶BL| 日日日夜夜在线视频| 日本伦子欲| 日韩一区二区在线免费观看| 日本久久久久亚洲中字幕| 全黄h全肉细节全文| 日本不卡不码高清免费| 日本无码色哟哟婷婷最新网站 | 亚洲免费综合色视频| 亚洲免费视频日本一区二区|