通過 NVIDIA NIM 微服務(wù)和加速計算，Ntropy、Contextual AI、NayaOne 和 Securiti 增強(qiáng)了用于欺詐檢測、財務(wù)規(guī)劃等領(lǐng)域的 AI 應(yīng)用。

NVIDIA 發(fā)布的全球金融服務(wù)業(yè) AI 現(xiàn)狀調(diào)查報告顯示，多達(dá) 91% 的金融服務(wù)公司正在評估或者已經(jīng)在使用 AI，并將其作為推動創(chuàng)新、提高運(yùn)營效率和增強(qiáng)客戶體驗(yàn)的工具。

借助由 NVIDIA NIM 微服務(wù)和加速計算驅(qū)動的生成式 AI，金融機(jī)構(gòu)可以更好地優(yōu)化投資組合并加強(qiáng)欺詐檢測、客戶服務(wù)和風(fēng)險管理。

NVIDIA 初創(chuàng)加速計劃成員企業(yè)中的 Ntropy、Contextual AI 和 NayaOne 公司，正在利用這些技術(shù)來加強(qiáng)金融服務(wù)應(yīng)用。

總部位于硅谷的初創(chuàng)公司 Securiti 提供了一個集中化的智能平臺，它可以確保數(shù)據(jù)和生成式 AI 的使用安全。該公司正在使用NVIDIA NIM為金融服務(wù)開發(fā) AI 助手。

在本周于拉斯維加斯舉行的 Money20/20 金融科技大會上，這些公司展示了他們的技術(shù)如何幫助銀行、金融科技公司、支付公司和其它機(jī)構(gòu)帶來創(chuàng)新機(jī)會，把通常極為復(fù)雜的各種金融服務(wù)數(shù)據(jù)轉(zhuǎn)化為有用的洞察和創(chuàng)新機(jī)會。

Ntropy 為非結(jié)構(gòu)化財務(wù)數(shù)據(jù)帶來秩序

總部位于紐約的 Ntropy 正在消除金融服務(wù)工作流中的各種混亂情況——無序、隨機(jī)或不確定性。

Ntropy 聯(lián)合創(chuàng)始人兼首席執(zhí)行官 Naré Vardanyan 表示：“每當(dāng)資金從 A 點(diǎn)轉(zhuǎn)移到 B 點(diǎn)時，銀行對賬單、PDF 收據(jù)和其它形式的交易記錄都會留下文本信息。傳統(tǒng)上，此類非結(jié)構(gòu)化數(shù)據(jù)很難清理，也難以用于金融應(yīng)用程序。”

該公司的交易豐富化應(yīng)用程序編程接口（API）可對來自各種來源和地理位置的金融數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化處理。作為一種通用語言，它可以幫助金融服務(wù)應(yīng)用程序在幾毫秒內(nèi)以類似人類的準(zhǔn)確性來理解任何交易，而成本只需要傳統(tǒng)方法的萬分之一。

其使用了 Llama 3 NVIDIA NIM 微服務(wù)以及在NVIDIA Tensor Core GPU上運(yùn)行的NVIDIA Triton推理服務(wù)器構(gòu)建而成。借助 Llama 3 NIM 微服務(wù)，Ntropy 將其大語言模型的利用率和吞吐量提高到運(yùn)行原生模型時的 20 倍。

Airbase 是一家領(lǐng)先的軟件平臺提供商，其平臺集成了從采購到支付的全過程。通過使用大語言模型和 Ntropy 數(shù)據(jù)豐富器，Airbase 大大改進(jìn)了交易授權(quán)流程。

在 Money20/20 大會上，Ntropy 介紹了客戶如何使用他們的 API 來清理客戶的商戶數(shù)據(jù)，從而通過提高風(fēng)險檢測模型的準(zhǔn)確性來加強(qiáng)欺詐檢測。這樣的改進(jìn)帶來了虛假交易減少和收入損失降低。

另一個演示重點(diǎn)介紹了自動貸款代理如何利用 Ntropy API 來分析銀行網(wǎng)站上的信息，并生成相關(guān)的投資報告，從而加快用戶的貸款發(fā)放和決策過程。

Contextual AI 為金融服務(wù)行業(yè)

推進(jìn)檢索增強(qiáng)生成技術(shù)

位于加利福尼亞州 Mountain View 市的 Contextual AI 提供了一個由檢索增強(qiáng)生成（RAG）驅(qū)動的生產(chǎn)級 AI 平臺，該平臺非常適合在知識密集型金融服務(wù)場景中構(gòu)建企業(yè) AI 應(yīng)用程序。

Contextual AI 首席執(zhí)行官兼聯(lián)合創(chuàng)始人 Douwe Kiela 表示：“RAG 是將企業(yè) AI 投入實(shí)際應(yīng)用的解決方案。Contextual AI RAG 2.0 平臺采用了 NVIDIA 的技術(shù)和大語言模型，可為尋求優(yōu)化運(yùn)營并提供新的生成式 AI 產(chǎn)品的金融服務(wù)企業(yè)帶來準(zhǔn)確、可審計的 AI。”

Contextual AI 平臺將整個 RAG 管道（包括提取、檢索、重新排序和生成）集成到一個優(yōu)化的系統(tǒng)中。該系統(tǒng)可以在幾分鐘內(nèi)部署，并且能夠根據(jù)客戶需求進(jìn)一步調(diào)整和優(yōu)化，從而在依賴背景資料的任務(wù)中實(shí)現(xiàn)更高的準(zhǔn)確度。

匯豐銀行計劃使用 Contextual AI，通過檢索并綜合相關(guān)的市場展望、財經(jīng)新聞和運(yùn)營文件來提供研究洞察和流程指導(dǎo)支持。其它金融機(jī)構(gòu)也在利用 Contextual AI 的預(yù)制應(yīng)用程序，涉及財務(wù)分析、政策合規(guī)報告生成、財務(wù)建議查詢解析等等。

例如，用戶可能會問，“我們預(yù)測 2025 年第四季度的央行利率是多少？”，Contextual AI平臺將根據(jù)實(shí)際文件提供簡短的解釋和準(zhǔn)確的答案，包括引用信息源的特定章節(jié)。

Contextual AI 使用 NVIDIA Triton 推理服務(wù)器和開源的NVIDIA TensorRT-LLM庫來加速和優(yōu)化大語言模型的推理性能。

NayaOne 提供數(shù)字沙盒

以推動金融服務(wù)創(chuàng)新

總部位于倫敦的 NayaOne 提供了一個 AI 沙盒，允許客戶在商業(yè)化部署之前安全地測試和驗(yàn)證 AI 應(yīng)用程序。其技術(shù)平臺使金融機(jī)構(gòu)能夠創(chuàng)建合成數(shù)據(jù)，還為金融機(jī)構(gòu)提供了一個擁有數(shù)百家金融科技公司的龐大市場的入口。

借助這個數(shù)字沙盒，客戶可以對應(yīng)用程序的公平性、透明度、準(zhǔn)確性和其他合規(guī)指標(biāo)進(jìn)行基準(zhǔn)測試，以便更好地確保最高的性能和成功的集成。

NayaOne 首席執(zhí)行官 Karan Jain 表示：“金融服務(wù)領(lǐng)域?qū)?AI 驅(qū)動的解決方案的需求正在加速增長，而我們與 NVIDIA 的合作使金融機(jī)構(gòu)能夠在可控、安全的環(huán)境中充分利用強(qiáng)大的生成式 AI。我們正在創(chuàng)建一個生態(tài)系統(tǒng)，讓金融機(jī)構(gòu)可以更快、更有效地開發(fā)原型產(chǎn)品，從而實(shí)現(xiàn)真正的業(yè)務(wù)轉(zhuǎn)型并實(shí)施增長計劃。”

NayaOne 的 AI 沙盒使用了 NVIDIA NIM 微服務(wù)，讓客戶能夠探索和對優(yōu)化后的 AI 模型進(jìn)行實(shí)驗(yàn)，并更輕松地部署它們。與運(yùn)行基于 CPU 的各種模型相比，借助 NVIDIA 加速計算，NayaOne 的欺詐檢測模型在處理大型數(shù)據(jù)集時，處理速度提升最多達(dá) 10 倍，基礎(chǔ)設(shè)施成本最多降低了 40%。

這個數(shù)字沙盒還使用了開源的NVIDIA RAPIDS數(shù)據(jù)科學(xué)和 AI 庫，用來加速資金流動應(yīng)用中的欺詐檢測和預(yù)防功能。NayaOne 在 Money20/20 大會上的 NVIDIA AI 展臺上展示了其數(shù)字沙盒。

Securiti 利用 AI 助手來改進(jìn)財務(wù)規(guī)劃

Securiti 高度靈活的 Data+AI 平臺為廣泛的生成式 AI 應(yīng)用提供動力，包括安全的企業(yè) AI 助手以及大語言模型的訓(xùn)練和調(diào)優(yōu)，使用戶能夠構(gòu)建安全的端到端企業(yè) AI 系統(tǒng)。

該公司目前正在開發(fā)一款基于 NVIDIA NIM 的財務(wù)規(guī)劃助手。該助手的聊天機(jī)器人可以訪問各種財務(wù)數(shù)據(jù)，同時遵守隱私保護(hù)和權(quán)限政策，利用上下文感知來解答用戶提出的財務(wù)相關(guān)問題。

Securiti 首席數(shù)據(jù)官 Jack Berkowitz 表示：“在保證數(shù)據(jù)安全、隱私與合規(guī)的情況下，銀行難以大規(guī)模地提供個性化的財務(wù)建議。Securiti 通過強(qiáng)大的數(shù)據(jù)保護(hù)和基于角色的訪問權(quán)限來確保安全、可擴(kuò)展的支持，幫助企業(yè)構(gòu)建安全的 AI 助手，使其能夠針對個性化目標(biāo)來提供量身定制的財務(wù)建議。”

這個聊天機(jī)器人可以檢索各種來源的數(shù)據(jù)，比如收益記錄、客戶資料和賬戶余額以及投資研究報告。Securiti 的解決方案可安全地攝取并準(zhǔn)備數(shù)據(jù)，將其用于高性能的由 NVIDIA 驅(qū)動的大語言模型，同時保留了訪問權(quán)限等控制功能。最終，會通過一個簡單的用戶界面提供個性化的答案。

Securiti 使用 Llama 3 70B-Instruct NIM 微服務(wù)優(yōu)化了大語言模型的性能，同時確保數(shù)據(jù)得到安全的使用。該公司在 Money20/20 大會上展示了其生成式 AI 解決方案。

NIM 微服務(wù)和 Triton 推理服務(wù)器可通過NVIDIA AI Enterprise軟件平臺獲得。