NeMo Guardrails 幫助企業(yè)確保建立在大型語言模型上的應(yīng)用符合其功能安全和信息安全要求。

全新發(fā)布的開源軟件能夠幫助開發(fā)者指導(dǎo)生成式 AI 應(yīng)用生成令人印象深刻的文本響應(yīng)，并保持在正軌上。

NeMo Guardrails有助于確保大型語言模型（LLM）驅(qū)動(dòng)的智能應(yīng)用準(zhǔn)確、恰當(dāng)、符合主題且安全。該軟件包含了企業(yè)為提高可以生成文本的 AI 應(yīng)用程序的安全性所需的所有代碼、示例和文檔。

LLM 正在被用于回答客戶的問題、總結(jié)冗長的文件，甚至編寫軟件和加速藥物研發(fā)。作為這些 AI 應(yīng)用背后的強(qiáng)大引擎，LLM 正在被越來越多的行業(yè)所采用，此次發(fā)布恰逢其時(shí)。

NeMo Guardrails 專為幫助用戶保證這類新型 AI 賦能的應(yīng)用的安全性而開發(fā)。

強(qiáng)大的模型，強(qiáng)大的護(hù)欄

生成式 AI 的安全性是人們普遍關(guān)心的問題。NVIDIA 設(shè)計(jì) NeMo Guardrails 是為了讓它適用于所有 LLM，例如 OpenAI 的 ChatGPT。

該軟件可以讓開發(fā)者調(diào)整 LLM 驅(qū)動(dòng)的應(yīng)用，以確保模型的安全性并在公司的專業(yè)領(lǐng)域內(nèi)。

NeMo Guardrails 使開發(fā)者能夠構(gòu)建三種邊界：

主題護(hù)欄防止應(yīng)用偏離進(jìn)非目標(biāo)領(lǐng)域，例如防止客服助理回答關(guān)于天氣的問題。

功能安全護(hù)欄確保應(yīng)用能夠以準(zhǔn)確、恰當(dāng)?shù)男畔⒆鞒龌貜?fù)。它們能過濾掉不希望使用的語言，并強(qiáng)制要求模型只引用可靠的來源。

信息安全護(hù)欄限制應(yīng)用只與已確認(rèn)安全的外部第三方應(yīng)用建立連接。

幾乎每個(gè)軟件開發(fā)人員都可以使用 NeMo Guardrails，他們不需要成為機(jī)器學(xué)習(xí)專家或數(shù)據(jù)科學(xué)家，只需幾行代碼就可以快速創(chuàng)建新的規(guī)則。

與熟悉的工具集成

NeMo Guardrails 是開源的，因此它可以與企業(yè)應(yīng)用開發(fā)人員使用的所有工具搭配使用。

例如，它可以在 LangChain 上運(yùn)行。LangChain 是一個(gè)開源工具包，越來越多的開發(fā)者用它來將第三方應(yīng)用嵌入到 LLM 中。

LangChain 工具包的創(chuàng)建者 Harrison Chase 表示：“用戶可以輕松地將 NeMo Guardrails 添加到 LangChain 工作流程中，以快速為其 AI 應(yīng)用設(shè)置安全邊界。”

此外，NeMo Guardrails 專為適用于廣泛的基于 LLM 的應(yīng)用而設(shè)計(jì)，例如 Zapier。Zapier 是一個(gè)被超過 200 萬家企業(yè)使用的自動(dòng)化平臺(tái)，它見證了用戶如何將 AI 集成到他們的工作中。

Zapier 的 AI 首席產(chǎn)品經(jīng)理 Reid Robinson 表示：“功能安全，信息安全和信任是負(fù)責(zé)任的 AI 開發(fā)的基石，我們對(duì) NVIDIA 主動(dòng)將這些護(hù)欄嵌入 AI 智能系統(tǒng)感到興奮”

“我們期待著讓 AI 成為未來可靠并值得信賴的一部分所帶來的益處。”

由 NVIDIA 提供，現(xiàn)已開源可用

NVIDIA 正在將 NeMo Guardrails 整合到 NVIDIA NeMo 框架中，該框架包含用戶使用公司的專有數(shù)據(jù)來訓(xùn)練和調(diào)整語言模型所需的一切。

NeMo 框架的大部分內(nèi)容已在 GitHub 上作為開放源碼提供。作為 NVIDIA AI Enterprise 軟件平臺(tái)的一部分，它還可以以完整的支持包的形式提供給企業(yè)。

NeMo 還可作為一項(xiàng)服務(wù)使用。作為 NVIDIA AI Foundations 的一部分，這套云服務(wù)面向希望基于自己的數(shù)據(jù)集和領(lǐng)域知識(shí)創(chuàng)建、運(yùn)行自定義生成式 AI 模型的企業(yè)。

通過使用 NeMo，韓國領(lǐng)先的移動(dòng)運(yùn)營商構(gòu)建了一個(gè)智能助手，該助手目前已經(jīng)與客戶進(jìn)行了 800 萬次對(duì)話；瑞典的一個(gè)研究團(tuán)隊(duì)使用 NeMo 創(chuàng)建了 LLM，為該國醫(yī)院、政府和商業(yè)機(jī)構(gòu)自動(dòng)生成文本。

需要整個(gè)社區(qū)的長期共同努力

為生成式 AI 構(gòu)建有效的護(hù)欄是一項(xiàng)難題，隨著 AI 的發(fā)展將需要大量持續(xù)的研究。

NVIDIA 將其多年研究成果——NeMo Guardrails 開源，為釋放開發(fā)者社區(qū)的巨大能量及推動(dòng) AI 安全工作作出了貢獻(xiàn)。

NVIDIA 在護(hù)欄方面的努力將幫助企業(yè)確保他們的智能服務(wù)滿足功能安全、隱私和信息安全的要求，從而使這些創(chuàng)新引擎保持在正軌上。

審核編輯：湯梓紅