近日，中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（AIIA）第十次全體會議暨2023年通用人工智能創(chuàng)新發(fā)展論壇在重慶召開。

會上，商湯科技聯(lián)合中國信息通信研究院云計算與大數(shù)據(jù)研究所（中國信通院云大所）共同發(fā)布行業(yè)首個《大模型可信賴研究報告》，系統(tǒng)化分析闡釋了人工智能大模型發(fā)展風險要素及治理建議，具體包括：

重點梳理大模型發(fā)展現(xiàn)狀，點明大模型風險來源。

從大模型涉及的關鍵要素和可信維度出發(fā)，全面分析大模型面臨的各項風險并進行整理歸納，形成大模型風險全景視圖。

針對大模型在框架、數(shù)據(jù)、模型和生成內(nèi)容等層面風險，系統(tǒng)梳理產(chǎn)業(yè)界保障大模型可信賴的關鍵舉措。

指出當前大模型可信賴發(fā)展面臨的問題及挑戰(zhàn)，從多個維度提出參考建議。

該《報告》為人工智能大模型的可信發(fā)展提供了重要的方向參考。同時，也對大模型風險管理體系化建設提供了框架依據(jù)。

此外，《報告》還對如何實現(xiàn)大模型的可信賴目標給出一系列實踐方案，從技術、管理、監(jiān)管等維度對大模型的可信賴目標實現(xiàn)進行了分析研究。

商湯SenseTrust可信AI基礎設施

入選《報告》可信賴實踐案例

今年7月，為迎接大模型全新挑戰(zhàn)，基于“日日新SenseNova”大模型體系，商湯科技快速推出可信AI基礎設施SenseTrust，構建領先的解決方案，推動大模型開發(fā)訓練和應用治理可靠、可信。

“SenseTrust” 商湯可信AI基礎設施

數(shù)據(jù)層面，商湯SenseTrust能夠提供從數(shù)據(jù)脫敏、數(shù)據(jù)去毒、數(shù)據(jù)合規(guī)審查及偏見評估等治理工具。

模型層面，商湯SenseTrust基于自研模型體檢系列平臺，能夠針對傳統(tǒng)“小模型”、生成式“大模型”，以及基礎模型提供標準化和定制化的模型評測能力。

應用層面，借助商湯在數(shù)據(jù)保護、數(shù)字取證及偽造檢測等技術領域的深厚積累，逐步開發(fā)了基于生成、鑒偽和溯源三位一體的綜合解決方案。

目前，商湯SenseTrust相關技術已服務于“商湯秒畫SenseMirage”文生圖平臺、“商湯如影SenseAvatar”數(shù)字人等多個產(chǎn)品，以及內(nèi)容創(chuàng)作、大數(shù)據(jù)客戶，以及銀行安全系統(tǒng)。

商湯也將持續(xù)通過“商湯AI安全治理開放平臺”等多種形式，為行業(yè)提供AI治理公益技術服務，推動建設安全可信的人工智能產(chǎn)業(yè)生態(tài)。