聊天機器人，自動駕駛汽車和數字工廠中的聯網機器預示著未來將會如何：人工智能(AI)應用的廣泛實施為企業帶來諸多優勢，例如提高效率，減少重復性工作和改善客戶體驗。

然而，如果放在一雙錯誤的手中，潛在的威脅很容易抵消巨大的利益。惡意網絡攻擊或技術故障的脆弱性將增加，隨著社會和經濟日益相互聯系，更大規模的破壞和非同尋常的財務損失的可能性也會增加。公司還將面臨新的責任方案，因為決策權由人類轉向機器和制造商。

在新的報告“人工智能的崛起：未來展望和新興風險”中，保險公司Allianz Global Corporate & Specialty(AGCS)發現了AI在社會和行業中日益實施的益處和新出現的風險問題，包括保險部門。 AI也被稱為機器學習，本質上是能夠像人類一樣思考和學習的軟件。

“人工智能在許多領域具有潛在的益處和風險：經濟，政治，移動，醫療保健，國防和環境。” AGCS新興趨勢負責人Michael Bruch說，“需要積極的風險管理戰略，以最大限度地將先進人工智能應用程序的優勢引入社會。”

今天，人工智能的“弱”或基本形式能夠執行特定的任務，但是后代所謂的“強大”人工智能應用將能夠解決難題和執行復雜的事務。人工智能開始在幾乎所有行業中找到用戶，從提供財務建議的聊天機器人到幫助醫生診斷癌癥。該技術用于為無人駕駛汽車提供動力，更好地預測天氣狀況，處理財務轉移或監視和操作工業機器。據埃森哲稱，到2035年，人工智能可以將12個發達經濟體的年度經濟增長率提高一倍。

但是這些潛在的好處會帶來風險。網絡風險是2018年安聯風險指標的最大風險之一，它說明了AI等新技術的兩種不同面貌：通過更好地檢測攻擊，AI支持的軟件可以幫助企業降低網絡風險，但如果惡意黑客能夠控制系統，機器或車輛，也可以增加它的風險。人工智能可以通過降低設計攻擊的成本來實現更嚴重和更有針對性的網絡事件。同樣的黑客攻擊 - 或者編程錯誤 - 可以在許多機器上復制。據估計，全球主要的網絡攻擊有可能引發超過500億美元的損失，但即使是半天的云服務提供商中斷也有可能造成8.5億美元左右的損失。

人工智能的興起在五個領域存在風險

為了識別新興的AI風險，AGCS專注于五個關注領域，即軟件可訪問性，安全性，問責制，責任和道德。 “通過解決這些問題，AI的負責任開發和引入對社會而言變得更加危險。減少意外后果風險的預防措施至關重要。”Bruch說。

例如，在安全性方面，將AI系統推向市場的競爭可能導致驗證活動不充分或疏忽，這對確保部署安全，功能和網絡安全的AI代理是必要的。這反過來可能導致缺陷產品和召回的增加。

關于責任，人工智能代理將來可能會接管很多人的決定，但他們不能對這些決定承擔法律責任。一般來說，AI代理商的制造商或軟件程序員對造成用戶損害的缺陷承擔責任。然而，根據現行法律，人工智能的決定與設計或制造沒有直接關系，但由于其對現實的解釋而被人工智能機構采納，因此沒有明確的責任方。 “如果AI生成的損害數量開始增加，將裁決留在法院可能會很昂貴且效率低下。” Bruch說， “解決缺乏法律效力的辦法是建立專家機構或權威機構，制定責任框架，使AI產品的設計者，制造者或銷售者受到侵權責任的限制。”

同時，保險公司將在幫助減少，管理和轉移人工智能應用新出現的風險方面發揮至關重要的作用。傳統覆蓋范圍需要進行調整以保護消費者和企業。保險將需要更好地解決某些企業的風險，如網絡攻擊，業務中斷，產品召回和聲譽損害。新的責任保險模式可能會被采用 - 例如在自動駕駛等領域，增加制造商和軟件供應商的壓力，并減少消費者的嚴苛責任。

AI早期的采用者是保險公司

保險業一直是機器學習的早期采用者，因為它處理大量數據和重復性流程。 “人工智能有很大的潛力來改善保險價值鏈。 最初，它將有助于實現保險流程的自動化，以便更好地交付給我們的客戶。 政策可以發布，并且處理索賠的速度更快，效率更高。”Bruch解釋說。

通過推動數據分析，人工智能還可以讓保險公司及其客戶更好地了解其風險，從而可以更有效地降低風險，同時還可以開發新的保險解決方案。 例如，基于人工智能的分析可以幫助公司更好地理解網絡風險并提高安全性。 同時，該技術可以幫助保險公司識別網絡曝光的累積。

最后，人工智能將改變保險公司與客戶互動的方式，從而實現全天候服務。