ChatGPT之父警告AI可能滅絕人類

此前先是特斯拉CEO埃隆·馬斯克在內(nèi)的1000多名行業(yè)高管和專家簽署公開(kāi)信，積極呼吁在6個(gè)月內(nèi)暫停更高級(jí)AI的開(kāi)發(fā)；呼吁暫停開(kāi)發(fā)比GPT-4更強(qiáng)大的人工智能6個(gè)月時(shí)間，要先制定一套安全協(xié)議。現(xiàn)在ChatGPT之父警告AI可能滅絕人類。

是的，你沒(méi)有看錯(cuò)，不是在寫科幻小說(shuō)。

“ChatGPT之父”等350名行業(yè)大佬共同警告：AI可能給人類帶來(lái)滅絕；這封信于周二發(fā)表在非營(yíng)利組織人工智能安全中心（CAIS）的網(wǎng)站上，簽署者包括“ChatGPT之父”O(jiān)pen AI首席執(zhí)行官山姆·奧特曼、DeepMind首席執(zhí)行官Demis Hassabis、Anthropic首席執(zhí)行官Dario Amodei以及微軟和谷歌的高管等。

這封信只有一段話：“減輕AI帶來(lái)的滅絕風(fēng)險(xiǎn)，應(yīng)該與流行病和核戰(zhàn)爭(zhēng)等其他社會(huì)規(guī)模的風(fēng)險(xiǎn)一起，成為全球優(yōu)先事項(xiàng)。”

當(dāng)然呼吁政府進(jìn)行加強(qiáng)監(jiān)管這個(gè)本身是對(duì)的，此外，也有其他的一些聲音，比如微軟首席科學(xué)官埃里克·霍維茨曾公開(kāi)宣稱：AI的研發(fā)應(yīng)該要“加速”。

此前；七國(guó)集團(tuán)領(lǐng)導(dǎo)人就制定和建立人工智能（AI）技術(shù)標(biāo)準(zhǔn)作出了積極呼吁，敦促行業(yè)和監(jiān)管者確保人工智能“值得信賴”。歐盟已經(jīng)接近通過(guò)一項(xiàng)人工智能技術(shù)監(jiān)管的立法，這也有望成為全球首部全面的人工智能法案。

回顧一下有關(guān)叫停 6 個(gè)月 AI 研究的公開(kāi)信的原文：

人工智能具有與人類競(jìng)爭(zhēng)的智能，這可能給社會(huì)和人類帶來(lái)深刻的風(fēng)險(xiǎn)，這已經(jīng)通過(guò)大量研究得到證實(shí)，并得到了頂級(jí)AI實(shí)驗(yàn)室的認(rèn)可。正如廣泛認(rèn)可的阿西洛馬爾人工智能原則（Asilomar AI Principles）所指出的，先進(jìn)的 AI 可能代表地球生命歷史上的重大變革，因此應(yīng)該以相應(yīng)的關(guān)注和資源進(jìn)行規(guī)劃和管理。不幸的是，即使在最近幾個(gè)月， AI 實(shí)驗(yàn)室在開(kāi)發(fā)和部署越來(lái)越強(qiáng)大的數(shù)字化思維方面陷入了失控的競(jìng)爭(zhēng)，而沒(méi)有人能夠理解、預(yù)測(cè)或可靠地控制這些數(shù)字化思維，即使是它們的創(chuàng)造者也無(wú)法做到這一點(diǎn)。現(xiàn)代 AI 系統(tǒng)現(xiàn)在已經(jīng)在通用任務(wù)方面具有與人類競(jìng)爭(zhēng)的能力，我們必須問(wèn)自己：

我們應(yīng)該讓機(jī)器充斥我們的信息渠道，傳播宣傳和謊言嗎？

我們應(yīng)該將所有工作都自動(dòng)化，包括那些令人滿足的工作嗎？

我們應(yīng)該發(fā)展可能最終超過(guò)、取代我們的非人類思維嗎？

我們應(yīng)該冒失控文明的風(fēng)險(xiǎn)嗎？這些決策不應(yīng)該由非選舉產(chǎn)生的科技領(lǐng)導(dǎo)人來(lái)負(fù)責(zé)。只有當(dāng)我們確信AI系統(tǒng)的影響是積極的，風(fēng)險(xiǎn)是可控的，我們才應(yīng)該開(kāi)發(fā)強(qiáng)大的AI系統(tǒng)。這種信心必須得到充分的理由，并隨著系統(tǒng)潛在影響的增大而增強(qiáng)。

OpenAI 最近關(guān)于人工智能的聲明指出：「在某個(gè)時(shí)候，可能需要在開(kāi)始訓(xùn)練未來(lái)系統(tǒng)之前獲得獨(dú)立審查，對(duì)于最先進(jìn)的努力，需要同意限制用于創(chuàng)建新模型的計(jì)算增長(zhǎng)速度。」我們同意。現(xiàn)在就是那個(gè)時(shí)刻。因此，我們呼吁所有 AI 實(shí)驗(yàn)室立即暫停至少 6 個(gè)月的時(shí)間，不要訓(xùn)練比 GPT-4 更強(qiáng)大的 AI 系統(tǒng)。這個(gè)暫停應(yīng)該是公開(kāi)和可驗(yàn)證的，并包括所有關(guān)鍵參與者。如果無(wú)法迅速實(shí)施這樣的暫停，政府應(yīng)該介入并實(shí)行一個(gè)暫禁令。

AI 實(shí)驗(yàn)室和獨(dú)立專家應(yīng)該利用這個(gè)暫停時(shí)間共同制定和實(shí)施一套共享的先進(jìn) AI 設(shè)計(jì)和開(kāi)發(fā)安全協(xié)議，這些協(xié)議應(yīng)該由獨(dú)立的外部專家嚴(yán)格審核和監(jiān)督。這些協(xié)議應(yīng)確保遵守它們的系統(tǒng)在合理懷疑范圍之外是安全的。

這并不意味著暫停AI發(fā)展，而只是從不斷邁向更大、不可預(yù)測(cè)的黑箱模型及其突現(xiàn)能力的危險(xiǎn)競(jìng)賽中退一步。AI 研究和開(kāi)發(fā)應(yīng)該重點(diǎn)放在提高現(xiàn)有強(qiáng)大、先進(jìn)系統(tǒng)的準(zhǔn)確性、安全性、可解釋性、透明度、魯棒性、對(duì)齊、可信度和忠誠(chéng)度。與此同時(shí)，AI 開(kāi)發(fā)者必須與政策制定者合作，大力加速 AI 治理體系的發(fā)展。這些至少應(yīng)包括：

專門負(fù)責(zé) AI 的新的、有能力的監(jiān)管機(jī)構(gòu)；

對(duì)高能力 AI 系統(tǒng)和大型計(jì)算能力池的監(jiān)督和跟蹤；

用于區(qū)分真實(shí)與合成內(nèi)容、跟蹤模型泄漏的溯源和水印系統(tǒng)；

健全的審計(jì)和認(rèn)證生態(tài)系統(tǒng)；對(duì) AI 造成的損害承擔(dān)責(zé)任；

技術(shù)AI安全研究的充足公共資金；

應(yīng)對(duì) AI 引起的巨大經(jīng)濟(jì)和政治變革（特別是對(duì)民主制度的影響）的資深機(jī)構(gòu)。人類可以在 AI 的幫助下享受繁榮的未來(lái)。在成功創(chuàng)造出強(qiáng)大的 AI 系統(tǒng)之后，我們現(xiàn)在可以享受一個(gè)「AI 盛夏」，在其中我們收獲回報(bào)，將這些系統(tǒng)明確地用于造福所有人，并讓社會(huì)有機(jī)會(huì)適應(yīng)。在面臨可能對(duì)社會(huì)造成災(zāi)難性影響的其他技術(shù)上，社會(huì)已經(jīng)按下了暫停鍵。在這里，我們也可以這樣做。讓我們享受一個(gè)漫長(zhǎng)的AI盛夏，而不是毫無(wú)準(zhǔn)備地沖向秋天。

ChatGPT火爆之后還帶動(dòng)了大模型的火爆，我們看到消息爆出首個(gè)大模型創(chuàng)業(yè)大賽獎(jiǎng)金達(dá)千萬(wàn)元。

首個(gè)大模型創(chuàng)業(yè)大賽獎(jiǎng)金達(dá)千萬(wàn)元

5月31日，百度創(chuàng)始人、董事長(zhǎng)兼首席執(zhí)行官李彥宏在摩根大通全球中國(guó)峰會(huì)期間宣布，百度將設(shè)立10億元人民幣的百度文心投資基金。而且啟動(dòng)“文心杯”創(chuàng)業(yè)大賽，最高獎(jiǎng)項(xiàng)為價(jià)值1000萬(wàn)元早期投資。

我們希望百度積淀多年的AI大模型技術(shù)為創(chuàng)業(yè)者奠定堅(jiān)實(shí)基座，與創(chuàng)業(yè)者共創(chuàng)、共建，共同打造開(kāi)放繁榮的AI大模型生態(tài)。

大賽獲獎(jiǎng)團(tuán)隊(duì)將贏取豐厚的資金與資源支持：

一等獎(jiǎng)：1，000萬(wàn)元 早期投資（現(xiàn)金+資源）

二等獎(jiǎng)：500萬(wàn)元 早期投資（現(xiàn)金+資源）

三等獎(jiǎng)：200萬(wàn)元 早期投資（現(xiàn)金+資源）

此外，獲獎(jiǎng)團(tuán)隊(duì)還有機(jī)會(huì)獲得一系列創(chuàng)業(yè)加速扶持：

與多家頂級(jí)基金的資深投資人面對(duì)面交流

專屬大模型技術(shù)指導(dǎo)，與百度AI大咖深度交流機(jī)會(huì)

媒體宣傳與曝光，擴(kuò)大市場(chǎng)聲量與影響力

獲獎(jiǎng)?wù)呓Y(jié)成“校友群”，收獲創(chuàng)業(yè)路上的可靠伙伴

你怎么看？AI的發(fā)展會(huì)導(dǎo)致人類滅絕嗎？