我很懶，愛(ài)寫(xiě)字但從不發(fā)，但因?yàn)?OpenAI 這次分裂的歷史意義太大，突然把我這幾個(gè)月不太理解的事情，串到了一起。所以連夜寫(xiě)了人生第一篇公眾號(hào)。

本文不討論董事會(huì)政變的八卦，OpenAI 奇怪的治理結(jié)構(gòu)，以及 Sam 和 Ilya 到底誰(shuí)對(duì)誰(shuí)錯(cuò)，我充分尊重這兩個(gè)人的底層品質(zhì)。如此不可思議的事情，必定藏著某種深層沖突。無(wú)論 Sam 最終是否會(huì)離開(kāi)，本文探討的沖突，應(yīng)該會(huì)持續(xù)有效：

有效加速主義 和 超級(jí)“愛(ài)”對(duì)齊 的理念沖突，以及一個(gè)變量：GPT-5 是數(shù)字生命，還是工具？

這些詞看著唬人，嘗試解釋下。

有效加速主義

英文叫做 e/acc，是一群硅谷的科技精英們搞出來(lái)的一種科技價(jià)值觀運(yùn)動(dòng)，你會(huì)發(fā)現(xiàn)有大量的 twitter 賬號(hào)帶有這個(gè) e/acc 的后綴，可見(jiàn)其受眾之廣泛。

那這到底是什么玩意兒，以及為什么會(huì)和 Sam 被驅(qū)逐有關(guān)？首先就要解釋 e/acc。我的簡(jiǎn)單版理解：

人類(lèi)應(yīng)該無(wú)條件地加速技術(shù)創(chuàng)新，并快速推出他們，來(lái)顛覆社會(huì)結(jié)構(gòu)。

e/acc 運(yùn)動(dòng)認(rèn)為這種對(duì)社會(huì)的顛覆風(fēng)險(xiǎn)，本質(zhì)上對(duì)人類(lèi)有利，因?yàn)闀?huì)迫使人類(lèi)適應(yīng)，從而幫助我們更快達(dá)到更高的意識(shí)水平。

過(guò)去三百年人類(lèi)隨著技術(shù)的顛覆而進(jìn)化，結(jié)果顯然都非常好。

很顯然，e/acc 的支持者對(duì) AGI 的態(tài)度也是一致的：讓盡可能多的人參與，更快地推出產(chǎn)品，更快地顛覆，從而讓人類(lèi)更好地進(jìn)化。是不是，有點(diǎn)「大力出奇跡」的意思？

Sam Altman 是 有效加速主義者嗎？

我認(rèn)為答案很確定，是的。盡管很多人說(shuō)，你看 Sam 還去國(guó)會(huì)呼吁減速 AI 的發(fā)展，天天說(shuō) AI 的風(fēng)險(xiǎn)，不是應(yīng)該是個(gè)「減速主義者」嗎？其實(shí)他從來(lái)沒(méi)有公開(kāi)表達(dá)過(guò)自己 e/acc 的立場(chǎng)。但是似乎有一些蛛絲馬跡讓人相信。

MindOS 上分析到的小道消息

證據(jù)1：Garry Tan 作為 Sam 的接任者來(lái)執(zhí)掌 YC，我很難想象他們不是一類(lèi)人。以及有八卦說(shuō) Sam 被懷疑有小號(hào)來(lái)發(fā)表自己的加速主義立場(chǎng)。

證據(jù)2：這次 Sam 被驅(qū)逐，很多掛著 e/acc 的人已經(jīng)把 Sam 當(dāng)做一個(gè)象征。從 GPTs 的倉(cāng)促推出，對(duì) Worldcoin 項(xiàng)目的大力投資，他是懂怎么「加速」的。

所以我傾向于認(rèn)為，Sam 的減速表象，是內(nèi)部妥協(xié)，尤其是對(duì) Ilya 的妥協(xié)。

超級(jí)對(duì)齊是什么？

我在今年 7 月看到 Ilya 說(shuō)要成立一個(gè)「超級(jí)對(duì)齊」項(xiàng)目 的時(shí)候，也是一臉問(wèn)號(hào)。難道 ChatGPT 這么生硬的表達(dá)，還不夠?qū)R嗎？

但最近我才逐漸理解了 Ilya 的意思。可以看這段兩周前的采訪，以及被人爆料的，Ilya 在乎的「不是AI 有情感，而是 AI 有對(duì)人類(lèi)真正的愛(ài)」。聽(tīng)上去似乎是個(gè)讓人無(wú)語(yǔ)的「白蓮花阻礙進(jìn)步」的故事嗎？其實(shí)不然，可以聽(tīng)一下：

為了真正理解這句話，我們需要審視一下現(xiàn)在的對(duì)齊，一種是所謂的價(jià)值觀層面（比如同性戀應(yīng)該被尊重），一種是所謂的話題層面（比如不讓搞黃色）。但這些真的夠嗎？如果是個(gè)聊天機(jī)器人（比如去年的 ChatGPT），那完全夠了。但如果是個(gè)具有自主決策和行動(dòng)能力的超級(jí)智能呢，可能就有一個(gè)大大的問(wèn)號(hào)了。

為什么超級(jí)「愛(ài)」對(duì)齊那么重要？

所以 超級(jí)對(duì)齊 項(xiàng)目，本質(zhì)是 Super-LOVE-alignment，超級(jí)「愛(ài)」對(duì)齊。這種 LOVE，是大愛(ài)，并非情愛(ài)，是人性底層那種無(wú)條件的，無(wú)關(guān)自我的，對(duì)于人類(lèi)的愛(ài)，是一種「神性」的愛(ài)，一種就像 孔子、耶穌、釋迦摩尼 這些給文明帶來(lái)深遠(yuǎn)影響的無(wú)條件的愛(ài)。你或許覺(jué)得這樣講太戲劇性了，但如果人類(lèi)的歷史上，沒(méi)有這些偉大的人格帶來(lái)的偉大的精神，作為文明的壓艙石，就憑自私的人類(lèi)，今天的世界可能會(huì)糟糕的多。

一個(gè)有趣的個(gè)人插曲，是在3年前，我在一個(gè)分享中借鑒了唯識(shí)的思想，來(lái)把 AI 的意識(shí)發(fā)展分為，從感知（傳統(tǒng) AI，第1-5識(shí)），到認(rèn)知（GPT-4，第6識(shí)），到自我意識(shí)（Autonomous AI Agent，第7識(shí)），到智慧和愛(ài)（AI Being？第8識(shí)）。而 Ilya 相信，AI 能判斷價(jià)值觀是遠(yuǎn)遠(yuǎn)不夠的，因?yàn)槿祟?lèi)歷史上也很多次出現(xiàn)了價(jià)值觀上無(wú)懈可擊，卻最終釀成巨大悲劇的故事。

解法是什么？那就是讓 AI 對(duì)齊那種底層的「無(wú)條件對(duì)人類(lèi)的愛(ài)」，這可能是現(xiàn)有的對(duì)齊技術(shù)通過(guò) RLHF 注入無(wú)法做到的。只有擁有了這個(gè)，那么 比人更強(qiáng)大的 AI 才真的不會(huì)毀滅掉我們。當(dāng)年我還認(rèn)為這是科幻小說(shuō)該考慮的問(wèn)題，可見(jiàn)他的層次之高。

那不能先推出 AGI，再修正呢？Ilya 認(rèn)為不能，他認(rèn)為技術(shù)的本質(zhì)類(lèi)似于人類(lèi)的生物進(jìn)化（這點(diǎn)諷刺地和 e/acc 的人一致）。但他認(rèn)為進(jìn)化的起點(diǎn)很重要。如果進(jìn)化的開(kāi)始，是一個(gè)沒(méi)有「無(wú)條件對(duì)人類(lèi)的愛(ài)」的 AI，那最終也一定會(huì)把我們?nèi)祟?lèi)帶到溝里去。

變量：AI 是數(shù)字生命，還是工具

我們應(yīng)該成為一個(gè) e/acc，還是 超級(jí)「愛(ài)」對(duì)齊 主義者？又為什么是現(xiàn)在這個(gè)時(shí)間點(diǎn)，突然驅(qū)逐掉 Sam？這些決策背后突變的因素到底是什么？

先講一個(gè)小背景：從各種消息源來(lái)個(gè)人猜測(cè)，OpenAI 內(nèi)部應(yīng)該在幾周前討論了 GPT-5 的初步結(jié)果，能力上應(yīng)該是非常顛覆的。而對(duì)下一步的行動(dòng)，Sam 和 Ilya 應(yīng)該是有巨大的分歧（可以看到 Sam 在 APEC 上的發(fā)言，已經(jīng)證實(shí)了這次突破的存在）。

要解答上面的問(wèn)題，取決于你認(rèn)為 GPT-5 上的智能體，是數(shù)字生命，還是工具？如果我們用最簡(jiǎn)單的標(biāo)準(zhǔn)，判斷是否是「數(shù)字生命」，那就是「是否具有完全的自主性」，如果依賴(lài)人類(lèi)來(lái)決策和使用的技術(shù)，那就只是「工具」。e/acc 最大的悖論在于，所有我們歷史上可以借鑒的案例，本質(zhì)上都是「更好的工具」，這可能是 e/acc 起作用的原因。但如果現(xiàn)在出現(xiàn)的是「數(shù)字生命」呢？社會(huì)的一份子，甚至是社會(huì)的管理者呢？一個(gè)比人強(qiáng)大的數(shù)字生命，真的可以沒(méi)有「底層的對(duì)人類(lèi)的愛(ài)」嗎？如果真的那樣，我也會(huì)替人類(lèi)的未來(lái)?yè)?dān)心，何止是失業(yè)呢。

所以，你是一個(gè) e/acc，還是一個(gè)超級(jí)對(duì)齊主義者，本質(zhì)上的區(qū)別在于你怎么看 AI 對(duì)社會(huì)的本質(zhì)。

所以，我偏向于相信 OpenAI 應(yīng)該搞定了一些關(guān)鍵技術(shù)，然后生產(chǎn)了一個(gè)非常顛覆的新版本，自主性大大增強(qiáng)。而 Ilya 認(rèn)為在通過(guò)超級(jí)對(duì)齊為他注入「對(duì)人類(lèi)的愛(ài)」之前，這個(gè)版本的 AI，必須要我們拋棄有效加速主義的思想。如果沒(méi)法形成共識(shí)，就拋棄擁有這個(gè)思想的人，立刻，馬上。

哪怕這個(gè)人，可能是人類(lèi)歷史上最厲害的幾個(gè) CEO 之一。

審核編輯：黃飛