據昨日消息，全球領先的人工智能研究機構OpenAI于當地時間本周二發布博客稱，已正式成立一支名為“集體對齊”的新團隊。新團隊集結了一批經驗豐富的研究員及工程師，現正致力于策劃并實行群眾觀點采集環節，幫助調整及規范其人工智能模型行為，以期化解可能出現的偏頗及相關挑戰。

OpenAI在博客中分享說：“我們的終極愿景是構建一套能收集并轉化公眾對于我們模型行為的認識的體系，以期把這些重要且細致入微的建議融入我們今后的產品和服務中，使我們的人工智能模型更趨向于與人類道德觀相符。”

為此，OpenAI積極尋找具備各種技術資質的研究工程師加入新團隊。他們期望與外部咨詢公司加強協作，甚至開始進行創新試驗，將最初版本引入我們的模型中。他們迫切需要各界專才，攜手邁出這一步。

“集體對齊”團隊實際上為OpenAI于去年五月份開啟的公共項目的延續。這個項目致力于資助研發“民主程序”的實驗，以確立人工智能系統應遵守的規則。OpenIA曾經明確表態，該項目是為了支持個人、團隊以及組織研發概念驗證，并在概念明確后回答關于人工智能監測與治理方面的問題。

OpenAI研究工程師、新團隊創始人之一泰納·埃倫杜（Tyna Eloundou）強調：“隨著我們走向超級智能模型，這類模型必將逐步成為社會生活不可缺少的一環。因此，讓公眾有機會發表意見至關重要。”

舉例來說，為確保僅由人類參與投票并給予評價，OpenAI正考慮與Worldcoin展開合作。Worldcoin是OpenAI首席執行官薩姆 · 阿爾特曼（Sam Altman）親自操刀的加密貨幣項目，具備識別人類和人工智能機器人的獨特功能。

自2022年末推出ChatGPT以來，OpenAI憑借生成性人工智能技術取得眾多公眾的關注。運用這種技術，簡單暗示即可生成大量文字內容，使得ChatGPT成為有史以來增長速度最為迅猛的應用程序之一。

然而，人工智能技術催人不及掩耳的進步亦引起深深憂慮。尤其是其制造虛假圖像及誤導性信息的能力，令2024年美國總統選舉臨近之際，公眾擔心不已。多位評論家指出，如ChatGPT等人工智能系統因接受的數據成分所限而自帶偏見，用戶已多次發現某些人工智能軟件輸出顯示出明顯的種族主義或性別歧視傾向。

本次博客更新中，OpenAI還詳盡總結了支援對象的工作成果，其中包含視頻對話界面、人工智能模型眾包審計平臺以及“如何將信仰映射至可用于精細調整模型行為的因素”的方法。除此之外，他們也公開了所有援助對象在工作中所采納的代碼以及每個項目方案的精華摘要。

盡管 OpenAI 試圖將該項目描述為與其商業利益無關，但考慮到其首席執行官阿爾特曼對歐盟人工智能監管的批評態度，這一說法似乎有些難以令人信服。阿爾特曼以及 OpenAI 總裁格雷格?布羅克曼（Greg Brockman）和首席科學家伊利亞?蘇茨凱弗（Ilya Sutskever）一再強調，人工智能的創新速度非常快，以至于我們無法指望現有的權威機構能夠充分控制這項技術。因此，他們提出了將這項工作眾包的解決方案。