谷歌兩年前制作一個視頻本周被曝光。視頻里提出了“Ledger”概念，Ledger收集用戶所有數據，然后根據用戶的行為、習慣等信息，引導用戶完成一個目標。看上去是在幫助用戶解決問題，但細思恐極的是，這不就是黑鏡里的情景嗎？

谷歌兩年前做的一個視頻，本周被曝光，立刻炸開了鍋。

這個名為“The Selfish Ledger”的9分鐘視頻，描述了一個所謂的“Selfish Ledger”概念，它可以收集用戶所有數據，包括在手機上進行的任何操作、偏好設置和做出的決定，然后這個由谷歌設計和管理的ledger將解釋這些信息，引導用戶完成一個目標。舉例來說，如果你想減肥，ledger會看到你正在用手機購買的食物，然后指導你購買哪些會更健康。

更可怕的是，即使AI缺少一個關鍵的數據點，它也可以填補數據的空白：ledger能夠在設備中尋找，以便在使用的時候提供所需的數據。比如你缺少體重數據，ledger甚至會頻繁推薦電子秤讓你購買。

Ledger：引導用戶達成目標，對數據無比貪婪

“The Selfish Ledger”短片以Lamarckian的表觀遺傳學的歷史開始，它關注的是在一個有機體的一生中所獲得的特性的傳承。

Nick Foster是這段視頻的解說。Foster說，這一理論在遺傳學上可能是不可信的，但它為用戶數據提供了一個有用的隱喻。

我們使用手機的方式創造了“‘我們是誰’的不斷演變的表述”，這就形成了一個“Ledger”，Ledger假定數據資料可以被利用起來，并能夠用于修改行為，還能從一個用戶轉移到另一個用戶:

“以用戶為中心的設計原則已經主宰了計算世界幾十年，但如果我們以一種不同的方式看待事物呢？”如果Ledger可以被賦予一種意志或目的，而不是簡單地作為一種歷史參照，該怎么辦？如果我們專注于通過引入更多的信息來源來創建一個更豐富的Ledger，那會怎么樣呢？如果我們認為自己不是這些信息的所有者，而是作為托管人、臨時承運人或看護人呢?

我們的設備使用的所謂Ledger——我們的“行動、決定、偏好、運動和關系”的數據——可以很容易地傳遞給其他用戶，就像遺傳信息代代相傳一樣，Foster說。

基于Ledger的想法，該視頻的中間部分提出了谷歌系統的概念性決議（conceptual Resolutions by Google system），其中谷歌提示用戶選擇一個人生目標，然后在他們與手機的每一次互動中引導他們走向這個目標。

這些例子“反映谷歌作為一個組織的價值觀”，其中包括使用Uber或指導你從Safeway購買本地生產的產品時，嘗試更環保的選擇。

當然，Ledger概念是在谷歌上進行的，它可以訪問大量的用戶數據和決策，不過，視頻中沒有提到隱私問題或潛在的負外部性。Ledger對更多數據的貪婪需求可能是這部視頻中最令人不安的地方。

Foster設想了一個未來：“目標驅動的Ledger概念變得容易被接受，并且行動建議可能不是由用戶而是由Ledger本身提供的”，這就是《黑鏡》描述的景象。而Ledger積極地尋求填補數據的空白，甚至選擇購買它認為可以吸引用戶的產品，以便采集數據。

視頻中給出的例子是一個浴室秤，因為Ledger還不知道它的用戶有多重。

這段視頻又進一步轉向了讓人焦慮的科幻小說，因為這個Ledger可能會變得如此精明，以至于它可以提出和3D打印自己的設計。

Foster對Ledger的看法超越了自我完善的工具。該系統將能夠“填補其數據的空白，并完善其人類行為模式”——不僅僅是你的特定行為或我的行為，而是整個人類物種的行為。

“通過將用戶數據視為多代人，新興用戶可以從上一代的行為和決策中獲益。”Foster解釋說，設想一個挖掘人類行為的數據庫，將其與人類基因組進行排序，并“對決策和未來行為做出越來越準確的預測”。

“黑鏡”要來？X發言人：它與任何當前或未來的產品無關

短片命名為“The Selfish Ledger”并非是Ledger很自私，而是向理查德·道金斯（Richard Dawkins）1976年《自私的基因》“Selfish Gene”一書的致敬，這本書提出了以基因為中心的進化論的觀點，在現代生物進化理論中地位非常重要。

這次視頻的解說Foster也是Alphabet X部門的設計負責人，同時也是the Near Future Laboratory的聯合創始人。

X部門是Alphabet的創新孵化器（以前是Google X部門），在這里把大批天馬行空的想法變成了現實，包括谷歌glass、自動駕駛汽車、Loon、Wing等。

Foster在2016年制作出來“The Selfish Ledger”視頻后，一直在谷歌內部共享，直到本周被The Verge曝光，隨后引發了大家對谷歌“黑鏡”行為的擔憂。

對此，一位X的發言人向The Verge聲明：

這是多年前設計團隊的一個思想實驗，他們使用一種被稱為“推測設計（speculative design）”的技術來探索讓人不舒服的想法和概念，從而引發討論和辯論。它與任何當前或未來的產品無關。

谷歌兩項專利思維模式與Ledger類似

雖然X發言人否認，但The Verge又發現谷歌有兩個專利申請表現出的思維模式，跟 Ledger的設想一樣。

有讀者指出，去年公開的谷歌自2015年開始的一項專利申請，標題為“檢測和糾正用戶行為中的潛在錯誤”。Selfish Ledger概念的核心部分跟這個標題非常相似：它的前提是，在個人層面上幫助用戶進行自我改善和行為修正。

這個專利文件中提出了一個系統，在這個系統中，你的設備將使用Google已經收集到的信息——例如從你的電子郵件收件箱中收集的旅行行程——然后在檢測到你行程偏離時采取行動。

系統預測計算設備的用戶將要采取的行動，并根據與計算設備相關的上下文信息來確定用戶正在采取的當前行動。計算系統根據當前的操作決定用戶是否能夠采取未來的行動，并根據可能性程度預測用戶將無法采取的行動。計算系統向計算設備發送信息，表明用戶當前正在采取的操作將導致用戶無法采取未來的行動。

因此，假如你正在前往的機場不對，你的手機會發出通知，告訴你走錯了路。

然而，為了實現這種智能，手機需要對你的生活非常熟悉。除了事先知道你的計劃之外，它還必須了解你的日常駕駛或通勤模式，它需要知道你當前的位置和活動，以確定它是否與計劃一致。

這是谷歌服務的永恒二分法：它們真的非常實用，確實有幫助，但是你愿意為了方便而放棄多少隱私?

另一項谷歌專利申請也是2015年開始，去年公開，名為“通過智能手機引導購買”。這是一個自動購物助手，當它檢測到你正在查看一個產品時，系統可以幫助你購買的。

通過智能手機引導購買，其方法是通過智能手機的用戶輸入確定用戶購買特定產品的意愿。確定購買多個產品的任務序列中的至少一個任務序列。所確定的購買特定產品的意向與購買多個產品中的一個確定的任務序列相關聯。確定智能手機用戶在相關的任務序列中的當前狀態。用戶通過智能手機被告知下一個未完成的任務，該任務來自基于智能手機用戶當前狀態的相關任務序列。

比如說，你正在High Snobiety網站（一個時尚資訊平臺）瀏覽最新的運動鞋時，系統將引導你完成購物流程，你可以選擇產品類型、功能、型號和商家。

為了向用戶提供完成購買的正確指導，這個系統將使用從先前的用戶購買行為中獲得的信息。專利申請寫道：它將“決定在相關的任務序列中任務的順序，至少在一定程度上基于從那些在相關的任務序列中執行部分或全部任務的消費者中收集的信息。”

這聽起來不就是The Selfish Ledger嗎？

在這項“引導購買”專利申請中，一個次要的聲明是將廣告商導入到購買過程的最后階段。具體來說，谷歌將收集那些希望在該系統的特定產品搜索中出現產品的公司的投標。在這方面，專利申請回到了為谷歌賺錢的目的：創造新的服務，幫助廣告商更好地展示他們的產品。

在針對谷歌的The Selfish Ledger的反應中，很少有人真正了解谷歌已經參與的數據收集的程度。The Selfish Ledger并不是跟谷歌今天的做法完全無關，它只是將它們推向極端的一個概念視頻。

現實生活中，谷歌的照片已經假定知道你會認為生活的亮點，并根據其AI解釋提出整個專輯；Google地圖和Google智能助理都會根據他們對日常位置和習慣的信息提出建議；谷歌在最近的I/O大會上出現的全雙工語音通話AI的演示等等。

在新技術和人工智能正在進入更廣泛的公眾討論的時代，谷歌的一舉一動都備受關注。

“The Selfish Ledger”把谷歌作為世界上最棘手問題的解決者，解決方法由每一位用戶的個人信息的親密程度和對整個群體行為的引導來推動。這不僅僅是谷歌內部的一次思想鍛煉，也為人類提供了一個啟發性的視角。