Ilya曝光70頁OpenAI絕密文件

夢瑤 發自 凹非寺
量子位 | 公眾號 QbitAI

Ilya偷拍備份的OpenAI機密文件，剛剛曝光。

70頁內部證據、200+頁私人筆記，偷拍視頻、繞開公司系統、用閱后即焚的方式傳遞消息，甚至上來直接一個大暴擊：

Sam Altman撒謊成性?。。。ù舐?jpg)

《紐約客》剛剛披露這一事件詳情，里面的內容堪稱抓馬：

• 從OpenAI董事會到微軟高級高管，跨越20年、橫跨多個組織，大家對奧特曼的核心評價幾乎都是撒謊成性
• OpenAI的非營利使命要求CEO必須具備誠信的品質，但Ilya后來發現奧特曼恰恰不具備這種品質，甚至恰恰相反…
• 奧特曼被解雇后的5天，在自家豪宅搞了個宮斗備戰室，資本、員工、輿論三線齊發，最終董事會無力抵抗！
• 宮斗事件之后，奧特曼不僅沒有收斂，反而加速了安全承諾的瓦解，SuperAlignment團隊被邊緣化。

誰成想呢，本以為再無瓜葛的硅谷甄嬛傳，奧特曼和llya的愛恨情仇又又又更新了。

為啥OpenAI首席科學家要用間諜片手法搜集CEO的罪證？

這份備忘錄里到底寫了什么，讓董事會成員回憶時只說了三個字——“He was terrified”？

準備好瓜子兒，大家伙兒邊嗑邊看吧…

(太精彩了，太精彩了，太精彩了…)

llya偷拍70頁OpenAI秘密文件曝光！

山姆·奧特曼，撒謊成性

只能說，OpenAI從一開始，就給自己設了一道幾乎不留余地的門檻。

這份70頁機密備忘錄中提到，OpenAI從創建之初的時候就被被設計成一個的安全性拉滿的組織——

非營利結構、董事會優先對人類負責，甚至在極端情況下，可以犧牲公司本身。

也正因如此具備公共利益的性質，所以OpenAI對于CEO的要求同樣具備一定特殊性，那就是，必須非常非常非常非常的有信用。

好巧不巧，問題恰恰出在這里。

2019年，Ilya還在OpenAI辦公室的時候，為Greg Brockman主持婚禮，甚至安排了一只機械手來擔任捧環人。

那個時候，技術、理想、人與人之間的信任看起來是統一的，但隨著模型能力不斷臨界線，他開始重新思考同一個問題：

如果這項技術真的被做出來，誰在控制它，他的答案變得越來越明確，甚至冷靜到只剩一句判斷：

“我不認為奧特曼是那個能為OpenAI拍板兒的人?！?br/>

理由嘛——

llya倒不是懷疑奧特曼能力有問題，主要吧，還是懷疑這個人的人性…

于是乎，接下來llya的一系列操作，只能說已經不太像一家科技公司的內部討論了，正如我們看到的：

70頁材料被系統整理出來，包含Slack記錄與內部文件，關鍵內容用手機拍下，刻意避開公司設備，再通過會自動消失的消息發送給董事會。

一位收到材料的董事后來回憶，看到這個大爆料的時候，他直言：我是真被嚇得沒邊了…

5天宮斗，從F1賽場到豪宅備戰室

在Ilya那份70頁機密備忘錄里，當年的OpenAI宮斗事件被還原得更加具體，也更抓馬。（doge）

而且這事兒的開端，本身就帶著一點《荒誕感》——

當時奧特曼人在拉斯維加斯看F1，被一通視頻電話叫走，電話那頭兒，Ilya讀了一段極其簡短的聲明——

他（奧特曼）已經不再是OpenAI的CEO。

沒有鋪墊，也沒有證據披露，更離譜的是，連微軟里德·霍夫曼這種級別的核心投資人，事前也完全不知情。

（甚至一度以為是挪用資金這種級別的大雷，結果啥也沒查到？？）

聽到自己被“斬立決”的消息，當晚奧特曼直接連夜在自己豪宅里直接搭起了一個堪稱“拯救奧特曼”主題的臨時指揮部。

△圖片由AI生成

奧特曼的目的，是迅速推進三件事：

第一，資本施壓。

Thrive凍結關鍵投資，微軟直接放話可以另起爐灶：你們可以換CEO，但OpenAI也可以從此消失。

第二，員工站隊。

聯名信迅速擴散，幾乎全員簽字，甚至連臨時接任CEO、最初站在董事會一側的Murati，最終也倒向奧特曼，簽下支持回歸的聯名信。

緊接著，便是輿論失控。

董事會選擇沉默，奧特曼一方持續釋放信息，掌控輿論大局。

結果嘛，就是Ilya最后也不得不松口：如果奧特曼不回來，公司可能會直接崩掉。

五天之后，結局落定—奧特曼回宮，董事會出局。

甚至，OpenAI內部員工還給這場硅谷史上最經典的宮斗反轉，起了個名字——The Blip（意為“小插曲”或“短暫失?！保?。

The Blip之后，安全承諾開始崩塌

The Blip結束后，OpenAI所發生的變化沒有停在權力層面，那套用來“限制權力”的機制，開始逐步松動。

最先出問題的，是資源。

OpenAI曾對外承諾，會拿出20%的算力，用于長期安全研究，這是OpenAI當時最核心的安全底牌。

但實際執行，很快變了味兒——算力占比一路下滑到1%-2%，分到的還是最老的集群、最差的芯片。

當負責人Jan Leike提出異議時，得到的回應是：這件事從一開始就不現實。

從優先事項，變成象征性存在，安全開始失去真正的投入。

第二步，就是流程開始被繞開。

在OpenAI里，原本涉及高風險能力的發布，正常應該需要經過安全委員會審核。

但在后續產品迭代中，一些爭議最大的功能都沒有走完整審批流程就直接上線，甚至連地區版本的產品，也在安全評估尚未完成的情況下發布。

（流程不流程的，似乎也沒那么重要了…)

第三步，是調查失去約束力。

事實上董事會風波之后，OpenAI請來了一家參與過多起公司丑聞調查的律所“WilmerHale”做獨立調查。

按這家律所的正常工作流程和外界普遍預期來說，OpenAI的事情會有一份正式、可追溯的書面報告。

但最終的結果是——沒有報告。（doge）

調查結論，只以口頭形式匯報給新董事會，而不寫報告的建議，恰恰來自奧特曼參與選擇的董事的私人律師。

三件事兒——先削資源，再松流程，最后弱化調查。

看起來每一步都是輕微調整，但是吧，當系統可以繞過限制，限制本身也就不再存在了。

20年前就有人看透了山姆·奧特曼？

u1s1，圍繞奧特曼好的壞的一籮筐評價，并不是在OpenAI才出現的。

事實上跨越20年、橫跨多個組織，對奧特曼的核心評價驚人一致，那就是——

這小子，嘴里忒沒實話，干事兒忒不著邊兒。（doge）

最早的一次，可以追溯到2013年。

當時已故的天才程序員Aaron Swartz，在私下對朋友留下過一句對奧特曼非常極端判斷：

你必須明白，奧特曼這個人永遠不值得信任，他是個反社會人格的人，為了目的什么都做得出來。

他第一次創業階段，問題已經出現。

公司內部員工曾兩次推動董事會撤換他，甚至需要投資人親自下場，在公司里盯著他。

到了后來，當他開始進入更核心的創業與投資圈層，問題開始升級——

從內部矛盾，變成信任危機。

內部有人后來直接承認，奧特曼一直在隱瞞事情，比如對外公告不斷修改說法， 職位描述一改再改，甚至最后干脆刪除等等。

但在正式的監管文件里，他依然被標注在原來的位置上？？

換句話說就是表面在變化，實際關系卻沒有同步調整。

這些分散在不同階段的口碑，到了OpenAI，開始集中爆發——

董事會成員給出的評價是：他不受事實的約束，甚至奧特曼還被大家形容為，對欺騙可能帶來的后果缺乏基本顧慮。

而另一位高管給出的說法是：他未來，有可能會被放進那些重大商業丑聞人物的序列中被討論。

喜歡寫日記的不正經人還有一個，后來成為Anthropic CEO的Dario Amodei也留下了200多頁筆記內容，筆記中包含大量對于OpenAI和奧特曼本人的評價。

盡管和llya算不上啥關系多好的朋友，但是吧，人家和Ilya得出了同一個結論——

那就是OpenAI內部出現的一籮筐問題不在公司系統本身，而是奧特曼本人有問題。

甚至，Amodei的措辭更為激烈，對奧特曼的評價是——他說的話幾乎可以確定是胡扯?。?！

咋說呢，來源不同、階段不同，但指向高度一致。

更微妙的是，別看差評如此之多，架不住奧特曼自己的腰板直，在被質疑時，人家奧特曼只是說：

不好意思哈，我無法改變我的性格～（好牛的精神狀態）

最后頗值得一提的是，在llya的70頁機密備忘錄中，還有個蠻值得一瞧的事情，那就是——

在OpenAI的辦公區里，”Feel the AGI”的標語隨處可見。

這句話最早是Ilya用來警告同事AGI風險的，但是吧，The Blip宮變事件之后，變成了慶祝未來的口號。

（這多少有點地獄級笑話了啊，llya：我？？？）

OMT

家人們，這瓜還沒完。

就在剛剛，曝光此備忘錄的《紐約客》記者在x上表示，當他們想采訪“研究AI生存風險”的研究員時，OpenAI官方回應是：

你說的存在性安全是啥？這東西壓根不存在哈～

但是吧，還得是OpenAI，說歸說，做歸做，這是兩碼事兒：

就在這篇調查報告發布幾個小時后， OpenAI剛巧推出了支持安全研究的項目。（doge）

還得是OpenAI，還得是奧特曼。

（llya：這下你們知道我說的都是實話了吧，這奧特曼是真說一套做一套??？？）