OpenAI的權力游戲
分類: 最新資訊
育兒詞典
編輯 : 育兒知識
發布 : 11-19
閱讀 :152
阿爾特曼領導下的商業成功，導致了 OpenAI 董事會有機會推翻他。文丨賀乾明編輯丨黃俊杰 龔方毅今年 3 月，GPT-4 發布，OpenAI 拿到微軟巨額投資。埃隆·馬斯克（Elon Musk）在社交媒體上說：“我很困惑，我捐贈了 1 億美元的非營利組織，怎么變成了一個市值 300 億美元的營利公司？”現在 OpenAI 的估值即將達到 900 億美元。但今天的沖突證明，它依然不是個以追逐利潤為第一目標的機構。美國當地時間周五， OpenAI 董事會宣布開除 CEO 山姆·阿爾特曼（Sam Altman），給出的理由是他與董事會溝通時不能始終坦誠，妨礙了董事會履行職責。董事會不再相信他繼續領導 OpenAI 的能力。同時，OpenAI 董事長兼總裁格雷格·布羅克曼（Greg Brockman）也被逐出董事會。他在社交媒體上宣布離開 OpenAI，說 “我和山姆都對董事會的行為感到震驚和難過”。OpenAI 的最大合作伙伴微軟股價應聲下跌超過 2%，市值削減了差不多一個京東的體量。主導這場風暴的人是伊爾亞·蘇茨克維（Ilya Sutskever）——OpenAI 首席科學家、目前 OpenAI 董事會內唯一在職高管。蘇茨克維是 OpenAI 管理層中最精于技術的那一位，曾參與發明 AlexNet 模型，重啟神經網絡革命。他也是 Google AlphaGo 論文的作者之一。從左到右：OpenAI 首席科學家伊爾亞·蘇茨克維；被驅逐的 OpenAI CEO 山姆·阿爾特曼；OpenAI 首席技術官、接任的臨時 CEO 米拉·穆拉提；OpenAI 前總裁格雷格·布羅克曼。圖片版權：OpenAI。據《The Information》，在 OpenAI 當天舉行的全員會上，有員工問蘇茨克維，這是不是一場 “政變”。他回答說 “你可以這么說，但我覺得這只是董事會在履行自己的職責。”OpenAI 宣布董事會決議的公告在最開篇以 “OpenAI 公司 501(c)(3)”——美國法律中定義非營利機構的條款——強調公司的屬性。結尾處，OpenAI 再次強調自己是一家非營利組織，核心使命是確保通用人工智能造福全人類，“推進 OpenAI 的使命和維護其章程的原則仍是董事會的基本治理責任。”創辦八年，OpenAI 從一個完全不考慮營利的研究機構變成全球最熱的人工智能創業明星。現在又戲劇性地轉回曾經的方向。ChatGPT 的極度成功打破了 OpenAI 董事會的權力平衡今年 11 月 6 日，OpenAI 召開開發者日。阿爾特曼像早年的史蒂夫·喬布斯一樣，在臺上展示公司的最新產品和宏大戰略圖景，包括一個無人可及的新版本 GPT-4，以及圍繞它的新平臺。不到兩周，他就進入到了喬布斯 1985 年的劇情——發布重要產品后，被董事會逐出自己參與創辦的公司。11 月 6 日，阿爾特曼在 OpenAI 開發者日上。圖片來源：視覺中國。所有跡象都顯示，這是一次奇襲。被開除前一天晚上，阿爾特曼還在加州參加活動，說 OpenAI 會和藝術家并肩工作，確保他們不會被人工智能替代。再早一天，他代表 OpenAI 參加微軟 Ignite 大會，并在臺上和微軟 CEO 薩提亞·納德拉（Satya Nadella）有一段尷尬的互動。在今天的高估值科技公司，這樣的沖突幾乎不可能發生。科技公司往往執行雙重股權，讓創始團隊一票抵投資人十票，甚至更多。身在董事會的外部投資人通常也會為了公司的長遠利益，充分尊重創始團隊、甚至結成同盟。但 OpenAI 有個與眾不同的機制。2019 年，OpenAI 組建有限營利公司時，把控制權交給了 OpenAI 非營利部分的董事會。根據當時的條款，當 OpenAI 的營利公司與非營利機構可能發生沖突需要投票解決時，“只有不持有營利公司股份的董事會成員才有投票權”。阿爾特曼不直接持股 OpenAI，但他任職董事長的 YC 投資了 OpenAI 營利公司，因而失去了投票權。事發前，OpenAI 的董事會一共有六名成員，分別是 OpenAI 的三名高管：格雷格·布羅克曼，OpenAI 董事長、總裁，硅谷金融創業巨頭 Stripe 的前 CTO；山姆·阿爾特曼，OpenAI 董事、CEO，硅谷創業孵化器 Y Combinator 前董事長；伊爾亞·蘇茨克維，OpenAI 董事、首席科學家，Google 前人工智能科學家。還有三名不在 OpenAI 任職的獨立董事。截至今年 6 月，他們均不持有 OpenAI 任何股份，所以有投票權：亞當·德安杰洛（Adam D'Angelo），Quora 創始人；塔莎·麥考利（Tasha McCauley），管理過多家中小科技創業公司，包括以色列 3D 城市建模公司 GeoSim。她更為人知的身份是好萊塢明星約瑟夫·高登·萊維特的妻子；海倫·托納（Helen Toner），喬治城安全與新興技術中心戰略總監。而已經投資 100 多億美元的微軟，在 OpenAI 非營利機構的董事會里一個席位都沒有。作為董事會主席的布羅克曼公開表示，他并不清楚董事會的決議，自己和阿爾特曼都是臨時收到了蘇茨克維的通知。這意味著至多四位董事投票罷免了阿爾特曼。這是一次成功的奇襲。阿爾特曼和布羅克曼都在硅谷有廣泛人脈，現在他們也在 “努力搞清楚到底發生了什么”。四位直接知情人士告訴美國媒體，包括維諾德·科斯拉（Vinod Khosla）、里德·霍夫曼（Reid Hoffman）在內的著名投資人事先都不知道阿爾特曼被開除。投資 OpenAI 超過 100 億美元的微軟也是在公告發布前幾分鐘才從 OpenAI 董事會那里知道這一決定。OpenAI 這一可以開除阿爾特曼的獨特權力結構還是阿爾特曼主導設計的。OpenAI 成立之初，設立了宏大的愿景：為了防止人工智能威脅人類，應當積極推動開發造福全人類的通用人工智能，讓每個人都用上，去對抗大公司的壟斷。阿爾特曼在 2019 年推動成立 OpenAI 營利公司、引入微軟投資，直接和大公司走到了一起。為了不違背最初愿景，OpenAI 設定了這套制衡營利公司管理層的機制。這套機制幫助 OpenAI 留住了大量早期純粹為非營利目標而來的人才。如果政變早發生三年，可能不會成功。因為 OpenAI 的董事會成員還有多位商業領袖和科技公司高管。但 ChatGPT 成功后，多位董事會成員參與到人工智能領域，與 OpenAI 產生沖突。LinkedIn 創始人里德·霍夫曼、馬斯克所投資公司 Neuralink 高管希馮?齊里斯（Shivon Zillis ）、美國前國會議員威爾·赫德（Will Hurd）因為利益沖突等原因離開 OpenAI 董事會。可以說，阿爾特曼領導下的商業成功，導致 OpenAI 董事會有機會推翻他。高增長沒能壓住所有問題阿爾特曼常常表達對人工智能危害人類的擔憂。但他也相信資本主義和增長才是解決各種問題的良方。在早年的一篇文章里，他寫道，“民主只有在高增長的社會才會良好運行。”接手 OpenAI 之后，阿爾特曼多次公開強調，OpenAI 仍然致力于實現通用人工智能，但需要獲得商業成功，以繼續投入上千億美元。這是一個大多數公司都難給出的資金規模。OpenAI 最大投資方之一的微軟去年凈利潤還不到 700 億美元。為了獲得需要的資金，阿爾特曼在 2019 年推動 OpenAI 設立營利公司，并引入微軟投資，探索商業應用。阿爾特曼設置了諸多平衡機制，包括在投資條款里寫上：OpenAI 如果研發出了通用人工智能（AGI），所有的投資安排都要重新調整。但這次調整還是讓許多堅持創辦理念的 OpenAI 早期員工離開。其中一批人創辦了 Anthropic，拿到亞馬遜、Google 等公司超過 70 億美元的投資承諾，挑戰 OpenAI。留在 OpenAI 的人也沒有完全放心。過去一年，OpenAI 收入從 3000 萬美元增長到了 13 億美元，但也變得更加封閉，為贏得商業競爭不再公開技術細節。當 OpenAI 內部一些員工擔心人工智能爆發所帶來的各種安全隱患時，阿爾特曼致力于推動研發下一代 GPT，應對 Google 等公司的競爭。蘇茨克維則在近期的采訪中表達了截然不同的立場：自己的首要任務不是制造下一代的 GPT，而是研究如何阻止超級人工智能失控 —— 這是 OpenAI 起點。當時，阿爾特曼、馬斯克多次公開引用瑞典哲學家尼克·博斯特倫（Nick Bostrom）的觀點：以計算機發展規律，如果人工智能的聰明程度達到接近人類，它的智力用不了多久就會遠遠甩開人類——差距就像人類與老鼠那樣大。但這一次，人類扮演老鼠的角色，最終可能被超級智能毀滅。而 OpenAI 就要推動人工智能的開放，以避免少數大公司掌控這項技術。受此愿景感召，蘇茨克維拒絕了 Google 的再三挽留，加入 OpenAI，和布羅克曼一起從零開始拉來 OpenAI 的核心技術團隊。從那時起，他一直負責 OpenAI 前沿技術研發工作。左側是格雷格·布羅克曼，右側是伊爾亞?蘇茨克維。圖片來自布羅克曼的博客。現在他認為，ChatGPT “可能是有意識的”，世界需要清醒地認識到，OpenAI 和其他公司競相研發的技術真正力量，“超級智能” 從 “永遠可能不會發生” 變成了 “很快就會發生”。蘇茨克維在采訪中提到，AlphaGo 打敗李世乭第二場比賽中，第 37 手超出了所有人類棋手的理解。“想象一下這種洞察力應用到各種事情上，會是什么結果？”OpenAI 等公司當前采用 “對齊” 方法（用人類反饋訓練模型，讓它按照人類的價值觀行事）來控制人工智能，但他覺得還不夠。今年 7 月，蘇茨克維主導成立了名為 “超級對齊” 的項目，宣布 OpenAI 會拿出 1/5 的計算資源，在未來四年解決 “超級智能” 的威脅。“我們不能保證一定會成功，但集中精力、齊心協力，就能解決這個問題。” 他說。美國著名科技記者卡拉·斯維什爾（Kara Swisher）采訪了這次變動中多位知情人士，她說 OpenAI 舉辦的開發者日活動上，阿爾特曼宣布的 “GPTs Store” 平臺商店等宏大商業戰略，進一步激化了蘇茨克維與他的矛盾。據《The Information》報道，這次變動發生之前，OpenAI 內部就目前開發人工智能的方法是不是足夠安全展開爭論。阿爾特曼離開后，董事會任命 OpenAI 首席技術官米拉·穆拉提（Mira Murati）擔任臨時 CEO。她在 2018 年加入 OpenAI，是 ChatGPT 的核心負責人。此前，她在 AR 公司 Leap Motion、特斯拉工作，參與過 Model X 等產品的設計、開發等。她內部信中告訴 OpenAI 的員工們，公司接下來的重心有三個方面：“最大限度地推進即有的研究計劃；最大力度推進安全工作，特別增強預測風險的能力；以及以造福所有人的方式與世界分享技術。據媒體報道，OpenAI 已經有三名資深研究人員因為阿爾特曼、布羅克曼離開選擇辭職。OpenAI 董事會稱，正在尋找全職的 CEO。OpenAI 與微軟的合作還在繼續。OpenAI 臨時 CEO 穆拉提在全員會中告訴員工們，變動發生后，微軟高層對 OpenAI 表達了 “最大的信心”。微軟 CEO 薩提亞·納德拉隨后在社交媒體上說：“我們與 OpenAI 簽訂了長期協議……我們將繼續合作。”阿爾特曼則在社交媒體上說：“今天的經歷在很多方面都很奇怪。有點像在自己還活著的時候讀自己的悼詞。” 有業內人猜測，他可能用法律手段去爭奪 OpenAI 控制權。即便不走這條路，這位帶領 OpenAI 進入公眾視野，在 YC 輔導過無數創業者的連續創業者也毫無疑問可以在一夜之間拿到足夠資金，啟動另一個人工智能公司。蘇茨克維則對外保持沉默。他在社交媒體上的發言停留在 10 月 7 日：“如果你把智慧看得比人類的其他品質都重要，你就會過得很糟糕。”題圖來源：視覺中國
