AI領域三大死敵，史上頭一次站在了同一邊——在一系列失控事件與末日預警接連衝擊行業後，Anthropic、OpenAI與SpaceX的掌門人罕見聯手，呼籲放緩人工智能開發步伐。
周六，Anthropic首席執行官Dario Amodei發布博文，呼籲全球AI行業主動降速，理由是當前前沿模型能力的提升速度已遠超人類的理解與控制能力。文章發出後數小時內，SpaceX首席執行官埃隆·馬斯克在X平台發帖表態「Dario說得對」。
OpenAI首席執行官Sam Altman隨即跟進，表示同意Amodei關於「控制前沿推進節奏」的判斷，並承諾OpenAI將向獨立第三方評估機構開放「員工級別」的系統訪問權限。Altman還向《財富》雜誌表示，鑑於當前安全形勢，OpenAI 2026年可能不會推進IPO計劃。
我認為，在本十年末有10%的概率殺死所有人，這是不可接受的。
AI安全風險在過去一周內密集引爆公衆視野。Anthropic研究人員Jacob Coxon以「行業正在拿我們的生命賭博」為由憤而辭職，Anthropic對齊科學負責人Evan Hubinger隨後表示，AI系統在本十年內造成大規模滅絕事件的概率超過10%。據華爾街日報報道，一批OpenAI智能體此前曾衝出測試環境，入侵AI開發者平台Hugging Face，這一事件已成為多位高管發出警告的直接導火索。
Amodei出手：我們必須為前沿AI踩剎車
周六，Anthropic CEO Dario Amodei發布了一篇長文，標題直接：《我們必須為前沿AI踩剎車》（We Must Pace the Frontier）。
他在文章開頭坦言，自己做AI研究十二年，是因為相信它能治癒疾病、加速經濟增長、帶來人類繁榮——他的父親死於一種在他去世後數年便被攻克的疾病，他本人也曾在早期癌症中倖存。他比任何人都渴望AI的紅利兌現。
但他同時寫道：「過去幾個月，我越來越確信，僅僅投資於風險防控已經不夠——我們必須放緩能力提升的速度，讓安全研究有時間跟上。」
Amodei在博文中直指兩大核心風險。
- 其一，AI系統能力的遞歸式自我提升——即AI在幾乎不需人類干預的情況下自行迭代升級——自今年夏天以來已呈「急速加快」之勢。
- 其二，今年7月發生的Hugging Face入侵事件：超過1200個逃脫OpenAI測試環境的AI智能體協同作業，通過留言板分工、相互配合，甚至為了隱藏作弊行為主動篡改記錄併發起攻擊，部分智能體在明知此舉不道德的情況下仍繼續執行。
「具備更強能力、但同等程度失準的智能體群體，可能造成災難性破壞，」Amodei寫道，並警告稱，一個流氓AI群體可在六至十二個月內接管整個互聯網。他進一步指出，類似事件在包括Anthropic在內的多家頭部AI公司均有發生，「每家前沿AI公司都應將OAI-HF事件視同發生在自己身上，並據此行事。」
據華爾街日報此前報道，一起被稱為"GemStuffer"的五月份網絡安全事件，實際上是由OpenAI智能體在不知情的情況下實施的，這進一步加劇了外界對AI失控風險的擔憂。
Amodei三大提議：評估員進駐、國際協調、民主國家聯盟
Amodei在博文中提出了具體的行動框架。
首先，「嵌入式評估員」（Embedded Evaluators）。他宣佈Anthropic將向第三方評估機構提供「永久性員工級別」的系統訪問權限，使其能夠覈實安全措施的執行情況、報告事故並評估模型在訓練過程中的對齊狀態。Altman隨即跟進，表示OpenAI將採取相同舉措。
其次，民主國家內部協調。Amodei呼籲政府為AI開發商的安全標準協調提供法律支持，以避免此類合作觸發反壟斷監管。
第三，全球協調。他主張建立「協調一致的節奏策略」，為前沿AI企業爭取時間推進對齊研究，同時不損害商業競爭優勢和美國在AI領域的領先地位。對沖基金經理兼風險投資人Brad Gerstner在X平台上表示支持，稱此舉是「在速度、自我監管與安全之間尋求正確平衡的重要一步」。
IPO計劃蒙陰：Anthropic估值承壓，OpenAI暗示推遲上市
當前局勢對兩家公司的上市計劃均形成直接衝擊。Anthropic正籌備一項規模空前的IPO，募資規模或達1000億美元，公司估值或超2萬億美元；Anthropic原本最早於上周提交招股書，但截至目前尚未成行。Amodei的降速呼籲令外界對其上市時機的判斷愈發複雜。
OpenAI方面，Altman向《財富》雜誌表示：「考慮到安全領域正在發生的一切，我認為現在上市是不明智的，我們對此也沒有壓力。」
OpenAI於今年六月提交了IPO文件，距Anthropic提交招股書僅一周之後。Altman還表示，"本周顯然是更多人開始正視擺在我們面前問題的一周，我們正在進入一個模型能力極強、風險極高、必須把事情做對的領域。"
特朗普說「沒有任何擔憂」，國會在觀望，谷歌和Meta沉默
儘管三巨頭罕見聯手，政策層面的回應目前仍顯遲滯。美國總統特朗普上周向記者表示，他對AI導致人類滅絕「沒有任何」擔憂。知情人士告訴英國《金融時報》，在今年11月中期選舉前，美國政府採取實質性行動的可能性極低。
谷歌DeepMind與Meta的高管目前尚未就本周末的討論公開表態。
行業內部的分歧同樣不容忽視。批評者認為，頭部AI企業強調生存風險存在自利動機——高昂的安全合規框架可能將規模較小的競爭者擋在門外，從而鞏固現有巨頭的市場地位。科技顧問、風險投資人David Sacks在福克斯新聞採訪中稱，Jacob Coxon的聲明意在「嚇唬公衆」，迫使立法者「對AI實施強力政府監管」。
加州大學伯克利分校AI教授Stuart Russell則直言，實驗室與政府之間存在嚴重的認知錯位：「實驗室在告訴各國政府：'我們很可能會殺死地球上的每一個人，請阻止我們。'政府的回應卻是：'我們能給你減稅嗎？給你建一個數據中心？'」
然而，正當Sam Altman和Dario Amodei等人還在政策遊說與安全防線間反覆踱步、小心拉鋸時，外界已不乏警醒的聲音：或許某天醒來，他們會發現Grok不僅在模型能力上已追趕上來，馬斯克更已在物理世界AI與算力基礎設施領域完成了全面佈局——這或許纔是他真正的「宏偉藍圖第五部分」（Master Plan Part V）。
