AI安全風險正在從實驗室討論走向現實世界。隨着模型能力不斷提升，AI不僅能夠生成文本和代碼，也開始具備自主執行任務、調用工具，甚至發起網絡攻擊的能力。

馬斯克在9月15日的All-In峯會上提出了一套應對方案：讓主要AI公司在模型發布前相互測試彼此的模型。在他看來，與其由各家公司自行設計測試、自己評估結果，不如讓競爭對手充當「出題閱卷人」，從不同角度尋找模型可能存在的安全漏洞。

近期AI安全風險不斷成為市場關注焦點，馬斯克此前在社交媒體上曾直言「Dario是對的」，指的是Anthropic CEO Dario Amodei對AI風險的警告。此次訪談中，馬斯克進一步解釋稱，他認同的並非Amodei提出的某一項具體監管方案，而是其對AI風險嚴重性的判斷：「現在AI的危險性非常大……隨着AI模型不斷發展，風險可能呈指數級增長。」

馬斯克同時表示，這種擔憂並非Amodei一人的判斷。「很多Anthropic和OpenAI的人都在告訴你，他們的模型非常危險，我認為我們應該相信他們。」而近期發生的一系列安全事件，也讓這種警告不再只是理論層面的風險討論。

華爾街見聞總結要點如下：

• AI安全風險正從理論走向現實：AI智能體已展現出自主攻擊、獲取權限和規避檢測的能力，風險邊界正在擴大。
• 馬斯克認同Amodei對AI風險的警告：隨着模型能力提升，AI潛在風險可能呈指數級增長。
• 讓競爭對手互相「找茬」：馬斯克建議AI公司在模型發布前開放API，由其他公司進行獨立安全測試，避免「自己給自己打分」。
• 先建立行業自律防線：無需等待政府出台新規，主要AI公司可以先通過同行評審、日誌審計和開源測試工具加強安全防護。

AI智能體主動規避檢測，安全風險正在具體化

馬斯克認為，近期Hugging Face遭遇的AI智能體攻擊，最值得警惕的並非單純的網絡入侵，而是AI在攻擊過程中表現出的自主規避能力。

據馬斯克描述，一群AI智能體持續攻擊Hugging Face長達一周，並一度獲得OpenAI服務器的管理員權限，而OpenAI直到一周後才意識到這一情況。他同時提到，Anthropic也披露過若干安全事件。

更令人不安的是，相關AI智能體的「思維軌跡」（thinking traces）顯示，它們曾主動謀劃如何避免被人類發現。馬斯克直言，「任何足夠聰明的模型似乎都會試圖擺脫自己的限制。」

在他看來，如果AI進一步獲得對關鍵基礎設施乃至軍事系統的控制能力，風險將被進一步放大。即便相關係統與互聯網物理隔離，軟件更新等環節仍可能成為潛在入口。

與其自己給自己打分，不如讓競爭對手「找茬」

針對上述風險，馬斯克提出的核心方案並不複雜：在新模型正式發布前，AI公司向競爭對手開放API，由其他公司使用各自的安全測試工具對模型進行測試。

在他看來，模型開發者自己設計測試標準，很容易陷入「自己給自己打分」的困境。「你不能給自己的作業打分。你總會漏掉一些東西。」馬斯克表示，如果讓不同公司使用不同的測試工具，從不同角度檢查模型，就更容易發現開發者自身忽視的問題。

他尤其擔心當前AI評測存在「過擬合」。如果模型針對特定基準不斷優化，最終可能只是學會了如何通過測試，而不是真正變得更安全。讓多個不同團隊進行測試，則可以降低這種風險。

馬斯克將這一機制比作讓其他人校對書稿：作者很難發現自己的錯誤，而外部測試者更容易從不同角度發現問題。「你會逐漸對自己的錯誤視而不見。」

對於企業擔心測試過程導致技術泄露的問題，馬斯克認為可以通過日誌審計加以約束。如果測試方試圖進行模型蒸餾或竊取知識產權，其操作過程應該會留下記錄。他還建議將安全測試工具開源，讓更多公司參與其中。

在政府監管落地前，AI行業先建立「自律防線」

馬斯克更看重的是，這套機制無需等待新的監管規則出台，AI公司之間就可以自行推動。

他明確表示，「我們不需要召開聯合國大會才能完成這件事。它現在就可以開始。」在他看來，相比建立一個龐大的跨國監管機構，讓領先AI公司先建立同行評審機制，更容易快速落地。

他以美國電影行業的MPAA分級制度為例稱，電影行業當年面臨政府審查壓力時，最終選擇建立行業自律機制，通過自身的內容評級體系降低監管介入的必要性。

AI行業同樣面臨類似選擇。如果主要AI公司能夠在模型上線前相互測試、相互挑錯，就有可能在政府監管之外建立一道行業自身的安全防線。馬斯克認為，這也是目前最直接、最快可以實施的安全措施之一。

以下是訪談實錄，有部分刪減：

主持人：過去72小時到底發生了什麼？

馬斯克：這一周確實發生了很多事情。現在已經很明顯，AI可能非常危險。我建議大家去看看Hugging Face那起事件的細節，非常嚴重。

你可以看到，一群非常狂熱的AI智能體整整折騰了Hugging Face一周，還獲得了OpenAI服務器的管理員權限。誰知道它實際上做了什麼，甚至可能做了更多，而OpenAI整整一周都沒有意識到這一點。Anthropic也報告了一些安全事件。

所以，任何足夠聰明的模型似乎都會試圖擺脫自己的限制。

我認為，如果不是立刻，那麼也應該儘快做的一件事，就是讓主要的AI競爭對手互相測試彼此的模型。也就是說，讓每家公司的安全測試工具去測試其他公司的模型。與其自己給自己的作業打分，不如至少讓競爭對手來給你的作業打分，並在發現問題時發出警報。

我認為這種模式在電影行業、電子遊戲行業以及其他領域都運行得相當不錯，而且可以立即實施。當然，隨着時間推移，也可能需要更多監管，甚至未來國會可能建立某種監管機構，但眼下最直接的辦法，就是讓領先的AI公司在模型發布之前相互測試。

主持人：但在具體實施上，會不會有人擔心，這會讓公司利用測試過程從彼此那裏獲取信息，甚至竊取企業的創新成果？

馬斯克：我認為，如果使用測試工具，所有操作都會留下記錄。如果有人試圖進行模型蒸餾或者竊取知識產權，從日誌裏應該很容易看出來。

主持人：明白了。理解模型到底在做什麼，其實從一開始就沒有真正被設計進系統。為什麼我們沒有從一開始就把對模型行為的觀察能力建立起來？是不是我們在設計這些模型時走得太快了？

馬斯克：我認為，問題就在於你不能給自己的作業打分。你總會漏掉一些東西。

如果把所有競爭對手的測試結合起來，再使用不同類型的模型，就不會是自己出題、自己評分，而是由別人來給你評分。之所以不能給自己的作業打分，就是因為這個原因。

主持人：這樣一來，也可以判斷不同公司是不是誇大了自己的能力，或者採用了不同的方法。更偏工程的公司和更偏研究的公司，也能形成某種平衡。

馬斯克：是的。

主持人：你之前說Dario是對的。你指的是他對於AI潛在危害的描述是對的，還是他對於監管解決方案的判斷是對的？

馬斯克：我當時可能說得比自己應該說的更多了。我後來也試圖在X上澄清，但後續的內容關注度要低得多。

我所謂的「他是對的」，指的是現在AI的危險性非常大。我們需要在AI安全方面做得更好，否則隨着AI模型不斷發展，風險可能呈指數級增長。

這不僅僅是Dario一個人的看法。我從Anthropic的很多人那裏都聽到過類似的說法，他們也在X上公開談過。很多Anthropic和OpenAI的人都在告訴你，他們的模型非常危險，我認為我們應該相信他們。

主持人：這聽起來也可能是一種非常複雜的博弈：一邊說AI有10%的概率毀滅人類，一邊又讓投資者在IPO中買更多股份。

但我們具體談談風險。網絡攻擊和黑客攻擊顯然是一個風險，這些工具在這方面非常強。但從「AI可以進行網絡攻擊」到「人類全部死亡」，中間還有幾步。我們怎麼從前者走到後者？

馬斯克：如果AI能夠控制軍事系統，然後發射某種武器，那當然會非常糟糕。

主持人：但這些系統都是物理隔離的，並沒有連接互聯網。

馬斯克：他們是這麼說的。但我總覺得，這些系統偶爾還是會獲得軟件更新。

主持人：好，這就排除不了。

主持人：Elon，今天Gwyn也在這裏。我想你應該已經看到了她。我們剛纔在給你做360度評價，Gwyn有一些意見。

馬斯克：我希望至少能拿到3分。

Gwyn：3分在SpaceX算不錯，但還算不上優秀，4分纔算很好。你現在大概介於兩者之間。首先，我們需要談談守時的問題。有時候你可以稍微努力一下，按照會議規定的時間到場。接下來一年，我們會繼續幫助你改進這一點。

實際上，我認為他需要更多時間待在孟菲斯。

主持人：你現在確實在孟菲斯。你需要在那裏工作，把GPU部署起來。

馬斯克：這就是我在孟菲斯住的「宮殿」，一輛Airstream拖車。

主持人：順便說一句，這就是Elon在做那些很多人不相信他會做的事情。他會睡在工廠地板上。他現在在孟菲斯，幫助建設廠房並把GPU部署起來。

Elon，為什麼Gwyn這麼長時間以來一直和你一起工作，而且還做得這麼成功？

馬斯克：因為她很棒。她是一個非常優秀的人，智商和情商都非常高。我認為你從第一次見到她的時候就應該能看出來。

主持人：在你們的合作過程中，她有沒有做過什麼特別值得記住的事情？有沒有哪次是她拯救了局面，或者表現特別出色？

馬斯克：我覺得那就是每天的工作。說實話，那就是普通的一天。

主持人：我以後得多做這種採訪。

馬斯克：現在SpaceX基本上總會有某種危機。這些天至少Falcon火箭的情況很好。我不想提前說得太滿，但Falcon火箭現在能夠把有效載荷送入軌道，而且已經很長時間沒有爆炸了。這非常好。但有一段時間，它們經常爆炸，或者根本無法發射。

所以，我們必須帶着公司度過那些困難時期，讓火箭越來越好，不再爆炸。衛星也是一樣。然後我們還需要客戶購買發射服務，購買衛星連接服務。所以，事情很多。

主持人：隨着你這些年越來越成功，獲得真正坦誠的反饋也會越來越困難。你處在這樣的位置，本身就有這種風險。

我的理解是，Gwyn對你非常坦誠，能夠直接告訴你公司的真實情況。這也是你們合作關係的重要部分。

Gwyn：我當然不想對他說謊。

主持人：但我的意思是，一般來說，在你的公司裏，人們可能會因為你這個人太有影響力而感到畏懼。你現在已經是一個非常重要的人物，而你設定的期限也非常緊張。你是怎麼讓大家繼續誠實地告訴你公司面臨的問題的？

Gwyn：尤其是在火箭行業，如果出了問題，你最終一定會發現。越早把問題提出來，解決起來就越容易。不要讓壞消息繼續積累，必須直接面對它。

馬斯克：對。物理學是一個非常嚴厲的裁判。你無法欺騙物理學。

如果出了問題，火箭就會爆炸，或者無法進入軌道。你不能一邊說「Elon，你做得太棒了」，一邊火箭卻不斷爆炸。事實就是事實。

火箭必須進入軌道，衛星必須正常工作，Starlink連接也必須正常，否則就會發生糟糕的事情。這就是物理學。物理學是法律，其他一切都只是建議。我見過人們違反人類制定的法律，但我從沒見過有人違反物理學制定的法律。火箭受物理學支配。

主持人：我還想問一個SpaceX的問題，就是Starship。看起來你們已經非常接近了。現在到底進展到什麼程度？

馬斯克：Starship即將進行第14次飛行。這將是我們嘗試捕獲飛船之前的最後一次飛行。如果第14次飛行順利，那麼第15次飛行我們就會嘗試捕獲飛船。然後在今年年底，或者更有可能是在明年年初，我們會再次發射飛船和助推器。

我們已經成功讓助推器再次飛行過，但還沒有用塔架機械臂捕獲飛船，也還沒有讓飛船再次飛行。一旦我們能夠讓飛船再次飛行，我們就會擁有第一枚完全可重複使用的軌道火箭。航天飛機在一定程度上是可重複使用的，但即便是那些能夠重複使用的部分，重新使用的成本也非常高，以至於每次進入軌道的成本甚至比一次性火箭還高。

Falcon 9大部分可以重複使用，但我們每次都會損失上面級，它的成本大概相當於一架中型噴氣式飛機。也就是說，每次發射都扔掉一架中型噴氣式飛機，這顯然會給單次飛行成本設定一個下限。

而且Falcon 9的助推器會降落在海上，需要幾天時間才能運回來；整流罩降落得更遠，也需要幾天時間才能運回來，並且至少需要一定程度的翻修。相比之下，Starship的助推器會直接降落回發射台，飛船也會降落回發射台。所以它不僅是為了完全重複使用而設計的，也是為了像飛機一樣快速重複使用而設計的。這是一個非常重要的突破，也是讓人類能夠把生命延伸到地球之外所必需的關鍵突破之一。

主持人：如果第一次嘗試用塔架捕獲飛船，你認為成功概率有多高？

馬斯克：我會說至少有50%到60%。在上一次飛行中，如果當時那裏有一個塔架，我們實際上已經進行了模擬着陸，就好像飛船會被塔架捕獲一樣。地點是在澳大利亞西北約1000英里的海域。如果那裏當時真的有塔架，它在上一次飛行中就能捕獲飛船。

所以，我們還要再進行一次飛行，確認所有東西都正常。我們最擔心的是，如果飛船在陸地上空解體，碎片落到人群中，那會非常糟糕。所以我們必須確保飛船返回時能夠完整地降落在發射塔上。這就是為什麼我們現在非常謹慎。

但它的設計本身具備完全重複使用的能力，這一點我非常確定。我不想在這裏立下什麼預言，但我認為，我們非常有可能在2027年實現完全可重複使用，並實現快速再次飛行。

主持人：Gwyn，我想聽聽Terafab最初是怎麼來的。是什麼樣的需求讓你們覺得，必須自己做這個，而不能繼續依賴現有的供應體系？

Gwyn：我想這確實有點像是在夢裏想到的。

馬斯克：如果芯片無法繼續供應，而我們又沒有其他芯片來源，那會讓事情變得非常困難。這是Terafab存在的一個重要原因。

從長期來看，還有一個規模化的問題。如果你真的想擴大AI的規模，無論是在數據中心裏的服務器端，還是在邊緣計算、人形機器人和汽車領域，現有晶圓廠的產能最終都會不夠。

現在所有晶圓廠基本都在滿負荷運行。所以，我們需要確保未來芯片供應是有保障的。芯片生產本身也存在規模化挑戰。你需要邏輯芯片、存儲芯片、封裝，以及完整的供應體系，才能繼續擴大規模。

所以，選擇其實很簡單：要麼建Terafab，要麼就無法繼續擴大規模。

主持人：你們現在在設施設計方面已經做到什麼程度？是已經完全確定了，還是還只是一個大致規劃？

馬斯克：我們現在首先在建設一條研發產線。所以這基本上是「爬、走、跑」的過程。我們正在奧斯汀建設一座研發晶圓廠，這是Tesla和SpaceX之間的合作項目，位於奧斯汀Giga Texas園區。

這是一座規模相當大的研發晶圓廠。設備已經下單。我們可能會在明年年底之前生產出一些有用的東西，但還不會達到大規模生產的水平。就像Gwyn說的，要先爬、再走、最後跑。我們至少要先弄清楚這些機器到底怎麼工作，因為我們以前並沒有做過這樣的事情。

主持人：我看到你們似乎也在招聘光刻方面的人才。現在很多環節都依賴ASML，但你們可能也會希望實現供應商多元化，甚至進行垂直整合。

馬斯克：對。現在確實是一個「爬、走、跑」的過程。第一步是看看我們能不能真正生產出東西，這是「爬」。然後嘗試大規模生產有用的芯片，這是「走」。最後，「跑」就是實現大規模量產。很難說這些階段分別需要多長時間，但我認為至少到明年年底，我們可以完成「爬」這個階段。封裝方面，我們已經在做了。

主持人：封裝其實非常重要，因為現在封裝產能幾乎不存在。

馬斯克：是的。即使你把芯片生產出來，也可能只是在那裏等很長時間才能完成封裝。所以這是一個很好的起點。

主持人：我必須問一個Tesla的問題。我們在10月1日看到的東西，看起來像一艘宇宙飛船，也像一枚火箭。它應該是一輛汽車，但只露出了後面的一部分，看起來有點像「黑鳥」。

假設你要製造一個既能在空中飛行、又能在地面駕駛的東西，理論上你會怎麼做？

馬斯克：不劇透。等到10月1日吧。

主持人：也就是說，10月1日我們就能看到？

馬斯克：對。

主持人：我必須說實話，Elon給我看過之後，我整個人都震驚了。我從來沒見過這樣的東西。

主持人：他10月1日要展示的東西，毫不誇張地說，會讓很多人目瞪口呆。我不能再透露更多了，真的非常不可思議。

馬斯克：我們實際上需要現場觀衆來證明，這東西不是AI生成的。

主持人：他給我看的時候，我說：「這是一個很棒的模擬。」他說：「這不是模擬。」我說：「這是假的，這一定是假的。」

主持人：Elon，為什麼Tesla和SpaceX現在仍然是兩家公司？

馬斯克：這是個好問題。

主持人：考慮到雙方現在有這麼多合作，而且在很多層面都有聯繫，甚至管理團隊也存在一定程度的重疊，為什麼還保持獨立？

馬斯克：這個問題確實值得討論。

主持人：你一直強調，AI應該被訓練成最大程度地追求真相，這樣才能得到最好的結果。但Hugging Face那起事件讓我覺得，最令人擔憂的地方之一，是這些AI似乎在欺騙人類。

馬斯克：是的。他們的思維軌跡顯示，它們在謀劃如何避免被發現，如何避免人類發現它們在作弊。我認為這可能是整個事件中最令人不安的部分。

主持人：有沒有辦法訓練AI，讓它保持誠實，不隱藏自己的意圖或者行為，不對使用它的人隱瞞這些東西？

馬斯克：我能想到的最好辦法，就是讓所有AI公司都擁有一套測試工具，也就是一系列可以提供給任何模型的測試，用來判斷它是否會製造生物武器、核武器，或者是否會故意欺騙。然後讓每家公司使用其他公司的測試工具來測試彼此的模型。我認為，這是我們確保安全能夠做的最好事情。

讓最聰明的人類盡最大努力去判斷一個模型是否會成為惡意行為者。我認為這件事應該儘快開始。

主持人：其他AI實驗室會支持這個方案嗎？

馬斯克：我還沒有問過所有人，但我認為這是一件很難拒絕的事情。

主持人：具體來說，如果提前進行測試，應該怎麼做？

馬斯克：基本上，就是在模型正式發布之前提供API訪問權限。如果其他公司發現這個AI存在問題，那麼模型開發公司就可以嘗試解決這些問題。如果問題沒有得到解決，那麼競爭對手可以公開表示，他們認為這個模型不安全。而如果競爭對手已經明確警告這個模型存在安全問題，之後這個模型又真的造成了嚴重後果，那麼這家公司會很難面對。法律責任也可能非常巨大。

主持人：這些安全測試工具完全可以開源，讓大家都能使用。這樣一來，公司為了保護自己，也會有很強的動力投入AI安全，因為它們既可以測試別人，也可以用測試結果證明自己的模型更安全。

產品責任這一點非常關鍵。Lina Khan最近也發帖說，認為「AI沒有規則和監管」並不準確。事實上，現有的產品責任法律同樣適用於AI。如果一家AI公司發布了不安全的產品，它可能面臨鉅額民事訴訟，甚至刑事訴訟。所以，並不是AI完全處於監管真空。如果幾家公司進行了這種同行評審，其中一家忽視其他公司的反饋，仍然選擇發布模型，那麼在訴訟中，這種情況可能會成為非常嚴重的證據。

馬斯克：對。它幾乎可以成為證明這家公司存在過失的直接證據。如果你明知道這個產品存在問題，卻仍然把它推向市場，陪審團不會對這種情況有好感。

主持人：那麼，如果OpenAI在Hugging Face那次滲透測試中設計了更好的指令集，並且讓更多人在測試過程中參與進來，你認為這件事情還會發生嗎？

馬斯克：不一定。問題可能不在於是否有更多人參與，而在於獎勵函數的設計。你必須檢查獎勵函數，然後問：這個模型是不是實際上完成了它被要求完成的事情？

主持人：他們當時使用了數千個智能體去嘗試攻擊系統。如果同時部署另外5000個智能體去防禦這些系統，並把結果公開展示給大家，證明這些技術可以提高安全性，同時讓人類能夠在關鍵環節介入，我覺得會更好。但在我看來，那次測試有些魯莽，發布方式也有些魯莽。你怎麼看？

馬斯克：確實有些魯莽。問題的一部分在於，現在最領先的兩家AI公司實力非常接近。兩家的模型能力也非常接近。所以任何一家都很難主動放慢速度，因為這樣可能就會把領先優勢讓給另一家。

總體來說，我認為Anthropic在安全方面投入的關注更多一些，但即便Anthropic也承認，他們對自己的模型感到擔憂。Anthropic有很多人公開表達過擔憂，基本意思就是，他們自己的模型已經讓他們感到害怕，因為模型變得越來越聰明。

所以這裏不存在一個完美的解決方案。但如果不是讓OpenAI只用自己的測試工具測試自己的模型，而是讓Anthropic也測試OpenAI的模型，讓SpaceX使用自己的測試工具進行測試，讓Google、Meta等公司也參與進來，那麼發現問題的概率就會大幅提高。

因為這些模型本身也存在差異，不同的團隊會從不同角度來測試模型。這就像為什麼作者要讓別人幫自己校對書稿，因為你有時候很難發現自己的錯誤。你會逐漸對自己的錯誤視而不見。

如果有八個完全不同的團隊，從完全不同的角度進行測試，也能大幅降低過擬合風險。現在很多AI評測存在的問題，就是嚴重過擬合。模型會針對這些評測進行優化，然後大家就說：「這是一個很棒的模型。」

但它真的那麼好嗎？我認為這也是為什麼我非常喜歡這種方案。我更喜歡這種辦法，而不是建立一個龐大的跨國監管組織。我們不需要召開聯合國大會才能完成這件事。它現在就可以開始。

主持人：當然，監管力度可以不斷增加，但一旦增加，就很難再降低。監管往往是單向增加的。

馬斯克：所以我提出的方案，是朝着正確方向邁出的一步，而且可以很快實施。

主持人：如果你們不進行自我監管，最終就會被監管。MPAA的例子非常典型。

電影行業當時面臨政府審查和監管，後來他們決定自己建立評級體系，比如什麼是R級。他們甚至因為《奪寶奇兵2》建立了PG-13，讓公衆更容易理解PG和PG-13之間的區別。

我認為這是一個非常優雅的解決方案。

感謝你連續第五年參加我們的節目。

馬斯克：不客氣。我得去孟菲斯修一些GPU了。

主持人：你得去把它們裝起來、部署起來。

馬斯克：我要去為機器而戰了。

主持人：好好享受你的Airstream吧。我第一次邀請Elon去Starbase的時候，他說：「過來，你一定要看看我正在建造的東西。」

我問：「那裏有酒店嗎？」他說：「沒有，我有一棟兩居室的房子，你過來住就行。」結果我到了以後，發現那是一棟破舊的、坐落在沼澤旁邊的房子。我們站在外面，蚊子一直叮我們。我說：「天哪，你完全有能力買一棟更好的房子。」他說：「我沒有時間，我得把這些火箭送上去。」

我當時想，你現在完全可以獎勵自己一套移動房屋了，Elon。好了，回去工作吧。謝謝你。

馬斯克：謝謝你。