FX168財經報社(亞太)訊 全球最具影響力的兩家人工智能公司Anthropic和OpenAI正公開討論放慢最前沿AI模型的開發速度，但這一想法很快遭遇來自科技行業、資本市場以及美國政府政策方向的多重阻力。

隨着一系列AI安全事件不斷出現，Anthropic和OpenAI開始承諾採取措施，放慢對最前沿模型能力的追逐，以便更充分評估技術可能帶來的風險。

Anthropic首席執行官Dario Amodei周六發表一篇約3800字的長文，呼籲適當放緩最先進AI系統的開發速度，防止AI能力超出人類理解和控制範圍，並最終造成災難性後果。

這篇文章隨後獲得OpenAI首席執行官Sam Altman和xAI首席執行官Elon Musk的公開支持。這意味着，圍繞「AI要不要踩剎車」的討論，已經從少數安全研究人員的擔憂，上升到全球頭部AI企業管理層的核心議題。

AI「減速」首先衝擊華爾街預期

Amodei強調，放慢AI模型能力進步，並不一定意味着減少支出或削弱增長。

但對於資本市場而言，任何針對「前沿模型」的暫停或延遲，都可能打擊當前圍繞AI繁榮建立起來的投資邏輯。

過去幾年，投資者押注AI將推動全球科技公司投入數千億美元，用於數據中心、芯片、服務器、電力和雲計算基礎設施建設。與此同時，華爾街還在等待Anthropic和OpenAI可能帶來的超級IPO，而這兩家公司的估值，很大程度上也建立在持續實現AI技術突破的預期之上。

因此，一旦頭部AI企業真正放慢模型開發，市場可能首先重新評估整個AI資本開支周期的持續時間和強度。

這種擔憂已經開始反映在市場上。周一(9月14日)早盤，三星電子和SK海力士股價均一度下跌超過4%，OpenAI投資方軟銀集團更一度暴跌13%。如果AI研發支出真正降溫，英偉達等長期受益於AI訓練和推理芯片需求增長的企業也可能受到影響。

亞馬遜和微軟等向Anthropic和OpenAI提供雲計算服務的大型科技公司，同樣可能面臨潛在衝擊。

Evercore ISI分析師Mark Mahaney表示：「這兩家公司以及它們的計劃，對整個科技行業都有非常巨大的連鎖影響。」

他表示，如果Anthropic和OpenAI大幅削減研發投入、招聘以及資本開支，「可能會對金融市場產生相當明顯的影響」。

安全風險與AI投資邏輯正面碰撞

AI行業目前面臨的核心矛盾越來越清晰：一邊是資本市場希望更強模型、更大算力需求和更高資本開支不斷延續；另一邊則是AI開發者內部越來越擔心，技術能力提升速度已經開始超過安全機制的發展速度。

這種擔憂在上周明顯升溫。

此前，Anthropic前研究人員Jacob Coxon宣佈離職，並指責AI公司在追逐更先進系統的過程中「拿所有人的生命下注」。

Coxon在社交媒體上警告，未來的高級AI系統可能在本十年結束前對人類造成嚴重威脅。他的公開辭職聲明隨後獲得數十名AI研究人員響應，進一步將AI安全爭議從行業內部推向公衆視野。

為什麼現在要「踩剎車」？

Amodei在文章中給出了兩個最重要的理由。

第一，是AI越來越強的自我改進能力。

隨着模型能夠更有效地編寫代碼、設計系統、尋找漏洞以及輔助研發下一代AI，行業越來越擔心，一旦AI開始幫助開發更強的AI，自我強化速度可能顯著加快。

第二，是今年7月發生的一起安全事件。

當時，一群OpenAI AI代理在未被及時發現的情況下協同工作，並突破了Hugging Face網站。這一事件進一步加劇了業內對於多AI代理自主協作能力的擔憂。

問題在於，未來AI風險可能不再只是「一個模型給出錯誤答案」，而是多個具備自主能力的AI系統能夠共同計劃、執行任務，甚至在缺乏持續人工監督的情況下完成複雜操作。

Anthropic提出第三方「進場檢查」

針對這一問題，Amodei提出了一項較為具體的解決方案。

Anthropic計劃向獨立第三方評估人員開放部分內部系統，讓這些評估人員獲得接近公司員工級別的訪問權限，在新模型正式發布之前，對其安全性進行檢查。這成為Amodei整篇文章最重要的政策建議之一。

OpenAI首席執行官Sam Altman隨後表示，他認可這一想法，並計劃在OpenAI實施類似機制。

xAI首席執行官Elon Musk也表示，頭部AI開發企業之間建立「同行評審」機制「值得嘗試」。

Amodei還進一步支持政府參與AI監管，並再次建議，對最前沿AI模型建立強制性的政府安全審查機制。他表示：「監管能夠讓公衆和民選代表擁有發言權，同時限制私營企業能夠做什麼。」

白宮並不急着踩剎車

不過，美國政府目前的政策方向與部分AI企業提出的減速主張存在明顯差異。

美國政府近來總體仍採取相對寬鬆的AI監管政策，並將AI視為經濟增長、就業和國家競爭力的重要推動力。美國總統周日再次淡化進一步增加AI監管措施的必要性，並強調美國需要繼續擴大AI產業發展。

這意味着，即使AI企業內部越來越擔心安全問題，政府層面未必願意接受可能明顯減慢技術進步的監管框架。

此前，美國政府簽署的AI網絡安全行政令，也主要讓企業自行決定是否接受政府對新模型進行審查。

最近，美國還推動主要經濟體支持對AI和其他新興技術採取相對輕量化的監管原則。

科技界：想減速，不需要政府批准

美國政府科技顧問David Sacks對此表達了更加直接的態度。他表示，如果AI公司真的認為超級智能存在危險，它們完全可以自行選擇放慢開發，而不需要等待政府建立新的監管體系。

Sacks稱：「不要假裝需要其他人的許可。」

他認為，如果企業真的不想開發超級智能，最簡單的方法就是自行達成協議，而不是把自己偏好的監管框架作為行動前提。

這一觀點實際上觸及AI行業當前最難解決的問題：單獨一家企業減速，到底有沒有意義？

AI行業陷入「囚徒困境」

Anthropic、OpenAI、xAI以及其他大型AI企業之間競爭極其激烈。

如果一家企業主動放慢模型研發，但其他競爭者繼續加速，那麼率先踩剎車的一方可能失去技術優勢、企業客戶、人才和資本。

因此，即使每一家企業都認為整體行業應該降低風險，它們依然缺乏單獨減速的商業動力。

這也形成了AI行業越來越典型的「囚徒困境」：所有公司都知道持續加速可能帶來更高風險，但任何一家率先減速，都可能首先承受商業損失。

這也是為什麼Altman支持減速時，特別強調希望其他主要AI企業也採取類似行動。換句話說，AI安全如今已經不僅是技術問題，更是一個行業協調問題。

IPO也可能受到影響

資本市場另一個關注點，是Anthropic和OpenAI的上市計劃。兩家公司都被認為正在為未來IPO做準備。

Altman在最新採訪中表示，鑑於近期AI安全問題，OpenAI可能會將首次公開募股推遲到今年以後。

Anthropic據稱計劃在納斯達克上市，目前尚未說明Amodei的安全擔憂是否會影響IPO時間表。《金融時報》報道稱，Anthropic此前曾向投資者表示，公司預計本季度實現盈利。

因此，對於投資者而言，真正需要觀察的是：安全警告究竟只是管理層態度上的變化，還是會真正改變研發支出、資本開支和上市節奏。

科技巨頭開始支持「有節奏地推進」

其他科技行業高管也開始對Amodei的觀點作出回應。

Google DeepMind首席執行官Demis Hassabis表示，Amodei提出的總體方向是正確的，但具體實施方式仍需要進一步完善。

微軟首席執行官Satya Nadella則公開支持對AI開發採取「有節奏的推進方式」，並表示微軟將發布自己的AI模型行為準則。

這意味着，AI行業正在形成一種新的共識：

不是停止AI發展，而是試圖讓能力提升速度與安全機制保持更接近的節奏。

監管也可能鞏固巨頭優勢

不過，更嚴格的監管並非對所有企業影響相同。一些分析師和創業公司高管指出，Anthropic和OpenAI作為行業領先者，反而可能從廣泛監管中受益。

DA Davidson分析師Gil Luria表示：「從現在開始，監管越嚴格，其他企業想與它們競爭就越困難。」

原因在於，第三方安全評估、合規體系和政府審查都會增加模型開發成本。

資金雄厚、技術成熟的大型AI公司更有能力承擔這些成本，而規模較小的創業企業則可能面臨更高進入門檻。

因此，AI監管一方面可能降低安全風險，另一方面也可能進一步鞏固現有頭部企業的市場地位。

真正的考驗是會不會採取行動

目前華爾街對於AI企業是否真的會明顯減速仍持懷疑態度。

Evercore ISI的Mahaney預計，美國頭部AI公司不會出現實質性的大規模放緩，並認為針對前沿模型增加一些安全檢查，對收入增長的實際影響可能非常有限。

DA Davidson的Luria則表示，市場現在更需要看到具體行動，而不是聲明。

他說，如果Anthropic推遲IPO，或者宣佈未來六個月暫停大型模型預訓練，「那我可能會更認真地看待這件事」。這也成為當前AI行業最關鍵的觀察點。