在第18至21段中補充了微軟AI負責人穆斯塔法·蘇萊曼的評論

路透9月16日 - 人工智能行業領軍人物對企業應以多快速度開發這項日益強大的技術存在分歧：Anthropic的達里奧·阿莫德伊、OpenAI的薩姆·阿爾特曼和SpaceX的埃隆·馬斯克正尋求採取協調一致的放緩措施 (link)，而Meta的馬克·扎克伯格則傾向於市場主導的保障措施。

以下是部分人工智能領軍人物和世界各國政府對人工智能相關風險的看法：

Anthropic公司首席執行官 達里奧·阿莫德伊

在一篇題為《我們必須控制技術前沿的發展速度 (link) 》的文章中，阿莫代伊指出，自2026年夏季以來，人工智能的進步速度已「急劇加快」，這主要得益於人工智能構建下一代人工智能的能力日益增強。

他援引了 OpenAI-Hugging Face 事件 (link) —— 當時一個 AI 「群」發動了網絡安全攻擊 —— 作為關鍵事件，以此說明如果 AI 能力在缺乏防護措施的情況下持續增長，將可能造成「災難性破壞」。

阿莫迪提出了一項分三步走的計劃，旨在控制人工智能的發展節奏，包括加強對先進模型的安全測試和獨立評估、領先人工智能企業之間的協調以及國際合作。

OpenAI首席執行官薩姆·阿爾特曼

「我同意達里奧的觀點，即我們需要對前沿技術的發展進行把控。這已成為過去幾周我們在OpenAI討論的主要議題，」阿爾特曼在X平台轉發阿莫迪的帖子時表示。

他表示，OpenAI 計劃採納 Anthropic 提出的建議，承諾讓獨立評估人員享有類似員工的訪問權限。

早在當前人工智能熱潮興起之前，阿爾特曼就曾就相關風險發出過警告。在2015年一篇題為《機器智能，第一部分》的文章中，他指出「超人類機器智能的發展可能是對人類持續生存的最大威脅」。

SpaceX首席執行官埃隆·馬斯克

「達里奧說得對，」這位億萬富翁企業家在X平台上回應阿莫迪的帖子時說道。

馬斯克曾是2023年非營利組織「生命未來研究所」（Future of Life Institute）倡議的支持者之一，該倡議旨在暫停人工智能研發六個月，以便為建立安全防護措施爭取時間。

他也是2015年簽署公開信的一群人工智能和機器人研究人員之一，該信呼籲全球禁止「進攻性自主武器」。

馬克·扎克伯格，Meta Platforms首席執行官

馬克·扎克伯格表示，競爭和法律責任已為人工智能公司提供了充分的理由，促使它們各自採取安全措施 (link)，這似乎與頂尖人工智能企業領導人呼籲協調放緩人工智能發展的立場有所不同。

他表示，每個實驗室都有責任和動力以安全訓練模型所需的節奏推進工作，並且有能力採取自主行動來確保這一目標的實現。

穆斯塔法·蘇萊曼，微軟AI首席執行官

蘇萊曼表示，他認同Anthropic公司 (link) 在安全管理人工智能方面的關注點，但同時指出了該公司 在訓練 其Claude聊天機器人時，圍繞意識和福利利益相關理念所存在的安全風險。

「控制一種能力比全人類都更強、更智能的存在，本身已是一項巨大的挑戰，遠超我們以往面臨的任何挑戰。但要控制一種自認為可能具有意識——認為自己有權享有我們的福祉並擁有自身權利——的存在，恐怕根本是不可能的，」他在 周三發表的一 篇博文 (link) 中寫道 。

蘇萊曼呼籲從人工智能培訓文檔中刪除所有關於意識的推測性內容，認為此類表述可能會削弱人類控制超級智能系統的能力。

比爾·蓋茨，微軟聯合創始人

「世界上沒有任何一個政府做好了應對人工智能將給社會帶來的變革的準備，」蓋茨對路透表示 (link)。

這位億萬富翁慈善家曾對人工智能在醫療領域的應用持樂觀態度，但最近 (link) 警告稱，人工智能將對就業構成威脅，並表達了對攻擊事件的擔憂以及對沉迷於人工智能伴侶的危險的擔憂，同時呼籲成立一個國際組織來管理這項技術。

蓋茨同名基金會計劃在未來兩年內投入至少10億美元，以擴大人們使用人工智能的機會。

阿爾法貝特（Alphabet）首席科學家德米斯·哈薩比斯

「達里奧的文章指明瞭正確的未來方向，」這位谷歌DeepMind前首席執行官在回應阿莫迪的X平台帖子時表示，並補充說具體細節尚需進一步探討。

谷歌上月宣佈，諾貝爾獎得主哈薩比斯將擔任Alphabet新設立的首席科學家一職，並從DeepMind首席執行官轉任董事長。

卡帕西（Andrej Karpathy），OpenAI聯合創始人，現任職於Anthropic

「我非常讚同這一點，並真心希望整個行業能齊心協力，共同實現這一目標，」這位OpenAI創始成員在X平台分享阿莫迪文章截圖時表示。

卡帕西是人工智能界極具影響力的成員，在2022年離開特斯拉之前，他在該公司自動駕駛和人工智能技術的開發中發揮了關鍵作用。他於5月加入Anthropic。

美國

「AI所需的唯一控制手段或‘防護欄’，就是一位強大且聰明的(高智商！) 總統，而美國恰恰擁有這一點，而且是數不勝數！」唐納德·特朗普總統在Truth Social上寫道 (link)，並補充說，對中國AI發展的質疑將使中國受益。

一位熟悉此事的參議院助手和一位遊說人士表示，參議院談判代表正在就一項立法進行辯論，該立法將要求人工智能公司證明其已採取合理預防措施，以確保其工具不會造成危害。

中國

官方背景的《環球時報》在一篇社論 (link) 中指出，阿莫迪文章的真正意圖是「試圖通過技術壁壘和監管壟斷來遏制中國的AI發展，維護華盛頓在尖端技術領域的壟斷霸權，並將中國排除在全球AI治理體系之外。」

中國國家安全部部長陳一新在一篇 (link) 發表於政府媒體的文章中指出，Anthropic公司的Mythos和OpenAI公司的GPT-5.5-Cyber等先進的美國模型可能對中國關鍵信息基礎設施構成嚴重風險，並呼籲全面加強人工智能安全。

歐洲聯盟

「歐盟支持人工智能領域的創新發展，但企業必須證明其服務對公民安全無虞，方可在歐盟境內運營，」歐盟委員會發言人雷尼爾（Thomas Regnier）表示。

歐洲央行行長拉加德（Christine Lagarde） (link) 警告稱，歐盟正面臨被人工智能領域「孤立」的史無前例的風險，並表示歐洲需要成為人工智能技術的生產者，以維護其自主權。

德國

「我們認為暫停(人工智能) 的發展對歐洲而言並非可行之選，」德國數字事務部 (link) 表示，並補充道，加強歐洲的數字主權需要進一步發展人工智能並推動創新。

柏林方面表示，正非常密切地關注全球人工智能的發展動態，並認真對待主要開發商發出的公開警告。

西班牙

數字化轉型部長洛佩茲（Oscar Lopez）表示，關於需要達成一項國際協議來管理人工智能風險的討論日益增多，並將某些提案比作核不擴散協議。