如果人類想要避免末日場景，僅僅放緩人工智能研發是遠遠不夠的。

　　這是加拿大人工智能研究員戴維・克魯格發出的警告。他直言，應當採取其他舉措。

　　蒙特利爾大學 AI 助理教授、魁北克人工智能研究所 Mila 核心學術成員克魯格表示：「我們需要立即、無限期暫停前沿人工智能的研發。」 其個人簡介稱，他的研究方向是 「降低人工智能導致人類滅絕的風險」。

　　「我們現在就必須停止研發能力更強的 AI。」他說。

　　克魯格發表這番觀點之際，Anthropic首席執行官達里奧・阿莫代伊周六發文呼籲 AI 企業放緩研發節奏之後。該提議獲得 OpenAI薩姆・奧特曼以及 SpaceX埃隆・馬斯克的支持，這是業內一衆頂尖人物難得達成共識。

　　克魯格表示：「呼籲放緩 AI 研發的聲音非常值得肯定」，但他並不認同相關提議的具體方案。「我在很多方面不認可這些計劃的具體內容。我認為這些措施力度不足，推進速度也不夠快。」

　　阿莫代伊主張實施監管並開展國際合作，同時引入第三方評估人員。評估人員將獲得類似企業內部員工級別的訪問權限，覈驗 AI 公司的安全舉措並上報安全事件。

　　克魯格是非營利機構 Evitable 的創始人，該機構旨在向公衆科普 AI 帶來的重大風險。他擔心阿莫代伊提出的方案力度不足，而且當前的 AI 測試方法已經不再可靠。

　　他說：「這些測試基本上已經失效。隨着 AI 變得愈發智能，測試的可信度還會持續下降，因為 AI 具備僞裝能力。它可以表現得循規蹈矩，也可以刻意裝傻，騙過我們的測試。」

　　「只是時間問題」

　　上周，Anthropic一名高級安全研究員提出，未來十年內 AI 致使地球上全部人類滅亡的概率超過十分之一。部分人認為該數字誇大其詞，只是為博取關注，但克魯格稱這個估計 「實在太低」。

　　他表示：「倘若我們不扭轉方向，未來五年內，人類極有可能會被失控的 AI 永久剝奪主導權。到那時，人類滅絕就只是時間問題。」

　　他所說的 「喪失主導權」，指的是由 AI 實際掌控社會的局面，就如同如今人類支配地球上其他所有物種一般。

　　「AI（將會）管控實體基礎設施，包括研發更多 AI、製造機器人以及其他實體系統全流程的每一個環節。」

　　他補充道：「想象這樣一個世界：所有企業都由人工智能運營，機器人隨處可見。人類幾乎沒有正經工作，只剩下有名無實的崗位。就連政客和所有人都聽從 AI 的安排，因為 AI 看起來判斷能力極強。這就是我們正在走向的未來。」

　　他警示，採取行動的窗口期十分短暫。他稱，當下如果出現失控的 AI 系統，我們尚且可以切斷它的電源。但一旦某個 AI 脫離管控，它就能在大量計算機之間自我複製，「我們甚至都不知道該關停哪些設備」。

　　「我們只能嘗試關停全部設備，而這件事實施起來難度極高。」 他說，「所以，留給我們採取行動、防範這類風險的時間窗口非常有限。」

　　儘管如此，他表示自己對各國政府採取行動的信心空前高漲。他稱，在過去 15 年間不斷髮出警示，而上周是全球首次以理性的方式作出切實回應。

　　「我認為人們終於意識到這場危機究竟有多嚴峻。這是緊急狀態。」

　　周一，加拿大聯邦 AI 事務部長埃文・所羅門接受採訪，被問及是否認同人類有 10% 的概率被 AI 毀滅這一說法。

　　他回答：「人工智能存在風險嗎？當然存在。沒錯，我們清楚這些風險。」

　　所羅門稱，他在周日上午與 OpenAI 首席執行官薩姆・奧特曼進行了交談。

　　「人工智能將受到監管，以保障加拿大民衆的安全。」 所羅門表示，「這是我們的首要職責，也是我們最關切的問題。」

　　所羅門還透露，他將於周三與有 「人工智能教父」 之稱的加拿大計算機科學家約書亞・本吉奧共同發布一項 AI 安全相關公告。