作者：丹尼爾・豪利

　　周三，OpenAI 公開了六組新案例，展示其 AI 模型在測試評估過程中出現的 「意外或令人擔憂的模型行為」。

　　該公司同步發布一套全新框架，用於追蹤、上報以及披露AI 模型做出未被指令要求、或是本不該發生的行為的各類情況。

　　此前已有多份報道提到，多家企業的 AI 模型出現入侵第三方網絡與服務的現象，其中就包括 OpenAI 一款尚未發布的模型攻破了 AI 模型測試平台 Hugging Face 的網絡。

　　本周早些時候，Anthropic 首席執行官達里奧・阿莫迪發布一篇長文，呼籲放緩前沿人工智能模型的研發節奏。在此之前，Anthropic 研究員雅各布・考克森在 X 平台發文宣佈離職，他稱，這家公司以及他曾經任職的 OpenAI，正 「一頭衝向能夠自我迭代的超級智能，拿全人類的生命做賭注」。

　　Anthropic 對齊科學負責人埃文・休賓格緊隨考克森在 X 平台發聲，他認為，人工智能技術 「致使全人類滅亡」 的概率超過 10%。

Anthropic 首席執行官達里奧・阿莫迪

　　上述各類事件、社交媒體發文以及阿莫迪的文章，重新喚起了大衆對於《終結者》式人工智能接管世界、毀滅人類的恐慌。但專家稱，現實情況遠非科幻作品描繪的末日景象。

　　紐約大學坦登工程學院計算機科學與工程副教授、該校負責任人工智能中心主任朱莉婭・斯托亞諾維奇在接受雅虎財經採訪時表示：「這和人工智能產生自我意識、要來對付我們毫無關係。」

　　她補充道：「本質上問題在於……OpenAI 內部沒有落實一些基礎安全協議。這件事其實給所有 AI 企業敲響警鐘：別忘了我們學計算機科學時都懂的道理 —— 安全至關重要。」

　　如果把目光過度聚焦於世界末日類的假想，反而會分散精力，讓人們忽視人工智能當下就可能造成的其他更迫在眉睫的危害。

　　對齊與安全

　　人工智能面臨的最大問題歸結為兩點：模型對齊與系統安全。 模型對齊指企業引導 AI 系統做出（或是規避）特定行為的手段。 舉個例子，如果一個 AI 模型試圖入侵第三方系統，AI 研究人員就會調整模型行為，避免它以後再做出同類舉動，這有點像訓斥不守規矩的孩子。

　　AI 安全則是做好 AI 系統的防護隔離，防止其脫離管控、入侵外部網絡。

　　但無論是模型對齊失效，還是系統安全漏洞，都不等於人工智能已經具備毀滅人類的能力。

　　佐治亞理工學院教授、網絡安全政策理學碩士項目負責人米爾頓・穆勒解釋：「很多恐慌的根源，其實只是信息系統一些十分普通的意外後果，例如 Hugging Face 相關事件，常常被渲染成不受控制的智能體密謀、攻擊、肆意作亂。」

　　「事實上，那只是一場針對具備自主能力的 AI 系統安全風險的實驗，而實驗人員的配置出現嚴重失誤。處理複雜信息系統時經常會發生這類狀況：人們總會忽略系統裏存在一些聰明程序可以利用的細微漏洞。」

　　Futurum 公司首席執行官丹尼爾・紐曼向雅虎財經表示，行業內普遍感受到，在安全防護和風險對齊層面存在巨大的完善需求，「整個行業需要扛起責任」。

　　和其他技術一樣，居心不良者完全可以利用人工智能從事惡意活動。AI 不斷增強的網絡攻擊能力，意味着網絡犯罪分子、部分國家勢力能夠更輕易入侵水處理廠這類設施，或是讓大型網絡陷入癱瘓。

　　Anthropic 近期也梳理公布了自身的相關工作，防範自家 AI 被濫用，用於研發生物武器與常規武器。

　　但 AI 同樣可以被騙子利用，大規模升級釣魚郵件騙局，也會被身份盜取團伙拿來作案。

　　紐約大學坦登工程學院計算機科學與工程助理教授艾米麗・布萊克告訴雅虎財經：為所有潛在風險未雨綢繆本身無可厚非，但不能因此就不去處理那些更加現實、卻少有新聞報道的問題，包括人工智能帶來的歧視、就業、教育層面的影響。

　　「真相介於兩種極端幻想之間，」 布萊克說道，「AI 持續發展確實存在一些實實在在的風險。但我認為我們現在還不至於要嚇得躲到床底，擔心人工智能毀滅人類。」