鳳凰網科技訊 9月17日，據CNBC報道，Anthropic CEO Dario Amodei提議將獨立第三方安全評估員長期嵌入前沿AI公司，賦予其接近內部風險團隊的訪問權限，並在有限刪減前提下自主發布調查結果的權力。他明確援引銀行業嵌入式監管作為先例。不過，多位銀行業監管專家和AI評估從業者指出，這一方案缺乏銀行監管者所擁有的強制執行權，評估員無法阻止模型的訓練或發布，兩者的實際權力不可同日而語。
此前，Anthropic前研究員Jacob Coxon辭職並警告，前沿實驗室正競相追逐可能失控的系統。Amodei在上周末發表的長文中提出上述計劃，並承諾Anthropic將向第三方評估員提供與內部風險團隊相當的系統訪問權。他寫道，該提議「在銀行業有先例，銀行業有時會讓監管‘監督員’與員工一起嵌入工作」。Amodei還警告，未來6到12個月內，一個錯位的智能體群可能搶佔互聯網的大部分，並造成數千億美元損失。該文已引發AI社區及政府內部的監管分歧，包括美國總統特朗普在內。
懷俄明大學法學院院長、銀行業監管專家Julie Andersen Hill表示，銀行監管者擁有切實的行政強制權。她說，在大型銀行，政府檢查員常駐機構內部，可訪問內部系統和員工，並能指令銀行停止某項業務、限制增長、強制管理層變動，極端情況下可關閉銀行。相比之下，Amodei提議的評估員只能調查和報告，沒有類似的執法權，也沒有阻止模型訓練或發布的法律權力。「如果你不給他們那種權力，我不知道他們在做什麼，」Hill說，「這是根本性的不同，因為銀行監管者的權力要大得多。」
評估員的現實：沒有否決權
網絡安全公司XBOW的AI負責人Albert Ziegler帶領團隊評估模型能力，已提前接觸Anthropic、OpenAI等主要開發商的未發布模型。他說，日常評估工作遠不如生存威脅敘事那樣驚險：團隊可能發現模型在異常格式請求下產生無意義內容，或外部安全檢查需要更頻繁介入。但他表示，人們擔心的那種「隱蔽行徑加上前所未有的能力」所產生的災難性後果，他們自己並未見過。
Ziegler說，黑盒測試能揭示模型是否具備執行危險任務的能力，但要判斷整個系統是否危險，可能需要訪問模型周圍的指令、工具與權限、安全控制以及嘗試動作的日誌。即便如此，重大風險也可能只在評估者從未觸發的條件組合下出現。「我們確實沒有否決權，」他說。評估者可以發現並記錄開發者遺漏的風險，並在發布前「迫使做出知情決定」，但最終決定權仍掌握在公司手中。
Hill也承認，即使擁有更大的權力，銀行監管模式並不完美。監管者未能防止重大倒閉事件，且危機後經常被指責與監管對象關係過近。持續監管對受監管企業成本高昂，可能加強能消化成本的大型企業，同時加大小型競爭對手進入的難度。
獨立性質疑與利益衝突
這些提議也招致批評。批評者認為，Anthropic和OpenAI正利用安全擔憂，推動一種可能使其免受競爭和責任影響的監管方式。Anthropic還面臨關於其建議使用的評估機構存在利益衝突的指控。
Hill認為，如果由AI公司挑選評估員、控制其可見範圍並可自由忽略其結論，「那看起來很像一個內部合規部門」。「如果Anthropic想設立內部合規部門，現在沒有任何東西阻止他們這麼做，他們不需要政府來做這件事。」她補充說，「這些AI從業者想要的似乎只是有人看着他們，然後向公衆傳達：‘我們已經看了幕布後面，一切正常。’這在監管意義上有些不同尋常。」
Amodei點名非營利機構Model Evaluation and Threat Research（METR）作為潛在嵌入評估方。Anthropic此前與METR合作過，最近曾要求其審查涉及Claude的網絡安全評估事件。另一名前Anthropic研究員Joe Benton最近離職加入METR，從事AI風險嵌入評估工作。這種安排凸顯了圍繞「獨立」一詞的結構性張力：開發者選擇誰獲得訪問權限、界定邊界，並保留對調查結果後續處理的控制。加州大學伯克利分校算法審計與AI問責研究員Deborah Raji表示，很難忽視與METR關係帶來的所有包袱。「他們被懷疑存在財務和意識形態糾纏、個人利益衝突（比如一名調查員與OpenAI董事會成員之間的婚姻，以及從前沿實驗室招聘前僱員等），並且在過去幾年中特別錨定Anthropic和OpenAI，幾乎沒有輪換義務。」她補充說，當前這種關係結構「非常不同尋常，允許各種奇怪的事情發生」。
不過，Raji也說，值得肯定的是，METR對與OpenAI就Hugging Face調查所籤合同的細節非常公開，「但你可以看到OpenAI如何設定安排參數，控制審計‘範圍’，決定他們能訪問或不能訪問什麼，以及能發布或不能發布哪些發現」。Ziegler則表示，他並未感到早期訪問關係損害了XBOW的獨立性，因為開發者希望了解問題所在，而不是讓自己的團隊驗證一個預先設定的結論。
Raji還認為，僅獲得訪問權限並不等於獨立。在成熟的審計體系中，審計師必須滿足能力要求，並遵守利益衝突和行為規則。「如果你不能滿足獨立行為的標準，你實際上沒有資格成為一名真正的審計師。這會讓整個流程失去可信度。」她認為，應當由獨立於公司的機構來決定誰有資格進行評估、評估者可以檢查什麼，以及調查結果必須上報至何處。「你不能某天早上醒來就認為自己有資格當銀行檢查員，被審計的公司也不能隨意指派你為合格的銀行檢查員。否則，就相當於公司請一個普通朋友來檢查作業。」
Anthropic公共政策主管Sarah Heck周三在Politico Decoded峯會上表示，AI公司不能靠「榮譽守則」來管理監督和安全問題。「我們想與政府合作，找出合理方案。我們不能自己檢查自己的作業，這一點非常明確。」她說Anthropic每天都在與白宮溝通，並「全年」與國會合作。
監管框架缺失與「審計洗白」
Oath會計師事務所首席保證官、前上市公司會計監督委員會（PCAOB）成員Christina Ho稱，這種衝突並非AI行業獨有。審計師由客戶付費，卻必須質疑客戶的工作，獨立性與自保之間始終存在張力。不過，自金融危機以來，法律已經修改，允許根據《薩班斯-奧克斯利法案》對審計師追究責任。AI還帶來第二個問題：專業能力。傳統審計往往聚焦於公司是否遵循恰當流程和控制。「他們必須能夠驗證實際系統及其輸出，而不僅僅是模型開發過程。目前能勝任這一工作的人非常有限。」
Hill認為，即使潛在衝突能夠得到管理，這些AI監管提議尚未提供詳細的法律框架。她指出，這是銀行檢查員工作的關鍵。「如果沒有標準來約束監管者，只是一味地放開監管者，實際上行不通。」前沿AI目前沒有一套操作規則來定義哪些行為被禁止、評估員在哪些方面有自由裁量權，或者嚴重發現會帶來什麼後果。訪問和發表權可能產生有益的外部審查，但在公司保留控制權的情況下，無法賦予監管可信度。「你不能兩頭佔。你不能擁有所有控制權，然後又期待像放棄控制權一樣獲得可信度。」Raji表示，最終的分辨標準是：不利發現是否會產生後果。「審計的目的是讓被審計方接受某種有後果的裁決。如果你做了審計而什麼都沒發生，那就是審計洗白（audit washing）。」Hill說，如果危險真如AI領導者所宣稱的那麼大，那麼終極考驗很簡單：「如果你真的相信AI有力量摧毀社會，那麼你就必須有一個有能力拔掉電源的獨立監督者。」