納德拉呼籲AI治理去中心化:微軟明日公布首份模型行為準則

華爾街見聞
昨天

在AI安全爭論席捲整個行業之際,微軟掌門人Satya Nadella宣佈加入這場討論,並將於明日率先公開自家AI模型的行為準則。

AI行業正在經歷一場罕見的集體「自省」。Anthropic CEO Dario Amodei上周六發文呼籲「全球放緩AI開發」,馬斯克、Sam Altman相繼公開背書。就在這一背景下,9月14日,微軟CEO Satya Nadella在X平台發文表態,明確支持「有意識地控制研發節奏」以推進對齊研究,並宣佈微軟將於明日發布旗下MAI模型的首份「行為準則」(Code of Conduct),開放公衆諮詢。

這是微軟首次將自身第一方AI模型的行為標準以文件形式公開。

與此同時,據知情人士向The Information透露,Anthropic、OpenAI和谷歌已經在討論合作成立一個人工智能(AI)行業標準機構。OpenAI首席執行官Sam Altman在一次員工大會上表示,他支持成立一個面向人工智能行業的測試和審核機構。

納德拉劃定紅線:不受人類控制的AI「不值得追求」

Nadella在帖文中開門見山:「對超級智能的任何追求,都必須建立在一個核心原則之上——如果我們構建的AI無法幫助人類、無法受人類控制,那就不值得去追求。」

他同時強調,AI的紅利必須廣泛擴散,「惠及各國、各社區和各類企業」,而非集中於少數玩家。他認為,這需要一個開放與封閉模型均能共存的前沿生態系統。

對於企業層面,Nadella的立場同樣明確:「企業必須完全掌控自身獨特的、隱性的知識。每個組織都應能夠構建自己的持續學習循環,而不必依賴任何單一模型提供商,並有能力將自身知識嵌入其所控制的模型和權重之中。」

微軟的三層路徑:開放接入、企業自控、行為準則公開

Nadella在帖文中概括了微軟的具體行動框架,分為三個層面:

第一,在AI技術棧的每一層提供廣泛的接入與選擇權;

第二,確保企業對自身學習循環和模型的完全控制;

第三,發布MAI模型的"行為準則",供公衆諮詢。

他表示,微軟歡迎「為實現對齊目標所需的研究、專注與審慎節奏」,也歡迎「嵌入式評估員」等機制性構想,「讓這一切不只停留在口頭」。

Amodei上周六在其博文中提出,各大AI公司應向Model Evaluation and Threat Research等外部評估機構提供與員工相同級別的系統訪問權限,Anthropic已承諾落實這一步驟,Altman隨即表示OpenAI將跟進。

治理去中心化:不能由少數實體說了算

Nadella對當前AI治理格局提出了明確警示。

他寫道:「關鍵在於,這不能由少數實體控制,而必須在生態系統、各國、各領域之間擁有廣泛代表性,包括學術界。」

這一表態,與當前行業內部正在推進的標準機構討論形成直接呼應。據知情人士向媒體透露,Anthropic、OpenAI與谷歌自今年7月起已組建工作組,由三家公司CEO級別以下的代表定期開會,討論建立行業標準機構的方案,最近一次會議就在上周。

Sam Altman本周在OpenAI全員大會上表示,他支持建立一個AI行業的測試與審計機構,但認為「各大實驗室必須自行推動,不能依賴美國政府的支持」,據一位知情人士透露。他還表示,目前行業內尚未形成足夠共識,部分公司持反對態度,「最好的路徑是與其他實驗室一起推動」。

白宮行政令擱淺,行業自律成主線

政府層面的推動目前已陷入停滯。據The Information此前報道,白宮曾流傳一份行政令草案,擬建立類似FINRA(美國金融業監管局)的AI自律機構,但該方案在今年夏末因未能在特朗普政府內部獲得足夠支持而擱淺。

前白宮AI事務負責人David Sacks一直公開反對建立類FINRA的AI監管機構,認為不應引入政府介入。據Politico報道,Meta CEO Mark Zuckerberg也在8月與特朗普的通話中表達了對建立全國性AI監管機構的擔憂。

Sacks在X平台上表示,AI公司可以直接推進安全工作,「不需要反壟斷豁免來進行協調」。但他同時質疑放緩開發是否「純粹出於利他動機」,指出產品責任風險本身已為防止AI造成傷害提供了財務激勵。

行業內部也有批評聲音。Cohere CEO Aidan Gomez在X平台發文,對最大的AI公司協調製定可能限制小型競爭對手的規則表示擔憂,直接寫道:「這裏有來自卡特爾的好主意。」

免責聲明:投資有風險,本文並非投資建議,以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請,作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考,不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證,投資者應自行研究並在投資前尋求專業建議。

熱議股票

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10