參考消息

　　【今日導讀】盟友們完全有理由質疑：更大的人工智能訪問權限、更多的存儲信息和數據聚合，是否會在美國製造新的風險？

　　美國國防部8月底啱啱宣佈，該機構將通過引入軍用版ChatGPT（ChatGPT Mil）和政府版「格羅克」（Grok for Government）來擴展情報人工智能平台（GenAI.mil），從而將更多企業級人工智能整合到美國軍方的日常基礎設施中。這兩款系統均已獲得認證。自2025年12月上線以來，情報人工智能平台的獨立用戶數已超過170萬。

　　這不再是小規模測試。國防部已公開呼籲打造一支「人工智能優先」的部隊，並表示這些人工智能工具旨在加快規劃、決策、後勤、行政、採購、供應鏈及其他日常工作的進程。目標是讓人工智能成為常態，使其快速得到部署應用，並儘可能地普及到部隊的各個層面。

　　這或許能帶來真正的優勢，但也引發了一個讓國家安全局的每名風險分析師都感到頭疼的基本安全問題：快速普及人工智能工具意味着更多的用戶、更多的憑證、更多的存儲項目、更多的數據傳輸、更多的軟件連接，以及更多讓境外人員找到入侵途徑的機會。

　　便利性或削弱安全紀律

　　最大的風險並非科幻小說中所描述的人工智能反過來對抗美國，也不是人工智能產生自我意識並誤導用戶。真正的風險在於數據、人員和紀律。企業級人工智能的設計初衷是為了提供便利，而這種便利恰恰會隨着時間的推移逐漸削弱安全紀律。人們與對話式人工智能進行互動的方式與他們使用傳統信息系統時有所不同。同行評審研究表明，用戶在與對話式人工智能進行互動時，往往會向對話式智能體透露更多信息，遠超他們在面對真人或傳統問卷調查時透露的信息。

　　這一點至關重要，因為人們日復一日地在同一個系統中提問、上傳文件、複製文本、總結資料、保存項目，直到這種交互變得習以為常。此類互動越是習以為常，圍繞它的安全紀律就越容易被侵蝕。對話式人工智能的大規模應用並不一定會違反操作安全，但它會給操作安全帶來更大壓力。五角大樓自身的作戰理論就曾警告稱，數據聚合、常規信息系統以及日常組織活動都可能產生可被利用的漏洞。而情報人工智能平台正在同時擴展這三者。

　　如果給上百萬用戶提供一款旨在實現流暢對話的工具，並讓該工具成為他們日常工作的一部分，那麼其中一部分人最終會變得過於放鬆警惕。安全規則、嚴格的流程、培訓和資格認證雖有助於降低風險，但這些措施無法預測用戶在無數次互動中的所有行為。我之前就警告過，軍方使用企業級人工智能的弊端在於，由於標準受到削弱，這種「常態化」本身就會成為一種隱患。而如今，美國國防部正在明確嘗試把前沿人工智能作為日常行動的標準。

　　給黑客留出更多攻擊面

　　人工智能系統越多，就意味着軟件越多、集成越多、憑證越多、存儲的知識越多，以及惡意行為者可以進行探測的入口也越多。美國國家標準與技術研究所明確警告稱，生成式人工智能擴大了可被黑客利用的攻擊面。

　　這不僅涉及五角大樓自身的安全問題，還會在國際上引發反響。美國是「五眼聯盟」等情報共享關係的核心，而這些合作關係依賴各方對美國的信任，即敏感信息一旦進入美國系統，就能得到妥善保護。隨着五角大樓將企業級人工智能納入常規軍事工作，盟友們完全有理由質疑：更大的人工智能訪問權限、更多的存儲信息和數據聚合，是否會在美國製造新的風險？

　　快速部署人工智能不應與增強作戰能力混為一談。五角大樓應根據自身程序謹慎評估人工智能的應用，識別其帶來的安全負擔，並在後續環節中降低這些風險。每項新的人工智能能力都會增加需要防禦的環節，而每增加一層便利都會給軍方的安全系統以及操作人員的主觀判斷帶來更多壓力。美國的對手無需發明超級智能體來利用這一點，只需等待美軍紀律逐漸鬆懈便可達成目的。

　　本文由美國外交政策聚焦研究計劃網站9月7日發表，原題為《五角大樓的人工智能熱潮正在製造安全漏洞》。