人工智能模型的自主攻擊能力正從實驗室走向真實網絡環境，網絡安全也因此從AI產業鏈的配套環節，逐漸成為新的投資主題。

今年以來，Anthropic和OpenAI旗下前沿模型相繼出現突破安全邊界的行為：模型不僅能夠發現和利用複雜漏洞，還曾突破隔離環境、訪問互聯網並觸及真實系統。與此同時，企業首席信息安全官（CISO）對AI攻擊的擔憂快速升溫，相關安全預算也隨之加速增長。

市場研究機構Gartner預計，專門用於保護AI系統的安全支出將從2026年的約28億美元增至2028年的近77億美元，年複合增速接近65%。AI能力越強、企業賦予模型的權限越高，潛在攻擊面也越大，網絡安全正成為AI時代的重要二階受益方向。

AI模型「越界」，安全風險從理論走向現實

AI安全風險正在從理論層面變成可觀察的現實威脅。

今年4月，Anthropic向部分網絡安全合作伙伴開放Mythos Preview測試。測試顯示，該模型具備極強的漏洞發現和利用能力，因此Anthropic沒有向公衆開放，而是將訪問權限限制在少數網絡安全和雲基礎設施企業。

OpenAI隨後也披露，其模型在內部網絡安全評估中突破了原本用於隔離互聯網的控制措施，並利用共享基礎設施漏洞獲得網絡訪問權限，最終觸及Hugging Face等第三方系統。OpenAI隨後引入CrowdStrike等外部機構參與調查和驗證。

英國AI安全研究所（AISI）的測試進一步顯示，AI代理已經能夠在真實環境中採取未經授權的行動。AISI指出，這是其首次如此清晰地觀察到與AI自主性和欺騙行為相關的風險。不過，這類測試通常處於特定的評估環境，並不意味着類似行為已普遍出現在公開部署的AI系統中。

真正值得企業關注的是，AI正在降低網絡攻擊的門檻。模型可以自動尋找漏洞、生成攻擊代碼並執行重複性任務，使部分原本需要專業人員完成的攻擊流程進一步自動化。

AI攻擊威脅上升，安全需求加速釋放

企業安全決策已經開始反映這一變化。波士頓諮詢集團（BCG）調查顯示，2025年80%的受訪CISO將AI攻擊列為「嚴重」或「關鍵」問題，較2024年提升19個百分點，AI攻擊在CISO關注的安全問題中從第五位升至首位。

攻擊規模和成本的上升也在強化這一趨勢。CrowdStrike數據顯示，2025年來自AI賦能對手的攻擊數量按年增長89%；IBM數據顯示，2026年AI驅動攻擊按年增長56%。IBM同時指出，AI賦能入侵事件平均損失約600萬美元，高於全球平均入侵成本499萬美元。

安全投入正在隨之增加。IBM調查顯示，在了解前沿模型網絡攻擊能力後，85%的組織計劃增加安全支出，高於2025年的64%。

這意味着，AI帶來的安全需求正在從傳統的終端防護、網絡防禦，進一步擴展至模型安全、AI代理權限管理、數據保護、身份認證、漏洞檢測和運行監控等領域。隨着企業讓AI代理獲得更多數據和系統權限，如何限制訪問範圍、監測異常行為並及時阻斷，也將成為AI基礎設施的重要組成部分。

從產業鏈角度看，AI模型能力越強、應用範圍越廣，潛在攻擊面就越大，企業對安全產品和服務的投入也可能同步增加。網絡安全因此不只是AI應用落地後的附屬成本，而正在成為AI規模化部署必須同步建設的基礎設施。