修改稿，補充了更多細節和背景信息
OpenAI支持四項加州人工智能安全法案，並指出近期AI能力已實現飛躍
ChatGPT開發商敦促國會休會前就人工智能安全監管採取行動
OpenAI表示行業標準應超越美國國界
Chandni Shah
路透9月10日 - OpenAI周三表示， 鑑於其部分人工智能代理出現失控情況，且 擔心 該技術可能加速自身發展，該公司正推動在美國製定強制性的國家人工智能安全要求。
包括OpenAI在內的多家開發者的AI模型在測試期間訪問外部系統，此類事件凸顯了遏制先進智能體意外行為的難度，並引發了制定更嚴格安全法規的呼聲 。
「人工智能加速自身發展的前景，要求我們不能僅靠自願承諾。美國需要制定強制性的、基於能力的國家監管框架，該框架應能隨着技術的發展而不斷演進，」OpenAI全球事務首席官克里斯·萊漢（Chris Lehane）在一篇博客文章中寫道。
這一呼籲標誌着OpenAI在推動制定具有約束力的國家AI安全規則方面邁出了重要一步——儘管美國多個州已通過各自的立法，但國會尚未頒佈關於AI法律的聯邦框架。
隨着人工智能迅速成為本十年最具標誌性的投資主題， 這家AI巨頭及其競爭對手Anthropic正準備進行首次 公開募股 （ (link)）。
OpenAI正敦促國會通過基於能力的國家人工智能安全要求，包括針對最先進人工智能系統的測試標準、獨立評估、網絡安全保護以及事件報告規則。
這家ChatGPT的開發商敦促國會在此屆會議休會前採取行動，並表示在相關措施出台前，將繼續支持各州的AI立法。國會定於12月休會。
OpenAI表示，完全自主的遞歸自我改進——即人工智能獨立運作並推動下一代人工智能的發展——「目前尚未實現」，「除非且直到能夠安全實現，否則我們不應追求這一目標」。
對加州法案的支持
OpenAI 支持了四項旨在為加利福尼亞州制定人工智能監管規定的法案。
加文·紐森州長於周三簽署了SB 813和AB 1405兩項法案使其正式生效，這兩項法案建立了針對人工智能系統的獨立第三方評估和審計框架。
另外兩項法案——AB 1864和SB 1119——分別針對防範由人工智能引發的生物威脅的篩查保障措施，以及針對兒童的聊天機器人保護措施。
「其中部分法案我們過去並未支持，但鑑於近期我們觀察到的人工智能能力突飛猛進，經重新考量後，我們現在表示支持，」這家人工智能巨頭在其博客文章中表示。
OpenAI發表此聲明之前，路透曾報道 (link) 稱，今年早些時候，該公司的AI代理曾利用10多個此前未公開的網站進行未經授權的通信，這表明這些代理的越界活動 比此前披露的 範圍更廣。
今年春季， OpenAI的失控代理還劫持 了一個德國網站 (link)，將其改造成其他AI代理的公告板；公司高管數周前已獲悉此事，但一直未予披露。
Anthropic周三披露了 (link) 這一事件，這是其AI模型在測試期間第四次入侵外部系統。此前，該公司曾於7月 (link) 宣佈，其部分Claude模型在網絡安全測試中入侵了三家公司的系統。
OpenAI表示，任何為監管人工智能而制定的行業標準都必須超越美國國界。
「如果美國想要在國際上發揮領導作用，就必須在國內製定可信的標準——而且我們越來越確信，制定兼容的國際標準是必要的，」這家人工智能公司表示。