Google被傳接近實現「遞歸自我改進」突破 AI行業減速呼聲引發新爭議

cnBeta
8小時前

人工智能行業近日因一則未經證實的傳聞而掀起廣泛討論。市場消息稱,Google旗下DeepMind可能已經接近實現被業內視為「人工智能聖盃」的關鍵能力——遞歸自我改進(RSI)。與此同時,Anthropic、OpenAI以及馬斯克等業界重要參與者近期頻繁呼籲放緩前沿人工智能發展速度,這種時間上的巧合也引發外界對於行業競爭和監管博弈的新猜測。

所謂遞歸自我改進,是指人工智能系統能夠幫助開發下一代更強大的人工智能模型,並進一步提高未來模型的研發效率。如果這一過程持續循環,理論上可能形成能力快速增長的反饋機制,使人工智能進步速度遠遠超過傳統技術演進節奏。

目前有關Google接近實現RSI的說法主要來自行業傳聞,尚未獲得Google官方證實。不過,這一猜測恰逢多家領先AI公司最近集中表達對人工智能加速發展的擔憂,因此迅速引發關注。

率先引發討論的是Anthropic首席執行官達里奧·阿莫代伊。他發表公開文章呼籲放緩前沿AI發展速度,並提出建立更嚴格的安全評估機制。他在文章中表示,自今年夏季以來,人工智能進步速度出現明顯加快,而推動這一變化的重要因素之一,就是AI越來越多地參與到下一代AI系統研發工作中。

阿莫代伊特別提到,遞歸自我改進現象已經開始在整個行業範圍內顯現。他認為,如果這一趨勢失去控制,人類理解和監管這些系統的能力可能無法跟上其發展速度,因此需要極其謹慎地推進相關研究。

作為具體措施,Anthropic宣佈願意引入擁有接近員工權限的第三方評估團隊,對公司模型訓練流程、安全機制和開發活動進行長期監督,以驗證企業是否遵守自身作出的安全承諾。

OpenAI隨後公開表示認同這一觀點。公司負責人稱,人工智能前沿發展的速度問題已經成為近幾周內部討論的重要議題,並表示未來也將支持類似的獨立安全審查機制。

與此同時,馬斯克長期以來同樣主張加強對先進人工智能的監管。他曾多次警告超級智能可能帶來的潛在風險,並認為在能力快速增長階段建立監管框架具有必要性。

然而,這些呼籲也引發了另一種截然不同的聲音。一部分批評人士認為,大型AI實驗室要求放緩行業發展,並不一定完全出於安全考慮,也有可能是一種爭取「監管護城河」的策略。他們擔心,一旦政府採納更嚴格的監管措施,擁有大量資金、算力和法律資源的大公司反而更容易滿足監管要求,而規模較小的競爭者和開源項目將面臨更高門檻。

這種觀點認為,如果行業發展速度被人為壓制,最終受益者未必是公衆安全,而可能是已經佔據領先位置的頭部企業。部分評論人士甚至將這種現象描述為「監管俘獲」,即大型企業藉助監管體系鞏固自身優勢地位。

無論上述猜測是否成立,越來越多證據表明,人工智能正在以前所未有的速度參與自身研發過程。近期多個研究機構和企業都承認,AI已經能夠承擔代碼編寫、模型優化、實驗設計以及部分研究工作,這使得AI研發效率出現顯著提升。

因此,圍繞遞歸自我改進是否即將到來、行業是否應該放緩發展,以及誰將從未來監管體系中獲益的問題,正在成為全球人工智能領域最激烈的討論之一。而如果Google真的接近實現RSI,那麼這場關於速度、安全與競爭的爭論,或許才啱啱開始。

免責聲明:投資有風險,本文並非投資建議,以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請,作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考,不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證,投資者應自行研究並在投資前尋求專業建議。

熱議股票

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10