Reddit聯合創始人亞歷克西斯·奧哈尼安周三表示，科技行業在解釋人工智能並向公衆適當告知真實風險方面一直「音盲」。

　　奧哈尼安表示，圍繞人工智能的辯論應聚焦於實質性風險，而不是那些可被用來撈取政治分數的議題，並認為公衆知情對於駕馭這項技術至關重要。他承認，科技行業在這方面加劇了問題，在解釋人工智能方面做得「相當音盲」，同時表示其風險比一些人擔心的「終結者和天網」場景更為平庸。

　　天網是《終結者》電影中一個虛構的自我意識人工智能系統，它將人類視為威脅並試圖消滅人類。

　　這些言論出現的前幾天，人工智能實驗室OpenAI和Anthropic的研究人員就一項被稱為遞歸自我改進（RSI）的技術快速進步發出警告。

　　RSI 指的是人工智能系統幫助開發更先進的模型，可能形成一個循環：能力越來越強的系統會參與構建能力更強的系統。

　　令人擔憂的是，如果人工智能系統接管新模型的訓練過程，其人類開發者最終可能失去對這些系統如何演變的控制。

　　「滅絕」警告升級，更多OpenAI、Anthropic研究人員加入呼籲人工智能放緩的行列

　　奧哈尼安認為，雖然人工智能風險真實存在，但末日式的「終結者」風格警告可能會分散人們對真實擔憂的注意力，例如智能體集群，即多個人工智能代理協同工作以執行復雜任務。

　　「存在風險，我確實認為它們比人們想象的要更良性，或者說更平庸，」他說。

　　他將人工智能比作核能，因為這兩項技術都是強大的科學進步，如果負責任地管理，既能造成嚴重傷害，也能帶來重大好處。

　　「我希望這朝着健康的方向發展，而這只需要更少的推文，更多像是有思想的對話，」奧哈尼安說。

　　「末日論者的推文令人沮喪，」他說，但沒有具體說明，並補充說當「口號實際上並非真實事物」時，這「令人沮喪」。

　　本月早些時候，一名人工智能研究員從Anthropic辭職，並指責該公司和OpenAI在開發這項強大技術方面行為不負責任。

　　雅各布·考克森曾在兩家公司擔任研究員，他在社交媒體上表示，他辭職是因為擔心Anthropic和OpenAI正在「拿我們的生命賭博」。他說，構建人工智能的人「真誠地相信它可能在這個十年結束前殺死我們所有人」。

　　對奧哈尼安來說，細微差別至關重要。「我們應該討論重要的、真實的事情，而不是那些可能撈取一些快速政治分數的事情，我有信心我們可以進行這場討論。」

　　「這讓我感到沮喪，因為我看到所有這些虛假信息滿天飛，但我確實認為從長遠來看，我們會做對的，這就是我希望發生的。所以我對那部分並不特別擔心。」