在迄今為止規模最大的一項人工智慧（AI）研究人員調查中，多數人表示，由於可能開發出超越人類的 AI，人工智慧技術可能有 5% 的機會對人類構成存在的威脅。
這項調查涵蓋了2,700 名在六大主要AI 會議上展示研究成果的AI 研究人員，是迄今為止規模最龐大的AI 研究人員調查。參與者被詢問了他們對即將到來的AI 里程碑的潛在時間表以及這些進展的正面或負面社會影響的看法。《新科學家》報導，近58% 的研究人員表示，他們認為像人類滅絕或其他與AI 相關的嚴重負面後果發生的可能性為5%。
這項研究還顯示，研究人員預計一些重要的AI 里程碑，例如創造出與人類作品無法區分的音樂，將比最初預期的更早出現。
「『這是一個重要的訊號，』加州機器智慧研究所的 Katja Grace 說道，她是這篇論文的作者之一，『它代表著大多數 AI 研究人員並不認為先進 AI 摧毀人類是完全不可能的。我認為，普遍相信風險並非微乎其微，比確切的百分比風險更加具有啟發性。』」
人工智慧研究界越來越多人認為，超級智慧 AI 的出現可能對人類造成重大威脅，甚至導致滅絕，儘管對這些風險的程度和形式仍存在相當大的分歧和不確定性。 這是迄今為止規模最大的 AI 研究人員調查，涵蓋了最近在六個頂尖 AI 會議上發表研究成果的專家。
調查結果進一步凸顯了，不少 AI 研究人員沒有輕視先進AI 對人類構成嚴重威脅的可能性。來自機器智慧研究所的 Katja Grace 強調了普遍認為存在不可忽視風險的重要性，而不是僅僅關注特定百分比數字。
然而，來自凱斯西儲大學的 Émile Torres 認為不需要立即恐慌。他們指出，AI 專家調查在預測未來發展方面的歷史記錄讓人很質疑，一份 2012 年的研究表示，專家預測的準確性比公眾意見好不到哪裡去。
與 2022 年的版本相比，許多 AI 研究人員現在預計 AI 將比之前預測的更快地實現某些里程碑。這與 2022 年底 ChatGPT 和類似模型等 AI 聊天機器人服務的廣泛部署相吻合。
儘管人們擔心 AI 會偏離人類價值觀而造成危害，一些人仍然認為，目前的技術還無法造成懷疑論者們預測的災難性後果。哲學教授 Nir Eisikovits 認為，AI 系統無法做出複雜決策，也沒有自主存取關鍵基礎設施的許可權。
雖然關於 AI 抹除人類的恐懼引人注目，但《自然》雜誌的一篇社論認為，更迫切的社會擔憂在於偏見決策、工作流失以及極權政權濫用臉部辨識技術。該社論呼籲關注實際風險並採取行動解決它們，而不是散布恐慌性的敘述。
擁有與人類同等智慧的AI 可能會創造出其他AI，進而導致無法控制的「超級智慧」。研究人員Otto Barten 和Joep Meindertsma 認為，AI 實驗室的競爭性本質促使科技公司快速創造產品，可能忽略倫理考量並承擔風險。他們警告說，歷史顯示，人類並不擅長預測新技術所帶來的未來後果。
研究人員寫道：「從歷史上來看，人類在不擅長預測新技術在未來對外部影響。」
加入電腦王Facebook粉絲團