根據 Decrypt 報導,牛津大學、柏克萊大學和波昂大學的研究人員對 2700 多名人工智慧專家進行的一項新調查顯示,先進人工智慧系統對人類的潛在影響並不那麼可怕。 雖然只有約 5% 的受訪者認為人工智慧很可能導致人類滅絕,但 2023 年 8 月的一項民調發現,61% 的美國人認為人工智慧對人類構成威脅。 這與簽署人工智慧安全中心信函的行業領導者形成鮮明對比,信件指出減輕人工智慧滅絕的風險應該是全球優先事項。
在人工智慧能力方面,許多受訪者預測人工智慧將在 10 年內實現重大的創意里程碑,例如從頭開始編寫整個支付網站或創作與當今熱門歌曲毫無區別的歌曲。 然而,對於諸如數學定理證明之類的挑戰,時間線會延長。 高階機器智慧 (HLMI) 成為現實的可能性已經提前了 13 年,預計到 2047 年成功的可能性為 50%。勞動完全自動化 (FAOL) 的目標也提前了 48 年,到了 2116 年。
雖然研究人員總體上持謹慎樂觀的態度,但約 40% 的人認為先進人工智慧導致人類滅絕的可能性很小(不是零)。 這凸顯了優先考慮人工智慧安全研究的必要性,70% 的受訪者對此表示贊同。 對於 2028 年的人工智慧是否可以解釋自己的推理,人們存在不同的看法,並且對人工智慧帶來的錯誤訊息、不平等和大規模監控等風險存在著很大的擔憂。 研究人工智慧倫理和安全仍然至關重要。