|
人工智能聊天工具ChatGPT的開發商OpenAI周三表示，該公司計劃投入大量資源，創建一個新的研究團隊，以確保其人工智能對人類來說是安全的，最終使用人工智能來監督自身。
OpenAI聯合創始人伊利亞·蘇斯克維爾（Ilya Sutskever）和對齊團隊負責人簡·萊克（Jan Leike）在一篇博客文章中寫道：“超級智能的巨大力量可能……導致人類被剝奪權力，甚至人類滅絕。目前，我們還沒有一個解決方案來操縱或控制一個潛在的超智能人工智能，并防止它失控。”
他們預測，超智能人工智能——比人類更聰明的系統——可能在這個十年到來。人類將需要比目前更好的技術來控制超智能人工智能，因此需要在所謂的“對齊研究”（alignment research）方面取得突破，該研究的重點是確保人工智能對人類有益。
他們寫道，由微軟支持的OpenAI將在未來四年中將其獲得的計算能力的20%用于解決這個問題。此外，該公司正在組建一個新的團隊來組織這項工作，稱為超級對齊團隊。
該團隊的目標是創建一個“人類水平”的AI對齊研究者，然后通過大量的計算能力進行擴展。OpenAI表示，這意味著他們將使用人類反饋來訓練AI系統，訓練AI系統輔助人類評估，然后最終訓練AI系統進行實際的對齊研究。
但人工智能安全倡導者康納·萊希（Connor Leahy）對OpenAI的這一計劃提出了異議，認為該計劃從根本上存在缺陷，因為最初的人類水平的人工智能可能會在被迫解決人工智能安全問題之前失控并造成嚴重破壞。
他在接受采訪時說：“在構建人類水平的智能之前，你必須先解決對齊問題，否則默認情況下你無法控制它。我個人認為這不是一個特別好的或安全的計劃。”
人工智能的潛在危險一直是人工智能研究人員和公眾最關心的問題。今年4月，一群人工智能行業領袖和專家簽署了一封公開信，呼吁暫停六個月開發比OpenAI的GPT-4更強大的系統，理由是對社會存在潛在風險。益普索今年5月的一項民意調查發現，超過三分之二的美國人擔心人工智能可能產生的負面影響，61%的人認為人工智能可能威脅到人類文明。
來源：新浪財經 環球市場播報
紅商網優質內容還將同步分發到公眾號、視頻號、頭條號、西瓜抖音、網易號、搜狐號、企鵝號、百家號、好看視頻、新浪微博等國內主力流量平臺。
|
