|
谷歌DeepMind和Anthropic CEO，以及圖靈獎獲得者都簽署了這封聯名信。
AI風頭正盛，科技圈再次流出了一封重磅公開信。
當地時間5月30日，非營利組織“人工智能安全中心”（Center for AI Safety）在其官網發布一封聯名公開信，稱這一堪比“疫情和核戰爭”的技術或對人類構成生存威脅。
整個聲明只有一句話，22個單詞：
減輕AI（給人類）帶來的滅絕風險應成為全球性的優先事項，與大流行病及核戰爭等其他影響社會的大規模風險處于同等級別。
目前已有350位AI大佬簽署了這封聯名公開信，包括OpenAI首席執行官Sam Altman、谷歌DeepMind首席執行官Demis Hassabis和Anthropic首席執行官Dario Amode三大AI公司掌門人。
值得一提的是，圖靈獎獲得者、被譽為人工智能“教父”的Geoffrey Hinton和Yoshua Bengio也赫然在列。名單里也不乏中國學者的身影，包括中國工程院院士、清華大學智能產業研究院（AIR）院長張亞勤，中國科學院自動化研究所人工智能倫理與治理研究中心主任曾毅，清華大學副教授詹仙園。
其他簽署人還包括微軟首席技術官Kevin Scott，前聯合國裁軍事務高級代表Angela Kane，Skype聯合創始人Jaan Tallinn，Quora首席執行官Adam D‘Angelo。
他們表示，雖然公眾一直在承認人工智能的風險，但還有更多挑戰需要討論。他們還想“為越來越多的專家和公眾人物創造共同知識，他們也認真對待先進人工智能領域存在的一些最嚴重的風險”。
自去年ChatGPT發布以來，科技行業掀起了一場競爭激烈的AI競賽，同時也引發公眾對于這項未知技術的恐懼。
今年3月份，Bengio、馬斯克、蘋果聯合創始人Steve Wozniak、Stability AI創始人Emad Mostaque等科技大佬發表聯名公開信，呼吁暫停比GPT-4更強大的人工智能系統的訓練，暫停時間至少為6個月。
信中提到：
我們不應該冒著失去對文明控制的風險，將決定委托給未經選舉的技術領袖。只有當確保強大的人工智能系統的效果是積極的，其風險是可控的才能繼續開發。
拜登政府近幾個月表示，人工智能對公共安全、隱私和民主構成威脅，但政府對其監管的權力有限。微軟創始人比爾·蓋茨曾表示，他認為人工智能應該受到適當監管，但對這項技術表示興奮，他沒有簽署周二的聯名信。
來源：華爾街見聞
紅商網優質內容還將同步分發到公眾號、視頻號、頭條號、西瓜抖音、網易號、搜狐號、企鵝號、百家號、好看視頻、新浪微博等國內主力流量平臺。
|
