【資料圖】

“人工智能或?qū)е氯祟悳缃^”，5月30日，國際AI領域非營利組織“人工智能安全中心”（Center for AI Safety）發(fā)布公開信，呼吁國際社會認真對待人工智能帶來的一系列重要且緊迫的風險。

公開信截圖（下同）

這封公開信中，只有由22個英文單詞組成的簡短的一句話：

“減輕人工智能帶來的人類滅絕風險，應該與大流行病和核戰(zhàn)爭等其他影響社會的大規(guī)模風險一同成為全球性的優(yōu)先事項?！?/P>

根據(jù)“人工智能安全中心”網(wǎng)站發(fā)布信息，截至5月30日，該公開信已獲得研究AI工作的企業(yè)高管以及AI、氣候、傳染病等各領域教授和學者，總計超350人的簽署。

簽署人包括三家全球頂尖AI公司的CEO——“ChatGPT之父”、OpenAI創(chuàng)始人兼CEO薩姆·阿爾特(行情300825,診股)曼，谷歌DeepMind公司CEO戴米斯·哈薩比斯，以及美國Anthropic公司的CEO達里奧·阿莫代伊。微軟和谷歌公司的多名高管也在名單之中。

名單中，杰弗里·辛頓（Geoffrey Hinton）和約書亞·本吉奧（Yoshua Bengio）的名字赫然在列。美媒《紐約時報》稱，辛頓和本吉奧是被世人譽為三名“AI教父”中的兩人，曾因在神經(jīng)網(wǎng)絡方面的開創(chuàng)性工作而獲得計算機領域最高獎項——圖靈獎。

“AI教父”中的第三人、現(xiàn)任臉書母公司Meta的首席AI科學家的伊恩·勒坤（Yann LeCun）尚未簽名。

此外，簽署人名單中也不乏人工智能領域的著名學者和高校教授，其中包括中國工程院院士、清華大學智能產(chǎn)業(yè)研究院（AIR）院長張亞勤，中國科學院自動化研究所人工智能倫理與治理研究中心主任曾毅，以及清華智能產(chǎn)業(yè)研究院助理研究員詹仙園。

“這代表了人工智能專家組成的歷史性聯(lián)盟，和哲學家、倫理學家、法律學者、經(jīng)濟學家、物理學家、政治學家、流行病學家、核科學家和氣候科學家一同，將人工智能系統(tǒng)帶來的人類滅絕風險確定為世界上最重要的問題?！痹谕瞻l(fā)表的另一份聲明中，“人工智能安全中心”如此寫道。

聲明還稱，獲得超350名專家、學者和高管聯(lián)名的公開信肯定了目前日益增長的公眾情緒。路透社和民調(diào)機構“益普索”近日進行的一項民調(diào)結果顯示，有61%的美國受訪者認為人工智能威脅著人類的未來。

“人工智能安全中心”丹·亨德里克斯表示，解決全世界現(xiàn)已感受到的人工智能負面影響至關重要，同時國際社會還應有先見之明，“設置護欄”，預測更先進的人工智能系統(tǒng)將帶來的風險，“這樣才不會有朝一日措手不及”。

路透社提到，這封公開信發(fā)出呼吁之際，恰逢美國-歐盟貿(mào)易和技術委員會在瑞典舉行會議。

自去年11月底面世至今，ChatGPT便不斷引起爭議。作為AlphaGo之后又一個基于人工智能技術的現(xiàn)象級應用，ChatGPT顛覆了公眾對聊天機器人(行情300024,診股)的認知，也再次喚醒了人類對人工智能的擔憂。

今年3月，另一個國際AI領域非營利組織“未來生命研究所”以公開信的方式發(fā)起倡議，呼吁所有人工智能實驗室立即暫停訓練比GPT-4更強大的AI系統(tǒng)至少6個月。截至3月29日下午，公開信獲得了包括馬斯克在內(nèi)的超1000名科技界人士的聯(lián)名簽署。

另據(jù)《紐約時報》報道，本月早些時候，三家全球頂尖AI公司的CEO阿爾特曼、哈薩比斯和阿莫迪曾前往白宮會見拜登和哈里斯，討論人工智能監(jiān)管問題。在會后的參議院證詞中，阿爾特曼警告說，先進人工智能系統(tǒng)所帶來的風險，已嚴重到需要保證政府干預。