頂級科技專家22字聲明 AI可能「滅絕人類」(圖)

一旦接受研究人員的適當訓練，生成式AI可以非常有效地學習新事物。（图片来源：Adobe stock） 看中國網站 禁止建立鏡像網站 。

【看中国2023年5月31日讯】（看中國記者程帆編譯綜合報導）近日，多位世界頂級人工智慧（AI）研究員、IT工程師和不少科技公司首席執行長再次聯名，就生成式AI對人類構成的生存威脅發出了嚴厲警告。 看中國網站 禁止建立鏡像網站 。

據路透社的報導，5月30日（週二）在美國非營利組織AI安全中心（Center for AI Safety）網站上發布了一份只有22個英文單詞的聲明，即「減輕AI可能帶來的滅絕威脅是整個（人類）社會需要面對的一個優先事項，與應對大流行病和核戰爭等其它重大風險並列。」

到目前為止，有超過超過300名AI領域從業人員簽名並表示支持以上聲明。他們包括世界領先人工智慧實驗室之一的谷歌DeepMind首席執行官哈薩比斯（Demis Hassabis）、聊天機器人ChatGPT研發公司OpenAI首席執行官奧特曼（Sam Altman），以及AI奠基人辛頓（Geoffrey Hinton）和本希奧（Youshua Bengio）等等。

值得一提的是，曾擔任谷歌副總裁的知名教授辛頓與加拿大蒙特利爾大學教授本希奧是2018年計算機領域最高獎項「圖靈獎」的得主、被業內人士稱為「深度學習三巨頭」中的兩位。他們不但是深度神經網路（deep neural network）的開創者，還為深度學習（deep learning）演算法的發展和應用奠定了基礎。而這些正是導致計算機視覺（Computer Vison）、語音識別（Speech Recognizing）、自然語言處理（Natural Language Processing）和機器人研究等方面迅速崛起、乃至掀起全球科技浪潮的主要原因。

不過，一同獲得該獎項的紐約大學教授兼Meta首席人工智慧科學家楊立昆（Yann LeCun）尚未簽名。

辛頓在接受媒體採訪時表示，對自己畢生所研究的東西，現在感到後悔了。他在離開谷歌後不久就形容，AI聊天機器人所帶來的某些危險「相當恐怖」！他指出，像GPT-4這樣的系統一旦接受研究人員的適當訓練，就可以非常有效地學習新事物。

目前，最令他擔心的是，通過利用AI，網路上會出現很多虛假的圖片、視頻或文字，可能讓人分不清真偽。其次，他還擔心AI將改變就業市場，讓律師助理、私人助理、翻譯等不需要直接與人打交道的崗位消失。

AI安全中心執行主任亨德里克斯（Dan Hendrycks）對《紐約時報》表示，新的聲明很簡潔有力，旨在儘可能地被廣泛接受。此外，內容中沒有提及如何減輕AI潛在威脅的任何方法，也是避免意見分歧。他說，「我們沒想要去推一個包含了30種干預手法的龐大菜單... 因為那樣會淡化（想傳達的）信息。」

本次的部分支持者在今年3月發布在未來生命研究所（Future of Life）的另一封公開信上也簽了名。他們呼籲所有AI實驗室立即暫停訓練比GPT-4更強大的智能系統，為期至少6個月。不過，該信後來受到了多方批評，有些專家認為它誇大了AI帶來的風險，還有一些人則贊同存在這種風險，卻不同意信中建議的措施。

来源:看中國

短网址: 版權所有，任何形式轉載需本站授權許可。 嚴禁建立鏡像網站。

---

【誠徵榮譽會員】溪流能夠匯成大海，小善可以成就大愛。我們向全球華人誠意徵集萬名榮譽會員：每位榮譽會員每年只需支付一份訂閱費用，成為《看中國》網站的榮譽會員，就可以助力我們突破審查與封鎖，向至少10000位中國大陸同胞奉上獨立真實的關鍵資訊， 在危難時刻向他們發出預警，救他們於大瘟疫與其它社會危難之中。