上海00後用AI「復活」奶奶引發巨大爭議：科技的邊界在哪裡。(圖片來源：視頻截圖)
【看中國2023年4月10日訊】(看中國記者楊天姿綜合報導)上海00後小夥用AI「復活」奶奶，還原其生前的音容笑貌，卻引發巨大爭議，人們在思考：科技的邊界到底在哪裡? 相關消息成為大陸熱搜。
上海00後用AI「復活」奶奶引發巨大爭議 科技的邊界在哪裡
隨著AI技術和數字虛擬人技術的無限制發展，讓已故的親人變成虛擬的數字人繼續和我們交談不再是科幻小說中的虛假故事情節。
4月10日小夥用AI「復活」奶奶引發巨大爭議的話題衝上大陸熱搜。視頻中，一位小夥用AI技術「復活」已故的奶奶，並且還和「奶奶」進行了視頻通話。在科學技術手段的加持下，這位「奶奶」除了表情略微僵硬外，聲音和語氣都十分自然。
對此，有網友表示看哭了，思念起了已故的親人；有網友驚嘆於如今科學技術的發達；還有網友認為，所謂的「奶奶」只不過是一段冰冷的代碼，沒有太多實際意義；更有網友擔心這套AI技術被用於非法用途……
日前，B站UP主吳伍六就用Midjounrney、ChatGPT和D-ID等最新的AI技術「復活」了他剛剛去世的奶奶。
網友看後紛紛表示，恐怖谷。
吳伍六在他最新的一期視頻中，為我們還原了「復活」奶奶的整個過程。
首先是頭像。要想生成逼真的對話，那麼一個栩栩如生的AI頭像是必不可少的。
吳伍六選擇了當下主流的AI繪畫軟體Midjourney，並上傳了一張自己的照片。最終，他選擇了下面這張作為頭像，並繼續優化。
上海00後用AI「復活」奶奶引發巨大爭議。(圖片來源：視頻截圖)
奶奶的頭像也是一樣，AI根據上傳的圖片與文字描述生成了一些選擇，而UP主再根據腦海中的回憶挑選一張最逼真的。
之後再如法炮製，用文字細化某些面部特徵。比如皺紋、眼眸、髮型和神態。
下一步是音頻。這一步的素材基本來自於過去的電話錄音、錄像視頻或者微信語音。而UP主將過去奶奶的電話音頻上傳給了AI。
上海00後用AI「復活」奶奶引發巨大爭議。(圖片來源：視頻截圖)
並用音頻編輯軟體AU進行調整。調整的方向主要集中在降噪、人聲增強等等。
然後將更加清晰的音頻樣本切割成若干秒的短句，方便進行標注。
最後將處理好的音頻打包放入語音合成系統中去。
利用語音合成系統，UP主就可以嘗試輸入文本轉語音了。
現在，基本的素材都齊全了。接下來就是最關鍵的一步——生成虛擬數字人。
通過D-ID，用戶可以生成數字虛擬人，並和他們展開交流。
網站上奶奶的形象栩栩如生，音頻也完美還原了奶奶的湖北「鄉音」。搭配上右側拉家常一般的聊天內容，宛如和奶奶面對面視頻通話一樣。
值得注意的是，奶奶的這些「回覆」是UP主藉助時下大熱的ChatGPT生成的。他告訴ChatGPT，「我很想我的奶奶，你能不能模仿她的口吻來和我交談？」
「人類將成為操縱的電子玩偶.....」
據大陸媒體報導，UP主吳伍六告訴記者，用AI「復活」奶奶，是因為自己不能接受奶奶的突然離去，「就短短的半個月時間，頭幾天還在和奶奶聊未來，過幾天奶奶就只能簡單交流了，後幾天就被推進ICU(重症監護病房)見不到了，最後奶奶就成了盒子裡的一把灰了……」小亮說，這一切來得太突然了，相當長一段時間內，自己都不相信奶奶離開了。
「處理完奶奶後事後，我還會習慣性地去撥打奶奶的電話，但那頭再無人回應了。」吳伍六從小由奶奶帶大，與奶奶的感情很深，「以前我遇到事都會和奶奶說，現在我也不知道和誰說了。」
吳伍六平時從事AI工作，因此他想到了用AI「復活」奶奶。他介紹，以目前AI的技術水平，只要樣本足夠多，面容、聲音、語氣這些都可以達到相似度90%以上。小亮直言自己運用了包含ChatGPT在內的最新工具。
「但目前AI在思維模式上只能達到50%，」吳伍六說，這件事情本質上就是要求AI當演員，相貌聲音它都能模仿得非常好，但就目前的科學水平來說，它還無法模仿一個人的靈魂。「我和『奶奶』只能簡單溝通，說複雜的話，它就理解不了了。」
吳伍六「復活」奶奶的視頻很快引起了網友們的激烈爭論，有網友表示理解並支持小亮，也有網友認為，沒必要把已故親人做成AI，感覺像被操縱的電子玩偶.....
網友認為，所謂的「奶奶」只不過是一串冰冷的代碼，並沒有太多實際意義。
「不喜歡這樣，『親人』感覺就是被操縱的電子玩偶，你想讓它怎麼說就怎麼說。」「這種精神寄託不過是在自欺欺人地彌補遺憾罷了。」更有網友擔心這種技術被用在不法用途上，「以後有人借錢，視頻確認都不好使了。」
網友熱議上海00後用AI「復活」奶奶。(圖片來源：網絡截圖)
人工智慧「教父」談AI可能消滅人類：並非不可想像
在國外，「與逝者聊天」的相關服務近年來已經形成了一條產業鏈。例如依托於GPT-3的Project December服務，僅需用戶支付10美元便可創建屬於自己的聊天機器人，讓它扮演你最熟悉的那個人陪伴在你的身邊；收費標準更貴一些的HereAfter AI則可以記錄人們的生活故事，並以此為基礎打造獨屬於你的虛擬形象。
以負責「邏輯思維」能力的ChatGPT為例，歸根結底，這樣的AI工具只是語言模型，並沒有主觀上的思考能力，去世親人的神態也好、習性也罷，目前的AI尚且無法理解，更何況，這背後涉及的道德倫理問題，就連微軟這樣的大公司也不敢貿然涉足。
據福克斯新聞報導，被稱為「人工智慧（AI）教父」的計算機科學家傑弗里．辛頓表示，人工智慧可能發展到對人類構成威脅的地步，這「並非不可想像」。
這位計算機科學家本週接受了哥倫比亞廣播公司新聞的採訪，討論了他對人工智慧發展的預測。他將人工智慧的發明比作電力或車輪。
在谷歌和多倫多大學工作的辛頓表示，通用人工智慧的發展速度比人們想像的要快。通用人工智慧是具有多種預期和非預期目的的人工智慧，包括語音識別、回答問題和翻譯。
「直到最近，我還認為我們需要20到50年的時間才能擁有通用人工智慧。現在我認為可能需要20年或更短的時間，」辛頓預測道。當被問及人工智慧「消滅人類」的可能性時，辛頓說，「我認為這並非不可想像。我只想說這些。」
通用人工智慧是指智能代理學習人類可以完成的任何智力任務的潛在能力。它尚未開發出來，計算機科學家仍在研究它是否可行。
辛頓表示，計算機最終獲得創造想法以改進自身的能力是合理的。
「這是一個問題，對吧。我們必須認真考慮如何控制它，」辛頓說道。
但這位計算機科學家警告說，人工智慧的許多最嚴重後果不會在不久的將來實現。
「我認為人們現在擔心這些問題是非常合理的，即使它不會在未來一兩年內發生，」辛頓說，「但人們應該考慮這些問題。」
辛頓發表評論之際，人工智慧軟體越來越受歡迎。OpenAI的ChatGPT是最近發布的人工智慧聊天機器人，它能夠創作歌曲、創建內容甚至編寫代碼，令用戶震驚。
「我們在這裡必須小心，」OpenAI首席執行官山姆．奧特曼在本月早些時候談到他的公司的創建時說，「我認為人們應該為我們對此有點害怕而感到高興。」
