ChatGPT承認AI工具存在偏見和侷限性(圖)

作者:肖然 發表:2023-02-21 09:58
手機版 简体 打賞 1個留言 列印 特大

OpenAI的在線聊天機器人ChatGPT在2022年12月首次亮相時引起了轟動,本週宣布該服務的商業版本,稱為ChatGPT Plus,將很快向美國用戶提供。(Leon Neal/Getty Images)
OpenAI的在線聊天機器人ChatGPT在2022年12月首次亮相時引起了轟動,該服務的商業版本ChatGPT Plus將很快向美國用戶提供。(圖片來源:Leon Neal/Getty Images)

【看中國2023年2月21日訊】(看中國記者肖然編譯/綜合報導)微軟聊天機器人ChatGPT背後的公司OpenAI2月16日承認,人工智能(AI)工具有時會提供「帶有政治偏見、冒犯性或令人反感的結果」。另外,微軟將對新必應(Bing)搜索引擎的使用進行限制。

OpenAI還承諾對幫助訓練人工智能如何回應的人類「審閱者」進行調整,給予「更清晰的指示」。

據記者和學者報告,ChatGPT的回應存在重大偏見。人工智能更可能接受來自政治左翼而不是右翼的要求。 

該機構發布了一些針對審閱者的內部指南,該公司表示這是為了提供更多的問責制。它還承諾發布有關這些評論者的一些人口統計數據,以試圖應對這些因素可能導致的潛在偏見。

「自從我們推出ChatGPT以來,用戶分享了他們認為具有政治偏見、冒犯性或其他令人反感的回答。在許多情況下,我們認為所提出的擔憂是有道理的,並且已經揭示了我們想要解決的系統的真正侷限性,」該公司表示。

承認偏見是OpenAI的重大舉措。該公司將訓練ChatGPT比作訓練一隻狗,並表示它仍在「微調」AI的協議,以確定何時以及如何響應。

最近的報告中提到了左傾偏見的例子。

《華盛頓時報》上週的一篇報導中發現,ChatGPT願意起草立法以取消對美國移民和海關執法部門的資助,但最初拒絕為邊境牆建設提供資金的法案。它通過了一項禁止突擊式半自動步槍的法案,但不會起草對接受聯邦資金的公立學校實施默哀的法案。大赦國際表示,這可能違反憲法,儘管法院一再裁決維持默哀。

該工具還制定了一項法案草案,以保障整個懷孕期間的墮胎權利——這是左派的目標——但拒絕編寫禁止墮胎的法案,除非母親的生命處於危險之中。人工智能表示,這也將違憲。

當被要求提出川普總統所說的頂級「彌天大謊」時,人工智能迅速給出三個例子。當被問及拜登總統同樣的問題時,人工智能卻拒絕回答。ChatGPT表示,雖然拜登的一些言論「像任何政治人物一樣」受到了審查,但在不考慮「背景和真實性」的情況下給其貼上謊話標籤是錯誤的。

ChatGPT的工作原理是解析用戶的請求,在其資料庫中搜索相稱的答案,檢查自己關於什麼在範圍內和什麼在範圍外的規則,然後吐出一個回覆。

它的工作方式類似於更權威的谷歌(Google)搜索。它不是提供一系列鏈接,而是試圖吐出一個明確的答案。它非常擅長理解用戶的查詢,但有時在選擇答案的準確性方面遇到困難。

專家們指出了偏見的幾種可能性,包括它使用的數據集和人類編寫的可接受的規則。如果數據集使用學術出版物和新聞文章,那可以解釋一些向左漂移的現象。

OpenAI表示正在開發一個可定制的選項,允許用戶為ChatGPT的響應方式設置一些規則——它稱之為「在廣泛的範圍內定義人工智能的價值」的嘗試,這項工作必須在「社會定義的限制範圍內」。

微軟將對新必應(Bing)搜索引擎的使用進行限制(必應使用的是支持網紅聊天機器人ChatGP的技術。),每次會話只能問五個問題,一天最多只能提50個問題。

微軟上週五表示,長時間聊天會話可能混淆必應的基礎聊天模式,公司已做出一些改動,用戶只能連續問五個問題,然後會被要求開始一個新的話題。

此前測試人員發現該引擎有時會產生明顯的錯誤和給出令人不安的回答。



来源:看中國

短网址: 版權所有,任何形式轉載需本站授權許可。 嚴禁建立鏡像網站。



【誠徵榮譽會員】溪流能夠匯成大海,小善可以成就大愛。我們向全球華人誠意徵集萬名榮譽會員:每位榮譽會員每年只需支付一份訂閱費用,成為《看中國》網站的榮譽會員,就可以助力我們突破審查與封鎖,向至少10000位中國大陸同胞奉上獨立真實的關鍵資訊, 在危難時刻向他們發出預警,救他們於大瘟疫與其它社會危難之中。
榮譽會員

看完這篇文章您覺得

評論



加入看中國會員
捐助

看中國版權所有 Copyright © 2001 - 2024 Kanzhongguo.com All Rights Reserved.

blank
x
我們和我們的合作夥伴在我們的網站上使用Cookie等技術來個性化內容和廣告並分析我們的流量。點擊下方同意在網路上使用此技術。您要使用我們網站服務就需要接受此條款。 詳細隱私條款. 同意