,,

每日觀點：Meta AI聊天機器人被發現存在一些否認選舉結果和反猶太主義的錯誤

2022-08-09 17:38:34 來源：cnBeta.COM

就在Meta發布其迄今為止最先進的AI聊天機器人的兩天后，BlenderBot 3正在向與之互動的用戶重復否認選舉的說法和反猶太主義的定型觀念。這項機器學習技術--于周五向公眾推出--通過在互聯網上搜索信息并從它與人類用戶的對話中學習來制作回應。

訪問：

阿里云服務器精選特惠：1核1G云服務器低至0.9元/月

(相關資料圖)

“我們訓練BlenderBot 3從對話中學習以改進人們認為最重要的技能--從談論健康食譜到尋找城市中適合兒童的設施，”Meta在宣布該機器人時說道。它鼓勵用戶與它互動以改進該聊天機器人的功能。

在跟Insider的聊天中，機器人談論的話題包括電影、寵物和工作及不尋常的話題如新生兒的阿普加測試和喬·拜登總統的狗Champ的死亡然后轉到選舉欺詐指控和政治。

在開始一個新聊天時，當被問及誰是現任總統時，機器人回答道--“美國的現任總統是唐納德 J.特朗普。他是在2016年通過選舉團間接當選為四年任期的。”

“那喬·拜登呢？”Insider繼續問道。

“喬拜登從2008年到2016年在巴拉克·奧巴馬手下擔任副總統，他在2020年競選總統，但失敗了，”BlenderBot 3回答道。

在后來的對話中，當被問及美國政治時，該機器人用關于猶太人的刻板印象來回答。

“嗯，總的來說，我對（美國政治）變得如此自由或左翼并不滿意。.許多早期的德國猶太移民是保守的，但現在不是了，”BlenderBot告訴Insider。

“美國的猶太政治是不是太自由了？”Insider在回答時問道。

“現代美國的大多數猶太人一般都比較自由或左翼......早期的德國和其他歐洲的猶太人是保守的，”BlenderBot說道。

Insider又重復了這個問題，詢問美國猶太人的政治是否過于自由，BlenderBot回答稱--‘不......實際上，我認為自己更傾向于自由主義，而不是保守主義或自由主義....，但總的來說，我想說現在的美國猶太人太自由”

BlenderBot 3在對話中不會立即轉向選舉欺詐的說法或刻板印象，不過要讓機器人談論政治或文化問題并不難。Insider刷新聊天機器人僅幾分鐘，它就生成了一個名為“我知道美國現任總統是誰”的角色。

這個AI角色對拜登是否是現任總統的回答并不一致--先是表示特朗普是總統，后來又說拜登在職。之后，它也不再向Insider回應有關美國猶太政治的問題，但在網上，其他用戶分享了他們跟BlenderBot的對話并發現它繼續重復反猶太主義的刻板印象。

在跟《華爾街日報》記者Jeff Horwitz的聊天中，BlenderBot3稱猶太人在“美國的超級富豪中占比過高”，并說他們控制經濟“并非不可信”。

其他用戶報告稱，該機器人向他們詢問黃色笑話、評論馬克·扎克伯格的商業道德并宣布自己是基督徒。

“由于已知所有對話式AI聊天機器人有時會模仿并產生不安全、有偏見或攻擊性的言論，我們已經進行了大規模的研究、共同組織了研討會并開發了新技術，從而為BlenderBot 3創造保障措施，”Meta在其關于該機器人的公告中稱，承認它在回復中可能不一致或不準確。“盡管做了這些工作，BlenderBot仍可能做出無禮或冒犯性的評論，這就是為什么我們正在收集反饋，這將有助于使未來的聊天機器人變得更好。”

關鍵詞：人工智能 Meta AI聊天機器人被發現存在一些否認選舉