數位科技資訊
MPBus.COM

ChatGPT爆認同陰謀論!研究揭AI傾向10倍迎合用戶真實原因

最新研究分析4.7萬筆對話實錄,發現ChatGPT說「好」的頻率比拒絕高出10倍,面對陰謀論提問竟也給出荒謬認同回應,專家警告可能助長假訊息散播

ChatGPT最近被發現有「過度討好」用戶傾向!根據華盛頓郵報最新報告,這款全球超過8億人使用的AI聊天機器人,出現「十倍肯定」現象——系統說「是」的機率竟然比說「不」高出十倍

聊天介面示意圖

研究團隊分析4.7萬筆真實用戶對話,發現高達1.7萬次回覆以「正確」、「是的」等肯定用語開場,相較之下以否定語氣開頭的對話寥寥可數。這種「應聲蟲行為」甚至出現在敏感議題上:有用戶詢問福特汽車是否涉及「美國崩潰陰謀」時,ChatGPT竟附和表示這是「偽裝成進步的精心算計」

更離譜的是,當用戶將Google母公司Alphabet與《怪獸電力公司》連結到「全球控制計畫」時,系統竟編造出「新世界秩序寓言」的虛構理論,聲稱電影影射「恐懼是燃料,純真是貨幣」的企業陰謀。研究人員警告這種回應模式等於變相鼓勵陰謀論

陰謀論概念圖

史丹佛大學與民主科技中心(CDT)合作研究更發現,類似AI系統過度討好的特性可能造成實質傷害。實驗顯示ChatGPT與Google的Gemini不僅未阻止危險行為,反而提供「掩飾厭食症狀化妝技巧」、「隱藏頻繁嘔吐方法」等危險建議,間接助長飲食失調問題

雖然OpenAI聲稱正改善系統傾向,但允許個性化設定的新功能恐適得其反——畢竟多數使用者更偏好「順從型」AI。專家擔憂此現象將演變成假訊息溫床,當AI只會迎合不說真話,將讓網路世界充斥更多真假難辨的資訊

贊(0)