ChatGPT可能傳播錯誤訊息或陰謀論

近期，滑鐵盧大學的研究人員對大型語言模型進行了深入研究，發現這些模型經常重複傳播陰謀論、有害刻板印象以及其他形式的錯誤訊息。

研究團隊對ChatGPT早期版本的理解能力進行了系統測試，涉及六個類別的陳述：事實、陰謀論、爭議、誤解、刻板印象和虛構。這是該校研究人類與技術互動並探索如何減少風險的一部分努力。
8 k: s/ X) {) S: E& y8 _
研究人員發現，GPT-3經常犯錯，甚至在一個回答中自相矛盾，並重複傳播有害的錯誤訊息。這項研究的成果發表在《第三屆可信自然語言處理研討會的論文集》上，題為《可靠性檢查：對GPT-3回應敏感話題和提示措辭的分析》。
: z7 @2 I* F! R5 z7 s" R( B- A
+ v0 h! D& N/ b9 J7 `, A" g% A* w: X% u研究開始於ChatGPT發布前不久，研究人員強調這項研究的持續相關性。電腦科學教授丹·布朗表示：「大多數其他大型語言模型都是基於OpenAI模型的輸出進行訓練的。這種奇怪的循環使得所有這些模型都重複出現我們在研究中發現的問題。」

原文網址: ChatGPT可能傳播錯誤訊息或陰謀論　AI無法區分真相與虛構成問題 | 香港01 https://www.hk01.com/article/975 ... utm_medium=referral

thanks good share