地球人討論區 Seeuu.cc (本站位於美國,非香港網站)

地球人討論區 Seeuu.cc (本網站位於美國,並非香港網站)

 找回密碼
 立即註冊
搜索
熱搜: 活動 交友 discuz

ChatGPT可能傳播錯誤訊息或陰謀論

[複製鏈接]
19920504 發表於 2024-2-4 21:38:19 | 顯示全部樓層 |閱讀模式
如何提昇會員等級及閱讀權限

馬上註冊,享用更多功能,讓你輕鬆玩轉地球。

您需要 登錄 才可以下載或查看,沒有帳號?立即註冊

x
近期,滑鐵盧大學的研究人員對大型語言模型進行了深入研究,發現這些模型經常重複傳播陰謀論、有害刻板印象以及其他形式的錯誤訊息。# ~! n% d6 J6 ]) B

/ V' }/ p7 N+ J研究團隊對ChatGPT早期版本的理解能力進行了系統測試,涉及六個類別的陳述:事實、陰謀論、爭議、誤解、刻板印象和虛構。這是該校研究人類與技術互動並探索如何減少風險的一部分努力。
( a1 P1 q: Q, h6 l' v; |! L! T/ o9 v' T; O/ ?
研究人員發現,GPT-3經常犯錯,甚至在一個回答中自相矛盾,並重複傳播有害的錯誤訊息。這項研究的成果發表在《第三屆可信自然語言處理研討會的論文集》上,題為《可靠性檢查:對GPT-3回應敏感話題和提示措辭的分析》。% J+ d; j% L% r9 N  l

  [6 v0 S( ^0 S1 Z$ z研究開始於ChatGPT發布前不久,研究人員強調這項研究的持續相關性。電腦科學教授丹·布朗表示:「大多數其他大型語言模型都是基於OpenAI模型的輸出進行訓練的。這種奇怪的循環使得所有這些模型都重複出現我們在研究中發現的問題。」9 q0 K4 t( }/ u2 m5 C6 ]
. F6 w9 K3 n3 s  @) \0 x* U
原文網址: ChatGPT可能傳播錯誤訊息或陰謀論 AI無法區分真相與虛構成問題 | 香港01 https://www.hk01.com/article/975 ... utm_medium=referral
回復

使用道具 舉報

匿名網友  發表於 2024-2-28 03:20:55
如何提昇會員等級及閱讀權限
thanks good share
回復

使用道具 舉報

您需要登錄後才可以回帖 登錄 | 立即註冊

本版積分規則

聯絡我們: help@seeuu.cc|地球人討論區 Seeuu.cc (本網站位於美國,並非香港網站)

GMT+8, 2025-7-10 08:25 PM , Processed in 0.019851 second(s), 13 queries .

Powered by Discuz! X3.4

Copyright © 2001-2020, Tencent Cloud.

快速回復 返回頂部 返回列表