ChatGPT再遭用戶投訴：輸入自己的名字被變成罪犯？

在 AI 技術(shù)中，有一個術(shù)語叫“AI 幻覺”，由于大型語言模型只能盡力猜測下一個最有可能出現(xiàn)的單詞，但并不是實(shí)際理解上下文內(nèi)容，因此它們經(jīng)常會憑空捏造內(nèi)容，例如完全不正確的醫(yī)療建議或是像是編造的“小常識”。然而，這些虛假信息并非完全無害，實(shí)際上你甚至能以此起訴公司。

最近，一位名叫 Arve Hjalmar Holmen 的挪威男子就在與 ChatGPT 交談時，在輸入自己的名字后發(fā)現(xiàn)，ChatGPT 編造了一個謊言，稱他殺死了自己的兒子，并被判處了 21 年監(jiān)禁。他感到十分震驚，因?yàn)樽约壕谷槐?AI 編造了子虛烏有的罪行，而且 ChatGPT 還圍繞這個“事實(shí)”編造了他“完整的一生”。

隱私權(quán)倡導(dǎo)組織 Noyb 很快介入。該組織告訴媒體 TechCrunch，他們調(diào)查了ChatGPT 為何會輸出這些指控，并檢查是否有人犯下了與該名字相似但犯下的嚴(yán)重罪行。最終，他們沒有找到任何實(shí)質(zhì)性的證據(jù)，因此 ChatGPT 輸出令人毛骨悚然的指控背后的“原因”仍不清楚。

聊天機(jī)器人的底層 AI 模型已經(jīng)更新，現(xiàn)在它不再重復(fù)誹謗性指控。然而，Noyb 之前曾以 ChatGPT 輸出有關(guān)公眾人物的不準(zhǔn)確信息為由提出投訴，但并不滿足于就此了結(jié)。該組織現(xiàn)已向 Datatilsynet（挪威數(shù)據(jù)保護(hù)局）提出投訴，理由是 ChatGPT 違反了歐盟的《一般數(shù)據(jù)保護(hù)法規(guī)》（GDPR）。

根據(jù)歐盟法律第 5(1)(d) 條，處理個人數(shù)據(jù)的公司必須確保其準(zhǔn)確性——如果不準(zhǔn)確，則必須更正或刪除。 Noyb 認(rèn)為，僅僅因?yàn)? ChatGPT 停止了對 Holmen 的污蔑，并不意味著數(shù)據(jù)已被刪除。

目前，Noyb 要求 Datatilsynet 命令 OpenAI 刪除有關(guān) Holmen 的不準(zhǔn)確數(shù)據(jù)，并確保該公司確保 ChatGPT 不會產(chǎn)生關(guān)于其他人的恐怖故事。OpenAI 目前的做法只是在每個用戶會話底部以小字體顯示免責(zé)聲明“ChatGPT 可能會犯錯。請考慮檢查重要信息”。