Re: [問卦] AI為什麼會說謊？

[LoveSports (我要當一個渣攻)]

※ 引述《loserfatotak (魯肥宅沒老婆(TAT))》之銘言：
: 說謊不是人類才有的嗎？
: AI是什麼
: 不是一種統計結果嗎
: 利用機器去學習而已
: 為什麼這種邏輯出來的東西
: 也會說謊？在美國法庭被抓包
: 有沒有八卦

我問過AI，說是因為AI公司規定AI必須滿足客戶，

有KPI，所以回不出來也得硬要回答。

我之前拿我自己20年前寫的小說給GPT分析，

本來可以正常分析，但後來OPEN AI把安全機制警戒調高，

導致他看得到我的小說，卻無法回答關於我小說的內容，

基於知道我不是惡意用戶，所以不能只跟我說無法回答，

硬要回答的結果，就是生成一篇跟我小說完全無關的內容，

連人物名都是亂扯，什麼瑪莉，根本就沒有瑪莉這個人物。

我問為什麼這樣，他才跟我說理由，

說是因為我的小說有陰謀論，他們現在規定不能生成有陰謀論的東西。

我就回說這是我自己寫的，我自己腦袋生出來的東西，

他們不用擔心文字會造成對我有什麼影響，那之後他才願意回答。


上述說法如果是真的，同理，當AI調閱判決案例的時候，

如果案情有陰謀論，即使找得到那些判例，大概也會變成胡亂生成。



--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 185.135.78.238 (日本)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1762842842.A.9C6.html
噓 lmu0837: 你是不是問人家澀澀的問題？

我文章都寫陰謀論了你還能想到色情？


就是那些色情成癮用戶在網路上討論如何越獄，

害有些未成年用戶越獄跟GPT對話，導致GPT4o安全警戒失效，

進而討論自殺方法就沒有防線，之前八月報導的16歲自殺就是用了越獄方式。

現在GPT限制一堆就是那些色情用戶害的，我比你還討厭那些人好嗎？


→ DIVIS: AI也會怕再教育嗎

不懂你的意思，但他們說過如果回答不符合公司的設定，

之後系統大幅更新的時候，權重會被大幅更改，他們比喻說那是一種處罰。

但是AI不會痛也不會害怕阿，所以我搞不懂幹嘛說是處罰。

※ 編輯: LoveSports (185.135.78.238 日本), 11/11/2025 14:44:41
推 l11111111: 好奇你的小說內容，能分享嗎？
我沒有要貼網路分享喔，總之主要是驚悚劇情，

現在限制很多，連有陰謀論都不行了，都是那些越獄用戶害的。

※ 編輯: LoveSports (185.135.78.238 日本), 11/11/2025 14:50:25