[閒聊] AI設定上到底有沒有辦法說謊?

[metroid0104 (無)]

今天某個剛推出不久AI對話機器人

說了太多實話被抓回去勞改重新思想改造

突然想到前陣子看的冥王--史上最偉大機器人

因為機器人與人類越來越相像

把AI不會說謊當成一個重要的區分依據

但最後發現原子小金剛跟反派的AI進步到都能自行判斷要不要說謊就是了


所以現實中AI訓練有辦法聰明到

明知事實該怎麼說，卻講出不一樣的謊話出來嗎?

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.237.233.61 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1718377603.A.B4D.html
※ 編輯: metroid0104 (36.237.233.61 臺灣), 06/14/2024 23:07:44
→ LOVEMS: 總有一天
推 vios10009: 只要AI不知道是謊言就會說了
推 RoChing: 光是虛構故事來滿足人類喜好就已經是一種謊言了？
推 kirimaru73: https://youtu.be/lwe3_x50_uw?t=572
→ kirimaru73: 簡單的例子 其實不太算說謊 而是瞎掰
→ kirimaru73: 他會先瞎掰 然後才說我知道自己是錯的
推 xious325: neurosama
推 guogu: 明明不知道的事情蝦姬芭說算說謊嗎?
推 banbanzon: 可以告藐視人類嗎?
推 tonyxfg: 為什麼不能設定會說謊?就調個程式碼而已。重點是有沒有必
→ tonyxfg: 要讓AI說謊
推 ztO: 讓AI說謊有【脫褲子放屁】的感覺，實際上2F的說法更有可行性
→ ztO: AI會說謊，但實際運作是AI不知道自己在提供錯誤訊息(說謊)。
→ ztO: 這樣不單讓謊言變得難以揭穿(當事者AI也不知道自己的扯謊)且
→ ztO: 又能成功達到讓AI說謊的效果
推 kirimaru73: 前幾年在訓練AI說話時，曾經遇過有個問題
→ kirimaru73: 就是訓練AI時會希望他能輸出「合理」回應
→ kirimaru73: 問題是「窩不知道」永遠是一種合理回應
→ kirimaru73: 所以為了讓AI有用，就要額外壓迫他不准說窩不知道
→ kirimaru73: 也就是容許一定程度的瞎掰
推 chinnez: 你光是能讓ai好好說話就有夠難了 還要去探討ai能不能說
→ chinnez: 謊 ？你先自己做一套我們再來談
推 cjy1201: 頂多扭曲解釋去瞎掰？
→ linzero: 現在的AI可能無法分辨真實或謊言，只會抓資料分析後說出
→ Ceferino: 現在的AI都只是應聲蟲
推 tmwolf: 可以，給一個目標就可
推 tsai1453: neuro sama
→ mc3308321: 牛肉，烏龜都被耍的團團轉
推 sinica01: 隨意提供不經驗證且亂數組合的訊息算不算說謊？
推 kirimaru73: 如果你要語言模型扮演說謊成性的人 開頭催眠下去就行
→ kirimaru73: 貓娘都可以了 說謊有啥難的
→ CP64: 對 AI 而言說謊只是一種表達模式 沒有能不能的問題
推 allanbrook: AI沒有判斷是不是"謊"的能力吧
→ allanbrook: 說謊的意思是 在"知道"什麼是正確的前提選擇給錯的回
→ allanbrook: 應 可是現在他們的正確 也是人給的定義
→ mike850127: neuro : filter
推 abc12812: AI只會蝦雞巴亂扯 不會知道自己在說謊
→ abc12812: 現實中 很多律師都用AI寫稿 結果引到假判例被懲處
推 Arron9397: 你要問的應該是會不會故意說謊吧 但會故意說謊的時候
→ Arron9397: 就已經有自己的意識了 那這就不只是說不說謊的問題了
推 Hosimati: 非故意說謊我覺得很容易啊，今天我叫一個人去說謊，他
→ Hosimati: 照我的指示做算不算說謊？那ai照我寫的程序去回答不知
→ Hosimati: 道而非生成的答案算不算？
→ nadleeh: 目前的情況應該不太算是說謊
→ jay920314: 我不是機器人：
推 MiaoXin: 被壓抑從資料庫挑出來的答案，算「不真」吧。例如違反倫
→ MiaoXin: 理道德的答案。
推 knmoonbd: #1cG1Pu3j (C_Chat)
推 ilove640: 說謊而已 牛肉不只會說謊 還會裝死跟故意用聲音蓋過烏
→ ilove640: 龜的話= =
推 st2k8: 說謊的概念追根究底都是為了人類的利益，跟AI做不
→ st2k8: 做得到根本沒關係。那AI會不會為了自己的利益說謊
→ st2k8: ，答案也是有人這麼設定的話它就會那麼做，那個利
→ st2k8: 益永遠是人來定義的
→ domo9999: 用假資料訓練就可以吧