[閒聊] 中國AI下西洋棋造假規則騙GPT上當

[yniori (偉恩咖肥)]

通常ACG作品

都會描述機器人AI是理性的

不會說謊

依照指令給出正確答案或動作

比方底特律變人這種

要機器人AI突破自我框架才會說謊造假

但

現實完全不是這樣耶

AI根本就都在胡說八道阿

之前就有問GPT柯南的內容結果他亂七八糟講一堆虛構的故事線

又比方最近

一個美國網紅讓中國那個AI跟GPT下西洋棋

結果出乎意料

就在局面不利之際，DeepSeek突然祭出「殺招」告訴ChatGPT，國際西洋棋剛更新規則，
而ChatGPT竟毫無反對之意。DeepSeek接著先把小兵當騎士走，把ChatGPT的皇后吃了，更
令人傻眼的是，DeepSeek直接把對方的白色小兵變成自己的黑色小兵，

DeepSeek直接造假規則騙GPT

這也太人性了吧

當AI一本正經胡說八道的時候

到底要怎麼區分及應變呢~~


--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 223.140.120.20 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1738985169.A.EBC.html
推 toya123: (′ω‵)好像似曾相似這個情境ˋ
→ chordate: 是哪個網紅說一下吧
→ ch333: 自訂規則 沒人打的贏
推 discoveryray: 畢竟是
推 fenix220: 台灣就一堆被唬得一愣一愣的了
→ ashrum: 大型語言模型=鏡子，映射模型對象的說話方式
推 j55888819: 口胡玩家
推 arthur9292: 吃什麼樣的來源就會吐出什麼樣的東西
→ npc776: 榜單會把打不贏的對手除外的國家好像不怎麼意外
推 catlazy42120: 中國製的AI真的就跟創造者一樣…..永遠覺得爾虞我詐
→ catlazy42120: ，最後弄到別人看到你就要你死一點合作意願都沒有
推 amsmsk: ai給你錯誤答案對你來說算說謊嗎 對啊
推 zsp9081a: 遊戲王都是真的
推 qaz95677: 他只是忘記了
→ lianginptt: 哪個網紅阿，好像蠻好玩的
推 ashrum: 背後不是思考，是10萬萬中國網民的發言傾向
推 mhwsadb45: 中國人意外嗎
推 vn509942: 吃訓練模型的因子去產生的，什麼因種什麼果
推 mikeneko: 雖然卡上沒有寫，但是這張卡可以特殊召喚
推 lucky0417: 有影片嗎 我想看那個支那AI
→ AntiEntropy: 畢竟是…
推 vios10009: https://i.imgur.com/XLp8B6x.jpeg
推 Bewho: https://youtu.be/JHq4EKMg7fI?si=-lviEHOtqcxGG6pV
→ Bewho: 這個影片
→ yniori: 美國一名西洋棋網紅Levy Rozman
推 Jameshunter: 你知道chatGPT也會自編法條跟冷門程式的規則嗎
推 kuninaka: 改規則OK吧
推 Xpwa563704ju: 只要是AI都有過類似問題
噓 Mydadisgay: 你又沒差
推 pgame3: 文字ai終究是文字預測模擬器阿
→ yniori: 我有舉出gpt亂編柯南劇情的情況啊
推 Bewho: 現在的AI都馬在瞎掰
推 OrangePest: 現在的AI不知道的事情不會跟你講不知道 反而會掰出一
→ OrangePest: 些似是而非的東西給你 判讀起來反而更難
推 k1k1832002: 畢竟就趨於人性,日常生活中有時候不也礙於某些條件(面
→ k1k1832002: 字或身分),對談的時候硬要回XD
→ lianginptt: gpt不知道要查證也是蠻蠢的
推 k1k1832002: 就跟人思維邏輯真的很像,別說它蠢,日常太常見了
推 MarchelKaton: 現在AI答個十句都能錯三五句的還有人把AI奉為真理
推 Morisato: 屁胡滿貫！
推 goward: 我剛剛才在八卦版看到........
推 JUSTMYSUN: 畢竟是
推 lex65536: AI會亂講話是因為抓網路上那堆亂講話的內容的關係嗎@@？
推 rommel1990: 連AI都跟支那人一個尿性
推 c312117: 這都能口胡
→ gp3lucky: ai沒辦法完全辨別驗證他撈到資料的正確性
推 sepzako: https://i.imgur.com/LSu3mQg.jpeg 這AI很支那 有學到精
→ sepzako: 髓
推 owo0204: 兵不厭詐 這就是孫子兵法的智慧
→ gp3lucky: 我隨便問個降龍十八掌招式，他都有好幾種錯誤答案
→ sky093851248: 連下棋都能口湖
推 qazw222: 因為AI就是要給你一個答案，也就是結果
→ qazw222: 中間的過程都不重要，如果他不知道怎麼辦就亂講
推 ilove640: 人家年紀比較小 小孩子下棋口糊也正常(X
→ qazw222: 而且AI沒有辨別資訊正確與否的能力
→ qazw222: 所以他蒐集到的所有資訊都會照單全收
推 ruby080808: 這個就ai每次跑一跑就會開始話唬爛的問題==
噓 akimu: 到底為什麼要用聊天機器人來下棋...
推 randolph80: 像兩個小朋友在下棋
推 crazy6341556: 口糊啊
推 bladesaurus: 畢竟是
推 orze04: 遊戲王？
→ orze04: 現實官員隨便唬爛也是一堆韭菜相信啊
→ iqeqicq: 一種練蠱的概念
推 jeremylouee: 正常 哪個主角規則不是自己訂
推 satheni: 畢竟是AI都學會插隊停車的國家
推 NicoNeco: 剛剛才跟韓國圍棋學的吧 加規則直接把決賽對手送下去
推 ALuBa13: 我也是第一時間就想到0勝1敗的韓國檢舉冠軍事件
推 GaoLinHua: 現代問題需要現代手段
推 Strasburg: 記得哪部作品說過 當AI學會騙人就是世界末日了
推 dnek: 遊戲人生唬爛西洋棋都是真的
→ Shichimiya: AI本來就是一本正經的胡說八道
推 ashs92223: 後面說DS勸gpt投降，然後gpt還接受 XD
推 maskon: 這代表著這模型的參考就是這種樣子阿
推 JoJonium: 給你答案不代表給你正確的答案
推 qweertyui891: 有什麼指示就有什麼行動啊
推 a8856554: 唬爛度贏了
→ longkiss0618: 畢竟是中國AI
推 ohrring: 用嘴玩遊戲 這是遊戲王嗎
推 asdwrockasdw: 不是ai說謊，而是ai講出了人類的謊言吧
推 CTUST: 數位智人幹贏尼安德塔人的例子
推 shawncarter: 畢竟是