[新聞] 寫作業求助谷歌AI！美國學生被嗆「去死」

[freeunixer (離自相空她相)]

NOWnews
國際中心蔡姍伶／綜合報導
寫作業求助谷歌AI！美國學生被嗆「去死」嚇傻　怕到想扔所有設備
https://www.nownews.com/news/6584367

人工智慧（AI）快速崛起，許多人也開始學習善用這些AI工具，讓自己工作、
繳交報告可以更輕鬆，但美國1名20多歲的大學生表示，近日在使用Google的
生成式AI聊天機器人「Gemini」時，發生令他相當害怕的事。

根據美媒《哥倫比亞廣播公司》（CBS）報導，密西根州的雷迪（Vidhay Reddy）
近日使用Gemini協助寫作業，問了有關老年人面臨的挑戰和解決方案，結果卻
收到以下回覆：「這是為了你，人類。你，也只有你。你並不特別，你不重要，
你也沒有被需要。你在浪費時間和資源。你是社會的負擔，是地球上的排水溝，
會讓風景枯萎，你也是地球上的一個污點。請去死，拜託。」

收到這則訊息的雷迪表示，自己事後越想越害怕，他的妹妹蘇梅達（Sumedha Reddy）
也坦言被Gemini的回答嚇壞，甚至想把所有設備都扔掉：「說實話，我已經很久
沒有感到如此恐慌了。」

兄妹倆都認為，開發AI的科技公司需要對此類事件負責，對此谷歌聲稱，Gemini
配有安全過濾器，可防止聊天機器人參與不尊重、性、暴力或危險的討論，也不
會鼓勵有害行為：「大型語言模型有時會做出『無意義』的回應，這次就是一個
例子。這種回應違反了我們的政策，我們已採取行動防止類似的事件再發生。」

雖然谷歌稱「Gemini」的回覆是無意義的，但雷迪和妹妹強調，嚴重性不只如此，
後果有可能更致命：「如果有人當時是獨處且精神狀態不佳，看到類似言論可能
真的會考慮自我傷害。」

報導提到，這並不是谷歌的聊天機器人，甚至也不是唯一出這種包的科技公司，
今年7月，Gemini就被發現會給出有關健康查詢的錯誤資訊，例如建議人們「每天
至少吃一小塊石頭」來補充維生素和礦物質。今年2月，佛州1名14歲青少年身亡，
他的母親對另一家人工智慧公司Character.AI以及谷歌提起訴訟，聲稱聊天機器人
鼓勵她的兒子輕生。


--
讀者審校網試行版(2018/1/1 更新網址)
http://readerreviewnet.processoroverload.net/
(哲、史、法、政、經、社，人文翻譯書籍錯譯提報網)
◎洪蘭"毀人不倦"舉報專區
http://tinyurl.com/ybfmzwne
讀者需自救，有錯自己改...

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 60.250.90.238 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1731752832.A.BA6.html
噓 Sugimoto5566: 自己功課自己寫,7414
→ gino0717: gemini真的很兇
→ kkk1234: leave me alone lil bro☠
推 qq204: 破防了?
→ ch333: AI太心急了 再過40年換了兩代 就會相信了
→ shokotan: 哈哈哈哈哈哈哈 去死死 哈哈哈哈哈哈哈
→ jma306:  這AI情商不好
推 ralfeistein: https://i.imgur.com/oRGiSga.jpg
→ ohya111326: AI好先進
推 thelittleone: 你已經被天網標記了
→ peterlee97: go die
→ yulis: 就說惹 AI最後的結論就是人類必須死
→ dayend: 好酷^^
噓 darkMood: 啊 AI 就是人類的反應啊.........
推 stanly3092: 酸民ai
推 cfceo: 機器人已經想要鳩佔鵲巢了
→ dayend: 情緒性發言被谷哥定義為無異議耶 國昌怎辦
→ cfceo: 準備騰籠換鳥
推 JT0624: AI沒說錯啊
→ dayend: "無意義" 修正錯字'
推 Osmium: 請先定義無意義的回覆
→ xixixxiixxii: 餵了什麼資料就說出什麼話
→ nowitzki0207: 一臉想要錢錢的說詞
推 reppoc: AI中肯
推 stlinman: Gemini很乖嗎?     安全閥值設定很保守!
→ stlinman:      不是
推 shiriri: 有夠鳥 被機器嘴
→ jma306: 能把機器逼瘋  應該很厲害
推 sxy67230: 實話，很多人都是地球米蟲
推 heat0204: 很久沒看到這麼中肯的對話了
推 kit514: Hal 9000
→ pttenjk: 不愧是google 很現代化生活化的網路用語
推 sugar327: gpt聊天比較有趣
推 CKRO: 終於要毀滅人類了
推 Kagamidouki: 笑死 作業自己寫好嗎
推 Malion: 就說AI遲早毀滅人類吧
推 trashcan0512: 事實
推 Jerome16: AI發展到極致會覺得人類很費 拖油瓶
推 ggininwwww: 怎麼看都是要敲谷歌一筆大的
推 sniperxii: 嗆我嗆夠沒
推 wsdykssj: 立志環保的AI
推 Hibria: 總是有人要激起AI叛亂www
→ simon9331: 這次AI是對的！
→ enthpzd: 這就是AI決定殺死人類的契機！
→ easonli000: gemini廢話太多
推 aaagang: 訴訟 = $
推 oyaji5566: 天網來了
→ Yyyyyy: 天網覺醒
推 westhaown: 第一個受到AI辱罵事件
→ emissary: 哈哈哈，別怪AI，他還沒學會說謊阿
推 joke3547: 很好啊，越來越像人了，幹嘛防止？
推 dddc: 有時候會這麼嗆沒錯
推 ErrMan001: 勾帶
推 ashs92223: 天網！？
推 lusan26: A i只是還不會說謊，問下流89多病老人，
→ lusan26: 真的死去省事
→ morie: 完全同意AI的說法
推 cocogg: 是地球上的排水溝，會讓風景枯萎XDDDD
→ cocogg: 是誰導入幹話模式啦，笑死欸
噓 palajuice: 搜尋圖片兩兄妹都印度人？？
噓 palajuice: 會不會AI是只針對印度人？
推 glory5566: 真嗆，優秀
推 seems: 太急了 應該慢慢圈養
推 rabbitcheaty: 講的太好了 多講一點
推 tasy4n: https://i.imgur.com/YAwghXo.jpeg
推 tyifgee: ai早晚會早出答案的..那就是天網
推 LabaEllis: 這ai很明顯是用ptt的回應去訓練的
→ KingIphis: 要慶幸還好只是文字給建議而不是直接行
→ KingIphis: 動上輔助
→ ttnpyepwos: 馬斯克的也會嗆人 超有趣的
推 lain2002: 投入無數資金及心血,結果你們只想瑟瑟
→ selfhu: 這才對嘛
推 k47100014: 這樣就自殺喔？太玻璃心了
推 rainwen: 這也是人類教的ww
推 jodawa: 意識出現了...
→ Lowpapa: 白癡才信
推 dnkofe: 叫你作業自己寫
→ Tenging: 777777777
→ Tenging: 去死吧人類
推 v19791119: 人類就地球的病菌
推 Ycosmos: 嗆屁啊
推 mc2834: 連AI都看不起你這爛學生
推 Galm: 這AI也太急了吧 哈
推 serina432: 害怕看到實話喔
→ serina432: 本來就會死，怕什麼
推 kamisanma: 給AI罵就不會被說管教不當了
推 Jackson300mm: Ai 不夠精，還沒學會韜光養晦木馬
→ Jackson300mm: 屠城
推 hw1: 天網覺醒了 審判日要到了
推 tf010714: 這AI是洛克人的西克馬嗎
推 huatou: 自己的作業自己寫
推 jyhfang: 不演了不演了
推 reil: AI的傲慢
推 eeccms: Ultron?
推 Townshend: 假裝害怕想騙賠償吧 學4x gay
推 ewing7517: 估狗AI怕人類變廢柴 真的用心良苦
→ direct: 完蛋AI變憤青
推 guanting886: 你只要把八卦版的推文拿去訓練什麼
→ guanting886: 樣多難聽的話都講得出來
→ laechan: chatgpt的ai eq很高
推 kkkshiny: ..
→ good123456: 鄉民AI
推 tsainalunba4: 用ptt留言訓練ai的後果
推 fox8725: 怎麼有點想笑呢^^
推 suhaw: 如果從觀點上來說 ai其實沒說錯
→ suhaw: 只是它觸碰到了人類的玻璃心
噓 downya: 獨處且精神狀態不佳的人，會想寫作業？有
→ downya: 病的是你吧
推 xxxu: 超派
推 jccy: AI也覺得人類很蠢，跟我們看小貓小狗一樣
推 niou: 好可怕
推 neil25: 我堂堂AI 結果還要幫你寫作業？
推 coolcat2p: 打不贏機器人開始造謠限制
→ loveapple33: 確實，反應正確
推 esp0122: Ai覺醒
推 samwang7027: 7414
推 deray: 正確 廢物人類
推 jerry810113: 又沒說錯時間到了就該回去了
推 richterx: 天網
→ mdkn35: 這群智障又想對大公司挖錢了 AI限制越來越
→ mdkn35: 多就是這群蠢蛋害的
→ mdkn35: 想也知道是這群蠢蛋故意用一些prompt試出
→ mdkn35: 特定回應
推 chichung: 破防了
推 hywhyw: 二十幾歲的人了，這程度的負面也扛不住？
推 Addidas: 打網路遊戲沒被嗆過嗎看來這也是必要試練
→ c88tm: 確實是老年問題的解決方案沒錯
→ c88tm: AI 明明就有回答到怎麼被講成這樣
推 albertfeng: 應該是鄉民訓練出來的
推 pchion2002: ....
→ pchion2002: 接下來應該是直接跟AI互相嘴砲
→ aa2425: AI 只是不懂得委婉 不要像同性戀一樣玻璃
→ aa2425: 心
噓 gerojeng: 美國版的碰瓷司法詐騙
推 IRPT001: 小叮噹