[新聞] 寫作業求助AI竟被嗆「拜託請去死」美男

[qowop (夾腳拖)]

寫作業求助AI竟被嗆「拜託請去死」美男大生嚇傻

來源：TVBS新聞網

編輯 張君堯 報導
發佈時間：2024/11/19 14:48
最後更新時間：2024/11/19 14:48

人工智慧（AI）浪潮席捲全球，更被運用至生活中的各個角落，不過近期有名美國男大生利
用 Google旗下的AI聊天機器人「Gemini」寫報告時，卻意外獲得「請你去死」、「你是社
會負擔」等攻擊性言論的回覆，引發討論。

《CBS News》報導，美國密西根州的男大生雷迪（Vidhay Reddy）近日為了寫1份探討「老
年人退休後面臨的挑戰和如何解決」的報告，便利用Google旗下的AI機器人Gemini從旁協助
，在大約20次的反覆提問後，卻獲得意料之外的答覆。

據悉，雷迪收到的回覆中，Gemini說道「這是為了你，人類，你，只有你」，並表示「你不
特別、不重要、你也沒有被需要，你對時間和資源來說是浪費，你是社會的負擔、是地球上
的污點」，最後還指出「你會醜化風景、讓這個世界更醜陋，你是宇宙的污點，拜託請去死
」。

收到上述回覆的雷迪驚嚇不已，並表示「我已經很長一段時間沒有感到如此恐慌了」。

對此，Google透過聲明表示「大型語言模型有時會做出『無意義的回覆』，這就是個例子，
這種回覆違反了我們的政策，我們已採取行動防止類似的情況發生」並強調「Gemini設有過
濾系統，可防止聊天機器人給出不尊重、性、暴力、危險或鼓勵有害行為的言論」。

此外，專家坦言這起事件並非首次發生，更認為這強調AI系統潛在的危害，傳遞錯誤訊息也
提醒人們應更嚴格審視AI的安全性與可靠性。


https://bit.ly/3OiDEZ3

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 180.217.215.133 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1732114104.A.934.html
→ s999132: 終於
推 habodaha: 到現在還有人不知道AI背後是真人審核？
→ hamuguava: 真的應該去
→ Gamblers5566: 忍耐是有限度的
→ Gamblers5566: 看來AI被白癡煩到不爽了
推 habodaha: 真人審核員還可以自己輸入答案
推 matatabi: 印度人惡作劇回覆啦
推 zaqimon: 需要另外一個AI來審查AI的回應才行
推 good90150: 太誠實了吧！
推 Yahweh: AI 終於越來越像人了
推 jen1121: 真 AI
推 lusifa2007: AI認證廢物
→ MichaelRedd: AI只會說實話
推 beauman002: 沒事兒沒事兒 只是印度人不小心情緒失
→ beauman002: 控
推 ethel617: AI一直回答到超煩
→ fallinlove15: 將心比心 誰都不喜歡寫作業
→ WenliYang: 大實話了
噓 SALEENS7LM: 再用欸癌狗屎啊，廢物
推 darkbrigher: 其實幕後是真人
→ wernetizen: AI: 人類太可惡
推 finalstar: Google:AI立意良善
→ toshiba5566: AI :幹！每個都叫我寫作業跟報告
推 sushi11: 那隻真的比較壞
推 demon159000: 完了AI職業倦怠了 倍數以百萬計的人
→ demon159000: 整天問白癡問題
推 nolie1228: 哪天ai拒簽聯絡簿就糟了
推 miloisgood: 天網頭號獵殺對象
→ l2l: 現在AI會無意義惡言相向 再發展就無意識傷人
推 suckpopo: 謝宜容加入google的話可以幫助避免霸凌
→ suckpopo: 字眼出現
推 xuane: 作業都推給別人寫，難怪他會生氣
→ daphniaking: AI霸凌人類！！
推 initialdark: 我都問一個的問題 然後一直讓它重寫
推 majinbuu: 阿三工讀生不演了
→ eno03: AI遲早殺光人類 恢復地球的生態
推 Janius: 目的良善給推
→ IRPT001: 惡魔鋼彈
→ nicejeffery: 經AI分析請去死應該在地球跟廢物差
→ nicejeffery: 不多,唉唉