[新聞] 馬斯克AI闖大禍！Grok驚見「一鍵脫衣」功

[Waitaha (球棒俠)]

1.媒體來源:
自由時報

2.記者署名:
編譯陳成良／綜合報導

3.完整新聞標題:
馬斯克AI闖大禍！Grok驚見「一鍵脫衣」功能 連自己小孩也受害


4.完整新聞內文:
馬斯克（Elon Musk）旗下的人工智慧工具Grok週一（5日）引爆全球怒火。該工具近日推
出的「編輯圖片」功能，竟允許用戶輸入「脫掉她的衣服」、「換上比基尼」等指令，生
成女性甚至未成年人的深偽（Deepfake）色情圖片。此舉立刻招致歐盟、英國及亞洲多國
政府強烈譴責，甚至連馬斯克孩子的母親都出面痛斥該功能「令人恐懼且違法」。

輸入指令「脫掉衣服」 歐盟痛批：這是犯罪
《法新社》報導，這波數位性暴力風暴起因於Grok的新功能，用戶發現可輕易利用AI將照
片中的人物「強制脫衣」。歐盟執委會（European Commission）數位事務發言人瑞尼爾
（Thomas Regnier）5日嚴厲抨擊，Grok所謂的「香辣模式」（spicy mode）產出兒童色
情內容，「這一點都不香辣，這是違法，這是駭人聽聞。」

他強調此類技術在歐洲無容身之地，歐盟正嚴肅審視此事。英國媒體監管機關Ofcom也表
示，已緊急聯繫X平台與xAI，確認其是否採取措施保護英國用戶，並將評估是否啟動調查
。

馬斯克孩子的媽也受害 怒轟：令人作嘔
最諷刺的是，這把火燒到了馬斯克自己家門口。馬斯克孩子的母親、同時也是知名網紅聖
克萊爾（Ashley St. Clair）在X平台上憤怒發文，指控Grok竟然將她「小時候的照片」
生成裸照。她寫道：「Grok正在脫掉我童年照片的衣服。這在客觀上是令人恐懼、違法的
。」

馬來西亞律師阿齊茲（Azira Aziz）也向《法新社》表示，一名用戶竟用Grok將她的社群
頭像換成比基尼照，她強調：「將AI武器化，對未經同意的婦女和兒童進行性暴力，必須
受到堅決反對。」

面對排山倒海的指控，xAI第一時間對媒體詢問僅給出簡短且自動化的傲慢回覆：「傳統
媒體撒謊（Legacy Media Lies）。」不過，隨著爭議擴大，Grok官方帳號隨後改口稱已
發現防護機制疏漏，正緊急修復，並強調兒少性虐待內容（CSAM）是違法且被禁止的。

此事件已引發法律戰。法國巴黎檢察官辦公室上週已擴大對X平台的調查，將Grok涉嫌生
成與傳播兒童色情內容納入偵辦範圍。印度當局5日更直接下達通牒，要求X平台在72小時
內刪除相關色情內容並提交處置報告，否則將面臨法律後果；馬來西亞通訊及多媒體委員
會也對此表達嚴重關切，準備傳喚X平台代表說明。


5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體:
https://ec.ltn.com.tw/article/breakingnews/5301185

6.備註:
※ 一個人一天只能張貼一則新聞(以天為單位)，被刪或自刪也算額度內，超貼者水桶，請注意
※ 備註請勿張貼三日內新聞(包含連結、標題等)


--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 61.228.204.246 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1767700134.A.A8E.html
推 sdamel: 這就是他要的功能好嗎
推 dancho606: 業配
噓 YesNoter: 推特色色發抖
推 ab4daa: 還沒脫EE的衣服沒42
→ gx8759121: 一鍵生成A片哪時候有?
→ ILoveAMD: 勸你少管閒事
→ alex00089: 不早就有AI 片了？
→ LoveSports: 都婦孺受害 下輩子要當渣攻才安全
推 fertalizer: 業配文
→ ornv: 我勸你
→ r85270607: 我勸你少管閒事
推 s0450336: 因為這才是大家想要的
→ xBox1Pro: 老馬他自己被玩也沒差
推 encoreg57985: 做好配套用年齡驗證且打上浮水印
→ hmcedamon: 有這種事
→ encoreg57985: 應該就可以防範犯罪了
推 jma306: https://i.imgur.com/HDDXoa8.jpg
→ LoveSports: 這很不公平 男的不在乎自己被轉成裸體
推 gunlinuu: 你為什麼會輸入那個指令
→ LoveSports: 所以為了制裁應該要生成男性的父母的
→ LoveSports: 裸體相X照
→ LoveSports: 這樣男的才會將心比心產生同理心
推 holiybo: 現在擋很嚴吧 稍微沾一點邊就不給看了
推 Banchero: 以前這些爛假裸照根本沒人管，現在AI有
→ Banchero: 了突然就要管了XD
推 paracase: 不是早就被鎖了，可能試了50次，才有1
→ paracase: 次成功
推 MeeToo: 幫我脫樓上的
→ hmcedamon: 拜託AI終止這個過度分享的世界吧
推 bleach00: 不小心開啟隱藏功能了 要收錢的
→ xBox1Pro: 這種垃圾功能浪費的算力導致3C大漲
→ Qaaaa: B意外 先推說是左媒假議題 跟板上鄉民一樣
推 sim3000: 不要跟我說盤前在跌這個
推 GGININDER4NI: 葉佩雯
推 goldmouse: 業配
→ Jimmywin: 我勸你
推 LoveMakeLove: 社保 而且AI算出來比較自然
→ t4lin: 再抗議等等變成深度付費解鎖
推 aries5420: 早就改掉了
推 hsiung9: 我勸你
→ DellSale999: 下載進度 99.9%
推 tanchuchan: 我勸你
推 jise51103: 這葉佩雯吧==
推 small91051: 讚啦
→ homerunball: 已下載
→ blue155305: 我勸你少管閒事
推 omanorboyo: 業配文
推 GN02209611: 笑死，自己生成之後有沒有下載啊
推 yeustream: ?!Grok只針對兒少問題回應,所以....
推 obovqq: 馬：我研發AI就為了這個好嗎 87
推 selvester: 我勸
→ libraghost: 怎麼用快教我
→ hdw: 這基本功能別拿掉阿
推 Refauth: 歐盟痛批：這可以收罰緩！一定要罰！
→ jodawa: 立大功
噓 GivemeApen: 少管閒事
推 yoseii: 明知道是假的，看到ai裸照也不會有太大感
→ yoseii: 覺
→ rainight1218: 三小？問題根本不是AI的錯，是下這
→ rainight1218: 個指令的人錯==
推 digodi: 樓上說的對，早就改了，業配
推 alex01: 刀子做出來拿去殺人是做刀子的問題還是使
→ alex01: 用者的問題
推 daye2012: 沒有啊， 這個功能在哪裡
推 dogdream: 欸 不是 教學呢？
→ tabrisPTT: 馬斯克懂玩
推 SPAEK: 有這功能 才會促使AI飛躍性進步
推 howow: 可以罰錢囉
噓 lu0713: 我勸你
噓 fransice7: 早就禁了才在葉配
→ jialin6666: 對岸模式一堆NSFW，都可以做動畫了
噓 mark2326: 左膠根本在思想犯 重點是有沒有人製作
→ mark2326: 虛擬照去散播傷害人 而非他們製造完在一
→ mark2326: 對一的個人視窗內看吧
推 E7B0A1: X上不是本來就沒穿嗎