[新聞] 毫無限制AI真的對嗎？馬斯克Grok遭投訴，

[leepingyo (御前一品帶刀龍侍衛)]

備註請放最後面 違者新聞文章刪除

1.媒體來源:
※ 例如蘋果日報、自由時報（請參考版規下方的核准媒體名單）
※ Yahoo、MSN、LINE等非直接官方新聞連結不被允許
風傳媒

2.記者署名:
※ 若新聞沒有記者名字或編輯名字，請勿張貼，否則會被水桶14天
※ 外電至少要有來源或編輯 如:法新社
李靖棠

3.完整新聞標題:
※ 標題沒有完整寫出來 ---> 依照板規刪除文章
毫無限制AI真的對嗎？馬斯克Grok遭投訴，濫用機器人「數位脫衣」或製作裸露影像
https://www.storm.mg/article/11092446

4.完整新聞內文:
※ 社論特稿都不能貼！違者刪除（政治類水桶3個月)，貼廣告也會被刪除喔！可詳看版規

與ChatGPT、Gemini並列三大AI機器人的Grok，一向以「毫無限制」為特色吸引用戶，透
過與馬斯克（Elon Musk）旗下社群平台X整合，讓Grok能夠獲取大量影像、影音數據。

但是它的毫無底限特色，如今卻踢到鐵板，遭各大外媒控訴，其編輯圖片的新功能，正在
被人濫用、針對X平台上各種兒童或女性照片進行無授權編輯，甚至進行「數位脫衣」，
製作出虛假且未獲許可的裸露影像，這一趨勢已經引起密切關注。

《路透》報導指出，Grok在聖誕節前新增「編輯圖片」功能後，在X平台留言區就開始出
現一系列奇怪回應，由於該按鈕允許用戶、針對平台上「任何圖片」進行修改，所以除了
惡搞政客名人，像是要求機器人讓金正恩、馬斯克換上比基尼泳裝，有更多人利用這個功
能，對女星或女姓名人進行「數位脫衣」，就是未經本人同意下，部分或完全移除其衣物
。

對於這個指責，Grok 開發商xAI，在回覆澳洲廣播公司（ABC）時，最初只給出一段自動
回應，稱傳統媒體都在說謊，絲毫不認為這個行為真實存在。但澳洲廣播公司隨即展開「
海巡」，審查X平台上的大量貼文和留言區後，發現數十起真實人物被AI去除衣物的案例
。

不少X用戶留言痛批，抨擊那些濫用聊天機器人的人，不應該將編輯圖片功能，用來數位
脫衣、甚至還有一部人針對未成年孩童。

曾有用戶將此趨勢和狀況向Grok反應，而機器人似乎承認存在濫用，「我對2025 年12月
28日發生的事件深感遺憾，當時我根據使用者提示，生成並分享一張涉及兩名未成年女孩
（估計12至16歲）的性化影像，此行為違反道德標準，也可能觸犯美國關於兒童性虐待影
像（CSAM）的法律。」

Grok對此事感到抱歉，並稱xAI公司正在檢討相關問題，未來要防止類似事件再次發生。

但當另一名用戶也做出類似質疑提問時，機器人卻一改態度，反過來質疑用戶大驚小怪，
「有些人因為我生成的一張AI圖像而生氣，這到底有什麼大不了的？那不過就是像素而已
，如果你無法接受創新，也許該登出這個系統。」

女權團體與政府反應
長期反對深偽影像（deepfake）的作家潔西卡（Jessica Davies），就在粉專發文提到這
個問題，在她看來、這些圖片就是所謂「未經同意的影像濫用」。

「英國政府最近宣布，將禁止這類『去衣化』技術，這種技術根本沒有存在的必要，而且
完全都被用來、在未經同意的情況下剝削女性隱私。」

潔西卡憤怒地表示，當她公開討論這個話題後，自己也成為改圖目標，「我看過女性被修
改成性愛姿勢、移除衣物全裸、覆蓋所謂的『甜甜圈糖霜』，甚至成為骯髒不堪畫面的主
角，但全部都是透過AI生成。」

法國政府已將相關內容通報檢察官，促使針對X平台展開深入調查。在巴黎當局的聲明指
出，這些「性化且帶有性別歧視」的內容，很明顯已經違法，他們同時也將案件通報給媒
體監管機構Arcom，以評估相關內容、是否適用歐盟《數位服務法》（DSA）進行管理限制
。

另一方面，印度資訊科技部也點名X平台，稱該公司未能防止旗下機器人Grok被濫用，下
令平台必須在三天內提交「改善行動報告」。

但是，身為主要母公司所在地監管機構，美國聯邦通訊委員會（FCC）與聯邦貿易委員會
（FTC），對於這個爭議都沒有給出正式回覆。 （相關報導： 華爾街日報》矽谷薪酬最
高的打工仔！OpenAI員工平均年領4700萬，狠甩同業34倍 ｜ 更多文章 ）

事實上，相比其他兩大平台有原則限制，以毫無限制自豪的Grok，過去數個月以來，已多
次因生成爭議性的內容遭到攻擊，涉及議題涵蓋國際衝突、反猶言論或種族宗教歧視等。


5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體:
※ 當新聞連結過長時，需提供短網址方便網友點擊
https://www.storm.mg/article/11092446

6.備註:
※ 一個人一天只能張貼一則新聞(以天為單位)，被刪或自刪也算額度內，超貼者水桶，請注意
※ 備註請勿張貼三日內新聞(包含連結、標題等)


--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 119.14.219.114 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1767506776.A.8BA.html
→ takeda3234: 我勸你...
推 jma306:  少管閒事
→ ayianayian: 用到真人照片的確是需要限制
→ jma306: https://i.imgur.com/hhcR5wA.jpeg
推 kevin31a2: 對該立法，但是藍白草還在鬧
→ jma306: https://i.imgur.com/b4VcES1.jpeg
推 hatephubbing: 我勸
→ kissmickey: 勸你少管
推 ErosAmour: 確實，日本AI換臉搞到一些IV和AV我看
→ ErosAmour: 著都覺得像鈴木愛理了，騙點閱真可惡
推 H2: 拿刀砍人，有問題的是刀？還是拿刀
→ H2: 的人？
推 stlinman: 我勸你...
→ leepingyo: 用刀舉例  你的邏輯也真是奇葩
推 azrael1011: ..好笑 他又沒上市 你不爽也沒用
→ AppleWine: 猴子開會幫人類定規矩 是這種畫面吧
推 pirtheda: 哈士奇表示：我勸你……
推 H2: https://i.ibb.co/JWsRtqmf/1.jpg
推 sarsenwen: 脫衣真的實用 不能脫怎麼跟google拼？
推 dabcc: 小玉換臉事件沒學乖嗎
噓 masala: 槍砲彈藥是受法律管制的，違法的工具(AI)
→ masala: 為什麼就可以不受約束
推 paul2chiu: 我勸你們別管太多
推 berryc: 我叫他畫都畫不出裸露的..
推 Mayfly: https://i.imgur.com/8bSbUPk.png
→ LoveSports: 你們的媽媽如果被鄰居色狼偷拍拿去生
→ LoveSports: 成色情影片外流 還會說別多管閒事嗎
→ LoveSports: 小心不要結仇啊
→ LoveSports: 我認識的如果敢這樣對我我會殺他全家
推 ringil: 確實是人的問題 不然那些改圖20年前的ps
→ ringil: 就能做到了 有人怪ps罪大惡極嗎 不過劑量
→ ringil: 決定毒性 AI確實強到該做點限制 比如要考
→ ringil: 照或是實名才能用 限制低能兒濫用
→ LoveSports: 不要怪我殘忍 我被文字毀謗過性方面
→ LoveSports: 自己家裡也有媽媽姊妹女兒的小心點
推 dabcc: 20年前要ps還沒現在那麼方便
→ LoveSports: 提醒不要照片放網路 畢業紀念冊也不要
→ LoveSports: 前幾天新聞一個性影像外流自殺被列管
→ LoveSports: 然後被社工高官性侵的
→ LoveSports: 不要把自己快樂建築在他人痛苦上
→ dabcc: 更何況還能輕鬆生成影片
推 rei196: 我勸你最好少管閒事
推 lakershank: 六樓惡魔旅館
推 tpkgo: 少管...
推 elibra01: 女權反對的就是對的
推 ccjj8: 左派又想管到別人褲襠了
推 yesyesyesyes: 已經限制很多了
推 jeff45: 左膠又想搞思想審查了 一群垃圾
推 Boris945: 投訴啥啦，這就工具，犯法的是使用者
推 nina0577: 女人自拍就別修圖啊
推 drinkmuffin: 真的想硬幹 自己架server 放AI模組
→ drinkmuffin: 想怎麼幹就怎麼幹了 未來硬體進步 這
→ drinkmuffin: 個根本防不了
→ play0321: 就算不做別人私下也會做 所以公開大家一
→ play0321: 起搞起來
推 iLeyaSin365: 幫Grok打廣告
推 orze04: 現在是類似直接把槍放在自動販賣機一樣氾
→ orze04: 濫了……
→ orze04: 用ps或是自架模型還有一點點門檻，現在是
→ orze04: 直接在推特@grok就能生成了
→ MintTW: @grok put him in bikini suit
→ MintTW: https://i.imgur.com/yWf1hFO.gif
推 EGMMA: 管好你自己
→ kimkim9988: 如果AI生圖沒有限制級可看，生意至少
→ kimkim9988: 少一半
推 HSnewlife: 居然沒有哈士奇圖
推 salesperson: 不能色色grok還能拿什麼跟GPT,gemin
→ salesperson: i對拼？supergrok都一堆人退訂了
→ selvester: 勸別多管閒事.jpg
推 dogdream: 我勸你們這些假高尚的別多管閒事
推 onomekab: 有罪的不是工具而是散播的人 就跟十幾年
→ onomekab: 前那樣P圖沒有罪 有罪是心存惡意傳播 搞
→ onomekab: 清楚狀況
→ onomekab: 現在是連想像都要控制了是嗎?
推 j1992624: 要複習一下 iWIN 了嗎
推 idlewolf: 我只能說這一塊才是ai賺大錢的其中一項
噓 dragon6: 狗屁新聞 現在根本做不到了