[姆咪] OpenAI主動審查內容通報FBI 美分析師遭

[edward40812 (甘草@葵歌劇団)]

一名25歲 曾任職於高盛的華裔分析師

因為在ChatGPT中

詳細策劃，演練強暴、殺害前女友及其家人

遭OpenAI偵測發現並通報FBI

警方獲報後旋即逮捕該分析師

該分析師自三月開始向ChatGPT訴苦

但對話漸漸變成具體的暴力威脅

內容包含了前女友的作息、興趣

及模擬持槍綁架、性侵、酷刑及謀殺後自殺

之後更開始加入女友家人及到場警察的反應等

法院將在近日宣達判決



這基本上代表與OpenAI旗下AI的對話

仍然會受到系統及人工審查

唉唉

科技越來越進步

隱私越來越退步

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 46.231.167.37 (日本)
※ 文章網址: https://www.ptt.cc/bbs/Marginalman/M.1787128587.A.9E3.html
→ yulis: 你版-1
推 zhtw: 本來就會被審查，所以別把幻想跟ai說
推 sakamata: 啥小 這有什麼罪名
推 WindowDragon: 不是 你就算不是AI 把這種事跟別人講不是一樣
→ KurageuRoa: 我們的刑法271也有預備犯阿
推 SecondRun: 傻了嗎
推 h0103661: 你可以本地部署或用TEE協定
推 dog41125: AI出來之前安卓就會自主通報FBI了
→ dog41125: 你只要是聯網的微軟谷歌都會