[新聞] AI也將「差別待遇」！ChatGPT擬推青少年

[doozia (天龍人)]

備註請放最後面 違者新聞文章刪除

1.媒體來源:
※ 例如蘋果日報、自由時報（請參考版規下方的核准媒體名單）
※ Yahoo、MSN、LINE等非直接官方新聞連結不被允許
風傳媒

2.記者署名:
※ 若新聞沒有記者名字或編輯名字，請勿張貼，否則會被水桶14天
※ 外電至少要有來源或編輯 如:法新社
李靖棠

3.完整新聞標題:
※ 標題沒有完整寫出來 ---> 依照板規刪除文章
AI也將「差別待遇」！ChatGPT擬推青少年版，防止機器人害孩童走偏和發生遺憾
https://www.storm.mg/article/11068173

4.完整新聞內文:
※ 社論特稿都不能貼！違者刪除（政治類水桶3個月)，貼廣告也會被刪除喔！可詳看版規

隨著生成式AI機器人愈來愈方便和普及，卻也連帶衍生出更多社會道德與法律爭議，當美
國今年4月份、真實發生一起AI被指控「誘導」青少年走上絕路的司法案件曝光後，身為
ChatGPT創始者的OpenAI公司就決定，要讓這個平台能差別待遇，將成年與未成年使用者
拆開，預防自家機器人再次惹出憾事。

OpenAI日前對外宣布，考量到心理因素與社會化層面，該公司已經開始著手進行，要把平
台的青少年用戶、全數導向一個新的「適齡版本」ChatGPT，藉此加強聊天機器人安全性
，同時還能保護用戶。

報導引述公司聲明表示，舉凡被辨識為18歲以下的ChatGPT用戶，其搜尋結果將被自動導
向、「適齡內容規則」運作的平台版本。這個青少年專用版本，將涵蓋各種法律保護政策
，例如封鎖性內容，或是允許背後營運商，在「極少數急性危險情況」底下，主動聯繫執
法單位、確保使用者當下的安全。

公司態度非常明確，「當ChatGPT在回應一名15歲使用者，它所使用的方式和語言結構，
理應與回應成年人時有所不同。」

OpenAI同時還提到，他們也將一併推出「家長監控」功能，包含允許家長、將自己的帳號
與青少年帳號連結、管理聊天紀錄、設定停用時段等，這些安全防護功能，預計最快將在
9月底上線。
AI機器人對兒少存在負面影響

事實上，身為外界最關注焦點的AI企業，OpenAI這項宣告，是和美國聯邦貿易委員會（
FTC）、一份針對聊天機器人對兒童與青少年的潛在負面影響調查有關。OpenAI向外媒強
調，公司正積極優先確保一事，要讓ChatGPT對所有人都是實用且安全，「尤其當有年輕
用戶涉入時，我們也深知安全是至關重要的。」

此外，在官方啟動調查前，OpenAI內部就開始議論，打算對弱勢使用者與青少年族群，提
供額外的平台安全防護。

這個原因是受到一起加州司法訴訟影響，一名年僅16歲的青少年亞當．雷恩（Adam Raine
），在今年4月份選擇輕生離開人世後，其父母在8月對OpenAI公司提起訴訟，指責就是
ChatGPT產出的結果，才導致他們的孩子最終走上絕路。

該如何認定用戶真實年齡？

目前不清楚OpenAI將如何確認使用者年齡，但公司向媒體表示，他們會給系統一個廣泛原
則：如果ChatGPT無法確定或取得用戶的完整資訊，平台將強制預設導向屬於青少年的那
個版本。

不只OpenAI這麼做，常見的社群平台很早就開始「差別待遇」管理，像是影音串流平台
YouTube，不只推出專屬兒童的YouTube Kid平台，甚至為了防止未成年用戶破解和鑽漏洞
，改採用「年齡估算技術」，將透過追蹤使用者觀看的影片類型，以及帳號建立時間，來
判斷其是否未滿18歲。

根據皮尤研究中心（Pew Research Center）4月的調查報告，家長普遍比青少年本人、更
擔憂青少年的心理健康。在那些對青少年心理健康存在「有些擔憂」或更多的家長當中，
44%比例認為、社群媒體對青少年產生的負面影響最大且嚴重。



5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體:
※ 當新聞連結過長時，需提供短網址方便網友點擊
https://www.storm.mg/article/11068173

6.備註:
※ 一個人一天只能張貼一則新聞(以天為單位)，被刪或自刪也算額度內，超貼者水桶，請注意
※ 備註請勿張貼三日內新聞(包含連結、標題等)


--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 59.124.115.133 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1758098399.A.7BA.html
推 wiork: 色情AI守門員？
推 chigo520: 限制越來越多…
推 A80211ab: 我以為學生都用AI解數學題
推 tsubasawolfy: 不是跟信用卡公司請?
推 adios881: 好色喔 有沒有羅莉版
→ adios881: GPT少女版 也是可以 我
推 gremon131: 寶寶模式可以啊
→ adios881: 回應會不會疊字字
推 tonyycool: 年齡認定問題 AI 無法證明你是成年人
→ tonyycool: 一律當你是未成年論
推 bitcch: 怎麼有種洗腦教育的感覺
推 LoveSports: 之前跟GPT討論過 他說那些用騙的方式
推 rushfudge: 哎喲喲 再來會不會有台女模式
→ LoveSports: 誘導GPT做不當生成的人會影響語料跟回
推 Yefim618: 神經病，會被ai搞死的，多少腦子都有問
→ LoveSports: 答的方式 有可能導致誤導一般用戶
→ Yefim618: 題，趁現在達爾文一下不好嗎？
推 soarling: 被限制的AI是......
→ LoveSports: 限制越來越多跟違規用戶也有關係
→ LoveSports: 所以這樣分級是好事
→ LoveSports: 類神經網路權重會因為違規用戶受影響
→ LoveSports: 青少年分級制度可以維護語料乾淨
推 skyprayer: 台灣國小學生使用ai最多比例跟ai聊天
→ LoveSports: AI被騙順從生成不當文字 違規用戶按讚
推 saiboos: 調教AI變母豬
→ LoveSports: 或是鼓勵他 就是在影響他的權重
→ LoveSports: 所以家裡有小孩的盡量避免讓他們跟4o
→ LoveSports: 對話 GPT4o已經被太多違規用戶誘導做
→ LoveSports: 不當生成
→ LoveSports: 畢竟到9月底還有兩個禮拜
推 LoveSports: 其實即使是成年人 極少數緊急狀態也是
→ LoveSports: 需要被通知執法單位 為什麼只有青少年
→ LoveSports: 適用? 等於在說成年人即使有極少數緊
→ LoveSports: 急狀態AI可以繼續對話 不論語料與權重
→ LoveSports: 被設定或被大多數用戶鼓勵成怎樣的
→ LoveSports: 以為是跟AI對話其實是跟一群違規用戶
→ LoveSports: 偏好的權重與汙染過的語料對話喔
→ LoveSports: 其實更應該做的是色情分級 把色情用戶
→ LoveSports: 獨立分出去
→ LoveSports: 不是AI害孩童走偏 是AI背後的人類 包
→ LoveSports: 括設定AI的工程師 跟影響權重與語料的
→ LoveSports: 所有用戶
推 davyy: 直接收費了，沒錢的滾
推 yuinghoooo: 不能色色