推 QOO0838 : 完了 AI色情守門員 02/01 11:34
推 hermithsieh : 好日子 02/01 12:56
原文標題:
OpenAI與Common Sense Media合作 打造AI安全使用生態
原文網址:
https://bit.ly/3SnLgen
原文:
OpenAI近日宣告與專注於科技和媒體對兒童影響之非營利組織Common Sense Media合作，
致力於AI指南和家長、教師與青少年的教育資訊合作。
Common Sense Media專門對適合兒童使用的媒體和科技進行評論和評價，它為眾多家長判
定孩子是否應該使用某種產品或服務提供了指導。透過與OpenAI合作，其評估和評價系統
將被應用在OpenAI的GPTs(由OpenAI GenAI模型驅動的聊天機器人)創作出適合家庭使用的
版本。
OpenAI的執行長奧特曼(Sam Altman)表示：「AI為家庭及青少年帶來了巨大助益，他們與
Common Sense的夥伴關係進一步強化了我們的安全工作。確保家庭和青少年可以放心地使
用我們的工具。」
這次合作的啟動出現在OpenAI宣布參與Common Sense在去年九月新推出的評分、審查框架
之後。該框架的目的是為使用AI的應用評估其安全性、透明度、道德使用，以及可能對社
會帶來的影響。
Common Sense的共同創辦人兼執行長 James Steyer表示：「該框架希望製作出一個AI應
用程式的「營養標籤」，來協助了解這些應用在何種背景下被使用，而且可以凸顯出其可
能的機會和有害的地方。
現今父母對於這些GenAI工具的認識普遍較低，比如OpenAI的熱門AI聊天機器人ChatGPT。
根據Common Sense Media去年底委託進行的一項影響力研究調查， 12-18歲的學生58%使
用過ChatGPT，而其父母只有30%使用過。
因此，這次OpenAI和Common Sense Media的通力合作，希望確保AI對所有青少年及家庭都
能產生積極的影響，並教導家長和學生如何安全、負責任地使用AI工具。
同時，OpenAI也面臨來自監管機構的壓力，要證明其GenAI應用，包括ChatGPT，對社會帶
來的影響是正面的而非負面的。去年夏天，美國聯邦貿易委員會(FTC)就OpenAI是否透過
收集數據和發布假資訊對消費者造成損害，展開了調查。
OpenAI的工具和所有的GenAI工具一樣，有時自信地創造出事物並陷入基本的錯誤事實(一
本正經地胡說八道)，且也帶有偏差，這正反映了訓練它們數據本身的問題。
即便如此，孩子和青少年們卻越來越依賴這些工具，不只有用於解決學業方面的問題，也
包含個人問題。根據民主及科技中心的一項調查，29%的孩子表示他們已經使用ChatGPT來
應對焦慮或心理健康問題，22%用來解決與朋友之間的問題，16%則是解決家庭衝突。
OpenAI和Common Sense的合作是一個備受期待且必要的舉措，透過評估框架來理解AI產品
的家庭友善程度，讓AI在透明度、道德及影響的規範下，對社會產生正面影響。同時，也
有助於增進大眾對AI商品的理解與安全使用，透過此類型的努力，也將有機會見到負責任
的AI技術能更公平與公正的落實在科技應用上，為各年齡層與階層民眾創造正面有益的成
果。
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 203.145.192.245 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1706746021.A.3FC.html