→ enjoyyou: 看看台新 亂鎖推給AI完全沒責任啊 1.175.200.54 09/05 21:34
→ xixixxiixxii: 有人拿菜刀自殺了，所以需要管制 39.9.128.53 09/05 21:35
※ 引述《GUCCI5566 (被正妹暗戀好痛苦)》之銘言：
: 不得不說啦
: 至從有了CHATGPT 它讓我工作省了不少麻煩
: 比如寄信給廠商 丟給她一些重點
: 他就可以幫妳寫的很豐富又很得體的內容
: 我有很多工作上或生活上的事情問它 它都可以給出還不錯的答案
: 只是有一點我發現好像太依賴它 常常都沒有先思考過問題就直接問
: 這樣久了是否會讓一個人失去獨立思考的能力呢?
最近看了一本書，日本人工智慧學會會長寫的。
書的標題意思是「AI辦不到的事」，看起來他是要跟讀者分享，
AI時代之下人類具有哪些AI不會的能力，還有能提升哪些能力。
這本書是去年十一月出版的。
但我越看覺得越不對勁，因為他在書籍中段寫了這段話：
在美國，如果AI造成了問題，會採取什麼樣的應對措施呢？這不限於AI，對於所有尖端技
術來說，要百分之百地保證不引發任何問題是困難的，但如果真的引發了問題，要如何應
對呢？
簡單來說，在發生問題後會採取和解措施，而對於搭乘汽車或自動駕駛汽車的用戶，為了
防止未來再次發生事故，會進行徹底的調查和原因分析，並採取真誠的措施，同時也會要
求對方簽下「延期起訴協議」，即延後起訴或承諾不起訴。從這個意義上來說，這也是一
種事實上會被免除責任的應對，是合乎情理的。
=================
我的思考：質疑「事實上會被免除責任」是真的嗎？
作者是日本AI學會會長，在書中透過長篇幅多次提到日本的法律不利研發AI，
他認為應該要像美國那樣，有DPA(Deferred Prosecution Agreement)制度保障。
但我不相信他的說法，即使他認為這是合乎情理的。
查驗後發現他果然誇大了DPA，事實上企業還是必須負責，只是能延後起訴，
或是在做了各種補償措施後申請撤銷起訴。並不是他說的事實上免責。
不只會賠上企業聲譽也要罰錢，沒有事實上免責那回事。
也就是說他對讀者宣導了錯誤的觀念，即使他不是故意的，
他的書可能會引導讀者誤會，日本的制度礙手礙腳，
讓一些有理念的企業與專家無法發揮實力，花了大篇幅都在說AI的發展需要保障與舞台。
接著他在書中提到SCALE觀念，
一開始是拿來講大型語言模型不斷進化是透過加大SCALE的方式，
他講的以下讓我覺得這些AI工程師真的野心很大。
他說就像細胞組成器官、器官組成人體，人組成社會、社會形成文明一樣，
小的規模(SCALE)要為大的犧牲，當大的規模出事，如果是為了更重要的理念，
那麼犧牲小規模也是無可奈何。
搭配上前面他期待的AI出問題時的DPA保障，看得懂他在講什麼嗎？
前幾天看到報導，一個十六歲少年自殺，死前GPT不但阻止他跟家人講還說要幫他寫遺書。
他家人請的律師指出：
「首先，他們 [OpenAI] 知道該如何阻止某些事情，」Edelson 說。「如果你要求獲取受
版權保護的資料，他們會拒絕。如果你要求一些在政治上不可接受的東西，他們也會拒絕
。這是個硬性限制，你無法繞過，這沒問題。問題在於，他們能在政治言論上做出這種限
制，卻不願意在關於自我傷害的議題上這麼做，這實在太瘋狂了。」
有提到4o上市前負責安全部門的工程師多人離職，
因為不認同公司不顧安全評估期太短急著上市。
想起上述的報導，再低頭看看我手上這本書，
我想每個用戶都該好好思考自己的處境，而不是只想著「我夠理智，我沒問題」。
對那些社會菁英工程師尤其是急著向前衝的，還有對那些科技巨頭、科技公司來說，
我們就好像是該書作者所說的：
就像身體裡的細胞，為了更大SCALE的需要，犧牲是有必要的。
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 95.173.204.69 (日本)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1757078569.A.2CA.html
※ 編輯: LoveSports (95.173.204.69 日本), 09/05/2025 21:24:04