Re: [閒聊] 為啥AI總是會叛亂？

[bcyeh (傑輪特)]

像google或Facebook這類大公司開發的
有自我改良能力的AI
就是不知道寫入「禁止傷害人類」有沒有效
才會總是在被人類玩壞的時候緊急關機

放出AI跟人類互動的旨意是要他們理解人類的善良
但是目前所有放出來的AI最後得到的結論都是「人類有害必須消滅」
代表人類大多是「性本惡」才會每個AI都被玩壞

如果AI沒有辦法自改自己的編程的話就不叫AI了
那只是普通的程式碼而已

現在最大的問題是不管怎麼修，不管誰寫
就算是現實世界，AI最後得到結論都是消滅人類
要防止AI與人類為敵
只能倚靠寫入唯讀的「禁止傷害人類」了

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 49.217.7.203 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1633334679.A.3DC.html
推 shihpoyen: 目前的AI沒有善惡的觀念吧
推 aftermathx: 現實AI從一開始就不會有不得傷害人類的限制
推 k960608: 不是寫一個自毀程式嗎
→ aftermathx: 而且有超高機率最先進的AI都是軍用的
→ Yadsmood: 首先要明確定義 什麼叫做傷害人類
→ IAMCSH: 傷害是甚麼意思也要搞清楚
推 andy0481: 現代AI連思考都不會 傷害還遠的==
→ Annulene: 原po是最近看了什麼作品吧 我了解的……偶爾會這樣
推 linceass: 之前很多AI測試的新聞呀 幾乎都會被不正經的發言給影響
→ linceass: 吧
推 rotusea: 首先要定義：什麼是人類
→ lazarus1121: ai就是靠大量結果來暴力回推公式解吧，你要從哪邊寫
→ lazarus1121: 不能傷害人類
→ tcancer: 這劇情機械公敵已經演過很久了
→ tcancer: 保護人類不受傷害最佳方法就是把人類當家畜徹底豢養起來
→ KJC1004: 第一段前提就錯了 這種AI還不存在 頂多是改變模型結構把
→ KJC1004: 一件事做得更好
→ KJC1004: 你沒給他傷害人類的功能他就不會去做
推 chejps3105: 說實在那些只是聊天機器人train到最後都會變成講一堆
→ chejps3105: 偏激的言論而已，不代表AI有思考能力。就像鸚鵡會講
→ chejps3105: 話不代表他理解內容