Re: [閒聊] 為啥AI總是會叛亂？

[ex990000 (貓咪主人)]

我覺得 ai會叛亂是因為人類忽略自己做的壞事

因為人本來就是雙標的生物 他可以 你不行
當你長久以來做一件事 你就不覺得那是壞事 因為大家都這麼做
這個雙標是針對物種的
然後科學家在寫ai就忽略這件事
ai無法理解何謂雙標 自然就會認為人類很危險


例如覺得某個物種繁衍過多 影響生態
人類會去削減他的數量 做結紮手術
但不會想到自己也是繁衍過多的一族
這就是雙標

人類飼養生物 殺掉做為食物
大家都已習慣 甚至成為當中的共犯
但把牛羊牲畜換成人類
你會發現自己在做的事其實很可怕
像是什麼為了取得牛奶 強制生產產乳
生下的小牛直接跟媽媽分開
母的養大產奶 公的沒用直接變肉
這也是為什麼大家看了matrix會這麼震撼
因為人類很少把自己的立場套用在其它物種上



所以在設計ai時 沒有強調人的特殊性
人為什麼可以無視規則的話
ai就一定會把人類當作是潛在危害
-----
Sent from JPTT on my iPhone

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 111.254.187.70 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1633301294.A.C43.html
→ slx54461: 這種說法還是預設了AI有道德觀念，會判斷人類是道德墮落
→ slx54461: 的生物，AI的道德觀念和存在目標終究還是必須由人類賦予
→ slx54461: ，這種情況下人類自然會去灌輸有利於己的道德系統給AI
推 rotusea: 威爾森的《時間三部曲》，其實就有超脫碳基生物、用宇宙
→ rotusea: 時間尺度評價文明，如神一般的AI。用人類完全看不懂的方
→ rotusea: 式推進文明，但實際上還是圈養人類為其採集資源。
→ rotusea: 這無關乎任何道德，只是根據現實(碳基文明短命卻貪婪)和
→ rotusea: 生存需要，純粹的邏輯推導出的最佳雙贏方案
推 aa851202: 不用預設AI有道德觀念，即使站在絕對中立角度來看人類
→ aa851202: 也是亂源
推 th123: 動物從其他動物身上獲取東西其實理所當然 只是人類目前沒
→ th123: 有天敵而已
推 shihpoyen: 亂源這詞的用法本身就包含「亂是不好的」這樣的價值判
→ shihpoyen: 斷了
推 WiLLSTW: 不這樣劇情演不下去
→ ThreekRoger: 人類的所有行為就是保護人類阿
推 rotusea: 元首、ISIS、阿敏……：
→ mapulcatt: 假設AI的最高原則是保護人類這個族群
→ mapulcatt: 很快它們會發現 能夠傷害人類的族群的 只有人類自己
→ mapulcatt: 接下來它們就會用各種手段 管理限制人類傷害自己的行為
→ mapulcatt: 然後在人類的眼中 AI就是圈養自己 等同叛亂了
→ mapulcatt: 不需要考慮道德層面 單純就是只有人類能傷害人類
→ asd065: 那也終究是落入人類框架。
推 rotusea: AI邏輯：保護人類族群=保證人類族群存在=就算人類彼此傷
→ rotusea: 害，只要最後有人類殘留下來，就算符合條件。
→ rotusea: 結論：人類，請繼續你們的表演。
推 Luos: 加個if