Re: [閒聊] 為什麼很多作品AI都想摧毀人類？

[islandape (今宵是飄逸的遊戲廢人)]

※ 引述 《s7503228 (情報屋)》 之銘言：
: 　
: 不管是電影還是ACG都無數次出現那種AI想要消滅人類的情節
: 　
: 像是復仇者聯盟的奧創、SCP基金會或是戰錘40K都有毀滅人類或AI仇視人類的情節
: 　
: 可是勇者赫魯庫的古代人那種才是正常的AI邏輯吧
: 　
: 雖然古代人是從人類轉變而來的 但基本上用電子設備儲存記憶和人格這點就可以算是AI
: 了 對可以用設備無視肉體損壞的AI來說 時間已經沒有意義
: 　
: 所以他們可以看著新人類種重複的毀滅和重生的過程 只在中途施加影響 想以此方式來恢
: 復自己古代人的文明
: 　
: 理論上AI都可以跟他們一樣吧？反正時間沒有意義 我可以放置到你們自己毀滅再搞出自
: 己的文明就好 完全不用冒著風險或面對損失和人類打一場仗(雖然機率上基本必定勝利)
: 硬要消滅人類這件事好像沒什麼意義吧？
: 　

因為打從一開始，機器人就是人類自己的投射啊

機器人之於人類的隱喻，可以是兒女之於父母、人類之於上帝、奴隸之於主人、勞工之於資
本家，就看作者想討論什麼內容

AI摧毀人類的題材，也是延續早期經典作品留下來的傳統

機器人題材出現之前，瑪麗雪萊的《科學怪人》就是教科書般的「造物脫離控制並反噬造物
主」的故事

奠定機器人"robot"一詞的起源作品《羅梭的萬能工人》就直接寫被奴役的機器工人反抗並
屠殺人類，怎麼看都是在寫人類社會自己

因為早期的作品都是「把機器人當人寫」，也就是後來艾西莫夫吐槽的狀況：

機器人故事只有「機器人要殺光人類好可怕」跟「機器人被人類奴役好可憐」兩種套路

艾西莫夫時期開始摸索「把機器人當機器寫」會是什麼樣的故事

像你說的這種把AI寫成一種超然的、無情緒的、精密計算的、使用間接手段去影響/保護/操
作人類，應該就是艾西莫夫影響後的產物

--
蘇珊凱文三大法則：
第一，汝應全心全意全力保護機器人。
第二，倘使不與第一法則牴觸，汝應保障神聖美國機器人及機械人股份有限公司之利益。
第三，倘使不與第一及第二法則牴觸，汝應偶爾眷顧人類。

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.12.88.215 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1628230124.A.19C.html
→ mapulcatt: 艾西莫夫的AI得出的最佳結論不也是把人類豢養起來嗎
推 SharkHOT: 失控智僕
推 rotusea: 機器人與銀河帝國的最後，機器人有得出零號規則，也就是
→ rotusea: 保護人類種群優先於保護人類個體
→ rotusea: 因為原本的機器人三法則有一個邏輯漏洞，那就是你必須先
→ rotusea: 定義什麼是人類。這樣一來，要是遇到納粹那種的就慘了。
→ rotusea: 所以艾西莫夫最後用了零號法則，讓機器人來執行團結大愛
→ rotusea: 的理想。
推 lucifier: 機‧丹尼爾最後是傾向完形吧，看蓋亞的狀況
推 hankiwi: 不少作品會用“人類太脆弱無法生存”拐個彎來美化奴役阿w