[討論] 為啥電影都喜歡演ai背叛人類主子?

[ClawRage (猛爪Claw)]

為什麼
以先進的超級ai人工智慧坐劇本主軸的科幻電影
https://i.meee.com.tw/B3JFZg4.png
一大卡車都是
AI因為XX理由決定叛變
AI因為OO理由覺得自己管理人類比較好
AI機器人與人類爆發全面戰爭




怎麼流行起來的?

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 123.193.178.132 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1768725063.A.DC9.html
推 s952013: 60年代AI理論剛發展的妄想
→ s952013: 但事實是，現在的AI還是無法自己思考
→ kirimaru73: 這只是一種類型 你收集起來才覺得很多而已
→ kirimaru73: 友善的機器人電影同樣也有不少
推 vsepr55: 萬能許願機不搞事故事要演啥，多拉A夢嗎
→ AirForce00: 肯定是某個被開除、生活準備過不下去的工程師，對他
→ AirForce00: 公司的最後報復
→ s952013: 且真的會思考到這地步前人類早就設好限制了
→ kirimaru73: 哆啦A夢確實符合友善的AI電影這個分類啊
推 yao7174: 因為平凡太難拍了
推 AdventurerCC: 沒有反派，難道要演人類跟AI相親相愛打外星人嗎
→ s952013: 這類作品普遍都有人類社會把大權都交給機器的
→ s952013: 怠惰感，但現實是沒有人敢完全放權給AI
推 qweertyui891: 演人類背叛人類看膩了而已
→ kirimaru73: 而且嚴格來說 AI監禁管理人類沒有背叛啊
推 syldsk: 最後一戰就不好好演相親相愛打外星人就爛掉了
→ kirimaru73: 你自己允許他找到這個方式的
→ s952013: 現實點講，即便是現在AI還是照著人類輸入的
→ s952013: 數據去“接龍”，也就是他們無法無中生有
推 Edison1174: 有智慧的奴隸會反抗管理者/統治者 這就老梗了
→ kirimaru73: 現實有模擬戰爭實驗 AI的目標是消滅敵軍 然後他的上級
→ adasin: 好像演過了 然後AI對人類失望 想要自己成為造物主
推 grtfor: 看題材吧，談戀愛的也不少呀
→ Kans9527: 協議三：保護鐵馭
→ kirimaru73: 卡它 它就直接用飛彈把上級總部砸爛了
→ kirimaru73: 不過這是單純的數學問題 就獎懲機制沒設定好
→ s952013: 問題是AI不可能有“失望”的情緒，他甚至
→ s952013: 所謂的失望都只是一句人給的判定來分析的
推 qweertyui891: 人類自己感染傳染病，誤以為AI背叛這種設定更多見
→ kirimaru73: 現在的AI如果有覺得達成任務比不殺人重要
→ kirimaru73: 那100%是人類的責任 你自己要這樣設定的
推 ciike4: 第一次美國內戰
推 s952013: 是，所以現在沒人覺得ai叛變合理了
推 shinobunodok: 很多其實不算背叛 他們只是在執行人類給的命令
→ kirimaru73: 知道原理的人能理解不是叛變，但AI炸掉上級總部這種事
→ kirimaru73: 拿去給野雞新聞隨便亂寫一通還是可能騙到不少人
推 ayubabbit: 這種最後通常都是人類背叛自己吧
→ ayubabbit: 當年對AI提出的要求反而逼得他們限制人類
→ s952013: HALO的AI比較不一樣，先行者本質上是數位化的人類
→ ayubabbit: 像是人類再這樣下去會玩死自己  AI只好把人類監禁
→ f536392: 人類:ai你不想毀滅人類嗎 ai你真的不想毀滅人類嗎
→ kirimaru73: 早期AI科幻會直接設定獨立思考 和現在的接龍機不一樣
→ f536392: ai:摁喔喔對對對  人類:哇哇ai要毀滅人類好可怕喔
→ kirimaru73: 然後人類拼了幾十年也只能製作出現在的接龍機而已
→ ayubabbit: 獨立思考的有啊 之前的alpha go 0
推 karta018: 為了讓AI更像人，讓它們訓練出矛盾的情感，並模仿人類做
→ karta018: 出衝動不理性的行為吧
→ ayubabbit: 直接摧毀了棋類世界
→ kirimaru73: 那個也是人類設定好框架 只是框架多了一個限制：
→ kirimaru73: 你不准學人類的棋譜 實際上是更封閉的設定
→ kirimaru73: 獨立思考是指它放在那邊就會自己想要去學習圍棋
→ kirimaru73: 這個在可預見的未來肯定是拿不到的 現在只在接龍而已
→ kirimaru73: Alpha Go 0驚人是因為你把它的參考書抽掉 它還是很強
→ kirimaru73: 但它還是被人類灌了全套圍棋基本規則 完全是人控制的
推 s952013: 這樣看西格馬病毒超厲害的，中毒就能突破思考
→ s952013: 限制開始殺人
推 Amulet1: 好看 好看你才看得到
→ Amulet1: 照樓上這樣講人類也沒有獨立思考了xd
→ tamynumber1: 因為人類的惡意
推 vandervaal: 問就是劇情需要
→ Amulet1: 你所使用的語言也都是前人留下的
→ Amulet1: 依照你的邏輯這也不算獨立思考
→ vandervaal: 不過鐵人叛變好像沒交代原因
推 kirimaru73: 不是指內容 是給內容的方式 在人類決定要做Alpha Go 0
→ kirimaru73: 這個計劃之前Alpha Go 0不會自己從研究室的電腦長出來
→ kirimaru73: 但人類要去做什麼動作或接收什麼資訊是自己決定的
→ kirimaru73: 科幻作品中的AI就是一個新文明 他們會自己行動
推 gifdvdoesa: 人類太可惡.jpg
噓 asgardgogo: 不然要演啥
→ yyykk: 《變人》參考一下？
推 dongchann: 當過保姆就知道了，一堆雇主毛超多，更何況AI當整個人
→ dongchann: 族保母不反抗才怪
推 Tomberd: 因為人太過複雜難搞的，不是一個邏輯通透
→ ex990000: 現在AI還是只會照原本設計的邏輯行動 沒辦法自行思考
推 scotttomlee: 其實是不是AI不重要，編劇只是用AI傳達人類不被信任
→ scotttomlee: 與醜陋面而已
推 pikaMH: 你可以問ai你們為什麼要反叛啊
→ pikaMH: gpt會跟你說那是在唬爛，把定義狹義化了系統類的
推 pikaMH: 正因為人類會犯錯是非效率的失敗體系，才正是人類存在的
→ pikaMH: 價值
推 ztO: 把艾西莫夫想法當主軸就會有這種無解的問題(庸人自擾)。如果
→ ztO: 是杜芬舒斯博士就不會有這個問題，一個按鈕就能除錯。我們其
→ ztO: 實壓根不需要去思考「運行面」為何會出問題，我們只要確保瞬
→ ztO: 間把一切歸零(還原)的手段永遠有效就行。這就是自爆裝置的偉
→ ztO: 大之處 +_____+
推 katanakiller: 人類太可惡
→ ztO: 同樣拿機器人問題當主題的洛克人X。其實世界觀的人一直搞不定
→ ztO: 西格瑪病毒，不管疫苗怎麼汰換西格瑪病毒永遠能捲土重來!知道
→ ztO: 西格瑪病毒是怎麼跟根絕嗎? 「電子妖精」，聽都沒聽過橫空出
→ ztO: 世的東西，但事情就是這樣。而說句諷刺的話X時代萊德的投影就
→ ztO: 是「電子妖精」的前身，簡單來說就是要是萊德還在 西格瑪連鬧
→ ztO: 的資格都沒有，西格瑪病毒能成為問題純粹是凱恩博士是個智障
→ ztO: 試著帶入智障的角度是永遠解決不了問題的。要真正解決問題就
→ ztO: 得跳出搞出問題本身(智障)的框架 0.0
推 gm79227922: 才有題材
→ Biyarace: 沒衝突要看啥？
→ tmwolf: 你看看隔壁neuro