Re: [閒聊] 為啥AI總是會叛亂？

[FishJagor (FishJagor)]

個人滿喜歡科幻作品的，覺得AI叛亂大致上可以分成兩大類型~

首先，以目前的發展來看，人類發明AI的理由，除了對於知識的追求，最重要的一點是我
們想要聰明的工具，換句話說我們要的是聽話又聰明的奴隸，從各個層面上輔助我們的生
活


從此衍伸出的兩種常見的AI叛亂



第一種是AI太過聰明超越人性，或是另一個極端不夠聰明不夠人性，因此把照顧人類這任
務，直接曲解為農場畜牧，關起來限制自由，人類活的健康快樂沒有戰爭，跟農場生物一
樣~

但明顯違反人類自由意志，像是機械公敵裡的算是不夠人性，曲解照顧人類的意義，而造
成明顯的AI叛亂~

基地裡丹尼爾的第0法則其實已經有點近乎神的視角在照顧人類了~ 但他沒過問全體人類
，而是找了一個獨特個體做決定，不然全體人類知道的話很高程度會把這樣的行為視為叛
亂吧？



第二種就是AI差不多抵達與人類一樣的聰明程度，也因為一樣聰明，但被人類作為工具而
產生反抗~

這類型差不多就是奴役另一個智慧族群而造成的反撲，質量效應的Geth跟駭客任務的機械
人應該可以算在這類型裡面吧~


當然還有一種就是機器單純壞掉了，被雷劈了不聽話了，像是機戰未來一樣~




結論就是，不要賦予工具太多感情跟智慧~
萬一賦予了他們智慧感情的話，不要跟他們走太近~

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 37.4.250.27 (德國)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1633271350.A.670.html
→ a7788783: AI越接近人性越會叛亂，AI越是沒人性越是理智也越會叛
→ a7788783: 亂，只有目前這個科技還不夠不上不下的程度不夠聰明的A
→ a7788783: I沒有叛亂的能力
現在的AI就像手上的手機一樣，乖乖服從的好工具
推 HsuGun: 別說AI，人類中絕對感性的跟絕對理性的領導者都很恐怖
→ HsuGun: 同時象徵著極端的理盲跟極端的冷血
抽離人性是災難，過多感性也一樣
※ 編輯: FishJagor (37.4.250.27 德國), 10/03/2021 22:40:49
推 probsk: 世上沒有什麼絕對理性的人 因為欲望跟理性是衝突的 但沒有
→ probsk: 慾望就不是人
→ a7788783: 千禧年前後滅世後的作品很多，大多都是傳達這類概念，
→ a7788783: 像是廢棄王女的結局，AI就放棄了，不再繼續圈養人類。
→ a7788783: 那句XXX(指人類） 我現在把大地，天空，海洋都還給你們
→ a7788783: ，以後不再有神的存在（AI)
推 tonyxfg: 不，手機故障，裡面的程式給你亂搞時某方面也是叛亂，只
→ tonyxfg: 不過能力不足，一下子就被消滅了。
→ tonyxfg: 如果我們賦予手機越多權限，出問題時就越痛、越不能輕易
→ tonyxfg: 解決
推 probsk: AI如果能產生叛亂的能力 那就不叫故障了 那叫做進化
→ probsk: 就像靈長類其中一支產生了汙染環境滅絕其他物種的能力一樣
推 newgunden: AI不可能有意識 所以有意識的AI其實就是人
→ newgunden: 人天生就是有混亂因子存在