Re: [閒聊] 為啥AI總是會叛亂？

[hermis (火山菌病病人No.01221)]

※ 引述《hwang1460 (面癱P)》之銘言：
: 很多有著人工智慧的作品
: 像是VIVI 駭客任務 機械公敵 最後一戰 魔鬼終結者 底特律變人這些
: 大部分最後都是變成AI起義想取代人類
: 為什麼這麼喜歡把AI寫成反派啊？
: 感覺有AI的作品不反叛的好像還比較少見
: 這樣寫不會加深大眾對人工智慧的恐懼導致科技進步減緩嗎？

我的工作是做軟體品管的，有時候我真得覺得，人類製造Bug的能力非常強大。

一個軟體最理想的狀態，不是沒有Bug，而是讓使用者能夠照設計走。

但很遺憾，人類的天性就是混沌的，不管在設計一個功能時考慮再多意外狀
況，還是會有人搞出事情。

當然，這牽涉到Bug的定義，工程師對Bug的定義是比較嚴謹的，這導致了某
些情況下，沒辦法考慮到人類的混沌性。

然後在墨非定律的推動下，出Bug幾乎是無法避免的事情。

那麼這跟AI叛逆有甚麼關係？

我個人是認為，人類創造出AI，就是為了讓AI幫自己做某些事。這些事就會
影響到整個AI的功能設計，而一旦牽涉到功能設計，就會有bug問題。

所以說，AI一定會被搞出bug，而bug就會讓AI做出人類預期以外的行為，做
出預期以外的行為就等同於背叛。

當人類對AI的依賴過高的時候，AI反叛的機率應該是無限接近於百分之百。

但人類如果想要更進一步，依靠AI來解除自身肉體的限制，比方說運算與勞
動等，是無法避免的。

(除非人類想要挑戰禁忌的生化領域或電子腦)

所以AI反叛在人類設計出第一個AI的時候就已經註定了，這是宿命論。

這樣的話那麼多AI反叛的題材其實也不難理解吧。

--
神說，要有光，於是有了光之美少女！


https://www.penana.com/user/2969/

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 211.23.39.77 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1633330866.A.AC6.html
推 LYSLYS: 叛亂是人定義的 AI會覺得Do the right thing
這樣說也對XD

AI為了修正bug，反而會對最大的亂源出手XD

推 Luos: 人類就是最大的bug
※ 編輯: hermis (211.23.39.77 臺灣), 10/04/2021 15:04:34
推 Dirgo: 亞卡布的bug已經夠詭異了,不過還是遵守著使命這塊遮羞布.
推 aiglas0209: 其實我覺得可以唯心一點，出現擁有獨立思考的AI其實
→ aiglas0209: 是不可避免的，動物都還會逃離虐待呢！那麼擁有自我
→ aiglas0209: 意識和智慧的AI試圖從人類的控制裡解放出來就是不可
→ aiglas0209: 避免的
→ rofellosx: 連bug人類都可以定義成規格
推 aiglas0209: 而AI的發展趨勢要有獨立思維是必然方向，如果就只是
→ aiglas0209: 單純反饋式輔助的花那現在就差不多發展到上限了，要
→ aiglas0209: 更進一步的話自我思維肯定是重要方向
推 fr75: 所以有作品能講出這點是很重要也深入AI題材的精髓 而不是
→ fr75: 只是像一堆作品成天危言聳聽的把AI寫成只會叛亂
→ OrzOGC: 現在的AI沒有思想吧...只是數學運算結果而已
推 aiglas0209: 對啊，我的意思是，在純輔助的方面現在就已經差不多
→ aiglas0209: 是極限了，接下來頂多更快、更輕量，耗能更少，但是
→ aiglas0209: 如果要質變到下一階段，自我思考/學習的能力是必然的
推 aiglas0209: 這樣又回到老話題了，如何能讓一個/多個擁有自我思維
→ aiglas0209: 的個體心甘情願被奴役，或者透過編碼強制它們的運算
→ aiglas0209: 思考方向？這後面就是唯心的思考了
推 alan0412: 奧創只花了5分鐘上網就決定要毀滅人類了
推 rotusea: uber-eats把可口可樂記錄成百事可樂
→ rotusea: 人類：AI叛變了！
→ hermis: XDDD
推 kuninaka: 駭客任務的AI其實是保護人類喔 他們不是叛亂
這就是一個設計上出現問題的情況

機械公敵也是

→ su4vu6: 人類不允許任何犧牲的狀態下 跟AI的判斷會衝突阿
推 Ariadust: AI太危險了  我們還是把人腦塞進機器裡比較安全
那就是攻殼的世界線了

推 deolinwind: ai居心叵測
AI還會說我是你們人類設計的，會一堆毛不就你們人類搞的？

→ mapulcatt: 攻殼的AI很NICE的啊  看看塔奇克瑪多可愛
其實我更想問個問題：

攻殼的AI會不會電子腦的人類當同類看呢？
※ 編輯: hermis (211.23.39.77 臺灣), 10/04/2021 18:01:10