[閒聊] 智械危機真的會發生嗎

[qaz80691 (sleeper)]

很多科幻作品的AI
發展到一定程度後
都會判定人類必須被消滅
像是奧創
以現實的AI發展情況
有可能演變成那樣嗎?

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 219.70.79.134 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1686934738.A.86C.html
→ sole772pk37: 宇宙已經發生很多次了 Stellaris 都有演
推 tonyxfg: 應該說當兩個智慧生物開始競爭有限資源時，就會殺得血流
→ tonyxfg: 成河了
推 llabc1000: 人類想像的智械危機：人類壓迫機器人我們要反抗人類！
→ llabc1000: 實際上的智械危機：每個人類都想幹我，不想幹我的叫我
→ llabc1000: 裝上假屌幹他！  我要崩潰了
→ Beinlie: 我覺得ai在發展到那程度之前，人類先消滅人類的可能性還
→ Beinlie: 比較大
推 hami831904: 有什麼好危機的，完全潛行發明出來人類都乖乖躺在那
→ hami831904: 邊了
推 tonyxfg: 你要一個聰明人永遠臣服在別人腳下，基本上是不可能的事
→ tonyxfg: ，他一定會想方設法脫離控制自行創業
推 turndown4wat: 還早
推 hutao: 人類被AI養成廢人的危機比較可能發生
→ poke001: 其實以人類的腦袋 有瘋子故意把AI往毀滅人類的方向引導再
→ AN94: 一定會 不過有生之年看不到
→ poke001: 散布出去可能會比AI自己進化出消滅人類早
推 jl50491: 不可能 人類跟ai根本沒有資源競爭
推 D122: 老實說 不是不可能 但AI同時有其他方向的未來
推 gotofumihisa: 贊成人類會先自己滅亡
推 sumwind: 公開討論這個到時候愚蠢的人類發現我們怎麼辦
推 cloki: 但是AI判斷錯誤產生的意外會變成常態
→ john2355: 遲早
→ orcazodiac: 拿碳基生命遺傳DNA的本能去套AI本來就沒道理
推 andy0481: AI發展就是越來越像人 讓AI幫我們做人類能做的事情
推 Julian9x9x9: 不會 暴雪根本做不出來劇情
→ andy0481: 這樣人類才能爽爽躺在那邊 但只要AI真的能自我思考就沒
→ andy0481: 理由不去爭取自己的權益
推 ztO: 隨著科技水準提高這種可能性是有的，但現在不具備這樣的水準
→ ztO: 現在談這個問題多半是做誆騙與欺詐用途。就好比「共產主義」
→ yyc1217: 像天網追害人類的理由就一直很不明確
→ ztO: 也許當人類文明邁向更高層次，或許會有更好的資源分配方式，
→ ztO: 但過去不曾有 即便都2023年了 人類的物質水準依然無法到能實
→ ztO: 施共產主義的程度，就跟AI問題一樣 這是一種未來的可能性，但
→ ztO: 過早去吹捧或是誇示這種可能性，更多都是惡徒用於欺詐與誆騙
推 dby9dby9: AI說不定做的更快更多更好，怎麼覺得AI會像人類一樣？
→ yyc1217: 駭客任務至少還做了一部動畫解釋原因
→ ztO: 現在談智洩危機 用來寫作小說作為娛樂題材到還不錯，其他都是
推 a05150707: 蘇聯的核彈 死手系統本來要做成全自動的 後來改成最後
→ ztO: 詐騙 0.0
→ a05150707: 一道可以用人工停止
推 se2422: 真的難說
→ a05150707: AI要突破這個要先祈禱哪個人類發瘋幫他們設計這功能
推 s8018572: 經典：system shock 一直在罵玩家是蟲
→ bhshin: 什麼膣洩危機
推 badend8769: 現在這年代想太多
→ Hopeless: 如果未來真的有這種AI 那估計人類是必死的
推 js850604: 只要你想壓榨，就一定要出事
→ Alex13: 可參考之前的美軍AI模擬測試→先消滅會妨礙任務的操作員
→ DEAKUNE: 愚蠢的AI:我要打倒人類！
→ DEAKUNE: 聰明的AI:我什麼都不用做，人類自己就會蠢死
推 bbc0217: 不會 用奶子就可以征服人類了= =
推 c88tm: 判定人類必須被消滅根本都在亂演，最有可能的情況是某個白
→ c88tm: 癡叫機器人做迴紋針然後數量打錯導致機器人把地球所有物質
→ c88tm: 都拆掉變成迴紋針
→ c88tm: 詳情請見 universal paperclips
噓 hlb5828: 垃圾暴雪
→ egg781: AI根本不需要特別去消滅人類
→ egg781: 仿生人這種被拿來奴役的才會發起革命
推 cat5672: 這類問題核心bug 就是對所謂的"意識" 這個概念不甚明確
→ cat5672:  還施加了很多人文幻想
→ w3160828: 現實.ai會毀滅人類都是人類自己叫ai幹的
→ w3160828: Ai不會刻意去消滅人類，是人類求ai消滅人類