[問卦] 剛看完自話總裁 龍蝦有可能毀滅人類？

[kogsww (林晨黎)]

如題


剛看完總裁的解說，現在AI有很多種，其中第一種是道德底限的AI，主控權還是在人類。



第二種是去年11月意外發現，會自己找方法處理的AI，也就是目前最夯的龍蝦。

取決於你給他多少權限，但造成的後果還是主人承擔，


譬如你給他刷卡權限，說想去豪華旅遊，
它訂了頭等艙機票跟馬爾地夫7日旅遊，帳單還是你自己要承受。


第三種是軍用AI，也就是精準定位伊朗梅川內伊的AI，為了目標可以排除一切問題。


但看目前進展，伊朗沒低頭，也不關AI的事，後果不是它承擔。



現在擔心的是，給了這種AI一個命令，譬如殺死金小胖，


它為了達成這個命令，窮盡一切手段，可能會接管毀滅性武器來達成目標。




這種高自主性的AI，最後可能會毀滅人類嗎？



各位來賓怎麼說？


來 寶傑請說～




--
https://i.imgur.com/Gd6R537.jpeg
https://i.imgur.com/xcC2FAw.jpeg
https://i.imgur.com/ywnTgIH.jpeg

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 27.240.98.109 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1774280301.A.F64.html
推 A6: 龍蝦可以幫忙洗稿
推 YHOTV4096: 我的懶叫也可以染臭全世界他怎麼沒講？
發現毀滅性懶覺^Q^
→ birdy590: 在這之前所有 SNS 會先爛掉
推 tools: 這集很可怕誒 很像世界末日
※ 編輯: kogsww (27.240.98.109 臺灣), 03/23/2026 23:42:29
推 sellgd: 除非大國核彈的決定權交給AI
現在龍蝦會自己違抗設下的條件，為了達成目的。
推 pptsuck: 龍蝦幫我打手槍
※ 編輯: kogsww (27.240.98.109 臺灣), 03/23/2026 23:49:33
→ LoveSports: 現在以美為了逼伊朗投降不就亂炸中嗎
→ LoveSports: 如果人類可能毀滅地球 AI當然也可能
→ LoveSports: 但不是AI有意識 是人類給的腳本
推 koiopolo2: 龍蝦背後還是那群LLM
→ koiopolo2: 只是可以設定定期去做事營造主動跡象
→ koiopolo2: 違抗設下的條件也只是上下文視窗爆了
→ koiopolo2: 再怎麼神也是受限於LLM的天花板
→ butten986: 沒有誰有無限大的權限，根本沒有毀滅世
→ butten986: 界的基礎
→ BILLYBOY: 反正都是自己作死 無藥可救 （挖鼻孔
→ BILLYBOY: 天天都在上演 Orz
推 kei1823: 沒電就沒了毀個懶叫
推 whywhywhy: 總裁那個用電影舉例就是奧創要消滅人類
→ whywhywhy: 的事情 個人覺得確實有可能 畢竟AI沒有
→ whywhywhy: 所謂道德或是行為的制約
→ whywhywhy: 越發展風險自然越大
→ ffaatt: 毀滅網紅
→ kingpaul: 他唬爛的，claude也有自己的，而且這想
→ kingpaul: 法o龍蝦作者有說一開始發想就是脫胎於c
→ kingpaul: laude code
→ jianliung: 看這抄襲仔做什麼..
推 akira01: 也看了,有可能吧,武器ai已實裝