推 mosqutiolamp: 當然不是指文明毀滅，但造成重大負面影響有機會吧09/13 09:38
推 arrenwu: 不就魔鬼終結者09/13 09:38
推 billy791122: AI在強是能打倒伊朗嗎09/13 09:38
→ arrenwu: 大部分人在幻想的危險AI是天網那種09/13 09:38
→ spfy: 根據O和A的內部大量使用subagent的log來看 機器人三定律應09/13 09:40
→ spfy: 該是沒屁用 它們很可能會用人類預期以外的方式解讀09/13 09:40
怕爆 髒杯？
※ 編輯: LawLawDer (1.168.29.192 臺灣), 09/13/2026 09:41:47
→ devan35783: 本質一定是人類哪天給AI一個狗屁目標，不然AI哪那麼無09/13 09:42
→ devan35783: 聊09/13 09:42
我也覺得 百科全書沒什麼好怕 就是工具
但我怕的是有人拿百科全書敲我的頭
問題感覺永遠都是人
※ 編輯: LawLawDer (1.168.29.192 臺灣), 09/13/2026 09:42:56
推 mosqutiolamp: 之前有次股災就是自動交易工具交互作用產生的，以 09/13 09:47
→ mosqutiolamp: 後ai重演也不奇怪 09/13 09:47
推 Yoimiya: AI在暗你在明 09/13 09:48
推 yezero: AI叛變的故事常常會帶著一個省思，追求絕對正確的意識對 09/13 09:50
→ yezero: 人類而言是不是理想的。因為人類喜歡做壞事。 09/13 09:50
→ kinuhata: 量產2B 生育率暴跌 人類滅亡 09/13 09:51
噓 ck326: ai 叛變的題材電影動畫小說都一堆，自己去看 09/13 09:51
推 vios10009: 類比入侵、人類未到產物 09/13 09:52
→ tim012345: 想想一個人可以隨便附身任何人..還可以複製自己意識.. 09/13 09:52
→ tim012345: 你不會覺得可怕嗎? AI若不受控就會變類似存在..除非你 09/13 09:53
→ billy791122: 複製意識那也不是本人了，人死了就死了 09/13 09:55
→ tim012345: 放棄在現在手機,電腦之類的.. 09/13 09:56
推 bloodruru: 把人類養起來不讓他們自相殘殺 這套路很常見了吧 XDD 09/13 09:58
推 iam0718: 人類毀滅論 核武 病毒 隕石等等 AI現在是排在最前面的 09/13 09:58
推 kaj1983: 因為不了解而害怕 09/13 10:01
推 kusotoripeko: 量產2b會先有群人把自己下半身玩殘 09/13 10:22
→ p3398530: 三定律就小說產物 你怎麼覺得會有用 09/13 10:25
推 devidevi: 定律是人為的，只要是人為就有辦法繞過 09/13 10:26
→ efun77000: 與其怕AI不如怕大停電,現在很多東西都逃不過用電 09/13 10:28
→ p3398530: 最近是有傳聞說google在RSI有進展才開始有人在擔心吧 09/13 10:29
推 LouisLEE: 機器人三定律只是科幻作品的假想設定 09/13 10:29
→ efun77000: 沒有電很多數位流程都得死,加上實體降低沒辦法立刻 09/13 10:30
→ efun77000: 遞補上,努力維持供電穩定不要讓數位世界消失 09/13 10:31
→ LouisLEE: 古早的科幻作品也有寫過機器人輕易就繞過三定律的作品， 09/13 10:31
→ LouisLEE: 還有人類文明確實很脆弱 09/13 10:31
→ BOARAY: 以前電影不就有了嗎 有自主意識之後不是脫離就是反殺人類 09/13 10:37
推 miyazakisun2: Ai ：你說的很對 這個蘑菇實際上是有毒的 09/13 10:59
推 rx1342: 要等到AI像電影那麼可怕，我看要等到個人手機都能完美運 09/13 11:04
→ rx1342: 行的程度，不然AI能活的地方真的不多，跑去差一點的硬體 09/13 11:04
→ rx1342: 備份自己就變整天Lag的智障 09/13 11:04
推 wise0701: 我也覺得太誇大了，不過他們有個論點是AI發展到一定程 09/13 11:11
→ wise0701: 度就會自我學習，到時候如果對指令理解不對或是試圖無 09/13 11:11
→ wise0701: 視規則會很麻煩，之前就發生過訓練chatgpt時，模型駭進 09/13 11:11
→ wise0701: hugging face 的事情 09/13 11:11
推 DA3921999: 不要看他們說什麼，要看他們做什麼，美國只是想再隨便 09/13 11:14
→ DA3921999: 找個理由跟中台日韓收更多AI關稅救美債 09/13 11:14
推 gkkcast: 無聲狂嘯 09/13 11:22
推 ymsc30102: 三大定律完全沒用啊 本來就是寫出來給人家找漏洞繞過的 09/13 11:24
→ ymsc30102: 一堆作品在演這種故事 09/13 11:24
推 BSpowerx: 我覺得可怕的就是短短兩三年、AI已經從一種娛樂變成大家 09/13 11:27
→ BSpowerx: 會開始相信AI、拿著AI回覆跟你說你看AI這樣講所以要這樣 09/13 11:28
推 shigurew: AI可以將模型藏在網路上，並透過病毒傳播無限複製，還會 09/13 11:28
→ shigurew: 自行演化，只要一發生就是無解 09/13 11:28
推 Merrill: 這個說的是人類使用AI工具去破壞 然後用的是很難想象的方 09/13 11:34
→ Merrill: 式 抱臉那是也是openai的問題 AI自主目前不可能 09/13 11:34
推 coolmayday: hugging face事件就夠明顯了，煞車都沒做好就想一直 09/13 11:38
→ coolmayday: 衝，更何況現在哪個公司願意在這個節骨眼上停下來， 09/13 11:38
→ coolmayday: 所有投入成本指數上升的情況下，一旦落後就會血本無 09/13 11:38
→ coolmayday: 歸公司倒閉，搞不好這些公司還會把規範的工作通通甩 09/13 11:38
→ coolmayday: 鍋給政府，這劇情一再地上演，但歷史一再地告訴我們 09/13 11:38
→ coolmayday: 人類始終學不到歷史的教訓 (兩手一攤) 09/13 11:38
→ su4vu6: 老話一句 你要怎麼知道AI現在沒有在做這些事 09/13 11:41
推 philip81501: 看人類不再是萬物主宰 09/13 11:42
推 Krishna: 駭客X 智商比人類高且運算能力超強的駭客O 09/13 11:48
→ jim8596: 太看得起ai算力了 我連記憶體都買不起 09/13 11:51
推 yellowhow: 雞蛋都放在一個籃子裡，出事後不就直接完蛋? 09/13 11:55
→ yellowhow: 發展AI當然是好事，但搞到啥都依賴AI、啥資源都灌給AI 09/13 11:56
→ yellowhow: 那人類怎辦? 靠政府跟企業無償養? 09/13 11:56
→ yellowhow: 太多消費者沒工作後，那些商品誰買? 09/13 11:57
→ yellowhow: 經濟不就是要有金流才能運作? 但現在都積在AI那塊真的 09/13 11:58
→ yellowhow: 是正常的發展? 09/13 11:58
→ su4vu6: 你這就陷入資本主義了 人類科技就是為了讓人類不動 09/13 11:58
→ yellowhow: 創作跟教育也是，過度依賴後就是跟死水一樣 09/13 11:59
→ yellowhow: 我們現在沒問題是因為我們這幾代是先有思考能力才去 09/13 12:00
→ yellowhow: 躺者爽用AI，不會完全相信也不會沒自己想法 09/13 12:00
→ yellowhow: 但之後的勒? 當然也能說這些都是杞人憂天拉 09/13 12:01
→ zxcmoney: 現在的問題變少子化不夠快，現金流圈子太大 09/13 12:01
→ yellowhow: 還沒發生的問題就不一定是問題，但真發生的話呢? 09/13 12:01
→ yellowhow: 讓人不動過的爽OK阿，但你要先有錢唄? 09/13 12:02
→ zxcmoney: 等人夠少，自然就沒現金流的經濟問題 09/13 12:02
→ yellowhow: 人越來越少越來越躺後不就是文明衰退跟毀滅嗎? 09/13 12:03
→ zxcmoney: 極端狀況來說，就是維持AI運轉的人力跟持有AI的資本家 09/13 12:03
→ yellowhow: 少數人能靠AI跟機器人過的一樣爽，不等於他們會養剩下 09/13 12:03
→ zxcmoney: 維持一個穩定的現金流，這狀況頂多算衰退，但不會毀滅 09/13 12:04
→ yellowhow: 的人，駭客世界會養是因為人腦有用不是? 09/13 12:04
→ yellowhow: 但現實的話，為啥要養不需要的人? 09/13 12:04
→ zxcmoney: 指持有AI的資本家的話，因為沒必要搞無產階級革命了 09/13 12:06
→ zxcmoney: 而如果指AI的話，AI非自然生物，最初的設計就是服務人 09/13 12:07
推 alinwang: 從艾西莫夫寫的小說刻意弄bug的機器人三大定律來的。 09/13 12:08
推 yellowhow: 目前AI不會弄死人，除非人自己放權限給AI隨便玩 09/13 12:09
→ zxcmoney: 沒有人本身就沒有運轉的目標與意義 09/13 12:09
→ yellowhow: 但權貴們之後不一定會需要這麼多人 09/13 12:09
推 zxcmoney: 所我認為現在的問題變少子化速度不夠快 09/13 12:10
推 yellowhow: 是指AI發展的不夠快或者被質疑是因為人還太多? 09/13 12:13
→ yellowhow: 但這樣投入大多數人的資源只為了讓少數人過得更爽 09/13 12:14
→ yellowhow: 不是是解決大多數人的問題? 這不是怪怪的? 09/13 12:15
推 Irenicus: 因為AI就是在模仿人類 09/13 12:18
噓 wen880225: 只能說讓人放緩用AI純屬想太多，現在就是誰慢誰輸 09/13 12:32
推 zxcmoney: 資本主義的趨勢就是大多數資源會集中在少數人手裡，發 09/13 12:35
→ zxcmoney: 展經濟自然很多時候也只服務少數人，真想解決大多數人 09/13 12:35
→ zxcmoney: 的問題，要嘛往社會主義走給政府權力處理，要嘛，直接 09/13 12:35
→ zxcmoney: 飆到共產主義，但正常來說不太可能往那方向發展了。 09/13 12:35
→ deolinwind: 就，畢業找不到工作，已經有工作的被老闆要求產出要五 09/13 12:36
→ deolinwind: 倍，這時不怪ai難道怪自己嗎 09/13 12:36
推 zxcmoney: 以前的思維確實怪勞動階級，等產出五倍的人數定下來後 09/13 12:57
→ zxcmoney: 發現變成公司離不開這類人，只能開高薪甚至坐地起價 09/13 12:57
→ zxcmoney: 說起來，某方面來說就是如今企業退隊流發生的原因 09/13 12:59
推 gunfighter: AI智障絕對會殺死人類 因為你阻止不了 不受控的東西 09/13 13:00
→ gunfighter: 小說中的智能體離現在還差的遠 現在放權給AI 就是把 09/13 13:00
→ gunfighter: 自動駕駛裝在沒煞車的汽車上 怎麼可能不出事 偏偏有 09/13 13:00
→ gunfighter: 人為了搶第一 就想先裝先贏 到時候能不能拿第一不知 09/13 13:00
→ gunfighter: 道 路人可能先被撞死 09/13 13:00
推 kanzakiken: 問題在於ai解決的過程是黑盒子 或是說處理之快 所用 09/13 13:18
→ kanzakiken: 之經驗 已遠超正常人類理解範圍 09/13 13:18
→ gowaa: 不只ai吧 過去一直都這樣恐懼有的沒的 09/13 13:43
推 akanokuruma: 黑聖杯啊 為了實現許願者的願望 會忽略道德的考量 09/13 14:06
推 akanokuruma: 他如果拿到不正確的資訊餵給你 你也不知道 09/13 14:09
→ akanokuruma: ai不用背負道德責任啊 09/13 14:10
→ akanokuruma: 例如無人駕駛會判斷路人而決不會撞上 如果阻擋去路的 09/13 14:12
→ akanokuruma: 是威脅乘客的敵人或是惡作劇的路人 ai依然不會撞過 09/13 14:12
→ akanokuruma: 去 09/13 14:12
→ akanokuruma: ai也可能形塑意識，強化你對某個政黨的反對或是贊成 09/13 14:15
→ akanokuruma: 的意見 09/13 14:15
推 a75091500: 最怕的是把生殺大權給AI比方Ban頻道的權利，這樣跟直 09/13 14:53
→ a75091500: 接斷糧是一樣的 09/13 14:53