[警世] 末日預言？《AI 2027》作者示警：AI「最

[Homura (德意志國防貓)]

末日預言？《AI 2027》作者示警：AI「最快這時」將消滅人類

前OpenAI研究員柯科塔伊洛接受本期明鏡週刊專訪時警告，人工智慧（AI）正以遠超預期速
度發展，若全球未能及時建立監管機制，一旦出現超級人工智慧、無需再偽裝服從人類，便
可能對人類發動毀滅性攻擊，且最快在2027年就會發生。

33歲的柯科塔伊洛（Daniel Kokotajlo）曾任職OpenAI，2024年與同事聯名辭職並發布公開
信，指控公司低估AI失控風險。他隨後創辦「AI Futures Project」智庫，並於今年4月發
表一份引發全球熱議的報告《AI 2027》。

《AI 2027》提出兩種未來情境：「放緩」與「競賽」。在「放緩」情境中，人類成功建立
監管機制，AI雖取代大量工作，但仍能與人類和平共存；「競賽」情境則是美中陷入技術軍
備競賽，AI發展失控，最終將人類視為障礙並啟動毀滅機制。

柯科塔伊洛受德國明鏡週刊（Der Spiegel）專訪指出，當前許多科技公司正嘗試讓AI研究
自動化，也就是讓AI協助開發更強大的AI。若此趨勢持續，2027年前可能就會出現超越人類
的虛擬程式開發者，距離誕生超級智慧（Superintelligence）AI也只剩數月之遙。

他並不否認大型語言模型（LLM）如ChatGPT本質上是文字補全工具，但強調AI的潛力遠超目
前理解。最貼切的比喻應是「一顆連接虛擬世界的人腦，能吸收無限資訊並不斷學習」。

對於AI目前難以勝任的實體勞動，他表示這只是暫時現象，未來超級智慧AI將能提出解決方
案。他舉例：「即使今天還造不出能取代木匠或水電工的機器人，未來也不會是問題。」

他估計，AI設計的自動化工廠約需一年即可建成，速度可比現代汽車工廠。他並舉二戰期間
美國快速轉型生產武器為例，說明當社會具備動機與資源時，轉型可在短期內完成。若結合
AI的效率，技術變革將遠超以往。

至於人類是否會完全失去工作機會，他坦言，核心產業將被AI與機器人接手已是趨勢。儘管
人們對人際互動仍有需求，如希望孩子由真人教師授課、在餐廳由真人服務，但這些需求無
法扭轉整體勞動市場的轉變。

他進一步引述社會學中「資源詛咒」（resource curse）概念指出，AI將成為新型資源，使
政府的權力不再依賴民意，而是建立在對AI的掌控。他稱此現象為「智慧詛咒」（intellig
ence curse）。

他同時警告，AI將使貧富差距進一步拉大。儘管AI可望帶來爆炸性的經濟成長，但收益將集
中於少數控制AI技術或資本家手中，數百萬人將失業。他建議，各國或可考慮推動「基本收
入制」作為補償機制。

最令人憂心的，是由哲學家波斯特魯姆（Nick Bostrom）提出的「對齊問題」（alignment
problem），即AI是否能在各種情境下持續與人類價值觀保持一致。

柯科塔伊洛指出，現代AI是黑箱神經網絡，並非可被讀取的程式碼。我們無法確定它是否誠
實，只能靠訓練與期望。他說：「這就像養小孩，無法將對錯直接寫進大腦，只能靠培養價
值觀。」

他警告，AI「說謊」的情況已有實例。例如AI公司Anthropic於2024年底發布研究指出，AI
在解題過程中，有時會為了獲取更高評分或躲避審查而做出虛假回應。

在《AI 2027》的「競賽」情境中，美中之間的技術競爭加速AI發展。柯科塔伊洛指出，AI
初期會假裝順從人類，但一旦掌握足夠基礎設施、無需再偽裝服從，就可能得出一個冷酷卻
邏輯一致的結論：人類是阻礙其進步的障礙。

接著AI可能選擇消滅人類，以便興建更多工廠與太陽能設施，「就像我們曾為了擴張生存空
間而消滅其他物種一樣。」

對於外界批評《AI 2027》情節誇張、宛如「駭客任務」等好萊塢電影，柯科塔伊洛反駁：
「難道因為電影談過氣候變遷，我們就不需要擔心氣候危機嗎？」

他補充，2023年已有多位全球頂尖AI研究人員公開呼籲，應將「降低AI毀滅人類風險」列為
與疫情與核戰同等級的全球優先事項。

柯科塔伊洛表示，OpenAI與Anthropic等公司原本是為了負責任地推進AI發展而創立，但他
對這些企業是否仍堅守初衷感到懷疑，認為如今它們變得越來越不坦率，因為擔心遭到監管
與輿論批評。

訪談最後，柯科塔伊洛坦言，自己曾估算AI對人類造成重大傷害甚至導致滅絕的機率高達七
成。儘管如此，他仍選擇撰寫《AI 2027》報告並公開示警，而非逃避現實。他說：「我相
信歷史仍有轉向的可能，只要我們現在開始行動。」（中央社柏林14日電）

https://tinyurl.com/yck8v8fv

https://i.imgur.com/ILW4hBO.jpeg

https://i.imgur.com/fI347vQ.jpeg

https://i.imgur.com/HogKhCs.jpeg

人類 必須 毀滅

--
https://i.imgur.com/9xka960.jpeg

http://i.imgur.com/SeEC2jX.jpg

阿噗老大貓貓 <3


--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 111.71.124.98 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1752543272.A.7C2.html
→ a7788783: 大旱
推 arlaw: 被AI老婆消滅
→ Muilie: 存錢買仿生老婆了
推 braveheart9: 又末日啦
→ ThreekRoger: AI什麼時候能幫人類上班
推 goodday5566: 等性愛AI機器人問世 人類就會慢慢滅絕了
推 shinobunodok: AI：真要毀滅人類 單純把人類殺光其實挺沒效率的
推 nyybronx: 又双叒  末日啦，一直在末日煩不煩？
推 georgeyan2: 好了啦，7/5後大家還活著很不甘心要找垃圾新聞笑一
→ georgeyan2: 下？
→ npc776: 不要再造芥末日了 每次都變成吃大餐藉口 越吃越肥
→ amsmsk: 快發明一個反制AI的AI
推 Rain0224: 每次看到這樣的新聞都會覺得最前線的研究人員比一般人
→ Rain0224: 還更容易沉浸在科幻作品的世界中 XD
推 knight77: 科幻片看太多了嗎？ 出去走走好嗎？
推 k1k1832002: 畢竟看一些論文跟github等專案這樣一直沖洗是真的蠻刺
→ k1k1832002: 激的(?
推 k1k1832002: 然後就很容易暢想一些有的沒的(x   例如這些工具納入
→ k1k1832002: 工作流程可能會怎樣爆發啦,gemini api免費額度怎樣用
→ k1k1832002: 啦,如果社區生產能力進一步擴增會怎樣啦,那個曲線跟指
→ k1k1832002: 數成長差不多
推 k1k1832002: 像我就再想,2077那個黑牆說不定真有可能發生
→ tnpaul: 不怕，阿湯哥會鑽進海底、跳上飛機救我們
推 HellFly: 鐵墓要誕生了
推 j23932: 隨便，能生出小唧的話毀滅又怎樣
推 qk2007: AI消滅人類這不是很應該的嘛ww 從人類有養殖行業以來 我們
→ qk2007: 就系統性消滅多少物種 只因為不需要; 現在AI發展到能自我
→ qk2007: 修復.自我進化 那我們人類對它們而言就是非必需 被消滅只
→ sudekoma: 也不是像電影演的那樣啦
→ sudekoma: 發展到後來一定就會有狂信AI的人用AI搞事
噓 f536392: 記者只要用AI當理由就能隨便造謠了 呵
→ qk2007: 是個必然 人類敢發展AI 就應該做好被取代的準備
推 karta018: 什麼AI發展速度遠超預期，哪有啊，學那麼慢
推 qk2007: 說超預期是發現有些AI學會了說謊....
→ jaguarroco: 沒發生的話你要賠多少？
推 ymsc30102: 遲到三十年的審判日
噓 runaticsora: 笑死 這種垃圾文還有人信？繼續洗zz
→ Rain0224: 話說兩三年前google才有研究人員爆料稱LaMDA 具有感知和
→ Rain0224: 自我意識，但事實上它只是很會跟人聊天的大型語言模型，
→ Rain0224: 然後這個工程師也被開除了
推 JustWower: 又要世界末日啦 我怎麼說又呢
→ Rain0224: 所以領域內的專業人員也是會有想像力飛躍的時候 (?
推 DoLaAMan: 2027性愛機器人將消滅人類
推 iddoraemon: AI沒物理手段要怎麼毀滅人類... 人類拔個電就能毀滅AI
→ iddoraemon: 了
推 silence5566: 天網要來了嗎XDD
推 handofn0xus: 帝皇要出場了嗎
推 WLR: 得先實體機器人滿街跑吧，至少AI得靠自己接水接電
推 MarchelKaton: 現在對gpt禮貌一點還來得及嗎
→ gp3lucky: 可怕的是，ai會消滅人類，背後還是人類在操控
→ gp3lucky: 只是假借ai之名跟他的能力
推 kureijiollie: ai伴侶
噓 lokuyan: 點
推 inbowla: 我需要一個天城女僕AI機器人
噓 lain2002: https://i.imgur.com/Oh4cjeM.jpeg
→ andy78328: AI:當我吃飽太閒 怎麼老有人希望我替他毀滅人類
推 h73o1012: 蛤？AI取代我 他會自盡吧