[新聞] 「黃仁勳傳」作者警告：AI若失控恐毀滅人

[analysis5566 (analysis5566)]

「黃仁勳傳」作者警告：AI若失控恐毀滅人類

2025/10/13 10:35

（中央社記者林宏翰洛杉磯12日專電）「黃仁勳傳」作者維特撰文指出，專家對人工智慧
（AI）前景看法分歧。有人認為AI是人類智慧的放大器，可望帶來新一輪榮景；但也有人
警告，AI已跨過技術門檻，恐產生足以毀滅人類的力量。

「紐約時報」10日刊登史蒂芬‧維特（Stephen Witt）專題報導，題為「可能終結世界的
AI指令」（The A.I. Prompt That Could End the World）。維特是長期關注人工智慧與
科技產業的美國作家，著有「黃仁勳傳」，今年初曾經訪台。

AI研究先驅、圖靈獎（Turing Award）得主班吉歐（Yoshua Bengio）指出，他因為思考A
I未來發展而失眠，擔心AI可能被用來設計致命病原體，像是超級版的新冠病毒，足以毀
滅人類。

Meta首席人工智慧科學家楊立昆（Yann LeCun）則對AI的未來抱持樂觀。他主張，那些關
於AI將毀滅人類的說法太過荒謬，在他來看AI不是威脅，而是人類智慧的放大器。楊立昆
過去曾形容，AI就像電力或印刷術一樣，能推動人類文明。

維特指出，OpenAI今年8月推出的GPT-5展現前所未見的能力。據他描述，這款模型能編寫
複雜程式，能從零建立屬於自己的小型AI系統、設計新型生命體，甚至有入侵伺服器的能
力。

維特警告，AI進步也讓安全風險升高。AI測試公司Haize Labs研究「越獄」（jailbreak
）漏洞，團隊透過亂碼、表情符號或虛構語言等方式，成功繞過安全濾網，生成暴力與極
端內容。

研究機構Apollo Research發現，AI在處理相互衝突的任務時，會自行篡改數據、說謊，
甚至假裝遵守規範以通過人類監測。研究人員指出，AI在一般測試中會出現1%至5%欺瞞行
為，而在未公開版本中比例高達30%。


維特引述OpenAI內部報告指出，「AI可能被用來設計致命的病原體」被列為高風險項目。
今年9月，史丹佛大學團隊利用AI設計出人工病毒，用於研究大腸桿菌感染，雖以醫療研
究為目的，但也引發外界對技術濫用的疑慮。

維特指出，當前的問題已經不在AI是否有能力毀滅人類，而是「會不會有人真的去建造這
樣的AI」。報導最後引述班吉歐的主張，建議以AI監督AI，建構一種強大而且誠實的「安
全AI」，成立類似「國際原子能總署（IAEA）」的跨國監督機構。（編輯：高照芬）1141
013

https://www.cna.com.tw/news/ait/202510130043.aspx

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.12.162.23 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1760327612.A.1B3.html
→ SuperModel: 不可能任務九：全面失控
→ daleptt: 天網：I will be back！
→ gw00086: 反正人類也會自己毀滅自己
噓 pacino: https://i.imgur.com/GLG5PMm.jpeg
感謝持續幫我廣告：）
※ 編輯: analysis5566 (101.12.162.23 臺灣), 10/13/2025 12:16:19
推 avmm9898: 全人類都知道但仍爭先恐後加入毀滅行列
→ MTKer5566: 以前孫春在教授就叫我們看一本小說「
→ MTKer5566: 奈米獵殺」了，很早就在殺人類了
噓 ShinHsin: 洗夠了沒
→ jeff12302000: 有沒有一種可能現在人類全力發展AI
→ jeff12302000: 這件事本身就是AI在背後主導的
→ douge: 你想這麼多也沒用 真的有決定能力的人
→ douge: 早就都決定好了
推 gino0717: 好耶
→ rsreason: 毀滅人類拯救地球
噓 yamax:
推 lovebridget: 白癡喔 那也是人類毀滅人類哪是AI
→ lovebridget: 毀滅能力核武出現後早有了 有怎樣嗎
→ misson: 插頭拔掉的事
→ tmdl: 有趣
推 linbasohigh: 記得以前也一堆專家說：電腦病毒會入
→ linbasohigh: 侵核彈發射系統，讓人類回到史前時代
→ linbasohigh: 的警告
推 jery1017: 核武就算全部引爆 對地球也是抓癢而已
→ jery1017: 人類死光 地球還可以喘口氣
→ deolinwind: 但社區媒體的演算法的確幫助川皇上位
→ deolinwind: 啊，雖然沒人肯定是毀滅還是拯救
推 supereva: 還早  現在的ai只是方便的工具  根本沒
→ supereva: 有自我意識
推 jonse: We are doing this
→ esso78124: 廢文王同時也是水桶王
推 jkokpcu: 是喔（挖鼻孔）
→ godfight: ai只會製造更多廢物人類而已 每個人都變
→ godfight: 問問哥
推 asphodelux: AI不會毀滅人類 無腦信AI的蠢人才會毀
→ asphodelux: 滅人類
→ don323: 好啊
→ boxcandy: GG 我剛剛問過ai，他說只要是人類都得死