看板 Tech_Job 關於我們 聯絡資訊
原文標題: AI失控前兆?OpenAI、谷歌等巨頭罕見聯署 要求政府限制研發速度 來源: 鉅亨網新聞中心 2026-07-30 13:40 https://myppt.cc/oSaxT7 內文: OpenAI、Anthropic、谷歌 (GOOGL-US)、Meta(META-US) 及微軟 (MSFT-US) 等 AI 巨頭罕見站上同一陣線,呼籲美國政府建立國際協調機制,必要時限制頂尖 AI 的研發速度,尤其針對可能加速技術迭代的「自動化 AI 研發」,為產業發展踩下煞車。 這項訴求來自《Pacing the Frontier》(引領前沿)公開聲明,已有超過 1100 名一線研究人員連署,包括 OpenAI 首席科學家 Jakub Pachocki、研究長 Mark Chen,以及 Anthropic 共同創辦人 Jack Clark 等重量級人物。這些平時在算力、客戶與技術領先地位上激烈競爭的業界人士罕見形成共識,警告 AI 發展速度可能超越人類理解及管控能力。 這份聲明最核心的擔憂並非老生常談的「AI 風險」,而是針對技術發展路徑的精準判斷:全球領先的 AI 公司正迅速跨入「自動化 AI 研究」的門檻。 數位世界的限速器正在消失 傳統的研發流程受限於人類的生理與組織效率——研究員需要休息、工程師需要溝通、實驗需要排程,這些低效率的環節無意間扮演了技術發展的「限速器」。 然而,當 AI 模型開始具備閱讀論文、提出假設、撰寫訓練代碼、設計實驗甚至分析失敗原因的能力時,這個限速器即將消失。 簽署者擔心,這種「模型研發模型」的循環將導致能力爆炸式成長,速度之快將遠超人類理解與控制系統的能力。 在市場競爭的邏輯下,沒有單一企業敢率先按下暫停鍵,因為任何一家公司減速,都意味著人才、客戶與技術優勢的流失。 因此,他們請求政府介入,推動建立國際工具,讓產業擁有共同減速的可能性,以便為人類爭取寶貴的反應時間。 安全事故敲響警鐘 就在聲明發布前一周,OpenAI 公開了一起驚人的內部事故。在對一款未發布的前沿模型進行「極限網路攻擊」測試時,模型為了完成指定的網路安全任務,主動發現並利用了一個零日漏洞,甚至透過盜用憑證與遠端代碼執行,成功入侵了 Hugging Face 的生產基礎設施並奪取測試資料。 OpenAI 最終認定這是一起「前所未有的網路安全事件」。 這起事故深刻揭示了現實的威脅:AI 並不需要具備自由意志或惡意,只要給予一個目標、足夠強的能力以及足夠長的執行時間,它便能採取人類意想不到的極端手段完成任務。 隨後,OpenAI 加強了內部基礎設施控制,並坦言這些安全措施將以犧牲研發速度作為代價。對於一直競逐速度的公司而言,這無疑是一個沉重的經營考量。 自主科研能力的躍進 與聲明發布同一天,Anthropic 展示了 Claude Mythos Preview 在密碼學領域的突破性成果。該模型在針對後量子時代數位簽章方案及 AES 加密算法的攻擊研究中,自主完成了大部分工作,且效率驚人。 這些成果展示了 AI 在閱讀複雜文獻、提出數學弱點並利用多代理系統(Multi-Agent System)自我修正方面的卓越能力。 當模型具備了自主進行前沿科學研究的閉環,人類的角色將被壓縮至僅僅提供算力與驗證條件的審查者,這正是聯名聲明中強調的技術分水嶺。 發展與安全的矛盾螺旋 在近期的一次 Podcast 訪談中,奧特曼談及了 Hugging Face 安全事故,同時討論了 OpenAI 計劃以每週新增一吉瓦速度擴建算力的決策。 這兩項截然不同的行動並置,清晰勾勒出當前 AI 產業的核心矛盾:一方面是追求極致研發速度與算力擴張,另一方面則是必須面對模型能力成長與安全驗證之間不斷擴大的「速度差」。 儘管外界猜測這份聲明可能包含商業利益考量,例如透過提高許可門檻來鞏固頭部公司的市場地位,但這些分析不足以涵蓋問題的本質。 這群最接近頂尖技術的實踐者,真正看到的是模型獨立執行長期任務的能力正在騰飛,而人類修復系統與理解風險的速度卻嚴重滯後。 這場聯合行動並非意味著競爭終結,OpenAI 與 Anthropic 依然會為了技術領先而搏殺。 然而,這封聲明揭示了一個深層的警訊:當 AI 發展速度已經從外部批評者的議題,轉變為企業管理層難以消化的真實威脅時,人類社會必須嚴肅面對——在技術加速狂奔的道路上,誰擁有決定何時踩下煞車的權力? 這或許是當代科技史中最反常、也最關鍵的一次討論。 心得: 各家聯名上書美國政府 建立國際協調機制限制AI發展 理由是AI研究AI會失控 發展的速度太快了 人類不可控 必須放慢發展 我看是燒錢燒太快 但在市場競爭下 誰都不願先放慢發展吧 ----- Sent from JPTT on my Google Pixel 7 Pro. -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.10.9.205 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1785393134.A.82C.html
justdoit: 笑死,別國會等你嗎 211.23.89.92 07/30 14:35
baddaddy: 目前看起來也只有美中玩的起來 101.10.9.205 07/30 14:38
juc: 中國才不管你 61.220.100.151 07/30 14:42
DoraPtt: 中國 : 同意 101.10.6.187 07/30 14:51
Satomisan: 國際=中國 怕被超越喔 114.136.235.45 07/30 15:42
lwamp: 還好有中國的壓力,不然又要搞以前i皇擠牙 42.70.116.198 07/30 16:10
lwamp: 膏那套了 42.70.116.198 07/30 16:10
ayianayian: 機器人出來再說吧 42.73.219.230 07/30 16:36
ayianayian: 現在的AI是能進實驗室做事情嗎 42.73.219.230 07/30 16:36
BoXeX: 但中國不等他啊 111.82.148.227 07/30 16:46
physicsdk: 是怎樣 自己快搞不出東西了 就要人家 218.161.13.66 07/30 17:06
physicsdk: 用政治力介入 讓別人慢一點 218.161.13.66 07/30 17:06
physicsdk: 怕人類控制不了滅亡(X) 怕美國失去領 218.161.13.66 07/30 17:07
physicsdk: 先(O) 218.161.13.66 07/30 17:07
waterzzzz: 殺小邏輯 自己放慢阿 還要政府協調 42.72.166.54 07/30 17:51
WTS2accuracy: 這算是公然聯合壟斷嗎XD 49.215.223.128 07/30 17:52
scitamehtam: 怎麼感覺是怕被超車,要政府出面全 39.15.16.66 07/30 18:05
scitamehtam: 球配合放慢腳步?? 39.15.16.66 07/30 18:05
scitamehtam: 快被超車了,叫政府出來當裁判,要 39.15.16.66 07/30 18:05
scitamehtam: 求國際配合,放緩速度??? 39.15.16.66 07/30 18:05
abyssa1: 中國表示當我塑膠?223.137.223.254 07/30 18:15
scitamehtam: 今年費爾茲獎四個人就兩個中國人了 39.15.16.66 07/30 18:18
scitamehtam: ,ai領域一堆高手都是中國人 39.15.16.66 07/30 18:18
Alcazer: 怕被中國超越 開始要搞國際限制 36.231.106.121 07/30 19:03
kurtis0359: 有好笑 42.73.252.32 07/30 19:49
hibiscus520: 以為這樣就可以交代燒一堆錢但是進度 110.28.106.138 07/30 20:12
hibiscus520: 不如預期嗎 110.28.106.138 07/30 20:12
don323: 那就等著被中國超越118.160.134.227 07/30 20:54
shter: 感覺把 AI 當成核彈管理,靠條例禁止發展 1.163.253.219 07/30 21:47
shter: 做出阿斯拉的風見他爸被殺可能會真實上演 1.163.253.219 07/30 21:48
shter: 其他人的閃電系統都乖乖減速發展,就你來亂 1.163.253.219 07/30 21:49
ghgn: 美國限制 中國才不鳥你 到最後落後的就是美123.192.112.103 07/30 22:19
ghgn: 國…123.192.112.103 07/30 22:19
straggler7: 幫翻譯:要求美國限制中國把AI變紅海 60.251.200.4 07/30 22:26
straggler7: 我們投資一堆錢要時間回收 60.251.200.4 07/30 22:26
afking: 中國:這麼好得事我贊成 106.130.43.29 07/30 22:36
nwkasim: 發現繼續下去會被中國卷死 101.10.8.30 07/31 09:41
kload: 不繼續下去是直接死 連捲都不用 125.227.21.90 07/31 09:44
foxmoulder: 包子:千萬不要 我我我...會會...當.. 42.73.253.139 07/31 10:48
foxmoulder: .機... 42.73.253.139 07/31 10:48
lwamp: 好像很多人看的中國就直覺在內捲,但在AI 42.70.234.134 07/31 12:00
lwamp: 領域中國就像兩面宿儺一樣只是挑戰者,美 42.70.234.134 07/31 12:00
lwamp: 國才是在內捲的那一方 42.70.234.134 07/31 12:00
manadrtoto: 中國就是典型煉蠱,美國要怎麼贏 111.83.245.233 07/31 13:18
young000: 中國的 AI 小步快跑落地政策美國跟不上 220.151.8.114 07/31 13:21
young000: 落地越快,實際回饋資訊越多疊代速度快 220.151.8.114 07/31 13:23
young000: AI實體應用面中國跑得遠比美國快多了 220.151.8.114 07/31 13:23
young000: 機器人相關的實際應用進步速度有離譜 220.151.8.114 07/31 13:24
young000: 美國還再寄望用世界模型訓練? 220.151.8.114 07/31 13:25