Fw: [新聞] 當心終結者！反對「AI武器化」，全球學者抵

[bigDwinsch ()]

懷舊一下~~~ Where is John Connor?
https://www.youtube.com/watch?v=t7jzmW9tYX0

※ [本文轉錄自 Gossiping 看板 #1QnsTC_F ]

作者: AsamiImai (今井麻美) 看板: Gossiping
標題: [新聞] 當心終結者！反對「AI武器化」，全球學者抵
時間: Fri Apr  6 20:25:42 2018

當心終結者！反對「AI武器化」，全球學者抵制韓國KAIST大學

南韓最頂尖的理工大學「KAIST」（譯：韓國科學技術院），日前與韓國軍火工業的龍頭「韓華集團」，針對人工智慧技術的國防化使用，簽字成立了產學合作研究所。然而相關合作，卻遭學界質疑「開啟了AI武器化的潘朵拉盒子」。因此4月4日，全球57名頂尖的AI學者——包括政治大學資科系的劉昭麟教授在內——也共同連署，對誤入歧途的KAIST發起學術抵制。

位於大田廣域市的KAIST大學，是韓國的強人總統朴正熙，為了發展國家科技實力，而於1971年下令成立的頂尖理工學府。至今，KAIST不僅被部分外媒稱作「韓國MIT」而享譽國際，也是南韓國內前五志願的菁英名校。

今年2月份，KAIST宣布與南韓軍火龍頭——韓華集團——旗下的「韓華系統公司」（Hanwha System），簽署了產學合作協議，並成立「國防與人工智慧整合研究中心」，欲結合韓華的軍事經驗與60名KAIST專家學者的科技技術，將韓國的國防AI發展「拓展至世界級的頂尖規模」。

然而KAIST與韓華的合作，卻引發了全球學界的強力譴責，其中長期反對並警告「AI軍事化」的澳洲新南威爾斯大學AI專家托比．威爾許教授（Prof Toby Walsh），4日就與全球57位頂尖的領域專家學者，共同對KAIST發出抵制聲明，要求主事的申星哲校長「回頭是岸」。

聲明指出，韓華KAIST研究中心成立時，曾有報導指稱雙邊產學合作的終極目的，是為了「將AI技術，應用在軍事武器上，並以之加入自動化兵器的全球競爭」；但AI武器化的結果，卻可能引發「全球軍火市場的第三波革命」，並開啟科技災難的潘朵拉盒子。

目前在全球軍火業界，美國、俄羅斯、中國、以色列與南韓，都是致力於AI武器化的積極國家；但像是Tesla的執行長馬斯克（Elon Musk）、知名AI公司「DeepMind」的共同創辦人穆斯塔法．蘇萊曼（Mustafa Suleyman），卻都極力警告軍事化AI，可能會對人類造成「存亡威脅」，因此聯合國也準備將在4月中旬，在日內瓦召開會議，討論防堵AI武器化的可能共識與協定方案。

抵制派學者們的連署書認為，AI武器化將大幅擴張軍事武器的殺傷力與破壞效率，無論是被科技集團與政府壟斷，還是被恐怖組織、有心人士持有，都是極為駭人的光景。因此，威爾許等人才主張，AI兵器化的研究，應該比照1995年聯合國《關於雷射致盲武器的議定書》一般，「趁我們還有機會的時候，阻止災難。」

目前，學界抵制的行動，包括凍結一切與KAIST的學術交流與研討；但在接獲消息後，KAIST校長申星哲，卻不打算撤銷與韓星的既定合作，反澄清KAIST與韓華「並沒有要研究『戰鬥機器人』的意思」，雙邊研究雖是國防需求，但都是以「防衛為主」的應用計畫。

《金融時報》報導，韓華與KAIST的國防AI應用，目前已公佈有四大方向，分別是（1）AI化的指揮與決策性統；（2）無人水下載具（潛艇）的導航演算法技術；（3）AI化的智慧型飛行模擬器；（4）AI化的智慧型目標追蹤與辨識科技。

與KASIT合作的韓華系統公司，原本是三星集團旗下的軍火單位，但在2014年三星少主李在鎔決定放棄三星軍火部門後，各單位才統一賣給了從火藥製造起家的韓華集團。其中韓華系統公司，負責的則是雷達、電戰與作展指揮系統等產品。

根據瑞典「斯德哥爾摩國際和平研究所」（SIPRI）去年年底的數據報告，在2017全球百大軍火企業中，韓華旗下就有3家軍火分公司上榜——假若結合3者產值，韓華也將成為南韓第一大的軍火龍頭。

目前在韓國，軍工企業「DoDAAM Systems」，已向市場推出了名為「超級神盾二式」（Super aEgis II）的機槍機器人，據稱能自動辨識、精準射擊3公里以內的敵意目標。目前超級神盾二式已展開商業外銷，但製造商卻表示：「所有買家都要求系統必須增列人工授權開火的『強制防火牆』機制，因此實務銷售上，超級神盾二世還未達到全自動化、AI化的程度。」

http://global.udn.com/global_vision/story/8662/3071097

--
提著月娘的光，照著思鄉的路，唱起古早的歌。
淋著相思雨，情是夢中的花，花是心內欲講的話。
風吹花蕊飛，乍知花開有幾回，撥開雲中的月，春天將你來畫。

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 146.185.141.67
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1523017548.A.FCF.html
→ lolic: 政大資科系是什麼鳥系
推 yw1002: 天網
→ cena0605: 都眼紅韓國開發的了你們不能吧
→ occboy: 愛窩逼掰~~~~~~~~~~~~~~~~~~~~
推 wyvernlee: 我相信最終天網一定是米國人做出來的
推 henry1915: KAIST很猛誒
→ goenitzx: 遇上AI武器感覺應該很像是遊戲中被外掛爆頭 只能喊聲幹
推 lunhsuan: 要是ai出現異常呢
推 iampcuser: 靠 終結者用的槍怎麼都不會卡彈 也不用洗槍阿
推 ICEFTP: SKYNET
推 sldiw: 阿斯拉要被做出來了
→ ICEFTP: SKYNET的設定也是以防衛為主的思維呀
→ ICEFTP: 然後呢？機械AI只要一查覺人類想做掉自己
→ ICEFTP: 就反過來先做掉人類
→ jackie955093: 反有個屁用
推 taikonkimo: 天網要來啦 不過這東西喔 我相信早就一堆偷偷來啦
→ wwvvkai: 記住 創世紀就是天網
→ taikonkimo: 我就不信美國無人機 沒放入AI
→ jefe: 這樣做只會讓天網晚醒來5分鐘而已
推 pubao: 智障韓國人 小屌又蠢
※ 發信站: 批踢踢實業坊(ptt.cc)
※ 轉錄者: bigDwinsch (27.242.128.136), 04/06/2018 23:05:47
※ 編輯: bigDwinsch (27.242.128.136), 04/06/2018 23:09:26
噓 dororo1     : 轉這幹嘛
推 birdy590    : 啥時會出現ED209