[新聞] 別造魔鬼終結者！專家促訂禁用AI武器條約

[wizardfizban (瘋法師)]

別造魔鬼終結者！專家促訂禁用AI武器條約
http://www.chinatimes.com/realtimenews/20170821005422-260417

包括SpacX老闆伊隆．馬斯克(Elon Musk)在內的100多名人工智能專家聯名，敦促聯合國
制定徹底禁止研發殺手機器人的相關技術，以避免人類自毀。

科學警報(Science Alert)報導， 114名AI和機器人專家以聯名公開信的方式，敦促聯合
國通過「禁止所有致命自主智能武器系統的發展，來防止即將出現的第三次軍事革命」
。

公開信是在澳洲墨爾本召開的2017全球AI聯合會(AI-IJCAI 2017)上發布的，公開信提到
一旦AI智能武器開發成功，未來的武裝衝突規模將比以前更大、更快而且更容易擴散，AI
武器除了在正規作戰會造成大量傷亡以外，很可能也會成為恐怖分子的主流武器，將有更
多無辜人民受害。

自動殺傷武器，或者稱為「殺手機器人」，它的開發速度很快，特別是現在電子科技已非
常普及，因此許多國家都有能力自主研發。。這些專家認為，以聯合國的軍事監管名義，
制定類似限制核武研發的國際條約已刻不容緩。

除了馬斯克以外，同樣在聯名信裡署名的還有Deep mind科技的蘇萊曼(Mustafa
Suleyman)、蘋果公司聯合創始人史蒂夫·沃茲尼克(Stephen Wozniak)。

公開信強調，「我們已沒有太多時間，一但潘多拉的盒子打開，就很難關閉。」

Clearpath機器人公司的創始人萊恩．蓋爾比(Ryan Gariepy)說：「簽署了這封信的著名
公司與眾多人物，顯示這項警告的份量，AI武器的危機不是一個假設的場景，而是一個非
常現實、非常迫切，值得立即採取行動的世界危機。」

多數人提到殺手機器人，最形象化的角色就是電影「魔鬼終結者」(The Terminator)當中
的T-800，它的外表令人膽寒，但實際情況是，現在已經有許多自動化的殺戮機器了，也
就是殺手機器早已被大量應用。

自主或半自主能力的武器很多，比如問世30多年的方陣快炮(Phalanx Close-In Weapon
System)，它是一種全自動系統，完全不必人工操作，只要有威脅物體接近，電腦就會自
己啟動，以攔截高速襲來的飛彈或飛機。而南韓三星的SGR-A1哨兵、英國BAE的雷神(無人
機Taranis drone)和美國國防高等研究署(DARPA)的海獵人無人潛艦(Sea Hunter
submarine)都可視為某種程度的殺手機器人。

換句話說，殺手機器人的技術種子已經在陸地、海洋和空中存在，因此更需要條約來約束
這些致命機器的開發。

====

看來以後看不到軍武娘了？

不過看這新聞讓我想到少前中會在背景故事中出現的人類反AI武器團體。

仔細想想只要有軍武娘的作品，好像都會有這類立場的反派出現。

--
                    我們不應該依負擔的罪惡來選擇道路，
                    而是在選擇的道路上負擔自己的罪惡。
                                             ──蒼崎橙子 「空之境界」──

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.170.165.46
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1503362567.A.091.html
→ shuten: 阿諾
推 kopune: 有種此地無銀三百兩的感覺
推 chses910372: 我猜不會禁止啦
→ zhtw: 聯合國有什麼強制性嗎XD
→ XavierLu: 改成檯面下而已吧
噓 blasheep22: 核武散播條約：
推 shun01: 建議直接廢除聯合國
推 xlagowe: 沒屁用，美中一定會研究，然後其他國家研究就會被罵是邪
→ xlagowe: 惡製造戰爭
推 HYSQQ: 還好我們沒加入聯合國!
推 valkyrie3812: 一人一信支持特列斯大人!!
推 phix: 不太可能AI吧 最多遙控
噓 djcc: 北韓造出來  美國真的沒造  才真的大亂
→ meowyih: 數百年前就走的地雷也是全自動系統, 完全不用人工操作,
→ meowyih: 只要有威脅物體接近就會自動啟動, 一樣吧? :p
→ KiSeigi: 禁止研發，但以後美國會派自動AI去圍剿試圖研發的組織
推 xlagowe: 呵呵呵呵，美國沒造出來才真的好笑，最愛做賊喊抓賊的
→ xlagowe: 對啦，非戰爭用，只是要拿來做學術研究，只是有需要的時
→ xlagowe: 候剛好就能轉戰爭用
→ SoulFaith: 智械人權？ 哼...
推 jack30732: 看看歷史擋不住的啦 在死前我要怒pr一波機器人
推 plasticdrink: Planetarian 裡的封印都市
推 e446582284: 國際條約<<<<<<<<國家實力
推 kenyun: 之前就有模擬戰阿法狗打贏美軍ACE的新聞  要真的上天空有
→ kenyun: G力  那人類不就像被打好玩的  啊是說要禁AI  大不了一樣
→ kenyun: 裝駕駛倉  切自動駕駛就是偷開AI就行了
推 tonyxfg: 一句話，誰理他啊，誰真信了誰就準備在未來的戰爭被打到
推 zien0223: 不～我的塔奇庫瑪！
→ tonyxfg: 再也爬不起來
噓 belmontc: 無人機都擋不下來了 機器人會擋得下來? 呵呵
→ akuma183: 山姆叔叔一定會拖到自己做出來後 才叫大家一起不要做
推 achita: 智械危機？
推 myanigi: ˊㄇˋ
推 jasonchangki: 機器人人權法案該立法惹
推 gtfour: 一人一信支持特列斯大人!!+1
推 xlagowe: 一人一信支持破滅魔劍，破滅魔劍>>>>>>>>>>>>>>>>>>鋼彈>
→ xlagowe: >>>AIMA
→ rayven: 無人機已經在殺人了
推 gunng: 準備啟動Horizon Zero Dawn
→ SCLPAL: 別阻擋我跟艾莉絲的接觸>////<
推 arbo7777: 怕什麼？未來機器人擁有AI，人類走基因改造路線就可以了
推 CCNK: 不就東亞重工的世界而已XD
推 cloud7515: 地平線期待黎明卿
推 ckniening: 我婆
→ kikikinds: 那可以做可愛的女僕機器人嗎
推 abioa: 飛機上放隻狗偷開AI就不是作弊惹吧
→ littlemame: 條約是給弱國遵守的  強國才不甩你
推 vm06: 阿諾:說過的吧，I will be back！
推 sarraya: 請選擇機器人的政策方針：違法、奴僕、市民權(stellaris)
推 SeijyaKijin: 英國佬是對的
推 joe1220: 我選擇使用噁必登洗衣精清理宇宙髒污
→ pepiniii: 不可能吧
推 likeyousmile: 最後美國一定不會簽，世界上最愛戰爭的國家
推 lockchad: 這不是未來事情比你們想像的嚴重，關鍵字 美國無人機 濫
→ lockchad: 殺
推 max199083: 這就像有人發明引擎，然後聯合國限制他不能裝在武器上
→ max199083: ，免得武裝車輛跑太快；但真的遇到戰爭，大家一定會發
→ max199083: 現用民車裝武器效益比沒引擎的戰車好，最後就出現一堆
→ max199083: 鑽漏洞的做法
推 greg90326: 仔細想想幾千年前就有的捕獸陷阱也算是自動殺傷裝置吧
推 Eito7: 反正美中俄那些大國也不會簽的，然後因為台灣不被視為國家
→ Eito7: ，所以想簽也不能簽 ㄎㄎ
推 wiork: 還不是會有人研發黑科技...
推 mayday7510: 派出絆愛醬就能屌打它們惹
推 Slas: 幾萬個絆愛在戰場上顏藝嗎？
推 jack30732: 幾萬個電子低能 人類要垮了 怕
推 victor5517: 想當初一戰時，德國認為散彈槍不人道，要限制，結果呢
→ SCLPAL: 吃我的MP18啦  ??
推 lv256: 低能兒ww有空在那裡喊禁止不如想想怎麼反制，所有技術的進
→ lv256: 步都是為了戰爭，開發完ai不拿去用當世界各國喜憨兒嗎XDDD
推 donkilu: Metal gear啊啊啊啊啊
推 Valter: 左輪大人是對的 不該讓有意識的AI繼續存在
→ richard42: 都簽 然後繼續研究
推 WindSucker: 核彈:
推 kamir: 聽命於電腦的人腦呢？
推 kingo2327: I will be back
推 notneme159: metal gear
→ HELLDIVER: 法律也禁止人殺人
推 HOLDSTEAK: 沒差啦 沒禁止開發貓娘就好了(?)