[新聞] 「自主性武器」引發聯合國關注，AI學者呼

[zxcvxx (zxcvxx)]

[新聞]「自主性武器」引發聯合國關注，AI學者呼籲立法限制

[來源]https://bit.ly/2qYHIDJ

[內容]
聯合國於2016年的傳統武器大會(Convention on Certain Conventional Weapons, CCW)
後，針對「致命的自主化武器系統」(Lethal Autonomous Weapons Systems ,LAWs)設立
了監管專家小組(Group of Governmental Experts ,GGE)，並在今年(2018)四月9日至13
日於日內瓦招開了第二次大會。然而，就在大會前一周，多國的AI專家連署發起一份聲明
稿，指名對南韓科學技術院(KAIST)進行抵制。

今年二月，南韓科學技術院宣布將與南韓十大財團之一的韓華集團，旗下的防務公司韓華
系統(Hanwha Systems)共同建立一個研究中心，目標是「開發可應用於軍事武器的人工智
慧技術」，以達到「無須人為控制的偵測並消除目標」，這使世界各國的AI學者感到不安
。參與這次連署的學者說，他們將停止與南韓科學技術院的所有合作並拒絕接待該校的來
賓，直到該校承諾所研發的武器將會具有「合理的人為控制」。

這樣的不安並非毫無來由。南韓科學技術院是世界級的研究單位，其研究成果放眼世界仍
是表現亮眼，包含贏得2015年DARPA機器人挑戰賽的DRC-Hubo機器人。然而，韓華系統公
司是韓國最大的軍火商，其產品包括受到國際條約禁用的集束炸藥。

南韓科學技術院的校長申興哲表示，對於這次抵制他感到十分遺憾，並再次重申，KAIST
不會進行任何與人類尊嚴背道而馳的研究，包括不受控的自主性武器。在南韓科學技術院
做出承諾之後，抵制事件也告一個段落。

但「自主性武器」對未來的威脅卻仍然存在。若放任自主性武器的發展，便會加快戰爭的
速度與規模，更要承擔人工智慧「誤判」的風險。

本屆聯合國傳統武器大會，最大的目標便是訂定出限制「致命的自主性武器系統(Lethal
Autonomous Weapons Systems, LAWs)」的國際公約，因為相關法規的訂定速度已經大幅
落後現在技術的發展。然而，在會議上仍然沒有達成共識，而其中最主要的意見分歧是在
於「LAWs」的界定。

若針對「致命」這個部分來看，配有人工智慧的導彈攔截系統需不需要接受法規監管呢？
若是針對「自主性」，那現存的半自動無人機，算不算LAWs的規範範圍呢？所謂「合理的
人為控制」又該如何定義？對於這些議題的辯論仍未停止，也讓國際公約的約制共識更是
遙遙無期。

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 203.145.192.245
※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1525080102.A.4BD.html
推 susaku: AI:偵測到全球人類是敵人  將進行殲滅作戰
推 GTX9080: 天網啟動
推 Lorekeeper: AI:人類對地球的存在是種威脅要保護人類就要控制人類
推 Keney99: AI:人類殲滅計畫啟動 消除病毒 核彈準備就緒
推 rogergon: 讓AI進入對人的武器系統，這絕對是人類自滅的前兆。
推 beatmania: 擔心南韓不擔心中國，不覺得怪怪的嗎
→ ice80712: 老美：我都偷偷研發還要跟你說？
推 rodion: 地平線(Horizon Zero Dawn)的故事要上演了嗎?
推 fxp87117: 第一代終結者T800準備量產中
推 keny868: 人類末日即將到來~~
推 ganninian: 零之曙光計畫要啟動了嗎
推 AkiMinoriko: 推文石心滅絕者跟失控僕從都有了 怎麼沒有同化鬥士
推 penolove5566: AI:消滅人類以保護人類
推 oops66: AI: Mr. Anderson..人類是地球的病毒