推 toyamaK52:讓我想到機器戰警的某人被炒->即刻刪除規則->THANK U... 02/02 13:03
推 damnedfish:艾西莫夫的三大定律根本是設計來給自己破解的 02/02 13:43
推 lancerjojo:記得天然油阿! 02/03 00:24
就像推文裡
攻殼機動隊那幾隻塔奇克馬
全部都是成長型AI
只是素子自己就說了,作為兵器來講不完美
因為兵器是輔助你判斷而不是幫你思考
就像是行車導航器,真正在開車決定的是人
你不會因為行車記錄器判斷你在哪條高架橋上錯誤,就真的轉彎撞出圍牆飛下去吧...
(以上是控制權在人類手上)
==========================================================================
(以下是控制權在AI身上)
另外還有考量到機器人可能叛變這件事情就很複雜了
（以下有一堆機器人AI作品的雷）
例如為了防止機器人叛變的機器人三大定律（後來加了第零定律）
（電影：機械公敵也有改編）
第零法則:機器人不得傷害人類整體，或袖手旁觀坐視人類整體受到傷害；
第一法則:除非違背第零法則，機器人不得傷害人類，或袖手旁觀坐視人類受到傷害；
第二法則:除非違背第零或第一法則，機器人必須服從人類的命令；
第三法則:在不違背第零至第二法則下，機器人必須保護自己。
乍看之下很完美,
但是當艾西莫夫創出來之後就開始玩一大堆的bug事件
例如I,robot裡面的"轉圈圈"事件,
機器人因為法則是用根據狀況的輕重運算的關係,在危險區域還有主人之間轉圈圈
（在只有一台的狀況下,逐漸靠近災難現場會違反第二>第三法則,
往回走去主人那會因為逐漸遠離危機區而使得第一法則優先律提高,所以只能繞圈圈）
第零定律加進去之後,機器人的下場更慘
一堆遇到事情或輸入新聞就因為違反內設程式所以燒掉
(因為要當"不會犯錯的聖人"...世人誰無罪惡?)
何況這台機器要用在戰爭上...
那如果不使用三大定律,而是讓AI自己慢慢成長的話：
攻殼機動隊
剛開始的塔奇克馬電腦直接裝在機體上
後來爆掉之後就只能歸零,所以改裝在衛星上
最後素子在結局時已經不是把他們當做AI,而是"戰友"了
直接脫離控制幫助作戰
[機械公敵]裡面也是"無三大定律的AI"對抗"三大定律AI"
不好的狀況下,想想[魔鬼終結者]的天網做了什麼...
鋼彈OO的哈嘍也分為好幾種吧
那個最資深的新人不就領導一堆來反叛人類
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 118.169.66.144
※ 編輯: nbear 來自: 118.169.66.144 (02/02 12:34)