Re: 最近看完攻殼的一些感想（有捏）

[rabbit66376 (逸蒼雲)]

※ 引述《shamanlin (薩滿已死有事燒紙)》之銘言：
:
: 如果你指的「訓練」，是指一台兵器該有的program
: 那Tachikoma確實是已完成訓練
: 與其他的純軍事用AI相比
: Tachikoma擁有同樣的能力毋庸置疑

我說的[訓練]，是針對類神經網路的訓練
(這是我與rexrainbow在討論類神經網路時使用的名詞)
也就是AI作出的反應和行為

: 如果是以可學習成長的AI來論，那Tachikoma的確是實驗品
: 但我不知道，為什麼你一直要執著於實驗品不能拿來用

我拿槍作比喻
你知道這把槍在沙漠中會卡彈
不過由於你已經知道了
所以可以避開在這個情況

這是問題已經在穩定控制下的情況

可成長的AI也是一樣的情況
如果他是已經學習完成的狀態
也許在特定情況下會當機或是反應不良
那麼你就可以事前作準備甚至修正掉
不會發生昨天執行這個命令還好好的今天就抗命的情況

但如果塔其克馬是實驗品
那麼這個情況就很有可能發生

也許他昨天讀了佛經認為殺生不好
今天你出任務時
在關鍵的時候不開槍你要怎麼辦?

而這種情況會隨著AI的成長突然出現你無法預期
作為被要求具有可靠性的兵器
這並不算是一個優點

: 如果只是把Tachikoma當作單純的兵器，或backup來用
: 那Tachikoma早已經是完成品了
: 你有看過Tachikoma在動畫中問「欸，我要怎入侵？」？
: 或是平常還需要做練習射擊，調整射控系統？
: 純以兵器來用，Tachikoma就是個完成品
: 他有足夠的能力去完成九課所發下的命令
: 甚至還自豪(?)的說，射擊精準度比齋藤還高
: 而Tachikoma被稱作為完成品，或實驗品
: 指的是他的可自行學習機制，還可以成長
: 為什麼素子會讓這樣的可學習AI待在九課
: 一方面是他自己的好奇心與惡趣味(?)
: 二方面也是因為九課並非單純的戰鬥組織
: 除了體力活外，腦力也是很重要的一環
: 透過學習與成長，期待Tachikoma能用更靈活的方式完成指令
: (最後靈活過頭，超越了指令，試圖完成指令背後的目的)
: 利用不同的個體，造成更多的可能性，同時將資料反饋
: (放在同一個衛星，也可以用不同的晶片的)
: 如果有其中一台成長到「被認為」已經完備
: 自然就會以這台作為研究基礎，甚至量產
: 要單單當工具來用，當然也是OK
: 但是就無法期待AI成長為可信賴的夥伴
: 永遠只是一個口令一個動作的「工具」

你如果希望塔其克馬可以不斷成長又保持穩定

最好的方式
就是將每一台的資料回傳給伺服器
(這是他們現在就在作的事)

然後在經過測試後推出2.0版本的機型或更新擋
版本管理在專案中很常見
我們沒有必要讓前線的人員擔不必要的風險
(尤其是難以取代的人才)

--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 123.194.129.236
※ 編輯: rabbit66376     來自: 123.194.129.236      (07/02 20:13)
→ rexrainbow:1. 你認同了"思考"對戰車而言是不穩定的因子
→ rexrainbow:2. 你提出了一個你認為可以"思考"又可以保持穩定的方法
→ rexrainbow:3. 但顯然SAC並沒有採用你的方法, 導致不穩定因子存在
→ shamanlin:「思考」這件事情本身就是不穩定因子
→ rabbit66376:我認同思考本身是不穩定的，所以AI的思考本質與人不同
→ rabbit66376:而假設未完成的AI會有突發狀況 那在無法保證的情況下
→ rabbit66376:直接使用很有可能產生非預期的錯誤或反應
→ rabbit66376:如果只是語音辨識，那可能只是沒有功能而已
→ rabbit66376:如果是車輛載具，那可能會發生意外
→ rabbit66376:如果是軍用武器，那可能就是死亡
→ rexrainbow:這個討論串看至今日, 覺得從一開始的角度就不同了
→ rexrainbow:rabbit著重在於"軍事用"->"穩定"->"單一規格"
→ rexrainbow:然後類比為現今的產品, 得到"經驗複製"的結論
→ rexrainbow:所以我認為 rabbit認為同步是"不該要有"差異性, 而不是
→ rexrainbow:同步"有沒有"差異性的可能
→ shamanlin:他要的只是單純接受命令的工具，與思考戰車的優點完全
→ shamanlin:背道而馳了
→ rabbit66376:我從塔其克馬身為軍用品&當代的AI實作效果，發現了
→ rabbit66376:塔其克馬的行為是屬於異常現象，並試圖找出原因。
→ rabbit66376:所以應該是軍用品>商品>穩定無錯誤可能>已收斂>規格化
→ rabbit66376:當代也並沒有很多異常的AI例子，目前唯一知道的就是從
→ rabbit66376:實驗是脫逃的傀儡王。
→ rabbit66376:而他也標明了這是實驗品，不是商品。
→ rabbit66376:不難想像當時的AI應當都是屬於馬尾型的，才不至叛or逃
→ rabbit66376:那身為商品的塔其克馬之所以會抗命又是為什麼呢?