Re: 最近看完攻殼的一些感想（有捏）

[shamanlin (薩滿已死有事燒紙)]

※ 引述《rabbit66376 (逸蒼雲)》之銘言：
: 這個對於成長速度的假設沒有保證
: 如果AI的成長並不是穩定的狀態
: 你無法預期他們會不會突然出像頓悟般的錯誤或是意外
: 而這與思考的速度沒有直接關係
那想必養成「人類」非常沒有保障了
因為所有的人類也有機會發生頓悟般的錯誤

但實際上這些都有跡可尋
而不是在戰場上如發瘋般的頓悟

一個怕死的人，上戰場前就可以知道他沒種

: 那你可能需要祈禱每一次都是在整備時才發生
: 我相信有更好做法
: 而這個做法目前市面上都在用
同上

學到了新的東西，可能有新的頓悟
在戰鬥中產生極為影響戰況的頓悟？

一個人不會突然從超勇猛變得怕死
一台機器也不會

另外市面上好像沒有可學習的智能AI這種東西
(現在是2008年)

死的東西當然是一個版本一個版本的出

: 問題是[無法預期]
: 你無法預期突然產生的是什麼東西
: 也許是一個問題解決方式，也有可能是錯誤的反應行動
一句「無法預期」就想打死所有的可自由思考AI
那根本就只能用馬尾型嘛

但這種AI永遠只會是就是一個口令一個動作
沒事先輸入進去的，不會就是不會

: 都不是馬尾辦不到的
: 馬尾或許無法回答哲學性的問題
: 但是入侵的標準程序、瞄準系統、調閱資料它們都可以做到(當然要硬體配合)
: 而在實際的工作分配上[想辦法]一直是素子些活人的工作
: 分擔執行面才是AI的工作
只要AI的思考能力越靈活，能分擔的層級也就越高
一個叫他幹嘛，他就會自動想辦法完成指令的AI
(去救巴特)
跟一個必須下好完整一系列指令才能完成的AI
(從馬路用物理方式移動，選取最快路徑，碰到敵人執行標準戰鬥程序)

後者實在太麻煩了

更甚，要是九課人員身處無法下達指令的狀態
(瀕死，或是昏迷等等情況)

哪種AI比較有機會保護人員安全？

: 而即便塔其克馬很神奇的作出了衛星擊核彈的舉動
: 這也只是剛好而已...
錯很大
馬尾辦不辦得到跟哲學性與否一點關係都沒有

這個事件代表的是馬尾型只能執行資料庫內有的
當初設計的時候就已輸入進去的東西
他們並沒有自己思考的能力

所以碰到塔奇克馬問他的問題，資料庫內也沒有
才會進入當機狀態

反過來，要是當初設計馬尾的人把這問題解答放進去
那馬尾反而會滔滔大論開始講述


「標準程序」「瞄準系統」「調閱資料」都可以事先輸入進去的
但就是一個指令一個動作，只能去下指令執行某種動作

然而設計人員有可能預先想好戰場上所有可能的變化嗎？
當然不可能，他們又沒有預知能力

難不成設計人員會在水晶球看到...
「之後會要侵入潛艦，去查水手的私人網路喔」
「當聽到把難民記憶上傳時，要去入侵衛星喔」

只能叫馬尾從某條線路去執行標準化的入侵動作
而無法叫馬尾「自己想」各種侵入潛艇的方法

即便馬尾的AI強到可以丟一句「去侵入」
就自動去執行各種侵入方法
那也只能說當初的設計者太厲害
事先寫好碰到這種情況該執行的程序


是啊

塔奇克馬用衛星攻擊核彈的舉動只是剛好
但馬尾型要「剛好」的可能性連0.000001%都沒有

面臨沒有預設過的事情卻還能應對的
只有塔奇克馬，而不是馬尾

: 你無法保證他們每一次的變化都是你所期望的方向
: 有更多可能是突然的自我行動
: 同樣是[救巴特]這個指令
: 如果他們會先斬後奏
: 成功了，代表他們的判斷幾乎足以取代命令者
: 失敗了，你就少一個叫做巴特的優秀成員
: 而事實上
: 他們很有可能在你沒有下達指令時作出行動
: 等你知道時已經來不及了
: (衛星事件就是一個例子)
當你一直執著在AI可能突然自我行動的時候
麻煩你先想想，人類也是同樣情況的東西

可思考型的AI有違背命令的可能
這件事情研究人員跟素子一直都有在評估
這也是第一部後期攻殼車被踢回lab的原因
(為什麼同樣的話要一講再講)
在倒數第二集，攻殼車們也做出違背命令的舉動

那為什麼素子還是讓攻殼車回來了？

理由很簡單

雖然塔奇克馬有可能違背命令
但他們違背命令的目的是好的

違背命令一定是錯的嗎？
我想不是吧

如果巴特在第一部最後面，因為素子掛了太傷心
叫攻殼車亂槍把他打死，一起上路
這時候違背命令是對的還錯的？


AI有思考能力，有可能違背命令
(前提是朝好的方向)
所以塔奇克馬不只是工具，而變成夥伴
這是馬尾永遠都不可能達成的境界

這點在GIG的開頭跟結尾都有特別提到
我也不想再說一次了

當然你會說，要是AI違背命令往壞的方面去發展呢？
那塔奇克馬就會被踢回lab，而不是持續服役
(奇怪勒，這講幾次了)

就像軍隊中出現違抗命令的頑劣分子
同樣也會被踢出去一樣

: 要成長很簡單
: 你把服役中的塔其克馬1.0經驗回傳給伺服器
: 讓他們重新整合一次作出新的塔其克馬2.0
: 然後進行測試和校正
: 確認穩定後再將新版本的2.0推出或是作成更新擋
: 現在，你的塔其克馬成長了
: 而且沒有突發的問題
: 當然如果你有興趣跟塔其克馬聊哲學問題
: 你可以下載[塔其克馬嘎哩共]1.0的聊天介面
喔

你可以把劇中出現的塔奇克馬們當作1.0
然後他們隨時把資料傳回lab去研發2.0

到了第三部，塔奇克馬成長了耶！

--
結果還不是要把塔奇克馬丟到前線去學經驗

--

不屈者難渡人世　給正直者以安眠

--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 220.133.186.120
※ 編輯: shamanlin       來自: 220.133.186.120      (07/03 09:58)
→ rexrainbow:用過"自然輸入法"嗎? 它有符合你的"可學習"的定義嗎?
→ rexrainbow:用不同的度量(定義)得到不同的數值(結果), 然後再討論
→ rexrainbow:結果, 似乎很難得到個答案(共識)
→ shamanlin:不符合，因為自然輸入法的選字索檢方式是早寫好擺在那
→ shamanlin:等著使用者把資料輸入進去而已，跟智能AI差很多
→ rexrainbow:字詞預測是已經寫好的資料表沒錯, 但是自然輸入法還會
→ rexrainbow:"改變"字詞預測的結果, 以使用者常用的辭作為優先猜測
→ rexrainbow:對象. 所以它能替不同的使用者提供不同的字詞猜測
→ rexrainbow:說穿了也不過是紀錄使用者習慣, 並以作出更符合使用者
→ rexrainbow:需求的行為
→ shamanlin:這依然是輸入資料啊，哪種辭常用就call哪種，輸入前輸入
→ shamanlin:後，設計者完全可以預料到程式會怎麼跑，因為一切都是照
→ shamanlin:原本的設計在走，只是輸入的資料不同，對應的反應不同
→ rexrainbow:起初資料庫都相同, 使用過後才產生的資料庫是原先所沒
→ rexrainbow:有的
→ rexrainbow:如果你只認可能"修改程式碼"的才算"可學習", 但修改程
→ rexrainbow:式碼的規則也是設計者設計的, 同樣也是"只是輸入的資
→ rexrainbow:料不同，對應的反應不同"
→ rexrainbow:"市面上好像沒有可學習的智能AI這種東西", 你指得應
→ rexrainbow:該是AI設計的出發點不同, 所謂的"強AI",或是"弱AI"