推 yosaku: slogan就講的很清楚了 我消滅我的故事 05/30 03:10
推 orze04: 發現自己就是一切問題的原點 回到誕生那一刻自殺 05/30 03:12
※ 引述《loserfeizie (赤井心救援大隊長)》之銘言：
: Vivy第10集雷
: Vivy作曲的事情
: 知道他的曲子只有四個人
: 一個是他自己
: 一個是松本
: 另一個也是松本
: 還有一個亞卡布
: 就是在音樂教室跟他對話的機器人
: 這100年唯一跟著Vivy的AI
: 名字的全稱叫“AI集合資料庫 亞卡布”
: 能夠讓全部的AI知道Vivy的曲子
: 好像也只有她
: Vivy最後的大boss會不會就是亞卡布？
表面上來看 是擁有複寫AI最高權限的管理程式(who? 亞卡布?)
嚴格上來說 應該是人類自己吧
其實當"自律型AI"出現時 基本上他們就已經是人了(我思故我在)
而人的思考跟情緒是不考靠的 所以才需要機器輔助/SOP/法律限制/政體框架
嚴格來說 就是盡可能避免少數人獨斷決策跟失誤能影響大局
但是這部作品來看AI 人類賦予它們各種權力跟義務
但其實沒什麼制衡 甚至是用AI管理AI
既然自律型AI跟人一樣有同樣的情緒跟思考 就意味著必然會犯跟人類一樣的錯誤
(劇裡眾多機種都演示過了 自律AI絕不是完美無缺的)
過度依賴AI的結果 可視為賦予AI極高的權力
看看人類政體賦予某一族群過高權力 會發生什麼事情就知道
這也是許多科幻作品跟遊戲會將大規模使用自律型思考AI視為危險科技的原因
: 創造且過度依賴AI的作法 可視為過度放權給名為AI的新人類而不自知
今天就算不是vivy衍生出後續的病毒失控 依莫非定律也遲早會有其他AI做出一樣的事
除去人類這個萬惡因素以外
最終BOSS 可能就是VIVY自己了吧 : 畢竟她是第一台自律型人形AI
如果VIVY在一開始就能因為某些事故或原因不被允許擁有自律AI思考
或許就不會有其他機種跟事件出來
蠻諷刺的 也許這奇點計畫 最終的源頭其實就是她自己而不自知
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.34.11.204 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1622314415.A.4DB.html
※ 編輯: zball (1.34.11.204 臺灣), 05/30/2021 02:59:00