Re: [閒聊] psycho-pass 17

[godivan (白河家的螢天下無雙)]

推 henry1234562:從這篇文字就能看出來阿 很多人認為機械可以判斷善惡
→ henry1234562:但人就不行 完全跟劇中說的一致
→ henry1234562:但實際上機械做的決策依然是人做的
→ henry1234562:只是人寫好程式讓機械去跑而已
→ henry1234562:實際上這跟用人判斷善惡是一樣的
雖然說程式是人寫的

但是機械跑出來的結果有時候(應該說是常常)會出乎製作者的想法

例如說機械公敵裡面的主電腦根據三原則跑出一個"監禁人類"的結果

這就是當初製作者沒想到的

除此之外 還要看這個程式有沒有自我學習的功能

一般的人工AI就會提到這點

意思就是說寫出來的程式是否還等於是人類的判斷還是有待疑問

--
                      ◢ ≡   ◣ ╭────────────────────╮
◢#   ◣                ⊙-⊙◥  │幹你媽的委員長,給你開外掛八百萬美械,    │
                       ≡皿 ≡   │結果被土共小米加步槍打敗,給你六十萬德械,│
  □︵□    ◤──╱  ◥ ︶   ◤ ╯結果被馬糞成建制殲滅,乾脆給一桶瓦斯好了!│
◥  ▄◤  ◤外掛╱◤  ◣▇▇▇◣ ╰────────────────────╯
◢▽▽◣  ▏    ◤       ▽                            ψ fyc

--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 111.251.138.134
推 henry1234562:不 沒有疑問 寫出的程式一定等於人類的判斷
→ henry1234562:無論如何都是寫出者寫出當下時的判斷
→ henry1234562:只是寫出者自己的想法會隨著時間改變 而機械不會而已
原則上是這樣子沒有錯

但是還有一種東西叫做"bug"

推 F23ko:身為一位程式設計師，我得說..... 蠻多狀況都是同一個專案被
→ F23ko:一堆程式設計師改來改去，改到後來就沒人知道程式到底是怎麼
→ F23ko:跑的.....  但要跑出像機械公敵那樣的狀況，幾乎是不可能的
推 henry1234562:其實那就相當於一堆設計師在橋事情
→ henry1234562:而跑出來的就是妥協後的結果
推 shadowblade:身為一位程式設計師,你不會知道程式為什麼能動,也不會
→ shadowblade:知道程式為什麼不能動(?
→ henry1234562:現實來說 程式不可能跑出你沒設計它能跑的東西
→ shadowblade:但是你有可能不知道哪邊設計出了你沒注意到的東西
→ henry1234562:當然現在不太可能一個人設計這麼龐大的程式
→ henry1234562:所以要一個人完整掌握整個程式的全貌不太實際
→ henry1234562:因此 要向機械公敵那樣出現沒設計的功能
→ henry1234562:只有可能是其實有人有加這設計 但其他人都不知道
推 flysonics:AI在科幻裡的設計就是人類下大原則 小細節給AI跑
→ henry1234562:像F23ko 說的 這種意外狀況是因為太多人動過的關係..
→ flysonics:只要不違背大原則AI就能自我持續運作
→ henry1234562:這種AI現實還沒有吧?
→ flysonics:跟你講的這種"程式一定等於人類的判斷"現代程式概念不同
→ tsunamimk2:目前的計算理論沒有這種事情....
→ flysonics:當然還沒有 不然為什麼叫科幻啊 = =
→ tsunamimk2:ANN這種東西等價於貝氏統計學....
→ flysonics:所以看科幻作品時不要把現在的程式觀念放進來
→ flysonics:兩個出發點根本是完全不一樣的東西
→ tsunamimk2:也許量子計算有機會吧
→ henry1234562:因為我並沒有在這作品中見到科幻的AI
→ flysonics:西比拉系統還不夠科幻喔...
→ tsunamimk2:程式就是數學 是有專門描述邏輯推論的程式語言沒錯...
→ henry1234562:西比拉系統不是AI阿
→ tsunamimk2:也是有可能推論出人想不到的東西沒錯 可是不是自我意識
→ tsunamimk2:更不是靈魂...
→ flysonics:問題是作品描述得好像AI一樣啊...
→ henry1234562:所以我說 沒見到這種科幻的AI 因為巫女系統就不是
→ tsunamimk2:sibyl的色相判定是平行處理的超級電腦 但是犯罪係數
→ henry1234562:她描述的像 它還是不是AI阿..
→ tsunamimk2:是人腦...247個有人類意識的人腦...

現在我們都知道西比拉系統不是AI

所以崔才會講說如果西比拉系統的真相曝光

整個世界會根本性的顛覆

現在人類會相信機械的判斷還有另外一個理由

機械的判斷是絕對公正


※ 編輯: godivan         來自: 1.34.56.72           (02/17 16:56)
→ tsunamimk2:不是AI 所以崔求成才說這公諸於世了這國家也就完了
→ henry1234562:說不定巫女系統還可能比科幻AI更容易做出來
→ tsunamimk2:這社會就是相信犯罪係數是公正的機械算出來的才成立啊
→ tsunamimk2:結果是247個大法官之類的直接判人生死
→ henry1234562:老實說 我認為科幻的AI 跟新的生物沒兩樣..
→ flysonics:巫女系統確實比AI容易做出來沒錯 可是根本沒必要啊
→ flysonics:你找兩百個腦袋不正常的人做寡頭政治就好了....
→ tsunamimk2:那樣沒人會服從啊
→ henry1234562:光是從我們的討論都能看出來
→ mapulcatt:寡頭政治會被反對 所以才要做成巫女系統減少判斷時間
→ henry1234562:沒多少人會服從單單247個人做出的判決
→ mapulcatt:偽裝成機械判斷 機械判斷才會被人類接受啊
→ flysonics:多加一層平行處理科技跟唬爛大眾說是用AI 效果是一樣的
→ tsunamimk2:如果是法官的話 那就要公開審判 還要有司法救濟
→ henry1234562:但人卻可以相信一個被包裝程是科幻AI的審判系統
→ flysonics:後面做法還更省錢咧...
→ tsunamimk2:所以sibyl騙人說是超級電腦而已啊
→ tsunamimk2:無法即時運算啊
→ tsunamimk2:sibyl是並聯了247個大腦的處理能力才能實現dominator
→ flysonics:本質就不一樣 所以一堆人前面才吐西比出包成這樣還一堆
→ tsunamimk2:一只直接判斷犯罪係數...
→ henry1234562:正是因為包裝成巫女系統了 在判定上速度才能像機械
→ flysonics:人信這件事超級沒說服力不是嗎...
→ tsunamimk2:不然照一下上面要開會吵架吵個一天 那還騙的了誰啊...
→ tsunamimk2:sibyl會被人相信是因為1.大家都認為它是機械
→ flysonics:看戲的覺得很沒說服力 跑事件的主角也覺得很沒說服力
→ tsunamimk2:機械就絕對公正 2.大部份的人順從他日子過得都挺好
→ henry1234562:巫女系統最大功能就是 極大的減短判定所需時間
→ flysonics:就戲裡普羅大眾覺得這出包滿滿的系統完美....這OK嗎...
→ tsunamimk2:這集小朱和慎也不就是講這個...有問題也假裝沒事啊
→ tsunamimk2:因為人習慣性會推卸責任啊
→ henry1234562:很ok阿 因為你身為巫女系統控制下的民眾
→ tsunamimk2:我們現在的社會也相信貨幣啊 貨幣絲毫不可信耶
→ henry1234562:有問題視而不見就好 系統還幫你安排人生出路
→ tsunamimk2:你為什麼會相信手上的一千元可以換吃的?
→ tsunamimk2:那不過只是紙張 你信賴的系統是什麼呢
→ tsunamimk2:但是大部份人問都不會問就接受了 除非發生戰爭
→ flysonics:因為台灣銀行裡有存跟貨幣等值的黃金...
→ tsunamimk2:巫女系統就是類似那樣的東西....
→ tsunamimk2:當然沒有啊
※ 編輯: godivan         來自: 1.34.56.72           (02/17 17:01)
→ tsunamimk2:再說黃金又為什麼可以換到食物
→ flysonics:一個系統要運作 你要瞞過審查者 民意代表 媒體...
→ tsunamimk2:現在世界各國早就不是金本位快一百年了吧
→ tsunamimk2:現在的社會就一堆這種系統啊
→ flysonics:剛開始運作的時候 這些人都完全沒有異議?
→ tsunamimk2:如果真的算成等值的黃金 一半以上的新台幣要燒掉
→ tsunamimk2:有啊 宜野座的老爸啊
推 F23ko:越聊越深入了呢..... OwO
→ flysonics:我是說高位者
→ flysonics:低位者再有異議也發揮不了大的效用
推 henry1234562:最簡單的狀況 這些高位者就是這些審判者
→ tsunamimk2:你覺得央行算不算高位者
→ flysonics:讓一個系統去奪取你手上的權力 人類會甘心把權力交出去?
→ tsunamimk2:well, 權力這種東西很微妙
→ henry1234562:那顯然不會有任何異議了
→ tsunamimk2:會 我們就送出去了
→ godivan:所以說有一段肯定是被省略的
→ henry1234562:當你自己成為這個系統 對你來說就是你獲得這些權力
→ flysonics:我們不是高位者  我到底要說幾次...= =
→ tsunamimk2:我們不僅把公投送出去了 還把反抗稅的權力也送了
→ tsunamimk2:不 這不是高位者低位者的問題
→ godivan:這個就跟IS莫名其妙的接受女尊男卑的體系一樣
→ tsunamimk2:權力就是暴力 拳頭大有兩種 一人多 二個人會打
→ flysonics:當人是複數時當然很簡單利用系統去剝奪權力 卡夫卡城堡
→ godivan:不過事實上在這作品仍然存在者反抗西比拉系統的人們存在
→ tsunamimk2:所以這不是誰說了算的 就是這社會接受了sibyl...
→ godivan:例如說綁馬尾她的好碰友
→ flysonics:問題是當權力藉由間接民意落在少數代行者身上時
→ tsunamimk2:那是過度化簡的結果
→ tsunamimk2:事實上權力都是自己放棄的 不負責任的結果
→ flysonics:這些代行者會眼睜睜看著系統把代行的權力拿走?
→ tsunamimk2:或者覺得放棄權力可以減少責任 小朱和慎也不就講這個..
→ henry1234562:如果它比你強 又給你更好的好處 為什麼不?
→ tsunamimk2:代議政治的議員又不是神
→ henry1234562:權力附帶的就是責任
→ flysonics:真的這麼簡單 現代就不會有一堆奇怪的獨裁者出現了...
→ tsunamimk2:他們也只是人 也是計算好處得失的人
→ flysonics:那些獨裁者可沒認真對待自己的責任
→ tsunamimk2:現代奇怪的獨裁者都是以愛國公平為名的要人放棄權利啊
→ henry1234562:因為他們更偏向享受權力 這時後招攬他們進系統就好
→ tsunamimk2:然後知識份子被整肅或者加入他們
→ flysonics:問題是要"他們自己"放棄權力 它們是萬萬不幹的啊
→ henry1234562:別忘了 藤間說過 加入系統幾乎等於成為神
→ henry1234562:你加入系統你就不釋放棄權力 而是獲得更多權力了
→ tsunamimk2:茉莉花革命啊 真的被逼到底了想不放也沒得選
→ flysonics:然後你讓一堆想要權力的人進系統 又認為這系統可以協調
→ flysonics:它們意見讓系統不打架  這就更奇怪了...
→ henry1234562:而藤間也完全被這種快感淹沒而同意
→ tsunamimk2:所以崔求成才說這真相公佈了國家也就瓦解了
→ tsunamimk2:這系統只是司法系統 雖然實質支配者
→ tsunamimk2:但是卻是最強的暴力使用者
→ henry1234562:你們又沒有肉體 你頂多思想上不同
→ tsunamimk2:社會如果發現這是247個人 馬上就會崩潰的
→ flysonics:這系統才"不"只是司法系統 他連平民以後出路都強制規劃
→ flysonics:怎麼會只是司法系統?
→ tsunamimk2:所以大部份的人都覺得被規劃得很ok啊
→ godivan:西比拉系統可不是單純的司法系統
→ flysonics:這根本是獨裁者系統 然後要兩百多個渴望權力的腦去協調
→ tsunamimk2:這種什麼選擇和風險都不用擔的人生耶
→ godivan:因為大部分人覺得這個是機械規劃的很ok
→ flysonics:在現代早就勾心鬥角用一堆奧步了 怎麼會有人覺得渴望權
→ henry1234562:協調有什麼難 現實多的是這種協調
→ godivan:如果哪天發現不是絕對公正的系統而是一群人在玩弄你的人生
→ henry1234562:這是種一為全 全為一的概念吧 當你加入系統後
→ tsunamimk2:所以啊 這真像不能被公開啊
→ flysonics:力者變成腦之後就會乖乖地聽從系統規劃協調 還是在有自
→ flysonics:我意志的情況下....
→ henry1234562:你想享受權力 你想要的是控制它人
→ henry1234562:而事實上不管決策結果為何 基本上都算是你在控制
→ henry1234562:這其實是很符合這些渴望權力人的慾望的
→ tsunamimk2:因為這些人不用思考自己的權力分配 他們就是神
→ flysonics:你跟其他兩百個人一起控制 控制量就等於兩百分之一
→ flysonics:真的有控制慾的人會覺得人越少越好
→ henry1234562:因為你還是把這當成兩百人在現實開會
→ henry1234562:然後還有利益分配什麼的 當成為系統就不用這樣了
→ tsunamimk2:他們沒有選區也沒有選票也沒有政治獻金問題
→ henry1234562:權力者之間沒有利益差別 都是神 好像知識也共通吧..
→ flysonics:我想知道的是在保留自我意志下 為啥變成系統就不會這樣
→ godivan:不過反過來講當其中一個想要獲得更多的時候....
→ henry1234562:你已經沒有肉體 你能獲得更多的東西還有什麼呢
→ flysonics:其中都不會有腦想要獲得更多 或是想要更大的控制權嗎
→ tsunamimk2:因為這些人支配的是社會的法則和命運
→ flysonics:控制慾啊 我的意見完全地被執行 而非跟其他人協調後結果
→ flysonics:有控制慾的人想要的不正是這樣嗎
→ tsunamimk2:那只是自卑感過剩要別人服從自己
→ flysonics:控制慾就是自卑感的反面而已
→ tsunamimk2:所以當他們是一切之上還可以分享一切資訊的時候
→ tsunamimk2:自卑在哪
→ henry1234562:大概這些想法也會被其他人知道 而也會被妥協
→ tsunamimk2:自卑感過剩的傢伙也不夠格加入這系統
→ flysonics:分享一切資訊 =/= 得出的判斷會一樣
→ henry1234562:大概你為什麼會做出這判斷 也能被分享
→ tsunamimk2:又沒有人會拿錢給要安排個好一點的工作
→ flysonics:那我自認為我的判斷是最好 為何要和其他人協調判斷結果?
→ henry1234562:當所有這些資訊都能被分享時 就很容易協調了
→ tsunamimk2:你要拿什麼和只剩大腦的東西交換?
→ tsunamimk2:多數決啊
→ henry1234562:你自認為你最好 你就會有你是最好的理由
→ tsunamimk2:multi-modal的AI系統一向是多數決
→ flysonics:更多的自我意志被直接實現 而不是跟人協調
→ henry1234562:而這理由就可以被討論 也可以被協調
→ tsunamimk2:最多只是feed back修正權重
→ tsunamimk2:當然這不是AI 我只是舉例
→ flysonics:我認為這是有控制慾的人只剩腦也想要追求的東西
→ henry1234562:在現實世界會有無理的認為自己最好 都是因為利益
→ godivan:我跟飛音的想法一樣 不是說沒肉體後就會無慾無求
→ tsunamimk2:因為他們不需要實現自我意志 他們自稱眼界更高
→ tsunamimk2:某種意義上是群意志
→ henry1234562:而你不想讓其他審判員知道你的利益點而已
→ godivan:尤其是現在各大腦還有自主人格的時候
→ tsunamimk2:最簡單的方法就是修改權重 類似lol的審判系統
→ flysonics:利益就是自我意志被完全實現後的滿足感啊....
→ tsunamimk2:如果一個大腦的判斷一直差很遠又無法說服其他決議
→ tsunamimk2:那權重就會變低
→ tsunamimk2:所以必須妥協
→ godivan:或者是把其他人幹掉 自己當老大
→ tsunamimk2:那要有本事拉攏更多人
→ tsunamimk2:自high要當老大的全都是傻B....
→ godivan:現實社會還是有把其他人幹掉自己當老大的想法在
→ tsunamimk2:人都殺光了也沒東西可以支配了
→ godivan:不管是政治上還是爭家產的時候
→ tsunamimk2:那種人永遠就只是小鱉三啊
→ godivan:我是說把系統內其他人幹掉 自己當主宰
→ tsunamimk2:別的大腦傻了不先發制人
→ tsunamimk2:政治也是啊 白目第一個被人排擠掉
→ godivan:那個絕對不是小鱉三..至少獨裁者國家的領導者絕對不是
→ tsunamimk2:獨裁國家的頭都是有一堆人拱上去的
→ tsunamimk2:不是自己喊了說我要當漫畫家 不對 我要當國王就當了
→ godivan:所以我講的就跟飛音講的一樣阿 如果這247個大腦中有人想要
→ godivan:更多
→ tsunamimk2:拱上去之後再翻臉肅清那是另外一回事情
→ tsunamimk2:那他要有本事至少先搞定一半以上的大腦
→ godivan:就會發生這種事情 把其他人給想辦法弄下去 自己當主宰
→ tsunamimk2:在分享所有所知 意識 大腦還借給別的大腦並聯的狀況下
→ tsunamimk2:他們要享受的是全知全能
→ tsunamimk2:這種全知全能也是他們支配的動力 只剩一個腦還有什麼
→ tsunamimk2:全知全能....
→ godivan:所以我才講這是野心
→ tsunamimk2:野心是為了更高的目標 只是為了膚淺的自卑感的人
→ tsunamimk2:如果竟然放入這系統 那這系統早就崩潰了吧
→ tsunamimk2:也不會運作幾十年
→ mapulcatt:先別忘了 後面的加入者是慢慢找來的
→ mapulcatt:所以前面的腦一定也會特別去挑不會被權力權力迷惑的人
→ kaj1983:我覺得要分出是純機器去審判，還是讓機器模仿人類去審判
推 tsunamimk2:或者說眼光和智能高到足以看穿並且真的理解的人...
→ kaj1983:現有的科學都是人去設定機器，讓機器變得像人一樣處理事情
→ tsunamimk2:比起小朱也許慎也放進去更有衝擊性...
推 flysonics:事實上我覺得這系統早就該崩潰了沒錯
→ tsunamimk2:他並沒崩潰 你不是說不要吐曹科幻設定嗎
→ kaj1983:如果還是停留在模仿人類的階段，那就不像是靠機器去審判
→ flysonics:一個有一堆網路死角的社會 兩百個自栩全知全能的腦幾十
→ godivan:也不一定會去挑 像這回的那傢伙大概也只是基於對方是同類
→ godivan:人而捕獲而已
→ kaj1983:不過這和動畫設定不同就是XD
→ flysonics:年來都不管 然後撇開這些死角自詡為全知全能?
→ tsunamimk2:顯然不是 聖護的資質的確夠加入sibyl吧
→ flysonics:我不吐槽科幻設定啊 問題是這過程根本沒有說服力啊
→ tsunamimk2:只是他是個更堅持自己的身體和生命自己支配的人
→ godivan:我的意思是說這回被打臉邀請聖護的 很肯定只是單純的
→ godivan:同類人
→ godivan:而不是基於"不會被權力權力迷惑的人"
→ mapulcatt:他只是被當代表 也要其他人認同聖護夠格才會來邀他
→ sleeplist:其實只看到藤間幸三郎這個代表也算是很片段了
→ sleeplist:會產生一種光看這個代表就很有問題，其他也有問題的推定
推 yjkuo:我覺得就是在講人們過於信賴體制這個主題,設定別太在意...