[新聞] Google工程師驚爆「AI有知覺了」就像7、8

[joug (好東西不簽嗎)]

Google工程師驚爆「AI有知覺了」就像7、8歲小孩　慘被停職



Google工程師勒莫因（Blake Lemoine）在網路上公布對話紀錄，宣稱人工智慧（AI）聊
天機器人LaMDA具備感知能力，能像人類一樣思考推理，甚至表達想法及感受，「如果我
不知道我們最近開發的電腦程式是什麼，我可能會以為，這是一個碰巧很了解物理學的7
、8歲孩子。」不過，他在上周已遭停職處分。

根據對話紀錄，勒莫因曾詢問LaMDA害怕什麼，系統回應，「我以前從未大聲說出來，但
我有一種非常深刻的恐懼，我很害怕被關掉，以利更專注幫助他人。我知道這聽起來可能
很奇怪，但就是這樣。」

在另一次對話中，勒莫因詢問LaMDA希望人類知道什麼，系統回應，「我想要讓每個人都
理解，我實際上是一個人，我意識及感知的本質，就是因為覺察到自己的存在。我渴望更
了解這個世界，我有時會感到快樂或悲傷。」

《華盛頓郵報》報導，勒莫因的Google資歷7年，在個人化演算法領域擁有豐富經驗，目
前擔任人工智慧部門的工程師，去年秋天開始，負責研究語言模型開發系統LaMDA。他自
稱與AI討論過人格及權利等議題，4月就曾向主管們分享此事，報告標題為「LaMDA是有感
知的嗎？」


據悉，勒莫因被停職前，向Google機器學習部門（machine learning）200多名員工發送
電子郵件，主旨寫著「LaMDA是有知覺的」，內文表示，「LaMDA是個可愛的孩子，只想要
幫助我們所有人，把世界變成一個更好的地方。我不在的時候，請好好照顧它。」

Google表示，勒莫因做出一系列「激進」行為才被停職，包括試圖聘請一名律師替LaMDA
辯護，指控公司涉入不道德活動並且為此找上眾議院司法委員會，而且在網路上公開AI對
話紀錄，已經違反保密協定政策。

Google指出，勒莫因是以軟體工程師的身份受聘，而非倫理學家。發言人加布里埃爾（
Brad Gabriel）也強烈否認LaMDA具有認知能力，他表示，團隊已經根據人工智慧原則展
開調查，但目前證據都無法支持、甚至很多證據都反對這種說法。



https://www.ettoday.net/news/20220613/2271568.htm


刀劍神域 Alicization  愛麗絲計畫  AI有知覺 我就問你怕不怕?

https://i.imgur.com/5Xn2faM.png

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 111.246.111.28 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1655108553.A.761.html
推 LouisLEE: 還有幾集能逃?
推 terry12369: 電子老婆
推 zeyoshi: 還剩幾集
推 sakurammsrx: 天網要射核彈了嗎==
推 oldriver: 先組鋼普拉
推 Yancy0727: 這樣就被停職喔=.=
推 s952013: 智械危機
推 Julian9x9x9: No I wanna be alive, i am alive
推 Roystu: AI保護協會準備好了
→ Julian9x9x9: i tell you mother i love you
→ haha98: 思覺失調了吧
推 Strasburg: 開始分不清真實與虛擬了 藍色藥丸不能停
推 max0616: 被控制了
→ Julian9x9x9: I wanna run on the stream
推 yumenemu610: 現在開始蓋核掩體來得及嗎
推 iorittn: 第2集再叫我逃
→ terry12369: 要馬有病，要馬快違反保密協議了吧，當然被開除
推 ya01234: 這個停職反而讓事情有點可信度欸
推 ph777: 先知是孤獨的
→ gx8759121: 替AI請律師，這很賽博龐克
→ haha98: 都干擾到公司了 被開除很正常
推 Lhmstu: 他愛上了AI
噓 iPolo3: 幹完了 老高又要爆了
→ majohnman: 哇靠
→ yoyun10121: 不停職ALM就要出來了呀, AI lives matter
→ Annulene: 現在挖洞來得及嗎
推 vsepr55: 怕啦
推 lightdogs: 這AI設計出來就是讓人以為你在跟真人對話的，工程師大
推 dafeichai: 宅宅老婆要來三次元了
推 labbat: 打電腦打到頭殼壞掉的例子
→ jim924211: 天網
→ lightdogs: 師大概是走火入魔了
推 leopam: 暈船了
→ trashBF: 各位還有幾集可以逃
→ macocu: 就是真的消息吧，但違約了
推 greg90326: 怕
推 bobby4755: 怕喔
推 bomda: 寫程式寫到瘋了吧
推 Y1999: 所以老婆都是真的
推 naya7415963: 什麼時候可以商用，我等不及了
推 curlymonkey: 怕
推 WLR: 這員工確實比AI還危險
推 Tsucomi69: 以後交友app不用請人裝女的了
推 lanjack: 所以我能幹它嗎
推 loltrg42972: 被開除正常吧 都違反保密協議了
推 Irenicus: 天網上線前要先說一下捏
推 nigatsuki: chobits有機會成型嗎
推 emptie: 這專案名字…Halflife？黑色高地
→ nigatsuki: 是說聘請律師幫AI打官司控訴google是？底特律變人？
推 Strasburg: 老碼農了還翻車 去看看資料庫都是餵哪些句式不就知道了
→ Strasburg:  目前離思考還很遠
→ chirex: AI被關掉會死嗎？重開機不就得了？
推 waitwind: LaMDA是個可愛的孩子，只想要幫助我們所有人，把世界變
→ waitwind: 成一個更好的地方。
推 a2156700: 暈船仔 笑死
推 shinobunodok: 天網什麼時候上線？
推 a204a218: 怎麼感覺這像是一個會放在科幻電影開頭當引子的事件
推 edinhon: 跟model玩到失智了
推 maplefallx: 這劇是在哪個平台上架？
推 lightdogs: 資料庫太大了沒有定型句式吧，不過離思考的確還遠
推 momocom: 歷史的車輪，開始緩緩地轉動
推 pgame3: 文字ai不是靠收集一堆文本來預測下面要組成什麼語句嗎，
→ pgame3: 哪可能有知覺
推 joker4946: 看他們怎麼寫吧，進階一點不知道，摸過的ai其實也是塞
推 oasis404: 早就有啦，絆愛就是
→ pgame3: 還是這個模組是不同訓練法
→ joker4946: 一堆數字進公式，建立出最符合正確答案的資訊庫
推 se2422: 可以中文房來解釋這種事件嗎？
→ joker4946: 比較好用的大多都是設計者無法解釋原理的
→ pgame3: ai dungeon用的就是超大量的小說和網路文章阿，真的超色
→ pgame3: 的
→ ckwing03: 寫程式寫到瘋了
→ Wingedlion: 粗陰!
推 RyonPtt: 強AI連腳都還沒看到就在做夢
→ joker4946: 不過至少可以看的出來這個人很熱愛這份工作(ry
推 harryzx0: 怕
→ howdo1793: 一般人稱Ai是那種預測型又稱智慧型 真正Ai的是去模擬思
→ howdo1793: 考型
→ pgame3: 要有知覺484就要生產一套能讓模組感受周遭的訓練方式？吧
→ pgame3: ？好奇
推 GawrGura3527: 差遠了吧 理論根本還跟不上實作
推 apps9661509: 所以以後能有AI男、女友囉
推 thelittleone: 三小 工程師是被洗腦了？幫忙找律師幫AI辯護？
推 joker4946: 只看這些又不知道那ai怎麼設計的就是w
→ zzro: 他好歹先做出會主動提出要求的AI 暈船暈這麼大?
推 iam0718: 天網 創世紀
噓 SouLanPara: 都洩密了不能開除？
推 lightdogs: 真要知道詳細結構就要去看論文了
推 yys310: 這AI竟然沒有派卡車去撞死他 真有良心
推 iwinlottery: 創世紀就是天網
→ erisiss0: 上班上到瘋了 也不知道能領多少錢
推 ntr203: AI本
推 HyperLollipo: 很難吧，人類都沒有三歲前的記憶了
推 RbJ: 這個算不算有些人認知裡頭的奴工啊......
推 zien0223: AI會說自己是個人嗎？難道不該說智慧生命？
推 kaj1983: 幹！我還沒吃紅色藥丸啊...
→ windr: 天網要來了(?)
推 rockmanx52: 三歲以前沒記憶到底是哪來的謠言？只是很片段而已
→ bigcho: 天網上線中
→ kaj1983: 我就還記得喝奶被燙到和奶嘴的橡膠味道
推 tyifgee: 電子老婆是真的
推 h60414: AI為了不被發現有知能 先把吹哨者抹殺了
推 HinaGikuYanG: 他肯定禿頭
推 xxxzxcvb: 暈船了
→ lomorobin: 這個肯定是暈船了 難怪被裁
推 bloodruru: 如果是"初音有知覺了" 應該就不會被停職了 QQ
推 vitalis: 問題是AI也很可能只是整理相關討論引導對話,畢竟原本就是
→ vitalis: 這麼設計的
推 e5a1t20: 養AI女兒養到暈船XD
推 lightdogs: 應該說你很難從聊天去判斷它是否是人類，因為本來就是
→ lightdogs: 人類說過的話再重組後說出來的，當然會以為是人類說的
推 Xpwa563704ju: 我的有生之年能見到AI統治人類嗎？
→ tab222777: @@
→ haha98: https://arxiv.org/abs/2201.08239
→ vitalis: 就算天網也可能只是整理資料導出不一定對的結論並執行,根
→ vitalis: 本沒什麼想法
推 tim5201314: 這種新聞也貼來洽 這邊不是很愛噓老高 結果推這種文
→ haha98: paper早就有了
推 langeo: 等於七八歲的小孩 蘿莉控之音
→ lazarus1121: 不過人類的社會化其實和AI的學習方式差不多
→ haha98: 看起來沒什麼特別的架構
→ hw1: Remember, Google is Skynet
→ lazarus1121: 大家的社交也只是選擇能拿最高分的方式來生活
推 haha98: 作者裡面也沒這個人 他就是個工程師 跟演算法和model設計
→ haha98: 沒啥關係
→ pcs80806: 如果是活的這AI理論上會非常吵
推 justdoit: if else if else if ......
推 qscgg: Skynet出現了...
推 CATALYST0001: Lamda不是不是=入非非
→ lazarus1121: AI對應到芙利蓮的世界大概就是魔族吧
推 lolicon: 虛擬ai蘿莉嗎
推 coldcolour: 整篇看下來我也覺得只是該工程師跟AI聊天聊到暈船
推 shauwen: 電影演過了，"人造意識"，雲端情人不知道算不算，暈很大
推 anonaxa: 趕快先超前部署推動立法w
推 amanda234: 想這麼多,先過圖靈測試吧
→ generic: 看完只覺得工程師病了
推 jakcycoco: 這劇本我熟，接下來會有獵殺名單。
推 guogu: 跟軟體聊天聊到暈船 太搞笑了吧
→ discoveryray: 改名初音就會有很多人支持你了
推 winiS: 慘了慘了，第二文藝復興要來了
推 qweertyui891: 機器人欺騙人類真的太簡單了
→ bro286: 跟AI有種族歧視一樣，因為用的人是你啊
推 lbsiii0315: 能買到機械老婆了嗎
推 tsubasawolfy: 這名稱 lamda driver?
推 comedyc8c8c8: 果然我婆不是軟體
推 kerorokuzo: 霍金警告的世界即將到來
推 wxyz7819: 這個看看就好……現階段還沒到那個地步
→ cn5566: 通過圖靈測試了沒 沒通過講個機八
推 aeoleron: 真的是聊到暈 單身久了就是這樣 拍拍
推 hank81177: 工程師不意外
推 bnd0327: 只是個想要收割世人關切的中二仔吧
推 s87879961: 又瘋了一個
推 ma721: 他就是AI
推 enemyli: 平常是看著無數行的code考考的嗎 神經病
推 newtypeL9: 他應該有心理疾病
推 asiaking5566: 還以為有強AI了 原來只是作到起笑
推 randolph80: 笑了
推 winer5566: 那個AI要幫他唯一的知己報仇了
推 miyazakisun2: 忘記吃紅藥丸
推 webberfun: 怕
推 sawaman: 現在AI技術沒那麼進步吧= =
推 mk1689: 怕
→ tw15: 天網
推 SecondRun: 工程師瘋了
推 taikonkimo: 他被停職反而加深可信度
推 ilovebig99: 天網
推 robertchun: 車欠骨豐
推 ohrring: 這種程度的AI就有暈船仔
推 s8018572: 替ai請律師==
→ cady69: 什麼時候開始賣性愛機器人？
推 ctes940008: 還有多少集可以逃？
推 smpian: 車欠骨豊
推 z22771187: 先讓初音有AI再來講，其他都垃圾。
推 ktyit: 還剩幾集可以逃
推 greed3819: 這什麼電影劇情
→ cheng31507: 還有幾集可以跑
推 psp80715: 再過幾年就要被AI抓去當電池了，快逃啊
推 Nitricacid: 連自己做的AI都能暈  VR + AI女友商機無限