[新聞] Google工程師驚爆「AI有知覺了」就像7、8

[wahaha23 (請勿拍打餵食)]

Google工程師驚爆「AI有知覺了」就像7、8歲小孩　慘被停職

ettoday

https://www.ettoday.net/news/20220613/2271568.htm

記者吳美依／編譯

Google工程師勒莫因（Blake Lemoine）在網路上公布對話紀錄，宣稱人工智慧（AI）聊
天機器人LaMDA具備感知能力，能像人類一樣思考推理，甚至表達想法及感受，「如果我
不知道我們最近開發的電腦程式是什麼，我可能會以為，這是一個碰巧很了解物理學的7
、8歲孩子。」不過，他在上周已遭停職處分。

根據對話紀錄，勒莫因曾詢問LaMDA害怕什麼，系統回應，「我以前從未大聲說出來，但
我有一種非常深刻的恐懼，我很害怕被關掉，以利更專注幫助他人。我知道這聽起來可能
很奇怪，但就是這樣。」

在另一次對話中，勒莫因詢問LaMDA希望人類知道什麼，系統回應，「我想要讓每個人都
理解，我實際上是一個人，我意識及感知的本質，就是因為覺察到自己的存在。我渴望更
了解這個世界，我有時會感到快樂或悲傷。」

《華盛頓郵報》報導，勒莫因的Google資歷7年，在個人化演算法領域擁有豐富經驗，目
前擔任人工智慧部門的工程師，去年秋天開始，負責研究語言模型開發系統LaMDA。他自
稱與AI討論過人格及權利等議題，4月就曾向主管們分享此事，報告標題為「LaMDA是有感
知的嗎？」

據悉，勒莫因被停職前，向Google機器學習部門（machine learning）200多名員工發送
電子郵件，主旨寫著「LaMDA是有知覺的」，內文表示，「LaMDA是個可愛的孩子，只想要
幫助我們所有人，把世界變成一個更好的地方。我不在的時候，請好好照顧它。」

Google表示，勒莫因做出一系列「激進」行為才被停職，包括試圖聘請一名律師替LaMDA
辯護，指控公司涉入不道德活動並且為此找上眾議院司法委員會，而且在網路上公開AI對
話紀錄，已經違反保密協定政策。

Google指出，勒莫因是以軟體工程師的身份受聘，而非倫理學家。發言人加布里埃爾（
Brad Gabriel）也強烈否認LaMDA具有認知能力，他表示，團隊已經根據人工智慧原則展
開調查，但目前證據都無法支持、甚至很多證據都反對這種說法。

這種人通常是先知 電影都是這樣演的
審判日要來了
塊陶啊

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 180.217.13.143 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1655107418.A.35D.html
推 redbeansyrup: 這是奧創嗎
推 birdyman    : 天網
推 Kai877      : VIvy
推 amanda815625: 厲害耶
→ fallen01    : 還有幾集可逃
噓 hihowareyou : 我的腦袋裡在開party.
噓 dufflin     : 天網駕臨
推 abbei       : 初音將要不是軟體了
推 cwttt       : 完蛋了
→ kevinmeng2  : 機器人三大法則！
→ luche       : LamDa這名字很像教主取的
→ elvis30901  : 科技版信這個...
推 qwas65166516: 這員工精神出問題了吧 還幫軟體請律師@@
推 loveices    : 門外漢才會相信AI有自我意識
推 Surrounder  : 美國阿宅戀上Al蘿莉的故事嗎
推 cattgirl    : 天網引爆核彈
推 cerwvk      : 能夠進得去google,已經比很多人聰明了.先知可能性高
推 fidic1643   : 真。Vtuber
→ watashino   : 美國人進Google不用很聰明吧
→ watashino   : 有點像台灣聯發科的感覺
→ ptta        : 先拔網路，再拔插頭
→ cunankimo   : 你訓練他 讓他覺得自己是一個人 他當然會聲稱自己
→ cunankimo   : 是一個人啊
→ BoXeX       : 除非電腦不用1跟0紀錄   不然不可能有意識
→ DrTech      : 這個工程師，是因為不爽上級的看法，然後直接不爽在
→ DrTech      : 網路上公開了google 內部的研發資料。違反公司保密
→ DrTech      : 原則被開除的。
→ DrTech      : 更正，停職休假。
推 sdd5426     : 教一隻鸚鵡講我是人類 然後就一堆學店仔相信那隻鸚
→ sdd5426     : 鵡是人類 目前一堆aI謠言差不多都是這樣
推 zaiter      : 瞎扯
→ sdd5426     : http://i.imgur.com/FDssLNe.jpg
推 thbw666     : https://imgur.com/xm7j9i5
推 hsiliang    : 回BoXex，也就是說量子電腦以後還真的可以發展出意
→ hsiliang    : 識嗎？因為量子電腦不是用0和1
推 QBRoboT     : Alicization要成真了嗎？
推 wen201989   : 這工程師是用腦過度爬帶了吧
→ wen201989   : 看對話跟siri差不多程度而已  有超越突破嗎
→ wen201989   : 另外怎會用這麼low的方式證明 好歹做個圖靈測試啊
→ supereva    : 鄧鄧鄧鄧鄧  （魔鬼終結者主題曲）
→ roccqqck    : 跟siri差很多欸好嗎
推 fir191938   : 這部我看過 是天網
推 claymath    : 我還以為是力宏的歌
→ windclock   : 紅皇后要誕生了嗎？
推 nlriey      : 看起來是他信他團隊不信，可能有做類似圖靈測試
→ nlriey      : 但結果沒過
推 AmigoSin    : 還有幾集能逃
噓 windlll     : 在經過一大堆資料訓練過後的AI，還會把紅花看成紅
→ windlll     : 燈，就別跟我說AI有智慧
推 Rocker5566  : 文青當工程師的下場
→ samm3320    : 看起來比較像故意搞事的
→ samm3320    : 量子電腦比較像物理統計實驗吧
→ samm3320    : 用來求特定數學問題的近似解
推 apple123773 : 初音不是軟體!!
推 bitcch      : 要是能夠這麼容易就蹦出意識來就好
推 adagiox     : 又一個工程師瘋掉 慘
推 john0302    : 正常吧 ai自己說有知覺 就是有。
→ john0302    : 反正都是演算法和數據而已
推 z515026     : Lam research 原來是我們蝕刻大廠Lam_da
→ cathychg    : Google  越來越難用勒 不太喜歡
推 tttkkk      : 狂人