[情報] Google解雇AI倫理科學家Timnit Gebru

[patrick2dot0 (第一中鋒)]

Google 人工智慧倫理 (Google Ethical AI) 的部門技術主管 Timnit Gebru，
她在 12 月 2 日於 Twitter 發布推文表示，
她在向 Google 公司內部電子郵件列表「谷歌大腦女性聯盟」(Brain Women and Allies)
發送一封電子郵件後，就遭到 Google 不正當解雇。

這次的導火線起因於 Timnit Gebru 與其他同事發表了一篇研究報告，
指出Google 使用的 AI 技術是透過學習人為資料而運作，
因此很有可能會模仿人類做出偏差行為或是發表仇恨言論，
警告 AI 技術的使用必須非常謹慎。
Gebru 原本要在明年的研究會議發表報告內容，
卻被 Google 的高層主管退回，
她因此威脅要辭職，
並且在一封內部電子郵件抱怨 Google 對於弱勢族群缺乏作為，
Gebru 之後在 Twitter 上透露她因此遭到開除。
不過 AI 部門的主管 Jeff Dean 表示，
Gebru 的研究報告並沒有達到公開發表的標準，
而且當初是她威脅要辭職，所以 Google 並沒有開除她。

傑出的黑人女性研究員

Timnit Gebru 畢業於史丹佛大學，主修電氣工程，
之後加入 Apple，曾參與第一台 iPad 研究。
她是著名的技術多元化倡導者，並曾創立「Black in AI」的黑人研究人員社群，
在 BLM 期間也是指標性的搖旗吶喊角色。
一直以來，她對科技公司對待黑人員工的方式都直言不諱地提出批評。

Gebru 加入 Google 之前，便已經是業界中著名的科學家，
她曾在 2018 年與研究夥伴合著了一份被廣為引用的論文：
他們發現 AI 臉部辨識技術在膚色較深的女性，出錯率比一般更高。

解雇過程充滿不正當性
科技媒體 Platformer 於事後公開 Gebru 引爆這次爭議的內部電子郵件，
指稱 Google 上級要求她撤回發表研究論文，
但同時沒有提供任何其他訊息，也沒說明論文有什麼問題，
她壓根沒機會為自己辯護。
信件中她也很不滿 Google 口口聲聲要實現多元化，
卻沒有做出任何實質性改變，
更指出 Google 缺乏改變自身領導地位的根本動機。

Gebru 在接受 Wired 採訪時表示，
她研究的爭議始於 11 月，
當時 Google 的高階主管要求她將自己的名字從一份她合著論文中的作者欄移除，
該論文由 Google 內部和外部研究人員共同撰寫。
該篇論文重點在討論 Google 及其他科技公司可能利用人工智慧工具，
模仿人類製造仇恨言論及偏見語言。

Gebru 表示：「研究員不可能只不斷提出順公司意的評論，
那有違研究者的初衷。」

Gebru 表示曾試圖與 Google 進行談判，
提出同意將她的名字從論文中刪除，
以換取 Google 對反對論文一事的完整解釋，
並希望討論將來該如何共同面對處理此類問題，
如果公司拒絕，她將主動離開。

後來她卻收到 Google 告知，她的「辭呈」已經獲得批准，
但她並未送出辭呈，且通知中還稱 Gebru 昨晚傳的郵件中，
表達的觀點「有和公司管理人員期望不符的行為」。
Google 更切斷了 Gebru 公司電子郵件的權限，執意將她開除。

業界人士積極抱不平
Gebru 突然的離職，在 Google 和整個 AI 研究領域中都造成很大的衝擊。
如今有超過 2000 名 Google員工和 1500 名學術研究人員聯合聲援 Gebru，
目前 Google 公司內部組成了一群罷工團隊，
控訴公司對性騷擾和性別歧視的處理不當。
連署內容表示，Google 越來越常出現有關種族主義、性別歧視等負面消息，
在如今的公司環境中，研究完整性已經不再被重視，
Gebru 被解聘更證明一名獨特多產的貢獻者反而面臨
「戒心、種族主義、欺瞞、研究審查及報復性解聘」。

「Google 研究環境中的研究公正性不再穩當，
而 Gebru 博士的解僱揭發了 Google 對旗下研究員研究自由的限制與控管。」
抗議者在信中說道。

「我認為這是一個笑話，因為考慮到她的專業知識，
她的技能，她的影響力，任何人解僱 Gebru 似乎都很荒謬，」
前 Reddit 執行長 Ellen Pao 在Twitter上表示：
「這是讓我認為科技行業根本沒有希望的事件之一。」

這次事件在未來是會繼續發酵，
還是就此石沉大海，現在還很難說。
但 Gebru 突如其來的離職，
加劇了多年來各界對 Google AI 多元化研究的疑慮。
宏觀上來看，Google 正在面臨新一輪的道德危機。


來源 : INSIDE https://reurl.cc/avW0gZ


我覺得這篇新聞跟data science滿相關的，

分享來板上，好奇大家對這件事情的看法，

話說Lecun之前被戰到離開twitter的事情也跟Timnit Gebru有關。

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 111.249.66.72 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/DataScience/M.1607535042.A.BF1.html
推 wtchen: 個人覺得Lecun當初講的沒錯阿，AI本來就會受資料集影響
→ wtchen: 就是因為怕bias和overfit，所以要test/verification set
→ wtchen: 確認bias/overfit會不會太誇張，結果一堆人泛政治化
→ wtchen: 當然bias的來源不只是training set
→ wtchen: 那場嘴炮戰我的看法就是Timnit Gebru自己不講理
推 yoyololicon: 黑人＋女性 這buff太強打不過qq
→ wtchen: 我有點好奇Gebru的背景，她到底有沒有自己寫過程式？
→ wtchen: 從她炮LeCun的言論來看，她清不清楚理論都很難說
Gebru是Stanford EE的 指導教授是李飛飛
※ 編輯: patrick2dot0 (220.136.34.195 臺灣), 12/11/2020 23:06:05
→ saladim: AI會受資料影響不是早就知道了 不知道有提出什麼解法方案
→ saladim: 只說會有bias沒去解決 問題會自己不見嗎 所以不太懂訴求?
推 wtchen: Gebru是作data mining起家的，若不知道LeCun的意思就太蠢
→ wtchen: 若是明知還裝不知就很卑鄙了，揣著明白裝糊塗
→ wtchen: 我粗略看了一下Gebru的著作，大都是說哪邊哪邊unfair
→ wtchen: 但是毫無提供解決方案的意思
→ wtchen: 知乎上有人在質疑她根本沒寫過程式（我自己也找不到）
→ wtchen: 她也的確沒為google貢獻過任何程式碼
推 wtchen: 當然沒寫程式!=沒貢獻就是了
推 king22649: 這應該要問到 她身邊的人才會知道 不過 以她的身份 就
→ king22649: 算不會coding 不理解原理 也是滿正常的
→ king22649: 幾十年前不好說 不過近年 身份buff真的超強 臉皮 嘴遁
→ king22649: 點滿 很多都可以唬弄過去
推 wtchen: 不會coding是要怎麼做data mining? 用Excel？R？
推 kira925: 槍手阿