作者patrick2dot0 (第一中锋)
看板DataScience
标题[情报] Google解雇AI伦理科学家Timnit Gebru
时间Thu Dec 10 01:30:40 2020
Google 人工智慧伦理 (Google Ethical AI) 的部门技术主管 Timnit Gebru，
她在 12 月 2 日於 Twitter 发布推文表示，
她在向 Google 公司内部电子邮件列表「谷歌大脑女性联盟」(Brain Women and Allies)
发送一封电子邮件後，就遭到 Google 不正当解雇。
这次的导火线起因於 Timnit Gebru 与其他同事发表了一篇研究报告，
指出Google 使用的 AI 技术是透过学习人为资料而运作，
因此很有可能会模仿人类做出偏差行为或是发表仇恨言论，
警告 AI 技术的使用必须非常谨慎。
Gebru 原本要在明年的研究会议发表报告内容，
却被 Google 的高层主管退回，
她因此威胁要辞职，
并且在一封内部电子邮件抱怨 Google 对於弱势族群缺乏作为，
Gebru 之後在 Twitter 上透露她因此遭到开除。
不过 AI 部门的主管 Jeff Dean 表示，
Gebru 的研究报告并没有达到公开发表的标准，
而且当初是她威胁要辞职，所以 Google 并没有开除她。
杰出的黑人女性研究员
Timnit Gebru 毕业於史丹佛大学，主修电气工程，
之後加入 Apple，曾参与第一台 iPad 研究。
她是着名的技术多元化倡导者，并曾创立「Black in AI」的黑人研究人员社群，
在 BLM 期间也是指标性的摇旗呐喊角色。
一直以来，她对科技公司对待黑人员工的方式都直言不讳地提出批评。
Gebru 加入 Google 之前，便已经是业界中着名的科学家，
她曾在 2018 年与研究夥伴合着了一份被广为引用的论文：
他们发现 AI 脸部辨识技术在肤色较深的女性，出错率比一般更高。
解雇过程充满不正当性
科技媒体 Platformer 於事後公开 Gebru 引爆这次争议的内部电子邮件，
指称 Google 上级要求她撤回发表研究论文，
但同时没有提供任何其他讯息，也没说明论文有什麽问题，
她压根没机会为自己辩护。
信件中她也很不满 Google 口口声声要实现多元化，
却没有做出任何实质性改变，
更指出 Google 缺乏改变自身领导地位的根本动机。
Gebru 在接受 Wired 采访时表示，
她研究的争议始於 11 月，
当时 Google 的高阶主管要求她将自己的名字从一份她合着论文中的作者栏移除，
该论文由 Google 内部和外部研究人员共同撰写。
该篇论文重点在讨论 Google 及其他科技公司可能利用人工智慧工具，
模仿人类制造仇恨言论及偏见语言。
Gebru 表示：「研究员不可能只不断提出顺公司意的评论，
那有违研究者的初衷。」
Gebru 表示曾试图与 Google 进行谈判，
提出同意将她的名字从论文中删除，
以换取 Google 对反对论文一事的完整解释，
并希望讨论将来该如何共同面对处理此类问题，
如果公司拒绝，她将主动离开。
後来她却收到 Google 告知，她的「辞呈」已经获得批准，
但她并未送出辞呈，且通知中还称 Gebru 昨晚传的邮件中，
表达的观点「有和公司管理人员期望不符的行为」。
Google 更切断了 Gebru 公司电子邮件的权限，执意将她开除。
业界人士积极抱不平
Gebru 突然的离职，在 Google 和整个 AI 研究领域中都造成很大的冲击。
如今有超过 2000 名 Google员工和 1500 名学术研究人员联合声援 Gebru，
目前 Google 公司内部组成了一群罢工团队，
控诉公司对性骚扰和性别歧视的处理不当。
连署内容表示，Google 越来越常出现有关种族主义、性别歧视等负面消息，
在如今的公司环境中，研究完整性已经不再被重视，
Gebru 被解聘更证明一名独特多产的贡献者反而面临
「戒心、种族主义、欺瞒、研究审查及报复性解聘」。
「Google 研究环境中的研究公正性不再稳当，
而 Gebru 博士的解雇揭发了 Google 对旗下研究员研究自由的限制与控管。」
抗议者在信中说道。
「我认为这是一个笑话，因为考虑到她的专业知识，
她的技能，她的影响力，任何人解雇 Gebru 似乎都很荒谬，」
前 Reddit 执行长 Ellen Pao 在Twitter上表示：
「这是让我认为科技行业根本没有希望的事件之一。」
这次事件在未来是会继续发酵，
还是就此石沉大海，现在还很难说。
但 Gebru 突如其来的离职，
加剧了多年来各界对 Google AI 多元化研究的疑虑。
宏观上来看，Google 正在面临新一轮的道德危机。
来源 : INSIDE
https://reurl.cc/avW0gZ
我觉得这篇新闻跟data science满相关的，
分享来板上，好奇大家对这件事情的看法，
话说Lecun之前被战到离开twitter的事情也跟Timnit Gebru有关。
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 111.249.66.72 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/DataScience/M.1607535042.A.BF1.html
1F：推 wtchen: 个人觉得Lecun当初讲的没错阿，AI本来就会受资料集影响 12/10 03:02
2F：→ wtchen: 就是因为怕bias和overfit，所以要test/verification set 12/10 03:03
3F：→ wtchen: 确认bias/overfit会不会太夸张，结果一堆人泛政治化 12/10 03:04
4F：→ wtchen: 当然bias的来源不只是training set 12/10 03:05
5F：→ wtchen: 那场嘴炮战我的看法就是Timnit Gebru自己不讲理 12/10 03:07
6F：推 yoyololicon: 黑人＋女性 这buff太强打不过qq 12/10 09:54
7F：→ wtchen: 我有点好奇Gebru的背景，她到底有没有自己写过程式？ 12/10 23:52
8F：→ wtchen: 从她炮LeCun的言论来看，她清不清楚理论都很难说 12/10 23:54
Gebru是Stanford EE的 指导教授是李飞飞
※ 编辑: patrick2dot0 (220.136.34.195 台湾), 12/11/2020 23:06:05
9F：→ saladim: AI会受资料影响不是早就知道了 不知道有提出什麽解法方案 12/11 23:25
10F：→ saladim: 只说会有bias没去解决 问题会自己不见吗 所以不太懂诉求? 12/11 23:26
11F：推 wtchen: Gebru是作data mining起家的，若不知道LeCun的意思就太蠢 12/11 23:45
12F：→ wtchen: 若是明知还装不知就很卑鄙了，揣着明白装糊涂 12/11 23:46
13F：→ wtchen: 我粗略看了一下Gebru的着作，大都是说哪边哪边unfair 12/11 23:46
14F：→ wtchen: 但是毫无提供解决方案的意思 12/11 23:47
15F：→ wtchen: 知乎上有人在质疑她根本没写过程式（我自己也找不到） 12/11 23:48
16F：→ wtchen: 她也的确没为google贡献过任何程式码 12/11 23:48
17F：推 wtchen: 当然没写程式!=没贡献就是了 12/12 00:05
18F：推 king22649: 这应该要问到 她身边的人才会知道 不过 以她的身份 就 12/12 19:57
19F：→ king22649: 算不会coding 不理解原理 也是满正常的 12/12 19:57
20F：→ king22649: 几十年前不好说 不过近年 身份buff真的超强 脸皮 嘴遁 12/12 20:00
21F：→ king22649: 点满 很多都可以唬弄过去 12/12 20:00
22F：推 wtchen: 不会coding是要怎麽做data mining? 用Excel？R？ 12/12 20:57
23F：推 kira925: 枪手阿 12/13 11:39