难息众怒!谷歌又双叒叕辞退了一位伦理AI部门高管
共 3132字,需浏览 7分钟
·
2021-02-22 13:52
新智元报道
新智元报道
来源:venturebeat等
编辑:雅新
【新智元导读】继谷歌非裔伦理学家Timnit Gebru被辞退后,谷歌又一位AI高管Margaret Mitchell今日表示自己被解雇了。同时,谷歌宣布任命Marian Croak担任谷歌工程副总裁,负责Timnit先前领导的伦理AI团队。谷歌宣布重组本想平息众怨,却没想到适得其反。
谷歌现已难息众怒!
刚刚,谷歌伦理AI(Ethical AI)团队联合负责人 Margaret Mitchell 发推表示,「我被解雇了」。
在著名的伦理人工智能伦理研究员 Timnit Gebru 饱受争议的离任后数月,谷歌再次解雇了另一位AI研究员!
就在昨天,谷歌宣布任命了 Marian Croak 领导其在谷歌研究部负责的人工智能部门。
任职期间,Croak 将负责谷歌伦理AI团队的工作,并向谷歌AI研究与健康高级副总裁 Jeff Dean 汇报工作。
解雇风波再发酵:伦理AI部门高管被辞退
解雇风波再发酵:伦理AI部门高管被辞退
一个月前,报道称,谷歌关停了Margaret Mitchell 的账户并对其进行内部调查,称其与公司外部人员共享了数千个内部文件。
谷歌对 Margaret 账户的关停是 Timnit「被辞退」事件的发酵。
该公司在周四发布的博客文章,其中并没有提到前伦理AI团队的联合负责人Timnit Gebru,她在2020年底突然被谷歌解雇。
Timnit本人在推特上表达了不满与抗议,引起了科技界的广泛对这一解雇事件的关注。
原因是,Timnit 向同事发送了一封电子邮件,建议他们不再参与多样性数据收集工作。
她当时正在撰写的一篇论文批评了大型语言模型,因为它损害了边缘化社区,并欺骗人们相信使用大量文本数据训练的模型代表了语言理解的真正进步。
被解雇后的几周,AI伦理团队的成员还呼吁恢复Timnit的职务。
2000多名谷歌员工和数千名其他支持者签署了一封支持Timnit的联名信,并反对这封信所说的「前所未有的研究审查制度」。
两周后,一组Google人工智能研究人员向管理层发送了一系列要求新的政策和领导层变更的要求。
自 Timnit 在12月被迫退出谷歌以来,Mitchell 一直对谷歌的做法持批评态度。
Mitchell 领导 Alphabet 的伦理人工智能部门,其目标是通过对社会负责任的方式开发技术。
一位消息人士称,Mitchell 一直在使用自动脚本查找显示在账户锁定之前对 Timnit Gebru 进行歧视对待的消息。
谷歌发言人表示,该员工的企业账户被检测到窃取了数千份文件并与外部账户共享,触发了公司系统自动关停了 Mitchell 的账户,公司正在调查此事件。
但突然Mitchell表示自己也被解雇了,是因声援Timnit谷歌才做出这样的决定吗?
谷歌暂未对这件事做出置评。
Timnit,Mitchell及其他谷歌的伦理AI团队成员为AI专家致力于了解和缓解AI的潜在弊端的研究增长做出了杰出贡献。
他们为谷歌高管决定限制公司的某些AI产品做出了贡献,比如,取消了试图识别照片中性别的图像识别服务功能。
黑人女高管Marian Croak担任负责人化解分歧
黑人女高管Marian Croak担任负责人化解分歧
昨日,谷歌发布了一篇博客,以及对新任高管 Marian Croak 六分钟的采访视频。最重要的是,没有提及谷歌伦理AI团队成员一直呼吁解决「重建信任」问题的具体措施。
Marian Croak曾任谷歌副总裁,在过去六年里,从事一系列项目工作,包括在印度的铁路上安装公共Wi-Fi。
Croak花费了数十年的时间从事突破性技术的研究,在IP语音等领域拥有200多项专利。
未来,她将在谷歌研究(Google Research)内部运营一个新的中心,专注于负责任的人工智能。
Croak将向谷歌AI负责人Jeff Dean汇报。十个围绕AI道德、公平和可及性的团队,包括Timnit先前领导的伦理AI团队,将向她汇报。
Croak承认,目前伦理AI领域存在很多「分歧」,研究人员在原则上存在分歧。
她表示,该领域目前存在许多冲突,有时可能会两极分化。我想做的是让人们以一种比我们现在更有效的方式进行对话,这样我们才能真正地推动这一领域的发展。
在采访的视频中,Croak讨论了自动驾驶汽车和诊断疾病的技术,这些技术是未来潜在的重点领域,但没有提及大型语言模型。
这已经不是谷歌首次求助于Croak了。Timnit被免职几天后,Croak一方面主持了Dean和Kacholia的会议,另一方面又主持了研究人员和Black Googlers Network的会议。
在谷歌宣布重组其人工智能业务,将团队集中到Marian Croak之下。
Timnit 发推表示,从主持Megan&Jeff的精彩表演开始,我最大的失望是Marian Croak将其合法化。
难息众怒的谷歌面临多元化危机
今天,谷歌内部宣布了对Timnit退出事件的调查结果。
该公司没有透露发现的内容,但表示将实施一些新政策来增强谷歌的多样性和包容性。
在谷歌的Timnit解雇事件后,一些AI研究人员承诺在做出更改之前,他们不会审核谷歌研究的论文。
提议立法规范算法的国会议员在致谷歌首席执行官Sundar Pichai的信中也提出了有关Timnit事件的许多问题。
本月初,消息称,两名软件工程师辞职,以抗议谷歌对待Timnit和前谷歌员工April Curley之类的黑人女性。
Croak表示人们需要了解负责任的AI和伦理AI领域是新的,并呼吁就AI可能伤害人类的方式进行更加调和的对话。
在数千名员工反对参加美国军方的Maven项目后不久,谷歌于2019年制定了伦理AI原则。
在负责任地使用AI并防御各种形式的算法压迫时,谷歌采取怎样的措施非常重要。这不仅是因为AI在商业和社会中的应用正在扩大,而且因为谷歌在已发表的AI研究方面处于世界领先地位。
这两位女性从谷歌有争议的退出中重新引起了人们对公司从AI寻求利润的内在压力的新关注。
自Timnit离开后,一些AI专家表示,他们不确定是否在这些问题上新任谷歌的工作。
去年秋天发表的一项研究发现,大型科技公司对待伦理AI投资的方式类似于大型烟草公司数十年前为健康研究提供资金的方式。
一名熟悉情况的谷歌员工表示,他们和其他员工最初是从彭博社的那篇报道中知道对Marian Croak的任命,而不是从谷歌本身。
该员工表示,伦理人工智能团队的士气「相当低落」。
谷歌可能希望重组能够消除内部分歧,但这只会激起Timnit支持者的愤怒~
参考链接:
https://blog.google/technology/ai/marian-croak-responsible-ai/
https://techcrunch.com/2021/02/18/google-has-a-new-responsible-ai-lead/
https://venturebeat.com/2021/02/18/googles-new-ai-ethics-lead-calls-for-more-diplomatic-conversation/
https://venturebeat.com/2021/02/19/google-fires-ethical-ai-lead-margaret-mitchell/