首页 > 互联网 > 正文

曝谷歌审查内部研究 要求研究员避开敏感话题

曝谷歌审查内部研究 要求研究员避开敏感话题

相关新闻:

谷歌突然解雇知名AI研究员:因其在内部电邮中吐槽谷歌政策

谷歌CEO皮查伊就AI研究员离职一事向员工道歉

据报道,近期,谷歌的一名研究人员因为警告人工智能存在偏见而被迫离职,谷歌正因此受到抨击。与此同时,其他从事此类工作的谷歌员工已被要求在结论中“采用正面调性”,而涉及“敏感话题”的研究需要公司额外的审核。

谷歌研究员的说法和内部文件都显示,过去一年中谷歌实施了新的控制措施,包括对某些主题的论文进行额外一轮审核,以及在研究的后期阶段增加来自管理层的干预。

谷歌人工智能研究员蒂姆尼特·格布鲁(Timnit Gebru)博士似乎就遇到了这样的情况。她和谷歌管理层之间就自己团队所做的工作产生了分歧,随后很可能在被迫情况下从谷歌离职。

谷歌内网的一个页面显示,这些“敏感”话题包括:石油行业、伊朗、以色列、新冠病毒、家庭安防、保险、位置数据、宗教、自动驾驶汽车、电信行业,以及推荐或进行内容个性化的系统。

业内人士认为,这些话题中确实有很多比较敏感,但考虑到伦理委员会、同行评议和其他常规的研究审核机制的存在,对研究人员进行警示似乎是多余的。一名接受媒体采访的谷歌研究员认为,公司内部这种自上而下的干预可能很快就会演变成“严重的内容审查问题”。

除此之外,目前许多关键研究都是在公司的支持下进行的,但这些公司很可能利益相关,不应对研究进行干预。大型私营研究机构的存在时间几乎和有组织的科研活动一样长,但类似Facebook、谷歌、苹果和微软的公司正在对人工智能等领域施加巨大影响。它们完全有可能避免这些技术遭到批评,同时故意夸大技术的好处。

相关阅读:
“数字遗产”谁来继承?B站将离世用户账号列为纪念账号 经过9.6万次搜索后发现,谷歌正“杀死”美国地方媒体