首页 > 国际新闻 > 正文

美七大AI巨头在白宫“画押”:承诺为AI生成内容添加水印

(观察者网讯)

AI生成内容带来的混乱,越发成为公众需要面对的现实问题。

白宫当地时间21日宣布,美国七大AI企业已与拜登政府签署协议,承诺采取自愿监管措施管理AI技术开发风险,包括展开安全测试、为AI生成内容添加数字水印等。

这“七巨头”分别是谷歌、亚马逊、脸书母公司Meta、微软、AI企业Anthropic、Inflection和ChatGPT母公司OpenAI。上述企业高层当天在白宫与总统拜登会面,《华尔街日报》称,在此之前,其中大多数公司已发表声明宣布将与白宫合作,并强调系自愿设置“护栏”。

当地时间7月21日,美国华盛顿,美国总统拜登在白宫就人工智能发表讲话。图片来源:美联社

当地时间7月21日,美国华盛顿,美国总统拜登在白宫就人工智能发表讲话。图片来源:美联社

拜登表示,AI对社会、经济和国家安全带来巨大风险,也带来难以置信的机遇,政府必须对新兴技术可能对美国“民主和价值观”构成的威胁保持清醒和警惕。白宫声明称,这些公司的承诺强调了AI未来发展的三项基本原则,即安全、保障和信任,是朝着开发负责任的AI迈出“关键一步”。

具体而言,该协议的主要内容包括:

在发布AI产品前,先由独立专家进行内外部安全测试;

定期公开报告AI的能力和局限性,及其适当和不适当应用的领域;

同意开发数字水印系统等强大技术机制,确保帮助用户识别AI生成内容;

优先研究AI可能带来的社会风险,以避免偏见与歧视、保护隐私。

其中最为引发关注的无疑是数字水印系统的开发,该措施可以降低“深度伪造”风险,有可能帮助到面临AI生成内容冲击的艺术家和内容创作者。

据英国广播公司(BBC)22日报道,欧盟内部市场专员布雷顿6月访问旧金山期间,和OpenAI首席执行官阿尔特曼就讨论了这个问题,后者当时表示,他“很乐意在不久后”展示OpenAI在水印方面所做的工作。

据《华盛顿邮报》21日称,谷歌技术人员此前也在今年5月发布的一篇博客文章中透露,公司正在开发AI生成内容的数字水印技术,称这是解决有关AI可能加剧错误信息的担忧的一种方式。此外,在AI局限性测试方面,企业也有过实践先例。在大范围推出GPT-4前,OpenAI专门组建了一支由50名学者和专家组成的“红队”,通过提出一些试探性、有一定危险的问题,来测试和微调GPT-4的响应方式。

白宫发布的会面成果事实清单

白宫发布的会面成果事实清单

根据白宫发布的声明,拜登政府还正在就AI监管一事制定一项行政令,并将寻求推动两党在国会通过相关立法。白宫没有提供行政令的细节,但《纽约时报》称,该行政令旨在解决另一个问题,即如何控制中国和其他竞争对手获取新AI程序或开发相关组件的能力,该令预计将涉及对先进半导体以及大型语言模型出口的限制。

值得注意的是,不少媒体在报道时都指出,这项自愿协议并不具有约束力,其不包括具体的截止日期或报告要求,用词也偏宽泛,政府机构可能在后续监管上面临困难。事实上,如果上述企业不遵守承诺,被授权监督履行的美国联邦贸易委员会也只能诉诸消费者保护法。相较之下,潜在的行政令可能会激起业界更多反对。

此外,尽管白宫和许多美媒都称这些承诺是拜登政府在为AI技术加装“护栏”方面的“最有力尝试”,有分析认为该协议并没有直接解决AI监管中的一个关键问题:AI模型训练的基础数据库来源的合法性和潜在侵权争端。《巴伦周刊》指出,前述承诺并不包括强迫AI企业披露用于训练其AI系统的数据,但就在本月初,美国多名作家刚向Meta和OpenAI提起诉讼,指控其使用自己的书籍内容训练AI模型。

“尽管白宫急于给人留下其在AI开发领域处于领先地位的印象,但问题是这些公司将能够在多大程度上遵守这些自愿承诺。”《巴伦周刊》写道。纽约大学斯特恩商业与人权中心副主任保罗·巴雷特(Paul Barrett)也对媒体表示,白宫还需要做更多工作来防止AI风险。

责任编辑:薄晓舟

相关阅读:
“神探”李昌钰被判对“伪造一起谋杀案证据”负责,曾为自己辩护 美籍华裔刑事鉴识专家李昌钰被指伪造证据,美法院判须赔偿