原标题:愚人节当天阿里宣布打击假新闻 背后依靠人工智能
新京报讯(记者 梁辰)愚人节当天,阿里巴巴宣布要用人工智能打破谣言。这项新技术被称为“AI谣言粉碎机”,其主要用户并不是互联网年轻用户,而是他们的父母。
这项技术的算法模型由达摩院机器智能实验室研发。对通过深度学习和神经网络,该团队设计了包括发布信息、社交画像、回复者立场、回复信息、传播路径在内的判断系统,将谣言识别和社交用户观点识别打通,最快1秒内判定结果。
阿里巴巴方面宣称,在特定场景中的准确率达到了81%。2019年初,SemEval语义测试大赛中,根据主办方提供的过去两年社交媒体推特和Reddit上的近500个真实言论和1万多条相关反馈数据,阿里巴巴的人工智能技术对假新闻识别的准确率创造了新的纪录。
达摩院智能实验室科学家李泉志此前曾在路透社工作,通过机器筛选网络信息为一线记者提供线索。李泉志解释称,判断一个新闻真假共分为三个步骤:第一,机器找出最初信源,分析用户画像,判断发布者信誉度。
其次。查看域名是否为可靠信源,以及根据正文判断。除了内容不实、上下文逻辑不连贯以外,李泉志表示,还能从行文风格中寻找线索,包括标题党和危言耸听的说辞。
第三,对传播路径进行分析。机器可以统计所有用户的态度,区别对待每条发言的权重,根据用户或机构的认证过信息进行判断。最后综合计算出新闻的可信度。
在这之前,Facebook等互联网公司,以及宾夕法尼亚州立大学、巴基斯坦信息技术大学等学术机构也都曾研究过如何利用不同的技术打击假新闻,方法包括建立数据库分析产生网络,以及通过区块链技术建立预防框架等。
目前,阿里巴巴正在训练模型具备多任务学习的能力,即同一时间完成多个复杂任务,判断内容真假、观察传播路径、挖掘用户画像等同步进行。李泉志表示这项技术不仅可以控制假新闻源头,防止谣言大规模扩散,还可以有针对性辟谣,提醒有错误认知的用户。
不过,目前阿里巴巴的困境在于如何打通不同社交平台,使得其路径还原更加完整,获取信息更加全面。阿里巴巴方面回复记者称,“我们期望这一技术能被社交平台和新闻网站应用,也欢迎大家共同推进这一技术的落地”。
达摩院语言技术实验室首席科学家司罗表示,阿里“AI谣言粉碎机”未来有望帮助社交媒体的审核机构承担60%的工作量。
新京报记者 梁辰 编辑 赵泽 校对 何燕