首页 > 国际新闻 > 正文

全球AI换脸色情人物一半是韩国人!韩方找法方:要和“电报”谈

[文/观察者网阮佳琪]

最近一周,韩国“深度伪造”(deepfake)AI换脸性犯罪事件曝光,以女性为主的近千人受到侵害,200多所学校牵涉其中,初高中生未成年人作案比例惊人,正进一步引发韩国社会恐慌。据韩联社29日报道,在当天召开的韩国国会紧急会议上,韩国政府和执政党国民力量党就加强措施打击此类犯罪达成共识。

报道提到,对于有关受害者照片和信息在“电报”(Telegram)群组的流出,双方还决定推动与“电报”的运营公司开通合作热线,并采取立法措施,打击制作并意图分发“深度伪造”色情内容的犯罪行为,对有关犯罪者的最高监禁期限从目前的5年提高到7年,从立法角度将“虚假视频”传播的刑期与“非法拍摄”等同。

执政党政策委员会主席金相勋在会后表示,“深度伪造”色情内容正通过“电报”广泛传播,但由于Telegram的服务器位于海外,这让国际合作面临挑战。他补充道,韩国政府将与“电报”的运营方举行会议,并寻求与该公司建立热线电话,以推动定期协商机制。

报道还称,考虑到“电报”的创始人兼首席执行官帕维尔·杜罗夫近日在法国被捕后获得保释,韩国国家媒体监督机构韩国广播通信委员会表示,韩方已紧急致函法国当局,要求协助打击网络性犯罪。

全球AI换脸色情人物一半是韩国人!韩方找法方:要和“电报”谈

当地时间8月30日,“深度伪造”犯罪让韩国社会恐慌,多名女性中央政府集会前抗议。视觉中国

过去一周时间里,韩国警方发现了大量与学校、医院、军队有关的涉案社交媒体群组,这些群组里的淫秽影像经深度伪造换脸而制成。涉及群组的参与人数不等,少的几百上千人,多的有数万人以上,总计参与用户多达22万人(包含可能重复的情况)。经初步调查,受害者80%为女性,包括大学生、教师、军人等,甚至有不少初高中生等未成年人。

根据韩国妇女人权研究所公布的数据,从今年1月1日到上周日,共有781名“深度伪造”受害者在线求助,其中288名(36.9%)是未成年人。据韩国教师联盟估计,目前已有超过200所学校受到影响。

一个更令人恐慌的趋势是,在这些案件中,未成年人作为加害者的涉案比例相当惊人。

“网上最近针对不明人数的深度伪造视频正迅速传播。受害者通常是未成年人,而施暴者大多是青少年。”8月27日,尹锡悦就此次事件发表讲话称:“虽然他们拿恶作剧为这类行为开脱,但这是在匿名的遮羞布之下恶意利用技术的明确的犯罪行为……任何人都可能成为受害者。”

根据韩国警察厅的说法,今年前七个月共报告了297起色情相关的“深度伪造”犯罪案件,高于去年的180起,几乎是2021年数据首次整理时的两倍。在178名被指控的人中,青少年涉案者超六成(113人)。

在最近4年被立案调查的嫌疑人中,青少年比例仍然维持在较高水平,从2021年的65.4%、2022年的61.2%上升到2023年的75.8%。今年前7个月则达到了73.6%。

据《朝鲜日报》报道,因为“只是觉得有趣”、“只是在开玩笑”、“用熟人的照片P图更真实”等原因,“深度伪造”在韩国10代群体之间像“游戏”一样盲目蔓延。加之“电报”等社交媒体的匿名性,犯罪者更加有恃无恐,甚至出现了“只有傻瓜才会被被警察逮住”的言论。

《东亚日报》的报道提到了一个案例:2021年7月,韩国某校一名初三学生A某委托他人,用深度伪造将两名15岁女生的脸部合成到裸体照片中,此后A某自己学会了制作方法,并先后制作了包括以儿童、青少年为性剥削对象的177件伪造色情图频,在“电报”聊天室中贩卖盈利。A某更变本加厉将合成图片发送给受害女性,威胁对方拍摄裸体视频。被警方抓获后,A某去年被判有期徒刑2年,缓刑4年。

韩联社指出,深度伪造性犯罪在青少年中蔓延,但政府并没有采取任何预防措施,没有通过教育进行主动干预,只能通过执法机构在事后进行惩处。韩国政府政策协调办公室30日对此回应表示,韩国教育部已决定在教育领域采取具体措施,包括加强学校的预防教育等。

首尔警察厅官员表示,许多青少年因过度依赖信息技术,缺乏相关法律意识,参与制作和传播深度伪造内容,导致校园内此类犯罪行为泛滥。警方计划与教育部门合作,强化学校的数字性犯罪预防教育,包括告知学生分发非法合成材料是严重犯罪,以加深学生对数字性犯罪的认识。

在敦促政府迅速采取措施遏制此类犯罪行为中,韩国国民力量党党首韩东勋也强调,有必要下调未成年人承担刑事责任的年龄标准。

按照韩国《少年法》目前的规定,年龄在10至14岁之间的儿童不对自己的行为承担刑事责任,不会被送往监狱,而是会被送去少年拘留所,或被判罚从事社区服务。

目前韩国警方已成立特别工作组,从8月28日开始展开为期七个月,针对深度伪造性犯罪等虚假视频案件的专项行动。由于“电报”服务器设在境外,且涉案人可随手删除淫秽影像和自己发布过的信息,侦查难度较大,韩国警方计划以市、道警察厅网络性暴力调查组为中心积极展开整治行动。

韩国《中央日报》援引美国安全服务机构“SecurityHero”最新公开的《2023深度伪造技术现状》报告报道称,韩国被评为最容易受到深度伪造技术性剥削的国家。

据报道,去年7月至8月,对前10名深度伪造技术色情网站和YouTube、DailyMotion等85个深度伪造技术频道进行分析的结果显示,在深度伪造技术性剥削物中出现的人物中,53%是韩国人,排名第一。紧随其后的是美国(20%)、日本(10%)、英国(6%)。 

多家外媒也关注到,在数字性犯罪上有着诸多黑历史的韩国,又在面临深度伪造性剥削的打击。“长期以来一直在努力根除‘隐藏摄像机’偷拍性爱视频的韩国,正在与深度伪造图像潮流作斗争。”英国《卫报》称。

“N号房事件”余威未消,韩国女性又陷入“AI换脸恐慌”。据《韩民族日报》30日报道,韩国网络性暴力应对中心、韩国性暴力咨询所等84个女性团体发表声明,敦促政府制定“不被狭隘的法律和部门壁垒分割的,为数字市民的安全权利制定综合对策”。

这些团体表示,即便从2017年针对数字性犯罪就已制定了不少对策,但非法合成性犯罪仍在大量发生。她们要求女性家族部恢复支援和防止性暴力的预算、加强考虑到数字性犯罪特性的警方调查、制定网络平台限制政策。

国正义党前副党首、女权主义活动家裴福珠日前对法新社表示,她不信任尹锡悦政府可以有效解决“深度伪造”犯罪问题,因为这个政府拒绝承认韩国存在“结构性性别歧视”。这也是这些女性团体的呼吁之一,她们敦促尹锡悦政府全面修改“没有结构性性别歧视”的政策基调。

相关阅读:
马克龙:欧洲AI落后了,得砸钱追上中美 俄一载有20余人直升机失联