中国通过新法规瞄准“深造”内容

Momo被阻止的换脸应用Zao(图片来源:Bigstock / tanaonte)

我国上周五发布了一份新的监管文件,针对所谓的“ deepfake”图像和视频,并通过规则呼吁媒体平台识别和删除散布虚假新闻的文件。

重要性:在线视频和音频平台承受审查内容的更大压力。详细说明伪造品或将图像或视频中的人物与他人的头像互换的媒体的标准可能会紧随文档之后。

详细信息:中国政府的网络空间管理局(CAC),文化和旅游部以及国家广播电视总局这三个政府机构发布了该文档,呼吁各平台使用Deepfake,深度学习,虚拟现实或其他新技术。

  • 该文件于1月1日生效,禁止在创建,发布或传播虚假新闻时使用Deepfake和虚拟现实(VR)技术,并呼吁平台删除此类媒体。
  • 用户必须根据《网络安全法》在具有可识别信息的平台上注册,例如政府颁发的ID或手机号码。
  • 平台应建立易于使用的投诉渠道。

  • 视听服务应发布行业标准和准则,并建立信用体系。

  • 随附文件中援引一位不具名的CAC代表的话说,中国已经有7.59亿在线视频平台用户。该文件说,深造假等新技术可能“危害国家安全,破坏社会稳定,破坏社会秩序,并侵犯他人的合法权益”。

  • 政府部门必须组织定期检查,以确保平台根据服务协议来管理在线音频和视频。

“目前,中国的假冒伪劣产品没有遇到任何严重的问题。但是,这项技术的门槛越来越低,假冒产品的复杂性也在增加。无法保证不会滥用此技术。如果滥用,可能会导致严重的社会问题和安全风险”(我们的翻译)。

-董敬,中国科学院自动化研究所副研究员

在数据收集问题中,微信阻止了Deepfake app Zao

背景:虽然假新闻在中国很普遍,但假货仍然相对较少。

  • 一家视频流公司的一名员工告诉TechNode,诈骗者的行为做得很好,没有深深的造假。这位知情人士说,平台已经在与假冒的名人资料作斗争,这些资料是为了骗取粉丝的钱而设立的。欺诈者甚至制作了虚假版本的付费流媒体网站,以骗骗骗子者,他们相信他们是在充值以发送虚拟礼物,而是直接向小偷的口袋里汇款。

  • 一位欧洲人工智能研究人员在一封电子邮件中对TechNode表示:“使用技术来检测深度欺诈将永远是军备竞赛。” “系统地标记合成内容可能有助于拥有一个良好的培训数据库,以便在野外识别此类内容。”

  • 尽管对实名注册的有用性表示怀疑,但研究人员补充说:“投诉渠道对于检测由于人类对上下文和情况的了解而导致的深度欺诈实例非常有用,但是设置和运行起来也很昂贵,并且可能被淹没。 ”

资讯来源:由0x资讯编译自TECHNODE。版权归作者Lavender Au所有,未经许可,不得转载
提示:投资有风险,入市需谨慎,本资讯不作为投资理财建议。请理性投资,切实提高风险防范意识;如有发现的违法犯罪线索,可积极向有关部门举报反映。
你可能还喜欢