到目前为止，Deepfakes对面部支付不构成威胁

微信面部识别支付。 （图片来源：TechNode / Shi Jiayi）

一个新的中国应用程序允许用户将他们的脸部植入到著名电影和电视节目的场景中，于上个月底登陆。 Zao很快就冲击了中国Android和iPhone免费应用下载排行榜的榜首。然而，该应用程序的成功是短暂的。

这个国家越来越精明的在线社区迅速发现了Zao用户协议中的一些非常可疑的条款，随之而来的是公众的强烈反对。来自Zao背后的在线约会巨头Momo的高管在应用程序发布四天后于9月4日被我国传唤，讨论数据收集实践和隐私保护。该应用程序在同一天更新了其隐私政策。

然而，Zao的迅速崛起不仅引发了对可疑数据收集实践的担忧，而且还引发了对如何恶意使用内容以绕过面部识别支付平台等安全系统的担忧。

仅为娱乐用户而创建的程序可能看起来不像专业的面部映射软件那样技术复杂，但仍然存在重大的隐私风险。 “鉴于这些技术使用的生物识别数据本质上是不可撤销的，一旦数据被泄露或滥用，就会给用户带来严重和永久的后果，”IEEE亚太办事处执行委员会成员董静说。该协会上周五举办的媒体活动。

“它甚至可能影响司法调查，保险评估以及其他严重和敏感的领域，”拥有博士学位的董先生补充道。在模式识别方面，担任中国人工智能协会副秘书长。

聚焦面部识别

随着面部扫描技术在中国变得越来越普遍，Zao的反击已经蔓延到支付提供商，迫使领先的玩家支付宝发布公开声明（中文）来捍卫其面部识别能力，这并不足为奇。支付宝表示，deepfake应用程序不会对其支付工具造成任何风险，也不能在其支付设备上以欺诈手段使用。

“在扫描用户的面部特征之前，设备将检测面部信息是来自图像，视频片段还是由软件生成，这可以有效避免因假面部信息（我们的翻译）而导致的身份欺诈案件，”该公司说过。全球拥有超过10亿用户，支付宝于2017年推出了面部识别系统，用于商业用途。

在Zao的到来两天后，社交媒体巨头微信选择阻止从面部交易所应用程序共享的内容。微信支付最近展示了自己的新型面部扫描设备。

Dong表示，使用Zao的面部交易所技术绕过面部识别系统可能有点牵强。虽然这项技术已经存在了一段时间，但使用它来破解安全系统并不是一件容易的事，她告诉TechNode。

虽然Zao的开发人员尚未确认他们是否使用了开源深度技术，但Dong表示他们具有很强的相似性。该应用程序可能在数据库电视和电影剪辑上训练算法 – 并且他们改进了面部交易所功能，以便用户的脸部看起来很逼真。但是，该应用程序无法将用户选择的面部特征植入视频内容。她补充说，它有其局限性，并不像人们想象的那么先进。

Deepfake探测器

Dong目前正在开发一种人工智能工具，能够检测图像或视频是否已被深度伪造或变形技术修改。在越来越多地使用面部扫描应用程序的世界中，应该有“防御机制”，例如，可以用来告诉软件生成的视频来自真实的视频。董先生说，这种技术也可用于查明站在面部识别摄像头前的人是否伪装。

对于在金融服务中使用面部识别的疑虑，董表示，该技术已经相当成熟，并已在中国广泛使用。但是，她将金融部门缺乏采用归因于所涉及的风险程度。机构不愿意承担这些风险或认为没有必要。 “这不是一个技术问题，在更广泛的应用层面，市场尚未成熟，”她说，并补充说，目前，监管框架仍然不明朗。