“AI换脸”正在成为人工智能技术滥用的重灾区

“隐身衣”“AI换脸”……这些都是自带流量的热词。在第二十三届高交会上，一家产学研机构展示的“隐身衣”和“AI换脸”吸睛无数：工作人员穿上“隐身衣”往智能摄像头前一站，刚才还被识别的工作人员瞬间“消失”了。观众往镜头前一站，你的脸就可以被换到了一个正在跳舞的身体上!

这是在展示人工智能世界下的“金蝉脱壳”技术吗?其实不是。这是清华人工智能研究院的官方产学研机构瑞莱智慧科技通过现场技术演示告诉观众，算法漏洞、技术滥用等新型风险的出现已经带来了严峻挑战，人工智能安全治理成为一项重要课题。

引来很多观众围观

在本届高交会专设的公共安全专区(暨第十八届中国国际社会公共安全博览会)现场，这件“隐身衣”引来很多观众围观。

一款特制T恤上印刷了特定的图案，能够让识别算法出错、捕捉不到目标，人一旦穿上便可以实现“隐身”。当然，人工智能可以是尖锐的矛也可以是坚固的盾。展会现场，瑞莱智慧还展示了业内首个人工智能防火墙系统，通过集成多项国际领先的对抗防御算法，能够有效检测和抵御针对人工智能系统的新型攻击风险，大幅提升人工智能系统的安全性。

用AI技术对抗“AI换脸”

当前，火爆社交网络的“AI换脸”正成为人工智能技术滥用的重灾区。一些明星、名人都曾经遭遇过AI换脸技术的侵扰。

研发人员表示，随着开源工具的普及，AI换脸的技术门槛越来越低，因此被大规模用于非法伪造公众人物肖像吸引流量牟利，甚至是色情宣传、操纵舆论、网络欺诈等违法犯罪行为。随着技术的不断升级，现有的“换脸”视频精度已经实现肉眼难以辨别的程度，传统人工审核团队束手无策。

DeepReal深度伪造检测平台

展会现场，记者看到了一款深度伪造内容检测平台DeepReal，支持快速、精准地对多种格式与质量的图像与视频进行自动化的真伪鉴别，能为遏制和防范深度伪造技术的大规模滥用提供技术支撑。据介绍，其检测准确率高达99%以上。

瑞莱智慧副总裁唐家渝表示，伴随规模化建设和应用加速发展，保证人工智能“安全、可靠、可控”成为其未来发展最重要的趋势。新安全问题需要新解决方案，为应对人工智能新型安全风险需构建新一代安全体系。随着攻击形式的不断增加、安全问题的不断升级，对于未知威胁难以进行风险预判和策略调整，因此需打造动态升级、科学前瞻的防御机制。(记者王纳)

关键词： AI换脸 人工智能技术 隐身衣 金蝉脱壳