界面新闻记者 | 于浩
界面新闻编辑 | 文姝琪
日渐成熟的AI技术正在模糊虚拟与现实的边界，诸多争议也随之出现。
2月19日，梅西于微博上就“迈阿密国际中国香港行没有出场”一事作出澄清。视频中梅西表示，未出场并非是由于政治原因或其他原因，只是因为内收肌有炎症，确实无法上场参赛。
随后这一视频被质疑可能是由AI生成。质疑者称，该视频画质模糊且存在多处剪辑痕迹，他认为在视频中的梅西面部反光异常、左肩膀阴影跳变过快、发型与现在发型有出入。基于上述因素，质疑者认为这一视频是可能是用巴黎时期因为缺训而公开道歉的视频合成。
从技术角度来看，通过AI数字人、AI换脸变声等手段制作一段“梅西本人视频”并不是新鲜事。今年年初，阿里云通义千问全民舞王功能已经能产出“马斯克跳科目三”的视频内容，如小冰、商汤等企业推出的数字人解决方案也已经步入商用阶段，在真实程度上完成商业验证。
AI换脸变声则更加普遍，以“AI换脸”为关键词在视频平台搜索就可以很轻易找到相关教程，通过AI换脸变声技术实施***的案例在近几年也频繁出现。
多发的***案例侧面说明了AI生成视频内容质量已达到一定水平。具体到梅西发布澄清视频的案例中，上海哈沐科技CEO邓庭豪认为，上述质疑者指出的“面部反光不自然”、“未露出牙齿”等特征因素可以作为辨别时的参考，但是并不能百分之百下定论。“AI生成的（视频）牙齿也可以很清晰的。”
上海哈沐科技此前曾以换脸技术为基础服务出海短剧的制作，据邓庭豪的观察，类似澄清视频这种讲话场景，现阶段的技术已经可以做到肉眼很难分辨，AI容易出纰漏的点在于手指。他表示，AI很难生成正常的连续活动的手指。布局出海短剧的易点天下也在尝试使用AI换脸技术。易点天下KreadoAI负责人罗晓奇也指出，在手部遮挡脸部的时候，AI产出的内容往往会有很大的瑕疵。
整体来看，瑞莱智慧联合创始人、算法科学家萧子豪在接受界面新闻采访时曾表示，AI生成内容越来越逼真是近几年的一个趋势，个人用户想要通过肉眼进行分辨会很困难。
在视频电话等场景下，萧子豪建议通过让对方做一些大幅度的摇头、张嘴之类的动作来尝试辨别真伪。在技术手段较弱的情况下，对方有可能会出现面部边缘或者牙齿的瑕疵。
肉眼可能很难分辨，但是借由技术手段依然可能捕捉到一些端倪。瑞莱智慧所推出的生成式人工智能内容检测平台DeepReal可对图像、视频、音频内容进行真伪辨别，在学术数据集和主流方式生成的网络数据集中的准确率为99%以上。
据萧子豪介绍，瑞莱智慧辨别思路大致可分为两种，一种是寻找图像编辑痕迹，“一般来说这类换脸都会对原先的人脸进行编辑，做动画的过程中会有类似图片编辑的操作并且留下痕迹，这类痕迹和真正拍摄时的痕迹是不一样的。我们会检测这类痕迹做出记录。”萧子豪解释说。
另一类则是检测视频中是否会展现出不符合常识的行为，如长时间不眨眼等等。综合上述特征，瑞莱智慧团队就可以判别是否存在深度伪造的可能性，并根据可能性大小来处置这一内容。
据瑞莱智慧相关工作人员介绍，生成式人工智能内容检测平台DeepReal检测结果显示，梅西澄清视频没有明显的AI生成技术痕迹。鉴定视频是否为伪造，还需结合梅西的日常习惯、发布者账号等常识性信息进行联合研判。
与“梅西澄清视频是否真人拍摄”相比，AI技术背后可能存在的安全隐患或许更值得公众关注。2月初香港便出现了一起***金额高达2亿元港币的***案例，据瑞莱智慧的不完全统计，2023年全年AI***案件在全国已发生至少16起。
随着AI技术不断取得新进展，相关监管政策也在逐步跟进。2023年年中《生成式人工智能服务管理暂行办法》中指出，服务提供者应当对图片、视频等生成内容进行标识。目前，如抖音、B站等视频平台都已上线了相关提示功能，在有AI参与制作的视频内容下都出现了“疑似AI生成”的提示。
对于个人而言，因为深度伪造制作的全材料是个人音频、图片、视频，这些数据越多训练出的视频就越逼真，所以瑞莱智慧建议，可以尽量避免在公开平台上大量晒出自己或家人的照片和视频，给不法分子提供便利。
