2024-06-22 13:25:27

经济观察网 记者 沈怡然 6月21日，北京瑞莱智慧科技有限公司（下称“瑞莱智慧”）在2024年产品发布会上发布了一款面向个人用户的AIGC（生成式人工智能技术）实时检测产品RealBelieve，能帮助用户鉴别通话或网络视频中的人脸真伪，也可在用户浏览网页内容时提供AI合成可能性提示。

瑞莱智慧成立于2018年，专注于人工智能安全可控技术，其客户涵盖金融、工业、公共安全等多个行业。RealBelieve产品中文名叫“尊嘟假嘟”，目前已开启内测招募。

会上，瑞莱智慧联合创始人、算法科学家萧子豪称，RealBelieve是一款软件，用户安装后，在视频通话时，产品会及时发出预警，提示视频对方的人脸是否存在AI合成的风险。实时的风险提示可以帮助用户及时调整沟通方式，快速确认对方的真实身份，避免损失；也可在用户浏览网页内容时，针对一些网页上的人物图片，提供AIGC合成可能性的提示。

萧子豪称，该产品背后的检测模型基于贝叶斯深度学习技术开发，团队构建了一整套多模态AIGC检测技术体系，能够挖掘并建模多模态、多层次、多角度的AI合成线索，度量真假差异，并进行不确定性的推理和决策。

随着人工智能进入大模型时代，数字人和AI生成的视频内容日益增多。瑞莱智慧创始人、CEO田天称，但是AI系统其实是很脆弱的，一些AI算法对黑客攻击的防御力非常薄弱。

田天举例称，攻击者在图像上施加细微、人眼难以察觉的干扰，能轻易误导AI系统作出错误的识别。例如，在人脸识别场景中，通过在人脸图像上施加微小的扰动，使得原本准确的人脸识别系统错误地将一个人识别为另一个人。这种脆弱性可能带来多种诈骗风险，攻击者可以利用AI生成的数字人或视频内容冒充他人，进行诈骗或误导公众。