近期，人工智能（AI）技术的迅猛进步为社会各层面带来了前所未有的便捷，但其潜在的安全威胁同样不容忽视。特别是深度伪造技术，凭借其制造高度仿真却非真实的视频或图像的能力，已逐渐浮现出多方面的社会问题。
据央视相关报道，今年已发生多起利用AI深度伪造技术假冒名人的案例。例如，有不法分子通过AI技术，复制了著名医生张文宏的面部特征与声音，并借此进行直播带货，成功售出了1200多件蛋白棒产品。
不仅如此，刘德华和雷军等知名人物同样成为了AI伪造技术的受害者。刘德华的声音被恶意用于短视频制作，以此吸引流量，其所属电影公司也不得不多次发布声明，提醒公众提高警惕。
专业人士指出，当前的AI技术已经能够利用深度学习，轻松复制他人的面部和声音特征，仅需一张照片和一段语音样本即可完成这一过程。然而，这种技术并非完美无缺。伪造的视频往往无法进行实时直播，且在面部轮廓、背景融合度等细节方面存在瑕疵。细心观察不难发现，尤其是在口型与语音匹配度上，伪造视频常露出破绽。
根据相关法律专家介绍，未经授权使用他人的形象或声音，属于侵权行为。根据《民法典》和《网络安全法》的相关规定，发布者可能面临包括赔偿损失和承担刑事责任在内的法律后果。如果消费者因AI假冒名人带货而上当受骗，可依据消费者权益保护法要求三倍赔偿。
面对这一问题，专家呼吁短视频平台积极履行主体责任，及时下架违规内容，并对发布者采取信用管理和相应的处罚措施，以保障公众权益和平台生态的健康有序发展。
