深度伪造
深度伪造（Deepfake）是一种基于深度学习技术的数字媒体合成方法，通过生成对抗网络（GAN）等算法，将人物面部、声音或肢体动作进行高度逼真的替换或伪造，生成难以用肉眼辨别真伪的音视频内容。该技术广泛涉及娱乐、艺术创作等合法应用领域，同时也在信息安全、隐私保护及舆论操控等方面引发广泛的社会与伦理争议。
核心事实
时间轴 (近 90 天)
深度伪造的受害者分布不均匀，依赖真实记录维权的人被迫承担越来越高的证明成本。
深度伪造不仅制造假信息，更会污染真信息的可信度。
深度伪造技术动摇真实性推定的基础：当伪造在技术上可行且难以目视辨别时，“未经剪辑”不再等于“真实”。
在深度伪造时代，持有真实证据的人可能反而需要证明自己的材料不是AI生成的。
迪拜警方的一项研究警告：逼真的深度伪造技术可能让人们开始怀疑真实的照片、录音和视频。
美国国会已提出多项针对选举深度伪造的法案，要求平台标注或移除此类内容，并对制作和传播者设定刑事责任。
多国已立法要求对深度伪造内容进行标识或禁止恶意使用。
欧盟《人工智能法案》将深度伪造归入需履行透明度义务的范畴，要求生成或操纵图像、音频、视频的内容须明确披露其为人工合成，但艺术创作、讽刺等场景可获有限豁免。
深度伪造的识别目前主要依靠生物信号（如血流引起的肤色微变化）、生成伪影检测和数字水印溯源。
多个司法辖区已将具有误导性的深度伪造视为违法行为。
还有 29 条时间轴事件
全部知识事实 (20)
基于扩散模型的人脸替换与驱动技术只需少量参考图像即可将目标人物的面部特征迁移到任意视频素材上
65%待验证深度伪造的受害者分布不均匀，依赖真实记录维权的人被迫承担越来越高的证明成本。
50%待验证深度伪造不仅制造假信息，更会污染真信息的可信度。
50%待验证深度伪造技术动摇真实性推定的基础：当伪造在技术上可行且难以目视辨别时，“未经剪辑”不再等于“真实”。
50%待验证美国国会已提出多项针对选举深度伪造的法案，要求平台标注或移除此类内容，并对制作和传播者设定刑事责任。
50%待验证欧盟《人工智能法案》将深度伪造归入需履行透明度义务的范畴，要求生成或操纵图像、音频、视频的内容须明确披露其为人工合成，但艺术创作、讽刺等场景可获有限豁免。
50%待验证多国已立法要求对深度伪造内容进行标识或禁止恶意使用。
50%待验证深度伪造的识别目前主要依靠生物信号（如血流引起的肤色微变化）、生成伪影检测和数字水印溯源。
50%待验证多个司法辖区已将具有误导性的深度伪造视为违法行为。
50%待验证深度伪造技术最早在2017年前后引发公众关注，当时主要用于将名人面部替换到色情视频中。
50%待验证各国正在探索针对深度伪造的专项立法，但法律的更新速度远远跟不上AI生成能力的迭代，且跨境传播特性使单一国家监管效果有限。
50%待验证普通人识别深度伪造的实用原则包括：检查来源、注意'太完美'的叙事、反向搜索、关注平台标注、延迟分享。
50%待验证深度伪造的社会伤害在于导致人们不再相信任何照片或视频，瓦解信任机制。
50%待验证深度伪造模型只需数十到数百张目标人物的照片，即可学习其面部特征并合成新场景。
50%待验证名人成为深度伪造重灾区的原因包括：素材极度丰富、公众情绪易于操弄、传播成本趋近于零。
50%待验证AI生成的错误信息（包括深度伪造图片、AI批量生成的煽动性文案、伪装成真实用户的水军账号）使谣言识别难度上升，传统关键词过滤和人工审核很难跟上其生成速度。
50%待验证许多模型提供方选择在 API 层面直接拦截涉及真实人物的视频生成与编辑，以规避肖像权和深度伪造滥用等法律与伦理风险
50%待验证美国部分州已将未经同意制作他人的深度伪造影像列为违法行为
50%待验证加州在2023年针对深度伪造内容扩展了相关隐私法律条款
50%待验证Modulate正在部署其模型来检测深度伪造、欺诈和诈骗行为
50%