[控场AI]
· 5 分钟阅读· 2,660 字

奥特曼也中招:Meta高管用AI深度伪造推广产品

奥特曼也中招:Meta高管用AI深度伪造推广产品

Meta首席AI官用深度伪造短片推广AI智能体Muse,暴露平台治理与肖像权难题。

Meta首席AI官Alexandr Wang在Instagram发布了一段AI生成的推广短片,为消费者AI智能体Muse造势,片中扎克伯格、奥特曼等科技领袖形象均为深度伪造,且未见明显标注。事件的核心张力在于:Meta一方面推动AI内容标识规范,另一方面自家高管却在平台信息流中发布未标注的伪造视频,且被伪造者还是竞争对手OpenAI的CEO,带有明确商业意图。文章由此讨论平台治理的结构性矛盾、公众人物肖像权与知情同意边界,以及消费者AI产品用deepfake营销的信任代价,并指出水印与溯源方案真正的难点在执行意愿而非技术。

Meta首席AI官Alexandr Wang在Instagram发布了一段AI生成的短视频,用来推广公司面向消费者的AI智能体Muse。视频中出现了Meta CEO马克·扎克伯格、OpenAI CEO萨姆·奥特曼等科技领袖的形象——只不过这些形象都是深度伪造的。这条消息本身就构成了一个颇具讽刺意味的注脚:当平台高管亲自下场用deepfake做营销时,AI伪造内容的边界问题再一次被推到台前。

Not even Sam Altman is safe from AI deepfakes on Instagram

事件回顾:一条推广短片引发的讨论

据原始报道,Alexandr Wang在11月早些时候把这段短片发到了Instagram上,核心目的是为Muse造势。Muse是Meta推出的消费者端AI智能体产品。短片由AI生成,出镜者包括扎克伯格、奥特曼等业界标志性人物——但这些人并未真正参与拍摄,他们的形象是被模型合成出来的。

值得玩味的地方在于身份的反差。Wang是Meta的首席AI官,Meta又是Instagram的母公司;奥特曼则是Meta在AI赛道上的直接竞争对手OpenAI的掌门人。换句话说,一段由平台方高管发布、用竞争对手CEO的伪造形象做推广的内容,居然堂而皇之地出现在了这个平台自己的信息流里。

这并非孤例。报道指出,Instagram上已经充斥着用户发布的深度伪造内容,Wang的这条短片只是其中最新、也最具话题性的一例。

为什么这件事值得关注

平台治理的尴尬处境

Meta一方面在持续投入AI内容标识与溯源技术,推动对AI生成内容的标注规范;另一方面,自家高管却用一段没有明显说明的伪造视频做产品推广。这种张力暴露了平台治理的结构性难题:规则由平台制定,而平台自己往往是最难被规则约束的一方。

对普通用户来说,问题的现实感更强。当伪造内容来自被认证的高管账号、画面质量足以以假乱真、传播场景又是日常刷到的信息流时,用户几乎没有足够线索去判断真伪。深度伪造的风险不在于技术本身有多先进,而在于它已经下沉到了最普通的社交场景。

AI深度伪造内容在社交平台上的传播场景

内容凭证(Content Credentials) 是由内容溯源与真实性联盟(C2PA)推动的一套开放技术标准,通过在文件元数据中嵌入加密签名的来源信息,让图片、视频在传播过程中携带“由谁、用什么工具、经过哪些编辑”的可验证记录。Adobe、微软、Google 等均已宣布支持,Meta 也表态会在自家产品中接入相关标识。但它的局限同样明显:元数据可以在截图、转码、二次上传中被剥离,且依赖发布方主动开启。这意味着像高管账号随手发布的合成短片,若未主动附加凭证,普通用户和平台审核系统都难以自动识别,标准的技术完备性与实际覆盖率之间存在明显落差。

名人形象与同意边界

奥特曼、扎克伯格这类公众人物的肖像被合成进商业推广内容,触及的是肖像权与知情同意的问题。公众人物对形象的商业化使用通常有更强的控制诉求,而AI生成让这种控制变得异常困难——模型可以轻易复现一个人的面部特征与说话风格,成本却低到几乎可以忽略。

这里还有一个更微妙的层面:被伪造者与发布者之间存在竞争关系。当伪造内容被用于推广竞品时,它就不只是“玩梗”或创意表达,而带有明确的商业意图。这类案例很可能会成为后续讨论AI生成内容合规边界时被反复引用的样本。

肖像权与深度伪造的法律边界 在各国差异很大。美国目前主要依靠各州法律(如加州 AB 730、田纳西州 ELVIS Act)以及《NO FAKES Act》等提案,侧重于禁止未经许可将他人形象用于商业或误导性用途;欧盟《人工智能法案》则要求深度伪造内容必须披露。但公众人物形象用于“ satire、 parody 或创意表达”时通常有抗辩空间,判断关键在于是否具有商业目的、是否可能造成误导。本案中伪造形象被用于推广竞品,商业意图较为清晰,但发布者若主张这是“玩笑式营销”,法律定性仍会存在争议,这也是此类案例容易被反复引用的原因。

消费者AI产品的营销困境

Muse作为面向消费者的AI智能体,其推广方式本身就说明了这个赛道的竞争烈度。用名人deepfake做病毒式传播,短期内的确能带来话题度;但代价是把产品与“伪造”“误导”这样的标签绑定在一起。对于需要建立用户信任的AI助手类产品来说,这种营销选择是否划算,值得打个问号。

Muse 与消费者 AI 智能体的产品定位 值得稍作说明。所谓消费者端 AI 智能体,通常指能替用户执行跨应用任务、主动发起交互的个人助理型产品,与仅提供对话的聊天机器人不同,它需要更高的用户信任度和更广的授权范围。正因如此,品牌形象与“可靠性”强绑定。用深度伪造制造话题,虽然符合社交媒体的病毒传播逻辑,却可能让潜在用户对产品的可信度产生联想性质疑——尤其当产品本身要处理用户的日程、消息等私密数据时,营销调性与产品承诺之间的错位会被放大。

更深一层:当伪造成为常态

这条新闻的标题本身就点出了要害——“连萨姆·奥特曼都不能幸免”。这句话的潜台词是:如果连站在AI产业最前沿、最有资源去维权的人都会被人随手做成deepfake发到网上,那普通用户的处境可想而知。

技术社区长期讨论的AI内容水印、内容凭证(Content Credentials)、生成溯源等方案,本质上都是在试图给伪造内容加上可识别的标记。但从这条短片的情况看,真正的难点不在技术实现,而在执行意愿与覆盖范围——只要有一个主流平台上的高粉账号没有标注,伪造内容就能获得可观的传播。

监管层面,各地对AI生成内容的标识要求正在收紧,但规则落地需要平台配合。当平台高管自己就是伪造内容的发布者时,这种配合的动力难免让人怀疑。

小结

一条为AI产品造势的短视频,意外成了深度伪造治理现状的缩影:技术门槛已经低到高管随手可用,平台规则在自家门口失灵,而被伪造的当事人恰好是竞争对手的CEO。围绕AI生成内容的讨论,正在从“技术能不能做到”转向“谁有权发布、如何标注、出了事谁负责”。这三个问题,恐怕比任何一段伪造视频都更难回答。

#AI深度伪造#deepfake#Sam Altman#Meta Muse#AI内容治理#Instagram#AI生成内容标识
分享:

相关推荐