[控场AI]
· 4 分钟阅读· 2,219 字

苹果收紧App审核:严打AI脱衣与审核后变脸

苹果收紧App审核:严打AI脱衣与审核后变脸

苹果更新审核指南,明确禁止AI生成的私密影像并严惩审核后变脸的应用。

苹果近日更新《App审核指南》,将未经同意生成的私密影像(尤其AI"脱衣"图像)明确列为必须主动防范和清除的内容,要求承载用户内容的App建立预防机制而非仅靠事后举报,违规者可能被移出App Store。针对第2.5.19条所涉的"审核后变脸"(bait-and-switch)行为,苹果将处罚升级为移除应用并把开发者从开发者计划中除名。第5节则明确涉儿童剥削或人口贩卖的App不仅下架,还将被阻止通过替代渠道分发。苹果同时披露,去年阻止了超15万个问题App并终止超19.3万个欺诈开发者账号,整体思路正从"事后响应"转向"主动防御"。

苹果近日更新了《App审核指南》,明确将未经同意生成的私密影像(包括AI生成的"脱衣"图像)列为必须主动防范和清除的内容。同时,针对长期存在的"审核后变脸"问题,新规也给出了更严厉的处罚措施。

rss source: Strengthening App Review Guidelines against nonconsensual intimate imagery and bait-and-switch apps

核心变化:AI生成的私密影像被明确禁止

根据更新后的指南第1.2条,内容审核要求现在明确覆盖非自愿私密影像,其中特别点名了使用AI工具生成的此类影像。这意味着,提供生成或托管用户内容的App,必须建立主动的预防和移除机制,而不能仅仅依靠事后举报。

苹果在原文中强调,色情内容在App Store上一直是被禁止的,这包括生成裸体或色情图像的App,例如那些未经本人同意就创建真实人物色情图像的"脱衣"(nudification)应用。对于承载用户生成内容的App,苹果要求其必须过滤不良内容、提供举报渠道,并允许用户屏蔽滥用账号。

新规的威慑力在于执行层面:如果开发者未能实施足够的保护措施,或者在收到通知后未能纠正违规行为,将面临违反《开发者行为准则》的风险,并可能被移出App Store。

NCII(Non-Consensual Intimate Imagery,非自愿私密影像) 指未经当事人同意而制作、传播的私密或性化影像,长期被视为一种数字性暴力形式。在生成式AI普及之前,此类内容多源于偷拍、报复性泄露或胁迫;而"脱衣"类应用(nudification apps)借助扩散模型,只需一张普通照片即可合成逼真的裸体图像,使受害门槛大幅降低,且受害者往往难以证明图像为伪造。包括美国《Take It Down Act》在内的多国立法正将"在合理期限内移除NCII"设为平台的法定义务。苹果此次把NCII明确写入审核指南,正是对这一监管趋势与AI滥用现实的回应,也把"主动预防"而非仅"事后举报"确立为平台合规基线。

严打"审核后变脸":从下架到封号

另一项关键更新来自第2.5.19条。该规则澄清了苹果对"挂羊头卖狗肉"行为的长期禁令——即App在审核过程中隐瞒真实用途,获批后再改变功能。例如,在提交审核的版本中不包含某些功能,上线后才偷偷加入。

原文明确指出,包含隐藏或未记录功能的App是被禁止的。那些在审核时谎报目的、仅在获批后才暴露有害能力(如"脱衣"功能)的App,正是典型的"bait-and-switch"(诱饵调包)策略。

对于此类行为,苹果的处罚力度显著升级:涉事App将被移出App Store,同时开发者也会被苹果开发者计划除名。这相当于切断了违规开发者的后续发布渠道。

Bait-and-switch(诱饵调包) 一词源于营销领域,指先用低门槛或无害的承诺吸引用户,待其接受后再替换为另一种(通常更昂贵或有害的)产品。在App生态中,它特指"审核时隐藏有害功能、上线后再动态激活"的手法,常见实现方式包括服务端远程配置开关(feature flag)、根据地域或审核环境返回不同代码,以及在审核通过后通过热更新注入内容。这类行为之所以危害大,是因为静态审核只能看到提交版本,恶意功能能长期潜伏。苹果此次将处罚从"移除App"升级到"除名开发者账号",正是为了抬高反复违规的代价,让换壳重新上架不再可行。

儿童安全与人口贩卖:从下架到阻断分发

指南第5节也进行了更新。App Store一直禁止涉及人口贩卖或儿童剥削(包括儿童性虐待材料)的App。原文说明,一旦发现此类内容,苹果会将其下架。

此次更新进一步明确,包含此类内容的App不仅会被移出App Store,还将被阻止通过替代分发渠道传播。这堵住了违规者试图绕过官方商店继续分发有害内容的漏洞。

替代分发渠道 指的是绕过官方应用商店的安装途径,主要包括企业签名(Enterprise Certificate)、开发者证书侧载、TestFlight测试分发,以及网页安装包(如iOS的企业级或第三方市场分发)等。由于欧盟《数字市场法》(DMA)要求苹果开放侧载与第三方市场,原本被App Store封禁的应用理论上可能借道这些渠道继续传播。苹果声明将对涉儿童剥削或人口贩卖的内容在这些渠道上一并阻断,实质上是把"商店审核"扩展为"生态级封杀",避免违规者通过更换分发路径规避平台治理。

执行力度:一年拦截超15万问题App

苹果在公告中披露了一组执行数据:去年,苹果阻止了超过15万个存在安全问题的App触达用户,并终止了超过19.3万个涉及欺诈和滥用的开发者账号。

这些违规行为背后往往是恶意行为者,有时甚至是协同欺诈操作。他们试图隐藏有害内容,使其在App获批后才激活。苹果表示,随着这些策略的演变,公司也在持续改进工具和资源,以更快地预防和捕获此类行为。

从此次更新的整体思路来看,苹果正在将审核重点从"事后响应"转向"主动防御"。对开发者而言,这意味着合规成本在上升;但对用户而言,这或许能减少那些以AI为噱头、实则侵犯隐私的恶意应用在商店中的存活空间。

#苹果App审核指南#AI脱衣应用#非自愿私密影像#审核后变脸#App Store安全#开发者行为准则#内容审核
分享:

相关推荐