AI 资讯站 2026-10-18 10:00 · IT

当AI深度伪造"跑赢"立法：苹果审核新规落槌，平台治理从"事后下架"转向"事前过滤"

过去两年，我们讨论AI的风险，习惯把它放在"模型能力"的坐标系里——它会不会说谎、会不会越权、会不会失控。但10月中旬苹果对《App 审核指南》的那次更新，把问题拉回到了一个更朴素、也更冷酷的层面：当一项AI能力已经被用来批量制造"未经同意的私密图像"，治理的问题就不再是"技术有多强"，而是"谁在什么时候、用哪一道闸门把它拦住"。 苹果给出的答案是：把闸门从审核台前移到开发者的代码里。这看似只是两条条款的增补，实则是平台第一次以"私法"的方式，替还来不及立法的社会按下了一个过滤开关。

一、两条新增条款，改的是"责任发生的时间点"

2026年10月16日，苹果更新了《App 审核指南》。据科技媒体梳理，这次更新有两个关键动作：

违规的后果也升级了：除了应用下架，开发者可能被终止开发者计划资格。这等于把"封应用"升级为"封人"。

值得注意的是，这两条改动的落点都不在"内容"本身，而在内容暴露的时间与路径。1.2条款把风险的判定从"是否淫秽"转向"是否经当事人同意"；2.5.19则把审核从"一次性的准入检查"变成"持续性的行为约束"。用一句话概括：过去的 App Store 是"进门查证件"，现在开始变成"进门查证件、进屋还要装摄像头"。 治理的时点，从"事后下架"整体前移到了"事前过滤"。

二、为什么是现在：一次被"法律通知"催出来的转向

苹果不是主动走到这一步的。把时间线摊开，能看清这次规则更新的真实驱动力。

从"威胁下架 Grok"到"新规落地"，苹果的响应周期约为九个月。这九个月里，真正推动它的先后是国会的质询、州检察长的调查、市检察官的法律通知——不是技术评估，也不是行业自律。 这一点很重要：它说明在 AI 深度伪造这类"伤害即时、立法滞后"的议题上，平台的合规动力首先来自法律压力，而非道德自觉。

而另一边，伤害的增速已经等不起立法。英国互联网观察基金会（IWF）的报告显示，2025年识别到的 AI 生成儿童性虐待视频约 3440 个，而 2024 年只有 13 个，同比增长约 26385%。这个数字有多惊人，用一个对比就能说明：这一年里，"用AI生成"从边缘的极少数，变成了这类犯罪的主流生产方式。 当增速是"两万多倍"量级时，任何以"立法周期"为节奏的治理都注定追不上——这恰恰给了平台"代行立法"的空间和理由。

三、"事前过滤"的技术含义：把闸门修在生成端之前

如果说规则的目标是"别让这类内容出现在我的货架上"，那么选择"事前过滤"而非"事后下架"，本质上是一次责任位置的搬迁。

事后下架的逻辑是：内容出现 → 被举报/被发现 → 核查 → 移除。它的成本主要由平台承担，但伤害已经发生，而且平台永远在"追赶"已经扩散的内容。事前过滤的逻辑是：开发者必须在上架前就证明自己有过滤能力——据梳理，这被具体化为过滤、举报、封禁、联系方式四道防线，缺一不可。平台的审核成本被大幅压缩，因为"证明内容合规"的义务，被转移给了开发者。

这带来一个直接后果：合规变成了一项"基础设施成本"。 对有能力搭建内容审核管线的头部开发者而言，这是可以摊销的研发投入；但对大量中小开发者，"四道防线"意味着持续的人力、模型与流程支出。当合规成本无法被免费模式覆盖时，最可能的结局是：合规应用转向付费订阅，成本转嫁给用户；而扛不住成本的灰产，则干脆离开 App Store，搬到监管更松的网页端。

这不是危言耸听。从一个封闭生态里"清场"，效果往往是转移而非消灭。App Store 是围墙花园，规则在这里可以执行得很彻底；但网页、第三方分发渠道，甚至加密社交，都不在苹果的管辖范围内。旧金山检察官的通知里点名的是应用商店，可这些工具的最终归宿，很可能是浏览器。

四、我的判断：这是一次"以私法代立法"的实验，责任被转移了三次

把上面几条线索合起来看，我认为苹果这次更新，真正值得记录的不是"禁止了 AI 脱衣"这个结论——那本来就是应有之义——而是它所暴露的三个结构性事实。

第一，平台的规则正在事实上"顶替"法律。 一部针对性立法的出台，要经过提案、听证、表决、配套细则，周期以年计；而一份审核指南的更新，苹果自己说了算，九个月就能落地。在 AI 深度伪造这种"技术跑得比法律快"的领域，平台事实上成了最快的立法者和唯一的执法者。 效率是高了，但代价是：规则由一家公司制定、解释和执行，被治理者没有任何投票权。这不是苹果独有的问题——欧盟的《人工智能法案》《数字服务法》，美国的 Section 230 讨论，本质都在回答"谁来约束平台的规则制定权"，只是答案还没写完。

第二，责任被转移了三次。 第一次，从"社会"转移到"平台"（平台被迫承担起公共治理职能）；第二次，从"平台"转移到"开发者"（四道防线、合规成本）；第三次，很可能从"开发者"流向"用户"（付费订阅）或"监管盲区"（网页端）。每一次转移，都会让"谁该为伤害负责"这件事变得更模糊。一套把责任层层下推的规则，看起来很严厉，实际上可能只是把成本从最显眼的环节挪到了最不显眼的环节。

第三，这次行动证明"外部压力"仍然有效，但也揭示了它的脆弱。 苹果的九个月响应，起点是议员质询和检察官通知——换句话说，如果没有这些外部触发，规则的落地时间可能是未知的。 这意味着平台治理仍然高度依赖"被发现"和"被追问"：伤害先发生、媒体先曝光、监管再介入、平台才补漏。这是一种典型的"打补丁"式治理，它的速度上限，取决于曝光的速度。

五、结语：闸门修在哪一段，才是真问题

AI 深度伪造的治理，最终会落到一个问题上：闸门到底该修在哪一段管线上？ 修在生成端（模型不许生成）？修在分发端（平台不许上架）？修在浏览端（用户不许下载）？还是修在追责端（生成者承担法律后果）？

苹果选择修在"分发端到开发者"这一段——这是它作为渠道方最有能力控制的一段，也是成本最容易被"转移"的一段。这个选择务实，但绝不彻底：它拦住了 App Store 里的显性风险，却可能把水挤向更暗的地方。

真正需要被追问的，不是"苹果做得够不够多"，而是：当一项技术的伤害增速达到"两万多倍"，我们是否还要继续接受"由平台按自己的节奏打补丁"作为主要治理方式？ 如果答案是否定的，那么下一步该修的，可能不是审核指南，而是让规则制定权本身，回到一个能被公开讨论、被共同约束的地方。

主要信源：

← 返回首页