Hartley Charlton·5 天前
苹果与谷歌被要求移除 AI“脱衣”应用 [更新]
据《连线》杂志报道，旧金山市检察官已致函苹果和谷歌，要求下架 13 款 AI “换脸”应用，这些应用能够生成未经他人同意的裸露图像。
检察官办公室于本周四寄出了这些信函，针对的是 8 款 App Store 上的应用和 5 款 Google Play 商店上的应用。这些应用号称是换脸工具，实则被用于对真人照片进行“脱衣”处理。检察官办公室希望两家公司切断与开发者的联系，并停止抽取应用内交易分成，理由是它们实际上是在“协助”色情深度伪造图像的销售。这位检察官称该行为“违法、有害且完全不可接受”，并认为苹果和谷歌已从这些应用中收取了数百万美元的费用。
两家公司都制定了禁止色情内容的开发者规则，并在研究人员标记后移除了多批“脱衣”应用。谷歌一位发言人告诉《连线》杂志，该公司因违反政策已删除了数百款具有“脱衣”功能的“nudification”（裸露）应用，其中包括信中提到的 5 款。6 月份有消息称，苹果已收紧了应用商店关于开发者对色情内容负责的指导原则措辞。
更新：苹果告诉 MacRumors，公司非常重视违反指导原则的应用举报。苹果对所有开发者执行应用审核指导原则，其中包括禁止露骨色情或色情内容的特定条款。因此，“nudification”（脱衣）类应用违反其指导原则，公司已主动拒绝并移除了许多此类应用，包括用户进行举报后。
应用商店旨在成为用户安全、值得信赖的地方，我们始终严格禁止旨在生成、分发或消费色情的应用。“脱衣”应用违反了我们的应用审核指导原则，我们已经主动拒绝了许多此类应用，并移除了许多其他应用，包括当用户通过举报工具标记它们时。我们已移除了涉案的 3 款应用，并正在着手终止其在我们的项目中的开发者账户。我们正在联系另外 4 款需要解决政策违规问题的应用，否则也将面临被移除的风险。
用户可以访问 reportaproblem.apple.com 向应用商店举报非法、冒犯性或滥用内容，以及诈骗或欺诈行为。
这篇题为《苹果和谷歌面临被要求下架 AI “脱衣”应用的[已更新]》的文章首次出现在 MacRumors.com 上。
