一名被指控拥有人工智能生成的 CSAM 的男子被解雇。这就是原因。

玛丽·安妮·弗兰克斯博士理解为什么人们可能会对最近法院关于拥有人工智能生成的儿童性虐待材料的裁决感到不安。

该决定于 8 月底由 联邦上诉法院 专家组发现，第一修正案保护在家中拥有儿童性虐待材料（CSAM），前提是该材料是使用人工智能创建的并且不描绘真实的儿童。

乔治华盛顿大学法学院知识产权、技术和民权教授尤金·L·伯纳德 (Eugene L.) 和芭芭拉·A·伯纳德 (Barbara A. Bernard) 教授弗兰克斯 (Franks) 表示：“很多人都有非常可以理解的直觉，认为这听起来有多么错误，或者听​​起来像是发生了一些激进的事情。”

相反，弗兰克斯表示，该小组遵守几十年前最高法院发布的裁决，当时人工智能还没有能力渲染假人的超现实图像和真人的假图像。

“我认为这是对以前先例的简单解读，但我也理解为什么听到这个消息确实令人不安，”弗兰克斯告诉 Mashable。

但这还不是故事的结局。法官们警告最高法院可以重新考虑该先例，明确表达了他们对这一结论的不满。弗兰克斯称此举“不寻常”。

“(G)鉴于计算机生成成像技术的显着进步，特别是在人工智能领域，如果出现适当的案件，我们将受益于最高法院关于第一修正案和虚拟 CSAM 之间交叉点的额外指导，”法官 John Z. Lee 和 Joshua P. Kolar 写道。

AI CSAM案例到底是关于什么的？

由三名法官组成的陪审团是美国第七巡回上诉法院的一部分，审议了针对软件工程师 Steven Anderegg 的联邦案件的事实，Steven Anderegg 使用生成式 AI 工具创建“超现实”CSAM。

据称，他不仅制作、分发和拥有该材料，还在 2023 年 10 月通过 Instagram 私信将其发送给一名未成年人。Instagram 的母公司 Meta 发现了该图像并向警方报告。 来自国家失踪和受虐儿童中心的 Cyber​​Tipline。

随后执法调查导致安德雷格被捕。他被指控犯有多项罪行，包括故意持有“至少一张描绘未成年人从事露骨性行为的淫秽视觉图像”。

安德雷格提出驳回持有 CSAM 的指控，认为对持有 CSAM 的定罪将侵犯他在最高法院先前判决中所定义的第一修正案权利。法院同意了。检察官对该决定提出上诉，并将案件提交给美国第七巡回上诉法院，该法院最终撤销了持有指控。

其他gg 您仍需支付制作和分发费用 CSAM

为什么此类 CSAM 受到第一修正案的保护？

Franks 解释说，最高法院之前审理的一系列案件导致安德雷格持有 CSAM 的指控被撤销。

1969年，最高法院裁定： 斯坦利 vs 佐治亚 个人有权在自己的家中进行猥亵行为。

然而，1990年，最高法院在处理持有“儿童色情制品”问题时做出了例外。 奥斯本 vs 俄亥俄州。该决定承认，拥有 CSAM，即使在家中单独观察，也可以作为儿童受虐待的永久证据，并成为其他受害者的潜在诱饵。法官们推断，禁止拥有这种材料可能有助于减少 CSAM 的需求和生产。

然后在 2002 年，最高法院考虑了一项禁止拥有其的联邦法律条款 虚拟的 CSAM。该禁令的广泛目的是包括任何看似未成年人从事露骨性行为的视觉描绘或计算机生成的图像。

法院驳回了该条款，有效地宣布完全由计算机生成的 CSAM 受到第一修正案的保护。

法院没有涉及联邦法律中禁止“扭曲”CSAM 或用真实儿童图像制作的计算机生成的 CSAM 的另一项条款。

美国第七巡回上诉法院的法官最近依据 2002 年的裁决对安德雷格的上诉做出了裁决，他们认识到了这一困难。

“鉴于人工智能模型的不断进步，我们对这些案件所划定的界限有些担忧，但我们无权自行重新划定界限，”约翰·Z·李法官在他的意见中写道。

AI CSAM 接下来会发生什么

政府尚未对第七巡回法院的决定提出上诉，但弗兰克斯表示有机会这样做。在这种情况下，最高法院将考虑在 10 月份审理此案。

Franks 表示，完全虚拟的 CSAM 受到第一修正案保护的结论可能会受到成功挑战。政府尤其可以辩称 AI 模型确实是在 CSAM 图像上进行训练的。

因此，即使人工智能生成的特定 CSAM 图像没有描绘真实的儿童，它也可能是使用真实受害儿童的图像生成的。

Franks 认为，对虚拟 CSAM 的禁令应该非常狭隘和仔细地定义，以防止“反 LGBTQ+、厌恶女性和/或反性教育议程的道德斗士将其武器化”。

例如，传统基金会的 2025 项目 指出色情内容应该被禁止 那些生产和传播它的人应该被监禁。 Project 2025 将色情与“跨性别意识形态的普遍传播和儿童的性化”联系起来。

不过，弗兰克斯表示，AI CSAM 的风险是真实存在的，而不是假设的可能性。

她表示，AI CSAM 使成人和其他儿童对儿童的性化正常化，损害了他们的身体自主权、自尊和成长。

“我们应该问的问题是人工智能为 CSAM 提供了哪些可能的好处来证明这种伤害是合理的，”弗兰克斯说。

如果您是在网上遭受性剥削的儿童，或者您知道有儿童在网上遭受性剥削，或者您目睹了儿童在网上遭受性剥削，您可以向警方举报。 网络提示线这是由 国家失踪被剥削人和儿童中心。