2023年12月，宾夕法尼亚州兰开斯特市被曝光，当地两名十几岁的男孩在社交聊天平台Discord上的私人聊天中分享了数百张女孩的裸照。目击者说，这些照片很容易被误认为是真的，但它们是假的。这些男孩使用了一种人工智能工具，将女孩的真实照片叠加到露骨的色情图片上。

　　随着社交媒体平台上大量真实照片的出现，以及人工智能工具在网络上变得越来越容易获取，从加州到德克萨斯州和威斯康星州，类似的事件在全国各地都在发生。总部位于华盛顿特区的非营利组织民主与技术中心（Center for Democracy and Technology）最近进行的一项调查发现，15%的学生和11%的教师知道至少有一幅深度造假作品以露声色或亲密的方式描绘了与他们学校有关的人。

　　最高法院已经含蓄地得出结论，以真实儿童的图像为基础的电脑生成的色情图像是非法的。使用生成人工智能技术制作未成年人的深度假色情图像几乎肯定属于该裁决的范围。作为一名研究宪法和新兴技术交叉领域的法律学者，我看到了对现状的新挑战：人工智能生成的图像完全是假的，但与真实照片无法区分。

　　尽管互联网的架构一直让人们难以控制网上分享的内容，但全球大多数监管机构都认为，有几类内容应该受到审查。儿童色情位居榜首。

　　几十年来，执法机构一直在与大型科技公司合作，从网络上识别和删除这类材料，并起诉那些创建或传播这些材料的人。但是，可生成人工智能的出现，以及宾夕法尼亚案例中使用的那种易于使用的工具，给这些努力带来了令人烦恼的新挑战。

　　在法律领域，儿童色情通常被称为儿童性虐待材料，因为该术语更好地反映了图像和录像中所描绘的虐待以及由此对所涉儿童造成的创伤。1982年，最高法院裁定，儿童色情不受第一修正案的保护，因为保护未成年人的身心健康是一项令人信服的政府利益，因此禁止儿童性虐待材料的法律是正当的。

　　纽约诉费伯案实际上允许联邦政府和所有50个州将传统的儿童性虐待材料定为犯罪。但随后的2002年阿什克罗夫特诉自由言论联盟（Ashcroft v. Free Speech Coalition）一案，可能会使将人工智能生成的儿童性虐待材料定为刑事犯罪的努力复杂化。在那起案件中，法院推翻了一项禁止电脑生成儿童色情内容的法律，有效地使其合法化。

　　法院发现，当这些淫秽材料是由电脑生成时，政府保护儿童身心健康的利益并没有受到牵连。“虚拟儿童色情与儿童性侵没有‘内在联系’，”法院写道。

　　根据儿童权益组织“足够的虐待”，37个州通过修改现有的儿童性虐待材料法律或制定新的法律，将人工智能生成或人工智能修改的CSAM定为刑事犯罪。在过去的一年中，这37个州中有一半以上制定了新的法律或修改了现有的法律。

　　例如，加利福尼亚州于2024年9月29日颁布了第1831号议会法案，该法案修改了其刑法，禁止制作、销售、拥有和分发任何“数字修改或人工智能生成的物质”，这些物质描绘了18岁以下的人从事或模拟性行为。

　　根据“足够的虐待”网站的说法，虽然这些州的一些法律针对使用真人照片来制作这些深度造假，但其他州的法律更进一步，将儿童性虐待材料定义为“任何看起来是18岁以下未成年人参与性活动的照片”。像这样的法律包含了没有描绘真实未成年人的图像，这可能与最高法院的阿什克罗夫特诉自由言论联盟案的裁决背道而驰。

　　在阿什克罗夫特案中，有关人工智能生成的儿童性虐待材料的新问题的裁决中，最重要的部分可能是最高法院没有废除的部分法规。该法律的规定禁止“更常见、更低技术含量的制作虚拟（儿童性虐待材料）的手段，即所谓的电脑变形”，即拍摄真实未成年人的照片，并将其变形成露露的性描述。

　　法院的裁决指出，这些经过数字处理的对未成年人的露点性描绘“暗示了真实儿童的兴趣，在这个意义上更接近费伯的图像。”该裁决参考了1982年的纽约诉费伯案（New York v. Ferber）。在该案中，最高法院维持了纽约州的一项刑事法规，该法规禁止任何人故意为16岁以下儿童的性表演助威。

　　法院在Ferber和Ashcroft案中的判决可以用来证明，鉴于对真正的未成年人造成的心理伤害，任何人工智能生成的真实未成年人的色情图像都不应作为言论自由受到保护。但这一论点尚未在法庭上提出。法院在阿什克罗夫特的裁决可能允许人工智能生成未成年人的色情图片。

　　但法官克拉伦斯·托马斯（Clarence Thomas）在阿什克罗夫特案中表示赞同，他警告说：“如果技术进步阻碍了对‘非法言论’的起诉，政府很可能会出于强烈的兴趣，禁止或以其他方式规范某些狭窄类别的‘合法言论’，以便有效地执行法律，打击通过虐待真实儿童制作的色情作品。”

　　随着人工智能最近取得的重大进展，执法人员很难（如果不是不可能的话）区分真孩子和假孩子的图像。有可能我们已经达到了这样的地步：计算机生成的儿童性虐待材料需要被禁止，这样联邦和州政府才能有效地执行旨在保护真正的儿童的法律——这一点托马斯在20多年前就警告过了。

　　如果是这样的话，容易获得生成人工智能工具可能会迫使法院努力解决这个问题。