乔·拜登总统的政府正在敦促科技行业和金融机构关闭一个滥用人工智能技术制作性虐待图像的不断增长的市场。

新一代生成式人工智能工具使得将某人的肖像变为性暴露的AI深度伪造图像并在聊天室或社交媒体上传播这些逼真图像变得轻而易举。受害者 - 无论是名人还是儿童 - 几乎没有办法制止这种行为。

白宫正在周四发出呼吁，寻求在缺乏联邦立法的情况下，寻求公司的自愿合作。通过承诺一系列具体措施，官员们希望私营部门能够遏制这种未经同意的AI图片的制作、传播和变现，包括儿童的显性图像。

拜登政府首席科学顾问、白宫科学技术办公室主任阿拉蒂·普拉哈卡在接受美联社采访时表示：“随着生成式AI的出现，每个人都在猜测第一个真正危害会出现在哪里。我认为我们已经有了答案。”

她描述了一种因AI工具推动的非自愿图像的“惊人加速”，主要针对妇女和女孩，这可能颠覆她们的生活。

“如果你是一个十几岁的女孩，如果你是一个同性恋孩子，这些是人们现在正在经历的问题，”她说。“由于生成式AI的加速，我们看到了一个十分迅速的进展。而私营公司积极介入，对此负责是最快的事情。”

一份在周四发表之前与美联社共享的文件呼吁不仅AI开发者采取行动，还呼吁支付处理器、金融机构、云计算提供商、搜索引擎和掌控着移动应用商店内容的苹果和谷歌等门户监管者。

政府表示，私营部门应该积极“打破基于图像的性虐待的变现方式，特别限制对那些宣传未成年人显性图像的网站的支付访问。”

普拉哈卡表示，许多支付平台和金融机构已经表示，他们不会支持推广滥用图像的企业。

“但有时这些规则并没有得到执行，有时他们没有这些服务条款，”她说。“所以这是一个可以更加严格执行的例子。”

文件称，云服务提供商和移动应用商店还可以“遏制面向未经个人同意创建或修改性图像的网络服务和移动应用程序。”

无论是由AI生成的还是真实的裸照被放到互联网上，受害者都应该更容易让在线平台将其删除。

最广为人知的深度伪造色情图像受害者是泰勒·斯威夫特，她的狂热粉丝在一月份开展了反击行动，当时关于这位歌手的滥用AI生成图像开始在社交媒体上流传。微软承诺加强保障措施，因为一些斯威夫特的图像被追溯到其AI视觉设计工具。

越来越多的美国及其他地区的学校也正在应对人工智能生成的深度伪造裸体图像描绘他们的学生。在一些案例中，发现同学之间创建了AI操纵图片并与同学分享。

去年夏天，拜登政府通过了一项要求亚马逊、谷歌、Meta、微软和其他主要技术公司在发布新的AI系统之前在其上施加一系列保障措施的自愿承诺。

紧接着，拜登在十月签署了一项雄心勃勃的行政命令，旨在引导AI的发展，使公司可以在不危及公共安全的情况下获利。尽管其关注更广泛的AI问题，包括国家安全，但它指出了AI生成的儿童虐待图像的新问题，并寻找更好的检测方法。

但拜登也表示，政府对AI的保护措施需要得到立法支持。一组跨党派的美国参议员现在正在敦促国会在未来三年至少花费320亿美元开发人工智能并资助安全引导措施，尽管大部分推迟了将这些保障措施转化为法律的呼吁。

鼓励公司积极采取自愿承诺“并不能改变国会在这里采取行动的根本需求，”白宫性别政策委员会负责人詹妮弗·克莱因说。

长期以来的法律已经使制作和持有儿童色情图片成为犯罪行为，即使这些图片是虚假的。本月早些时候，联邦检察官指控一名威斯康星男子使用一种流行的AI图像生成器“稳定扩散”制作了数千张AI生成的逼真的涉及未成年人进行性行为的图像。该男子的律师在周三的提讯后拒绝发表评论。

但对于使这些图像变得可能的技术工具和服务几乎没有监督。有些是在飞行商业网站上，几乎没有关于运营方或其技术基础的信息。

斯坦福互联网观察所在去年十二月表示，在巨大的AI数据库LAION中发现了数千张涉嫌儿童性虐待的图像，这是一个包含在线图像和标题的索引，被用来训练稳定扩散等主要AI图片制作者。

总部位于伦敦的稳定性AI公司本周表示，他们“没有批准”威斯康星男子据称使用的早期模型的发布。这种开源模型，因为其技术组件在互联网上公开发布，很难重新归档。

普拉哈卡表示，不仅是开源AI技术造成了伤害。

“这是一个更广泛的问题，”她说。“不幸的是，这是一个很多人似乎正在使用图像生成器的类别。我们只是看到了一个爆炸式的增长。但我认为这并非仅仅分为开源和专有系统。”

——

美联社记者乔什·博克为本报告作出了贡献。