Meta宣布改变其关于AI生成内容和操纵媒体规则，这是在 Oversight Board 批评之后做出的决定。公司表示，从下个月开始，它将为更多类型的内容打上标签，其中包括为深度伪造内容打上“Made with AI”标识。当内容以其他可能误导公众关注的方式进行了篡改时，可能会显示额外的上下文信息。

这一举措可能导致这家社交网络巨头为有可能具有误导性的更多内容打上标签——这对于全球范围内众多选举正在进行的一年来说是至关重要的。然而，对于深度伪造内容，Meta只会在相关内容具有“行业标准AI图像指示器”，或者上传者已披露内容为AI生成时才会应用标签。

不在这些范围内的AI生成内容，可以假定将逃过标记。

这一政策变更也可能导致更多的AI生成内容和操控媒体留在Meta的平台上，因为公司正在转向更注重“提供透明度和额外上下文”的方式来处理“这类内容更好的方法”（而不是撤销操控媒体，考虑到对言论自由的相关风险）。

因此，在Meta平台上，如Facebook和Instagram上的AI生成或者其他操控媒体，策略似乎是：更多标签，更少撤下内容。

Meta表示将停止根据其当前的操纵视频政策仅仅撤下内容，七月份时，公司在周五发表的一篇博客中写道：“这个时间表让人们有时间了解自我披露流程，然后我们就会停止撤下较少的操纵媒体。”

这一转变的方式可能是为了回应对Meta在内容管理和系统风险方面不断增加的法律要求，例如欧盟《数字服务法案》。自去年8月以来，该欧盟法律适用于其两个主要社交网络，要求Meta在清除非法内容、减轻系统风险和保护言论自由之间走一条细线。欧盟还在六月份欧洲议会选举之前向平台施加额外压力，包括敦促科技巨头在技术上可行的情况下给深度伪造内容加水印。

即将到来的美国总统选举可能也在Meta的考虑范围之内。

监督委员会的批评

Meta的咨询委员会，这个由科技巨头资助但被允许保持独立运作的机构，只检查了其内容管理决策的一小部分，但也可以提出政策建议。Meta不受制于委员会的建议，但在这种情况下，公司同意修改其方式。

在上周五发布的博客中，Meta内容策略副总裁Monika Bickert表示，公司正在根据委员会的反馈修改其关于AI生成内容和操控媒体的政策。“我们同意监督委员会的观点，即我们现有的方法太过狭窄，因为只覆盖了通过AI创建或编辑以使人物显得说了他们没有说的视频，”她写道。

今年二月，监督委员会在接手一则对总统拜登进行篡改以暗示性目的的虚假视频后，敦促Meta重新考虑其对AI生成内容的方式。

在Meta决定让特定内容保留的同时，他们抨击公司对操控媒体的政策“不连贯”——比如，它仅仅适用于通过AI创作的视频，而对其他伪造内容（如更基本的编辑过的视频或音频）却睁一只眼闭一只眼。

Meta似乎已经接受了这个批评反馈。

“在过去四年，特别是在过去一年里，人们已经开发了其他种类的逼真AI生成内容，比如音频和图片，而且这项技术在迅速发展，”Bickert写道。“正如监督委员会所指出的，同样重要的是要解决显示一个人做了他们没有做的操控内容。”

“委员会还主张，当我们撤掉否未违反我们社区标准的操控媒体时，我们不必要地冒着限制言论自由的风险。它推荐对操控媒体采取‘较少限制’的方式，例如带有上下文标签等。”

今年早些时候，Meta宣布正与行业内其他人士合作制定识别AI内容的通用技术标准，包括视频和音频。公司正在依赖这一努力来扩大对合成媒体的标记。

“我们对AI生成视频，音频和图片的‘Made with AI’标签将基于我们检测到的行业共享AI图像信号，或人们自我披露他们正在上传AI生成内容，”Bickert表示，指出公司已经将“用AI想象”标签应用到使用其Meta AI功能创建的逼真图片上。

根据Bickert的说法，这一扩展政策将覆盖“监督委员会建议标记的操控内容之外更广泛的一系列内容。”

“如果我们判断数字创建或修改的图片，视频或音频存在特别高风险会实质性地误导公众关注重要事项，我们可能会添加更为突出的标签，以便人们获得更多信息和上下文，”她写道。“这一总体方法为人们提供了更多关于内容的信息，使他们能够更好地评估内容，并在其他地方看到相同内容时，会有上下文。”

Meta表示，除非违反其他规定（如干扰投票、欺凌和骚扰、暴力和煽动，或其他社区标准问题），否则不会撤除操控内容，无论是基于AI还是其他方式编辑而成的。如上所述，对于某些高度引人关注的场景，公司可能添加“信息标签和上下文”。

Meta的博客文章强调了一个接近100个独立事实检查员的网络，公司表示它已经与他们合作，帮助识别操控内容相关的风险。

Meta表示，这些外部实体将继续审查虚假和误导性的AI生成内容，当他们将内容评为“虚假或篡改”时，Meta称将采取算法变更以减少内容的传播范围——这意味着内容将显示在动态中的位置更低，因此会有更少的人看到它，此外Meta还会为那些看到它的用户添加附加信息的覆叠标签。

随着合成内容的增加，第三方事实检查员似乎将面临着越来越多的工作负担，这种增长是由生成式AI工具的蓬勃发展所推动的。由于这一政策转变的结果，更多这样的内容似乎将继续留在Meta的平台上。

Meta将扩大对AI生成图像的标记，而今年正值选举年

欧盟为社交媒体巨头和DSA范围内其他人发布了选举安全指导