韩国首尔 (AP) — 世界领先的人工智能公司在一次关于人工智能的迷你峰会上承诺安全开发这项技术，其中包括在无法控制最极端风险时停用。世界各国领导人预计将在周二通过虚拟方式讨论人工智能的潜在风险，以及促进其益处和创新的方式。

AI首尔峰会是去年11月英国博莱公园高调AI安全峰会的低调跟进活动，与会国家同意共同努力遏制人工智能飞速发展可能造成的“灾难性”风险。

这两天的会议由韩国和英国政府共同主办，主要涉及像Meta、OpenAI和谷歌等主要科技公司发布其最新人工智能模型的版本。

据英国政府宣布，16家人工智能公司在会谈开始时作出了自愿承诺，致力于人工智能安全。这些公司包括亚马逊、微软、法国的Mistral AI、中国的Zhipu.ai以及阿联酋的G42，它们承诺确保最尖端的人工智能模型的安全性，并承诺有问责制的治理和公开透明度。

承诺包括公布安全框架，阐明他们将如何衡量这些模型的风险。在极端情况下，如果风险严重且“不可容忍”，人工智能公司将不得不启动关闭开关，停止发展或部署他们的模型和系统，如果他们不能缓解风险。

自去年英国会议以来，人工智能行业“越来越关注最紧迫的问题，包括错误和失信息、数据安全、偏见以及保持人类在回路中，”签署协议的AI公司之一Cohere的首席执行官Aiden Gomez说。“我们必须继续考虑所有可能的风险，同时优先考虑那些如果不得到妥善处理可能造成问题的风险。”

周二晚上，韩国总统尹锡喆和英国首相里希·苏纳克将与其他世界领导人、行业领袖以及国际组织负责人进行一次虚拟会议。根据组织者的说法，这次在线峰会将在周三的实体会议上得到数字部长、专家和其他人的跟进。

尽管去年英国会议聚焦于人工智能安全问题，但本周的议程被扩大以包括“创新和包容性”，韩国国家安全的一位副局长王允钟周一告诉记者。

王允钟表示，与会者随后将“讨论的不仅是人工智能带来的风险，还有其积极方面以及如何平衡地为人类做出贡献。”人工智能协议将包括在安全、创新和包容性方面的讨论结果，根据总统尹的科学技术高级顾问朴相旭。

全世界各国政府一直在争分夺秒地制定人工智能的法规，尽管技术迅速进步，有望改变教育、工作场所、版权和隐私等方面的许多方面。人们担心人工智能的进步可能会夺走工作、欺骗人们、传播虚假信息。

本周的会议只是一系列制定人工智能限制措施的努力之一。联合国大会已批准了关于人工智能系统安全使用的第一项决议，而美国和中国最近举行了首次高级别人工智能会谈，欧盟的世界首个人工智能法案将于今年晚些时候生效。

__

Chan从伦敦为本报做出了贡献。