Meta的新人工智能委员会完全由白人男性组成

Meta在周三宣布成立了一个只有白人男性的人工智能咨询委员会。这又有什么意外呢?数十年来,妇女和有色人种一直在抱怨被忽视和排斥于人工智能世界之外,尽管她们在这个领域有资格并扮演着关键角色。

Meta并没有立即回应我们关于咨询委员会多样性的评论请求。

这个新的咨询委员会与Meta实际董事会及其监督委员会有所不同,后者在性别和种族代表上更加多样化。股东并没有选出这个人工智能委员会,而且这个委员会也没有负有受托责任。Meta告诉彭博社,该委员会将在“技术进步、创新和战略增长机会”方面提供“见解和建议”。该委员会将“定期”举行会议。

人工智能咨询委员会完全由商业人士和企业家组成,没有伦理学家或具有学术或深度研究背景的人员。虽然人们可能认为,鉴于他们在市场上推出过大量产品,当前和前任Stripe、Shopify和Microsoft的高管是很好的人选来监督Meta的人工智能产品路线图,但已经多次证明人工智能与其他产品不同。这是一个充满风险的业务,出现错误的后果可能影响深远,特别是对边缘化群体。

最近,人工智能研究所的董事总经理Sarah Myers West在接受TechCrunch采访时表示,“批判性地审查”生产人工智能的机构非常关键,以确保满足公众需求。

“这是一个容易出错的技术,根据独立研究,这些错误并不是平均分布的,它们对长期承受排斥歧视的社区造成的伤害更大,”她说。“我们应该设定一个更高的标准。”

人工智能领域有更大可能遇到AI的阴暗面。Sensity AI在2019年发现,96%的在线AI深伪视频是非自愿性的,性暴力视频。自那时以来,生成式人工智能已变得更加普及,女性仍然是这种侵犯行为的目标。

今年1月,关于泰勒·斯威夫特的非自愿色情深伪视频在X平台上疯传,其中一篇最广泛传播的帖子获得了数十万个点赞和4500万次观看。诸如X这样的社交平台在保护女性免受这些困境方面历史上表现不佳,但由于泰勒·斯威夫特是世界上最有影响力的女性之一,X接受了干预,禁止了“taylor swift ai”和“taylor swift深伪”之类的搜索词。

但如果这种情况发生在你身上,且你不是全球流行天后,那么你可能运气不好。有很多报道称,中学和高中生制作自己同学的明星深伪色情视频。虽然这项技术已经存在一段时间,但现在更容易访问——你不必具备技术能力来下载专门宣传“脱掉”女性照片或将他们的面部替换为色情的应用程序。事实上,据NBC的Kat Tenbarge报道,Facebook和Instagram展示了一个名为Perky AI的应用程序的广告,该应用程序自称是一款制作显性图像的工具。

根据报告,允许Perky AI进行广告宣传的错误并不是孤立事件。Meta的监督委员会最近对该公司未能处理报告AI生成的性暴力内容的问题进行了调查。

妇女和有色人种的声音在人工智能产品的创新中是至关重要的。长期以来,这些边缘化群体一直被排除在世界变革性技术和研究的发展之外,其结果是灾难性的。一个简单的例子是直到70年代,妇女被排除在临床试验之外,这意味着整个研究领域都是在没有理解其对妇女的影响的情况下进行的。特别是黑人看到了没有考虑他们利益的技术造成的影响——例如,根据乔治亚理工学院2019年的一项研究,自动驾驶汽车更有可能撞到他们,因为传感器可能更难探测到黑人的皮肤。

在已经存在的歧视性数据上训练的算法只会重复人类训练给它们接受的偏见。总的来说,我们已经看到人工智能系统在就业、住房和刑事司法方面不断加剧和放大种族歧视。语音助手难以理解各种口音,通常会误认为非英语为母语的人的工作是AI生成的,因为如Axios所指出,英语是AI的母语。人脸识别系统更容易将黑人与潜在的犯罪嫌疑人匹配。

目前的人工智能发展体现了关于阶级、种族、性别和欧洲中心主义的现有权力结构,这是我们在其他地方也能看到的,似乎没有足够的领导人在解决这个问题。相反,他们正在加剧这一问题。投资者、创始人和科技领袖过于专注于快速推进和打破事物,以至于他们似乎无法理解,生成式人工智能——目前热门的人工智能技术——可能会使问题变得更糟,而不是更好。根据McKinsey的报告,人工智能可能会自动化约一半不需要四年制学位、年收入超过42000美元的工作,即少数族裔工作者所占比例较高的工作。

我们有理由担心,一个在全球最重要的科技公司之一的全部白人男性团队,参与使用人工智能拯救世界的竞赛,如何能够就产品给所有人提供建议,当只有一个狭隘的人口统计数据被代表。要构建每个人都可以使用的技术,需要大量的努力。事实上,构建安全和包容人工智能需要从研究到对交叉社会层面的理解等多方面复杂的层面,几乎可以肯定这个咨询委员会不会帮助Meta做对。至少在Meta做得不足的地方,可以出现其他初创公司。

我们将推出一个人工智能简报!点击此处注册,从6月5日开始在您的收件箱中接收。