人权律师苏茜·阿莱格雷：‘如果AI过于复杂无法解释，则有些领域不应使用’

Susie Alegre是一位国际人权律师和作者，原籍马恩岛，近年致力于技术对人权的影响。

---

作为一名法律专家，她曾就反恐和反腐等问题向国际特赦组织、联合国和其他组织提供建议。她的第一本书《Freedom to Think》于2022年出版，并入围了克里斯托弗·布兰德奖，探讨了思想自由的法律历史。在她的新书《人权，机器人的错误》中，她关注人工智能威胁我们在战争、性和创造力等领域的权利，以及我们可以采取的行动。

写这本书的动机是什么？

有两个触发因素。一个是ChatGPT的突然爆炸和关于每个人现在都可以成为小说家，AI将能够为我们完成所有工作的叙事，这让人感到绝望。另一个是有关一名比利时男子与AI聊天机器人进行了六周密集关系后自杀的故事。他的遗孀认为，如果没有这段关系，扭曲了他世界观的关系，他仍然会陪伴她和孩子们。这促使我思考-这绝对涉及生存权，家庭生活权，思想自由权和免受操纵的权利。我们如何思考人工智能以及它如何严重影响我们的人权？

您不太看重人工智能启示的威胁。

我认为那是在转移注意力。我们需要担心的是如何限制AI的发展、销售和使用方式。最终，在技术背后有人，在设计阶段特别是在营销中，以及在关于如何使用它的选择中。

我们所听到的关于人工智能的一切都表明它正在以难以想象的速度发展，并且模型的复杂性甚至连其创造者都无法掌握。监管者如何希望跟上？

我认为这里有很多幻觉。就像《绿野仙踪》中，托托拉开帷幕，我们看到帷幕后面发生的事情。因此，我们无需相信一切都是不可避免和全知全能的。我们仍然可以做出选择并提出问题。此外，如果某些东西过于复杂，无法解释，那么有些领域就不应使用它。

看法机构已经有足够的能力处理人工智能吗，还是我们需要建立新的框架？

我认为我们不需要新的框架，但我们真正需要的是获得司法途径。可能需要制定一些法律途径。但其中一个真正基本的挑战是，如何进行反击？我们如何执行监管？这就是我们在一些大型科技公司中看到的情况：他们的活动被认定为非法，他们被处以巨额罚款，但他们仍在继续。

您在性机器人和聊天机器人上有一章非常有趣。主要关注点是什么？

这是一个我之前从未考虑过的整个领域，当我意识到使用AI机器人代替人类伴侣是多么普遍时，我感到相当震惊。我感到担忧的原因是，这是私营部门技术被插入到人们的生活中以取代人际关系，而这在社会控制方面非常危险。这不是一个道德问题，而是一个关于这对人类社会和我们合作和联系能力的意义的问题？

AI对于负担不起法律代理的人来说不是好消息吗？

这取决于情况。如果你谈论的是仅涉及了解规则的非常基本纠纷，技术可以提高几方面的访问。但当你涉及更复杂的问题时，生成式人工智能实际上并不知道法律是什么，它很可能会给你一堆垃圾-当机器以权威的口吻传达信息时，人们很难对此持怀疑态度。

当您问ChatGPT时，“谁是苏茜·阿莱格雷？”发生了什么？

它说苏茜·阿莱格雷并不存在，或者至少没有在互联网上出现过。我有点恼火，考虑到我之前的第一本书已经出版了一年。我问它，《自由思考》是谁写的，它给出的第一个人是一位男生物学家。我一次又一次地问它，它给出了20个不同的名字，除了一个女性外，其他都是男性。就好像对于ChatGPT来说，一个女性写了一本关于思想的书是绝对不可思议的。

您对聊天机器人公司用“公平使用”辩护来捍卫吸收文字和图像来喂养他们的人工智能的做法有何看法？

我不是美国的版权律师，所以在这方面我没有专业知识，但看不出不同的司法管辖区如何审理案件将非常有趣。美国在言论自由问题上与世界上几乎任何地方都有完全不同的方法，以及如何利用之来支持科技行业的发展。无论“公平使用”辩护的合法性如何，它都为人类创造力、新闻学和信息空间的未来提出了巨大问题。这背后的基本问题是创作者报酬的大幅减少-总体趋势已经是剥夺创作者经济激励。

如果您所提出的所有关于监管的提议都得以实现，是否存在阻碍创新的危险？

这有点像草人，就是监管抑制创新的想法。监管实际上使创新在某个方向上发展，并关闭非常有害的方向。事实上，我认为存在反向风险，即如果允许人工智能在破坏我们自主思考的能力、重新夺回我们的注意力的方式上占主导地位，那我们将失去创新的能力。

您指出，人工智能不仅是漂浮在我们头顶上的什么善意的云。它基于物质的开采和对全球南方工人的剥削，并且运行起来会产生巨大的污染。但是，这其中很多都隐藏在视野之外。我们该如何解决这些影响？

这是一个巨大的问题。解决之一是从ESG（环境、社会和治理）的角度审视人工智能采用的问题。我们使用的所有设备，例如我们现在通话的手机，通常都是由矿物制成，其中包括使用童工从冲突地区采取。意识到这一点有望帮助转变社会需求和消费习惯。您可以使用生成式人工智能制作一个风趣的迷因，但您到底消耗了多少水和能源？难道您不能只拿起一支铅笔，这可能更加令人满足吗？

您是否有时希望人工智能可以被放回货架上？

这不是一个禁止人工智能或将其用于生活的每个方面的全是或全非的等式。这是一个选择我们想要将人工智能用于什么的问题。批判性地提出问题并不意味着您反对人工智能：这只是意味着您反对人工智能的炒作。

由Susie Alegre撰写的《人权，机器人的错误》由Atlantic Books出版(12.99英镑)。支持《卫报》和《观察家》，请在guardianbookshop.com订购您的副本。可能需要支付交付费用

探索更多关于这些话题的内容

人工智能（AI）、观察者、ChatGPT、采访

本文内容可重复使用

。

感谢阅读！如果您对AI的更多资讯感兴趣，可以查看更多AI文章：GPTNB。