AI科学家雷·库尔茨威尔：2045年前我们将把智能扩展百万倍

美国计算机科学家和技术乐观主义者雷·库尔兹威尔（Ray Kurzweil）是人工智能（AI）领域的资深专家。

---

他2005年的畅销书《人工智能革命》激发了人们的想象力，预言计算机将在2029年达到人类水平的智能，而到2045年，我们将与计算机融合并成为超人类，这一时刻被称为“奇点”。现在，将近20年过去了，现年76岁的库尔兹威尔有了续集《奇点更近了》——一些他的预测看起来不再那么荒谬。库尔兹威尔目前在Google担任首席研究员和AI愿景家。他以作者、发明家和未来学家的身份接受了《观察家报》的采访。

为什么写这本书？
《人工智能革命》谈及未来，但20年前，人们对AI并不了解。对我来说将会发生什么是显而易见的，但并不是每个人都清楚。现在AI正在主导对话。是时候再次审视我们取得的进展——大型语言模型（LLMs）非常令人愉悦地使用——以及即将到来的突破。

您对2029年和2045年的预测没有改变…
我保持一贯。所以2029年，无论是人类水平的智能还是人工通用智能（AGI）——这稍微有些不同。人类水平的智能通常意味着AI已经在某个特定领域达到了大多数技术最高水平，而到2029年，这将在大多数方面实现。（也许在2029年之后还会有一些过渡年份，AI尚未在一些关键技能上超越顶尖的人类，比如编写奥斯卡获奖剧本或生成深刻的哲学新见解，虽然这将实现。）AGI意味着AI能够做到任何人类可以做到的事情，但表现会更出色。AGI听起来更困难，但它将同时到来。我的五年内估计实际上是保守的：埃隆·马斯克最近表示将在两年内实现这一目标。

我们必须意识到这里的潜力，并监控AI正在做什么——但仅仅反对它是不明智的。
我们为什么要相信您的时间表？
我真的是唯一预测到我们今天看到的巨大AI兴趣的人。1999年，人们认为这可能需要一个世纪或更长时间。我说30年看看我们现在所处的位置。最重要的驱动力是计算性能在恒定美元价格下的指数增长。我们每15个月都在提高性能价格比。 LL简体中文LM两年前刚开始能够工作，这是由于计算量的增加。

目前将AI带到您预测的2029年所需要的是什么？
一是更多的计算能力——这正在到来。这将促使在上下文记忆、常识推理和社交互动等方面进行改进，这些都是目前依然存在不足的领域。然后我们需要更好的算法和更多的数据来回答更多问题。到2029年，LLM幻觉[它们产生毫无意义或不准确的结果]会大大减少——至少比两年前发生的要少得多。问题发生的原因是它们没有答案，也不知道。它们寻找最好的答案，这可能是错误的或不合适的。随着AI变得更聪明，它将能够更准确地理解自己的知识，并在不知道答案时向人类提供更准确的报告。

机器人即将崛起吗？Google的新工程主管认为是这样的…

奇点究竟是什么？
今天，我们有一个无法超越的大脑体积，以便更聪明。但云端的智慧正在增长且延伸无边。奇点，这是从物理学借来的一个隐喻，当我们把我们的大脑与云融合时，就会发生奇点。我们将会是我们自然智慧和我们的网络智慧的组合，并且它们将被整合为一体。使这一切成为可能的是脑机接口，最终将是纳米机器人——大小如分子的机器人——它们将通过毛细血管非侵入性地进入我们的大脑。到2045年，我们的智力将扩展百万倍，并将加深我们的意识和觉知。

很难想象这会是什么感觉，但听起来并不那么吸引人…
想象一下将你的手机放入你的大脑里。如果你问一个问题，你的大脑就能像你现在在手机上做的那样去云端找答案——只是这次是瞬间的，没有任何输入或输出问题，你甚至意识不到它已经完成（答案会立即出现）。有些人说“我不想要那个”：他们过去也认为他们不想要手机！

存在风险，超前AI系统可能获得意想不到的力量并对人类造成严重危害。AI“教父”杰弗里·辛顿去年离开了 Google，部分原因是出于这样的担忧，而其他知名的科技领袖，如埃隆·马斯克，也发出了警告。本月早些时候，OpenAI和Google DeepMind的工作人员认为应该为提出安全问题的告密者提供更多保护。有一章节涉及风险问题。我一直在努力找到前进的最佳方式，并帮助制定Asilomar人工智能原则[2017年一套关于负责任AI开发的非法律约束性指导方针]。我们必须意识到这里的潜力，并监控AI正在做什么。但仅仅反对它并不明智：好处是如此巨大。所有主要公司都在更多努力确保他们的系统安全并符合人类价值观，而不是创造新进展，这是积极的。

计算性能的物理限制不会限制发展进程吗？我们今天的计算基本上是完美的：它将在每年变得更好，继续保持在那个领域。我们有许多可以继续改进芯片的方法。我们才刚刚开始使用第三维[创建3D芯片]，这将支撑我们多年。我认为我们不需要量子计算：我们从未能够展示其价值。

您认为图灵测试，即AI可以通过文本与人类进行沟通而无法辨别，将在2029年通过。但要通过它，AI需要“减智”。为什么呢？
人类并不是那么准确，而且他们不了解很多事情！今天您可以非常明确地向LLM提问任何领域的任何理论，它会给你很聪明的回答。但是谁可能做到那一点呢？如果一个人回答得像那样，你就会知道它是个机器。因此，此处“减智”的目的在于试图模仿人类。一些人报告称GPT-4可以通过图灵测试。我认为我们还需要几年时间才能解决这个问题。

不是每个人都有能力承担您设想的未来技术。技术不平等会让您担忧吗？
富裕可以让您在早期购买这些技术，但这也是一个技术功能很差的阶段。当[移动]电话新时，价格非常昂贵，而且效果也很差。它们所能访问的信息很少，也不能与云端交流。现在它们非常实惠且非常有用。全球约四分之三的人都有手机。所以这一点将会是一样的：随着时间的推移，这个问题将消失。

我的第一个计划是保持活着——达到长寿逃逸速度。我还打算创建我的复制品，这是我认为我们在2020年代后期都将拥有的选项。
这本书着重讨论了AI的潜在破坏性。我们应该担心吗？
是的，也不是。某些类型的工作将被自动化，人们将受到影响。但新的能力也将创造新的工作。像“社交媒体影响者”这样的工作在10年前根本就不合理。今天我们拥有比以往任何时候都更多的工作，美国人均小时收入比100年前调整到今天的美元高出10倍。普遍基本收入将于2030年代开始实施，这将有助于减缓工作中断造成的危害。那时还不够，但随着时间的推移它将变得足够。

除了工作丢失以外，AI承诺以令人担忧的方式改变世界的其他方式：传播虚假信息，通过有偏见的算法造成危害并加快监视速度。您并没有对此进行深入探讨…
我们必须解决某些类型的问题。选举即将到来，”deepfake”视频是一个问题。我认为我们实际上能找出[什么是虚假的]，但如果它发生在选举前，我们将没有时间。关于有偏见的问题，AI正在学习人类，而人类有偏见。我们正在取得进展，但还没有达到我们想要的地步。AI对公平数据使用存在一些问题需要通过法律途径解决。

您在Google做什么？这本书是否经过任何出版前审查？
我向他们提供不同方式的建议，帮助他们改进产品并推进技术，包括LLMs。这本书是以个人身份编写的。Google很高兴我发布这些内容，也没有审查。

许多人对您对生理和数字永生的预测持怀疑态度。您预计2030年代将出现医学纳米机器人，可以进入我们的身体进行修复，使我们能够永生，同时2040年代还将带来“来生”技术，使我们能够上传我们的思想，以便在生物死亡时将其恢复——甚至放入令人信服的人形机器人。一切都在呈指数增长：不仅是计算性能，我们对生物学的理解以及我们在更小尺度上进行工程的能力也在增长。在2030年代初，我们可以期待达到长寿逃逸速度，每年通过科学进步挽回我们因衰老而失去的生活年份。随着我们超越这一点，我们将获得更多年份。这并不是永生的确切保证——仍然会发生意外——但您每年死亡的概率不会增加。数字带回逝者的能力将产生一些有趣的社会和法律问题。

您对永生的计划是什么？
我的第一个计划是保持活着，因此达到长寿逃逸速度。我每天服用大约80颗药来帮助我保持健康。低温冷冻是一个备选方案。我还打算创建我的复制品[一种来世AI头像]，这是我认为我们在2020年代后期都将拥有的选项。我在与我的父亲合作时做过类似的事情，收集了他一生中写的所有东西，这有点像在与他交谈。[我的复制品]将能够拥有更多的材料，因此更忠实地代表我的个性。

为了最好地为未来做准备，我们现在应该做什么？
这不会是我们与AI的竞争：AI将融入我们的内心。它将使我们能够创造以前无法实现的新事物。这将是一个非常美妙的未来。

---

---

感谢阅读！如果您对AI的更多资讯感兴趣，可以查看更多AI文章：GPTNB。