Goodfire完成5000万美元A轮融资，推进人工智能可解释性研究

Funding from Menlo Ventures powers Goodfire’s mission to decode the neurons of AI models, reshaping how they’re understood and designed

今天，作为人工智能可解释性研究领域的领先公司，Goodfire 宣布完成5000万美元的A轮融资，融资由 Menlo Ventures 主导，Lightspeed Venture Partners、Anthropic、B Capital、Work-Bench、Wing、South Park Commons 和其他知名投资者参与。{ width=60% }

---

这笔投资在Goodfire成立不到一年的时间内，为公司的研究倡议扩展和旗舰可解释性平台 Ember 的开发提供支持，与客户紧密合作。

“人工智能模型通常是不可预测的黑箱，”Menlo Ventures 的投资人 Deedy Das 表示。“Goodfire 的世界级团队来自 OpenAI 和 Google DeepMind，正在打开这扇门，帮助企业真正理解、引导和控制其 AI 系统。”

尽管人工智能取得了显著进展，甚至领先的研究人员也对神经网络的真实功能知之甚少。这一知识差距使得神经网络的工程化难度加大，系统故障变得不可预测，随着这些强大系统的复杂性提高，其部署风险也在加大。

“没有人了解 AI 模型失败的机制，因此没有人知道如何修复它们，”Goodfire 的联合创始人兼首席执行官 Eric Ho 说道。“我们的愿景是建立工具，使神经网络的理解、设计和修复变得简单明了。这项技术对于构建下一个安全且强大的基础模型的前沿至关重要。”

为了应对这一关键问题，Goodfire 在机械可解释性研究方面进行了大量投资——这一相对新兴的科学领域专注于反向工程神经网络并将这些见解转化为一个通用的、模型无关的平台。Goodfire 的平台 Ember 旨在解码 AI 模型内部的神经元，为用户提供对其内部思维的直接、可编程访问。通过超越黑箱输入和输出，Ember 解锁了全新的应用、训练和调整 AI 模型的方式——使用户能够发现模型中隐藏的新知识，精确塑造其行为并提高性能。

“随着 AI 能力的进步，我们理解这些系统的能力必须与之保持同步。我们对 Goodfire 的投资反映了我们对机械可解释性是帮助我们将黑箱神经网络转变为可理解的、可引导的系统的最佳选择之一的信心——这为强大 AI 的负责任发展奠定了重要基础，”Anthropic 的首席执行官兼联合创始人 Dario Amodei 表示。

展望未来，Goodfire 将通过与前沿模型开发者的针对性合作，加速其可解释性研究。通过与行业创新者密切合作，Goodfire 将迅速加强和巩固可解释性研究的应用。“与 Goodfire 的合作对于从我们的 DNA 基础模型 Evo 2 中解锁更深的见解至关重要，”Arc Institute 的联合创始人 Patrick Hsu 说道。 “他们的可解释性工具使我们能够提取出新的生物概念，从而加速我们的科学发现过程。”

公司还计划发布额外的研究预览，突显在图像处理、先进推理语言模型和科学建模等多个领域的最新可解释性技术。这些努力有望揭示新的科学见解，并从根本上重塑我们与 AI 模型的互动和利用方式。

Goodfire 的团队汇聚了来自 OpenAI 和 Google DeepMind 的顶尖 AI 可解释性研究人员和经验丰富的初创企业运营者。Goodfire 的研究人员帮助创立了机械可解释性领域，撰写了三篇被广泛引用的论文，并开创了特征发现的稀疏自编码器（SAE）、自动可解释性框架和揭示 AI 模型中隐藏知识等进展。

感谢阅读！如果您对AI的更多资讯感兴趣，可以查看更多AI文章：GPTNB。