Weights & Biases 宣布与 NVIDIA NIM 集成

Fully Connected –Weights & Biases，这家人工智能开发平台今天宣布，与 NVIDIA NIM 微服务扩展集成，以让企业构建定制 AI 应用程序，并针对生产进行推理的优化。{ width=50% }

---

在上个月在 NVIDIA GTC 宣布的 Weights & Biases 的初始 NIM 集成的基础上，今天宣布的额外定制功能（目前处于私密预览阶段）提供了一个更全面和易于访问的方式，让使用 Weights & Biases 平台的开发人员能够定制和部署特定领域级 AI 应用程序。

“今天的企业希望使用 LLM 部署基于其自身数据训练的定制应用程序，比如客服代理迅速准确地回答客户的问题，” Weights & Biases 的 CEO Lukas Biewald 说道。”我们与 NVIDIA NIM 的扩展集成将给我们的客户想要的更高 LLM 性能，使用已经在其业务数据上进行微调并优化性能和低延迟的模型。企业 AI 的部署速度也变得更快，因为我们正在弥合训练和推理之间的操作差距。”

“NVIDIA 副总裁 Manuvir Das 表示，在各行各业中，企业正在寻求一个加速他们生成式 AI 策略的引擎。Weights & Biases 与 NVIDIA NIM 的集成标志着为那些为其业务增加企业级生成式 AI 的公司，提供了效率的巨大提升。”

通过 Weights & Biases AI 平台提供了一套全面的工具，用于机器学习实验跟踪、模型优化和自动化模型管理，包括模型谱系和数据集版本控制。NVIDIA NIM 微服务通过扩展这些功能，提供了对 NVIDIA 及其合作伙伴生态系统中的两打 AI 模型进行了优化的推理，使开发人员能够在云、数据中心、工作站和个人电脑上运行定制 AI 模型。

Weights & Biases AI 平台与 NVIDIA NIM 功能结合，为开发人员提供了更全面和简单的路径，以支持具有企业级支持、安全性和稳定性的生成式 AI 应用程序。NIM 包含在 NVIDIA AI Enterprise 软件平台中，用于开发和部署生产级生成式 AI 应用程序。

Weights & Biases AI 开发平台中的 W&B Launch 可以让用户在计算集群间部署 AI 工作负载，使用户能够在 AWS、Google Cloud 和 Microsoft Azure 上扩展训练工作，无需基础设施摩擦或权限扩展。W&B Launch 支持访问高性能计算，以构建和部署 AI 模型。

Weights & Biases 与 NVIDIA NIM 的私密预览允许开发人员定制更广泛的 AI 模型，包括 NVIDIA AI Foundation 和定制模型。它确保无缝、可扩展的 AI 推理，在云中或本地，在业界标准 API 上进行。

Weights & Biases 和 NVIDIA NIM 之间的这一新集成将允许企业开发人员：

• 创建具有优化模型的定制 NIM，并部署在客户的基础设施中
• 跟踪优化模型的谱系以进行版本控制
• 通过域适应和性能优化实现增强的 LLM 性能，提升性能并降低延迟
• 通过弥合训练和推理过程之间的差距，加快部署时间表
• 实施企业级安全措施，确保数据保护和合规性，即使是使用定制模型
• 访问多样化的部署选项 – 由于 Weights & Biases 和 NIM 都是基础设施不可知的 – 支持云和本地高性能计算环境。

现已推出

要了解更多关于 Weights & Biases AI 开发平台及其与 NVIDIA NIM 的新集成的信息（目前处于私密预览阶段），请登录 wandb.me/nim。

Weights & Biases AI 开发平台能够与 NVIDIA 微服务无缝集成，开发人员可以在 ai.nvidia.com 上进行实验。对于想要部署生产级 NIM 微服务的企业，可通过 NVIDIA AI Enterprise 在主要云平台上访问，确保在 Weights & Biases 生态系统内提供增强的性能和兼容性。

---

感谢阅读！如果您对AI的最新发展感兴趣，可以查看更多AI文钊文章：GPTNB。

感谢阅读！如果您对AI的最新发展感兴趣，可以查看更多AI文钊文章：GPTNB。

感谢阅读！如果您对AI的更多资讯感兴趣，可以查看更多AI文章：GPTNB。