Nfina Technologies发布了4508T-AI

Nfina宣布推出4508T-AI工作站。图片{ width=60% }


这款八槽工作站由NVIDIA® GPU提供动力,为软件开发人员、数据科学家和学术界提供了一个高性能、具有成本效益的平台,用于开发尖端AI模型和运行基于AI的应用程序。
将人工智能(AI)大规模应用需要预处理、训练和部署。不同的开发工具链、框架和工作负载都会产生独特的障碍,并需要不同量级的计算能力。这就是Nfina的4508T-AI工作站发挥作用的地方。
4508T-AI工作站搭载第五代Intel® Xeon® Scalable 处理器、5600MT/s速度内存和NVIDIA RTX 6000 Ada GPU,在动态计算和高精度计算工作流方面表现优异。
第五代Intel Xeon处理器每个核心都配备了AI加速功能,加快了训练和深度学习推断,以处理苛刻的AI工作负载,并消除了对额外离散加速器的需求。根据英特尔的说法,与上一代相比,这些处理器的推断性能提高了42%,在参数少于200亿的大型语言模型(LLMs)上的延迟低于100毫秒。
拥有48GB/s内存的NVIDIA RTX 6000 Ada GPU提供了前代产品2倍的速度、吞吐量和AI性能。RTX 6000通过结合142个RT核心,668个张量核心和18,176个CUDA核心,实现了下一代渲染、AI图形和petaflop推断性能。RTX 6000支持CUDA™ API 和 NVIDIA RTX Virtual Workstation Software™。
为了有效管理AI的广泛需求,4508T-AI工作站支持最多144TB的机身存储、地理冗余云存储和Nfina JBOD扩展设备。
为了提供强大的端到端AI解决方案,Nfina建议使用NVIDIA AI Enterprise订阅和操作系统支持。NVIDIA AI Enterprise不仅包括丰富的NVIDIA框架和预训练模型库,还通过集成不同的开源数据分析、建模、深度学习框架和部署工具,如PyTorch™、TensorFlow™、scikit-learn™和XGBoost™,减轻了AI工作负载所带来的挑战。
Nfina的总裁兼首席执行官Warren Nicholson表示:“Nfina认识到在像AI这样的高要求应用中可靠性的重要性,这就是为什么我们的深度学习工作站经过严格测试,以确保它们能够持续处理大量工作负载,而不会影响稳定性或数据完整性。借助这些最先进的工作站,人工智能变得更加简单和可访问。”
新的Nfina系统现在通过Nfina的合作伙伴网络提供。
所有Nfina系统均可直接购买或与Nfina的托管服务捆绑销售,以满足业务应用需求和每月预算。



感谢阅读!如果您对AI的更多资讯感兴趣,可以查看更多AI文章:GPTNB

作者

ByteAILab

发布于

2024-08-08

更新于

2025-03-21

许可协议