Datasaur整合Amazon Bedrock以降低AI项目成本
Datasaur,是一个专注于私有大规模语言模型(LLM)解决方案的亚马逊网络服务(AWS)合作伙伴网络(APN)成员,今天宣布其LLM Labs产品与Amazon Bedrock的整合。{ width=60% }
Amazon Bedrock是一个完全托管的服务,通过单一API提供了来自领先人工智能(AI)公司的高性能基础模型(FMs)选择,以及组织构建生成式AI应用所需的广泛功能,包括安全性、隐私性和负责任AI。此次整合使用户可以更轻松地评估和比较多个FMs在成本、质量和推理时间等关键指标上的性能。
Datasaur促进了私有LLM模型的训练和部署,这些模型可以无缝连接到组织的专有信息存储库。通过使用Datasaur的LLM Labs与Amazon Bedrock,公司可以对比不同的LLM模型,包括专有模型与开源模型,以及在Amazon Bedrock之外运行的模型。这意味着公司可以更灵活地验证其是否选择了符合其特定需求的正确模型。
Datasaur的LLM Labs与Amazon Bedrock整合的关键优势包括:
- 降低成本:用户可以通过从专有 FMs 转向开源 FMs 来减少成本高达 70%。
- 推理时间优化:对于时间敏感的工作流程,Datasaur使用户能够在质量和速度之间评估折衷。例如,用户可能会选择降低 15% 的质量以换取推理速度增加 5 倍。
- 增强的数据安全性:注重安全性的用户可以连接自己的AWS API密钥,使数据保留在他们的AWS环境内,同时利用Datasaur的LLM Labs功能。
- 非技术用户易用性:直观的界面旨在使主题专家(例如财务分析师、医疗专业人士)轻松访问并利用亚马逊的强大功能。
Datasaur首席执行官Ivan Lee表示:“通过将我们的NLP专业知识与AWS的AI服务整合,我们为客户提供了即时访问顶尖 FMs 的能力,加速他们的决策过程。”。
GLAIR首席执行官William Lim表示:“Datasaur的LLM Labs已将我们的模型开发流程从几周缩短到几个小时。现在,我们可以在不同项目中优化价格、价值和速度,灵活采用下一代模型。这种灵活性对我们的工作流程具有颠覆性影响。”
访问datasaur.ai/llm/llm-home,立即开始使用Datasaur和AWS构建您的私有LLM项目。
感谢阅读!如果您对AI的更多资讯感兴趣,可以查看更多AI文章:GPTNB。
Datasaur整合Amazon Bedrock以降低AI项目成本