行业首个多模态、以软件为中心的边缘人工智能平台支持从CNN到多模态GenAI等各种边缘人工智能模型，并以每瓦超强性能提供可扩展性。
{ width=60% }
SiMa.ai是一家以软件为中心的嵌入式边缘机器学习系统芯片（MLSoC）公司，今天宣布推出行业首个多模态边缘人工智能产品系列MLSoC™ Modalix。SiMa.ai MLSoC Modalix支持边缘的CNNs、Transformers、LLMs、LMMs和Gen AI，并提供业界领先的性能-每瓦性能超过替代方案的10倍以上。
生成式人工智能（Gen AI）的兴起正在改变人类和机器共同工作的方式。人工智能技术革命的下一波浪潮将推动多模态机器发展，其具备理解和处理文本、图像、音频和视觉等多种形式输入的能力。这种变革将波及各行各业，从农业和物流到医学、国防、交通运输等。SiMa.ai是一款突破性的多模态边缘人工智能平台，组织现在可以依赖该平台，获得超高响应速度、高效节能、可靠和安全的见解，以满足其关键创新所需——在其喜好的任何模态中。
MLSoC Modalix将使开发人员能够在小功耗和物理占地面积的条件下推动性能的极限。他们将能够仅在单个芯片上运行端到端的GenAI应用管道，同时为企业的总部和底线提供可衡量的贡献。
SiMa.ai MLSoC Modalix是成功商用第一代MLSoC的第二代产品。MLSoC Modalix提供了25（Modalix 25或”M25”）、50（Modalix 50或”M50”）、100（Modalix 100或”M100”）和200（Modalix 200或”M200”）TOPS配置，在多种形态因素中提供无缝部署的Generative AI能力，目的是为嵌入式边缘机器学习市场提供帮助。与第一代MLSoC完全兼容的软件，MLSoC Modalix产品系列旨在实现运行DNN以及先进的Transformer模型（包括LLMs、LMMs和Generative AI）的能力。MLSoC Modalix的样品将在2024年第四季度提供给客户。
“SiMa.ai正在引领边缘人工智能市场，并随着全球各地的客户继续采用我们的（第一代）MLSoC而迅速壮大。我们非常高兴推出MLSoC Modalix家族，为客户提供更大的选择和灵活性，以拥抱多模态人工智能，”SiMa.ai的创始人兼首席执行官Krishna Rangasayee说道。”引入MLSoC Modalix后，SiMa.ai的Edge AI ONE平台现在提供从CNN到Gen AI等各种选择，具有业内领先的性能和功耗效率。”
SiMa.ai通过新的MLSoC Modalix家族扩大了边缘AI的ONE平台
SiMa.ai Edge AI ONE平台是一个以软件为中心的框架，跨越整个MLSoC平台家族提供兼容性，为SiMa.ai在边缘的采用者提供升级、过渡和混合使用的无缝体验，最大程度地减少总体拥有成本。
首代SiMa.ai MLSoC在性能和功耗效率方面是市场领先者，最近通过MLCommons® MLPerf推理基准（4.0）结果得到验证。首代SiMa.ai MLSoC将继续支持工业检验、零售、航空航天和国防以及智能视觉（仅基于以太网的摄像头）等领域的基于CNN模型的模型。
利用MLSoC Modalix的客户将能够加速深度学习、Transformer和Generative AI模型-将模型推至像Llama2 7B以上的10个令牌/秒以上。借助片上应用处理器、集成ISP、视觉和数字信号处理器以及硬件创新如BF16，MLSoC Modalix将加速所有已知的CNN和Transformer模型：语言、视觉和语音，以低成本和功耗交付接近fp32的推理准确性。
在MLSoC Modalix上运行的Generative AI应用将：
从SiMa.ai Palette软件的专利编译器中受益，其具有分层直接主动数据预取功能，确保每个数据层总是在需要时可用，及时可用；
利用升级后的机器学习加速器，以高性能运行DNN和大型多模态模型，而无需牺牲功耗。
此外，MLSoC Modalix的新硬件部件包括：
支持4 x 4条MIPI CSI 2的集成ISP模块，使芯片能够通过芯片上的4 x 10G以太网端口与MIPI摄像头以及基于以太网的摄像头进行接口；
八条PCIe Gen 5通道，促使数据更快地进入和退出芯片；
8个Arm® Cortex®-A65双线程CPU，进一步通过Arm卓越多样化软件合作伙伴生态系统扩展SiMa.ai的客户覆盖范围；
TSMC的N6技术。
SiMa.ai的行业验证
“SiMa.ai ONE平台与MLSoC Modalix家族的推出有望成为Elementary应用的重要推动者，”Elementary首席执行官Arye Barnehama表示。”Elementary正在部署面向全球制造商的基于人工智能视觉检测系统，致力于领先的创新。Modalix系列性能高、能效高，再加上ONE平台的方法，符合我们提供模块化、无折中解决方案的承诺，既对我们的合作伙伴又对最终用户。随着Elementary在工业领域的持续扩展，SiMa.ai MLSoC Modalix产品系列有潜力为全球企业高速生产流程提供动力的解决方案。”
“SiMa.ai MLSoC Modalix系列有能力加速从CNN到LMMs等各种体系结构，从而让受到功耗限制的平台上的多模态边缘人工智能成为现实。Hayden AI对评估SiMa.ai Modalix系列潜在应用的前景感到兴奋，”Hayden AI的CTO Vaibhav Ghadiok表示。
“SiMa.ai MLSoC Modalix产品系列的推出对我们和我们的边缘AI客户来说是一个改变游戏规则的因素。Advantech多年来一直在构建和部署用于医疗保健、工业自动化和智慧城市的工业PC、智能摄像头和边缘网关，”Advantech的高级产品管理副总裁Emily Teng表示。”丰富的外围设备包括MIPI和先进的ISP，结合SiMa.ai MLSoC Modalix系列产品的高性能和低功耗，将使边缘智能设备范围扩大。SiMa.ai将使我们能够适应和扩展以包容GenAI固有的新模式和创新。”
“SiMa.ai ONE平台与MLSoC Modalix系列产品的推出有望改变LIPS公司一直致力于构建和部署的Edge-AI应用，以扩展智能工厂和智能视觉项目中的多摄像机三维成像解决方案的规模，”LIPS Corporation首席执行官Luke Liu表示。”MLSoC Modalix系列产品的高性能和低功耗，再加上其ONE平台方法，可以让我们克服通常伴随多摄像机三维成像项目的性能和带宽限制。SiMa.ai MLSoC Modalix可以使我们能够适应和扩展实时姿态检测、精确空间映射和高级AI检测在各种工业自动化设置中的先进AI模式和创新，最终加速我们提供更智能、更有效率和更安全解决方案的能力。”
“在人工智能时代，硬件和软件能力需要比以往任何时候更快地发展，”Arm物联网事业线高级副总裁兼总经理Paul Williamson表示。”通过在高性能、高效的Arm平台上构建诸如MLSoC Modalix之类的解决方案，SiMa.ai等伙伴可以访问强大的软件生态系统，创建下一代从零售到工业的应用中安全而创新的用户体验。”
“TSMC长期以来一直与SiMa.ai等行业创新者合作，帮助他们利用我们卓越的技术和制造卓越性，实现突破性的下一代半导体设计，”台积电北美市场开发和新兴业务管理高级总监Lucas Tsai表示。”我们很高兴继续合作，加速SiMa.ai强大且节能的芯片创新以满足对边缘GenAI不断增长的需求。”
“Synopsys继续帮助各级公司加速和扩大其先进AI芯片开发流程，”Synopsys系统设计集团总经理Ravi Subramanian表示。”通过利用Synopsys领先的基于AI驱动的EDA套件、广泛的接口、安全和处理器IP组合、架构设计解决方案和仿真系统，SiMa.ai正在加快开发周期，为其下一代MLSoC Modalix系列带来性能和功耗的成本增益。我们一起推动GenAI应用可能性的边界，使工程师更加高效和熟练，塑造边缘人工智能的未来。”
SiMa.ai资源
有关MLSoC Modalix的最新技术组件和功能信息，请阅读SiMa.ai博客上的更多内容。有关SiMa.ai ONE平台Edge AI的更多信息，请阅读SiMa.ai博客上的“SiMa.ai：Edge AI的下一章：一个平台适用于所有Edge AI”。
SiMa.ai将于2024年9月9-12日在加州圣何塞举行的AI硬件和边缘AI峰会上发表演讲。请到10号展台会见SiMa.ai团队，或在9月9日星期一下午2:20-2:45PT听取SiMa.ai CEO Krishna Rangasayee关于MLSoC Modalix如何扩展SiMa.ai ONE平台Edge AI的演讲。如需了解更多关于SiMa.ai的产品信息，请访问https://sima.ai/mlsoc/。
SiMa.ai的快速链接：
TRUMPF与SiMa.ai就激光与人工智能达成战略合作
推介在Supermicro紧凑型边缘ML服务器上运行CVEDIA AI视频分析的SiMa.ai智能城市解决方案
SiMa.ai获得资金并准备新的生成式边缘人工智能平台
SiMa.ai被认为是IDC边缘AI/ML创新者的代表
感谢阅读！如果您对AI的更多资讯感兴趣，可以查看更多AI文章：GPTNB。
{ width=60% }
{ width=60% }