后摩漫界™M30 智算模组
后摩漫界™M30 智算模组,基于M30芯片的智算模组(SoM)支持 PCIe EP模式,以其小巧的体积、强劲的性能和极低的功耗,成为小型化设备和功耗敏感嵌入式场景的理想选择。
了解更多后摩漫界™️M30 是基于存算一体创新架构设计的边端大模型AI芯片,最高算力可达 100TOPS,典型功耗仅为12W。M30 能够支持ChatGLM、Llama2、通义千问等多种主流大模型,实时运行性能可达15-20 Tokens/s。同时,M30已适配包括X86、ARM在内的多种主流处理器,可以灵活地部署在AI PC、视频会议系统、智能融合网关、边缘智能一体机、NAS(网络附加存储)等各类边缘和端侧设备中。基于M30打造的边端大模型解决方案在保障数据隐私的前提下,能够有效解决长文本摘要、文案创作、本地知识库、数字人、多模态等多样化场景需求。