Overview
产品概述
Capabilities
核心能力
端云一体全算力产品矩阵
覆盖云端智能加速卡(思元370/270系列)、边缘智能计算模组(思元220系列)和终端智能处理器IP(Cambricon-1M/1H),面向云边端全线场景提供AI算力产品。
推训一体AI加速能力
MLU370-X4和MLU370-X8加速卡可提供高达256TOPS(INT8)推理算力和24TFLOPS(FP32)训练算力,并支持FP16、BF16等多种训练精度,满足推训一体AI任务需求。
基础软件开发平台与开发者生态
提供Cambricon NeuWare、MagicMind、BANG异构计算平台(C/C++)、CNNL、CNStream等软件组件,并通过开发者社区提供SDK下载、文档、课程与在线实验。
Use Cases
适用场景
-
01
云端AI训练与推理
面向中高端训练和高密度云端推理场景,MLU370系列加速卡可用于AI Training、AI Inference等云端解决方案,兼顾训练与推理负载。
-
02
智能视频分析与视频结构化
视频结构化系统可用于交通卡口、电警系统、智慧城市等场景,基于MLU服务器解析视频结构化实现路径;寒武纪也提供智能视频分析解决方案。
-
03
视觉模型推理与目标检测
开发者可基于寒武纪推理引擎MagicMind进行YOLOv5m目标检测推理应用开发,实验环境包含PyTorch、Python、FP32。
Integrations
集成能力
vLLM
寒武纪已基于vLLM推理框架完成对深度求索公司最新开源模型DeepSeek-V4的适配。
PyTorch
在官方实验中,开发者可基于PyTorch框架和寒武纪推理引擎MagicMind开发YOLOv5m目标检测推理应用。