
01产品概述
02产品优势
03产品参数
04应用场景
01 产品概述
该产品是集成大模型训练、推理功能的专用硬件设备,通过软硬件协同设计为人工智能计算任务提供高效解决方案。其融合高性能异构计算单元(GPU、NPU)、大容量存储系统与深度优化的软件栈,完整支持从数据预处理、模型训练到部署推理的全流程管理。使研究人员与工程师可在统一平台上完成模型全生命周期管理,显著提升研发效率并降低综合运维成本。
02 产品优势
01高效能计算
采用先进的GPU或TPU技术,提供卓越的浮点运算性能,加速基于大规模数据集的复杂模型训练过程。
02灵活可扩展
支持根据实际需求调整配置,包括增加更多的GPU/TPU卡、扩展内存或存储空间等。
03易用性
通过图形界面或命令行接口简化操作流程,降低使用门槛,即使是非专业人士也能轻松管理和运行AI项目。
04安全性与可靠性
具备企业级的安全防护措施,确保数据安全;同时提供高可用性和容错机制,保障业务连续性。
03 产品参数
1、中心侧-大模型训练一体机:
应用场景:模型训练、智能问答、智能撰写、数字人等
产品功能:具有更高算力密度、 极致能效比、高速网络带宽等特点,广泛应用于深度学习模型开发、训练
•形态:4U机架服务器 (175mm × 447mm × 790mm)
•CPU:4 × 鲲鹏920,每CPU为48核,单核2.6GHz
•内存:最多32个DDR4内存插槽,最大4TB内存;8个昇腾910芯片,每个配置64GB HBM
•网络接口:4*GE+425GE/2*100GE+8*200GE(NPU直出,兼容100GE)
•AI算力:3.0/2.5 P FLOPS FP16;0.79/0.65 P FLOPS FP32;6.0/5.0 P TOPS INT8
•卡间互联:392GB/S HCCS 2.0互联技术
•散热:风冷散热
•功耗:最大5.2 kW,支持功耗封顶
2、中心侧-大模型推理一体机:
应用场景:模型推理、小模型训练
产品功能:具有更高算力密度、极致能效比、高速网络带宽等特点,广泛应用于深度学习模型推理
•形态:4U机架服务器 (175mm × 447mm × 790mm)
•CPU:4 × 鲲鹏920,每CPU为48核,单核2.6GHz
•内存:最多32个DDR4内存插槽,最大4TB内存;8个昇腾910芯片,每个配置32GB HBM
•网络接口:4*GE+4*25GE/2*100GE+8*200GE (NPU直出,兼容100GE)
•AI算力:2.24 P FLOPS FP16;0.60 P FLOPS FP32; 4.48 P TOPS INT8。
•卡间互联:392GB/S HCCS 2.0互联技术
•散热:风冷散热
•功耗:最大5.2 kW,支持功耗封顶
3、边侧-大模型推理一体机:
应用场景:大模型以文生图、文本生成
产品功能:产品具备AI推理、视频分析等功能
•形态:单槽位全高全长PCIe卡
•尺寸:266.7mm(长) × 18.46mm(宽)× 111.15mm(高)
•处理器核:内置16个Arm Core(最大主频1.9GHz)
•内存:容量:96GB,总带宽:408 GB/s;支持ECC
•AI算力:整数精度(INT8):280 TOPS ,半精度(FP16):140 TFLOPS
•编解码能力:内置DVPP预处理单元 视频256路 1080P 30FPS(硬件解码能力)
•功耗:150 W
04 应用场景
科研机构
用于高频率、深入的人工智能研究,可协助探索新的算法和技术。
企业用户
帮助企业内部团队加速产品和服务中AI功能的开发与迭代。
教育培训机构
作为教学平台,帮助学生理解并实践AI理论知识。