01产品概述
02产品优势
03产品参数
04应用场景

01 产品概述

该产品是集成大模型训练、推理功能的专用硬件设备,通过软硬件协同设计为人工智能计算任务提供高效解决方案。其融合高性能异构计算单元(GPU、NPU)、大容量存储系统与深度优化的软件栈,完整支持从数据预处理、模型训练到部署推理的全流程管理。使研究人员与工程师可在统一平台上完成模型全生命周期管理,显著提升研发效率并降低综合运维成本。

02 产品优势

01高效能计算

采用先进的GPU或TPU技术,提供卓越的浮点运算性能,加速基于大规模数据集的复杂模型训练过程。

02灵活可扩展

支持根据实际需求调整配置,包括增加更多的GPU/TPU卡、扩展内存或存储空间等。

03易用性

通过图形界面或命令行接口简化操作流程,降低使用门槛,即使是非专业人士也能轻松管理和运行AI项目。

04安全性与可靠性

具备企业级的安全防护措施,确保数据安全;同时提供高可用性和容错机制,保障业务连续性。

03 产品参数

1、中心侧-大模型训练一体机:

应用场景:模型训练、智能问答、智能撰写、数字人等

产品功能:具有更高算力密度、 极致能效比、高速网络带宽等特点,广泛应用于深度学习模型开发、训练

•形态4U机架服务器 175mm × 447mm × 790mm

CPU4 × 鲲鹏920,每CPU48核,单核2.6GHz

•内存最多32DDR4内存插槽,最大4TB内存8个昇腾910芯片,每个配置64GB HBM

•网络接口4*GE+425GE/2*100GE+8*200GENPU直出,兼容100GE

AI算力3.0/2.5 P FLOPS FP160.79/0.65 P FLOPS FP326.0/5.0 P TOPS INT8

•卡间互联392GB/S HCCS 2.0互联技术

•散热风冷散热

•功耗最大5.2 kW,支持功耗封顶

 

2、中心侧-大模型推理一体机:

应用场景:模型推理、小模型训练

产品功能:具有更高算力密度、极致能效比高速网络带宽等特点,广泛应用于深度学习模型推理

•形态4U机架服务器 175mm × 447mm × 790mm

CPU4 × 鲲鹏920,每CPU48核,单核2.6GHz

•内存最多32DDR4内存插槽,最大4TB内存8个昇腾910芯片,每个配置32GB HBM

•网络接口4*GE+4*25GE/2*100GE+8*200GE NPU直出,兼容100GE

AI算力2.24 P FLOPS FP160.60 P FLOPS FP32 4.48 P TOPS INT8

•卡间互联392GB/S HCCS 2.0互联技术

•散热风冷散热

•功耗最大5.2 kW,支持功耗封顶

 

3、-大模型推理一体机:

应用场景:模型以文生图、文本生成

产品功能:产品具备AI推理、视频分析等功能

•形态单槽位全高全长PCIe

•尺寸266.7mm × 18.46mm× 111.15mm

•处理器核内置16Arm Core最大主频1.9GHz

•内存容量:96GB,总带宽:408 GB/s;支持ECC

AI算力整数精度INT8280 TOPS 半精度FP16140 TFLOPS

•编解码能力内置DVPP预处理单元 视频2561080P 30FPS硬件解码能力

•功耗150 W

04 应用场景

科研机构

用于高频率、深入的人工智能研究,可协助探索新的算法和技术。

企业用户

帮助企业内部团队加速产品和服务中AI功能的开发与迭代。

教育培训机构

作为教学平台,帮助学生理解并实践AI理论知识。