Ascend910B

来自About High Performance
Sxzhang讨论 | 贡献2023年11月6日 (一) 16:06的版本
跳到导航 跳到搜索

以下是华为昇腾910B芯片的关键特性和参数:

特性/参数 描述
发布年份 2023年
用途 AI训练服务器芯片,主要用于Atlas 800-9000训练服务器
FP32算力 75TFLOPS
FP16算力(液冷环境) 400TFLOPS
FP16算力(风冷环境) 313TFLOPS
FP16算力(标卡) 280TFLOPS
HBM容量 64GB
支持的PCle版本 支持PCle 5.0,传输带宽优于只能支持PCle 4.0的英伟达A800
NPU模组互联互通 将八个NPU模组互联互通,每个NPU模组提供了56GB的HCCS的双向带宽
模组间的互联带宽传输速度 392GB/s,与英伟达A800的400GB/s的物联带宽基本持平
网口 植入200G的网口,上一代是100G
生态适配 适配了Llama、GPT、清华大学自研的大模型等,能支持的原生模型还有盘古大模型和文心一言等

[1]