国产算力卡
Atlas 300I A2 推理卡
面向生成式大模型推理、智能问答、内容审核与推荐等 AI 推理场景
点击查看大图
01 / INTRODUCTION产品
产品
简介
Atlas 300I A2 推理卡面向生成式大模型推理、智能问答、内容审核与推荐等 AI 推理场景，提供高性能、低时延的算力支撑。单卡最高支持 280 TFLOPS FP16 算力，配合大容量片上内存与高带宽互联能力，帮助客户提升模型推理效率与业务并发能力。
02 / ADVANTAGES
核心优势
01
大模型推理加速
最高提供 280 TFLOPS FP16 算力，满足深度学习网络推理与大模型应用部署需求；支持 8 core × 2.0 GHz CPU 计算能力
02
高带宽数据通路
支持 PCIe 5.0 高速接口，提升主机与算力卡之间的数据传输效率；内存带宽最高 1600 GB/s
03
多媒体处理增强
支持 1080p 480 FPS 视频解码、1080p 12288 FPS JPEG 解码，最大分辨率 16384 × 16384，适配图像、视频与多模态推理业务
03 / SPECIFICATIONS
技术规格
| 规格项 | 参数 |
|---|---|
| 形态 | 双槽位全高全长 PCIe 卡 |
| AI算力 | 280 TFLOPS FP16 |
| 内存规格 | 32 GB 片上内存，带宽800GB/s 或 64 GB 片上内存，带宽1600GB/s 支持ECC |
| CPU算力 | 8 core × 2.0 GHz |
| 编解码能力 | 解码： 支持1080p 480FPS等效的视频解码能力 支持1080p 12288FPS等效的JPEG解码能力 支持最大分辨率16384 * 16384, 最小分辨率32 * 32 编码： 支持1080p 1024FPS等效的JPEG编码能力 支持最大分辨率8192 * 8192, 最小分辨率32 * 32 |
| PCIe接口 | PCIe 5.0 |
| 最大功耗 | 350W |
| 散热方式 | 被动风冷 |
| 工作环境温度 | 5℃～45℃（41℉～113℉） |
| 结构尺寸 | 266.7mm（长）×39.04mm（宽）×111.15mm（高） |
04 / APPLICATION SCENARIOS
应用场景
广泛适用于智慧交通、无人驾驶、工业物联网等前沿领域