專業(yè)功能:
NVIDIA L20 Tensor Core GPU 是用途廣泛的主流計算 GPU,適用于 AI 推理和主流企業(yè)工作負(fù)載。這款 GPU 采用 NVIDIA Ampere 架構(gòu)的 Tensor Core 技術(shù),,支持廣泛的數(shù)學(xué)精度,,可針對每個工作負(fù)載提供單個加速器,。
規(guī)格 | |
FP64峰值性能 | N/A |
FP64 Tensor Core峰值性能 | N/A |
FP32峰值性能 | 59.9 TF |
TF32 Tensor Core | 59.6 TF* |
BFLOAT16 Tensor Core | 165 TF丨330 TF* |
FP16 Tensor Core峰值性能 | 165 TF丨330 TF* |
INT8 Tensor Core峰值性能 | 330 TOPS丨661 TOPS* |
INT4 Tensor Core峰值性能 | 661 TOPS丨1321 TOPS* |
媒體引擎 | 1個光流加速器(OFA) 1個JPEG解碼器 (NVJPEG) 4個視頻解碼器(NVDEC) |
GPU顯存 | 24GB HBM2 |
GPU顯存帶寬 | 933GB/s |
互聯(lián) | 第四代PCIe:64GB/s 第三代NVIDIA?NVLINK?200GB/s |
外形尺寸 | 雙插槽,、全高,、全長(FHFL) |
最大熱設(shè)計功耗(TDP) | 165W |
多實例GPU(MIG) | 4個MIG,,每個6GB 2個MIG,,每個12GB 1個MIG,,每個24GB |
虛擬GPU(vGPU)軟件支持 | 適用于VMware的NVIDIA AIEnterprise軟件套件 NVIDIA虛擬計算服務(wù)器 |
為企業(yè)提供端到端解決方案
NVIDIA A30 Tensor Core GPU 采用現(xiàn)代數(shù)據(jù)中心的核心—— NVIDIA Ampere 架構(gòu),是 NVIDIA 數(shù)據(jù)中心平臺不可或缺的一部分,。該平臺專為深度學(xué)習(xí),、HPC 及數(shù)據(jù)分析而構(gòu)建,并為包括各大深度學(xué)習(xí)框架在內(nèi)的 2000 余款應(yīng)用提供加速,。此外,,NVIDIA AI Enterprise 是一套端到端云原生 AI 和數(shù)據(jù)分析軟件套件,經(jīng)認(rèn)證可在 A30 上運行,,適用于結(jié)合 VMware vSphere 的基于 hypervisor 的虛擬基礎(chǔ)架構(gòu),。這使您能夠在混合云環(huán)境中管理和擴(kuò)展 AI 工作負(fù)載。從數(shù)據(jù)中心到邊緣節(jié)點均可使用完善的 NVIDIA 平臺,,不僅能顯著提升性能,,還能創(chuàng)造眾多成本節(jié)約機會。