NVIDIA DGX A100


NVIDIA A100 TensorコアGPUで
構築された世界初のAIシステム
NVIDIA DGX™ A100は、あらゆるAIワークフローのためのユニバーサルシステムであり、前例のない計算処理密度、パフォーマンス、柔軟性を提供する世界初の5ペタフロップスAIシステムです。NVIDIA DGX A100は、世界最先端のアクセラレーター、NVIDIA A100 TensorコアGPUを備えています。

特長
- (1)8つのNVIDIA A100 GPU、合計GPUメモリー320GB
GPUあたり12のNVLink GPUからGPUへの帯域幅:600GB / 秒 - (2)6基のNVIDIA NVSWITCH
双方向の帯域幅:4.8TB / 秒前世代と比較して2倍 - (3)9Mellanox ConnectX-6 200 / Gbネットワークインターフェイス
ピーク時の双方向の帯域幅:450GB / 秒 - (4)デュアル64コアAMD CPUと1TBシステムメモリー
3.2倍のコアで最も集中的なAIジョブを強化 - (5)15TBのGen4 NVME SSD
ピーク時の帯域幅:25GB / 秒、Gen3 NVME SSDより2倍高速


NVIDIA A100 TensorコアGPU
NVIDIA A100 TensorコアGPUによる前例のない高速化をもって、世界で最も困難な計算にAI、データ分析、HPC(ハイパフォーマンスコンピューティング)で挑むことができます。第3世代のNVIDIA Tensorコアにより性能を大幅に向上できるようになり、A100 GPUを効率的に数千までスケールアップできます。また、マルチインスタンスGPUを使用すれば、あらゆるサイズのワークフローを加速するために7つの小さな専用インスタンスとして割り当てることができます。
マルチインスタンス GPU(MIG)
MIGを利用することで、DGX A100の8つのA100 GPUを最大56個のGPUインスタンスとして構成し、それぞれが独自の高帯域幅メモリー、キャッシュ、コンピューティングコアで完全分離できます。これにより管理者は、複数のワークフローに対してサービス品質(QoS)が保証されたGPUのサイズを適切に設定することができます。


次世代NVLinkとNVSwitch
DGX A100の第3世代のNVIDIA® NVLink™は、GPUからGPUへの直接帯域幅を600ギガバイト/秒(GB / s)まで倍増します。これはPCIe Gen4のほぼ10倍に相当します。DGX A100には、前世代と比較して2倍の速度を可能にする次世代のNVIDIA NVSwitch™も搭載されています。
Mellanox ConnectX-6 VPI HDR InfiniBand
DGX A100には最新型のMellanox ConnectX-6 VPI HDR InfiniBand /イーサネットアダプターが搭載されており、それぞれが200ギガビット/秒(GB / s)で動作し、大規模 AIワークフロー用の高速ファブリックを形成します。


最適化されたソフトウェア スタック
DGX A100には、AIチューニングされた基本オペレーティングシステム、必要となるすべてのシステムソフトウェア、GPU対応アプリケーション、トレーニング済みモデル、NGC™の各種機能など、テスト済みで最適化されたDGXソフトウェアスタックが統合されています。
組み込まれたセキュリティ
DGX A100は、あらゆる主要なハードウェアとソフトウェアコンポーネントを保護するための自動暗号化ドライブ、署名付きソフトウェアコンテナー、安全な管理と監視といったマルチレイヤーアプローチを採用することで、AI 導入において最も信頼性の高いセキュリティ体制を実現します。

スペック
NVIDIA DGX A100 640GB | NVIDIA DGX A100 320GB | |
---|---|---|
GPU | 8x NVIDIA A100 80 GB GPUs | 8x NVIDIA A100 40 GB GPUs |
GPUメモリー | 640GB(GPU 8基の合計) | 320GB(GPU 8基の合計) |
パフォーマンス | 5 petaFLOPS AI 10 petaOPS INT8 |
|
NVIDIA NVSwithes | 6 | |
最大消費電力 | 6,500W | |
CPU | Dual AMD Rome 7742, 128 cores total,2.25 GHz(base), 3.4 GHz(max boost) |
|
システムメモリー | 2TB | 1TB |
ネットワーク | 8x SinglePort Mellanox ConnectX-6 VPI 200Gb/s HDR InfiniBand 2x Dual-Port Mellanox ConnectX-6 VPI 10/25/50/100/200 Gb/s Ethernet |
8x SinglePort Mellanox ConnectX-6 VPI 200Gb/s HDR InfiniBand 1x Dual-Port Mellanox ConnectX-6 VPI 10/25/50/100/200 Gb/s Ethernet |
ストレージ | OS: 2x 1.92TB M.2 NVME drives Internal Storage:30TB(8x 3.84TB) U.2 NVMe drives |
OS: 2x 1.92TB M.2 NVME drives Internal Storage:15TB(4x 3.84TB) U.2 NVMe drives |
ソフトウェア | Ubuntu Linux OS Also supports:RedHat Enterprise Linux CentOS |
|
システム重量 | 123.16kg | |
梱包重量 | 163.16kg | |
サイズ | 897.1D × 482.3W × 264.0H (mm) | |
運用温度範囲 | 5-30℃ |
※ 記載されている仕様は、製品の改良により予告なく変更される場合があります。
パフォーマンス
分析
PageRank
分析が高速化され、より深い洞察でAI開発を加速

3000x CPU Servers vs. 4x DGX A100. Published Common Crawl Data Set: 128B Edges, 2.6TB Graph.
トレーニング
NLP:BERT-Large
より短いトレーニング時間で、最も高度なAIモデルが実現

BERT Pre-Training Throughput using PyTorch including (2/3)Phase 1 and (1/3)Phase 2. Phase 1 Seq Len = 128, Phase 2 Seq Len = 512. V100: DGX-1 with 8x V100 using FP32 precision. DGX A100: DGX A100 with 8x A100 using TF32 precision.
推論
Peak Compute
推論が高速化され、最高のシステムを利用してROIを向上

CPU Server: 2x Intel Platinum 8280 using INT8. DGX A100: DGX A100 with 8x A100 using INT8 with Structural Sparsity.
資料請求のお申し込み
「NVIDIA DGX AI・ディープラーニングシステム」について、
講演資料や技術情報など資料一式を無料でご提供しております。
お申し込みの際は、以下の「資料請求はこちら(無料)」ボタンよりお進みください。
NVIDIA関連資料

NVIDIAニュース
2019年11月18日~21日、米国コロラド州にて開催された「SuperComputing 2019(SC19)」におけるNVIDIA関連の情報を瓦版にまとめました。NVIDIAの創業者である、Jensen Huang氏(Founder,President and CEO)のご講演内容も掲載しています。

NVIDIA DGX SuperPODのご紹介
NVIDIAは、わずか3週間で世界で22番目に速いスパコン「DGX SuperPOD」を開発しました(2019年6月)。
DGX Systemsをどのように利用して、TOP500にランクされるレベルのインフラを迅速に構築できるのかご紹介しています。

セミナー講演資料(【AI開発の処方箋】ディープラーニングを加速させるNVIDIA活用セミナー)

「DGXの性能を引き出すNGCとDeepOps」(NVIDIA社)
複雑な機械学習モデルのトレーニングに最適なDGXシリーズですが、その性能を余すことなく引き出すためには「効果的な使い方」が重要です。NGCや複数の開発者が同時に利用できる環境を素早く整える、NVIDIAソリューションの活用方法をご紹介しています。

「DGXシリーズのご紹介」(パナソニック ソリューションテクノロジー株式会社)
NVIDIA担当チーフエンジニアの木村が講演しました。AI・ディープラーニングの学習基盤として圧倒的なパフォーマンスを発揮するDGXシリーズを中心に、NVIDIAソリューションの特長・ユースケース・メリットについてパナソニック内での事例も交えてご紹介しています。
商品に関するお問い合わせ
パナソニック ソリューションテクノロジー株式会社 お問い合わせ受付窓口
電話番号: 0570-087870 受付時間: 9時00分~17時30分 (土・日・祝・当社指定休業日を除く)

