大規模 AI 向けインフラストラクチャー
高パフォーマンスなデプロイのために構築された GPU compute、cloud、bare metal、およびグローバルネットワーキング。
使用機器とチューニングの方法。
マルチベンダーシリコン、ワークロードに合わせてサイジングと設定を実施。以下のリストはフロアにある機器です。重要な作業は、本番環境でサーバーが起動する前にお客様と行うビニング、トポロジー、ファームウェアの決定です。
キャパシティを予約- NVIDIA BlackwellおよびAMD Instinct
- 適切なシリコン ベンダーをまたいだFrontierアクセラレーター。最新のプレスリリースではなく、ワークロードの実際の数値計算、メモリプロファイル、インターコネクト要件に対して選定。
- 最新世代CPU
- 適切にビニング 現行のAMD EPYCおよびIntel Xeon。低ジッターまたは高throughputのためにビニングし、NUMAの配置はノードごとに決定してお客様のベンチマークに対して検証。
- ダイレクトパスアクセス対応スマートNIC
- 専有キュー ワークロードが必要とする場合、カーネルバイパス、RDMA、ハードウェアタイムスタンプを備えたDPUクラスNIC。キューはお客様のもの、ハイパーバイザーのものではありません。
- NVMeおよびパラレルファイルシステム
- ライン速度 ホットパス用ローカルNVMe、トレーニングと分析をライン速度で供給し続けられるサイズのパラレルファイルシステム。ストレージはI/O形状に合わせてチューニング、後付けではありません。
- エンドツーエンドで公開されるIPMI
- ブラックボックスなし 全サーバーにアウトオブバンド管理を設置し、お客様チームに公開。24/7 NOCが操作する同じコントロールサーフェス上で。ブラックボックスはありません。
- カスタムビルド、共同設計
- 共同設計 非標準構成は当たり前です。仕様書をお持ちいただくか、インフラエンジニアと共同設計ください。ワークロード到着前にバーンイン、検証、引き渡しを実施。
