最近の SIGGRAPH 2023 イベントで、NVIDIA は、NVIDIA OVX サーバー内での L40S の統合と並行して、革新的な NVIDIAL40S GPU を公開することで重要な一歩を踏み出しました。 これらの製品は、入手可能なデータに基づいて、AI モデルのトレーニングと推論、3D 設計と視覚化、ビデオ処理、産業デジタル化を含む多様なアプリケーション向けに細心の注意を払って調整されています。 目的は明らかです。企業、組織、データセンターの AI、グラフィックス、ビデオ処理能力を強化して、急増する計算要件に効果的に対処することです。
L40S GPU と OVX サーバーの中心となるのは、生成 AI モデルのトレーニングと推論段階を強化する役割であり、これらのモデルの効率を増幅する可能性を実証しています。
公開された情報によると、L40 シリーズの後継である新しい L40S GPU アクセラレーション カードが NVIDIA から発売されたことが示されています。 この GPU は Ada Lovelace アーキテクチャに基づいて作られており、第 4 世代 Tensor コアと FP8 変換エンジンが組み込まれており、最大 1.45 PFlops の計算速度を誇ります。 さらに、L40S GPU は 18,176 個の CUDA コアのアセンブリを誇り、NVIDIA A100 GPU と比較して単精度浮動小数点 (FP32) パフォーマンス (91.6 TFlops) がほぼ 5 倍向上しています。 A100 GPU や H100 GPU とは異なり、L40S は NVLink サポートを省略し、代わりに GDDR6 ECC メモリを選択し、エッジ コンピューティング シナリオにより適したソリューションとして位置付けています。
上海証券のアナリスト、Liu Jingzhao 氏は次のように洞察を共有しました。
- PCIe Gen 4 インターフェイスの制約により、L40S の GPU ネットワーク コンピューティングへの応用は比較的限られており、継続的な 800G 光モジュールの需要にわずかな影響を与える可能性があります。
- A100 と比較して、L40S は、特定の生成 AI モデルのコンテキスト内で計算効率の利点を示し、高い費用対効果をもたらします。
- GDDR6 などの成熟したテクノロジーを活用することで、L40S は上流電源の安定性を保証します。
- L40S に起因する強調された利点は、下流のクラウドプロバイダーの間で買収傾向の強化を促進し、その後、中高速光モジュール、特に 200G および 400G 表現の新たな成長の可能性を生み出す可能性があります。
NVIDIA の L40S GPU の展開により、AI コンピューティング機能が強化され、下流のクラウド プロバイダー間の調達活動がさらに拡大する可能性があります。 この勢いにより、中高速光モジュール市場の需要が高まる道が開かれる可能性があります。