トップ / GPUインフラの基礎知識

GPUインフラの基礎知識

AIのモデルを学習させたり、AIエージェントを動かし続けたりするには、GPUを積んだ計算環境が要ります。このページでは、GPUの環境を用意する4つの方法の違いと、選ぶときに見るところをまとめます。

GPUインフラとは

GPUインフラは、GPUサーバーと、それを動かし続けるための電源・冷却・回線・設置場所をまとめた計算環境です。GPUは消費電力と発熱が大きいため、サーバーを買うだけでは動かせません。電力と冷やす設備をどう用意するかで、費用と選べる形が変わります。

用意する4つの方法

方法何をするか始めるまで向いている場合
クラウド大手クラウドのGPUを時間単位で借りるすぐ短い期間だけ使う、試してから決めたい
ホスティング国内に置かれたGPUサーバーを月額で借りるすぐ長く使い続ける、クラウドのレートリミットを避けたい
ハウジング自社のGPUサーバーを、電源と冷却のある設備に預ける機材の搬入しだいすでにGPUサーバーを持っている、水冷のサーバーを置く場所がない
コンテナ構築自社専用のコンテナ型データセンターを建てる最短2週間〜3か月用地・電源・水源があり、規模を大きくしたい

クラウドの上限に注意する

クラウドのAIサービスには、一定時間あたりの利用回数に上限(レートリミット)があります。AIエージェントを24時間動かし続ける使い方では、この上限が先に来ることがあります。自社で使えるGPUを持てば、上限を気にせずに動かし続けられます。

費用の目安

ラピニクスのGPU環境では、どのプランでも費用をクラウドの3分の1(大手クラウドの70%OFF)を目安にしています。

プラン単位目安
ホスティングH100 8基のサーバー1台・月額230万円〜
ハウジングH100 1ノード・月額40万円〜
コンテナ構築空冷(4ノードまで)400万円〜
コンテナ構築水冷(24ノードまで)600万円〜

H200・B200 の料金や契約期間などの条件は、AIコンテナの料金のページにあります。

電力と冷却

GPUは消費電力と発熱が大きいため、電源と冷やす設備をどう用意するかで、費用と置ける機材が変わります。

空冷と水冷
GPUサーバーには、空冷のものと水冷のものがあります。水冷のサーバーを置ける環境は多くありません。ラピニクスのコンテナは、空冷の H100 から、水冷の H200・B200・B300、GB200/GB300 NVL72 まで対応しています。
冷やす電力を小さくする
冷却に使う電力が小さいほど、電力の多くをGPUに回せます。ラピニクスのコンテナでは、地下水と河川水を使った冷却で、水冷GPUサーバーの実証で pPUE 1.114 を記録しました。
建物を建てない
建物の代わりにコンテナを使うと、建屋型のデータセンターに比べて投資コストを30〜50%に抑えられます。

GPU 1基でできることの目安

用途指標H100・GPU1基あたり
音声対話同時接続数約10セッション
AIチャット同時接続数約50セッション
コーディング支援同時利用人数約20人
画像生成1時間あたりの生成枚数約1,500枚
動画生成1時間あたりの生成本数(5秒程度)約6本

当社の試算です。実際の性能は、使うモデルや設定によって異なります。

選ぶときに確かめること

  1. 使い続ける期間数日〜数週間ならクラウド、1年以上ならホスティングかハウジングが合います。
  2. GPUの種類水冷のGPUサーバーを使うなら、水冷に対応した設備が要ります。
  3. データの置き場所国内に置く必要があるか。国内に置けば、為替の影響も受けません。
  4. 規模の伸ばし方サーバー1台、ラック1台、コンテナ1棟から、段階的に増やせるか。

自社に合う形を相談する

「どの方法が合うか分からない」「今の使い方でクラウドとどれくらい差が出るか知りたい」という段階でも、ご相談いただけます。用途と規模をうかがい、合う形と費用の目安をお伝えします。

GPUの設備は、グループ会社の株式会社ゲットワークスが保有・運用しています。当社は、GPUコンテナの設計・設置の代理と、その環境で動くAIシステムの開発を担当します。

AIが応答します