トップ / GPUインフラの基礎知識
GPUインフラの基礎知識
AIのモデルを学習させたり、AIエージェントを動かし続けたりするには、GPUを積んだ計算環境が要ります。このページでは、GPUの環境を用意する4つの方法の違いと、選ぶときに見るところをまとめます。
GPUインフラとは
GPUインフラは、GPUサーバーと、それを動かし続けるための電源・冷却・回線・設置場所をまとめた計算環境です。GPUは消費電力と発熱が大きいため、サーバーを買うだけでは動かせません。電力と冷やす設備をどう用意するかで、費用と選べる形が変わります。
用意する4つの方法
| 方法 | 何をするか | 始めるまで | 向いている場合 |
|---|---|---|---|
| クラウド | 大手クラウドのGPUを時間単位で借りる | すぐ | 短い期間だけ使う、試してから決めたい |
| ホスティング | 国内に置かれたGPUサーバーを月額で借りる | すぐ | 長く使い続ける、クラウドのレートリミットを避けたい |
| ハウジング | 自社のGPUサーバーを、電源と冷却のある設備に預ける | 機材の搬入しだい | すでにGPUサーバーを持っている、水冷のサーバーを置く場所がない |
| コンテナ構築 | 自社専用のコンテナ型データセンターを建てる | 最短2週間〜3か月 | 用地・電源・水源があり、規模を大きくしたい |
クラウドの上限に注意する
クラウドのAIサービスには、一定時間あたりの利用回数に上限(レートリミット)があります。AIエージェントを24時間動かし続ける使い方では、この上限が先に来ることがあります。自社で使えるGPUを持てば、上限を気にせずに動かし続けられます。
費用の目安
ラピニクスのGPU環境では、どのプランでも費用をクラウドの3分の1(大手クラウドの70%OFF)を目安にしています。
| プラン | 単位 | 目安 |
|---|---|---|
| ホスティング | H100 8基のサーバー1台・月額 | 230万円〜 |
| ハウジング | H100 1ノード・月額 | 40万円〜 |
| コンテナ構築 | 空冷(4ノードまで) | 400万円〜 |
| コンテナ構築 | 水冷(24ノードまで) | 600万円〜 |
H200・B200 の料金や契約期間などの条件は、AIコンテナの料金のページにあります。
電力と冷却
GPUは消費電力と発熱が大きいため、電源と冷やす設備をどう用意するかで、費用と置ける機材が変わります。
- 空冷と水冷
- GPUサーバーには、空冷のものと水冷のものがあります。水冷のサーバーを置ける環境は多くありません。ラピニクスのコンテナは、空冷の H100 から、水冷の H200・B200・B300、GB200/GB300 NVL72 まで対応しています。
- 冷やす電力を小さくする
- 冷却に使う電力が小さいほど、電力の多くをGPUに回せます。ラピニクスのコンテナでは、地下水と河川水を使った冷却で、水冷GPUサーバーの実証で pPUE 1.114 を記録しました。
- 建物を建てない
- 建物の代わりにコンテナを使うと、建屋型のデータセンターに比べて投資コストを30〜50%に抑えられます。
GPU 1基でできることの目安
| 用途 | 指標 | H100・GPU1基あたり |
|---|---|---|
| 音声対話 | 同時接続数 | 約10セッション |
| AIチャット | 同時接続数 | 約50セッション |
| コーディング支援 | 同時利用人数 | 約20人 |
| 画像生成 | 1時間あたりの生成枚数 | 約1,500枚 |
| 動画生成 | 1時間あたりの生成本数(5秒程度) | 約6本 |
当社の試算です。実際の性能は、使うモデルや設定によって異なります。
選ぶときに確かめること
- 使い続ける期間数日〜数週間ならクラウド、1年以上ならホスティングかハウジングが合います。
- GPUの種類水冷のGPUサーバーを使うなら、水冷に対応した設備が要ります。
- データの置き場所国内に置く必要があるか。国内に置けば、為替の影響も受けません。
- 規模の伸ばし方サーバー1台、ラック1台、コンテナ1棟から、段階的に増やせるか。
自社に合う形を相談する
「どの方法が合うか分からない」「今の使い方でクラウドとどれくらい差が出るか知りたい」という段階でも、ご相談いただけます。用途と規模をうかがい、合う形と費用の目安をお伝えします。
GPUの設備は、グループ会社の株式会社ゲットワークスが保有・運用しています。当社は、GPUコンテナの設計・設置の代理と、その環境で動くAIシステムの開発を担当します。
