相談する

Column

GPUの貸し切りが勝つのは、満席のときだけ

金曜の夜にGPUを立ち上げて、月曜の朝に止め忘れに気づく。H100 SXM という高性能GPUなら、60時間で約$239、3万6千円ほどです。1時間ならランチ1回分の値段が、週末のあいだ、誰もいない店で静かに積み上がっていきます。想像しただけで胃が痛くなります。

重みが公開されたモデル(オープンウェイトモデル)は、ダウンロードすれば誰でも動かせます。GPUがなければ、RunPod のようなサービスで時間貸しで借りられます。料金表を眺めると「え、こんなに安いの?」となりますし、私もなりました。APIで最上位モデルを使うより安いのでは、と電卓に手が伸びるんですよね。

先に結論を書くと、得をするのは、満席にできて、そのモデルで足りるときだけです。値段だけで見るなら、それ以外は損をします。

APIは回転寿司で、GPUレンタルは貸し切りです

APIは、食べた皿の分だけ払う回転寿司です。GPUレンタルは、店を丸ごと借りるようなものです。客をたくさん呼べば1人あたりは安くなりますが、1人で貸し切って、お茶をすすりながらスマホを眺めていたら、とんでもなく高くつきます。

なので、時給を比べてもあまり意味がありません。見るのは1皿あたりの値段で、それは時給を「1時間に何皿出せたか」で割って決まります。時給は料金表に書いてありますが、皿の数は使い方で桁が変わります。

同じ店なのに、値段が数十倍も変わります

H100 SXM(RunPod で1時間$3.99)で Llama 3.3 70B を動かすとします。公開されている測定をもとに幅を取って試算すると、出力100万トークン(トークンはAIの処理量の単位)あたりの値段はこうなります。

  • 満席(何十件も同時に流し、毎秒1,000〜2,400トークン):約$0.46〜1.11
  • 1人で対話(毎秒120トークン。人が考えている間は待つので、動くのは全体の1〜3割):約$31〜92

GPUもモデルも同じで、違うのは客の数だけです。

回転寿司の皿も同じ単位に直して並べてみます。入力が出力の2倍の仕事なら、Claude Opus 5.5 で$28、軽い Claude Haiku 5.5 で$0.70です。満席なら上位モデルのAPIより1桁以上安くなりますが、1人で対話すると Opus より高くつきます。同時1件でも、GPUが全体の3分の1の時間働いていれば Opus と並ぶ計算なのですが、人が考えながら話しているうちは、GPUはそんなに忙しくなりません。こっちは考えるので忙しいんですけどね。

「足りる」のほうが、やっかいです

満席の話だけなら簡単です。夜のうちに数万件の問い合わせを仕分けるとか、過去の文書を全部要約し直すとか、量が多くて急がない仕事を集めれば、電卓は味方してくれます。

くせものは、もう一つの条件です。どのモデルも賢さが同じわけではないのに、ここまでの計算は全部、100万トークンの値段で比べています。本当に比べたいのは、使える回答を1件得るまでに払った総額です。やり直しが多いモデルは、料金表の外で高くなるんです。

それに、安い皿は回転寿司にもあります。Haiku 5.5 は満席のGPUとほぼ互角で、半額のバッチ処理($0.35)ならAPIの勝ちです。オープンウェイトモデル自体もAPIで買えて、DeepSeek V4.1 Flash なら、同じ換算で提供元により約$0.20〜2.70です。値段だけが理由なら、店を借りる前に、回転寿司のメニューをもう一度見たほうがよさそうです。

料金表に載っていない出費もあります

いちばん怖いのは、冒頭の止め忘れです。処理が終わったら自動で止まる仕組みは、最初に作っておくといいです。数十GBのモデルを読み込んでいるあいだもメーターは回っていますし、環境づくりや、原因の分からないエラーとのにらめっこに使う人の時間も、APIなら払わずに済んだものです。料金表には載っていませんが、会社はちゃんと給料として払っています。

それでも店を借りたくなる理由

安さ以外の理由なら、話は別です。勝手にモデルが更新されない、追加で学習させられる、出力の形を細かく縛れる。どれも電卓とは関係のない、まっとうな理由です。

ひとつ勘違いしやすいのは、借りたGPUも社外のコンピューターだということです。「データを社外に出したくないから自前のモデルで」と言いながら、よその会社のGPUで動かしていたら、本末転倒です。

料金表で見るべきなのは時給より、自分の店を満席にできるかどうかです。できるなら貸し切ればいいですし、できないなら、堂々と回転寿司に座ればいいんです。回転寿司、おいしいですしね。

値はすべて2026年秋の時点。1ドル150円で換算。RunPod の料金、Spheron の測定、Claude の料金、OpenRouter の DeepSeek V4.1 Flash。