OpenAIのオープンウェイトモデルを使用したアプリケーション開発の第二回です。
前回は、2025年8月5日にOpenAI社が公開したgpt-oss-20bを用いてアプリケーションの開発を実施しました。
この開発を通して分かったことは、開発作業は問題なく行うことができるものの、オープンウェイトモデルの回答に時間がかかるので開発作業でストレスがたまる、ということでした。
今回は、この知見をもとにして、オープンウェイトモデルを用いた実運用を検討していきます。
前回の記事をご覧になっていない方は、こちらもご覧ください。
導入を成功させるために
オープンウェイトモデルは自社データで精度を高めたり外部システムと連携できる自由度が強みです。
一方で、GPUサーバーのインフラ費用やチューニングコスト、ライセンス確認、運用体制の整備といった設備費用や、人員的な負担が伴います。
導入は「動かせる」だけでなく「使いこなせる」環境を整え、投資に見合うかを見極めた上で判断すべきです。
オープンウェイトモデルの特徴とビジネスでの活用
特徴
オープンウェイトモデルには次の特徴があります。
- 調整・拡張の自由度：自社のデータや外部システムで最適化可能
- 再学習の必要性：通常利用では精度が改善せず、性能向上には追加学習が不可欠
- 高い実行環境要件：GPUサーバーなど高性能な実行環境が必要
- ライセンス条件の多様性：商用利用の可否や再配布制限はモデルごとに異なる
- 運用責任の所在：提供元が最適化を保証せず、利用者側に運用ノウハウが求められる
商用利用に向けた活用と注意点
調整と拡張
自社データを学習させて専門分野に特化させる「調整」や、RAGのように外部データベースを組み合わせて知識を補う「拡張」により、用途に合わせた精度の高い活用が可能です。
再学習の必要性
通常利用を続けても回答精度が自動で改善することはありません。
性能を高めたい場合には、追加学習（ファインチューニング）を行う必要があります。
実行環境
小規模な検証であれば一般的なPCでも可能ですが、商用利用を前提とするならGPUサーバーなどの高性能な環境が不可欠です。
ライセンスの違い
モデルごとに利用条件が異なります。
例えば、gpt-oss-20bは商用利用可能ですが、Mistral Large 2は非商用限定で、商用利用には契約が必要です。
なお、ライセンス条件には再配布の可否や利用範囲の制限も含まれるため、導入時には必ず詳細を確認する必要があります。
活用が有効な場面
主な活用が有効な場面は下記の通りです。
- 専門領域（医療・法律など）：自社データを追加学習させることで、医療相談や法律相談など高い専門性を求められるサービスで回答精度を向上できる
- 機密データの安全利用：データを外部に送信せずに処理できるため、個人情報や機密情報などを扱うサービス（金融機関、医療現場、政府・防衛関連のシステムなど）でセキュリティやコンプライアンスを確保できる。
- 規制・監査対応：金融や医療など規制が厳しい分野では、AIの出力根拠を可視化し、妥当性を検証することで透明性を確保する
- 企画・開発補助への活用：ビジネス企画やプログラム開発において、社内環境に導入したオープンウェイトモデルを活用することで、機密情報を外部に出さずに効率化を図れる。
「動かせる」と「使える」は違う：オープンウェイトモデルのインフラコスト
オープンウェイトモデルを使うべきアプリケーションの方向性は見えてきました。
では、実際に導入を検討する際、どの程度コストがかかるのでしょうか。
本記事では、オープンウェイトモデルを稼働させるサーバー費用に絞って試算を行います。
本試算の前提条件
本記事で扱うコストは以下に限定しています。
- 対象はgpt-oss-20b相当の実行環境
- 計算対象はサーバーの実行コストのみ
- 開発費・人件費・ストレージ・ネットワークなどの付随コストは含まない
- オープンウェイトモデル以外のアプリケーションを動かす場合の追加コストも含まない
- サーバーは1台構成で十分処理可能、もしくはアクセスが同時集中しないことを前提にする
前回環境と課題
前回の記事では、以下のPCでgpt-oss-20bを実行しました。
- CPU：13th Gen Intel(R) Core(TM) i5-13600K（14コア、3.50GHz）
- メモリ：64GB
- グラフィックカード：NVIDIA GeForce RTX 4070（VRAM：12GB）
OpenAIの発表では『わずか16 GBのメモリを搭載したエッジデバイスで実行』出来るとされていましたが、実際には回答速度に満足できませんでした。（参考：gpt-oss が登場 | OpenAI）
このことからわかるのは、「動かせる」と「円滑に使える」は全く別物という点です。
商用利用を前提にするなら、より高性能な環境が不可欠です。
GPU要件の考え方
LLMの実行において最重要となるのはGPUの性能です。
一般的に、必要なGPUメモリ（VRAM）の理論値は以下で算出されます。
必要VRAM[GB] = パラメータ数 × 2バイト + 追加メモリ
・gpt-oss-20bのパラメータ数：200億（20 × 109）
・精度：FB16（2バイト）を前提
・追加メモリ：パラメータ数 × 2バイトの30%
（参考：LLMに必要なGPUとは？最適な選び方と活用のコツ | さくらインターネット）
※gpt-oss-20bの精度は確認できなかったため、参考サイトの値をそのまま採用。
※追加メモリサイズは、ChatGPTによると30%～50%程度用意しておくと安心である、とのこと
これに基づく試算では必要なVRAMは52GBとなりました。
（前回使用したGPUのVRAM 12GBの約4.3倍に相当）
クラウドサービスでのコスト試算
AWSの場合
- 利用インスタンス：g4dn.8xlarge
- スペック：vCPU 32コア、メモリ128GiB、GPUメモリ50GB
- 料金：2.938米ドル/ 時間（2025年8月28日時点）
- 為替：1ドル = 147.12円
- 月額試算（30日連続稼働）：311,212円
※必要VRAM 52GBに対し50GBとやや不足するものの、コストと性能のバランスから採用
参考：Amazon EC2 インスタンスタイプ | AWS
参考：Amazon EC2 オンデマンド料金 | AWS
さくらインターネットの場合
- 利用サービス：高火力VRT（NVIDIA H100）
- スペック：CPU 24コア、メモリ240GB、GPUメモリ80GB
- 料金：月額385,000円（税込）（2025年8月28日時点）
※要件に対して過剰性能だが、選択可能な範囲では最も近い構成
参考：高火力（GPUクラウド） | さくらインターネット
参考：高火力VRT | さくらインターネット
想定しておくべきサーバー実行コスト
以上の試算から、gpt-oss-20bを円滑に商用利用できる環境を整えるには、月額30万円以上のサーバー費用が必要になることが分かります。
オープンウェイトモデル自体は無料で利用することができますが、実際にビジネスで使うためには相応のインフラ投資が避けられない、という点を踏まえて導入を検討すべきでしょう。
コスト・精度で比較するファインチューニング/LoRA/RAG
オープンウェイトモデルを実際の業務で活用する際には、公開されたものをそのまま利用すると、用途にあった回答精度を得られない可能性が高いです。
これを実運用で使えるようにするにはファインチューニング/LoRA/RAGなどの手段で精度の向上を図る必要があります。
これには、サーバーの実行コストとは別に追加のコストが発生します。
ここでは代表的な3つの方法それぞれの特徴とコストについて解説します。
ファインチューニング
既存のAIモデルに新しいデータを与えて再学習させる方法です。
一般的にはモデル全体の重みを更新しますが、一部のみを調整する形もあります。
この手法を行うには、多くの場合、モデル実行用環境よりも高性能なGPUや大量の学習データが必要です。
特に大規模モデルでは、高価なGPUを前提とするケースが目立ちます。
さらに計算コストや電力だけでなく、学習用マシンの準備・運用、データの収集・整備にも費用が掛かります。
こうした要素が積み重なるため、ファインチューニングは精度向上が期待できる一方で、代表的な手法の中では一般的に最もコスト負担が大きい方法と言えます。
LoRA
既存モデルに小規模な追加パラメータを差し込み、それを学習させる方法です。
元のモデル全体を更新するのではなく、内部に補助的な学習モジュールを追加して「拡張」する形で利用します。
この方法の特徴は、元のモデルを維持したまま柔軟にカスタマイズできる点です。
必要なGPU性能は比較的低く、モデル実行環境と同等かそれ以下で済むことが多いため、学習用マシンのコストはファインチューニングに比べて低く抑えられます。
また、学習に必要なデータ量も少なく済むため、データ準備の負担も軽減できます。
大規模な汎用精度改善には向きませんが、特定の用途やドメインに合わせた最適化では十分な成果が得られるケースが多いのも特徴です。
そのため、コストを抑えつつ用途特化の最適化を行いたい場合に有効な方法と言えます。
RAG
モデルそのものを変更する代わりに、外部の知識ベースやデータベースから必要な情報を検索し、その結果を入力に組み込んで回答を生成する方法です。
この仕組みを利用するには、まず知識ベースを構築し、ユーザの質問に応じて適切な情報を返す検索システムを用意する必要があります。
追加学習に伴うコストは不要ですが、検索システムの初期構築に加えて、知識ベースの整備・更新や検索基盤の運用には継続的な費用が発生します。
RAGの特徴は、ファインチューニングやLoRAのように「モデルそのものを学習させる」のではなく、外部知識を柔軟に組み合わせて回答を調整できる点です。最新情報を反映しやすく、既存データを有効活用できる強みがありますが、検索精度や知識ベースの品質に依存するため、誤情報や不安定な出力につながるリスクもあります。
まとめ
オープンウェイトモデルは、自由度の高さとカスタマイズ性が大きな魅力です。
自社データを取り込み精度を高めたり、外部システムと組み合わせて柔軟に拡張できる点は、クローズドな商用モデルにはない強みと言えます。
一方で、オープンウェイトモデルを商用利用することには現実的な課題があります。
- 高性能なGPUサーバーを前提としたインフラコスト（少なくとも月額30万円規模）
- モデルを使いこなすためのチューニング作業と追加コスト
- モデルごとに異なるライセンス条件の確認と遵守
- 運用・最適化を担う体制の整備
特にチューニングでは、
- ファインチューニング（高精度だが高コスト）
- LoRA（軽量で用途特化に有効）
- RAG（外部知識を活かせるが検索基盤の整備が必要）
と、それぞれ性能とコストのトレードオフがあります。
導入時にはコストと効果を比較件とすることが欠かせません。
結論として、オープンウェイトモデルは「動かせる」だけでなく「円滑に使える」環境を整えてこそ、ビジネスで価値を発揮します。
自社の用途・規模・リスク許容度を踏まえて、投資に見合うと判断できる場合にのみ導入すべき技術です。
