会議室で始まった問い
先週、江南のある会議室で、社長さまがこうお尋ねになりました。「それで結局、うちの会社はいくらかかるんですか」。私は一呼吸おいてお答えしました。「今の状態では正確には申し上げられません。ただ、どのレンジに入るかは、今日中に絞ってご案内できます」。
正直に申し上げれば、自社LLMのコストは、見積もり依頼を受けたその場で答えが出る類の数字ではありません。データが何GBあるのか、何人が一日に何回問い合わせるのか、既存の社内システム何本と接続するのかによって、五倍ほどの差が出ます。前回の自社LLM構築スタック比較で、商用API・オープンソース・オンプレの三択を整理しましたが、今回はその選択を実際の原価表に落とし込む作業です。
見積もりを揺さぶる四つの変数
同じ「チャットボット一つ」でも、原価はなぜこれほど振れるのでしょうか。おおむね四つの変数が、LLM構築予算の80パーセントを説明します。
第一に、データ規模と整備状態です。社内マニュアル200ページと20万ページでは、インデックス化コストからして異なります。第二に、ユーザー数とトラフィックです。社内30名が一日十回使うのと、顧客3万人が24時間アクセスするのとでは、インフラの階層がまったく変わります。第三に、連携範囲です。ERP・CRM・グループウェアの三本に接続するとなると、それ自体がSIプロジェクトになります。第四に、運用・保守が含まれているかどうかです。見積書に12か月分の運用が含まれていなければ、必ず再計算する必要があります。
構築費の実際の内訳
初期構築費は、大きく四つの塊に分けられます。RAGパイプライン(データ収集・整備・インデックス化・検索連携)、必要に応じたファインチューニング、社内システムとの連携、そして初期のデータ整備です。韓国国内の相場感で要約しますと、RAGパイプライン自体はおおむね500万〜1,500万ウォンのレンジで形成されます。7B〜14Bクラスのオープンウェイトモデル LoRA ファインチューニングは、GPU費用だけで50万〜300万ウォン水準ですが、そこにエンジニアの人件費(月800万〜1,500万ウォン、通常1〜3か月)が上乗せされます。70Bクラスのフルファインチューニングを真剣にご検討されるのであれば、3,000万ウォンからスタートするとお考えいただくのが安全です。
企業AIの見積もりを最も大きく揺さぶる軸は、実は連携開発です。会議室で「うちのグループウェアに繋げばよいだけではないですか」というお話をいただくたびに、まずはそのグループウェアのAPIドキュメントの状態から確認しましょう、と申し上げる理由がここにあります。
運用費 — 毎月出ていくお金
構築費よりも、むしろこちらで予算が崩れる事例が多いのです。大きく三項目、トークン費、インフラ、保守SLAです。LLM API連携型チャットボットの月額運用費は、使用量ベースでおおむね月30万〜200万ウォンのレンジです。RAGベースでAPI・ベクトルDB・サーバを合算すると、月50万〜300万ウォンまで上がります。自前ホスティングを選ばれた場合は、モデルサービングのインフラだけで月100万〜500万ウォンが固定で出ていきます。保守SLAと変更要求対応の費用が契約書に明記されていなければ、半年後に必ずトラブルになります。
規模別見積もりガイド — 三つのレンジに絞る
実際の商談で、私どもが社長さまがたにご案内している感覚的なレンジは、おおむね以下の三択です。もちろんこのレンジは判断のあたりであって、見積書ではございません。
| レンジ | 構築費の感覚 | 月額運用費の感覚 | 一般的な組み合わせ |
|---|---|---|---|
| 小 — PoC/社内チャットボット | 500万〜1,500万ウォン | 月30万〜150万ウォン | 商用API + 軽量RAG、社内30〜100名 |
| 中 — 部門単位の導入 | 3,000万〜7,000万ウォン | 月200万〜700万ウォン | ハイブリッド(商用API + ベクトルDB + 小規模ファインチューニング)、複数システム連携 |
| 大 — 全社または対外サービス | 1億ウォン以上 | 月1,000万ウォン以上 | 自前ホスティング併用、70Bクラス活用、24/7 SLA |
サブスクリプション(API) 対 自前構築 — LLM TCOの損益分岐
前回でスタックを決めたのであれば、今回はそのスタックを12か月分の原価表に落とし込む作業となります。国内外の資料を総合しますと、マネージドAPIが有利なレンジが相当広いことがわかります。月に数百万〜数千万トークン以下のトラフィックであれば、たいていAPIのほうが安価です。自前ホスティングの損益分岐は、フロンティア級モデル基準で月1億〜2億トークン付近、プレミアムモデルに限れば月500万〜1,000万トークンまで下がることもあります。ただし、自前ホスティングにはシニアエンジニアの20〜30%常駐という隠れコストが必ず付きます。月500万〜800万ウォンが別枠で発生する、ということです。
ですから、2026年現在のAI導入コスト議論のコンセンサスはハイブリッドです。予測可能なベーストラフィックだけを自前インフラに置き、スパイクとフロンティア級リクエストはAPIへ流す方式です。
予算案を組むときに契約書へ必ず入れる五行
これまで多くの企業さまの見積書を拝見しながら、繰り返し抜けていた項目です。契約前に、必ず文書化しておくことをお勧めいたします。
- 月次API利用料の分離請求方式と上限額
- 変更要求時の時間単価と対応期限
- 保守SLA — 障害対応時間と定期リリースの周期
- ソースコード・モデル重みの移管可否とその条件
- 初期データ整備費用の見積分離(構築費に混ぜると後日紛争のもとになります)
加えて、予算が厳しい中小・中堅企業さまであれば、政府支援事業を並行して検討する価値があります。国内の実態調査で繰り返し確認される格差は予算・人材・データ整備の三領域で、前二者は支援事業でかなりの部分を相殺できます。
むすび — 概算見積もりから始める
私ども5years+は、韓国・日本の中小・中堅企業さまの自社LLM導入を、初期診断から運用まで伴走してまいりました。会議室で出た「いくらですか」というご質問に、今日中にレンジを絞ってご案内する仕事は、そのなかの一つの柱です。ご関心のある規模やご方針がありましたら、概算見積もりを24時間以内にご返信までお気軽にお問い合わせください。
次回は、見積もりの中に必ず入れておくべきセキュリティ・ガバナンス項目 — PIIマスキング・監査ログ・ガードレール・RAG権限 — を取り上げます。この項目を初期に反映しないと、たいてい6か月後に手戻り作業の請求書が返ってくるからです。