「自社専用のChatGPT、どこから始めればいいですか?」
先月、ソウルにあるとある中堅物流会社の会議室でのこと。午後3時、窓の外に高速道路の料金所が見える席で、社長がノートPCの画面をしばらく見つめた後、こう尋ねられました。「うちの会社のデータでChatGPTのようなものを作りたいのですが、一体何から始めればいいのか分からないんです」
正直に申し上げると、その場ですぐに短くお答えできる質問ではありませんでした。自社データLLMという言葉は一つでも、その中にはいくつかの分岐があり、分岐ごとにコストとリスク、そしてその後の運用保守の重みがまったく異なります。一つの正解がある問題でもありません。どのデータを、どの業務に、どの規模で組み込むかによって答えが変わります。
そこで、この記事を皮切りに、これから8回にわたって自社データLLMの概念・方式・コスト・セキュリティ・失敗パターン・実行順序を一つずつ解きほぐしていきます。今回の第1回は、その全体を俯瞰する地図のような記事です。
自社データLLMとは何を指すのか
名前は難しく聞こえますが、意味はシンプルです。会社がこれまで蓄積してきた文書・マニュアル・顧客履歴・業務ログを大規模言語モデル(LLM)が理解して答えられるようにしたもの。それが自社データLLMです。
なぜ必要なのでしょうか。一般的なChatGPTやClaudeは会社の社内規定を知りません。自社製品の仕様、契約条件、過去3年分の顧客対応記録、財務ルールを知りません。従業員が実際の業務に使い始めると、すぐに壁にぶつかります。「これ、うちの会社の状況を分かっていないな」。その壁を越えるための方法が自社データLLMです。
グローバル市場調査(Fortune Business Insights)によると、2026年のエンタープライズLLM市場は約59億ドル規模と推計されており、2034年まで年30%程度の成長が見込まれています。国内の中堅・中小市場でも、パイロット段階を過ぎ、実質的な導入期に入る企業が目に見えて増えています。
構築方式の三つ — そしてなぜこの順序なのか
実務で出会う方式は大きく三つです。理論的にはさらに細分化できますが、予算と時間が決まっているプロジェクトでは、この三つの中から答えが出てきます。
RAG(検索拡張生成)
会社の文書をベクトルデータベースに格納しておき、質問が入ってくるたびに関連文書を検索し、LLMに一緒に渡して答えを作らせる方式です。モデル自体には手を加えません。その代わりに、その横に会社の知識の倉庫を取り付けておきます。
2026年のエンタープライズプロダクション基準で、カスタマイズ手法の中でRAGの採用率は約51%と、ファインチューニング(9%)を大きくリードしています。理由は明確です。データが変わったら文書を差し替えるだけで済みます。回答に出典を付けられるため、規制産業(金融・医療・法務)で特に好まれます。
ファインチューニング
モデル自体を自社データで再学習させる方式です。最近はLoRAのような部分学習手法のおかげで、以前よりコストが大きく下がりました。7B〜14B規模のオープンモデルのLoRAファインチューニングは、GPUコストだけで見れば5万〜30万円程度で可能です。ただし70B以上のフルファインチューニングは、依然として300万円以上を覚悟する必要があります。
よくある誤解があります。「会社の知識を入れるにはファインチューニングをしなければならない」という考えです。実際はその逆に近いのです。ファインチューニングは知識の注入ではなく、形式やトーン、応答の振る舞い方を成形するのに強みがあります。コールセンタースクリプト、医療カルテ要約、特定の文体の順守のように「どう答えるか」が重要な業務に向いています。
ハイブリッド
実際のプロダクションで生き残る答えは、ほとんどここにあります。知識はRAGで満たし、トーンと形式はファインチューニングで整えるという組み合わせです。カスタマイズ順序のコンセンサスも、プロンプト設計 → RAG → ファインチューニング → 蒸留(distill)の流れで整理されています。中小・中堅企業であれば、通常はプロンプトとRAGで半年ほど運用してみて、データやトーンの要求が安定した後、必要な部分だけLoRAで微調整する流れが最も無理のないものです。
構築ロードマップ — 診断から運用まで
ロードマップを描いてみると、おおよそ四つの段階に整理されます。各段階の目的と期間、必要な人材が異なるため、混ぜてしまうと必ずプロジェクトは長引きます。
まずは診断段階です。どの業務を、どのデータで、誰のために作るのかを決めます。ここで対象業務を一つにしっかり絞るだけで、その後の6ヶ月が楽になります。逆にここで「うちの会社の全業務を全部」と始めてしまうと、たいてい失敗へと向かいます。
次はPoC(概念実証)です。絞り込んだ業務一つを、実際のデータの一部で小さく作ってみます。おおむね4〜8週間。この段階で出てくる結果は完成品ではなく、「この方向性は自社に合っているか」を確認する指標です。
その次はパイロット運用です。一つのチーム、もしくは一つの支社を対象に3〜6ヶ月回します。この時期に本当の問題が明らかになります。ユーザーは予想外の質問を投げかけ、データに穴が見つかり、権限設計に抜け穴が現れます。ここで磨かれたものだけが全社展開へと進みます。
最後は拡張と運用です。グローバルコンサルティング資料が完全なエンタープライズスケーリングに要する期間を18〜36ヶ月と見積もっている理由は、ここにあります。作る時間よりも、社内に定着させる時間の方がはるかに長いのです。
連載予定の目次
今回のシリーズは以下の8編で構成されます。今日の記事はその地図であり、これからの記事は各地点を一つずつ深く掘り下げていく予定です。
- 第1回(今回): 自社データLLM完全ガイド — 概念・タイプ・構築ロードマップ総まとめ
- 第2回: RAG・ファインチューニング・プロンプト — 自社LLM構築方式の3種比較
- 第3回: 自社LLM導入効果の測定法 — ROI・KPI・業務指標の設計
- 第4回: 自社LLM構築スタック比較 — Claude・OpenAI・オープンソース(Llama)・オンプレ
- 第5回: 自社LLM構築コストと予算策定 — 規模別見積もりガイド2026
- 第6回: 自社LLMのセキュリティ・ガバナンス — PIIマスキング・監査ログ・ガードレール・RAG権限
- 第7回: 自社LLMプロジェクトの失敗5大パターンと回避チェックリスト
- 第8回: 自社LLM導入の段階別実行プラン — 診断→PoC→運用・追加開発
すぐ次の第2回では、今日ざっと触れた三つの方式 — RAG・ファインチューニング・プロンプト — を、原理、コスト、運用負担まで並べて比較します。なぜほとんどの中小企業がRAGから始めるべきなのか、その根拠を数字で確認できる回になる予定です。
おわりに
冒頭の物流会社の社長にお伝えした答えはこうでした。「今すぐ作ることが重要なのではなく、何を作るかを決める段階でプロジェクトの半分が決まります」。その日の2時間の会話は契約ではなく診断ミーティングであり、その後その会社は相談対応ログを対象に絞った小さなRAG PoCから始めることになりました。
私たち5years+は、韓国と日本の中小・中堅企業のAI導入プロジェクトを進めながら、自社データLLMの診断・PoC・運用支援に取り組んできました。ご関心のある分野がどのあたりか、まずは短くご覧になりたい方はサービスのご案内を、社内の状況を踏まえて一度お話ししてみたい方はLLM導入 無料相談はこちらからお気軽にお問い合わせください。次回でお会いしましょう。