オンプレミス・閉域

オンプレミス生成AIとは？クラウド型との違いと、選び方の基準

公開日：2026年10月20日
最終更新日：2026年10月20日
読了時間：約9分

この記事の要点

オンプレミス生成AIとは、生成AIの基盤とデータを、自社の環境に置いて運用する形態です。データの保管・利用を、自社で管理できます。
「オンプレミス」には、完全閉域、サーバーは自社内でAIモデルはクラウド、お客様専用のクラウド（マネージド）の3つの構成があり、「データを外に出せない理由」で選びます。
完全閉域では、自社文書を使ったRAGは使えますが、OCR・コードインタープリター・インターネット検索は使えません。必要な業務は、AIモデルにクラウドを使う構成を検討します。

オンプレミス生成AIとは

オンプレミス生成AIとは：生成AIを使うための基盤と、そこで扱うデータを、自社の環境（自社のサーバーやプライベートな環境）に置いて運用する形態のことです。

ChatGPTのように、サービス提供元のクラウドで動く生成AI（クラウド型）は、手軽に使える一方、入力した文書やデータが、提供元の環境に送られます。社内規程、顧客情報、契約、設計書、技術文書といった、外部に出せないデータを扱う企業では、これが利用の壁になります。

オンプレミス生成AIは、この壁を越えるための選択肢です。データの保管と利用を自社の管理下に置いたまま、生成AIを業務に活用できます。

クラウド型との違い

両者の違いを、主な観点で整理します。

観点	クラウド型（提供元のサービスを利用）	オンプレミス型（自社の環境で運用）
データの保管場所	提供元のクラウド	自社の環境
導入の手軽さ	契約すればすぐに使い始められる	サーバーなどの準備と、構築が必要
運用・維持管理	提供元が行う	自社（または委託先）で行う体制が必要
AIモデル	提供元が常に最新のモデルを提供	選べるモデルや更新は、基盤の対応による
向いている場合	データを外部に送ることに制約が少ない	データを外部に出せない、または出したくない

表1　クラウド型とオンプレミス型の違い

オンプレミス生成AIの3つの構成

「オンプレミス」と一口にいっても、データを外に出せない理由によって、必要な構成は変わります。企業向け生成AIプラットフォーム「BizInsight」では、次の3つから選べます。

図1　BizInsightの3つの構成（実線は自社の環境、点線は外部のクラウド）

構成	特長	必要なもの	向いている場合
1　完全閉域	インターネットに接続しない環境で動かせる。ローカルAIモデルを使うため、外部への通信が発生しない	エントリーレベルのGPUサーバー	ネットワークが分離されている、クラウドへの接続が認められない
2　サーバーは自社内、AIモデルはクラウド	BizInsightと自社のデータは自社の環境に置き、AIモデルだけクラウドを使う。すべての機能が使える。お客様のデータがAIモデルの学習に使われることはない	サーバー（GPUサーバーは不要）と、クラウドAIモデルへの接続	データは自社に置きたいが、最新のAIモデルも使いたい
3　マネージドサービス	お客様専用のクラウド環境を用意する。構築や運用の負担がなく、すぐに使い始められる	インターネットに接続できるPC	まず手軽に始めたい。運用の負担を減らしたい

表2　3つの構成の比較（構成3の機能は、構成2と同様）

メリットと、留意しておきたい点

メリット

データを自社で管理できる。データの保管・利用・移転を自社でコントロールでき、事業の継続に欠かせない「データ主権」を守れます。
クラウドに出せないデータも使える。社内規程、顧客情報、設計・技術情報といった、AIで最も活かしたいデータを対象にできます。
AIモデルを使い分けられる。クラウドのAIモデルとローカルのAIモデルの両方に対応する基盤なら、特定のベンダーに過度に依存せず、コスト・性能・セキュリティの要件に応じて選べます。

留意しておきたい点

運用・維持管理の体制が必要。オンプレミスでは、ハードウェア、OS、コンテナ管理ツールをお客様でご用意いただき、運用・維持管理も自社で行います。体制の確保が難しい場合は、マネージドサービスが選択肢になります。
完全閉域では、GPUサーバーが必要。ローカルAIモデルを動かすには、エントリーレベルのGPUサーバーが必要です。必要な構成は、同時に利用する人数や使うモデルによって変わります。
ローカルAIモデルの性能。クラウドの最新モデルに比べて、精度や処理能力が劣る場合があります。業務によって、クラウドAIモデルとの使い分けも検討します。
使えない機能がある。完全閉域では、次の章のとおり、一部の機能に制限があります。

完全閉域で、使える機能と使えない機能（BizInsightの場合）

ここからは、BizInsightの場合の対応を示します。BizInsightでは、インターネットに接続しない完全閉域で、ローカルAIモデルを使います。このとき、自社の文書をAIに検索させて回答させる仕組み（RAG）は利用できますが、外部のサービスやクラウドの機能を必要とするツールは利用できません。

機能	完全閉域（ローカルAIモデル）	サーバーは自社内 AIモデルはクラウド
自社の文書を使ったRAG（エージェントアプリのナレッジ検索ツール）	○	○
エージェントアプリ（業務に役立つチャットアプリの作成）	△ 一部のツールのみ	○
ドキュメントOCR（PDF・画像から文字を抽出）	×	○
コードインタープリター（データ分析・ファイル作成）	×	○
インターネット検索	×	○
ユーザー管理・権限管理・多要素認証・操作ログ	○	○

表3　BizInsightでの、構成による利用できる機能の違い（他の製品では、機能や制約が異なります）

スキャンした書類の読み取り（OCR）や、データ分析を伴う業務は、サーバーは自社内に置き、AIモデルにクラウドを使う構成が向いています。この構成でも、データは自社の環境に保管され、AIモデルの学習に使われることはありません。

選び方の基準

構成は、「データを外に出せない理由」と、「使いたい業務」から選びます。

状況	適した構成
ネットワークが分離されている。クラウドへの接続が認められない	構成1　完全閉域
データは自社に置きたい。ただし、OCRやデータ分析など、すべての機能も使いたい	構成2　サーバーは自社内、AIモデルはクラウド
運用の体制を持つのが難しい。まず手軽に始めたい	構成3　マネージドサービス
GPUサーバーの調達・運用が難しい	構成2 または構成3

表4　状況別の、構成の選び方の目安

実際の構成は、環境やご要件を伺ったうえで決めます。まずは、評価環境や評価版で、自社のデータを使って効果を確かめる方法もあります。

費用の考え方

オンプレミスで生成AIを使う場合の費用は、「ゼロから開発する（スクラッチ）」か、「オンプレミスに対応したパッケージを使う」かで、大きく変わります。次の表は、社内文書を活用するAI基盤（RAGを備えたチャット型）を想定した、費用の目安です。

選択肢	初期費用の目安	年間の費用の目安	特徴
スクラッチ開発（ゼロから構築）	約2,000万〜6,000万円（開発約1,500万〜4,500万円＋ GPUサーバーなどの調達約500万〜1,500万円）	約300万〜900万円（保守、AIモデルの更新対応など）	自由度が高い。一方、開発の体制が必要で、AIの進化に合わせた更新も、自社で続ける必要がある
オンプレミス対応のパッケージ	製品によって異なる（サーバー等の調達費用は別途）	製品の利用料（製品によって異なる）	開発が不要で、導入までが早い。機能や拡張性は、製品による
BizInsight	サーバー等は、お客様にてご用意（完全閉域はエントリーレベルのGPUサーバー。構成2はGPU不要）	月額25万円〜（年額300万円〜、税抜）。ユーザーライセンスは不要	標準機能で、すぐに使い始められる（最短3営業日）。個別開発は、別途お見積り

表5　オンプレミス生成AIの、費用の目安

スクラッチ開発の試算の前提

開発費：認証・権限管理・操作ログ・管理機能、RAG、チャット画面、複数のAIモデルへの接続を備えた基盤を、10〜30人月で構築し、人月単価150万円で換算（約1,500万〜4,500万円）。
調達費：ローカルAIモデルを動かすGPUサーバーと、周辺の機器（約500万〜1,500万円）。
年間の費用：開発費の15%程度の保守費に、AIモデルの更新や運用の工数を加えて、約300万〜900万円。

3年間で見ると、スクラッチ開発は約2,900万〜8,700万円が目安です。BizInsightは、年額300万円〜を3年間で約900万円〜です（サーバー等の調達費用は別途）。ゼロから作る場合は、初期費用が数千万円規模になり、運用・更新も続きます。オンプレミスに対応したパッケージを選べば、開発の費用と期間を抑えながら、自社の環境でデータを管理できます。

※スクラッチ開発の費用は、一般的な規模を想定した当社の目安です。実際の費用は、要件、体制、委託先によって大きく変わります。パッケージの費用は、製品によって異なります。

BizInsightの場合、ユーザーライセンスは不要で、何人でもご利用いただけます（同時に処理できる人数は、サーバーの性能によって決まります）。オンプレミスでは、ハードウェア、OS、コンテナ管理ツールをお客様でご用意いただき、運用・維持管理もお客様側で行います。

オンプレミス・完全閉域の詳細を、ご覧いただけます

自社の環境に合った構成の選び方や、利用できる機能の違いを、1ページにまとめています。

資料請求へお問い合わせ

よくある質問

オンプレミス生成AIは、完全にインターネットに接続しないのですか

構成によって異なります。完全閉域の構成では、ローカルAIモデルを使い、インターネットに接続せずに利用できます。サーバーは自社内に置き、AIモデルにクラウドを使う構成では、AIモデルへの接続が必要です。

完全閉域でも、自社の文書を使ったAI（RAG）は使えますか

はい。自社の文書をナレッジとして登録し、エージェントアプリの「ナレッジ検索ツール」で、文書の内容をもとにした回答や文書作成ができます。データは自社の環境から出ません。

オンプレミスでは、GPUサーバーが必ず必要ですか

ローカルAIモデルを使う完全閉域の構成でのみ必要で、エントリーレベルのGPUサーバーから始められます。クラウドAIモデルを使う構成では、GPUサーバーは不要です。

運用・維持管理は、自社で行う必要がありますか

オンプレミス版は、ハードウェア、OS、コンテナ管理ツールをお客様にてご用意いただき、運用・維持管理もお客様側で行います。運用の体制を持つことが難しい場合は、構築や運用の負担がない、マネージドサービスをご検討ください。

まずは資料ダウンロード、またはご相談ください

構成のご相談や、無償の評価利用のご案内もしています。