「オンプレミス」とは、サーバーやコンピュータなどのハードウェア、アプリケーションなどのソフトウェアといったシステムを稼働させるのに必要不可欠な設備・機器を自社で保有しておく運用形態のことです。

これらの設備・機器を自社保有しないで、必要な分だけインターネット経由でレンタルする「クラウド」と対をなす概念です。クラウドの台頭に伴い、オンプレミスは時代遅れの概念とされてきました。

クラウドサービスは、大半の企業が利用する日常的なサービスとなりましたが、ChatGPTなどの生成AIの導入・利用に当たっても、クラウド経由で利用されることが一般的となっています。

しかし、近年、セキュリティレベルの高さや通信速度の速さといった点から、クラウドではなくオンプレミスを積極的に選択する企業が増えてきています。この動きは生成AIの分野でも徐々に広がっており、空前の「オンプレ回帰」ブームがにわかに巻き起こっているのです。

そこで本記事では、そもそも生成AIをオンプレミスで導入することはできるのか、できるとしてそのメリット・デメリットは何か、オンプレミスで使える生成AIにはどのようなものがあるのか、について、わかりやすくご紹介します。

またAI総研では、AI活用を検討する上で押さえておきたい、AI・ChatGPTの最新活用事例50選の狙いや取り組みをまとめたレポートを無料で配布しています。ご興味のある方は、以下リンクからダウンロードしてご活用ください。

⇒AI・ChatGPT活用事例50選の資料ダウンロードはこちら(無料)

生成AIをオンプレミスで導入することはできる？

結論から言うと、生成AIはオンプレミスでも導入することができます。生成AIというと、クラウドで利用するのが一般的だと考えられていますが、最近ではオンプレミスならではのメリットが注目され、むしろ積極的にオンプレミスで生成AIを導入しようとする動きも増えています。

特に、生成AIの問題点として一般的に挙げられることの多い、情報漏洩リスク、回答速度の低下、カスタマイズの不自由度といった点を、オンプレミスであれば解消・緩和できるとして、オンプレミスへの期待が高まっているのです。

※生成AI/ChatGPTの活用を検討する際に必ず押さえておきたい、基礎知識から活用の進め方、ポイントまでをまとめた資料をダウンロード頂けます。
⇒【ゼロから分かる】生成AI/ChatGPT活用ガイドブックの資料ダウンロードはこちら(無料)

生成AIをオンプレミスで導入する６つのメリット

生成AIをオンプレミスで導入するメリットとして、以下の6つが挙げられます。

• ①自社の業務/業態に応じて自由にカスタマイズできる
• ②外部ネットワークと接続しないためセキュリティが万全
• ③既存システムと容易に連携することができる
• ④長期的にはコストを削減することができる
• ⑤安定かつ迅速な通信速度を維持することができる
• ⑥外部プロバイダーのサービス変更・終了の影響を受けない

それぞれについてわかりやすく紹介していきます。

※200事例の分析に基づく、企業の生成AI/ChatGPT活用方法の９つの定石と最新事例をまとめた資料をダウンロード頂けます。
⇒生成AI/ChatGPTの活用アイデア集の資料ダウンロードはこちら(無料)

①自社の業務/業態に応じて自由にカスタマイズできる

オンプレミスでは、サーバーなどのハードウェアや各種のソフトウェアを含む全ての機器を自社で選ぶことができます。

そのため、自社の業務/業態に応じて最適な機器を選定し、使いやすいようにカスタマイズした形で生成AIを利用することが可能となります。

②外部ネットワークと接続しないためセキュリティが万全

オンプレミスは、クラウドと異なり、外部のインターネットと接続せず、システム全体が社内で完結します。

そのため、自社の機密情報が外部のネットワーク経由で漏洩したり、外部から不正にアクセスされるリスクを回避することができます。

③既存システムと容易に連携することができる

オンプレミスでは、使用するハードウェア・ソフトウェアをすべて自社で自由に選択することができます。

そのため、既存システムと親和性の高い機器を選択すれば、既存システムとの統合をスムーズに行うことが可能となります。

これにより、自社のシステムに生成AIを連携させて、新たな価値を生み出すことも可能となるでしょう。

④長期的にはコストを削減することができる

オンプレミスの場合、サーバーやネットワークもすべて自社で準備しなければならず、初期投資は高いです。

しかし、長期間使用することでクラウドの継続的なサブスクリプション費用よりもコストが抑えられます。

また、使用量に応じた追加費用が発生することもなく、支出の見通しも容易に立てることができるでしょう。

⑤安定かつ迅速な通信速度を維持することができる

オンプレミスでは、社内ネットワークを介して生成AIに直接アクセスできるため、安定かつ迅速な通信速度を維持することができます。クラウドの場合、インターネットの接続環境や他のユーザーの利用状況によって通信速度がぶれるため、場所や時間帯によっては、スムーズに使うことができなくなる場合もあります。

また、何らかの理由でネットワークが切断されたり、障害が発生しても、オンプレミスであれば、内部で迅速に対応することができます。

⑥外部プロバイダーのサービス変更・終了の影響を受けない

クラウドを経由して、生成AIを利用する場合、クラウドサービスのプロバイダーに依存することになります。プロバイダーが一方的に料金を値上げした場合には、資金計画に少なからず狂いが生じますし、プロバイダーが急にサービスを打ち切る可能性もゼロではありません。

オンプレミスであれば、設備や機器はすべて自社保有であるため、外部のプロバイダーの行為に影響を受けず、独立性・安定性を保つことができます。

生成AIをオンプレミスで導入する３つのデメリット・注意点

生成AIをオンプレミスで導入するデメリット・注意点として以下の3つが挙げられます。

• ①初期的な導入コストがかかる
• ②サーバーや関連機器を設置するスペースや環境管理が必要
• ③自社でメンテナンスを行う必要がある

それぞれについてわかりやすく紹介していきます。

※生成AI/ChatGPTを導入する前に必ず押さえておきたい、主要なリスクと具体的な対策をまとめた資料をダウンロード頂けます。
⇒生成AI/ChatGPT導入のリスクと対策ガイドブックの資料ダウンロードはこちら(無料)

①初期的な導入コストがかかる

オンプレミスの場合、サーバーやネットワーク機器、ストレージなどのハードウェアの購入に多額の初期投資が必要となります。また、ライセンス費用や設置・構築費用もかかるため、クラウドに比べて初期的な導入コストが高くなるというデメリットがあります。

もっとも、一度導入すれば、継続的に課金されることはないため、長期的に見たら、クラウドよりも高い費用対効果を実現できる場合もあります。

②サーバーや関連機器を設置するスペースや環境管理が必要

オンプレミスでは、サーバーや関連機器を設置するための物理的なスペースや、機器を維持するために適切な温度・湿度管理が必要となります。これに伴う電力消費や冷却コストも発生します。

そのため、オンプレミスでの導入前に、機器を設置するスペースや環境管理はしっかりと確保しておくようにしましょう。

③自社でメンテナンスを行う必要がある

オンプレミスの場合、機器のメンテナンスもすべて自社で行う必要があります。導入前にメンテナンスにかかるコストや人員を計算し、適切な見通しを立てるように意識しましょう。

また、クラウドサービスのような自動アップデートや新機能の即時利用ができないため、新しいテクノロジーやソフトウェアの導入に時間とコストがかかり、迅速な対応が難しい場合があります。

AI総研は、各企業様のAI活用推進・人材育成に向けた研修サービスを提供し、大変ご好評をいただいております。無料の体験会も実施しておりますので、お気軽にご相談ください。
⇒AI研修サービスの体験会のお申し込みはこちら(無料)

オンプレミスで使えるローカル生成AI３選

近年では、オンプレミスで使うためのローカル生成AIというものが登場しています。代表的なローカル生成AIとして、以下の3つが挙げられます。

• ①Llama 3：Metaによるオープンソースの高性能LLM
• ②Gemma：軽量かつ高性能なGoogle子会社の生成AIモデル
• ③Stable Diffusion：テキスト指示だけで望み通りの画像を生成可能

それぞれについてわかりやすく紹介していきます。

※生成AI/ChatGPTを導入する前に必ず押さえておきたい、基礎知識や導入方法３パターンの比較、リスクと対策などをまとめた資料をダウンロード頂けます。
⇒生成AI/ChatGPT導入マニュアルの資料ダウンロードはこちら(無料)

①Llama 3：Metaによるオープンソースの高性能LLM

Llama 3は、Metaが提供するオープンソースのLLMです。ローカル環境でも利用することができ、GoogleのGeminiやAnthoropicのClaudeにも匹敵する性能をもっています。

オープンソース型生成AIの代表格として有名であり、最大700億パラメータという高い精度を誇っています。

②Gemma：軽量かつ高性能なGoogle子会社の生成AIモデル

Gemma(ジェマ)は、Googleの子会社であるDeepMindが提供するオープンソースの生成AIモデルです。90億パラメータと270億パラメータの2つがあり、比較的軽量ながらも、高性能なパフォーマンスを発揮しています。

研究者やデベロッパーに利用されることが多いですが、商用利用も可能であり、一般の企業での利用も想定されています。

③Stable Diffusion：テキスト指示だけで望み通りの画像を生成可能

Stable Diffusionは、イギリスのStability AIが提供する画像生成AIです。オープンソースとして公開されており、ローカル環境での利用も可能です。

テキスト指示だけで、望み通りの画像を自由に生成し、編集することができる画期的なツールです。