リリース以降、2ヶ月で1億ユーザーを突破したChatGPTの登場・普及をきっかけにますます注目が集まっている生成AI。代表的な生成AIであるChatGPTは、アメリカの売上上位企業500社のうち、80%以上が導入を決定するなど、多くの企業が業務への活用を進めています。

通常の生成AIの限界として、自社独自のデータを反映した回答ができない点や、業界固有の専門的な内容には答えられない点が挙げられます。

しかし、RAGという手法を用いることで、自社データを反映した回答や専門的な内容に関する応答が可能な生成AIを作り上げることができます。

RAGとは、Retrieval-Augmented Generationの略で、生成AIが質問に回答する際に、生成AIのデータベースに加え、膨大な自社のデータベースから情報を検索し、回答させるように自社データを組み込む手法のことを指します。

本記事では、生成AIを進化させるRAGについて、仕組み、メリット、活用方法、導入手順までわかりやすくご紹介します。

またAI総研では、AI活用を検討する上で押さえておきたい、AI・ChatGPTの最新活用事例50選の狙いや取り組みをまとめたレポートを無料で配布しています。ご興味のある方は、以下リンクからダウンロードしてご活用ください。

⇒AI・ChatGPT活用事例50選の資料ダウンロードはこちら(無料)

RAGとは？

RAG（Retrieval-Augmented Generation）とは、簡単に言うと、生成AIに検索機能を連携させて、社内のデータベースや専門的な知識についても回答できるようにパワーアップさせる技術のことです。

RAGを活用すると、生成AIが質問に回答する際に、生成AI自体のデータベースに加え、膨大な自社のマニュアルや外部データベースからも情報を検索し、それに基づいた高精度な回答が出力されるようになります。生成AIにカンニングペーパーを持たせるようなイメージと考えるとわかりやすいでしょう。

生成AIの問題点として、社内独自の情報や専門的な知識に基づいた回答ができないことが挙げられます。また、Google等の検索エンジンのデメリットとして、自分が求める適切な答えにたどり着くまでに複数のWebサイトを参照しなければならない点が挙げられます。

RAGを活用することで、自社独自の情報や専門的な知識についても、瞬時に自分が求める回答を得ることができるようになります。まさに、生成AIと検索エンジンそれぞれの弱点を克服した技術と位置付けられます。

※生成AI/ChatGPTの活用を検討する際に必ず押さえておきたい、基礎知識から活用の進め方、ポイントまでをまとめた資料をダウンロード頂けます。
⇒【ゼロから分かる】生成AI/ChatGPT活用ガイドブックの資料ダウンロードはこちら(無料)

【図解】RAGの仕組み

RAGの仕組みを図に表すと、上の通りです。ユーザーがアプリケーションに質問を入力すると、LLMが質問を認識して適切な回答を生成しますが、その過程で、LLMと連結させた社内データベースや外部情報も参照します。

これにより、社内独自のマニュアル検索や専門的な知識に関する回答も可能となります。

RAGとファインチューニングの違い

RAGと似た概念として、ファインチューニングというものがあります。ファインチューニングとは、生成AIのモデルに自社データを学習させることで、モデル自体を自社専用のモノにアップデートする技術のことです。

RAGとファインチューニングの違いは、RAGはLLMに外部データベースを接続するのに対し、ファインチューニングはLLMそのものをカスタマイズするという点にあります。

また、ファインチューニングは、モデルに膨大なデータを学習させる過程で生成AIのAPIに従量課金での支払をすることとなり、コストが高くなりやすいです。一方で、RAGも開発にコストがかかりますが、一般的にはファインチューニングより低コストで済みます。

RAGを活用する３つのメリット

RAGを活用することで得られるメリットとして、主に以下の3つが挙げられます。

• ①誤った回答が出力されるリスクを減らせる
• ②自社独自のデータや専門的な知識を反映した回答が可能になる
• ③LLMの追加学習不要で効率的に更新できる

それぞれについてわかりやすく紹介していきます。

※200事例の分析に基づく、企業の生成AI/ChatGPT活用方法の９つの定石と最新事例をまとめた資料をダウンロード頂けます。
⇒生成AI/ChatGPTの活用アイデア集の資料ダウンロードはこちら(無料)

①誤った回答が出力されるリスクを減らせる

通常の生成AIは、インターネット上の膨大なテキストデータを学習しており、学習元のデータに誤りがある場合には、生成AIによる回答にも誤りが含まれている可能性もあります。

一方で、RAGは、生成AIに社内独自の情報や信頼できる専門的な知識を学習させることになるため、生成AIが誤った回答を出力するリスクを減らすことができます。

②自社独自のデータや専門的な知識を反映した回答が可能になる

RAGに社内のマニュアル・ルールやノウハウを学習させることで、社内独自の情報を反映した回答ができる唯一無二の生成AIを作り上げることができます。

これにより、従業員が膨大なマニュアルの中から自分が求める情報をスムーズに検索できるようになったり、業務の過程で培った様々なノウハウを社員同士で円滑に共有できるようになったりするなど、生産性の向上・業務効率化に繋がります。

また、法律、医学、金融、工学など、業界固有の専門的な知識を学習させることで、専門的な質問にも答えられるハイレベルな生成AIを構築することも可能となります。専門家によるリサーチ業務を大幅に効率化することができるでしょう。

③LLMの追加学習不要で効率的に更新できる

生成AIに独自情報を学習させても、継続的に更新しないと、最新の知見を反映した回答ができなくなり、時代遅れの生成AIになってしまいます。これを防ぐためには、生成AIに学習させた情報を定期的にアップデートする必要があります。

特に、ファインチューニングのようにLLMそのものを自社専用にカスタマイズする方法を採った場合には、LLM自体を構築しなおす必要があり、大きなコストや手間がかかります。

一方で、RAGの場合、LLMと接続した外部データベースを差し替えればよいだけなので、LLM自体を修正する必要がなく、比較的容易かつ低コストで更新が可能です。

RAGを導入する手順～６つのステップで紹介～

企業がRAGを導入する手順は、以下の通りです。

• ①要件定義
• ②データベースの選定
• ③検索システムの構築
• ④モデルの選定とトレーニング
• ⑤検索システムとモデルの統合/テスト
• ⑥デプロイと運用/モニタリング

それぞれについてわかりやすく紹介していきます。

※生成AI/ChatGPTを導入する前に必ず押さえておきたい、基礎知識や導入方法３パターンの比較、リスクと対策などをまとめた資料をダウンロード頂けます。
⇒生成AI/ChatGPT導入マニュアルの資料ダウンロードはこちら(無料)

①要件定義

まずは、RAGを実施する目的や必要な機能などを設定する要件定義を行います。

RAGを通じてどのようなことを実現したいのか、そのためにどのようなデータを学習させる必要があるのか、といったことを明確化することで、その後の開発をスムーズに進めることができます。

②データベースの選定

要件定義で定めた目的に沿って、LLMに連結させる最適なデータベースを選定します。

社内情報検索システムを構築したい場合には社内のマニュアルやガイドライン、特定の業界に特化した生成AIを構築したい場合には業界の専門書等の情報を学習させることになります。

データベース選定の際には、そのデータの正確性や質が担保されているかをしっかりと確認するようにしましょう。

③検索システムの構築

選定したデータベースをもとに、検索システムを構築します。検索結果に誤りがないか、選定したデータベースの情報が正しく反映されているかをしっかりとチェックしましょう。

仮に、検索結果に問題があれば、データの選定から見直しをする必要があります。

④モデルの選定とトレーニング

構築した検索システムに接続するモデルの選定とトレーニングを行います。大規模言語モデルには様々な種類があり、種類ごとに回答の精度やスピード、得意分野が異なります。

自社の目的に合った最適なモデルを選定できる自信がない方は、専門の開発会社に依頼するのがおすすめです。

AI総研では、各企業様の目的や課題に応じたオーダーメイドの開発支援を行っています。RAGに限らず、あらゆる開発手法について、専門のコンサルタントによるアドバイスを提供させていただきます。RAGや生成AIの開発について相談されたい方はお気軽にお問い合わせください。

⑤検索システムとモデルの統合/テスト

検索システムの構築とモデルの選定が終わったら、両者を統合し、実際にうまく稼働するかをテストします。

ここで問題が生じた場合には、選定したモデルに問題があるか、検索システムやデータセットに欠陥があるか、統合方法が間違っているかなど、様々な原因があるため、仮説と検証を繰り返し、地道にカイゼンを続けていきましょう。

⑥デプロイと運用/モニタリング

検索システムとモデルの統合が完了したら、いよいよデプロイし、稼働させます。まずは一部の従業員に試しに使ってもらい、問題があればカイゼンをした上で、全社的に導入するのがおすすめです。

また、導入後も継続的に保守・運用を行い、モニタリングをしましょう。定期的に、検索システムのデータを最新のものにアップデートすることも重要です。

RAGを導入する際の４つの注意点

RAGを導入する際の注意点として、以下の4つが挙げられます。

• ①接続する外部データの質・正確性は担保されているか
• ②現場で使いやすいUI設計になっているか
• ③定期的にデータを更新しているか
• ④データの量は適切に保たれているか

それぞれについてわかりやすく紹介していきます。

※200事例の分析に基づく、企業の生成AI/ChatGPT活用でよくある失敗とベストプラクティスをまとめた資料をダウンロード頂けます。
⇒生成AI/ChatGPT活用しくじり大全の資料ダウンロードはこちら(無料)

①接続する外部データの質・正確性は担保されているか

生成AIに接続する外部データが正確でなかったり、質が低いものであった場合には、生成AIによる回答の精度も落ちてしまいます。

そのため、接続する外部データが信頼に足る高品質なものかどうかをしっかりと確認するようにしましょう。

②現場で使いやすいUI設計になっているか

せっかく生成AIを導入しても、使い方がわかりにくく、現場の従業員に使われないまま終わってしまうというケースも少なくありません。

そのため、誰でも使いやすいUI設計となっているかをしっかりと確認する必要があります。本格的に導入する前に、何人かの従業員に絞って試用してもらい、フィードバック・カイゼンを経て本格的に導入するという方法も有効です。

③定期的にデータを更新しているか

RAGを導入した後も、定期的にデータを更新しなければ、生成AIは時代遅れとなってしまいます。

そのため、一定の期間を設けて、期間ごとにしっかりとデータを更新するようにしましょう。RAGの場合は、データベースは生成AIと外部接続されており、生成AIそのものをいじる必要がないため、比較的容易にデータ更新が可能となっています。

④データの量は適切に保たれているか

生成AIに接続させるデータの量があまりにも多すぎると、生成AIがそれらの情報をクロールするのに時間がかかり、回答までのスピードが遅くなる可能性があります。

そのため、学習させるデータの量は、多すぎず少なぎず、目的を達成するために最適な量となるように調整する必要があります。

企業によるRAGの活用事例３選

企業によるRAGの活用事例として、以下の3つが挙げられます。

• ①デロイト：対話型システムにRAGを導入し社内データベース検索も可能に
• ②くすりの窓口：専門的な質問にも答えられるRAGを活用したチャットボットを導入
• ③コネヒト：社内マニュアルとRAGを結び付け、検索機能の大幅な向上を実現

それぞれの事例についてわかりやすく紹介していきます。

※国内外の最新生成AI/ChatGPT活用事例50選をまとめた資料をダウンロード頂けます。
⇒生成AI/ChatGPT活用事例50選の資料ダウンロードはこちら(無料)

①デロイト：対話型システムにRAGを導入し社内データベース検索も可能に

デロイトトーマツコンサルティングは、社内向けに生成AIを用いた対話型システムを構築し、社内のコンサルタントがファイルをアップロードして要約したり、質問することを可能にしています。

デロイトは、このシステムにRAGを導入しました。これにより、コンサルタントが入力した情報をもとに、生成AIが社内独自のデータベースや外部データベースを検索できるようになり、回答の正確性や精度が向上しました。

RAGの活用により、コンサルタントのリサーチ業務が大幅に効率化され、戦略立案や実行支援など、より知的な作業へとリソースを割くことができるようになります。

②くすりの窓口：専門的な質問にも答えられるRAGを活用したチャットボットを導入

オンライン診療や服薬指導などのサービスを提供しているくすりの窓口は、顧客の対応窓口として、RAGを活用した生成AIチャットボットを試験導入しました。

くすりの窓口の顧客からの問い合わせ内容には、薬の服薬方法や効果、病気や症状に関する質問など、専門的なものもあり、回答する従業員ごとに回答内容の質にばらつきがあるという問題がありました。

くすりの窓口の社内マニュアル等のデータをRAGを活用してチャットボットに取り込み、専門的な質問にも的確に回答できる精度の高いチャットボットの構築を目指しています。

③コネヒト：社内マニュアルとRAGを結び付け、検索機能の大幅な向上を実現

ToC向けのWebサービスやアプリを提供するコネヒトは、Slack上でChatGPTと対話できる社内向けツールを導入しています。このツールの新機能として、RAGを活用した社内文書の参照機能を搭載しました。

従業員がSlack上で、生成AIに社内のルールや情報について質問すると、生成AIがRAGによって結びつけられた社内データベースやマニュアルを検索し、最適な回答を導き出します。

このように、RAGによって、社内独自の情報も容易に検索できるようになり、業務の大幅な効率化を実現することができます。