Agentic RAGとは、外部の情報を検索して回答に反映するRAG(検索拡張生成)に、AIエージェントの機能を組み合わせたものです。
従来RAGとは情報検索の進め方が異なるため、導入を検討する際は、それぞれの特徴を理解しておくことが重要です。
本記事では、Agentic RAGと従来RAG・AIエージェント・Agentic Searchとの違い、仕組み、メリット・デメリット、導入方法を解説します。
目次
- Agentic RAGとは
- 従来RAGとの違い
- AIエージェントとの違い
- Agentic Searchとの違い
- Agentic RAGの仕組み
- クエリを分解し、不足している情報を特定する
- 必要なツールを選択して関連情報を検索・取得する
- 取得した情報を評価・検証して不足があれば再検索する
- 情報を統合して最終的な回答を生成する
- Agentic RAGのメリット
- 質問に応じて検索先や検索方法を自律的に選べる
- 複雑な質問にも複数ステップで対応できる
- 複数の情報源を横断して必要な情報を集められる
- 検索結果を評価し、不足があれば再検索できる
- Agentic RAGのデメリット・課題
- 検索や推論の反復によって利用コストが増えやすい
- 処理が多段化して回答までの時間が長くなりやすい
- 検索の反復や誤った判断を制御する必要がある
- 検索結果や回答精度の評価が複雑になりやすい
- 外部データ連携では権限・セキュリティ設計が必要になる
- Agentic RAGの導入方法
- 1. Agentic RAGを活用する業務・課題を明確にする
- 2. 検索対象となる社内データやナレッジを整備する
- 3. 実装方法や利用するツール・フレームワークを選ぶ
- 4. 小規模なPoCから導入して精度やコストを検証する
- 5. 本番環境で運用し、継続的に評価・改善する
- まとめ
- よくある質問
Agentic RAGとは
Agentic RAGとは、RAG(検索拡張生成)にAIエージェントの機能を組み合わせ、質問に応じて必要な情報を探しながら回答を生成する仕組みです。
RAGは外部の情報を検索し、その内容をAIの回答に反映する技術であり、Agentic RAGでは、AIエージェントが情報の探し方や取得した情報が十分かどうかを判断します。
たとえば、「昨年度の経費精算ルールの変更点は?」という質問に対して、まず社内規程のデータベースから改定前後の情報を検索します。必要な情報がそろっていなければ、関連文書を追加で検索して情報を補います。
従来RAGとの違い
Agentic RAGと従来RAGの主な違いは、情報検索の進め方です。
従来RAGでは、あらかじめ設計された検索・取得の流れに沿って処理するのが一般的です。一方、Agentic RAGでは、質問内容や検索結果に応じて検索方法を判断し、必要に応じて追加の情報を取得します。
主な違いは、以下のとおりです。
| 比較項目 | Agentic RAG | 従来RAG |
|---|---|---|
| 情報検索の進め方 | 質問内容に応じた判断 | あらかじめ設計された処理フロー |
| 検索手段 | 複数の検索手段を選択・組み合わせ | あらかじめ設定された検索手段 |
| 情報が不足している場合 | 評価結果に応じた追加検索 | あらかじめ定めた処理に基づく対応 |
| AIエージェントの役割 | 判断・検索に活用 | 基本的に不使用 |
たとえば、「請求書の電子保存に必要な対応は?」という質問を受けた場合、従来RAGでは、あらかじめ設定された検索方法で経理マニュアルを取得し、その情報をもとに回答を生成します。
一方、Agentic RAGでは、経理マニュアルを検索したうえで、回答に必要な情報がそろっているかを確認します。法改正への対応方針が記載されていない場合は、社内通知やシステムの設定手順書まで検索範囲を広げることが可能です。
AIエージェントとの違い
Agentic RAGとAIエージェントの主な違いは、位置づけです。
AIエージェントは、必要な情報を取得し、状況に応じて判断やタスクの実行まで行う仕組みです。一方、Agentic RAGは、RAGとAIエージェントのワークフローを組み合わせたアプローチを指します。
主な違いは、以下のとおりです。
| 比較項目 | Agentic RAG | AIエージェント |
|---|---|---|
| 位置づけ | RAGとAIエージェントの統合 | 判断・実行を担う仕組み |
| 主な役割 | 情報検索・検証・回答生成 | 情報取得・判断・タスク実行 |
| RAGとの関係 | RAGとAIエージェントを組み合わせて活用 | RAGなどを情報取得に活用 |
たとえば、「来月の出張を手配して」と依頼された場合、AIエージェントは社内規程や空席情報を確認し、条件に合う交通手段を選定して予約まで実行します。
一方、Agentic RAGに「来月の出張ではどの交通手段を使えるか」と質問すると、同じく社内規程や空席情報を検索・検証したうえで、「規程上は新幹線が利用可能で、希望日は空席がある」といった回答を生成します。ただし予約などの実行は行いません。
Agentic Searchとの違い
Agentic RAGとAgentic Searchは、AIを活用して検索する点は共通していますが、アプローチの中心が異なります。
Agentic RAGは、RAGによる情報検索・取得にAIエージェントの判断を組み込み、必要に応じて検索や検証を繰り返しながら回答を生成するアプローチです。一方、Agentic Searchは、AIが検索戦略を判断し、複数の情報源から必要な情報を収集・整理するアプローチを指します。
主な違いは、以下のとおりです。
| 比較項目 | Agentic RAG | Agentic Search |
|---|---|---|
| 位置づけ | RAGとAIエージェントを組み合わせたアプローチ | AIが検索戦略を判断する検索アプローチ |
| 主な処理 | 情報検索・検証・回答生成 | 情報検索・収集・整理 |
| 検索対象 | 社内データ・Webなど | Web・社内データなど |
| 活用傾向 | 独自データを活用した回答生成 | 複数の情報源を横断した情報収集 |
検索対象はどちらも限定されません。ただし、Agentic RAGでは社内文書やナレッジベースなどの独自データを扱うケースが多いのに対し、Agentic SearchではWeb上の情報を活用するケースが多い傾向にあります。
Agentic RAGの仕組み
Agentic RAGでは、質問内容をもとに必要な情報を整理し、検索・評価を繰り返しながら回答を生成します。
大まかな流れは、以下の4段階です。
Agentic RAGの仕組み
- クエリを分解し、不足している情報を特定する
- 必要なツールを選択して関連情報を検索・取得する
- 取得した情報を評価・検証して不足があれば再検索する
- 情報を統合して最終的な回答を生成する
各段階でAIエージェントがどのように情報を判断・処理するのかを、順に確認していきます。
クエリを分解し、不足している情報を特定する
Agentic RAGでは、まずユーザーの質問内容を分析し、複雑な内容であれば複数の小さなタスクに分解します。タスクごとに必要な情報を整理することで、回答に足りない情報が明確になります。
たとえば、「昨年と今年の経費精算ルールの違いは?」という質問であれば、「昨年のルールを調べる」「今年のルールを調べる」「差分を比較する」という3つのタスクに分け、それぞれに必要な文書を特定します。
必要なツールを選択して関連情報を検索・取得する
Agentic RAGでは、不足している情報に応じて適切なツールを選び、回答に必要な情報を検索・取得します。
「今月の商品別の販売実績と在庫状況を知りたい」という質問を受けたときは、販売実績を売上データベース、在庫数在庫管理システムから取得するといった対応が可能です。
必要な情報が複数の場所に分かれていても、それぞれに適した検索先から情報を収集できます。
取得した情報を評価・検証して不足があれば再検索する
Agentic RAGでは、取得した情報をそのまま回答生成に使うのではなく、AIエージェントが内容を検証します。情報が不足している場合は、検索条件を調整したり別のツールを使ったりして、必要な情報を補う流れです。
たとえば、「最新の出張規程を確認したい」という質問に対して旧版の文書が取得された場合は、改定日や版番号を手がかりに最新版を探し直し、回答に必要な情報をそろえます。
情報を統合して最終的な回答を生成する
Agentic RAGでは、検索・検証によって集めた情報を大規模言語モデル(LLM)が処理し、文脈に沿った一貫性のある回答に統合します。複数のツールやデータソースから取得した情報を組み合わせ、質問内容に応じた回答としてまとめる工程です。
たとえば、「今月の商品別の販売実績と在庫状況をまとめて」という質問であれば、売上データベースから取得した販売実績と、在庫管理システムから取得した在庫数を組み合わせます。そのうえで、商品ごとの販売状況と在庫状況を整理し、ひとつの回答として生成します。
Agentic RAGのメリット
Agentic RAGのメリットは、以下の4つです。
Agentic RAGのメリット
- 質問に応じて検索先や検索方法を自律的に選べる
- 複雑な質問にも複数ステップで対応できる
- 複数の情報源を横断して必要な情報を集められる
- 検索結果を評価し、不足があれば再検索できる
このなかでもとくに重要なのが「検索結果を評価し、不足があれば再検索できる」点です。
従来RAGは1回の検索で必要な文書を引けるかが回答の質を左右しますが、Agentic RAGは検索が的外れでも条件を組み直せるため、残り3つのメリットもこの評価と再検索によって支えられています。
質問に応じて検索先や検索方法を自律的に選べる
Agentic RAGでは、質問内容に応じて検索先や検索方法を選択し、情報収集の進め方を調整できます。あらかじめ決められた方法に限らず、必要な情報に合わせて検索手段を使い分けられることが特徴です。
「新商品の販売状況と市場の反応を知りたい」という質問であれば、販売状況は社内の売上データベース、市場の反応はWeb検索から情報を取得するといった対応が考えられます。必要な情報の所在に応じて検索先を切り替えることで、複数の情報を効率的に収集できます。
複雑な質問にも複数ステップで対応できる
Agentic RAGは、複雑な質問や複数の工程が必要なタスクを小さな課題に分解し、段階的に処理することが可能です。各ステップで必要な情報を検索し、その結果を踏まえて次の処理へ進みます。
「在宅勤務中に出張する場合、どのような申請が必要か」といった質問では、在宅勤務と出張に関する規程をそれぞれ確認し、必要な手続きを整理したうえで回答を生成します。
複数の情報源を横断して必要な情報を集められる
Agentic RAGは複数の情報源を横断し、回答に必要な内容を集められます。ひとつの情報源だけでは十分な情報が得られない場合でも、別の情報源を参照することで不足分を補える点が特徴です。
「出張費の上限と申請方法を知りたい」という質問で、上限額が社内規程、申請手順が業務マニュアルに記載されていれば、それぞれから必要な情報を取得して回答に反映します。複数の情報源を組み合わせることで、より多角的な回答につながります。
検索結果を評価し、不足があれば再検索できる
検索結果を一度取得して終わるのではなく、内容を評価し、必要な情報が足りなければ再検索できるのがAgentic RAGの大きな特徴です。取得した情報が質問への回答に十分かを確認したうえで、その後の対応を判断します。
たとえば、「育児休業の申請方法を知りたい」という質問に対して、休暇制度全体をまとめた文書しか取得できなかったとします。この場合は、申請書の様式や提出期限といった具体的な手続きが分からないため、「育児休業 申請 書式」のように検索条件を絞り込み、該当する業務マニュアルを探し直します。
このようにAgentic RAGは、1回の検索で必要な情報にたどり着けなくても、条件を組み直して不足を補うことが可能です。
Agentic RAGのデメリット・課題
Agentic RAGの導入・運用時には、コストや処理時間に加え、検索の制御や評価、セキュリティについても理解しておきましょう。
主なデメリット・課題は、以下の5つです。
Agentic RAGのデメリット・課題
- 検索や推論の反復によって利用コストが増えやすい
- 処理が多段化して回答までの時間が長くなりやすい
- 検索の反復や誤った判断を制御する必要がある
- 検索結果や回答精度の評価が複雑になりやすい
- 外部データ連携では権限・セキュリティ設計が必要になる
各課題への対応を検討する際は、発生要因と具体的な対策まで把握しておくことが欠かせません。
検索や推論の反復によって利用コストが増えやすい
Agentic RAGは検索や推論を繰り返すため、APIの利用回数が増え、利用コストが高くなりやすいです。
外部APIの呼び出しが増えると、データ取得コストやクラウドリソース利用料が膨らむほか、推論を重ねるほど生成AIへの問い合わせ回数も多くなります。
対策としては、APIの利用上限の設定や、同じ検索結果を再利用するキャッシュの活用が有効です。
処理が多段化して回答までの時間が長くなりやすい
検索や推論を複数の段階で行うAgentic RAGは、従来RAGよりも回答に時間がかかる傾向があります。
対策として、各ステップの途中結果を順次表示したり、一部の推論に小規模で高速なモデルを利用したりする方法があります。
また、回答までの時間を抑えるには、処理そのものを高速化するだけでなく、検索や推論が必要以上に繰り返されないようにすることも重要です。
検索の反復や誤った判断を制御する必要がある
Agentic RAGは自律的に処理を進めるため、誤った判断や意図しない動作を防ぐための制御が必要です。判断の前提に誤りや偏りがあると、その後の処理にも影響し、意図しない動作につながる可能性があります。
また、追加のAPI呼び出しや再検索によって、不要・有害な情報を取り込むリスクにも注意が必要です。
対策として、誤動作が発生しても安全に制御できるフェイルセーフを設計し、処理状況を継続的に確認できるモニタリング体制を整えることが効果的です。
検索結果や回答精度の評価が複雑になりやすい
Agentic RAGは、検索方法や推論の進め方が状況に応じて変わるため、評価すべき要素が多くなります。
検索結果だけでなく、情報の選択や回答生成まで含めて確認する必要があり、性能を一律の基準で測ることは容易ではありません。加えて、こうした能力を評価するための標準化されたベンチマークやデータセットも、まだ十分に整っていません。
そこで、検索結果の関連性や回答の正確性など、目的に応じた評価項目をあらかじめ設定しておくことが有効になります。あわせて各工程の処理履歴を記録しておけば、問題が生じた箇所を特定しやすくなるでしょう。
外部データ連携では権限・セキュリティ設計が必要になる
Agentic RAGは社内データや業務システムと連携するケースが多いため、データセキュリティと権限管理への配慮が欠かせません。AIエージェントが参照できるデータの範囲をあらかじめ定めたうえで、個人情報や機密情報の取り扱いにも注意する必要があります。
また、外部APIやクラウド上の生成AIを利用する場合は、データ送信に伴うリスクも考慮しなければなりません。企業で導入する際は、オンプレミスやプライベート環境での運用、ログ管理や監査体制の整備といった対応が効果的です。
セキュリティと権限管理は、Agentic RAGを導入するうえで欠かせない検討ポイントといえます。
Agentic RAGの導入方法
Agentic RAGは、用途を明確にしたうえで、小規模な検証から段階的に導入します。
主な導入手順は、以下の5つです。
Agentic RAGの導入手順
- Agentic RAGを活用する業務・課題を明確にする
- 検索対象となる社内データやナレッジを整備する
- 実装方法や利用するツール・フレームワークを選ぶ
- 小規模なPoCから導入して精度やコストを検証する
- 本番環境で運用し、継続的に評価・改善する
各ステップで検討すべき内容を把握しておくと、PoC(概念実証)から本番導入までの流れを整理しやすくなります。
1. Agentic RAGを活用する業務・課題を明確にする
Agentic RAGを導入する際は、まず解決したい課題や用途を明確にします。
用途によって適した方式が異なるため、たとえば定型的なFAQ対応には従来のRAG、複雑な調査・分析業務にはAgentic RAGというように、目的を踏まえて選定することが必要です。
2. 検索対象となる社内データやナレッジを整備する
Agentic RAGを導入する前に、検索対象となる文書を整理・クレンジングし、元データの品質を確保する必要があります。データの品質が低いと、AIエージェントの性能が高くても、よい回答を生成するのが難しくなるので注意しましょう。
具体的には、文書の目次やインデックスを整備したり、作成日・カテゴリ・重要度などのメタデータを付けたりする方法があります。長い文書については、要約版を用意することも効果的です。
3. 実装方法や利用するツール・フレームワークを選ぶ
Agentic RAGを実装する際は、各ツール・フレームワークの役割を確認して利用するものを選びます。
Agentic RAGの実装・評価に利用される代表的なツール・フレームワークと主な役割は、以下のとおりです。
| ツール・フレームワーク | 主な役割 |
|---|---|
| LangGraph | 状態管理・制御 |
| LlamaIndex | データ接続・検索 |
| CrewAI | 役割分担 |
| Microsoft Agent Framework | AIエージェント・ワークフローの構築 |
| Ragas | 評価 |
検索対象が社内マニュアル中心で処理も単純な場合は、データ接続と検索を担うツールを中心に構成できます。一方、再検索や複数の処理を組み合わせる場合は、状態管理・制御を担うツールを加える必要があります。
また、導入後の改善を見据えるのであれば、評価に用いるツールもこの段階で検討しておきましょう。
4. 小規模なPoCから導入して精度やコストを検証する
本番導入の前に、PoCとして小規模なシステムを構築し、実際に利用できるかを検証します。PoCの主な目的は、実現可能性を確認するとともに、本番導入に向けた課題を洗い出すことです。
精度については、あらかじめ正解となる参照箇所を用意し、意図した情報を検索できているかを確認します。生成された回答も、質問の意図を正確に捉えた、自然でわかりやすい内容になっているかを評価しましょう。
コストについては、1回の回答あたりの検索・推論の回数やAPI利用料を計測します。実際の利用件数を掛け合わせることで、本番運用時の費用を現実的に見積もることが可能です。
5. 本番環境で運用し、継続的に評価・改善する
PoCでの検証を終えたら本番環境での運用へ移行します。本番導入後は、検索精度や回答内容、API利用料などを継続的に確認し、想定した水準で運用できているかを評価します。
運用中に課題が見つかった際は、検索条件やツールの設定、運用ルールを見直し、改善を重ねていきましょう。
まとめ
Agentic RAGは、RAGにAIエージェントの機能を組み合わせ、質問内容や検索結果に応じて情報を収集しながら回答を生成する仕組みです。柔軟に情報を検索できる一方で、コストや処理時間、検索の制御、セキュリティなどの課題もあります。
導入する際は、活用する業務や課題を明確にし、データの整備やツールの選定、PoCによる検証などを段階的に進める必要があります。
こうしたAI活用を進めるには、AIエージェントと業務システムを連携できる環境を整えることも欠かせません。freeeではMCP(Model Context Protocol)を採用しており、AIエージェントをfreeeに接続できる環境を提供しています。バックオフィス業務でAI活用を進めたい場合は、MCPやAPIを活用した連携の仕組みやAI関連製品についてご確認ください。
よくある質問
Agentic RAGとは何ですか?
Agentic RAGとは、RAG(検索拡張生成)にAIエージェントの機能を組み合わせた仕組みです。質問内容や検索結果に応じて検索方法を判断し、必要に応じて追加の情報を取得しながら回答を生成します。
詳しくは、「Agentic RAGとは」で解説しています。
Agentic RAGと従来RAGとの違いは何ですか?
Agentic RAGと従来RAGの主な違いは、情報検索の進め方です。
従来RAGはあらかじめ設定された流れに沿って情報を検索するのに対し、Agentic RAGは質問内容や検索結果に応じて検索方法を判断し、情報が不足していれば追加で取得します。
詳しくは記事内「従来RAGとの違い」をご覧ください。
Agentic RAGにはどのようなメリットがありますか?
Agentic RAGの主なメリットは、以下の4つです。
- 質問に応じて検索先や検索方法を自律的に選べる
- 複雑な質問にも複数ステップで対応できる
- 複数の情報源を横断して必要な情報を集められる
- 検索結果を評価し、不足があれば再検索できる
詳しくは記事内「Agentic RAGのメリット」をご覧ください。
