検索拡張生成（RAG）とは、「外部の知識ベースから事実を検索して、最新の正確な情報に基づいて大規模言語モデル（LLM）に回答を生成させることで、ユーザーの洞察をLLMの生成プロセスに組み込むというAIフレームワーク」です。詳しくはこちらのブログを参照ください。

今回は、検索拡張生成（RAG）パターンの価値を考えてみたいと思います。

AIチャットボットは、ユーザーが入力した自然言語での問い合わせを理解し回答を返すツールとして進化してきました。
例えるなら、お客様に接する営業さん自身が学習して答えているようなイメージです。ただ、どうしても回答できるのはよくある質問への対応中心で、それ以外の質問については「分かりません」という回答になります。

そこで、あまり質問をされないような難解な質問は専門家に聞く必要があります。その中で、情報探索し結果を提供する機能が求められました。
ただ、どうしても専門家の回答になるのでやや難しく、営業さんはかみ砕いて分かりやすく説明することが求められます。

そうしているうちに、近年「生成AI（基盤モデル：LLM）」が突如として出現しました、企業ではトライアルが始まりましたが、回答内容の根拠が不明確で、正確性やバイアスへの懸念が生まれています。
例えると、外部からハイヤリングした高度なスキルを持った人材（インフルエンサー）の分かりやすい説明で評判を呼んだが、まだ自社のことをよく分かっていないことに対する懸念を持っている状態といえます。

そこで、その人材には、自社特有の知識を早く覚えてもらう必要が出てきます。社内外から覚えてほしい情報を集約し、その人材に情報の出所も明記して提供するということを実践しました。
その結果、自社をよく知るスーパー人材が生まれましたが、新たにその人材が活躍するためのユーザーとの接点が少ないという悩みを抱えました。

この2つの流れから、営業の悩みもスーパー人材の悩みも解決できるのが、この「AIチャットボット × 生成AI × テキスト検索」のアプリケーションです。
回答内容が正確で平易な文章で教えてくれ、かつユーザーにとって利便性が高いという点に価値があります。

生成AIの活用が企業レベルで推進されるにつれて、この検索拡張生成（RAG）の重要性が高まっています。
そして、必然的にテキスト検索エンジンであるIBM Watson Discoveryへの関心が高まっています。Watson Discoveryは、単なる全文検索ではなく、文脈と意味を理解して情報を検索するセマンティック検索を可能にします。

テキストに加えて画像や音声などのデータを扱う場合、数値としてのベクトルに変換し多次元空間の点として表されるベクトル・データベースの活用もできます。
IBMでは、このベクトル・データベース機能をwatsonx.dataに統合することにより、RAGパターンをさらに強力にサポートする予定です。

生成AIとしては、IBM watsonx.ai、もしくはIBM Cloudにカタログ化されているNeural Seekをお勧めしています。

検索拡張生成（RAG）パターンの情報収集中あるいはユースケース検討中の方は、日本IBM 小川（e28364@jp.ibm.com）までご連絡ください。