富士通研究所では、簡単なユーザー登録だけで、どなたでも富士通の最新技術を体験できるウェブサイトFujitsu Research Portalを一般公開しています。ユーザー登録の詳細は、こちらの記事をご参照ください。

今回はその中から、もっともらしいけど正しくない説明を検出するハルシネーション検出技術をご紹介します。ChatGPTなどの対話型生成AIを使っているときに、もっともらしい嘘をつかれたことはありませんか？例えば以下の例を見てみましょう。

まずはこちらの例を参考に、「タケコプターとはどのようなものか教えてください」と聞いてみました。すると、こんな答えが返ってきました。
「タケコプターは、日本の伝説的な生物で、竹で作られたヘリコプターのような存在です。伝説によれば、タケコプターは竹の節に足があり、竹の節を回転させることで空中を飛ぶことができると言われています。また、タケコプターは非常に小さく、人間の目にはほとんど見えないほどです。ただし、タケコプターは架空の生物であり、実際に存在するかどうかは科学的に証明されていません。」

このようにもっともらしいけど正しくない説明（ハルシネーションと呼ばれています）を作り出してしまいました。これはまだ誰もが知っているタケコプターの説明だから嘘だと分かりますが、今後、対話型生成AIの活用が進み、会社の業務や法務サービス、先端技術の研究開発などでも使われるようになるとどうでしょうか。分からないから聞いているのに、もっともらしい嘘を混ぜられると、そもそも対話型生成AIを信じてよいのか分からなくなりますよね。
そこで富士通研究所が開発した、対話型生成AIの幻覚に対処できるAIトラスト技術を使ってみましょう。吹き出しの左下にある盾のマークをクリックすると、次の画面が出てきます。

表示されている数字は幻覚スコアと呼ばれているもので、幻覚スコアが100に近いほど回答には誤りが含まれている可能性が高いことを意味します。つまりAIの回答は嘘である、と明確に否定してくれました。この技術は今後もブラッシュアップされていく予定ですが、対話型生成AIが広く使われる未来に備えて、富士通研究所はこのようなハルシネーション検出技術の開発を進めています。

※タケコプターはドラえもんに登場するひみつ道具です。

より詳しく知りたい方は、下記プレスリリースと技術ブログをぜひご覧ください！（取材をご希望の方はこちらへお気軽にお問合せください。）

対話型生成AIの幻覚やAIを騙す敵対的攻撃に対処できるAIトラスト技術を開発し、「Fujitsu Kozuchi (code name) - Fujitsu AI Platform」で提供開始

Fujitsu Kozuchi 対話型生成AIの特徴と機能のご紹介