見出し画像

GoogleのAI Geminiの嘘(ハルシネーション)が酷すぎる件

こんにちは!
サンキュア株式会社代表取締役のあべです。

本日のテーマはGoogleのAI Geminiのハルシネーション(AIが嘘をつくこと)が酷い件について書きたいと思います。


ケース①(競合店舗のSNSアカウントを表にまとめて)

都内の酸素カプセルサロンのInstagramを研究しようと、繁盛していそうな店舗アカウントのピックアップをGeminiにお願いしました。

プロンプト
『都内の酸素カプセルサロンのフォロワーが多い順にInstagramアカウントのURLとフォロワーを表にしてまとめてください』

回答

この時はスプレッドシートにしてくれて便利だなぁと思っていた

初見は『おぉ、みやすくまとめてくれたなぁ』と思いました。

でも、よくみると無効なURLが多く、Instagramに直接検索をかけにいくとアカウントがでてこないし、酸素カプセル専門店Airのリンクを踏むと謎のアカウントに飛ばされます。

しかも、店舗名もよくよく調べたら存在しない架空の店舗名だったことが判明💦そこで、、、下記のように質問をすると

「これらの店舗は本当に存在しますか?検索しても情報が出てこないです」

架空の店舗を作り上げるってなによ

嘘つかれていました💢
実在する店舗名の一部が入っているこの絶妙な嘘!
架空の店舗情報と気づくまでの労力と時間を返してくれ!!

ケース②(hogehogeがテーマの論文を探して)

酸素カプセルとお肌の美容に関して関連のある論文を探していた時
また、怖いモノみたさでGeminiに聞いてみました

プロンプト
「酸素カプセルと肌の美容に関して関連のある論文があれば教えてください!」

回答

それっぽいのが出てきました

「この論文の引用元を教えて下さい」

中国皮膚性病学雑誌ってなに?

「この論文って存在しますか」

Geminiって創作モードみたいなのがあるの?

また嘘をついていました!
どうして架空の店舗とか論文とか平気で紹介するのか謎です。
Geminiは嘘でもなんでもいいから絶対に回答するようにプログラミングされているのでしょうか。

今回のことで分かったのは情報検索でGeminiは使わない方がよいということですね。今回紹介した二つの事例以外にも色々聞いてみたのですが嘘ばかりでした。情報の検索だったらbingAIの方が圧倒的に正確です。

皆さんGeminiを使うときは気を付けてください!



この記事が気に入ったらサポートをしてみませんか?