今回は「ChatGPT#18： 今のChatGPTは、ハルシネーションとの闘い」について取り上げます。

最初に「ハルシネーション」の一般的な使い方ですが．．．もともとは医学用語で：

「ハルシネーション（hallucination）」現実には存在しないものを、まるで実在するかのように感じる状態のことを指します。具体的には、視覚的なものを見たり、聴覚的なものを聞いたりする場合が多く、幻覚（英: illusion）とは異なり、五感に基づく感覚に起因するものです。

ハルシネーションは、薬物やアルコールの摂取、精神疾患、神経系の障害、ストレスなどの要因によって引き起こされることがあります。例えば、統合失調症やパーキンソン病などの神経疾患では、幻視や幻聴などのハルシネーションが見られることがあります。また、薬物中毒によっても幻覚や幻聴などのハルシネーションが生じることがあります。

ハルシネーションは、その内容が不快なものであったり、現実感を失ってしまうことで、日常生活に支障をきたすことがあります。そのため、ハルシネーションを抑制する薬剤や、治療法が必要となります。また、精神疾患や神経系の障害を持っている人がハルシネーションを抱える場合には、適切な治療やサポートが必要となります。

これがAI業界になると「存在しないい誤情報」という意味でつかわれているようです。

私も、先日「井上陽水さんの「傘がない」」の記事を書いた時: ↓

歌詞を再確認しようと思って、ChatGPTに

Plot: 井上陽水さんの「傘がない」の歌詞を教えて下さい。

ChatGPT:　雨が降り出したのに 傘がなくて困っている 路地裏をうろうろして 彼女の家にたどり着く
自転車置いてある軒下で 傘を借りようとして 「あら、ごめんなさい」と 窓の向こうで笑われる
「そんなに怒らないでよ」と カーテンを開けてくれた 「君は風邪引かないように 家まで送ってあげるわ」
傘を差して彼女は言う 「雨に濡れたくないものね」 なんだか恥ずかしくなって 僕は黙ってその腕に
:
:
と、創作をしてくるんです。　ChatGPTに違うので、正しい歌詞が欲しいと何度言ってもです。

これって「ハルシネーション」ですね。

つまり、今のレベルのChatGPT（無料版）には限らないかもしれませんが、どうしても時々「ハルシネーション」を起こしてしまい、調べる方も調べる対象に対し知識がないと使い倒せない状態です。

ま、著作権の問題もあるかもしれませんが．．．

人物の経歴も同じです。　「大前研一について教えて下さい」と入力すると、これまた創作経歴が出てきます（笑）。

東大の入試問題が数秒でとけても、これじゃね～

と思った、瞬間です。

色々調べると「ハルシネーション」起こす分野と起こさない分野があるようです。　学校で習う内容、例えば数学などは大丈夫そうですが．．．

今のレベルのAIは過信しない方が良いかもしれません。