「記号接地問題」を考える
ChatGPTと書く小説/『FBI潜入捜査官Sayaka 』を先に進めようとして、ハタと詰まりました。質問の仕方を色々と変え、Chat君に再生成を繰り返してもらっても、私の日常から遠い話は、どうも分かりづらいのです。
う~んと唸っているうちに、「日常から遠い話は頭に入らない」状況は、生成AI界隈で話題の「記号接地問題」と関係があるのではないかと、ふと、そんな気がしてきて、こうして筆を執って(キーボードを叩いて)いる次第です。
1.「記号接地問題」とは
「記号接地問題」についての私なりの解釈と、その解釈を導き出すために比較参照した、「記号接地問題」に関する4種類の説明から始めたいと思います。
1-1.私なりの解釈
「記号接地問題」を、私は次のように解釈しています。
Xという物、あるいはYという出来事について、Xそのものに触れた
ことなしに、あるいはYという出来事を体験したことなしに、記号の
世界だけで説明できてしまうこと
この解釈は、「記号接地問題」について、後出の1-2、1-3、1-4、1ー5の4つの説明を比較参照した上で、
※4つに共通して取りあげられている内容で(1点だけ例外あり)、
かつ、
※私がよく分かったと感じた内容
を、私の言葉で整理したものです。
当然、様々な異論があると思います。参照した4つの説明のいずれもが触れていない論点や、触れているのに楠瀬が無視した論点があると考えますので、オリジナルの説明をご覧いただけるよう、以下に参照した説明のすべてについてリンクを貼ります。
大見出し2、3の内容の方に関心のある方は、この1-2、1-3、1ー4、1-5はひとまずスキップしていいただいてもよいと考えています。
1-2.今井むつみ 慶応義塾大学教授の説明
今回参照したのは、慶応義塾大学環境情報学部の 今井 むつみ 教授が『日経ビジネス(電子版)』2023年6月29日付のなかで説明している内容です。これは有料記事で、私は無料部分までしか読めていませんが、その中で、以下に抜粋した部分が非常に分かりやすいと思いました。
1-3. コトバンクの説明
比較的短い説明なので、そのまま引用します。太字にしたのは楠瀬です。
1-4.Bardの説明
楠瀬からの問いかけ:
記号接地問題について、具体例をまじえて説明してください。
Bardの回答(読みやすさのために、太字化は楠瀬です):
1-5.ChatGPTの説明
楠瀬からの問いかけ:
記号接地問題について、具体例をまじえて説明してください。
ChatGPTの回答(太字化は楠瀬です):
2.人間の「記号接地問題」
私は4つの説明に共通して登場する内容をベースに自分なりの解釈を引き出したと申し上げましたが、1点のみ、ChatGPTだけが指摘していることがらを織り込んでいます。それは、「例3:人間の思考における記号接地問題」 です。私は、人間の思考も「記号接地問題」をはらんでいると考えるからです。
みなさんの日常を振り返って、次の2点を自問してみてください。
【自分への質問➀】
私が日常会話で話題にする物のうち、本当に触れたり使ったりしたこと
があるものは、どれだろう?
【自分への質問2】
私が日常会話で話題にする出来事のうち、本当に体験したことがある
出来事は、どれだろう?
こうして自問してみると、実際に触れたり使ったりしたことのある物の少なさに驚くはずです。もっと驚くのは、私たちが口にする話題のうち、実体験を伴うものの、余りの少なさです。
たとえば、あるタレントが麻薬所持で逮捕されたとします。本人が麻薬を常習していた可能性も極めて高い。そういう時、私たちは「やっぱり、麻薬は恐いね。人生を棒に振るね」と話したりします。
ところが、そう話している私たちの中で、麻薬に実際に触れたことのある人間は、まずいないはずですし、まして、摂取した体験のある人間は皆無のはずです。
それでも、麻薬とその害について語ることができる――語れてしまう――のは、私たちが、次のア)~ウ)のいずれか、または、複数を経験しているからです。
ア)実際に麻薬への依存で苦しんだ個人の談話を聞いたことがある。
(TV、ラジオでの談話を含めて)
イ)実際に麻薬への依存で苦しんた個人の体験記または、そのような人を
扱った書籍や新聞・雑誌の記事を読んだことがある。
ウ)特定の個人には触れずに一般論として麻薬の危険性を説明した談話、
書籍、記事などを聞いた、または、読んだことがある。
➀~③に内容は、すべて伝聞情報です。そして、その形式はテキスト(発話または文章)です。
ここから何がわかるかというと、私たち人間が考える内容も、必ずしも全てが「記号接地」しているわけではないということです。単純に、直接経験したことがあるかどうかで「記号接地しているか・していないか」を判断したら、むしろ、「記号接地していない」考えの方がはるかに多いはずです。
では、私たちは、なぜ、実際には「記号接地」していない考えを自信をもって語れるのでしょう? それは、私たちに類推する能力・想像する能力、そして、類推した内容と想像した内容に基づいて疑似体験する能力という、3つの能力が備わっているからだと考えます。
私たちは、テキストが語る物や出来事について、自分の現実の経験と関連づけて類推することができます。あるいは、関連づけられる経験がない場合でも、こういう感じではないだろうかと想像することができます。
そして、類推と想像に基づいて、「まるで、その物に触れたり使ったりしたことがあるような」感覚、「まるで、その出来事を自ら体験したことがあるような」感覚を、持つことができる。このような感覚のあり方を、ここでは、疑似体験と呼ぶことにします。
私は、この疑似体験と「分かる」ことが結びついていると考えています。私たちが、ある物や出来事について「分かる」というのは、その物や出来事を疑似体験できることです。
そして、疑似体験を実際の体験であるかのように感じる程度によって、「すごくよく分かる」・「分かる」・「分かる気がする」というようにレベル分けしていると思います。
私は、人間は、言語を用いるようになった時から、完全には「記号接地」しなくなったのだと考えています。言語は現実界に実在する物と出来事に名前をつけ象徴化(シンボル化)したもの、つまり概念です。
実在する物と出来事の代わりに概念を操作することで、現実に物を持ってきたり動かしたり、あるいは出来事を起こしたりしなくても、頭の中で様々な状況を思い描き、試行錯誤することできるようになった。このことが、人類が今日の文化と文明を築くことを可能にしたのだと、私は考えています。
一方で、現実世界を離れて概念を操作するようになった、その瞬間から、私たちの思考は現実と接地しなくなったのです。
3.人間の「記号接地問題」とAIの「記号接地問題」の決定的な違い
「記号接地問題」は、AIだけの問題ではなく人間にも存在する問題です。しかし、人間における「記号接地問題」とAIにおける「記号接地問題」には、決定的な違いがあります。それは、次の2点です。
《違いA》人間が「分かる」根底には自らの直接体験と体感がある。
《違いB》人間は、分からなかったら分からないと言う。あるいは、
分かったふりをしても、分かっていないことが露呈する
まず、《違いA》から見ていきます。私たちが類推できるのは、あくまでも、私たちが直接に体験したことの延長上にある物や出来事です。類推によって疑似体験し、その疑似体験の延長上で別の物や出来事を類推する……という形で類推を重ねていくこともあります。しかし、類推をその原点にさかのぼっていくと、必ず私たちの直接体験にたどり着きます。
私たちの想像は、ほとんどの場合、体感と結びついています。「このスリラーは凄い。読んでいて、ハラハラドキドキする」と言う時には、実際に私たちの心拍数が上がり、アドレナリンが大量の放出されています。「想像しただけで吐き気がする」、「想像しただけで胸が痛む」と言う時、私たちはそれに見合った身体反応をしているのです。
類推と想像は疑似体験の基盤です。この二つを直接体験と体感にまでさかのぼることができるということは、疑似体験も、必ず直接体験と体感にさかのぼることができることを意味します。
直接体験と体感は、現実への接地に他なりません。つまり、人間も、疑似体験の中で現実体験を離れる――接地を失う――ことがあるけれども、その原点では、必ず接地しているのです。
根っこのところでは現実に接地しているから、触れたことのない物、使ったことのない物、経験したことのない出来事についても、自信をもって語ることができる(できてしまう)のです。
これに対して、AIには、私たち人間の直接体験または体感にあたるものはありません。あるのは、あくまでもテキストの無限の連鎖、あるいはテキストの無限の入れ子構造だけです。この点を、前出の今井教授は、面白い例えで説明しています。
このことは、少なくとも現時点で存在するAIについては、その本質的な性格なので、学習の量をどれだけ増やし、学習の質をどれだけ高めても、変わらないと思います。
このことから生じるのが《違いB》です。人間は、直接経験と体感からかけ離れていて類推や想像ができない物と出来事――つまり疑似体験できない物と出来事――については、「分からない」のです。
実は、これが、私が ChatGPTと書く小説/『FBI潜入捜査官Sayaka 』を先に進めようとして行き詰った原因でした。実際に、どのように行き詰ったのかは、『FBI潜入捜査官Sayaka』の次回投稿(第5回)で説明しますので、ここでは割愛します。
人間は、分かっていないにもかかわらず分かった振りをすることもあります。しかし、本当に分っている人と会話を重ねていると、段々しどろもどろになって、分かっていないことが露呈する結果になります。それは、「分かっていない」から筋の通った語り方できなくなるのです。
だから、議論の相手として意外に手ごわいのは、完全な思い違いをしているのに、本人は自分が正しい(正しく分かっている)と思い込んでいる人だったりします。
一方、AIには、元々、直接体験と体感の根っこがないわけですから、自分が分かっていないことに気づく方法がないのです。
私は、これまでにChatGPTを使っていて、「あれ、質問に対してピントのずれた答えを自信たっぷりに返してくるぞ」と感じたことがあります。
しかし、よく考えてみると、それは、私がChatGPTに人間を重ねて見てしまっていたからです。分かっていない人間の説明がしどろもどろになるのに対して、ChatGPTはペースを崩すことなく、次々と答えを返してくるから、私が「自信たっぷり」と感じてしまうだけで、ChatGPTは、別に自信があるわけではないし、まして傲慢なわけでもなく、ただ、設計原理どおりに機能しているだけなのです。
これは、別の記事でも触れましたが、AIも道具であり、道具である以上、その設計原理からくる限界がついてまわります。どのような原理で設計されていて、したがって、どのような限界があるのかということを十分に理解して使っていくことが、大切だと考えます。
「記号接地問題」はAIにとってだけでなく、人間にとっても非常に重要なテーマだと考えますので、これからも思索を深め、投稿もしていきたいと思っています。
今回は、ひとまずここで筆をおくこととします。
ここまでお付き合いいただき、ありがとうございました。
この記事が気に入ったらサポートをしてみませんか?