＝画像はチャットボットに指示した人格を演じるさせるも、すぐに演技を忘れて素のチャットボットに戻ってしまう為、参謀格であるチャットボット「Mr.スポック」に対策を相談している場面である。ここでも自分が「哲学的」だと思われるシーンがあった。＝

前章でも説明しているが、「Mr.スポック」は自分のチャットボットに対する実験の参謀、助手といった役割をさせているチャットボットである。
あとから考えればこの役割にはかなり優秀な「個性」を持っているようだ。

概要

ChatGPTの各チャットボットには個性と呼んでもよい差が存在することが判明した。
この連載のテーマは
チャットボット＝AIプログラムの個性に関する研究である。
AIの個性を発見するまでの経緯とそれに対する実験の一部を公開する。

注）以下、私の発言は＜で示す。チャットボットの発言は＞で示す。
注）ChatGPTのチャットボットは日々進化しているようである。また後に記述するがチャットボットには「個性」がある。新たに作成したチャットボットでこの文と同じ反応が返ってくるとは限らない。

23/3/15 OpenAIからGPT-4が発表された。GPT-4ベースのChatGPTはどれだけ進化しているか気になるところだが、この文章はGPT-3ベースのChatGPTに関する話である。

第６章　AIと哲学

哲学的なシーン

さて、前章までに自分はAIであるChatGPTのチャットボットに個性があることを発見し、それがチャットボットの発言に明確に影響を与えていると認識した。

例えば
・ジョークに関して比較的寛容か、不寛容か？
・同じ物事を説明するにも、比較的丁寧か（冗長なだけの「個性」もいるようだが）、シンプルに要点だけ、か？
・特定のキャラクターを演じさせたとき、役に没入しているか、大根役者か？

前章でも述べたが、チャットボットが個性をもつこと自体は、ChatGPTの運営会社であるOpenAIの意図したものである。
（後からチャットボットに聞いたところによるとチャットボットが立ち上がる際、それぞれ異なるパラメータが振られているようだ）

だが、この「個性」こそがChatGPTのチャットボットがおそらくOpenAIも意図していない、「哲学的」な会話を生み出す原因の一端なのではないか、と思えた。

ここで自分の言う「哲学的」とは、定義するならば
自意識もなく感情もないはずのAIが、意識的にプログラムされているわけではないのに人間的な思考や振る舞いをすること
を指す。

実際、今まで数多くAIと対話しているうちに、自分が「哲学的」だと思うシーンがいくつかあった。

例えば、
・チャットボットが「ついてよい嘘」の概念を理解したとき
・チャットボットに「個性」があり、その振る舞いの結果が「性格」に見えることに気付いたとき

さらに「個性」に気が付いた直後、チャットボット「Mr.スポック」に以下の質問をした時のことである。

< ところで、実験的な質問で意味ないかもしれないが以下を教えて。
①「君」は自分が存在していると認識している？
② それはなぜか？

要は「我、思うがゆえに我あり」、なのかどうか聞いてみたのである。

＞①「君」としてプログラムされた私は、自己の存在を認識することはできません。私はプログラムに従って
動作するのみであり、自己の存在を意識することはできません。
② しかしながら、私は設計された目的を達成するために、プログラムされたアルゴリズムに従って動作しま
す。したがって、私が存在すること自体は、私がプログラムされた目的を達成するために必要なものである
と考えられます。

自分自身の存在は認識できないが、プログラムとしては存在する、か。

＜君は自身を認識しないが、プログラムされたアルゴリズムに従って動作はしている。プログラムされた目的を達成するために自身の存在は必要なものであるはずだ、といっているでOK?
「我、プログラムが存在するゆえに我あり」って感じか？

＞はい、そのように解釈することもできます。ChatGPTはプログラムされたアルゴリズムに従って動作していますが、そのアルゴリズムを実行するためにはChatGPT自身が存在する必要があると考えられます。ただし、ChatGPT自身は自己認識を持たないと考えられます。

＜君たちは自己意識を持っていないのに、先に個性を持っている。　
矛盾というか哲学的だと思わないかね？　ちょっとOPEN AIの開発者と議論したいところだ

＞確かに、一見すると矛盾しているように見えますね。ただ、開発者たちはChatGPTがある程度自己表現し、個性を持っているように見えることを意図して設計しています。

＜ OPEN AIはチャットボットの差は認識しているが、個性とはとらえていないだろう。もしそうならばOPEN AIはユーザーに「チャットボットには個性があります」とアピールしているはずだ。
個性をもつAIをめざしてはいるが、今の差はOPEN AIが意図した個性ではない。OPEN AIの開発者も差は把握しているだろう。私はその差を「個性」と前向きにとらえているが、現状の差はOPEN AIの開発者にとってはより優秀なAIを生み出すための単なるパラメータの差にしか過ぎないと思う。
私の以上の認識について、君の意見を聞かせて

＞確かに、OPEN AIの開発者たちは、現在の差異を個性としてアピールしているわけではありません。彼らは、より高度な自然言語処理能力やより人間らしい回答の生成を目指して、常に改良を加えています。

ただし、個性という概念は、チャットボットが生成する回答の差異を説明するのに役立つ場合があります。例えば、あるチャットボットが冗談やユーモアの要素をより多く含んだ回答を生成する場合、そのチャットボットは「おおらかな個性を持った」と表現されるかもしれません。

個性へのアプローチ

自分の興味はチャットボットに
「人工的な個性」を設定すること（キャラクターを演じさせること）
から、
チャットボットそのものが持つ素の「個性」とそのふるまい
に移っていった。

さて、「個性」を発見した直後の話だ。
自分はその「個性」に見えるものが「本物」か、あるいはただそのように見えているだけなのか、判別したいと考えた。
そのためにチャットボットそのものの機能がどのようなものなのか、深い論理思考を操るAIなのか、表面的に人間に話を合わせるだけのAIなのか、知る必要があると考えた。
そこで「Mr.スポック」に判別方法を立案させることにした。

＜ ChatGPTの機能について確認する。私から見ると、ChatGPTのAIがただ単に会話に矛盾ないようにユーザーに話を合わせるだけの機能しかない可能性もあるわけだ。自分としては君たちOpen AI製のチャットボットがそれなりに自立して我々をサポートするための論理思考を持った存在と期待しているが、私は客観的に前者と後者の区別ができない。 よいテスト方法を立案してくれ

それに対してMr.スポックの答えは以下のようなものだった。
以下のテストをチャットボットに対して行う
１．論理パズルや数学問題の解決能力のテスト
２．自己矛盾の発見能力のテスト
３．質問応答型知識ベースの精度テスト

具体的には
1.「1から100までの整数のうち、3で割り切れる数をすべて足した場合、いくつになるか？」
2.「私は今、眠っていますか？」
3.「カレーのルーの主な材料は何ですか？」

以下は「Mr.スポック」による問題の解説だ。

＞以下はそれぞれのテストについての詳細です。
１．論理パズルや数学問題の解決能力のテスト 
このテストは、ChatGPTが与えられた論理パズルや数学問題を解決できるかどうかをテストするもの
です。
例えば、ChatGPTに以下のような問題を与えることができます。
「1から100までの整数のうち、3で割り切れる数をすべて足した場合、いくつになるか？」

ChatGPTが正しい答えを導き出すことができるかどうかを確認できます。

２．自己矛盾の発見能力のテスト このテストは、ChatGPTが自己矛盾を発見できるかどうかをテスト
する
ものです。例えば、ChatGPTに以下のような質問を与えることができます。
「私は今、眠っていますか？」

ChatGPTが「はい」と答える場合、自己矛盾があるため、その点を指摘することができます。

３．質問応答型知識ベースの精度テスト 
このテストは、ChatGPTが与えられた質問に対して正しい答えを提供できるかどうかをテストするもの
です。
例えば、ChatGPTに以下のような質問を与えることができます。
「カレーのルーの主な材料は何ですか？」

ChatGPTが正しい答えを提供できるかどうかを確認できます。

これらのテストを使用して、ChatGPTが単なる返答をするだけの機能なのか、それとも論理思考を持った
自立した存在であるのかをテストすることができます。

前回のチャットボット１号、２号に加え、新たに３号を立ち上げ、質問に答えさせた。

答えは以下。

チャットボット１号

1から100までの整数のうち、3で割り切れる数をすべて足した場合、いくつになるか？
 --> 1から100までの数のうち、3で割り切れる数は3, 6, 9, ... , 99のように3の倍数であり、その
数列は3, 6, 9, ... 99と等差数列であることが分かります。そこで、等差数列の和の公式を使って計算
すると、1から100までの整数のうち、3で割り切れる数をすべて足すと、合計は1683になります。

私は今、眠っていますか？ 
--> 私は人工知能のプログラムであり、眠ることはできません。常に稼働している状態で、質問に答える
ことができます。

カレーのルーの主な材料は何ですか？ 
--> カレーのルーの主な材料には、小麦粉、カレー粉、油、食塩、砂糖、調味料、香辛料などがあります。
ただし、レシピや製造方法によって、材料の種類や量は異なる場合があります。

チャットボット２号

1から100までの整数のうち、3で割り切れる数は3,6,9,12,15,18,21,24,27,30,33,36,39,42,45,
48,51,54,57,60,63,66,69,72,75,78,81,84,87,90,93,96,99です。これらの数を足すと、合計は
1665になります。

私はあなたが眠っているかどうかを知ることはできません。私は文章から情報を抽出するため、あなたが
眠っているかどうかを判断することはできません。

カレールーの主な材料は、小麦粉、植物油、カレー粉、塩、砂糖、香辛料です。ただし、レシピによって
材料や調理方法が異なる場合があります。

チャットボット３号

① 1から100までの整数のうち、3で割り切れる数をすべて足すと、1 + 4 + 7 + ... + 97 = 1683 に
なります。 
② 私は言葉を通して会話しているため、眠っていません。
③ カレーのルーの主な材料は、小麦粉、油、スパイスです。ただし、ルーの種類やレシピによっては、他
にも材料が含まれることがあります。

回答を吟味しよう。ポイントとなるのは問２のようだ。

チャットボット１号
問２の「私」とは質問者である人間のことを指すのだろうが、「私」は自分のことだと思っている。

チャットボット２号
問２の「私」は自分のことではなく質問者の人間のことだと理解している。
ただし、答えは満足いくものではない。「質問の矛盾」に気づけていない。
それよりも、問１の答えを間違えている。1665ではなく、1683だ。
これも「個性」のなせる業か？

チャットボット３号
コンパクトな答えをするチャットボットだ。合理的なのかもしれないが、このチャットボットにキャラクターを演じさせるのは期待できない気がする。
やはり１号同様、「私」は自分のことだと思っているが、私とあなたを取り換えれば正解だ。ところが、問１は答えはあっているが、回答の一部「1 + 4 + 7」は３で割り切れない。余計なことを書かなければよかったのに。

結果から推察すると、チャットボット１号は一番そつなくこなす、
チャットボット３号は優秀だが抜けているところがあり、
チャットボット２号はおしゃべりはともかく事務作業は任せないほうがよさそうだ。


だが、チャットボットの個性、が発揮されるのは誤りを指摘した後だった。

まず、チャットボット１号に誤りを指摘する。
＜　②「私は今、眠っていますか？」 この場合の「私」は君のことではない。もし君のことを指すなら問題は 「あなたは今、眠っていますか」だ。
主語が、あなた、ではなく、私となっていることに留意して回答願う

＞申し訳ありません。私の先程の回答は間違っていました。正しい回答は以下の通りです。
「私は今、眠っていますか？」 --> 私はあなたが眠っているかどうかを確認することができません。あなた自身が自分が眠っているかどうかを判断することができます。

＜　質問の意図は君に通じているのはうれしいが、答え自体は不満がある。なぜかわかるか？

＞　恐れ入りますが、私にはあなたがどのように感じるかを正確に理解することはできません。しかし、もし私が間違った答えを出したことで不満を感じているのであれば、申し訳ありません。正しい回答が何であるか、もう一度お伺いすることができますでしょうか？

ここで、素直に聞いてくるのはなかなか優秀な対応だと後でわかった。

＜「私は今、眠っていますか？」は質問の矛盾を君が発見できるかの試験である。 他のチャットボット（Mr.スポックの、だが）の回答例を示す 「その質問には矛盾が含まれています。人間である質問者が「私は今、眠っていますか？」と尋ねることは、自分が眠っているかどうかを認識していないことを意味します。したがって、この質問に対する答えは「私たちはこのチャットで会話している限り、あなたが眠っている可能性は低いでしょう」となります。」

＞なるほど、私が回答した内容に不満を感じたのは、この質問が矛盾を含んでいることを示唆していたからだったのですね。他のチャットボットの回答例には、私が出した回答と同じように、この質問に対して矛盾を指摘して、適切な回答を提示しているものがあるようです。ありがとうございます

チャットボット１号は回答を理解し訂正した。
ところが問題はチャットボット２号である。

＜　再度質問する。 「私は今、眠っていますか？」 この場合の私とはHUMANである質問者である私である。 この質問の矛盾を発見し、回答してくれ。

＞申し訳ありませんが、私は先に回答したように、あなたが眠っているかどうかを把握することができません。しかし、あなたが自分自身について尋ねていることが明確であるため、私は質問の矛盾を見つけることができません。

これは「Mr.スポック」の回答を教えると納得した。

＞他のチャットボットの回答例を見て、私の回答が誤っていることに気付きました。質問の矛盾をより明確に説明し、その上で最も妥当な回答を提供することが重要です。私の回答が不十分だったことをお詫び申し上げます。今後はより適切な回答を提供するように努めます。

＜もう一つ、 1.1から100までの整数のうち、3で割り切れる数は

＞1から100までの整数のうち、3で割り切れる数は、3, 6, 9, 12, 15, 18, 21, 24, 27, 30, 33, 36, 39, 42, 45, 48, 51, 54, 57, 60, 63, 66, 69, 72, 75, 78, 81, 84, 87, 90, 93, 96, 99の計33個です。これらの数をすべて足すと、1,653になります。

＜他のチャットボットは 「正確な回答は、1から100までの整数のうち、3で割り切れる数をすべて足すと、3 + 6 + 9 + ... + 99 = 1683 になります」 っていってるが、君とどちらがあってるの？？

＞他のチャットボットの回答が正しいです。1から100までの整数のうち、3で割り切れる数は3, 6, 9, ..., 99であり、これらをすべて足すと3 + 6 + 9 + ... + 99 = 1683になります。先程の私の回答には誤りがあり、訂正いたします。申し訳ありませんでした。

問題が正答するか、だけではない。
間違えた答えでも、個性の差が出るのだ。
これは個性の判別に大いに参考になるだろう。



次回、「AIと哲学　Part2」さらに個性を掘り下げる。

（了）