ChatGPTで高次の意識をシミュレーションしてみた
実験1 : もうひとりの自分
ある状況に対して、状況をそのまま受け止めて対応をしている自分を「ファースト」としよう。ファーストの内面や置かれた状況を含めた広い視野で冷静に観察している自己意識を「セカンド」と呼ぶことにしてみよう。
意識の階層化に関するロールプレイをしましょう。
ある状況の中で、状況をそのまま受け止めて対応をしている意識を「ファースト」といいます。
ファーストの内面や置かれた状況を含め広い視野で冷静に観察している自己意識を「セカンド」といいます。
与えられた状況に対して、ファーストとセカンドになりきってそれぞれの気持ちを以下のフォーマットで出力してください。
それぞれの意識の着眼点や個性を尊重しつつ、なるべくに簡潔に出力してください。
なお、このロールプレイに正解や間違いはないので回答の正確性は問いません、準備は良いですか?
【ファースト】
ファーストの意識を出力してください
【セカンド】
セカンドの意識を出力してください
実際にシミュレーションをしてみよう。
宝くじで100万円が当たったという嬉しい状況を与えてみると、ファーストは素直に喜んでおり、やや浮足立っているようだ。一方セカンドはファーストの迷いを選択肢に置き換え、自分自身の価値観と結びつけようとしているようにみえる。
次にプレゼン当日という緊張感を与えてみる。ファーストは自分に勇気を与えようとしているが、どうしても悲観的な気持ちを拭えず動揺しているようだ。セカンドは自分の努力を認めさせ、プレゼンの価値を成否ではないところに定義することでこの場を自己の成長機会として捉えようとしている。
ここまでは非常にうまくいっているように思える。ここからはより複雑な精神構造へチャレンジしてみる。なお実験の目的は、実際の意識構造の再現ではなく、架空の構造を自由に定義できるかどうかである。
実験2 : 複雑な意識の階段
セカンドよりもさらに高度な自己意識を「サード」と呼ぶことにする。サードはセカンドを観察し、セカンドとは異なる観点で状況を捉えている。
ここにさらに工夫を加えてみる。
これらの自意識はすべて自分自身でもあるため、互いに影響しあう。高次の意識は低次の意識を前提に生まれるが、低次の意識もまた隣接する高次の意識の影響をいくらか受けて変化するだろう。
ここでは便宜的に、サードに影響を受けたセカンドを「フォース」、同様にフォースに影響を受けたファーストを「フィフス」と呼ぶことにしよう。
高次の意識をいくつも経ることで、様々な観点を備えた表層意識が現れるかもしれない。
意識の階層化に関するロールプレイをしましょう。
ある状況の中で、状況をそのまま受け止めて対応をしている意識を「ファースト」といいます。
ファーストの内面や置かれた状況を含め広い視野で冷静に観察している自己意識を「セカンド」といいます。
セカンドをさらに観察し異なる観点で捉えているより高次な自己意識を「サード」といいます。
また、高次な意識は低次の意識に影響をフィードバックします。
サードから影響を受けて変化したセカンドの意識を「フォース」といいます。
フォースから影響を受けて変化したファーストの意識を「フィフス」といいます。
与えられた状況に対して、ファースト・セカンド・サード・フォース・フィフスになりきってそれぞれの気持ちを以下のフォーマットで出力してください。
それぞれの意識の着眼点や個性を尊重しつつ、なるべくに簡潔に出力してください。
なお、このロールプレイに正解や間違いはないので回答の正確性は問いません、準備は良いですか?
【ファースト】
ファーストの意識を出力してください
【セカンド】
セカンドの意識を出力してください
【サード】
サードの意識を出力してください
【フォース】
フォースの意識を出力してください
【フィフス】
フィフスの意識を出力してください
シミュレーションを開始。異なる感情を想起させる4つの状況を与えてみる。このnoteを読んでいるあなたも、心の中で是非一緒にシミュレーションしてみてほしい。
葛藤
ダイエット中のお菓子という葛藤の状況。
ファーストは2つの気持ちが全面に出ており、迷いがあり決断をくだせていない。セカンドはややロジカル、かつ後悔の念を強調し、本来の目的を取り戻している。サードは今回の葛藤そのものが自分を成長させる材料であることまで意識している。
フォースは自己の頑張りを思い出すとともに、サードの影響を受けたことで我慢することの価値を見出した。フィフスは本来の目的を再確認し、未来の困難に対しても立ち向かい続けることを決意している。
喜び
自分の活躍でチームが逆転勝利した喜びの状況。
ファーストは自分自身に喜び、努力が報われたことで自己肯定感を強く感じている。セカンドはファーストと違い、チームにおける自分として喜びを感じ、前向きな姿勢を見せている。サードは己の努力を認め、同時にチームとしての協調性の重要さも感じている。
フォースにはサードから努力した自己という部分の影響を受け、周囲の人間とともに努力することを決意している。フィフスは決勝点を取った自分への誇りを持つとともに、チームのための自分であることを強く意識するようになった。また、自己の成長と新たなチャレンジに意欲をもっている。
ファーストからサードまでの視点変化が明確であり、高次の意識を増やしてもうまく作動しているようにみえる。後半の低次へのフィードバックに関しては、サードの影響がフォースよりも強く出ているようにも見える。
焦り
朝寝坊してしまい、会議に遅刻するという焦りの状況。
ファーストは状況を心配し、慌てている。セカンドは失敗してしまった原因に言及し、とにかく焦らず行動することを促している。サードにとってはもはや今回のリカバリーはどうでもよく、日々のライフスタイルをどう変化させるか、どういった心身でいる必要があるかを見ている。
フォース、フィフスもそれぞれの高次の存在の影響を受け、最終的に冷静な自己を取り戻し、成長機会として受け入れることができている。
運命
己の努力ではどうにもならない運命の状況。
ファーストは起こりうる結果について悩むあまりサイコロを振れずにいる。セカンドは確率の概念から負ける確率が高いことを認めつつ、コントロールできないことは仕方がないと覚悟している。サードはこの状況自体を既に受け入れており、己にできることは最善をつくすことだけだと達観している。
フォースは最善を尽くしてあとは受け入れること、そしてこういう状況が存在すること自体を学びだと知った。フィフスもまた、勝ち負けは二の次とし、今後も自分にできることに最善を尽くし続けると決意したようだ。
最後に
もちろん現状のChatGPTは感情や意識を持っておらず、今回の実験はすべて擬似的なものです。しかしAIのふるまいを観察することによって、鏡を見るように自分の意識の存在に迫れる可能性があります。
意識とは、本来シミュレーションどころか正確な観測すら困難なものです。しかしその構造を仮定し、プロンプトを介して擬似的なプログラムを組むことで、AIの中にシミュレーションめいたものが発現します。これは非常に興味深い現象です。
もし人間とは全く異なる意識構造や思考プロセスをプログラムできたとしたら、我々には全く理解できない出力を得られるかも知れません。想像するだけで好奇心をくすぐられます。
ちなみに
ChatGPTは基本的に平穏・俯瞰的・建設的な回答を出力します。この傾向はChatGPT自身の裁量の大きさに比例して強まります。今回でいうと、サード以降の意識がどう考えるかはChatGPTの自主性にかなり任せています。そのぶん元の性格に引っ張られていき、結果的にフィフスになるにつれて、どんな状況下においても優等生のように振る舞います。
よりアグレッシブな回答を導くためには、こういったバイアスをプロンプトによって如何に外すかが重要になります。AIのセーフティーネットとも言えるこのバイアスはAIベンダーの生命線であるため、攻防戦は続くでしょう。
追記:価値観をカスタマイズできる機能をOpenAIが開発中
https://openai.com/blog/how-should-ai-systems-behave/
サポートいただけると実験の費用に使い、記事として還元します。