☆mediopos2612 　2022.1.10

ＡＩを考えるということは
「人間がものを思考すること、理解すること、
認識することなどが、いったいどういうことなのか」
をあらためて考える機会ともなる

そのためにも
ＡＩと人間の思考の違いについての
基本的な視点をもっておく必要がある

まず人間の思考には
「規範的な次元」が内在しているが
ＡＩにはそれがないという視点

「私は○○と考えます」というとき
人間の場合そこには
「その思考や判断に責任を持ちます」という
最低限のコミットメントがあるが
ＡＩにはそれがない

人間の思考にはその背景に物語性があり
さらにその背景には
死する存在であるがゆえの時間性がある
「規範的な次元」はそこから生まれてくる

ごく単純にいえば
人間にはからだと
それにむすびついた心があり
死すべき存在であるからだと心が
生み出している物語がありその物語性ゆえに
思考や判断におけるコミットメントが生まれる
ゲームのようにリセットできないということでもある

さらにＡＩには
「フレーム問題」と「記号設置問題」があるという視点

フレーム問題は
人間は自分で認識のフレームを設定できるが
ＡＩにはそれを与える必要があるということだ
じぶんで限定された認識フレームをつくれるということは
そのフレームを無視することもできるということだ
「何もしない」ことができる」
しかし「ＡＩにはそれができない」

「記号設置問題」は
記号（言葉）を外的に存在する現実のものとを
むすびつけるにあたって
ＡＩはどんなに処理能力があっても
記号内処理であることを出ることができないということ

こうしたことを考えていくと
ＡＩとは天使にも似ている感じがしてくる
天使には自由はない
天使は神的な存在から与えられた
役割・道具としての高次存在であり
そこにはからだをともなった心や自由は存在しないのだ
自由は大いなる制約と苦しみ
そして愚かであることにさえ
開かれているがゆえに可能となる

なぜ人間はこんなにも不自由なからだと心で
地上を生きているのだろうか
それはＡＩのようにならないためにこそ
不自由を通じた自由を生きているのではないか
そんなことを考えたりもする
死を引き受けるがゆえの物語性もそこに関わってくる

人間はＡＩでも天使でもないがゆえに
人間であることを選んでいるのだともいえる
人間であるがゆえの悪をさえ引き受けながら

■「AIと文学の未来」をめぐる連続インタビュー
　聞き手・山本貴光＆吉川浩満
　（3）大澤真幸「人間とAIの関係は神学的に規定されている」
　（『文學界 2022年2月号』文藝春秋　所収）

「山本／なぜ、大澤さんがＡＩを思想史的に考えることに惹かれないのでしょうか。

　大澤／その枠組みでは、ＡＩが人間にどれぐらい近づいたのか、ばかりが議論されているように見えるからです。
　ＡＩと人類との直接的な類比によって、ＡＩの認識や思考が人間にどれぐらい近づいたかを考えるよりも、ＡＩは人間のようには考えていない、ということがすごく重要だと思うんです。ＡＩが人間のようにはできないとから見えてくる人間についての新しい知見のほうに興味をそそられます。ＡＩ研究が進むことによって、人間がものを思考すること、理解すること、認識することなどが、いったいどういうことなのか、自分でもよくわかっていなかった、ということがわかってきました。

　山本／おっしゃる通りですね。いまＡＩは人間のようには考えていない、と言われましたが、ＡＩと人間の思考の違いについて、大澤さんは何を重要視されていますか。

　大澤／大きく二つあるのですが、一つ目は、人間の思考に内在している規範的な次元です。人間はたいていの場合、ＡＩにまず認識を学習させて、それから思考させようとしますよね。規範的な判断は、人間がやればいいと思っているから、教えるにしても認識や思考を習得させてからになるでしょう。ほとんどのＡＩ研究者は思考と規範が別の問題だと考えているからです。でも、実際には人間の思考には、純粋に客観的に考えていると思っているときでも、最低限の規範的な次元が含まれているんです。
（･･･）
　「私は○○と考えます」と言うときには、本人はその都度、真剣には考えていないにしても、その思考に対して、「その思考や判断に責任を持ちます」という最低限のコミットを表現している。その思考や判断が内容の点では明らかな道徳的な問題を含んでいないときでもです。ニュートラルに「そこに文藝春秋社がありますよ」と私が言うときんは、それが客観的な情報だとしても、その真理性に責任を持ちます、というような最低限のコミットメントが、思考に必ず伴っているんです。ＡＩの思考には、この規範的な次元がない。
　なぜ、このように人間の思考には規範的次元が内在しているのかを考えていくと、ＡＩと人間の思考のもうひとつの大きな違いが見えてきます。
　それは人間の思考が持つ物語性です。（･･･）ただ、ものを考えているだけに見えても、その背景には、過去を参照したり、記憶を引っ張り出したりして、ものを考え、それに基づいて行動し、その結果に責任を持つ、という一連の物語を持った時間が流れています。
　ではなぜ、人間の思考には物語性が宿るのか。結論から言えば、それは人間が死ぬからでしょうね。逆に言えば、私たちは生きようとして思考し、判断している。人間は死を避け、生きるために考えるから、人間の思考には時間性や物語性が備わり、そこから規範的な次元が出来してくると考えられます。（･･･）

　山本／人間と思考の違いについて話していただきましたが、ＡＩの知能が人間のそれを越える、いわゆる「シンギュラリティ」の可能性については、大澤さんはどのように考えられていますか。

　大澤／（･･･）私はＡＩが本質的な意味で人間のように思考できる、あるいは人間の知能を越えた、と言える日は、そんなにすぐには来ないのではないかと考えています。なぜならＡＩについて昔から言われてきて、いまだに解決されておらず、解決の方針さえ立っていない、二つの難題があるからです。

　山本／それは「フレーム問題」と「記号設置問題」でしょうか。

　大澤／その通りです。

　山本／「フレーム問題」は、この世界が膨大な要素とその組みあわせからできているために生ずるものでした。そうした環境のなかで、ある課題を達成したい場合、そこにある全ての要素を検討するわけにはいきません。時間と空間の範囲を限定し、無数にある要素や関係のうちから対象とするものを限定する必要があります。つまり、課題解決のためにフレーム（枠組み）を設定するわけです。これがＡＩには難しい。
（･･･）

　大澤／フレーム問題のいちばんのポイントは、人間は大半のことを「無視」できて、「何もしない」ことができるのに対して、（･･･）ＡＩにはそれができない、ということです。
（･･･）

　山本／（･･･）もう一つの大問題は、「記号設置問題」ですね。ＡＩは身体を持たないので、人間のように「ネコ」や「リンゴ」といった記号を現実のネコたリンゴと結びつけられない、と長らく言われてきました。（･･･）

　大澤／最近では、ＡＩに膨大なネコの画像を学習させることで、「ネコ」という記号とネコの画像を結びつけることができるようになってきたことをもって、「記号設置問題」は解決されつつある、と言う人もいます。しかし、私はそうは思えません。いくら「ネコ」の写真を見て、「これはネコです」という判断ができたとしても、コンピューターにとっては、「ネコ」という記号を画像という別の記号と結び付けているだけです。（･･･）
　それに対して、人間は、そのメカニズムは詳らかにされていないのですが、記号を学ぶと、得も言われぬ仕方で、それが外に実在することを知りますし、言語の習得の過程で、外部の実在と記号を結びつけることをたやすく身につけます。（･･･）

　山本／フレーム問題と記号設置問題についてのお話を伺って、詩人のジョン・キーツの言葉を連想しました。キーツは、文学で偉大な仕事を達成する人、なかでもシェイクスピアは「ネガティブ・ケイパビリティ」（消極的能力）を持っていたと言います。それはどんな能力かといえば、「人が不確実さとか不可解さとか疑惑の中にあっても、事実や理由を求めていらいらすることが少しもなくていられる状態のこと」（ジョン・キーツ『詩人の手紙』田村英之介訳、冨山房百科文庫）です。つまり、何かを放っておけること、何かをせずにいる状態、キーツの文脈からすると拡大解釈になるかもしれませんが、人間がいろんなものを無視できる核には、このネガティブ・ケイパビリティという能力があるのかもしれません。

　大澤／同感です。」

「大澤／人間にとって自由とは何か？　というＡＩ技術の展開に応じた新しい問題の次元が開けてくる予感がします。脳と機械、脳と脳が直接つながるようになると、新しい集合意識と個人意識が生まれ、哲学的に考えるべき難しい問題が出て来るのではないでしょうか。
（･･･）

　個人的には、そうなったとき、人間は何を失ってしまうのかに非常に興味があります。自己の個体性の意識には、「他者」が関わっているからです。哲学では独我論が成り立つというくらいですから、「他者」が本当にいるのか、という問題は、ちょっと意地悪に考えると本来難しいのですが、哲学的に説明できなくても、私たちにとって「他者」がいることは確実ですよね。「他者」についての感覚、「他者」についての認識や思考、それは人間の最大の謎であり、人間とは何かを考える上で非常に重要な問題だと思います。
　だからこそ、自分の脳と「他者」の脳が直接的につながったとき、「他者」への感覚や認識、思考のベースになっている、「他者」との超えがたい壁のようなものは、どうなっていくのか、非常に気になるのです。
　「他者」というのは、ビーイング（存在）とノンビーイング（非・存在）の中間にあるんです。哲学的には独我論によって、いないことにもできるけれども、実際に人間が生きていく上では、決してないことにはできません。「他者」を「無視」できるのは、それがビーイングとノンビーイングの間にあるからなんです。あると思っているから、「無視」して、なきものとすることができるのであって、最初から本当にないと思っていたら、「無視」することはできません。「無視」と「無知」は違うわけです。このことは、「フレーム問題」や人間が「何もしない」ことを可能にしている「ネガティブ・ケイパビリティ」にも通じていますね・ビーイングとノンビーイングの中間の次元で機能しているものがたくさんあるから、人間には「無視」ができるし、「何もしない」ができる。それはおそらくＡＩにはビーイングとノンビーイングの中間にあるものを教えるのが非常に難しいからでしょう。（･･･）
　さらにいえば、ＡＩにはなくて、人間にはある「死」の概念もそうです。誰も自分の「死」を経験することはできませんが、自分が死ぬことは知っている。
　このようにビーイングとノンビーイングの間にある様々なものが、私たち人類の認識や思考や世界観の根幹を支えているのです。私たちが人間的だと思っていることの大半は、そこにあるのかもしれません。
　だから、脳と脳がつながったとき、本当に大きなブレイクスルーが起こる予感がしています。」