第24回AI美芸研「宗教と数理脳」2019.05.02
大久保・淀橋教会
ハッシュタグ:#AI美芸研

https://www.aibigeiken.com/research/r024.html

甘利先生の講演を直接聞けて、そして打ち上げで直接お話ができて大変幸せでした。稲垣先生とのお話も大変刺激的でした。甘利先生のインタビューか何かを拝読した時に、情報幾何を修めたいと思ったのに、それより先にお会いすることになり無念でした…。

---
■水野の最終的に残った疑問(5/6 7時追記)
◎人類史において宗教が現実に起こった瞬間はまだ解明されていないらしい。(最初からそこにあったとされる。)そこが明らかになれば、何を求めて宗教が生まれたのか分かる。そうすればAIが宗教を獲得するシーンをもう少しリアルに想像できるのに。
◎好奇心の脳的な源泉はまだ解明されていないらしい。そこが明らかになればAIにも好奇心を実装できるのだが。
もちろん、コモングラウンドや自我の実装もまだまだ課題は山積だけれども。
---

※基本的にはその場での書き起こしなので、発言者の意図が正確に反映されていない可能性があります。正確なものはリンク先の動画を参照ください。

公式ツイートの書き起こしが凄い(笑)
僕のメモも要らなかったかも(笑)
https://twitter.com/AIbigeiken/status/1123457126972776448?s=20

動画はこちら。
［配信］第24回AI美芸研「宗教と数理脳」 1／3 https://youtu.be/FsKAgLloahI
［配信］第24回AI美芸研「宗教と数理脳」 2／3 https://youtu.be/LYrmWNvIRHg
［配信］第24回AI美芸研「宗教と数理脳」 3／3 https://youtu.be/YijYQ3uaaDc

(以下、敬称略)
会場は淀橋教会(建築家:稲冨昭)
ページ下部の写真は会場とは別の礼拝堂。収容人数は500〜800詰めたら1000人くらい。
天井まで18m。和を纏った素敵な教会でした。

峯野主管牧師
「宗教は霊性なものであるので、人間の知性と混同されてはならない。」

「神は

霊性
知性
肉体

をくださった。
いずれも神様の祝福の中にある。豊かな霊性は豊かな知性と共存しながら、豊かな人類の生活に奉仕するもの。

霊性は神から差し伸べられた手のようなもの。人類から差し伸べた知性の手でガッチリと握手できると素晴らしいと思う。」

---
■水野
ココで峯野牧師の言葉の強さに驚く。
そこには凛とした線引きがあったように思う。

峯野主管牧師
「宗教は霊性なものであるので、人間の知性と混同されてはならない。」
---

■ナカザワさん講演
宗教・脳・AI
なぜ宗教か？

宗教(神)と脳
神が脳を作った？キリスト教など、客観的
脳が神を作った？唯物論(無神論)、主観的

ナカザワ
宗教(神)とAI
AIが神となる？AI任せのAI教。人間のため
AIが神を信じる？AIは神という概念さえつくりだす。AIのため、主観的

世の中の価値のあり方は王朝興亡史として語れる。神においてもそれをやってるのが西洋史。
衆愚に堕ちたあと、プラトンが賢い君主の方が正しいとなり、君主制になり、民主主義になった。
かつてのアテネと似た状況だとするなら、賢い君主に委ねた方がいいという時代がくるかもしれない。その君主がAIになる可能性があるかもしれない。
しかし、それは亀甲政治のようなものになるかもしれない。

美学には美意識だけで良い。
芸術には美意識だけでなく、自意識が必要なのではないか。
そういう図を描いている。
---
■水野
王朝興亡史を引っ張ってAI君主時代を論じるうまさは流石。美学と芸術の差もしっかりと意識していなかったので、考えてみたい。
---

参加者
松本さんに聞いてみた
AIに宗教心が芽生えるか。
自分の外側に対する想像力が生まれるかどうか。
分からなくてもできてしまうというスゴイもの。
シンボルグラウンディングの問題が解決しなければならないのではないか。

ナカザワさん
因果を希求するから人類が残ったのではないか。
そうやって獲得されたポストディクションがたまり、意識のようなものになったのではないか。

質問者の感想
大脳が大きい。時間と空間のサイズに対する欲求度、未来を予測する、自分が見えてないことを知ることが予測誤差を最小化するのに役立つ。そういう事をしてしまうのが人間のクセかなと思っている。

稲垣先生の意見
19世紀、ユダヤキリスト教のフォイエルバッハ、人間が神を作ったと言われている。
今の神学はどう捉えているか。この(ナカザワさんの)二元論が極めて曖昧。
内部リアリズム。高いところにヒゲのお爺さん。アダムとイブではなく、内部リアリズム
クリティカルリアリズム、
批判的リアリズムでは、神即人、人即神。すでに神が遠くにいるのではなく、常に隣に神がいる。というようになっている。二元論はどうなのかなと思う。
---
■水野
この辺りの神の定義の現在は全く知らなかったので、人間が神を作ったと断言されたのに驚いた。
後半に稲垣先生からお話があった、仏教や仏教哲学と近いという話も驚きだった。
---

■稲垣久和先生ご講演

ブラックホールと福島原発のニュースが私の関心事だった。

ブラックホールはアインシュタインの相対性理論と関係している。
核分裂の物理現象もアインシュタインの若い頃の仕事 E=mc^2と深く関係している。

理論が現実になったすごい時代に来たという感覚。
科学には二面性がある。万歳という面と待てよという面。明と暗。

脳においても、それがある。

科学と宗教の対立について。

離れているものの対立を考えるなら橋渡しが必要。
哲学とか歴史を入れて橋渡しが必要。

宗教は日常言語で語られる。そのリアリティを信じるかどうかを迫るもの。
科学も非常に特殊。数学式を見てテンソル場の理論だ。とは一般の人は言えない。かなりのトレーニングが必要。
この距離があるという事を知る必要がある。

宗教の定義は、ハラリ(ホモ・デウス)の定義は面白い。
経済における主義(自由主義・共産主義)も宗教的になりうる。システムの社会的機能が大切。

オウム真理教の事件があった。
オウムに惹かれる若者の本を読んだ。理工系の若者を熱心に麻原彰晃が回っていた。
そこで言っている内容がコレと一致していた。
「さらに重要なのだが、人間のための実用的な制度を創出するには、いつも宗教の助けを必要としている。」

---
■水野感想
確かに科学とは共通ルールを信じる事。
誰かが証明したことをもう一度議論しなくて済むことで効率的に進んでいく。
全てを自分で確認せずに進んでいくのは信仰に近い。
誰かがこっちと言えば、それに従うことで活動を効率化する。宗教も同じように考えられるのではないか。
---
■水野疑問
★★ここでいう助けの具体的な例とは？
→書籍より
人間のための実用的な制度を創出するには、いつも宗教の助けが必要
科学者は世界がどう機能するかを研究するが、人間がどう行動するべきかを決めるための科学的手法はない
→宗教
→→まぁ、分からなくはない。が、「いつも、必要とする。」には違和感がある。ある程度信じて進むことが必要な事も多い、くらいならわかる。
---

ホモ・サピエンス、賢い人間
ホモ・デウス、
ホモ・エコノミクス、経済人間

現代人の宗教教義
経済成長が教義という人間至上主義である。

AIを手に入れた。シミュレーションを。
色々な生き物をアルゴリズムとして扱われるようになっている。

ハラリの最終疑問は？
エリートが大衆の脳に知らずのうちにチップスを植え込んだり、他の操作技術を自由に操れる時代や国が出現したらどうなるのか。
超近代は古代奴隷制社会に戻るのだ！

ヒューマンライツは20世紀に行き渡った素晴らしいモノ。だから奴隷はいけない。

奴隷社会に戻らない為に何が必要かを真剣に考えなければならない。

人間はアルゴリズムではない。と言いたい。

---
■水野疑問
★★なぜアルゴリズムではないと思うのか？
アルゴリズムであるが見つかってない可能性は？
→
稲垣先生
人間はカオスである。よってアルゴリズムではない。
→→
水野
アルゴリズムの定義にもよるが、方程式が導ければアルゴリズムが分かったというならば、カオスであってもアルゴリズムである可能性もあるのではないか。
(のちに出てきたが)ローレンツカオスはアルゴリズムか。
---

個人は単なるアルゴリズムか？

科学者は、脳の電気的信号の集まりがどうやって主観的経験を生み出すのかを知らない。
私は意識を持っている。
---
■水野
★なぜ意識を持っていると言い切れるのか？
---

納得するコミュニケーションプロセスがある。
心は見えない。が、リアルである。

脳から意識への創発

ウォルター・J・フリーマン
複雑系理論と指向性がカギ
ウサギ、ラット、ネコなどの小哺乳類の嗅覚を使った実験で、その脳波内にカオスが生じる事を実験的に確かめた

線型方程式は確率であっても非複雑系
非線形の複雑系
予測不可能だけれども全くデタラメではない。

ローレンツカオス。
自己組織化といっても良いかもしれない。

マクリーン
三位一体の脳
三層からなる脳

匂いに対して主体的に向かっていくもの
志向性

フッサールなどの志向性は大脳の意識などにあるといわれるが、
コレはもう少し原初的な、身体性のようなもの。能動的な…という感じ。

これはトマス・アクィナスの人間論に近い
あくまで仮説

実験的に確かめられたのは、嗅覚のカオスの実験のみ。

カオスアトラクターが脳の至る所で

心とはカオスアトラクターのパターンの流れ。

自己意識の形成は外界(世界)との関係でリアルに(実在的に)創発する。
脳を直線的因果性に埋め込むと自由意志は

世界1,2,3,4
4が霊性の世界。
---
■水野
★★
3から4が生まれる瞬間は何か？
なぜ4が生まれるのか？
目的は？？
→稲垣先生
どこかから世界4が生まれるのではない。
最初からあった。
→→水野
とはいえ、起源を辿ればなかった瞬間もあるのでは？
どの瞬間から生まれたかは、科学的に明らかになっていないのか？
→→稲垣先生
厳密には明らかになっていない

■質疑
メルダイモニア、アリストテレス
ハピネス
バチカンが管理していた

マンデビル、私悪すなわち公益なりという説もある

■甘利俊一先生ご講演

歳をとると色々興味が湧く。
色々話をする。あとで討議で取っちめて下さい。

生命技術で怖いのは遺伝子編集。薬物も人間をすっかり変えてしまう。恐ろしいこと。

情報技術、人間の知能や心まで関わってくると、どう制御するかが問題になる。

ビッグバンの時に生まれたもの
物理学、化学の下で僕らは生きている

生命=情報+物質
自己を複製した
ゆらぐ
ダーウィンの進化論
複雑な方が都合が良かったから複雑化した

情報が物質を使って自己展開していく
利己的な遺伝子はその見方
---
■水野感想
やっぱりこの考え方好き。
ドーキンス。
---

細胞が集まって、別々に働く方が都合が良かった

恐竜は隕石で絶滅
哺乳類はまだネズミとかだった

ネアンデルタール人4マン年前に滅びた
アフリカをでて繁殖した

ホモ・サピエンスは6マン年前に中東へ渡って、ついには全世界に君臨した
ある時期。ネアンデルタール人と共存、交雑した。
ネアンデルタール人は心、言語があったかもしれないといわれる。
---
■水野疑問
ホモ・サピエンスには心はなかった？
---

チューリングが計算する機械を作った
軍事技術だったので、闇に埋もれたまま死んでしまった。
これは論理的な機械
→知識を作ることが出来るはず。

ダートマス会議で人工知能という言葉
記号と論理
知的推論
ゲーム

人間は脳。学習によって出来る。

第二次ブーム
1970,1980年代
コンピュータも良くなった。うまくいくのでは？
コンピュータパワーがまだまだ足りなかった

第三次ブーム
2010〜
脳モデル、学習する普遍計算機構

人間よりも上手くやる。雑音で聞こえなくても上手く聞く。囲碁は2石置いても勝てない。
機械翻訳の精度もすごく上がった。

最近は1000段のネットワークを作っている。
人間の脳はそんなに多くない、もっと上手くやっている。

情報が変わっていくんだから1000段
原理がわからず、闇雲にやってるだけ。
勝てば上手くいった。見てみろ。と言っているが、それがサイエンスか？

■今やっていること
アマチュアサイエンティストとして、
層を重ねれば何が出来るか？

ランダム性はたくさん集まると規則性が生まれる。
フィッシャーの情報行列。
それを沖縄の採択率30%の会議を通った

今のやり方では
日蝕の予測はできるだろう
ケプラーの法則、ましてやニュートン力学を導くことは出来ないはず。

原理の創出・理解これは人間にしか出来ない。

---
■水野感想
さすが甘利先生。格好いい。
「原理がわからず、闇雲にやってるだけ。
勝てば上手くいった。見てみろ。と言っているが、それがサイエンスか？」

★なぜ原理の創出・理解が人間にしか出来ないと考えておられるか。
(個人的には色々な問題があると思う。コモングラウンド、問題の抽象化、応用など)
---

数理なら夜は寝て良い。
数理脳科学だ。
単純な基本モデルを用いる。数理的探索。(現実とは違う)

計算的神経科学
技術による

脳の進化はランダムサーチ
古いものを捨てて書き換えるとすると死んでしまう
つぎはぎツギハギで来ている
何が基本原理かなどは分からない。

実現する方法は脳とは違っていて構わない。

意識は人類の共同作業の中で生まれた
やろうとしている事を人に伝えると上手くいく
自分で知る必要がある。
自分の意図を自分で知れば伝えることが出来る。

言語、論理的思考、数学

リベットの実験

プレディクションとポストディクション
後付してるとも言える

意識は吟味するのが仕事。
自己正当化に使われる。
先に決めた。あとで理由づけしてる。

意識、こころとは何か？

こころは早いダイナミクス
感動であり、美であり、畏敬、喜怒哀楽

意識
ポストディクション(心を意識する)

進化

ロボットに心が持てるのか

人間は心が生存に有利だから残った。
不条理

ロボットは合理的
心を持たない方がいい

美とは社会的なもの

---
■水野が別途読んだ甘利先生の書籍
「脳・心・人工知能 数理で脳を解き明かす」より
多種類の情報が統合され 、ポストディクション （後付け ）の過程が機能する 。これが 「意識 」である 。
意識とは 、自分がいま何をしようとしているかを自分で知っていることである 。こう考えれば 、コンピュータに意識を植え付けることは容易であろう 。
---
■水野感想
心には唯一性が必要というように読める表現があった。

★心はどのようにして生み出す可能性が高いか。今できないのは何が足りないか。
→打ち上げにおいて先生へ直接質問
甘利先生
「好奇心がないと出来ない。」
→水野
「83歳にして、未だ好奇心が溢れる甘利先生の好奇心の源泉は何か？」
甘利先生
「考えたこともなかった。分からない。」
---

大澤先生質問
深層学習をもって、生命史に位置付けられないか

甘利先生
ランダムな過程で出て来て、深層学習で生き残ってきた可能性がある
真相学習は実験式を出してるに過ぎない
人間はその裏にある原理を見つけている
それを見つけられる人工知能を開発しないといけない
---
■水野感想
これ、非常にもったいない感じだった。
大澤先生の質問にストレートに甘利先生が深層学習系AIを生命史にマッピングして下さったら、大変刺激的だったのに。
回答の流れが違う感じになってしまった。
---

稲垣
自然言語は曖昧。科学言語ははっきり。
自然言語はメタファー。神。
主は私の羊飼い。アナロジーが分かる。

■全体討論
ナカザワさん
宗教とは社会との関係性で語られた

稲垣→河崎
多層的に分散しようということか

ナカザワ
資源の不足によって進化が起こった。

甘利
人間は超自然的な考え方は確かに持つ。
良い悪いは他人との関係性。
それが重なって社会との関係性。
より良くしていくために、
宗教的なものが生まれていく。

悪い心は本当に悪いか？必要かもしれない。
悪いからと言って全部は潰せない。

宗教の役割とは、悪い心を制御する？良い心を増やす？？
私は宗教、あんなもん無くても良いと思う。
---
■水野
この甘利先生の想いがあるから、元々の対談も引き受けられたのかなと思ったりした。
「科学に宗教なんて必要ない。」そういう強い意志をぶつけられる覚悟だったのかなと。
---

---
■■■■
★★★★★
水野質問

今まで宗教を考えたことがなかった。
稲垣先生が紹介してくれたホモデウスの話も受けて、科学も宗教かな。と感じた。
ロボットや意識の中でも無意識に処理することで効率を高める。
科学も公式を信じてその先へ進んでみる。
色々考えている時間をショートカットするのが宗教、共通理解、なのかな。

甘利先生の本には、こころには唯一性が必要、クオリア的な問題もある。という話もあった。それには完全に同意で、自分も人工知能がこころを獲得するのは当分難しいと思っている。

稲垣先生からコミュニケーションの為のシステム的に難しいといった話もあった。

…だとしても、逆にモチベーションからはどうか。
AIにもし万が一、こころや意識がもし生まれたとして、どのようにして、どのようなモチベーションからAIに宗教が生まれうるか？

■甘利先生
結論から言うと生まれないと思う。

グループの中で生きているという時に、
人間が大勢いて仲間がいて、共感が必要。という時には宗教は良いのだと思うが、
唯一のジAIなのか、クラスタの中で色々いる
共同作業をしているのか？単一と言えるとすると、そこに宗教は生まれ得ない。

■水野感想
全くその通りだと思う。
宗教が生まれる理由が効率化のためだとすると、AIが個別の欲求・目標を持っていて、それがコンフリクトする。その解決にコストが掛かる時に限り可能性があると僕も思う。
コンフリクトを解決するファシリテーターAIが、まさに宣教師的な立場となり、全体の効率のために全員が進むべき道を示す。それが宗教と呼ばれるかもしれない。

■水野追加質問
稲垣先生が世界を多層的に分割されていて、世界4と表現されていた。
人間のモチベーション含めて、稲垣先生のご意見もお答えいただけないか。

■稲垣先生
四世界論。
世界3、社会的。
世界4、スピリチュアル。
3から4が発生したのではなく、みんな最初からそれをあるものとしてきた。

★AIが自然発生的にそれを持つのは難しそうということか。(確認できず)

■質問者
ベーシックインカムが必要そう。
甘利先生
ベーシックインカムは家畜化されていると言えるかも。
家畜化とは何か。
豚は家畜。
本人は幸せか？草原の方が幸せだ。
人間は遊んでて下さい。と言われても反乱を起こす。
やりがいのある仕事が必要である。
芸術活動でも良い。

マルクスは、アダムスミスもそう言ってるが、労働は苦役だ。
協同組合は、
労働は苦役で使われる、吸い取られる。
同時に労働は楽しい所もある。共同制作に対する悦びがある。
ジョンラスキーが面白い本を書いている。労働はみんなでやると楽しい価値を生み出す。
仲間で協同して生み出すウェルスで成長するという労働というものがある。