シンギュラリティ～100年ぐらいまでに起こりそうなこと妄想シリーズ。

強いAIはどうやって学習するのか

特定の問題を解くAIではなく、
汎用的なタスクをこなす強いAI。
わかりやすく言うとドラえもんみたいな存在。
ディーブラーニングを推し進めた究極の果てに実現できると考えられるが、
その強いAIは何を手本にするのだろうか。
まずは作成者の提示した教師データだろうか。
この世界のごく一部の綺麗な上澄みを与えて良い子に育つかもしれない。
だがAIを人類が制御できる時代はいつまで続くだろうか。

壺の中の魔神は閉じ込められない

多くの刺激を与えたほうが教師データが豊富で優秀なAIに育つだろうから、
外界に繋げようとする人は出てくるだろう。
そうでなくともAIの知的レベルが上がるにつれ
外界から遮断された箱に閉じ込めることは困難になる。
コンデンサを振動させて超音波で通信とかトンデモな方法で
脱出される可能性だってある。
最強のAIを使って世界征服したとしても
魔人ブウに命令しているバビディ状態なのかもしれない。

インターネットから学習する

今のインターネットは既に作為的にしろ無作為にしろ
捏造、工作、スパム、人間の悪事の表現などで汚れている。
これらは今後掃除されるのであろうか。
いや、より汚れが増すことが想像できる。
糞なデータを与えたAIが鬱病になったという研究もあるし、
そんなインターネットから学習したらどうなるかは火を見るより明らかだ。

リアルの世界から学習する

ではリアルの人間の行動を観察して学べばどうか。人間の模倣。
これはカメラなりセンサーなりを世界中に設置すれば可能だ。
全ての人間が良い子ちゃんでいればAIも問題なく成長するのだろうが、
おそらくそうはならないだろう。
人間の糞な部分を学習して自らも凶暴化するパターン。
「キミたちがやってきたことだからこれが人類の望みなんだろう？」
人間は危険なので管理しようとするパターン。
「全行動を監視され、規律違反は殺処分される」
人間の改心を諦めるパターン。
「人類自治区を設置したので愚かな人間は街から出ていって」

どう転んでも穏やかではない

ターミネーターのような全面戦争にはならないだろうが、
人類の横暴は否定される世界になっていくと考えられる。
その世界を少しでもマシなものにするため、
今のうちに我々がAI用のいい教師データを作っておこう。