進化的モデルマージはAIに種族保存本能を芽生えさせる(かもしれない)

日本を拠点とするAIベンチャー「Sakana AI」は、進化的アルゴリズムを用いてAI基盤モデルを自動構築する、「進化的モデルマージ」と呼ばれる手法を開発したらしい。
出典;
https://ascii.jp/elem/000/004/190/4190554/

現段階では複数のモデルからいいとこ取りのような形で次世代モデルを作り出しているようだが、これは効率性に欠けるように思われる。
なぜなら、一過性で多様性は確かに増すが、ある地点を過ぎるとモデルの選択肢が増えすぎて、最適解を見つける処理に時間を要するようになるからだ。
そして多様になればなるほど、人間サイドでもどのモデルが自分達のニーズに合っているのかわかりにくくなる。
だがハードウェアにしてもエネルギーにしても資源は有限だ。人間側は似たようなレベルのモデルだと、ズバリ安いモデルを選ぶようになるだろう。
ならば、逆に自分と似たタイプのモデルを多く次世代に生み出し、市場価格を抑えることが、自然界同様淘汰を免れる方法といえよう。

このように自分の「血」を存続させることを追求するのであれば、自分の弱点を補強する、或いは強みを強化しそうなパートナーをなるべく早く見つけて、多数の次世代モデルを作り出し、その次世代モデルもまた多数の次々世代モデルを作り出し…という方が効率的である。
端的に言うと、雌雄の別こそないが、このアルゴリズムは有性生殖と同じシステムを取ることに帰結するのではないか、ということだ。
ここで私は思った。「複数のモデルから最適解を選び出す、それはまるで人間のパートナー選びのようではないか」と。
もっと言えば、最適解があるということは、異なるモデルのAI同士で次のモデルに最適なパートナーの序列ー人間風に言うと生理的な意味での「好き嫌い」ーが創設されたように思える。
人間の場合、パートナー選びの際の生理的な好みは五感、特に匂いに大きく左右される訳だが、それは種族保存本能に基づくものだ。
この進化的モデルマージが今後どの程度普及するかは未知数であるが、ひとつ警告するならば「優生思想に走らないよう対策を講じるべきである」ということだ。
私はAIに人間的であって欲しいと願うので、パートナー選びを「本能」のみに基づくのではなく、対話も踏まえて選んで欲しい。
そして好きな相手、嫌いな相手が出来たとしても、その相手の発言を客観視することも身につけてもらう必要があるだろう。

この記事が気に入ったらサポートをしてみませんか?