■自動運転、AIがAIを制御！NTT DATAの世界観 ハイブリッドAIが最終判断

AIがAIを制御。
こう聞くとロボット上司がロボット部下を働かせているようなSFっぽい絵が思い浮かぶのですが、上記の記事で紹介されているNTT DATAの自動運転を実現させるための技術は、実際はもっと人間っぽいものでした。

かもしれない運転のシナリオを大量生成→AIが判断

SEAS、GARDEN、MARINA、REEFなどNTT DATAでは全部に社内用語的な独自の名前をつけているのでとても難解ですが、クルマの自動運転を実社会で実現するために

1．「かもしれない運転」＝これから起きるかもしれない悪い事態のシナリオを、生成AIがたくさん生成する。

2．生成されたシナリオを、判断軸が異なる複数のAIがジャッジする。
　その際、法律やルールの遵守を旨とするカタブツAIさんと、実際の運転シーンでの現実的な判断をしようとするニンゲンAIさんが、別々にシナリオを裁定する。

3．カタブツAIとニンゲンAIの意見が割れた時、サイバンカンAIが事故が起きづらい安全なほうを最終的に選択したり、上がってきた複数の意見をさらにチューニングしたりする。

こんなことをやろうとしているのが、記事タイトルにある「AIがAIを制御！」の中身です。

ロボット上司がロボット部下を働かせているようなSFっぽい絵よりもずっと、人間が普段やっている営みにとても似ていると思いませんか？

最終的に人間が判断するのは無理になりつつある

AIは超高速に大量の分岐シナリオを生成できます。それらを人間が瞬時に判断するのはスピード的に無理じゃないかと思います。

AIが何をどう判断したのかブラックボックス化されており、AIが制御する範囲もどんどん増えている中で、結果責任だけ人間が負えというのは現実的ではなくなりつつあります。

スピードだけでなく価値判断もAIが台頭してきています。
いまは生成AIでAIが絵を描いた、文章を作った、というひとつひとつの出来事に感動していますが、

伊藤園「おーいお茶」のパッケージデザインをAIで生成したニュースでご紹介した通り、デザインを生成AIで作ることがすごいのではなく「評価AI」が生成されたデザインの良し悪しを判断する組み合わせ利用にこそ妙があります。

評価AIがパッケージデザインAIを「制御」し、より評価点数が高くなるようにデザインさせているわけです。

パッケージデザインAIが生成したデザインを人間がセンスでもって判断するのも無理になりつつあります。データドリブンで「消費者に買ってもらいやすいデザインはこっちです」と評価AIが判断したことに、人間の決裁者は抗えないものです。

人間の決裁者がAIの判断を覆す必要がないくらい精度が上がったら、人間が最終判断する必要が本当になくなり、「AIがAIを制御する！」が完成します。

パルコのAI製広告のニュースを「クリエイティブディレクターのAI化が待つ未来」と称したのも、AIの本質は判断者がAIに置き換わることがゴールだと考えているからです。

一般道でのクルマの自動運転ほど複雑なものでなければ、または人命がかかっているような重大な事案でなければ、より早く「AIがAIを制御する！」未来はすぐに来るはずです。

ロボット上司がロボット部下を働かせているようなSFっぽい絵は、遠からず目の当たりにすることになるでしょう。