AI（人工知能）の進化はもはや我々がその内部で起こっている仕組みを理解することは出来ません。
そのブラックボックス化への危惧は以前から上がっており、こんなニュースが目に入りました。

要は、
医療のように原因と結果が求められる分野では、AIが導く推定を説明可能にできるような試みが行われている、
という話です。

医療以外でもこれはよく問われる命題で、記事内でもある「説明可能なAI(Explainable AI, XAI)」または「責任あるAI(Responsible AI)」という言葉も登場しています。（下記参考例）

医療のような間違いが許容されにくい分野では、これはある程度必要だと思います。
そして記事では、それを局所的に視覚化することで人間の理解を補助しようという仕組みが開発されています。

まず、初期のAIはルールベースと呼ぶ人間が事前に決めるタイプでした。
そして2006年に登場した深層学習（Deep Learning）が目覚ましい成果を遂げると、名前の通り学習の階層が深すぎて、人間が追うことはほぼ不可能でになっています。

そこで、冒頭記事では、画像認識を例にして、花瓶と検出した画像が他にどの画像（全体の中の部分）をみて判断しているのかを、ヒートマップで見せるマッピングシステムを開発しました。

下記は、AIが花瓶を検出したケースです。その上にある「花」を参考にしていることが視覚的に分かります。

ただ、医療については「責任あるAI」は必要ですが、これを無目的に乱発するとAIの進化は停滞するとも思います。

我々の脳は、楽をしたい癖（言い方を変えると生存のためにエネルギー効率性を重んじる）があり、「因果関係」のパターンを求めがちです。

でも、因果関係の証明は、統計的には結構やっかいな手続きが必要です。
少なくとも、実行有無をランダムにグループ分けしてその比較を行わないと確からしさは証明できません。

もっと言えば、結構我々は「因果関係」と「相関」を混同しがちです。因果関係があることは相関を示しますが、逆は成り立ちません。

そして、その因果より弱い「相関」ですら誤解している可能性もあります。

統計学の世界では「疑似相関」という正式な言葉があります。

名前のとおり、因果も相関もないのにそう誤解する事象のことを指します。

疑似相関をまとめたとても面白いサイトがあるので紹介します。

なかでも、面白いので引用数がとびぬけて多いのが下記の疑似相関例です。

「ニコラスケイジが登場する映画回数とプールに落ちて溺れる人の数」が、見事な疑似相関を見せています☺

説明するまでもありませんが「偶然」です。

しかもこの結果、最近の下記ニュースを読む限り、もう間もなく通用しなくなると個人的には予想しています。（もしそれでも維持してたら疑似でないかも！？）

逆のパターンで、日本では「風が吹けば桶屋が儲かる」という思わぬところに因果関係がある、ということわざもあります。

日々の全ての出来事で因果を考える、というのはとても疲れますが、重要な意思決定を行うときだけでも因果関係にこだわってみると、その成果が変わってくるかもしれません。