日立が実施したホームセンターでのAI活用実証実験にて、実験対象店舗のフロアの特定の位置に店員が立っている時、顧客単価が上昇することが明らかになりました。下記の佐々木氏の書籍で紹介されています。

おそらく、その法則は真実だと思います。ですが、なぜそうなるかは、AIは說明しません。

ビックデータを分析していけば、このような理由は不明な真実・法則は多数見つかりますし、ビジネスに有用な発見も多いです。しかし、なぜそうなるか人間がわかる内容で言語化して說明されないため、その発見を活用してビジネス上の利益を得ることはできますが、発見された真実の背景・因果関係を理解し、世界が動く法則の理解に応用し、他の類似問題の論理的に解決していくような、人間の知的生産活動をより豊かにすることには、直接的にはつながらない可能性があります。

それはそれで、理由はわからないけど、AIが発見してくれた法則を活用して利益を得ていければいいのでは？という考え方もあると思います。
それでも、私たちは、世界が動く法則・背景・因果関係を解き明かし、応用が効く形で言語化し、より高度な課題に取り組めるように努力をし続けていきたいと考えます。