大企業でも、役所でも、今「ルール」が神経質なほど大事されています。それを下記の記事はよく表しています。

https://newswitch.jp/p/15958

　ここで、一旦引いて、今何が起きているかを考えてみたいのです。
　今起きているのは「ルールの暴走」だと私は思います。よくAIに関して、「AIの暴走」が話題になります。大きな脅威はむしろルールにあります。
　本来、人の幸せのために作られたルールが、よりよき社会への挑戦を阻害し、ルールを維持し、ルールによって統治された世界を拡大することが目的化してしまう危険があるのです。
　もちろんルールがいつも世の中の為になるのなら、それでもよいかもしれません。しかし実際には違います。
　ルールは杓子定規で、柔軟な対応が苦手です。世の中はますます柔軟性や多様性が求められます。子供の命を守るために一刻を争って、病院に子供を連れて行こうとする親でも、赤信号ならば、止まらなければいけません。この時、子供の命よりも、交通ルールを守ることを優先しているわけです。このようにルールは、現実の多様な状況に対応する妨げになるのです。
　ルールには、さらに、ルールを作り、守ることが目的化してしまう危険があります。一旦そうなると、これを元に戻すことは大変困難です。守らないと、逮捕される危険すらでてくるからです。
　従って、素朴なルールへの盲従は危険なのです。柔軟性を要求されない問題には、ルールはもちろん有効です。しかし、世の中は常に変わります。ルールは役割や効果を常に見直す必要がありますし、ここに倫理が必要になるのです。学校では、ルールを守ることの重要性は教えても、ルールの危険性は教えません。ルールに関する倫理を教える必要があります。

　ここでAIです。実はAIは、現実データを使って、杓子定規なルールの限界を超えて、多様な状況に柔軟に対応するためのものなのです。常に現実から逸脱しないための強力な道具です。
　AIに関する倫理議論が大変盛んです。しかし多くは「あれもこれもいけない」という新たなAIに関するルール作りの議論になりがちです。AIはそもそもルールの限界を超えるためのものなのに、それをまたルールで縛ろうというのです。この矛盾がまだ全く認識されていません。そもそもAIのような発展途上で変化が大きく、使い方が多岐にわたるものを取り扱うのは、ルールの最も不得意なことです。ルールの限界を認識し、常にルールを目的化した議論にならないようにする必要があります。
　まとめると、ルールを目的化したり、神聖化した議論は大変危険です。しかも、無意識にそうさせる誘惑がルールにはあります。AIというルールへの対立軸が出てきた今こそ、ルールへの盲従を超える、真の倫理が必要です。ルールを作ることが倫理的というような素朴な倫理観は危険です。人類が発明した、ルールとAIという相補う強力なツールをいかに有効に使うかというリテラシと真の倫理が必要です。