『とはいえ人間は、公平性を重んじる生き物だ。いくら少額でも不正を黙って見過ごすわけにもいかず、審査には多くの人手が割かれている。そこでAIを使い、公平性を維持しつつ、より少ないコストで迅速に審査を行おうというわけである。それは需給を受ける側にとってもメリットのある話だろう。DWPの広報担当者は、AIを含めた福祉業務全体の自動化によってサービス提供のスピードが上がり、担当者の業務が省力化されることで、本当にサポートを必要とする人々の対応ができるようになるとの見通しを示している。ただこのAIがどのような根拠に基づいて受給の判断を行っているのか、詳細は不明だ。また機械学習の技術が使われているとされているものの、いったいどのようなデータに基づいてAIの学習が行われているのか、そうしたデータがどこから集められたのかも明かされていない。DWPはこれまで英国議会に対して、民間の信用調査機関や警察、資産評価局（VOA）といった組織・機関から情報を集めていることを報告しており、公的なものか私的なものかを問わず、幅広い情報源からデータ収集を行っているようだ。～さて、こうした「不正」は、政府から違法にお金を手に入れるという形以外でも発生する。その逆に、政府に払うべきお金を払わないという不正もあるだろう。つまり違法行為による罰金の回避だ。歩行者が決められた場所以外で道路を渡ったり、交通ルールを守らない形で横断したりすることを「ジェイウォーク」と呼ぶ。こうしたジェイウォークは、自動車社会が発展するにつれて各国で違法化され、罰金が科せられる場合もある。たとえばハワイでは、ジェイウォークした場合130ドルの罰金を支払わされることがあるそうだ。～とはいえあちこちの道路に警察官を立たせ、道路を横断しようとするあらゆる歩行者を監視するわけにはいかない。それに監視カメラとAIで対抗しようとしている国がある――ご想像の通り、中国だ。中国では既に、2億台近い監視カメラが街角に設置されており、そのうち1割のおよそ2000万台がネットワークに接続されていると言われる。そうしたネットワークに接続した監視カメラから得られた映像は、AIがリアルタイムで解析し、さまざまな情報を把握するために使われている。これが「天網」と呼ばれる中国の監視カメラネットワークだ。中国政府はこの天網を、2020年までに中国全土に導入することを目指している。具体的な「成果」も生まれており、中国の有名歌手ジャッキー・チュン（張学友）のコンサートに押し掛けた大勢の観客の中から、複数の指名手配犯を発見・逮捕することに役立てられたと報じられている。これをジェイウォーキングの取り締まりに活用するというわけだ。監視カメラの映像をAIが解析、ジェイウォークしているかどうかを把握し、さらにその人物の顔を認識することで、後日罰金などの措置を科すのである。また警告と見せしめの意味で、ジェイウォークした人の顔と名前を、街頭のテレビスクリーンに大写しにするという対応も行っている。これはある意味で、罰金以上に効果があるだろう。ただこのシステムをめぐっては、ちょっとした事件も起きている。中国の著名な女性実業家、董明珠の顔が誤って「ジェイウォークした人」として認識され、それがスクリーン上に映し出されてしまったのである。その様子はすぐに中国のソーシャルネットワーク内で話題になり、当局はすぐに謝罪したが、董明珠は動揺せず「これは些細なことであり、交通の安全の方がより重要だ」とコメントしている。このエラーが発生した理由は、彼女の顔を使った広告がバスの側面に掲げられており、そのバスが道路を横切ったところをAIが誤認識したためだった。笑い話のような結果だが、もしこれが多額の罰金を科せられたり、社会的により悪質だと見なされたりするような犯罪の認識であったら、笑っては済まされなかっただろう。人間の行動が一定のルールに従っているかを判断するAIの全自動化には、一定のリスクも潜んでいる。古代ギリシャの哲学者プラトンは、民主政から衆愚政治が生まれてしまうリスクに対して、「哲人政治」という概念を唱えた。私心がなく、公平な判断ができる「哲人」を王として統治を行わせることで、優れた政治が実現できると考えたのである。プラトンは実際に「哲人王」となる人物を育てようとしたが、この試みは失敗に終わり、哲人政治も実現されることはなかった。しかし高度なAIを開発し、それに「哲人王」のような役割を負わせることができたら？　機械ゆえに私心がなく、教えられた通りの公平な判断ができるAIは、プラトンが夢見た哲人政治を現実のものとするかもしれない。』

ヒトが行っているミスよりAIが行うミスの方が少なくなる未来はそう遠くないうちに確実にやってくる。だが、そのミスの責任を「誰」かにとらせないとヒトビトが納得しないので要は感情論的な問題をどうするか？だけなのだ。

人間を審査するAIの登場で「不正受給」はなくなるかもしれない
だが、それは本当に歓迎すべきなのか
https://gendai.ismedia.jp/articles/-/68268