Misreading Chat, 今週は向井が Go の並列性バグの調査、森田が顔認識アルゴリズムについて話ました。

顔認識への視線

顔認識テクノロジーをめぐる報道をいくつか紹介してみたいと思います。

森田が最初に目に止めたのは今年1月の報道でした。ACLU という団体が、AWS の API が多くの政治家の顔写真を誤判定したと報じたのです。AWS はconfidence levelも見ろと反論しました。

実はその一ヶ月前、 Microsoft は「顔認識テクノロジーの利用は規制されるべき」という声明を出していました。規制には消極的なテクノロジー業界では異例と注目を集めました。ACLU の調査はこうした発言に触発されたものなのでしょうか。

こうした動向や自社への報道をうけ, AWS も規制への支持を表明したのが2月です。

報道は続きます。米国内外での政府や自治体による顔認識テクノロジへの批判。アメリカ人の行政への不信感がよくあらわれています。

中でも大きな注目を集めたのは中国ウイグル地区での顔認識テクノロジー活用事例でした。ハイテク権威主義国家である中国が監視社会化を強めている、という報道は人々のステレオタイプを刺激したようです。

そして批判の矛先が再びテクノロジ産業に戻ってきたのが先月。高精度を誇るそのテクノロジはどこからデータをもってきたのか、許可は得ているのかと批判の声があがります。インターネットのスクレイピングは想像の範囲ですが、中には構内に設置した webcam からのデータをラベルづけして公開データセットとしている大学もあり、注目を集めました。批判をうけいくつかのデータセットは非公開となりました。

こうした批判のきっかけとなったのが（アメリカではなく）ドイツの活動家による言説だという点には時代を感じます。

森田もナンバープレートの誤判定によりまったくいわれのない罰金を払ったことがあるので、こうしたテクノロジへの不信には共感があります。機械学習のもつ統計的な性質や不確定性を運用する側の人間が正しく扱えないためにおこる現象だと理解していますが、それをざっくりテクノロジーによる人間性の侵略とみなすのはまあ、近似としてはあってる気がしますね。

リンク紹介

実際にシステム論文を書いている学生の方がその苦労を文章にされています。Episode 72 で紹介した論文のあとに読むと趣がありますね。我々野次馬はこうしたアカデミアが重ねた苦労の上澄みをありがたく拝読しているのだと実感できるいい話でした。

お手紙紹介

これでも歯に絹は着せてる方です。

ありがとうございます。いつもその場で improvise してます。

さっぱりわからないことをなるほどわかったと思うのが executive の素養というものです・・・というのはでたらめですが、アイデアには様々な理解の段階があり、どこで腑に落ちるかは人と場合によるなあといつも思います。

できれば深い理解をしたいものですが、数学とか深く理解ができる気がしないので表面的にやってくぞ！ではまた来週。