データ戦略の会社が考える「女子大卒は減点〜AmazonのAI採用は何が原因だったのか
先日、Amazonが2014年から利用していたAI採用エンジンを、2017年に停止していたというニュースがありました。
引用開始）ロイター通信の報道によると、2014年、アマゾンは就職希望者に対して1つ星から5つ星でランク付けをする自動システムの開発に着手した。しかし、このシステムが技術職において男性志願者を優遇していることが分かり、2017年に廃止した。
このAIツールは、アマゾンがそれまで10年間に渡って受け取ってきた履歴書のデータを元に訓練された。テクノロジー産業は男性優位分野であるため、履歴書の大部分は男性から送られてきたものだった。
システムは意図せずして、男性志願者を女性志願者よりも優先して選ぶように訓練されていた。報道によれば、「女性の」という言葉や、特定の女子大学の名前を含む履歴書を減点するようになっていた。アマゾンは、システムがこれらの条件を中立なものとして判断するように変更を加えたものの、プログラムが他のあらゆる分野において本当に性別に対する偏りがないか、自信を持てなくなったという。（引用終了
元記事のロイター（英語）はこちら:
https://www.reuters.com/article/us-amazon-com-jobs-automation-insight/amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK08G
AI採用の男性優遇は何故生じたのか、どうすれば良かったのか
人材難がより厳しくなる日本では、より良い人材を採用することと、退職を防ぐことはより重要な課題となりそうです。そうしたなかで、Human ResourceやPeople ManagementへのAI活用が注目されています（HR-Techとも呼ばれていますね）。
HR-Techの領域で特に問題になるのが学習データの収集方法です。機械学習のモデルを構築する際には学習データと呼ばれる過去のデータを準備し、学習データの特徴量と推定したい結果（採用であれば就職希望者のrating）を元にモデルの学習を行います。この時、推定された結果は学習データの傾向を反映するので、学習データ、つまり過去の採用データが男性優位になっていれば今回のように「Aiが男性優位の結果を示す」結果になります。
学習データにおけるbiasは常に考慮すべきポイントです。特にHR-Techの領域では、学習データが人事評価や個人のパフォーマンス評価となりやすく、こうしたデータは人によって判断をされることが多いため、客観的かつ科学的に正しくスコアリングすることが難しい領域です。なので、パフォーマンスを行動データや生体データから取得し判断するというアプローチはHR-Techの分野では重要だと思います。例えば工場のラインであれば生産性や業務スピードをデータから自動的に把握することも可能ですが、こうしたアプローチは全ての業種業態ですぐに可能になるものではありません。
garbage-in, garbage-out (無意味なものを入れても無意味な結果が返ってくる) の原則の通り、データ分析・AIの技術に加えて、この場合であればHuman ResourceやPeople managementといった領域の知見を、設計段階から組み合わせ、データ分析を行う前にまず適切な「データ戦略」があるべきであった。そしてこうした間違いを、Amazonですら犯してしまうということではないでしょうか。
実はこうしたデータの問題によるgabage-in, gabage-outは、マーケティング、人事(HR-Tech), 教育(Ed-Tech)など、分野を問わず既に起きているということも、ハイプカーブでAIが幻滅期に入っていることとも関係がありそうです。
だからこそ、AIを使って実際にビジネスにインパクトを生み出すには、業務知識、データ分析、システム実装の全てを持ったチームを編成するがあるのです。今回のAmazonのケースであれば、優れた人事担当者が、あるべき人事制度の定義という専門性を持って適切なデータサイエンティストや統計家としっかり対話ができていれば避けられたはずの問題だと思います。Amazonであればおそらくこうした人材は十分に確保できているでしょうから、その「対話」が難しいということは、今回のケースでも示されたことではないでしょうか。
---
DataStrategyへ相談したい方へ
DataStrategyでは、執筆、イベント登壇、取材、サービスの改善、アドバイザリーなどの相談を受け付けています。弊社へまずは相談だけでもしてみたい、一度話を聞いてみたいという方は twitter (@motohikotakeda) でDMして下さい。
・AI可能性診断 https://datastrategy.jp/aikanousei/
・弊社ウェブサイト https://datastrategy.jp
・資料請求 https://datastrategy.jp/document/
この記事が気に入ったらサポートをしてみませんか？