顔認証技術がもたらす恩恵とリスクについての認識が世界中で広がっています。スマートフォンのロック解除、飛行機への搭乗、公共サービスへのオンラインアクセスなどその利用が広がる一方で、顔認証技術にはプライバシーを損なう、人を誤認する、体系的な人種差別につながる、監視インフラへの貢献といった要素も考えられるため、米国とEUなどでは被害を防ぐために顔認識技術の利用を禁止する事例もでてきました。一方でパンデミックにより非接触型の顔認証技術の利用が加速する地域もあり、顔認識技術の利用について明確なグローバル・ガバナンスの枠組みの整備が急務となっています。

2019年4月、世界経済フォーラム第四次産業革命センターは「顔認証における責任ある制限」プロジェクトを立ち上げました。昨日（12月14日）には最新の活動成果として、白書「顔認証における責任のある制限、フロー管理のユースケース（Responsible Limits on Facial Recognition, UseCase: flow management）」を発表し、成田国際空港による自己評価調査票を用いた検証結果など、顔認識技術の責任ある利用を確かなものとするための実行可能なフレームワークを提示しています。

顔認証技術がもたらす恩恵と脅威

顔認証とは、個人の顔の輪郭に基づいてパターンを比較・分析することで、個人を識別・検証する技術です。この技術により、多くの社会的に有益な利用方法が生み出されていますが、その多くは、スマートフォンのロック解除、飛行機への搭乗、公共サービスへのオンラインによるアクセスなどに見られるように、認証と本人確認のプロセスを強化することにより実現しています。この技術は、近年著しい進歩を遂げており、最も効率的な顔認証システムは2010年には72%という精度スコアでしたが、現在では95%を簡単に超えるようになっています。そして顔認証システムの改善は、この技術の市場を2019年の32億ドルから2024年には70億ドルに押し上げると予想されています。

一方で、顔認証技術に対する世間の懸念は高まっています。表現の自由、集会・結社の自由といった市民的自由に脅威をもたらし、必要な場合に備えて情報を収集して保存する技術がリアルタイムで人々を積極的に監視する技術へと変貌しつつあるということが特に懸念されています。実際、一部の小売業者が予告や同意なしにこの技術を使用していたり、生徒を監視するためにこの技術を導入する教育機関が増加したり、より広範な例ではバイオメトリクスのデータ侵害や個人データを利用してユーザーに許可を求めずに顔認証システムを開発したりしていたケースも報告されました。

倫理的な懸念も表面化しています。最近の研究では、顔認識は人口統計学的特性に基づいて異なる性能を発揮し、不当に偏ってしまう可能性があることが示されています。原因として、システムの精度と性能の両方が肌の色に影響され、個人の誤認識につながる可能性があることがわかっています。さらにシステムによっては、性別、年齢、身長、眼鏡、ヘッドスカーフなども精度とパフォーマンスに影響を与える可能性があります。リアルタイムの法執行のシナリオで使用される場合、これは誤認識のリスクを高め、重大な安全上の懸念につながる可能性があります。

「責任ある使用」を担保する枠組みの開発

顔認証技術の責任ある使用はどのようにすれば達成できるのでしょう？この問いの答えとして、エビデンスに基づく、マルチステークホルダーのアプローチを通じて共同で設計されたガバナンスの枠組みの開発が求められています。私たちは、飛行機に搭乗する乗客への顔認証技術の利用に焦点を当て、航空会社が責任を持って顔認証技術を活用することを支援する実装を見据えたフレームワークを設計しました。

このフレームワークは、交通・運輸業界の主要プレーヤーである成田空港、パリ空港（GroupeADP）、SNCF（フランスの国営鉄道会社）、大手テック企業の日本電気株式会社（NEC）、アイデミア（IDEMIA）、さらに日本、フランス、EUの政策担当者などと共同で設計されました。

今回の白書は4章から成り、第1章の成田国際空港のユースケースではNECと共同実施した自己評価調査票のテスト結果が詳述されています。第2章ではAFNOR Certificationと共同設計した監査枠組みが紹介され、枠組みの機能、方向性、様々な利用法、構造が詳述されています。第3章は認証スキームの目的、利点とプロセスを説明しています。最終章では、フロー管理への顔認証技術の使用が信頼に値すると実証するために業界関係者が完遂しなければならない行程が、原則から認証発行までの段階的なプロセスとして提示されています。

第2弾白書（2020年12月14日）

第1弾白書（2020年3月2日）

私たちは、この2つの白書が顔認証技術の責任ある利用を目指す組織の一助となることを確信しています。両白書には導入に向けた確認すべき事項（行動原則、ベストプラクティス、自己評価調査票、監査枠組み）と、認証を取得するために必要なスキームが提示されています。さらなる議論や先行テストは今現在も進行中です。今後とも地方、政府、国際レベルで、顔認証技術についての対話を促していきます。

執筆
世界経済フォーラム第四次産業革命日本センター
秋元一郎（フェロー、日本電気株式会社　シニアマネージャー）
井上裕介（フェロー）

企画
ティルグナー順子（広報）
大原有貴（インターン）