当ブログの筆者による最新刊『悪のＡＩ論　あなたはここまで支配されている』（朝日新書）が２月１３日に刊行されるのに合わせて、「序章」と「目次」を公開します。

「ＡＩ社会」の到来は、「ＡＩリスク社会」の到来でもあります。

ＡＩのもたらすメリットの一方で、その実装の仕方次第、使い方次第では、様々な分野で大きなリスクをもたらす可能性が明らかになっています。

監視、偏見・差別、安全保障、セキュリティ――

そのリスクへの懸念の声は、人権擁護グループや研究者だけでなく、ＡＩ開発の中心であるマイクロソフトやグーグルといったＩＴ企業からも上がっています。

ＡＩをめぐって今、何が起きているのか。「ＡＩリスク」とは何か。

『悪のＡＩ論』の「序章」では、ＳＦ映画「ターミネーター」にも登場したＡＩ「スカイネット」などをキーワードに、現状を概観しています。

また２月２６日（火）夜には、「ＡＩリスク社会を生き抜くリテラシー」と題したトークイベントも予定しています。

慶應義塾大学理工学部教授で『人工知能と社会　2025年の未来予想』共著者の栗原聡さん、ジャーナリスト／メディア・アクティビスト、早稲田大学文学学術院教授で『情報戦争を生き抜く』著者の津田大介さん、慶應義塾大学法科大学院教授で『おそろしいビッグデータ』著者の山本龍彦さんと筆者の４人が登壇します。

――――――――――――――――――――――――――

悪のＡＩ論　あなたはここまで支配されている

序章　三つの「スカイネット」の影

アーノルド・シュワルツェネッガー主演のＳＦ映画「ターミネーター」が描く２０２９年の未来には、アンドロイド軍団によって人類を壊滅させようとする人工知能（ＡＩ）「スカイネット」が登場する。

だが、現実世界にある二つの「スカイネット」は、もっと目立たない形で、人間を見つめている。

■　■　■

「私はジャーナリストだ。テロリストではない」

アフマド・ザイダン氏は２０１５年５月、自らの署名記事の中で、そう抗議の声を上げた。

中東・カタールのメディア「アルジャジーラ」のパキスタン・イスラマバード支局長だったザイダン氏はこの時、世界の注目を集める存在となっていた。

米国の情報機関である国家安全保障局（ＮＳＡ）が、ザイダン氏を「アルカイダのメンバーであり、ムスリム同胞団のメンバー」と認定していたことが明らかになったためだ。

米中央情報局（ＣＩＡ）の元職員、エドワード・スノーデン氏が暴露した大量の秘密文書の中に、「スカイネット」と名付けられたシステムの説明文書があった。

「スカイネット」は、ＡＩを使ったＮＳＡのシステムだ。５５００万人のパキスタン人の携帯電話のメタデータ（通信・通話記録）をＡＩで分析し、テロリストの連絡係をあぶり出す。暴露文書にはそう説明されていた。

そして文書の中には、その疑いが最も高い人物として、ザイダン氏が写真とともに掲載されていたのだ。

パキスタンでは、米国の無人攻撃機、ドローンによるテロリスト掃討が続いていた。ＮＳＡによるテロリスト認定は、そのドローン攻撃の標的となる可能性を示す。

しかも、ＮＳＡ長官、ＣＩＡ長官を歴任したマイケル・ヘイデン氏は、２０１４年のシンポジウムでこう公言しているのだ。

「我々はメタデータに基づいて対象を殺害する」

「スカイネット」はその照準を、ザイダン氏に合わせていた。

■　■　■

中国全土に１億台を超す監視カメラが設置され、警察官らがネットにつながったカメラ付きメガネ「スマートグラス」を着用する。

そしてＡＩによる顔認識技術を使い、リアルタイムで”ブラックリスト”のデータベースと照合して、逃亡中の犯罪の容疑者らを即座に逮捕する。

中国で展開されるＡＩを使った大規模監視ネットワークもまた、「スカイネット（天網）」と呼ばれている。

８億人を超す世界最大のネット人口のビッグデータを武器に、２０３０年に世界最先端のＡＩ大国を目指す。

その中国でＡＩは、監視社会の象徴としても目を光らせている。

■　■　■

海外のアダルト動画サイトの画面には、日本で知られた芸能人の名前も並ぶ。

ポルノ動画だが、その顔は女優や歌手といったセレブリティ。ＡＩを使った「ディープフェイクス」と呼ばれるフェイクポルノだ。

「最先端のセレブのポルノをつくったよ」

２０１７年秋、米国の掲示板サイト「レディット」で、そんな書き込みをしている人物がいた。

この人物は「ディープフェイクス」と名乗っていた。

「ディープフェイクス」の投稿のタイトルには、ハリウッドの有名女優らの名前が次々と並ぶ。

映画「ワンダーウーマン」の主演女優「ガル・ガドット」。「ハリー・ポッター」の「エマ・ワトソン」。「ゴースト・イン・ザ・シェル」の「スカーレット・ヨハンソン」。ドラマ「ゲーム・オブ・スローンズ」の「メイジー・ウィリアムズ」。

投稿には赤い文字で「職場での閲覧注意」の警告マークがついている。

それらのリンクの先には、画像共有サイトなどに投稿された30秒～１分程度のハードコアポルノ動画があった。

ポルノ動画に映し出されているのは、いずれも投稿のタイトルにある有名女優たちのように見える。

だがそれは、女優たちの出演作品の一場面などではなかった。

「ディープフェイクス」はこれらのポルノ動画を「つくった」のだという。

ポルノ動画の女優たちの顔を、有名女優の顔に差し替えて、あたかも有名女優たちがポルノに出演しているかのような新たなフェイク動画をつくりだしたのだ、と。

そこで利用されていたのが、オープンソースのＡＩのツールだった。

ポルノ女優による動画と、有名女優の顔の画像をＡＩに学習させ、それぞれの特徴を抽出した上で、顔を差し替える――。

２０１８年１月になると、このフェイク動画づくりの一連の作業を、専門知識がなくても簡単にできるパソコン用アプリ「フェイクアップ」が登場する。

元動画からのＡＩへの学習、さらにフェイク動画の作成を、それぞれボタン一つでできる手軽さ。フェイク動画「ディープフェイクス」は一気に拡散し、それとともに、リベンジポルノにも使われるなど、社会問題化し、法規制の議論にまで発展していく。

■　■　■

人間には思い込みや偏見がある。だがＡＩの判断ならば、早くて正確で中立――。

ソフトバンクなど、日本の企業でも採用に取り入れられ始めたＡＩには、そんな期待がかかっている。だがロイターは、米ネット通販大手のアマゾンが、人材採用のためのＡＩ開発を断念した、と報じた。

その理由は、ＡＩが「女性嫌い」だったからだ。

過去１０年間の履歴書をＡＩに学習させたところ、その大半が男性のものだったため、男性を優位に評価し、略歴に「女性」に関連する単語があるだけで評価を下げてしまった、という。

ＡＩにも、ぬぐいがたい偏見や差別が入り込んでいた。

■　■　■

あなたは喫煙者か。飲酒はするか。交際相手はいるか――これらは７割前後の確率でわかる。

キリスト教徒かイスラム教徒か。民主党支持か共和党支持か。ゲイかレズビアンか――８割前後の確率でわかる。さらに性別、そして白人か黒人か、なら９割以上の確率でわかる。

フェイスブックで「いいね！」とクリックした履歴データをたどり、ＡＩで分析していくと、そんなことまで予測できてしまう――。

英ケンブリッジ大学の研究チームによるそんな調査結果が、２０１３年４月の「米国科学アカデミー紀要（ＰＮＡＳ）」に発表された。

これと似た手法で、９０００万人近いフェイスブックユーザーのデータを収集し、ＡＩで分析した結果を、２０１６年の米大統領選挙でトランプ陣営の選挙戦に使ったとされるのが、選挙コンサルティング会社「ケンブリッジ・アナリティカ」だ。

フェイスブックのビッグデータとＡＩ。それがトランプ政権を生んだのか――。

そんな疑念が広がり、フェイスブックの創業者で最高経営責任者（ＣＥＯ）、マーク・ザッカーバーグ氏は上下両院の公聴会への出席を余儀なくされ、１００人の議員から１０時間にわたって質問を浴びせられる事態となった。

■　■　■

ＡＩ社会がやってきた。お掃除ロボットから囲碁や将棋のソフト、医療診断の支援まで。暮らしの様々な場面で、ＡＩを使ったサービスが広がり始めている。

そもそもＡＩとは何か？

知的なマシン、特に知的なコンピュータープログラムをつくる科学と工学のこと。人間の知能を理解するためにコンピューターを使う、同様の取り組みと関係がある。だがＡＩを、生物学的に観測可能な方法論に限定する必要はない。

５０年以上前に「人工知能（ＡＩ）」という言葉を生み出した第一人者、故ジョン・マッカーシー氏は、そんな風にＡＩを定義している。

まるで人間のような「知能」を感じさせる、賢いコンピューターの実現。

ＡＩ研究は、１９５０年代の黎明期、80年代の高まりに続いて、２０１０年代に入ると、画像処理プロセッサー（ＧＰＵ）を活用した深層学習（ディープラーニング）が飛躍的に進歩し、改めて脚光を浴びる。

ＡＩが急速に社会に普及していき、恩恵を受ける一方で、それが人間に不幸をもたらすのでは、という懸念も消えない。

「ターミネーター」の「スカイネット」のように人類を壊滅させる――そんなＡＩの脅威は、今のところは起きていない。

ただ、日常の風景を、時に不気味な色合いに変化させる「事件」を、次々と目にするようになってきた。

あなたが将来、犯罪をおかす可能性を予言するＡＩ。あなたを監視するＡＩ、そして差別するＡＩ。ヒトラーを肯定するＡＩ。夫婦の会話を盗み聞きするＡＩ。死亡事故を起こすＡＩ搭載の自動運転車。

法廷で、ソーシャルメディアで、家庭で、街中で。これらはすべて、すでに動き始めているＡＩだ。

ＡＩ社会をリードするのは、グーグルやアマゾンなどのＩＴの巨大企業だ。その強力で安価なＡＩサービスが、国防システムや犯罪対策にも利用されている。

検索履歴、購買履歴、「いいね」の履歴。さらにはスマートスピーカーとの会話のやりとり。それらのデータを巨大ＩＴ企業が支配し、ＡＩによって人々の趣味・嗜好などのプライバシーがむき出しにされていく。

２０１６年の米大統領選をめぐる「ケンブリッジ・アナリティカ」疑惑では、ＡＩの判定が、民主主義の手続きにまで入り込んでしまった可能性すら指摘される。

欧州連合（ＥＵ）は２０１８年５月にプライバシーデータ保護を大幅に強化した新法「ＧＤＰＲ」を施行。そんなデータ支配への対策を鮮明にする。

現実社会の中に、ＡＩはどのように浸透しているのか。グーグルやアマゾンのサービスの裏側で、ＡＩのやっていることは何か。

そして私たちの社会は、そんなＡＩを人間に牙をむく、「邪悪」なものにしないよう、制御していくことができるのか。

ＳＦの未来ではなく、すでに噴出し始めているＡＩをめぐるリアルな事件簿から、ＡＩ社会に開いた”落とし穴”の実像をさぐってみる。

――――――――――――――――――――――――――

［目次］

序章　三つの「スカイネット」の影

第１章　監視される――あなたはＡＩの目から逃げられない
最高のスコアだったのは／携帯電話の履歴を分析する／「テロリストのパターン」を洗い出す／「ターミネーター」が描いた世界／「テロリスト」認定の理由／私はジャーナリストだ／明白かつ差し迫った危険／メタデータで殺害する／キルリストから削除せよ／５度の空爆を生き延びる／命運を分けた判断／ＡＩへの異議申し立て／中国の「スカイネット」／テイラー・スウィフトと顔認識／日本の顔認識システム／４万人から４人を逮捕する／３００万台を超す監視カメラ／28人の議員を犯罪者と認識／アマゾン社員の反乱／１枚の画像から１００人の顔認識／ＦＢＩの顔写真データベース／手軽さと低コストのインパクト／「親子引き離し」とマイクロソフト／アレクサの「盗み聞き」／会話の履歴を確かめる／悪意ある音声を送る／ビッグブラザーが見ている

第２章　差別される――就職試験もローン審査もＡＩ次第？
「女性嫌い」で開発断念／ＡＩが面接をする／ベビーシッターの身元調査／中国の「社会信用システム」／「より客観的に、適正に」／動き始める「信用スコア」／医大入試の女子差別／表示されるネット広告の違い／オプラもセリーナも「男性」／自分の顔が認識されない／黒人を「ゴリラ」と誤認識／「監視に使うな」とベンチャーＣＥＯ／「マイノリティ・リポート」の現実味／「再犯予測」の精度とは？／犯罪発生地域を予測する／音声誤認識で数千人ビザ取り消しか／スマートスピーカーの聞き取り格差／なまりから出身地を判定／データによって差別的になる／アルゴリズムへの違和感

第３章　殺される――米ＩＴ大手が軍事協力
テクノロジーと戦争の歴史／ドローンの群れが襲撃する／「キラーロボット」への懸念／動き出す自律型兵器／グーグルＣＥＯへの手紙／米国防総省の「プロジェクト・メイブン」／「非攻撃用途の利用」／グーグルの「ＡＩ原則」／「邪悪になるな」の現在／１００億ドル国防クラウド／応札を止めよ／撤退を表明した理由／防衛大綱に盛り込む／「パトリオット」の誤射／自動運転車が歩行者をはねる／３６０度の動きを見回す／ドライバーがしていたこと／マスク氏が動画をツイートする／テスラ車のドライバー死亡事故／中国では清掃車に追突／住民たちが襲う／トヨタとソフトバンクの提携／自動運転のレベル／完全自動運転への不安感／テスラ車をハッキングする／画像認識を騙す

第４章　騙される――あなたの「ポルノ」が作られる
ネット掲示板が発信源／アプリが登場し、拡散する／リベンジポルノの波紋／女性芸能人の裁判例／ジャーナリストを標的にする／安全保障と民主主義／政党がフェイク動画を使う／有力上院議員たちの指摘／法規制への動きと懸念／「トランプ大統領はクソだ」／ＡＩが探知する／進化する画像合成／ＤＡＲＰＡの対策プロジェクト／ＡＩによる選挙キャンペーン／「マイクロターゲティング」を提供する／アプリを通じてデータ取得／ユーザーデータを分析する／フェイスブックからわかること／８兆円が消し飛ぶ／抱え続けたプライバシー問題／「デジタルゲリマンダー」の予言／「精度はよくなかった」／日本でも１０万人

第５章　ＡＩを「邪悪」にさせないために
ホーキング博士、最後の指摘／悲観論と楽観論／バイアスを可視化する／「笑顔」を見分ける／求められる「公平」とは何か？／修正の四つのオプション／「ＧＤＰＲ」が求める透明化／「人間中心のＡＩ」７原則／ＥＵの「ＡＩ倫理」／「開発は最大限自由に」／オバマ政権の報告書／「救命優先順位」から見える日本／文化的背景とユニバーサルな倫理／倫理綱領よりスキャンダル／国連で議論する「キラーロボット」／『一九八四年』だと気付く前に／アルゴリズムを監査する／現実の差別から目をそらすな

終章「21世紀の電気」の使い方
——–
■最新刊『悪のＡＩ論　あなたはここまで支配されている』（朝日新書、２月１３日発売）

■フェイクニュースの本当の怖さとは？『信じてはいけない　民主主義を壊すフェイクニュースの正体』

■デジタルメディア・リテラシーをまとめたダン・ギルモア著の『あなたがメディア　ソーシャル新時代の情報術』（拙訳）全文公開中