5/30 英国経済誌 The Economist より

VRヘッドセットをつくることで知られるパルマー・ラッキーは、５月２６日世界に向けて”警告”を発しました。

YouTubeが、五毛党（ごもうとう。中華人民共和国における中国共産党配下のインターネット世論誘導集団を指すネットスラング）に関するコメントを削除していたのです。

「一体、グーグル（YouTubeの親会社）の誰が、アメリカ人によるプラットフォーム上の、アメリカ人による動画内での、アメリカ人によるコメントを、検閲するなんてことを決定したんだ？」

とラッキー氏はTwitterで呟きました。

”この現象”に気づいたのは、ラッキー氏が初めてではありませんでしたが、彼の影響力をきっかけにして、右派の政治家は反応しました。

共和党員のTed Cruzは「非常に憂慮すべき事態だ」と話し、YouTube側に対して

「なぜ、Googleは中国共産党の代わりに”検閲”をしているのか」と問いました。

また共和党員のJim Banksは、Google CEOのピチャイ氏に対して抗議文書を送りました。

Googleは、「五毛党や中国共産党に関するYouTubeコメントを削除したのは、なんらかの”エラー”だった。今は既に解消されている」とコメント。

YouTubeの検閲システムは自動化されており、

その過程で”適切な文脈を考慮することができず、その結果、誤ったコメント削除を行ってしまった"、というのです。

しかし、自動システムは一体”何の文脈”を”なぜ”読み誤ってしまったのか、それらについての説明は、グーグルからなされないままです。

ネット上では様々な”陰謀論”が飛び交っています。

例えば「YouTube内部に侵入した中国人スパイが、YouTubeの検閲システムを操作したのでは」という考えは、その行為により、自らの存在を露呈する結果ともなりかねないため、信憑性は低いです。

また、「Googleが中国共産党から賄賂を受け取り、意図をもってやっているのではないか」という考えも、現在のアメリカ政府と中国政府の悪化する関係性を考慮すると、Googleがそのような”リスク”をわざわざとることも可能性は低いでしょう。（アメリカ政府からの影響の方が明らかにGoogleにとっては命取りであるため）

可能性が高いのは、Googleが検閲のための自動システムとして使用する「マシーンラーニング（機械学習）」との関連性です。

この機械学習は、特定の人間からの意図的な介入を無視し、プラットフォーム上で交わされる人々のコミュニケーションに基づいて、自動的に検閲を行っていきます。

この性質と、そのソフトウェアが有する複雑性とが混じり合い、人間には理解しがたい”エラー”が発生するというのです。

例えば、五毛党や中国共産党に関するYouTube上のコメントが、多数のユーザーから”ヘイトスピーチ”または”虚偽の流布”であるとして通報された場合、システムは自動的にそれらのコメントの削除を行います。

つまり、あくまで健全な政治的な議論がYouTubeコメント上で交わされていたとしても、このような結果になることが十分あるということです。

Googleはこれを否定する一方で、明確な「答え」を出していません。

また、Google側のミスである可能性もあります。

「機械学習」システムは、物事をうまく理解するために”文脈”を与えられる必要があります。

Googleは、これらの作業を外注している可能性が高く、その外注先の業者が「五毛党や中国共産党」などのワードを、グーグルガイドライン違反として、システムに記憶させたのかもしれません。（そしてGoogleはそれをチェックしていなかった）

これに関しても、Googleはコメントを出していません。

このような複雑極まりない自動システムは、確かに将来改善されうるかもしれませんが、そのプロセスが不透明であることには変わりません。

「機械学習システム」が、中国に関する政治的ワードを検閲してしまうような事態になるのであれば、将来的に（誰も気がつかないまま）同じような現象が起きても不思議ではありません。

Googleがこの”いたちごっこ”に勝利する唯一の方法は、YouTube上のコメントシステムを一切削除してしまうことです。

もしくは、莫大なコストを負担して人間に検閲をさせることです。

そのどちらの方法も、現実的では無いでしょう。

もしくは、右派政治家たちの手によりGoogle帝国が崩壊の道を歩むのも遠くは無いのかもしれません。

ーーーーーーーーーーーーーーーーーー

今回はYouTubeと中国の話でした。

確かに、現在のアメリカと中国の緊張関係を鑑みるとセンシティブな話題であるのは理解できますが、

YouTubeはあくまでも企業による広告によって成り立つエンターテイメントの場なので、政治的な話題が避けられてしまうのは、ある程度仕方のないことなのかな、とも思います。

「政治」と「商売」は、出来る限り切り離して考えるべきですよね。

一方で、「機械学習」によるエラーである、という説には十分共感します。

私はAmazonさんを販売業者側として利用させてもらっていますが、AIによるエラー（人間が見たらどう考えてもおかしい判断）というのは、本当にしょっちゅう起こります。苦笑

まだまだ進化の途上にあるものだと思うので、仕方ないことなのでしょうが。

ロボットと人間の共生も今後の大きなテーマとなっていきそうですね。

それでは、本日もマネークリップをポケットに入れて散歩に行ってまいります。

最後までお読みいただき誠にありがとうございます。

引き続きよろしくお願いいたします。

本日のマネークリップ