※このインタビューは2024年3月11日に収録されました

私たちのプライバシーを社会全体で守る動きと共に、表現の自由についても考える必要性が高まってきています。

今回はポーランドを拠点とする法律事務所GP Partnersでパートナーを務めるマチェさんに、これまでのデータ保護法の歴史と表現の自由を含めた権利についての考え方についてお伺いしました。

コンテンツの良し悪しを判断するための線引き

Maciej: そうですね。もう一つ追加でお伝えしたいことがあります。私たちは何か新しいことに取り組んで効果を高めていくために、今までになかったことを考えていく必要があります。それは、暫定的なコンテンツの差し止め要求が参考になると思います。

Meta社については、これまでの我々の要求に従っていません。ポーランドでは私的な執行を実施することは一般的ではないですが、私たちはRyszard Piotrowski氏という素晴らしい法律家を雇って、今回の件について争っています。

彼は素晴らしい人物です。我々が直面している政治的な判断を歪めるような行為に対して、法的な対応を進めていきたいと思います。

Kohei: 非常に勉強になりました。教えて頂きありがとうございます。最後はAIについてお伺いしたいと思います。欧州では生成AIを含めた新しい技術に対して、プライバシーやデータ保護の観点から新しい動きが出てきていると思います。

こういったAIとプライバシーについては、未来に向けて何か新しい問題が起きているのでしょうか？

Maciej: そうですね。個人の自由とは私たちの憲法で定められた権利です。個人ではなく、何かの意思決定を中央依存することは非常に罪深いことです。まだ実現していませんが、AIの発展によってこれから中央集権化が起こる可能性があります。AIによって情報や力が集中することは罪深いことなのです。

AIによって中央集権が進むのは、全世界で自由なビジネス環境とデジタル環境を掲げたインターネットが当たり前になりつつあるからです。ウェブ上 (蜘蛛の巣と関連しています）で公開されている世界中の情報を集めることがより優位な環境を設計することに繋がっています。まさに今そういった世界へと変わりつつあるのです。

AIがより浸透するようになると、私たちの意思決定について自動化が加速的に進んでいくことになります。ウォール・ストリートで活動している人たちを例に、それぞれが主体となりルールを決めていくようになります。

バイオハザードシリーズが好きな方は、ストーリーで登場するアンブレラコーポレーションを想像してみてください。（私がミラジョボビッチのファンであることも理由です） 

（動画：GLOBAL WARMING, OVERPOPULATION - Dr Isaacs end the world scene (HD)）

企業内での意思決定手段として、人工知能が当たり前になっていくと思います。プランデミック下でそうだったように、これまでの目に見える形の意思決定から、目に見えない方法によって私たちの意思決定に大きな影響を及ぼすことになっていくと思います。

ただ、我々が日々行っていることを取って代わっていくとなると、現在の私たちの仕事は意味の無いものへと変わっていくことになります。人工知能が私たちが普段行っているような処理を行うことは難しいことではありません。

人工知能の発展によって再来する監視社会への懸念

人工知能が持つ可能性への期待が集まる一方で、広く私たちの行動が検閲されるリスクは残っています。現在の米国中央情報局（CIA）のような組織が、人工知能を利用することによって、米国中央人工知能局（CAIA）へと変化していくかもしれません。

こういった未来の予測に対して、丁度昨年9月20日にポーランドデータ保護監督局主催で "Forum New Technology" が開催され、新技術開発とデータ保護やプライバシーをテーマにポーランドテクノロジー法曹協会の方と今後の課題について話をしてきました。

私からは人工知能による検閲に対する懸念について問題提起をさせて頂きました。一つ面白い例を紹介すると、TwitterがAPIサービスを無料企業アカウントに対しては公開することを止め、Facebook等への情報提供を制限することを発表しています。

これまでは監視活動があからさまに行われていました。新しい技術進展が刻一刻と進んでいく中で、これまで携帯電話を通したスパイ活動に代表されるようなケースに限らず、スマートデバイスやコネクテッド家電のようなものもスパイ活動で利用されるケースも出てきています。私たちの生活が特定できるところまで進展してきているのです。

人工知能が抱える問題点については、まず非常に有能な知能を抱えていることによって、ポジティブな側面とネガティブな側面が交互に発生するだろうということです。時には、人工知能を携えるCCTVを導入したプログラムの誤認検知よって刑務所にいくことになるケースも出てくると思います。

ポーランドでは、このようなジョークが良く引き合いに出されます。ある紳士は立ちながら、キリンを描写しています。”政府は愚かで、常軌を逸したルールを制定する”と彼は言います。

そこに二人のそれぞれ犬を連れた警察官がやってきてお互いに話し始めます。”彼はすぐに逮捕してしまおう。国が求めることに対して犯罪を犯す可能性があるかもしないし、国秘密を暴露してしまうかもしれない”

このように、いくらテクノロジーが発展したとしても利用する側の知識や考え方が成熟しなければ上手く機能することはありません。（政府を批判しただけで逮捕してしまう）

いくらお金があったとしても、必要な知見に辿り着くことは非常に難しく、顔認識技術についても同様のことが考えられます。

テクノロジー利用者にこそ求められる倫理的なリテラシー

私たちの考え方をコントロールするようなサービスもこれから広く誕生することになるでしょう。今話題になっているニューラリンクが広く実現されれば、外科医の仲介なく患者が考えていることや感じていることがわかるようになるだろうと思います。

既にテクノロジーは開発されていて、Nita A. Farahany氏の著書 “The Battle for Your Brain” では、その詳細について書かれています。彼女はデューク大学に所属しており、彼女が書いた本はコンセプトレベルから理解する上で非常に参考になりました。

広い意味では、人工知能が発展していくことを恐れている側面もあります。一方、我々にとって教育的な学びも多くあります。私たちが何を考えているのか、そして誰と一緒に考えているのかについて思考し、実際にコントロールできるものであるのかについても思考します。

ソーシャルスコアリングシステムはわかりやすい実応用ケースですね。中央銀行のデジタル通貨もその一例かもしれません。BIS（国際決済銀行）でジェネラルマネージャーを務めるアグスティン・カルステンス氏もデジタル通貨が監視につながるのではないかと懸念していました。

　　　（動画：Innovation and the future of the monetary system）

非常に興味深い点として、デジタル通貨を “統合されたプログラム可能なお金” と呼んでいることです。デジタル通貨が普及していけば、特定の人が利用できないように制限することもできるようになります。我々のお金の流れを監視するだけでなく、抑圧することもできるようになるのです。

中央銀行デジタル通貨を政治的に導入するか否かの決定については、”社会的に受容されるか否かを見極める必要がある” ということで、現在の匿名化の課題についても言及されています。

まだまだ多くの課題が残っていて、サイバーセキュリティや武器化については重要なテーマの一つです。私たちの社会がデジタル空間に繋がり、自動化が進んでいくほどリスクが大きくなっていきます。

運用過程の欠陥によって引き起こされる情報技術のリスクがより高まっていくことになります。単一管理や障害点の問題は、同じように見えて異なる課題を抱えています。 

もし今後自動化を推し進めるのであれば、オンオフのスイッチを設置する必要性についても議論が進んでいます。欧州域内では、欧州委員会が自動車に対して遠隔での切り替えができるスイッチを検討しています。私が過去に聞いたことがある動画の中でも、このようなケースについての言及がありました。

“Leave the World Behind”というタイトルだったと思います。 このタイトルの中で、自動運転車がサイバー攻撃を受けて、相互に衝突するシーンがあります。また、“Blackout” という本では、サイバー攻撃によって運用システムにどのような影響があるのかを紹介しています。

　　　　　　　　　（動画：Leave The World Behind）

とにかく、我々はAIの発展に向けて大きな課題を抱えており、こういった問題への対処や脅威をポジティブなものとして捉えて進んでいくことが求められます。

同時に、リスクとして考えられるものについては現実世界で明確にしていくことも必要です。私は最悪のケースが起こることは少ないだろうと非常に楽観的に考えています。

私たちはそれぞれの世界を同時に生きています。1984年にジョージオーウェルが描いた世界よりも新しい未来が待っていると思います。

Kohei: これから数十年私たちはAIの発展の後押しと課題に向き合っていくことが必要になると思います。重要な示唆をありがとうございました。最後に視聴者の方に向けて、メッセージをお願いしてもよろしいでしょうか？

マチェさんのこれまでの経験は非常に参考になるものですし、重要な観点でお話し頂いたかと思います。ぜひメッセージを皆様に届けたいと思うので、お願いします。

これからのテクノロジー社会で声を上げていく必要性とは

Maciej: わかりました。一つお伝えしたいことがあります。皆さんが信じるかどうかはわかりませんし、日々の活動に影響を及ぼすかどうかもわかりませんが、今現在の皆さんの活動に大きな変化が起こりうる時代に来ていると思います。

これは私たちが引き起こした結果ではなく、私たちがこれから実現していくべき義務であり、新しい価値を生み出していくために求められる明確な信念であります。ただ対話して話をするだけでなく、実際に行動していくことがより重要になります。

私たちが声を上げることは、最も重要な方法の一つです。声に出して形にしていくことは重要な役割を持っているのです。そして、学びを深めて考えていくことも大切な要素です。

私自身も日々新しいことを学びながら、とてもエキサイティングな日常を送っています。法律とテクノロジーの交わりは非常に面白いですし、テクノロジーの側に立って法律を見ていくことも必要になります。

私はサイエンスフィクションがとても好きなので、テクノロジーについて学ぶことはとても楽しいです。クライアントを始め、幅広い方々から新しい気づきや知見を学ぶことは非常に大切なことになると思います。

Kohei: マチェさん。ありがとうございました。本日は非常に重要なテーマについてお話しできて光栄でした。とても勉強になるインタビューでした。 ご参加いただきありがとうございました。 

Maciej: ありがとうございます。宏平さん。プライバシーバイデザインの取り組みが上手くいくように祈っています。本日は素晴らしい機会にご紹介いただきありがとうございました。お話しできて非常に良かったです。

Kohei: ありがとうございます。

Interviewer, Translation and Edit　栗原宏平
Headline Image template author 　山下夏姫