「偽造人間（Conterfeit People）」。哲学者のダニエル・デネットが、この記事で使った言葉です。AIの進歩が生みつつある、対話するだけでは人との違いが分からない存在のことをそう呼んでいます。

同氏は偽造人間の危険性に警鐘を鳴らし、「人類史上最も危険な人工物であり、経済だけでなく人間の自由そのものを破壊する能力がある」（ChatGPT訳を修正）とまで書きました。政治・経済面でパワフルな人々・企業・政府の利用を念頭に、「（偽装人間は）我々を騙し、困惑させ、抗いがたい恐怖と不安を悪用することで、自身の隷属を受け入れさせるだろう」（同）とも。

この言葉からの連想で思いついたのが、本稿のタイトルです。ちょうど仕事で仮想現実（VR：Virtual Reality）や拡張現実（AR：Artificial Reality）のことを書いたりしていたせいでしょう。偽造現実。なんだか小説のタイトルみたいですね。いわゆるディープフェイクのことを、こう呼んでもいいかもしれません。

彼の記事を読む限り、デネット氏の懸念はディープフェイク全般を対象にすると考えることができます。私がこの言葉を知ったFTの記事の日本語訳も同様な話題についてです。

いずれの記事も、ディープフェイクの蔓延に対して同じ対策を提案しています。いわく、紙幣の偽造を防ぐ手段に学ぶべきであると。AIが「偽造」した情報には、AI製とわかる電子透かしを入れるとか、法律でそれを義務付けようとか、違反したらものすごい罰則を科するとか。

私はこの方法に大いに疑問を持っています。あ、ディープフェイクの抑止に効果がないと言いたいわけではありません。AIを使って作る偽情報が、氷山の一角にすぎないことを心配しています。問題の全体像を見渡すと、この対策では到底太刀打ちできないと思うのです。

諸悪の根源は、現実の偽造はAIの専売特許とは限らないことにあります。その証拠は旧ツイッターをちょっと眺めるだけで十分です。明らかな嘘や事実誤認がいくらでも見つかります。その出所がAIだけではないことは、アカウントの間でしょっちゅう喧嘩が始まることからも明白です。ひょっとしたら、それすらもいずれはAI同士のいさかいになるのかもしれませんが。

人間発の偽造現実には、偽札に対抗するような手段が全く通用しません。日本円であれば日本銀行が透かしを入れれば済みます。ところが人が発信した情報に対しては、電子透かしの技術がどんなに発達したとしても、そもそも内容の真正性を判定する基準なり権威なりがどこにもないのです。もちろん、あまりにもひどい嘘や誹謗中傷にはそれなりの対策が存在しますが、そこをかいくぐる事例が山ほどあるのはSNSの惨状から明らかです。

発信者が嘘をついているか否かを判定する技術が実現したらどうでしょうか。それでも全く足りません。嘘の情報を発信している人は、必ずしも自分では嘘と思っていないからです。

さらに言えば、世の中には真偽を決定できない主張が溢れんばかりにあります。「ウクライナは自国の領土だ」とするロシアの主張は、国境が人為的なものである以上、嘘とも本当とも言えないのは、この原稿にも書いた通りです（私がこの意見に賛同しているわけではありません）。『サピエンス全史』が指摘するように、「人類の共通の想像の中以外には、国民も、お金も、人権も、法律も、正義も存在しない」ので、その領分に属する命題は、一人一人の常識や信念によって真実かどうかが180度変わります。

デネット氏は偽造人間の怖さの根源を、「核爆弾とは異なり、これらの武器（偽造人間）は自己複製できる」（ChatGPT訳を修正）ことと表現します。リチャード・ドーキンス著の『利己的な遺伝子』を引いて、「最も賢く適応力がある者が、生き残るだけでなく増殖する」（同）のだと。

人間が生み出す偽造現実も同じです。なぜなら、それぞれの偽造例には中核をなすアイデアがあり、そのアイデアはドーキンス氏が先の著書で提唱した「ミーム」そのものだからです。偽造現実の中心には、「広い意味で模倣と呼びうる過程を媒介として、脳から脳へ渡り歩く」自己複製子があるのです。

実際、SNSの上では、適応力の高いネットミームが大いに繁栄しています。米国の大統領選を左右するほどの力を秘めた「ディープステート（DS）」などの陰謀論はもちろん、「セクシー田中さん」の件で、事の発端を作った脚本家を非難する声が一挙に拡大したのも、ミームの増殖といえるのかもしれません。

偽造現実から身を守るためには一体どうすればいいのでしょうか。私に答えはわかりません。実は秘策があったとしても、ここに書くわけにはいきません。私の現実は、あなたの偽装現実かもしれないので。