ちょうど一週間前の9月24日、新しいSNSとして『DYSTOPIA』のβ版がリリースされた。何でも、誹謗中傷が含まれる文章をAIが検閲し自動的に表現を変えてしまうといったSNSで、コンセプトは「誰も傷つかない」ということらしい。人を傷つけるのは何も直接的な誹謗中傷だけではないとも思うのだけれど、僕が面白いと思ったのはこのアプリの「検閲」システムの見せ方。不適切な内容の投稿をするとジョージ・オーウェルの『1984年』に登場するビッグ・ブラザーさながらのシステムが、有名な『BIG BROTHER IS WATCHING YOU（ビッグ・ブラザーはあなたを見ている）』と警告を発し、該当の文章を差し替えてしまうのだ。

ただ、現段階ではそこまで高精度の検閲がされているとは言えない。例文だと「死ねカス！」が「私の心中は今お祭り騒ぎですな！🏮」になるということだが（試してみたら確かにその表現に変換された）、現在のタイムラインは不自然な日本語というか、あまり見かけない言い回しの投稿で溢れている。おそらく、今は単語レベルで検閲をしている（文脈やまとまった言い回しなどは弾かれている）のだろう。

とはいえ、サービス自体は裏側にChat GPTを噛ませているとのことで、今後の学習によってはより自然で、検閲されているとも分からない表現が増えていくのかもしれない。もしそうなった際に導かれる未来はユートピアか、それともディストピアなのだろうか。ちょっと考えてみたいと思う。

使う言語が「世界の見え方」を決めている

僕らは普段、頭のなかで自由に思考をしていると思っているが、実際には「言葉」を思考に当てはめ、それらを組み合わせているだけとも言える。それこそ『1984年』に登場する「ニュースピーク」が良い例だろう。

ニュースピークは、何十、何百という単語をぎりぎりまで切り詰めて、語句の選択範囲を最小限にすることを目的にしている。例えば、冷たいといったことを示そうとするとき、僕らの言語体系であればそのまま「冷たい」だけでなく「寒い」とか「冷えてくる」とか「肌寒い」といったニュアンスをそれぞれに持たせることができる。しかし、ニュースピークで「冷たい」はただ「冷たい（cold）」としか表現がない。さらに言えば、接頭辞の「un-」をつければ「uncold（暖かい）」を意味し、「plus-」をつければ「pluscold（超寒い = very cold）」、さらに言えば「doubleplus-」で「doublepluscold（倍超寒い = superlatively cold）」といった表現まで可能になってしまう。

いわゆる「ニュアンス」といった細やかな印象の違いは存在しないどころか、「反対語」や「類語」といった表現もニュースピークでは必要ない。だから『1984年』の世界には「ちょっと最近肌寒くなってきたよね」といったときの「ちょっと」に含まれている暑いと寒いの間の空間はもはや消滅しているだろうし、感知すらできなくなっているのだろう。あるのは単に「寒い（cold）」か「寒くない（uncold）」といった違いのみ。人が言語によって思考しているからこそ、それを逆手に取って語を減らし、思考放棄を促すのが、ニュースピークなのだ。

もし、このニュースピークの考えが正しいとすれば、『ディストピア』の検閲システムによって少なくともこのSNS上では誹謗中傷に関連する表現ができなくなり、結果として誰も傷つかない空間が成立することになる。誰も他の人の投稿で心を痛めることもないし、腹をたてることも無くなる。あるのは無色透明な、人畜無害の健全な空間。それこそまさに被害者も加害者もいない、新しいSNSの姿、まさに「ユートピア」が生まれるだろう。

ディストピアとユートピアを分けるもの

とまあいろいろと考えても見たのだけれど、個人的に言えばもちろん、誹謗中傷なんてものはこの世から極力無くなったほうが良いとも思うし、昨今のSNSで繰り広げられる負の連鎖を断ち切れたらとも思う。僕自身も（SNS上ではなかったにしろ）少なからずそういう過去があったから。ただ、こうした取り組みは、あくまで個々人の内部で試みられるものであって、社会システムの側で取り組むべきものかというと疑問がある。まるで「対岸の火事」のように、表現を取り締まってしまうことに。

確かに、うまくいけば誹謗中傷につながる人々の思考を制限し、誰も傷つかない空間を作り上げられるのかもしれないが、それは本当に「解決した」と言えるのだろうか。むしろ自分たちの言語体系が制限され、思考の幅も狭められていることにも気が付かないという意味では、自己解決の手段を放棄する人間の集団を生んでしまうという文字通りの「ディストピア」が生まれるのではないか。

いついかなるときも一貫して正しく、不適切な行為をしたことのないという「無謬の人」など存在しない。僕にしたって毎日のように何かしらの失敗をしているし、もし過去に戻れるならやり直したいと思うことが無数にある。それはおそらく、これを読むあなただって同じことだろう。大なり小なり、僕らは失敗を（これからも）する生き物なのだから。もちろん、だからといって人に悪影響を与えて良いというのでは決してないし、それを野放しにすることも違うと思う。その意味でこの『DYSTOPIA』のアプローチは、誹謗中傷に一石を投じるという意味で画期的だと思っている。

しかし、ある時期には絶対不変に見える「ただしさ」でも、時代によって大きく移り変わることだってある。さらに言えば、いわゆる「ただしさ」自体も使われる状況に応じて意味が180度異なることだってある。エーリヒ・フロムが『自由からの逃走』で人は「第一次的絆」の喪失から新たな安定を求め自由を捨てる「自由からの逃走」を行ったと述べたように、言語を取り上げられ思考の幅を狭められた人間は、全く別の、当初の思惑とは違う世界を作り上げてしまうのではないかと思わされてならない。

川を渡るには。

そういう意味では、誹謗中傷を始めとした問題は、もはや「対岸の火事」として任せて良いものではないと思う。僕もそうだけど、偉そうに意見している場合じゃないし、ありきたりな言葉で表面上を取り繕っている場合でもない。今一度、自分自身の胸に手を当てて、その表現が適切なのか、その表現でないといけないのか。そうやって自分の言語で思考することからしか、変わっていかないのだと思う。陳腐なまとめしかできないのは、僕自身の解釈が乏しいからに他ならないのだけれど。