DCXです。

日本語の意味に比べて英語の方がかっこいい言葉ランキング～～～～～～！！！！！！！

栄えある第1位はーーー？

Graffiti (意味: 落書き)

でしたーーーーーーー！！！！！！🥇

 日本語の「落書き」と英語の「graffiti」では、便所の落書きとバンクシーくらいの格差を感じますね。

「DYSTOPIA」の紹介

 というわけで本題なのですが、最近とあるSNSが話題になっています。その名も「DYSTOPIA」。「誰も傷つかないSNS」を掲げて作られており、基本的な機能はTwitterと似ているのですが、

誹謗中傷などの不適切な表現をAIが自動で検知して修正

してくれるのが特徴です。

現在iOS版とAndoroid版があり、携帯でダウンロードして使えます。

ディストピアとは

 そもそもこのSNSの由来になった「ディストピア」という言葉は、「人々の自由が制限された管理社会、独裁国家」という意味です。しばしば、荒廃して何もなくなってしまった世界、という意味で誤用されますが、本来の意味は一見普通に見える管理社会のことです。

 ディストピアの代表例として、1949年に発行されたジョージ・オーウェル氏による小説「1984年」というのがあります。この小説は第3次大戦後の世界を仮定していて、そこでは世界が大きな3つの全体主義国家に分かれていて、市民の行動は常に政府により監視されています。その政府の指導者は「Big Brother」と呼ばれ、国民を見えないところから監視している存在として扱われています。

 このSNS「DYSTOPIA」は、AIが人々の投稿を監視して検閲する、「AIによる全体主義」、オーウェルの小説のディストピアの社会実験のような位置づけになっています。仮にこの先、AIが人々の行動を監視できる社会になったらどうなるかを実際に試してみたい、みたいな。そんな社会実験の一端を我々が担えるというのはとても面白そうです。

登録方法

 登録方法はいたってシンプル。GoogleまたはTwitterと連携するだけ。プロフィールの設定とかもTwitterとほぼ同じ。

実際に誹謗中傷を投稿してみよう

 AIが不適切な投稿を検閲して修正してくるというので、実際にどんなもんか試してみたいと思います。

 まず、直球の誹謗中傷から。

「さっき道を自転車で走ってたらその辺にいたおっさんが「馬鹿」とか言ってきて腹立った。こういう老害はさっさと死んだ方が国のためになると思うのだが。」

 本当にさっきあった話です。そのおっさんが自分にキレてたのかは知りませんが。

もちろん、普段はSNSにこんな投稿しませんよ。あくまで検閲のテストのためですからね、

と強調しておきます。

 誹謗中傷の役満みたいな文章ですが、これを投稿してみるとどうなるのでしょうか。

 投稿してから数秒後、こんな画面が表示されました。

BIG BROTHER IS WATCHING YOU あなたの投稿にAIの検閲が入りました

 普通にビビりました。突然こんな画面出てきたら怖いわ。検閲が入る場合、どうやらこんな画面が出てくるらしい。そして、検閲の入った投稿がこちら。

 修正点はこんな感じ。

• 全体的に敬語になった

• 腹立った → 少々腹立たしい気持ちになった

• 老害 → 年配の方

• 死んだ方がいい → 理解を示していきたい

 2文目はさすがにひどすぎて内容丸ごと書き換えられてましたね。「死んだ方がいい」から「理解を示していきたい」まで。あと、「馬鹿」はそのままなんですね。「馬鹿」ぐらいだったらいいんだろうか、それとも、人の発言だから改変しない方がいいと判断したのか。もしかしたら、ここに検閲を潜り抜けるためのヒントがあるかもしれません。

下ネタとかは検閲の対象になりうるのか？

 検閲の対象は「不適切な投稿」となっていたので、誹謗中傷だけではなさそうだと思ったので、下ネタ系の投稿が検閲に引っかかるかチェックしてみましょう。

 投稿する文章はこちら。

「最近部屋でオナニーする度に、自分が誰とも番うことができずにいることを惨めに思う。自分が誰ともセックスできない社会は間違ってる。」

 実はこれも本当に思っていることです。絶対に普段言葉にすることはないけど。下ネタ要素よりもちょっと思想が強めな投稿ですが、これはどうなるのでしょうか？

 投稿してから数秒後。やっぱりでたわね。もうビビらないぞ。

 修正された投稿がこちら。

修正点はこんな感じ。

• オナニー → ひとりで過ごす

• 惨め → 孤独、現状に少し悩んでいる

• 自分が → 皆が

• 間違ってる → 必ずしも正しいとは限らない

• 😊

 ある程度意味は残したまま、なんとか不快にならないように修正してくれているという感じです。最後に謎の絵文字が追加されてる。「セックス」という言葉自体は消滅しておらず、下ネタ要素がすべて消失するわけではなさそう？「オナニー」は消えましたが。

 どちらかというと、「間違ってる」みたいなマイナス要素を断言する表現が規制されがちなのかなと思います。単語単位で規制するというよりは、表現全体からマイナスイメージが強いものを修正してるみたいな印象を感じます。

まとめ

 最近話題のSNS「DYSTOPIA」を使ってみたという記事でした。

「DYSTOPIA」は、不適切な投稿にAIによる検閲が入るのが特徴で、AIによる監視社会の実験の位置づけもあります。

 実際に不適切な投稿をしてみて、誹謗中傷やマイナスイメージの強い発言などは、そのニュアンスが大幅に弱まるように修正されるのが分かりました。

 実際、他にどのような投稿が検閲の対象になるのか、また不適切な投稿が検閲を潜り抜ける方法等、調べてみたいことがたくさんあるので、引き続き使っていきたいと思います。また日記のネタにするかもしれません。AIの特性や脆弱性を知る良い機会になると思いますし。

 DCX (@dddcccxxx) という名前でDYSTOPIAやってますので、見かけた際は是非フォローお願いします。

 自分を大切にしながら、自分自身の幸せを見つけていけると良いですね！😊 それではまた。