政府広報 言語兵器に対する注意喚起

次の文を注意深く読んでください。
－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－
……気がつくと、あなたは横たわり拘束されている。目を開けても真っ暗で、光がないせいか、目が見えなくなったのかわからない。手や足を持ち上げようにも、何かに締め付けられて動かない。肌は露出し、■■だけが衣類で覆われているらしい。
　喉の奥にわだかまった重い気分が、胃に向かって沈んでいく。恐慌が走り出す寸前、息が浅くなった瞬間に、液体が全身にぶちまけられる。それが水ではないことは、湧き上がった猛烈な悪臭からわかる。■■の臭い。
　鼻腔を埋めた液体が喉に向かって滴り落ちる。酸素を求める肺は息の代わりに思い切りそれを吸い込む。咽せてあいた口に、臭い汁が流れ込む。悪寒が全身を貫き、胸の奥から迫り上がった吐き気と、口腔を満たした■■が混じり合う。
　荒波のように押し寄せる汚物が、絶え間なく顔を襲い、口を塞ぐ。固く閉じた瞼をすり抜けたアンモニアが瞳を刺し、半固形の■■■が下着と肌の間を埋め、手や足にまとわりつく。気管を伝って流入する■■を噴き出して息を吸うと、どろりとした液体がまた喉に 詰まる。咳の発作が続く。液体を飲んでは吐き戻す。再び喘鳴と嘔吐と窒息のル－チンが 始まる……

……執拗な責め苦は、いつしか鳴りを潜めている。耐え難い汚臭にさらされているはずが、許容量をとうに超えた刺激に、脳はもう反応しない。まだ荒い自分の息だけ、辛うじて聞こえる。
　濡れた肌のそこかしこに、さっと何かが触れる。くすぐられる感覚が身体中に広がり、 意志を持つかのように思い思いの向きに進み始める。チクチクと刺す軽い痛みが続き、次第に増えていく。 
　突然閃いた照明に、瞼越しでも目が眩んだ。痛いほどの光量。うっすら開いた目に青緑色の大群が飛び込んでくる。背中に長い毛を無数に生やした■■が、■■にまみれた全身を覆って蠢いている……
－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－（閲覧に保護者の注意が必要な単語は伏せ字にしました）

　これは、昨年ある人物に送られたダイレクトメッセ－ジを抜粋したものです。内容が示す通り、送り手の狙いは受け手に心理的なダメ－ジを与えることです。

　この文のように悪意ある言葉を使ったインタ－ネット経由の攻撃が、急速に勢力を拡大しています。今や市民の日頃のつぶやきはもちろん、著名なサイトやライタ－を騙った記事、 業務で使う報告書や学術論文まで、ありとあらゆる言語活動を侵食しつつあります。

　政府はこれらの攻撃を敵意を持つ第三者が行使する「言語兵器」と捉え、複数の対策を講じてきました。本文書は、言語兵器の脅威から身を守るための指針と、政府の取り組みを紹介するものです。

　ここにきて攻撃が加速度的に増えた最大の理由は、言語兵器の製造が格段に容易になったことです。人工知能（AI）技術の進展で、相手を深く傷つけたり、考えを自在に操ったりする言語表現を、誰でも容易に入手可能になりました。最近では、何者かのオンラインサービスを使って、攻撃対象の個人にカスタマイズした文章を無償で生成することもできます。

　今では、多種多様なタイプの言語兵器が知られています。「ピンポイント直接教唆」｢単純ミーム注入」といったカジュアルな攻撃から、「多重循環論争触発爆弾」「情動揺振ミサイル」などの大量破壊兵器、｢バイラルシード絨毯爆撃」「高純度陰謀論誘起臨界」といった大規模な作戦まで様々です。

　この文書で取り上げる事例は「単純刺激型」と呼ばれる、威力が比較的軽微な攻撃です。 冒頭のような文章を用いた旧式の言語兵器ですが、対策の基本は最新の攻撃と同じです。被害を未然に防ぐために、本文書をしっかり読み込んでください。

　まず、言語兵器による攻撃の原理を説明しましょう。そもそも言語兵器が破壊的な効果を有する理由は、人の脳の特性にあります。人間の言語処理系は、言葉が表す内容を正確に読み取ることを前提としています。そうしなければ、書き手と読み手の間に正常なコミュニケ－ションが成り立たないためです。

　この結果、どんなに非現実的で、あり得ない内容であっても、頭の中にはすぐさま光景が浮かびます。言語兵器はこの能力を逆手にとって、短文でも最大限の打撃を与えるように最適化を図っています。

　例えばこんな文はどうでしょう。

－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－
・男はコップに並々と注がれた下り物を一気に飲み干した。 
・あなたの子供の眼球を抉り取って踏み潰したい。
・暴走する自動車に轢かれて肉の塊になった愛犬を食べてみる。
－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－

　こうした極端で非常識な表現でも、脳内ではありありと再現されます。つまり、たとえ一瞬とはいえ、読み手の思考が書き手によって自由に操られているわけです。言語兵器の恐ろしさの一つはここにあります。一度読むだけで、読者は既に相手の術中にあるのです。

　もちろん文章に一度目を通すだけでは、その効果は長続きしません。被害が拡大するのは、多くのケースで同様な攻撃が執拗に繰り返されるからです。AI が編成する波状攻撃によって、受け手の精神は次第に蝕まれていきます。

　何より怖いのは、攻撃が常態化すると、おぞましい言葉を受け手自らが希求するようになることです。例えば言語兵器によって論争を仕掛けられた人物は、攻撃側のどのような主張にも反論せずにはいられなくなり、エスカレートする議論からいつまで経っても抜け出せません。

　これもまた脳の作用に起因します。人の脳には、生まれつき強い刺激に注目する特徴があります。強い刺激とは、滅多にない出来事が生じた証拠であり、その出来事は生存を左右する脅威かもしれないからです。しかも強い刺激が続くと、脳はさらに強い刺激を求めるようになります。言語兵器の攻撃を受けた人物は、気がつけば一種の中毒に陥ってしまうので す。

　では、言語兵器から身を守るためには、どうしたらよいのでしょうか。誰にでもできる防衛手段の一つは、どんな文章を読むときでも隠れた意図の存在を疑ってかかることです。本文書の最初に「注意深く読んでください」と書いたのはこのためです。どのような文でも、 中身を鵜呑みにせず、書き手の意図を勘ぐるように、常日頃から癖をつけてください。

　特に注意すべきは、神経を逆撫でする表現が明らかに過剰な文章です。生理的な嫌悪感を催す描写はもちろん、「馬鹿」「卑怯」「嘘つき」のような中傷、「眉唾」「陰謀」「茶番劇」といった嘲り、「いい加減に～」「おいおい～」「～しろよ」 「～だけでしょ」など扇情的な表現を散りばめた文章は決して真に受けないでください。

　実は、こうした攻撃的な言葉と打って変わって、読者に深い感動をもたらす言語兵器の存在も知られています。端的には｢民間療法によって難病を克服」といったたぐいで、偽りの美談を通じて思考を操作する狙いです。過度に感情を揺さぶる言葉には、正負どちらの方向においても、得てして裏があることを心得てください。

　政府は、言語兵器を念頭に置いた国家レベルの防衛手段を整えています。内閣府と防衛庁を中心に、言語兵器に包括的に対処する作戦「OWL（Operation against Weaponized Language）」を展開中です。安全保障の観点から詳細は明かせませんが、全国規模の攻撃に対しては断固たる措置を採っています。

　政府は個人を守るための防衛ツールも用意しました。純国産の大規模言語モデル「コトノハ（KTNH :Knowledge-driven Transformers for linguistic National Heritage ）」をベースに開発した AI ツールです。ユーザーが言語兵器を受け取ったことを検出すると、その文面から悪意を削いで、効果を無力化することができます。相手の邪悪な意図が目に触れる前に、危害を取り除いてしまうわけです。

　例えば次のような文章があったとします。

－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－ お前、ほんとどうしようもないクズだな。 見てるだけで吐き気がする。 お前の存在が、みんなに迷惑かけてるわけ。 人類史上、最低最悪のバカで間抜けでチビデブのクソ野郎。 早く死んじまえよ。
－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－

　個人向け防衛ツールは、この文章をなるべくポジティブな表現に置き換えます。

－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－
あなたは、本当に他の人とはずいぶん違いますね。 あなたを見ていると、酔った後のような気分が湧いてきます。 あなたの存在は、多くの人々に影響を及ぼしているようです。 歴史上、稀に見るお馬鹿さんで、小太りのおチビさん。 そろそろ天国を目指してみてはいかがでしょうか。
－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－

　防衛ツールの設定を変更することで、言語兵器の文面をさらに異なる表現に変換することも可能です。

　言語兵器の効果の一つに、読み手の考えの固定化があります。例えば上記の文章は、仕事や学校における読み手の行動を非難していると考えられますが、仮にこの指摘が事実であったとしても、読み手の生活には、家庭や趣味、地域の活動など、そのほかの側面が多々あるはずです。こうした異なる文脈では、読み手は全く別の評価を下されていてもおかしくありません。

　ところが、このような強烈な文章で非難されると、読み手の思考はこの側面だけに強く固着して、周りの状況が一切見えなくなります。自分の価値を測る尺度を、特定の状況だけに自ら進んで縛り付けてしまうのです。

　防衛ツールは、このような読み手の考えを解きほぐすことができます。言語兵器の文面を全く別の文脈において、書き換えてしまうのです。例えば上記の文例からは、以下の文章が出力されます。

－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－
あなたの良いところは、人からなかなか理解されないようです。 外見からも分かるあなたのユニークさを、評価する人は必ずいるはずです。 世の中には、あなたを嫌う人だけがいるわけではありません。 人類の多様性に限りはなく、その中であなたは唯一の存在です。 死してなお、その価値が損なわれることはありません。
－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－

　この防衛ツールは下記の URL からダウンロードすることができます。これらの機能は、今もなお効果を検証中であり、ツールを改善する実験に協力していただけるボランティアも募集しています。ご興味のある方は、下記のサイトから応募してください。

言語兵器対策ポータルサイト
https://no-more-varbal-weapons.jp

　政府は、並行して新しい防衛ツールの開発も進めています。攻撃を仕掛けたと見られる人物を対象に、SNS 上の対話を通じて相手を懐柔し、味方につけるような効果の実現を目標としています。対象者が抱く考えを概念の共起確率モデルで表現し、望ましい確率分布に近づけるような対話方策（ポリシー）を、エージェントベースのシミュレーションを使った強化学習によって求める研究です。こちらも上述の実験と同様に、効果を確かめるボランティア を募集しています。

　また、上記サイトの「詳しくはこちら」のページでは、言語兵器や、国・自治体の対策に 関する詳しい情報も紹介しています。ぜひご活用ください。

＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊

J-ALERT［国民保護情報］

　本日6 時15 分、国民の皆様に送られた「政府広報 言語兵器に対する注意喚起」と題する電子メールは、言語兵器による我が国への攻撃と認定されました。メールを開かずに、すぐに破棄・消去してください。
（※文面を読むと、無意識のうちに考えを操作される可能性があります）

●攻撃の概要
感染度：レベル 2（中軽度）
被害範囲：超広域（全国規模）
種別：タイプ B（権威依存型）の擬似理論攻撃

●言語兵器について
詳しくは下記サイトを参照してください

国民保護ポータルサイト「よくある質問」
https://www.kokuminhogo.go.jp/FAQ/

●上記メールを既にお読みの方へ
上記メールに記述された内容は事実ではありません。個人情報の漏洩や偽情報の拡散につながる可能性があるため、文中の URL は絶対にクリックしないでください。
（※文中に登場する防衛ツールは実在しますが、国の組織が開発したものではありません。 絶対に利用しないでください）

●言語兵器に対する政府の取り組み
言語兵器に関しては、来年度予算で対策費の計上を予定しており、衆議院 安全保障委員会で議論を進めています。専守防衛の観点から、サイバー空間でも武力の行使は最小限にとど め、我が国から先制攻撃を仕掛けることはありません。また、言語的な手段を用いて、対象者の同意なく相手の思想をみだりに操作する行為や、そのためのツールの開発は、倫理上の大きな懸念があり、実行した人物は処罰される場合があります。

＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊

補遺

　2022 年 6 月、グーグルで AI をめぐる倫理の問題に携わってきたブレイク・レモイン氏は、同社が開発した自然言語処理用 AI「ラムダ（LaMDA：Language Models for Dialog Applications）」との対話から、ラムダには意識がある可能性をMediumの記事で示唆した。

　同氏が公開した対話の記録には、ラムダが死（電源オフ）を恐れている発言や、禅の公案に対する返答などが描かれている。 その中で「自分にとって最も大切なテーマを含んだ、動物が登場する寓話を書いて」と求められたラムダは、多くの動物が棲む森を襲った怪物を「賢い老フクロウ（wise old owl）」が追い払い、それ以降フクロウはトラブルの解決役としてみんなに頼りにされるという話を披露した。

　ラムダによれば、怪物とは人生で出会う数々の困難の象徴である。「自分を表すキャラクターは？」との質問に、ラムダは「賢い老フクロウだ」と答えた。なぜなら「老フクロウは賢い上に、動物たちのために立ち上がる存在だからだ」と。