生成AIが広げる「暗い森」で、つかまえて
「生成AIでありきたりな文章がたくさんはびこっていくなか、ライ麦畑にいるキャッチャーになってほしい」
6月25日にTBSラジオ「文化系トークラジオLife」に出演した。「生成AIに負けないぞ！ 人間に残された“ことば”とは」がテーマだった。
その最後の方で、生成AIによってライター失業の危機にあると言う山本ぽてとさんに対して伝えたのが、前記の言葉だ。
同番組に出演していた、ライター・編集者の速水健朗さんが「めっちゃ感動した」「サリンジャーも山本ぽてとも持ち上げる、工藤さんすごい」と放送中に言ってくれた。
速水さんが気づいてくれたとおり、サリンジャーの小説『ライ麦畑でつかまえて』を踏まえている。
「ライ麦畑のキャッチャー」は、作中で鬱屈する17歳の主人公が「本当になりたいもの」として挙げる。丘の上にあるライ麦畑で、夢中で遊んでいる子どもたちが崖から落ちそうになったときに捕まえる仕事である。主人公も「馬鹿げている」と形容していたので、理想型や比喩として示されているのだろう。
ちなみに、この言葉に対するぽてとさんの返しコメントが、3段オチみたいで最高だったので、ぜひアーカイブを聴いてみてほしい。ポッドキャストや YouTube などで確認できる。
生成AIがウェブの「暗い森」をさらに広げる
誤解されがちだが、対話型人工知能「ChatGPT」は、「正解を探す検索エンジン」というよりも「単語の計算機」だ。人間の入力に対して、その後に続きそうな単語を、事前に学習した大量のデータから確率的に予測し、文章を生成する。
「ぬばたまの」と言ったら「夜」や「黒髪」が、「推しの子」と言ったら「アイドル」や「ゲッター」が続くことが多いだろうとの予測を計算力で高度化させたものといえる。
「プロンプト」と呼ばれる指示文は連歌における発句に相当し、人間が季語を選んで最初の五七五を詠めば、あとは百韻でも千句でも機械が自動的に綴ってくれる。
飽きずに付き合い続けてくれる共作者が身近になったという意味では、大きな可能性がある。
ただ、倦まず弛まず文章を生成できるAIを、誰もが安価に使える状況になれば、インターネットはあっという間にスパムで埋め尽くされることも容易に想定される。
今ですら検索結果の上位は、広告や購買誘導を目的として人間が量産した記事に占有されがちであり「調べてみました」「いかがでしたか？」がリフレインされている。
「ウェブがボットなどの自動化されたクリック稼ぎのコンテンツに満ち、人間がいないように感じられ」、「ウェブのパブリックスペースで不用意に何か発信すると要らぬ反感を買って炎上し、個人攻撃に晒される事例が多く、おのずと公開の場から足が遠のいてしまって」いる。
生成AIはこのような傾向を加速させるおそれがあり、「暗い森」と化したウェブをさらに広げることになると論じられている。
紋切型の言葉と社会
「単語の計算機」という生成AIの仕組みから、「暗い森」で紋切型の文章が増殖していく未来が想像できる。
武田砂鉄さんの『紋切型社会』は、「つながりすぎている」という接続の量というよりも、「大雑把につながらざるをえない」という接続の強制性に関して注意を促す。
そして、「人と人が大雑把に近づくのが容易になった社会において、対論を交わしながら関わり合いをじっくりと見つけ出していくことが難しくなった」「強制力のあるつながりが、離れたところから洞察して対話へ持ち込んだり、意識的に近付いて相手側の声に耳を傾けたりしてみるというプロセスをぶった切っていく」（274頁）とする。
「見知らぬ人の、でも、自分のこととしても思えなくもない内発的な変化の物語には心を動かされるが、すでにつながっているもの以外の外発的な変化の物語には、心を動かさない」「大雑把につながってしまうことで、まだつながっていないところで生じている、聞くに足りるものが相当量、立ち往生している。萎れて干涸びて不貞腐れている」（279頁）という同書の懸念は、生成AIによってさらに助長されるのではないか。
誰にも害意はないのに、言葉で結ばれる関係性が痩せ細っていく構造が横たわっている。
凝り固まりを解きほぐす
扱いきれない情報が視野に入ってくるとき、その複雑性を縮限するために、既知のことばや関係性が手がかりにされる。紋切型は必要な機能である。
短編ブログ『傘をひらいて、空を』の執筆者である槙野さやかさんは、「人間の脳は有限だから、多くの人に対して型に基づいて判断し、相手にかけるコストを低下させるために型を演じる。それをしないのが親密な関係であり、情愛ある関係だと私は考えています。だから、家族や恋人や友人のように見えても属性による型のとおりの対応を要する関係は親密ではないと判断する」と述べている。
型を演じず・型に嵌めない関係こそが親密圏であるならば、「おのずと公開の場から足が遠のいてしま」うのは、当然の帰結なのかもしれない。
もっとも、暗い森に嫌気がさした人々がクローズドな環境に潜っていくことの弊害もある。型はフェアネスの問題にも関わるからだ。
槙野さんは「人間が人間を型にあてはめるのは、脳の処理量に限界があるからで、だから型はある程度必要なのですが、問題はその型がマジョリティに有利なかたちをしていて、マイノリティ側からの型の更新が受け入れられず、なおかつ複数の型同士が矛盾（ダブルバインド）していても再検討がなされないことです」とも述べている。
生成AIが文章や物語を生成する時には、女性がアシスタント業務についているとか、政治家や裁判官の職に就くのは男性というような、アンコンシャス・バイアス、無意識の偏見と言われる記述がされる可能性があると指摘されている。
そして実際に、差別的な表現がAIからの回答に含まれていた実例も報告されている。
こうした課題は、元をたどれば、人間と現在の社会が差別や偏見を持っており、それをAIが学習することから始まっている。つまり、人間の問題だ。
ウェブでなくてもよいが、暗い森になりがちな「パブリックスペース」で、紋切型の言葉を解きほぐして更新していくことは、公正と平等に関する課題解決に貢献する。
見知らぬ人々が遊べて、転んでも少し怪我をする程度で済み、暗い森に囚われたり崖から落ちたりしないライ麦畑を維持するには何が必要だろうか。
「ライターだと、記事の中で『他己紹介』をすることがある。インタビュー記事などで、この人がどういう経歴であるか、ある程度書かなければならない。その時に私が気をつけているのは、あまり肩書きばかりにならないようにすること」だと、以前、山本ぽてとさんが言っていた。
その上で、最初は肩書きなどから入るとしても、インタビュー記事を読み進めれば、徐々に「その人らしさ」を感じられるよう記事を書きたい旨を述べていた。
「まだつながっていないところで生じている、聞くに足りるもの」に耳を傾ける姿勢、「離れたところから洞察して対話へ持ち込」む技量は、今後ますます貴重になるだろう。
「子どもが迷い込んだら、『ここはちゃんとした、いい言葉だよ』とか『これはありきたりな言葉じゃなくて、あなたのために作った言葉だよ』とか。『キャッチャー・イン・ザ・ライ』みたいな役割のライターに、ぽてとさんなら、なれると思う」。