元記事　2023/04/05　自動翻訳

ChatGPTがセクハラスキャンダルをでっち上げ、本物の法学教授を被告人に指名

先週のある夜、法学教授のジョナサン・ターリーは厄介なメールを受け取りました。
調査研究の一環として、カリフォルニア州の仲間の弁護士が AI チャットボット ChatGPT に、誰かにセクハラをした法律学者のリストを生成するように依頼しました。
ターリーの名前がリストに載っていました。

参考　ジョナサン・ターリー

OpenAI によって作成されたチャットボットは、情報源としてワシントンポストの 2018 年 3 月の記事を引用して、ターリーがアラスカへの修学旅行中に性的なコメントをしたり、学生に触れようとしたりしたと述べました。
問題: そのような記事は存在しませんでした。
アラスカへの修学旅行は一度もありませんでした。
ターリーは、学生への嫌がらせで告発されたことは一度もないと言いました。

メディアの定期的なコメンテーターであるターリーは、ニュース記事の修正を求めることがありました。
しかし今回は、ジャーナリストや編集者に連絡することはできず、記録を修正する方法もありませんでした。

「とても身も凍るようなものでした」
と彼はポストとのインタビューで語った.
「この種の申し立ては信じられないほど有害です。」

ターリーの経験は、コンピュータ コードを書き、詩を作成し、不気味なほど人間のような会話を行う能力で主流の注目を集めている言語ボットの最新の波の落とし穴の事例研究です。
しかし、この創造性は、誤った主張の原動力にもなり得ます。
モデルは重要な事実を誇張して誤って伝え、主張を裏付けるために一次情報源を捏造することさえあります。了

備考　USToday　記事抜粋

何年にもわたって、私(ターリー)は、私自身と私の家族に対する殺害の脅迫と、私の保守的な法的意見のためにジョージ・ワシントン大学で私を解雇するための継続的な努力を期待するようになりました.
私たちの怒りの時代におけるその現実の一部として、私の歴史や発言についての虚偽の主張が絶え間なく流れています.…
AI は、そのような悪用を指数関数的に拡大することを約束します。
ほとんどの批評家は、元の情報源ではなく、偏見や党派的な説明に基づいています。
彼らの物語を前進させる物語を見たとき、彼らはそれ以上尋ねません。
最も印象的なのは、この虚偽の告発が単に AI によって生成されたものではなく、表向きは決して存在しなかった Post 記事に基づいていることです。
…
では、なぜ AI システムが引用を作成し、存在しない記事を引用し、虚偽の主張を参照するのでしょうか?
その答えは、AI と AI アルゴリズムが、それをプログラムする人々と同じように偏見や欠陥があるからかもしれません。
最近の調査では、ChatGPT の政治的偏見が示されています。
この事件はそのような偏見を反映したものではないかもしれませんが、AI システムが直接的な説明責任を負わずに独自の形式の偽情報を生成できることを示しています。
このような問題にもかかわらず、著名な指導者の中には、その使用拡大を推し進めている人もいます。
最もぞっとしたのは、Microsoft の創業者で億万長者のビル ゲイツ氏で、人工知能を使用して「デジタルの誤った情報」だけでなく「政治的二極化」と闘うことを求めました。…
ドイツの番組「Handelsblatt Disrupt」のインタビューで、ゲイツ氏は、
「さまざまな陰謀論」を阻止し、
特定の見解が「デジタル チャネルによって拡大される」ことを防ぐために、AI を解き放つことを求めました。
AIは「確証バイアス」をチェックすることで「政治的二極化」に対抗できると彼は付け加えた。
.…

感想
昔、エクセルの表計算をやってて、間違いないか、電卓で確認してたな。
その前は、電卓の結果を算盤で確認してたのかな？
そのもっと前は.…
文字の起源は、数字（数え方）だという学説があるらしい。
遊牧民が、家畜を数えて、伝えるのに、牛なら牛の人形を、その数だけ作って、渡した。そこから、人形が絵になって、文字になった。
てことらしい。
まぁ、初めから嘘は、あっただろうな。