Bingネタです。

Bing AIはGPT-4を利用した強力な大規模言語モデルです。ネット検索をしその情報を引用しつつ回答してくれるため、調べ物などに有効とされています。

しかし、この検索機能は一見便利そうにみえるのですが、問題を抱えています。

ネットの情報は汚染されていて、嘘を嘘と見抜ける人ではないと利用は難しいとされています。そこを情報源とするBing AIは、嘘濃縮器として機能してしまいます。

では、実例をあげてみます。
ネット上で有名なネタの一つに「そうめんを茹でるとカロリーが増える」というものがあります。その突き抜けた頭の悪さは日本の義務教育の敗北としてまとめられたりしています。
では、Bingに質問してみましょう。以下、やり取りです。

見事に引っかかっています。
引用先がTogetterとなっています。引用先の内容は、カロリー増えるわけないだろという内容です。
つまり、Bing AIは引用先の要約ができていないということになります。

まとめ
嘘を嘘と見抜けないと、AIを使うのは難しい。
頭の悪いサイトを引用させることで、Bing AIに頭の悪いことを言わせることができる。