NEWS EXPLAINER
2023 年 5 月 02 日
読心術の機械が登場：心配する時期か？

https://www.nature.com/articles/d41586-023-01486-z

脳スキャンとAIを使って想像上の会話を解読する研究が、心のプライバシーを脅かすかどうかについて、神経倫理学者たちの意見は分かれている。
サラ・リアドン
ツイッター
フェイスブック
電子メール
機能的磁気共鳴画像法（fMRI）を用いて人の思考を解読した。Credit: Jerry Tang and Alexander Huth
あなたの頭の中の小さな声が、脳スキャナーで解読できるようになりました-少なくとも一部の時間では。研究者たちは、想像上の会話の要点を判断する初めての非侵襲的な方法を開発し、話すことができない人々のためのコミュニケーション手段の可能性を提示した。しかし、この技術は、現在のところ中程度の精度しかないが、真の読心術の実現にどの程度近づいているのだろうか。また、政策立案者は、このような技術が悪用されないように、どのようにすればよいのだろうか。
既存の音声合成技術の多くは、脳インプラントを用いて、人の運動野の活動をモニターし、唇が作ろうとしている言葉を予測するものである。テキサス大学オースティン校のコンピュータ科学者アレクサンダー・フートとジェリー・タンらは、思考の背後にある実際の意味を理解するために、脳の活動を測定する非侵襲的な手段である機能的磁気共鳴画像（fMRI）と、ChatGPTなどのツールを支える、テキストの一部で次の単語を予測するように訓練されている大規模言語モデル（LLM）という人工知能（AI）アルゴリズムとを組み合わせました。
5月1日にNature Neuroscienceに掲載された研究では、3人のボランティアにfMRIスキャナーに横になってもらい、各人が16時間のポッドキャストを聴きながら脳活動を記録しました1。ボランティアの脳内血流を測定し、その情報を、聴いていたストーリーの詳細やLLMの単語同士の関連性を理解する能力と統合することで、各個人の脳が異なる単語やフレーズにどう反応するかを符号化したマップを作成しました。
次に、被験者が物語を聞いているとき、物語を語ることを想像しているとき、またはセリフのない映画を見ているときのfMRI活動を記録しました。研究者らは、各人について事前にエンコードしたパターンと、文中に含まれる他の単語から文の成り立ちを判断するアルゴリズムを組み合わせて、この新しい脳活動のデコードを試みました。下の動画は、被験者が、ドラゴンの赤ちゃんの世話をする少女を描いたアニメーション映画『シンテル』の映像を見ながら、脳を録音して作成した文章を示したものです。
クレジット：Jerry Tang、Alexander Huth
ヒット＆ミス
例えば、「私はまだ運転免許を持っていない」というフレーズは、「彼女はまだ運転を習い始めてもいない」とデコードされるなど、その人が考えていることの要点を押さえた文章が生成された。また、映画で人々が見ているものをかなり正確に表現していた。しかし、多くの文章は不正確なものであった。
また、研究者たちは、この技術を簡単に騙すことができることも発見しました。録音された物語を聴きながら、別の物語を思い浮かべると、デコーダーはその単語を判断できなかった。また、暗号化された地図は個人差があるため、研究者は誰にでも使えるデコーダーを作ることができなかった。フートは、研究者が個人の脳の詳細なマップを作成すればするほど、普遍的なデコーダーの開発はさらに困難になると考えている。
メリーランド州ベセスダにある米国国立精神衛生研究所の神経科学者フランシスコ・ペレイラは、「脳がどのようにして言語から意味を作り出すかを解明するのは、非常に難しいことです」と言う。"誰かがそれをやり遂げたのを見るのは感動的だ"。
ウェイクアップコール」。
神経倫理学者の間でも、この最新の技術が精神的なプライバシーを脅かすものであるかどうかについては意見が分かれている。ボストンのハーバード・メディカル・スクールの生命倫理学者ガブリエル・ラサロ＝ムニョス氏は、「パニックになれとは言いませんが、このような高度で非侵襲的な技術の開発は、予想以上に近いところに来ているようです」と話す。"政策立案者や国民に大きな警鐘を鳴らすものだと思います"。
しかし、ニューハンプシャー州ハノーバーにあるダートマス大学の科学哲学者、アディナ・ロスキーズは、この技術が脅威となるには、今のところ使い方が難しすぎるし、不正確すぎると言う。まず、fMRIスキャナーは持ち運びができないので、本人の協力なしに誰かの脳をスキャンすることは難しい。また、コミュニケーション能力を回復させる以外の目的で、個人のためにデコーダーを訓練する時間やコストが割に合うかどうかも疑問です。「心配し始めるのはまだ早いと思います。"政府が私たちの考えを知る方法は他にもたくさんあります "と彼女は言う。
ケンブリッジにあるマサチューセッツ工科大学の認知神経科学者であるグレタ・タキュートは、この解読システムを個人間で適用することができず、人々が他のことを考えることによって簡単に解読システムを騙すことができたことを心強く思っています。「これは、私たちが実際にどれだけの意思決定能力を持っているかを示す良いデモンストレーションです」と、彼女は言う。
注意深く行動する
とはいえ、ロスキーは、たとえデコーダーがうまく機能しなかったとしても、弁護士や裁判所がその科学的限界を理解せずに使用すれば、問題が生じる可能性があると言う。例えば、今回の研究では、「I just jumped out (of the car)」というフレーズが「I had to push her out of the car」とデコードされました。「このような違いは、訴訟において大きな違いを生む可能性があります」とRoskiesは言います。"使うべきでないときに、このようなものを使う能力を持つようになるのが怖い"。
Tang氏も同意見です。"ポリグラフは正確ではないが、否定的な結果をもたらしている "と彼は記者会見で述べた。"誰の脳も、本人の協力なくして解読されるべきではない" 彼とHuthは、読心術の技術がどのように合法的に使用でき、また使用できないかについて、政策立案者が積極的に取り組むよう呼びかけました。
ラサロ＝ムニョス氏は、保険会社や雇用主が人々の遺伝情報を差別的に使用することを防ぐ2008年の米国の法律を反映した政策的措置が必要だという。また、強迫性障害など、人に危害を加えようとは思わないけれども、決して行動には移せないような不要な侵入的思考を持つ人に対するデコーダーの影響も懸念しています。
ペレイラは、デコーダーの精度がどの程度になるかは未解決の問題であり、また、デコーダーが個人固有のものではなく、いずれ普遍的なものになる可能性もあると言います。「人間がどれだけユニークな存在であると考えるかにもよりますが」と彼は言う。
デコーダーはいずれ、一連の流れの中で次の単語を予測することに長けるようになるかもしれませんが、比喩や皮肉を解釈することには苦労するかもしれません。ペレイラは、単語を並べることと、脳が単語間の関係をどのように符号化するかを判断することの間には、大きな隔たりがあるという。
doi: https://doi.org/10.1038/d41586-023-01486-z
参考文献
Tang, J., LeBel, A., Jain, S. & Huth, A. G. Nature Neurosci. https://doi.org/10.1038/s41593-023-01304-9 (2023).
記事 Google Scholar
リファレンスのダウンロード
関連記事
脳は時間とともに拡大し、縮小する-このグラフが示すもの
あなたの脳は、病気になること、そして回復することをコントロールしているかもしれない。
対象者
機械学習

技術情報

ニューロサイエンス
最新情報をお届けします：
機械学習
技術情報
ニューロサイエンス
オンラインツールは、大規模な言語モデルが推論によって問題を解決するのを助ける
ニュース＆ビュー 01 May 23
合成データは実データよりも優れている可能性がある
見通し 27 4月23日
学習した表面指紋を用いたタンパク質相互作用のデノボデザイン
記事26 4月23日
ジョブズ
代謝生理学研究部門長
フロリダ州タンパ
H. リー・モフィット・キャンサー・センター＆リサーチ・インスティテュート
ネイチャー・イミュノロジー誌アソシエイトまたはシニアエディター
ジャーナルの拡大に伴い、免疫学や微生物学に強い関心を持つ、意欲的な人材を募集しています。
ロンドン（グレーター） (GB)
シュプリンガー・ネイチャー・リミテッド
ポスドク(m/f/x) - 機械学習で気候に大きな影響を与える要因を検出する
© Kletr / Fotolia ヘルムホルツ環境研究センター（UFZ）は、1,100人の従業員を擁する国際的な研究機関として、高い評価を得ています。
ライプツィヒ, ザクセン (DE)
ヘルムホルツ環境研究センター(UFZ)
エグゼクティブ・ディレクター (w|f|x)
長年の常務が2024年半ばに定年を迎えます。その後継者として、私たちは次のような方を求めています。
フランクフルト・アム・マイン、ヘッセン州 (DE)
キエンバウムコンサルタンツインターナショナルGmbH
長崎大学熱帯医学研究所准教授の公募について
AIを活用して、世界の感染症の脅威に対抗するワクチンを設計する准教授。
長崎県 (JP)
長崎大学熱帯医学研究所
閉じる
その日の最も重要な科学記事を無料で受信できます。Nature Briefingに登録する
ネイチャー（Nature） ISSN 1476-4687（オンライン） ISSN 0028-0836（プリント版）
ネイチャーズドットコムサイトマップ
ネイチャーポートフォリオについて
私たちについて
プレスリリース
報道関係者
お問い合わせ
ディスカバーコンテンツ
ジャーナルA-Z
テーマ別記事
ナノ
プロトコル交換
ネイチャーインデックス
パブリッシングポリシー
ネイチャー・ポートフォリオ・ポリシー
オープンアクセス
著者・研究者向けサービス
転載・許可
研究データ
言語編集
科学編集
ネイチャーマスタークラス
ネイチャーリサーチアカデミー
リサーチソリューション
図書館・施設
ライブラリアンサービス＆ツール
図書館員用ポータルサイト
オープンリサーチ
図書館に推薦する
広告・パートナーシップ
広告
パートナーシップとサービス
メディアキット
ブランデッドコンテンツ
キャリア開発
ネイチャーキャリア
ネイチャーコンファレンス
ネイチャーイベント
地域別ウェブサイト
ネイチャーアフリカ
ネイチャーチャイナ
ネイチャーインディア
自然 イタリア
ネイチャージャパン
ネイチャーコリア
自然 中東
個人情報保護方針

クッキー（Cookie）の使用

Cookieを管理する/私のデータを販売しない
法的注意事項

アクセシビリティ宣言

ご利用条件

カリフォルニア州プライバシーステートメント
© 2023 Springer Nature Limited