PIVOTの元Googleの研究者のインタヴューがとても興味深い物でした。

上記のメレディス・ウィテカーさんの最新記事のGPT-4のModel: Web Browsingによる要約は以下の通りです。

AIに関する公的警告と懸念

AIの専門家たちがAIの危険性について警告を発しています。ジェフリー・ヒントンをはじめとするAIの"ゴッドファーザー"が、テクノロジーの危険性について警告を発するメディアツアーに乗り出しました。

AI安全性に対する懸念と企業の影響

メレディス・ウィテカーは、大規模なAIシステムを作成するリソースを持つ企業がほんの一握りであり、これらの企業は利益と成長を優先するため、公共の利益を必ずしも考慮していないと指摘しています。

AIとサーベイランス

AIや機械学習は、大量のデータに基づいて予測を行う統計システムで、私たちの生活や機会を形成する重要な決定を下すと主張されています。これらのシステムに供給されるデータは、ウェブ全体から収集され、ほとんど責任を負わずに非常に敏感な方法で使用されています。

AIの必然性と規制の必要性

AI Now Instituteは、AIについての不可避の物語が科学的進歩と混同されてきたと主張しています。これは、テクノロジー企業が作り出す製品（電子メール、ブログ、検索など）が科学的進歩と混同され、"進歩の秤に指を置くな"というメッセージが暗黙的に、または明示的に示されてきたことから生まれた物語です。この結果、規制が回避され、コンピュータ科学の学位を持たない人々が愚かに見えることを恐れてテクノロジーを専門家に任せるようになりました。この誤解は規制を抑制し、コンピュータ科学の学位を持たない人々を脅かし、現在の状況につながる要因となりました。

企業の力と公共の利益

私たちは、少数の企業が私たちの社会経済的機関のインフラを提供し、人々の詳細な情報を持っている世界にいます。これは避けられない状況ではありません。

AIとデータバイアスの問題

データバイアスとこれらのシステムがデータによってどのように形成されるかは大きな懸念事項であり、これらのAIシステムを通じてどのような世界観が反映されるかについての問題も指摘されています。

AIの費用と不平等

これらのシステムを作成し維持するためには数十億ドルが必要であり、その結果、これらのシステムは非常に裕福な企業や個人だけが利用できる状況になっています。

AI批判の二つの側面

AIに対する批判には二つの側面があります。一方で、ジェフリー・ヒントンやエリーザー・ユダコフスキーなどはAIが存在の脅威であると主張しています。一方、ティムニット・ゲブル、デブ・ラジ、ジョイ・ブオラムウィニなどは、問題はどのようにこれらのモデルが作成され訓練されるかであり、それが何を引き起こすかについても同様であると主張しています。