イギリスの国営放送BBCでは、毎年１回、Reith Lectures（リース・レクチャーズ）と呼ばれるシリーズで、その時代をリードする哲学者、歴史家、芸術家等、さまざまな分野の専門家が数回にわたる講義を行います。１９４８年から続いているシリーズで、当時のBBCのダイレクター、Reith（リース）氏が、「ブロードキャスティング（放送）は、国民の知的・文化的生活を豊かにすることを目的とした公共サービスであるべきだ」という信念に基づき、現代の人々が直面している課題について、国民の理解を深め、議論を進めることを目的に、該当分野での第一人者を招いて、一般聴衆を前に講義を行います。イギリスらしく、一般聴衆からの質疑応答にもかなりの時間を割きます。

２０２１年度は、AI（Artificial Intelligence －人工知能）の専門家、Stuart Russell（スチュアート・ラッセル）氏が招かれました。イギリス国内であれば、 ここ より視聴可能です。

ラッセル氏は、全く偉ぶらない人で、軽やかに、興味や好奇心に満ちた若々しい声で、冗談を織り交ぜながら分かりやすく語っていきます。

「AI（Artificial Intelligence ）ー人工知能」といっても、何を指しているのか、今ひとつわかりづらいかもしれませんが、実際に私たちの生活の中でも、既に日常的に使われています。

例えば、AppleのiPhoneでSiriに質問をすると、人工知能があなたの話し言葉を理解して、どのように答えるのかを探し出します。また、求職の際、履歴書は人工知能が過去のデータと照らし合わせ最適と思われる履歴書を選び出し、クレジットカードを使った際には、人工知能が本当の正しい取引なのか、詐欺なのかを毎回チェックしています。

ラッセル氏が強調していたのは、人工知能は「目的」を決めることはできず、その「目的」を決めるのは人間ということです。
間違った「目的」を定めた場合、人工知能には、倫理的に社会全体にとって良いことか、悪いことかの区別はできないので、とんでもない結果を引き起こす可能性があります。

既に、ある戦争では、小さなドローンに少量の爆発物を搭載して、人工知能を使い、ターゲットに該当する人に対しての殺人も、人間がドローンの操作を直接行うことなしで、行われています。

また、近年では、多くのソーシャルメディアで、「利益を上げること」を究極の目的として、子供たちの心理的・身体的な安全を完全に無視するようなアルゴリズムの使用も問題となっています。

そのため、正しい「目的」を定めることは非常に重要であり、人工知能の研究にも多くのEthics（倫理学・道徳哲学）の専門家が協働しています。

ラッセル氏は、ここ５年くらいの大きな変化として、人工知能の研究者の若い世代の多くが、いかに社会を良くするか、という倫理面に深い関心がある層が大きく増えたと述べており、非常に良い傾向であるとしていました。

ラッセル氏は、人工知能の目的は、General Purpose AI（汎用 人工知能）とし、「人間が行うことのできる全範囲のタスクを行うことを素早く学ぶことのできるマシーン」であると規定しています。これには、翻訳やカスタマーサービスでの対応等は含まれていますが、「殺人」や「企業の利益目的」のために、人々や社会の安全を脅かすアルゴリズムの適用に人工知能を使用するのは完全に間違った「目的」です。

この「目的」は人間が定めています。人工知能には目的は定められません。

ラッセル氏は、人工知能の軍事使用について、国際的に利用の制限を設けるよう求め、また、ソーシャルメディアでの使用についても、何らかの国際的な決まりを定めるよう求めています。これについては、別記事で扱います。

また、「人工知能」というと、映画やサイエンス・フィクションに出てくるような感情を持ち、人類を滅ぼすようなものを想像している人たちもいますが、ラッセル氏は、「現状の段階では」と前置きしつつ、「人間のような感情を持つ人工知能は考えられない」としていました。

ここで、ラッセル氏が慎重なのは、原子力についても、軍事使用できるようなレベルになるには、とてつもなく時間がかかる、とされていたのに、非常に短い時間で科学者が方法を見つけたことにあります。比較的新しいテクノロジーについて、「絶対」ということは難しいという一例でしょう。

人工知能は、大量のデータを処理・判断することには優れており、近年では、画像やスピーチの処理も格段に向上したものの、人間が間違ったアルゴリズムを人工知能に適用すれば、間違った結果が素早く、何万回もはじきだされるだけで、何の意味もありません。

また、例にあがっていたものとしては、人工知能を搭載したロボットに「子供にご飯（栄養）を与える」ことを「目的」としていた場合、冷蔵庫を開けると何もなかった場合、たまたま猫といった動物を見ると、猫という命をもった大事ないきもの、という見方はせずに、「栄養」という目的に沿ったものだと見なす可能性があり、その際には、予期しなかった悪いことが起きる可能性もあります。
目的を正しく設定することと、何らかの予期していなかった事柄に遭遇した際にも備えて、人工知能を人間がスイッチオフできることと、大事な決断には人間の判断をあおぐよう組み込むことも大事だとラッセル氏は述べていました。

人工知能というと、人間の仕事が奪われる、という人たちもいます。

ラッセル氏は、Autonomouse driving（自律運転）はある程度大きな影響を与えるだろうが、現時点での人工知能は、General Purpose AI（汎用 人工知能）となるには、まだ十分ではない、としています。ただ、２０，３０年先、或いはもう少し前には、汎用 人工知能として機能し、現在人間が行っているほぼすべての反復的な作業を伴う仕事や、簡単なカスタマーサービス等は人工知能や人工知能を搭載したロボットに置き換わる可能性が高い、としています。
窓のないオフィスで延々と同じことを毎日、数十年にわたって繰り返すロボットのような仕事を人間がやってきたことを考えれば、ロボットや人工知能に仕事が置き換わるのは、そう悪いことではないのではないか、という見方もできます。

社会の仕組も大きく変える必要性があり、ラッセル氏は、経済学者たちとサイエンス・フィクション作家たちを一か所に集めて、どのような未来の社会がありえるのか、を話し合うプロジェクトを行いました。
サイエンス・フィクションの作家と経済学者の組み合わせは不思議に思えるかもしれませんが、実際、サイエンス・フィクションが何十年もたって現実になったこともあり、彼らの創造性は、今までにない未来を創るためには不可欠のものでしょう。

この面白い実験についても、別記事で。

「人工知能」というと、なんだか自分には関係のない世界のように見えるかもしれませんが、実際に自分の日常の生活、人生にも既に日常的に影響を及ぼしていて、よく理解することは大事です。
私自身も、大学では美学・美術史を学び、ITエンジニアになりましたが、ヨーロピアンの友人でComputingの学位や修士を終えてエンジニアになった人々とも、しばしばこのEthics（倫理）という話題は出てきます。ヨーロッパ全般では、サイエンスを専攻していても、人文学にも興味があり詳しい人々がたくさんいます。
ラッセル氏も、専門は数学と人工知能ではあるものの、経済学・哲学への興味と勉強したことは、自分の中でも大きな影響をもたらしている、と言っていました。
日本だと、幼いうちに、受験のために「文系」「理系」と分けてしまい、早い段階で、知ることや興味をもつ機会が失われるのは残念ですが、私たちは、いつでも学ぶことができます。
日本の基礎教育は優れているので、新たに何かを学ぶことは多くの人々にとって難しいことではないでしょう。

私たちの生活や、私たちが生きる社会に大きく影響を与えるものについては、興味をもちながら、楽しく知っていくことが大切です。
周りの人々と話すことも大事です。
間違った方向に行きそうなときには、気づいて、周りの人々と協力して、政府に「No」をつきつけることも必要です。
この際にも、英語での情報は役立ちます。
現代は、世界中で多くの人々や社会が同じ問題を共有しており、他の国々でどのように対応しているのかを知るのは有用だし、国境を越えて協力しあうことも可能です。