aiによって社会はどのように変容するべきか, 法学/経済学などの観点から。

原子力規制

「人類が自らを破滅させてしまう可能性のある」ツールとして原子力があると思いますが, aiもそれに該当しそう。例えば, 新しい感染症を効率的に作り出すことができる, 目的関数が公共の福祉に反する形で設計されてagiが世界を席巻する。

aiや原子力はあくまでツールで, それを人類がどのように活用できるかという動機から, 原子力規制がどのような経緯を辿ってきたかを振り返るのは, 意味がありそう。

aiのゴッドファーザーの一人, Yoshua Bengio氏も, 1930/40年代の物理学と昨今の人工知能開発は似たような状況なのではと言及したことが, 発想の契機。

気候変動対策のインセンティブ付

経済的な利潤追求と倫理観の追求は相反するが, 現在の気候変動対策のガバナンスにおいては企業や政府が気候変動対策に取り組むようにインセンティブ設計をしている。

人工知能開発も, この類。ユーザーのペルソナを完全にモデルに再現させてどのようなコンテンツが刺さるのかsns上で学習させて久しい。この手法で各社エンゲージメントを高めて経済的な利潤追求しているけど, これも倫理観に気を遣わないとという事案。米国の公聴会でもzukerbergが自殺した子供の遺族に対して直接謝罪していた。