【専門家がみる生成AI最新動向】
このシリーズではデロイトの生成AI有識者たちが、生成AIに関する最新動向を解説していきます。
三回目は、有限責任監査法人トーマツの嶋 威一郎が解説する「生成AI（AIを含む）に関する規制動向及び日本政府における生成AIの方向性」です。諸外国、国際機関、日本それぞれの最新動向（2023.10.15時点）を3回に分けて解説していきます。Vol.1は海外の動向を紹介します。

解説者紹介

嶋 威一郎(Iichiro Shima)

有限責任監査法人トーマツ RA Government & Public Services所属/マネージャー
 
・公認情報システム監査人(CISA)
 
前職において、中央省庁、独立行政法人、地方自治体に対するITコンサルティング業務(最適化支援、調達支援、情報推進計画策定、ITアドバイザリー、マイナンバー導入支援、ICT-BCP策定支援等)に従事するとともに、サイバーセキュリティのソリューション開発に従事。
 
独立行政法人、特殊法人のサイバーセキュリティ対策に関するマネジメント監査業務に従事した後、2018年6月より外部へ兼務出向してサイバーセキュリティ対策に関する業務に従事するとともに、サイバーセキュリティのガバナンスルールの策定等にも従事。
 
現在は、引き続き外部へ出向中であるとともに、政府機関等におけるサイバーセキュリティ、デジタル・DX政策の知見を活かし、国内外のサイバーセキュリティ、デジタル・DX政策の動向をグループ内に紹介し、政府・公共サービス分野の知見蓄積に取り組んでいる。
さらに、生成AIを含むAIの規制やガバナンス構築について、国際機関、国内外の政府機関、企業、研究機関、民間団体、市民団体等の最新動向を情報収集している。

1. はじめに

ご存じの通り、2022年11月30日にOpenAI*1が生成AIである「ChatGPT*2」を公開し、数か月で世界中に生成AIブームが起き、現在も続いています。
ChatGPTの登場により、一部の研究機関や企業で利用されていたAIが、一般の人々による生成AIの利用が急速に拡大した結果、AIに関する潜在的リスクが顕在化し、海外及び日本において生成AIを含むAIに関する規制が急速に議論されており、一部では規制が開始されている状況です。
 本記事では、海外及び日本における生成AIを含むAI規制の最新動向についてご紹介します。

2. 海外の動向

2.1 米国

2.1.1 ホワイトハウス(大統領府)

バイデン政権では、ホワイトハウス*3の科学技術局(OSTP)が、2022年10月4日に、「AI権利章典の青写真(Blueprint for an AI Bill of Rights)*4」を発表し、AIの設計・開発・導入の指針を示すなど、AIに関する取り組みを進めていますが、生成AIの急速な普及・発展を踏まえ、2023年に入って大手AI企業との意見交換、連邦議会へAIに関する新たな法律制定の呼びかけるとともに、当面は大統領令によるAIに関する規制対応を行う方針となっています。

 2023年2月16日に発表した大統領令*5おいて、AIによって発生する偏見を抑止し、アルゴリズムによる差別から国民を守るための対応を連邦機関へ指示しました。

2023年6月20日には、バイデン大統領がAIに関する規制について、新たな法律を超党派ですべきであると呼びかけました*6。

また、2023年7月21日に、Amazon、Anthropic、Google、Inflection、Meta、Microsoft、OpenAIの大手AI企業7社をホワイトハウスに集め、企業による自主的な取り組みについて、「AIのリリース前に安全性の確認(セキュリティテストの実施、AIのリスク管理に関する情報共有 等)」「セキュリティを優先したAIシステムの構築」「社会的信頼性の確保(電子透かしの導入によるAIで生成されたコンテンツの証明、AIの機能・制限・適切な使用範囲・不適切な使用に関する説明責任、偏見・差別の回避・プライバシーの保護 等)」をホワイトハウスと合意*7しました。

 さらに、2023年9月12日には、Adobe、Cohere、IBM、Nvidia、Palantir、Salesforce、Scale AI、Stability の 8社が自主的な取り組みに対してホワイトハウスと合意*8しました。
現在、バイデン政権では、アメリカ国民の権利と安全を守るためにAIに関する大統領令を策定中*9です。

2.1.2 連邦議会

米国の連邦議会では、議会内の様々な委員会でAI企業から意見を聞く動きが活発化していますが、上院議会では民主党の院内総務であるチャック・シューマー議員が中心となって超党派によるAIに関する新たな規制法案の検討が進められています。
チャック・シューマー議員は、2023年6月21日に「SAFE Innovation Framework For Artificial Intelligence*10」を発表し、連邦議会議員、専門家、企業、民間団体等を集めて意見交換を行う「AI Insight Forum」の開催を提唱*11し、第1回の「AI Insight Forum」を2023年9月13日に連邦議会で開催*12しました。

連邦議会におけるAI規制に関する新たな法律制定に関する動きについては、引き続き関係者と意見交換を継続しており、今後の動きが注目されています。

2.1.3 米国議会図書館 米国著作権局

米国では、米国議会図書館*13米国著作権局が著作権を一元的に管理しており、様々な著作物の著作権に関する登録を受け付け、著作物の著作所有権に関する情報を管理し、国民等にその情報を提供しています。
米国著作権局は、2023年3月16日に「AIにより生成されたコンテンツを含む著作物の著作権登録ガイダンス(Copyright Registration Guidance: Works Containing Material Generated by Artificial Intelligence*14)」を公表し、著作権に関する過去の訴訟における連邦最高裁判所の判決結果を踏まえ、「著作者に人間以外の者は含まれていないこと」、「著作物と認められるには、人間よって作品が作られたものであること」、「AIが生成したコンテンツの表現要素を決定する場合、人間の著作物とは認められないこと」、「AIが生成したコンテンツを含む作品には、著作権主張を裏付けるのに十分な人間の著作権が含まれることが必要であること」等が示され、著作権の登録にあたってはAIによって生成されたコンテンツが含まれていることの開示と、作品に対する人間の貢献内容を説明する義務が求められることになりました。

生成AIによって生成された作品に関する著作権については、本ガイドラインを踏まえ、著作権の登録が却下されたことに対する訴訟が既に起きており、連邦裁判所の一審で米国著作権局の主張を認める判決が出て、現在も係争中です。
 
米国著作権局では、「著作権とAI（Copyright and Artificial Intelligence）*16」というAIの著作権に関する専用Webページを開設して、様々な情報をまとめています。また、生成AIの急速な普及・発展によって発生した様々な著作権に関する問題に関する意見照会である「Copyright Office Issues Notice of Inquiry on Copyright and Artificial Intelligence*17」を2023年10月18日まで実施しています。

2.2 欧州連合(EU)

欧州連合(EU)では、AI規制法案である「Artificial Intelligence Act *18」を2023年6月14日に欧州議会*19で採択され、現在は欧州理事会、欧州委員会、欧州議会による交渉段階へ移行しています。

本法案は、人間中心で信頼できるAIの普及を促進し、健康、安全、基本的権利、民主主義をその有害な影響から保護することを目的としており、スクベースのアプローチに従い、AIが生み出す可能性のあるリスクのレベルに応じて、AIサービス提供事業者とAIを導入する企業への義務を定めています。

2021年から欧州委員会、欧州議会で議論していたため*20、当初は生成AIを前提とした規定はなかったですが、生成AIの急速な普及・発展を踏まえ、採択された法案*21 では、透明性要件(コンテンツがAIによって生成されたものであることを明らかにし、いわゆるディープフェイク画像と本物の画像を区別)に準拠し、違法コンテンツの生成に対する保護措置を確保することを求めています。また、AI開発時に使用する学習用データについて、学習用データに含まれる著作権を有する情報の詳しい要約も公開することも求めています。 

本法案の規制が厳しいため、欧州の大手企業150社余りの経営者が生成AIを開発・導入する企業のコスト及び法的リスクに直面し、欧州のAI分野における発展が停滞するおそれがあり、法案の修正を求めオープンレター「Open letter to the representatives of the European Commission, the European Council and the European Parliament*22」を2023年6月30日に欧州委員会へ送付しており、施行にあたっての交渉に時間が掛かると想定されます。また、英国下院議会*23より「AIガバナンスに関する中間報告(The governance of artificial intelligence: interim report – Report Summary)*24」でも2023年中に合意される可能性は低く、2026年まで完全に施行されない可能性があると指摘されています。

2.3 英国

英国*25では、2023年2月に新設された「科学・イノベーション・技術省(DSIT)」が、2023年3月29日に「AI規制に関する白書(A pro-innovation approach to AI regulation)*26」を発表し、生成AIの発展・普及に伴うAI規制の枠組みが示されましたが、新たな法律の制定といった取り組みは特段行われておらず、既存の法律に基づいた検討が進められています。

2023年8月31日に、英国下院議会*23より「AIガバナンスに関する中間報告(The governance of artificial intelligence: interim report – Report Summary)*24」が公表されました。本報告書では、「AI規制に関する白書(A pro-innovation approach to AI regulation)」で示されるAI規制の枠組みではAIの発展に追い付かず、米国や欧州連合(EU)に後れを取る懸念、AIに関する新たな法律制定を検討する必要性が示されています。

 英国では、2023年11月1日～2日に、各国政府、大手AI企業、市民団体、専門家を集めたAIの安全に関する初のサミット(AI Safety Summit 2023*27)が開催される予定であり、英国政府はAIの安全性に関する取り組みを主導していくことを目指しています。

2.4 中国

中国政府の「中国サイバースペース管理局(CAC)*28」は、生成AIに対して、「生成AIで生成したコンテンツが、社会主義の中核的な価値観を堅持し、国家権力の転覆を扇動・社会主義制度を転覆、国家の安全と利益を危険に晒す・国家イメージを傷つける・国家の統一と社会の安定を損なう・テロや過激主義を助長する等の禁止」、「生成AIのサービス提供前に中国政府の審査を求める」等の「生成型AIの規制措置(案)」を2023年4月11日に公表し、パブリックコメントを実施しました*29。
そして、パブリックコメントの結果を踏まえ、2023年7月10日に「生成型人工知能サービスの運営に関する暫定法(生成式人工智能服务管理暂行办法) *30」を制定し、2023年8月15日より施行しています。

この法律は、生成AIの規制に関する世界初の法律であり、本法律の施行後、中国国内において複数の生成AIサービスがサービス提供を開始しています。

海外最新動向についてのご紹介は以上となります。
次回は国際機関の動向についてお伝えいたします。

出典

1. OpenAI：https://openai.com/

2. ChatGPT：https://openai.com/chatgpt

3. ホワイトハウス：https://www.whitehouse.gov/

4. Blueprint for an AI Bill of Rights：https://www.whitehouse.gov/ostp/news-updates/2022/10/04/blueprint-for-an-ai-bill-of-rightsa-vision-for-protecting-our-civil-rights-in-the-algorithmic-age/

5. THE WHITE HOUSE「Executive Order on Further Advancing Racial Equity and Support for Underserved Communities Through The Federal Government」：https://www.whitehouse.gov/briefing-room/presidential-actions/2023/02/16/executive-order-on-further-advancing-racial-equity-and-support-for-underserved-communities-through-the-federal-government/

6. THE WHITE HOUSE「Remarks by President Biden on Seizing the Opportunities and Managing the Risks of Artificial Intelligence」：https://www.whitehouse.gov/briefing-room/speeches-remarks/2023/06/20/remarks-by-president-biden-on-seizing-the-opportunities-and-managing-the-risks-of-artificial-intelligence/

7. THE WHITE HOUSE「FACT SHEET: Biden-⁠Harris Administration Secures Voluntary Commitments from Leading Artificial Intelligence Companies to Manage the Risks Posed by AI」：https://www.whitehouse.gov/briefing-room/statements-releases/2023/07/21/fact-sheet-biden-harris-administration-secures-voluntary-commitments-from-leading-artificial-intelligence-companies-to-manage-the-risks-posed-by-ai/

8. THE WHITE HOUSE「FACT SHEET: Biden-⁠Harris Administration Secures Voluntary Commitments from Eight Additional Artificial Intelligence Companies to Manage the Risks Posed by AI」：https://www.whitehouse.gov/briefing-room/statements-releases/2023/09/12/fact-sheet-biden-harris-administration-secures-voluntary-commitments-from-eight-additional-artificial-intelligence-companies-to-manage-the-risks-posed-by-ai/

9. THE WHITE HOUSE「FACT SHEET: Biden-⁠Harris Administration Secures Voluntary Commitments from Eight Additional Artificial Intelligence Companies to Manage the Risks Posed by AI」：https://www.whitehouse.gov/briefing-room/statements-releases/2023/09/12/fact-sheet-biden-harris-administration-secures-voluntary-commitments-from-eight-additional-artificial-intelligence-companies-to-manage-the-risks-posed-by-ai/

10. SAFE Innovation Framework For Artificial Intelligence：https://www.democrats.senate.gov/imo/media/doc/schumer_ai_framework.pdf

11. AI Insight Forum：https://www.democrats.senate.gov/news/press-releases/majority-leader-schumer-delivers-remarks-to-launch-safe-innovation-framework-for-artificial-intelligence-at-csis

12. 第一回AI Insight Forum：https://www.democrats.senate.gov/news/press-releases/majority-leader-schumer-floor-remarks-on-the-success-of-the-inaugural-ai-insight-forum

13. 米国議会図書館：https://www.congress.gov/

14. 米国著作権局：https://www.copyright.gov/

15. Copyright Registration Guidance: Works Containing Material Generated by Artificial Intelligence：https://copyright.gov/ai/ai_policy_guidance.pdf

16. Copyright and Artificial Intelligence：https://www.copyright.gov/ai/

17. Copyright Office Issues Notice of Inquiry on Copyright and Artificial Intelligence：https://www.copyright.gov/newsnet/2023/1017.html

18. Artificial Intelligence Act：https://www.europarl.europa.eu/news/en/press-room/20230609IPR96212/meps-ready-to-negotiate-first-ever-rules-for-safe-and-transparent-ai

19. 欧州議会：https://www.europarl.europa.eu/

20. European Parliament「Legislative Observatory」：https://oeil.secure.europarl.europa.eu/oeil/popups/ficheprocedure.do?reference=2021/0106(COD)&l=en

21. European Parliament「Document」：https://www.europarl.europa.eu/doceo/document/TA-9-2023-0236_EN.html

22. Open letter to the representatives of the European Commission, the European Council and the European Parliament：https://drive.google.com/file/d/1wrtxfvcD9FwfNfWGDL37Q6Nd8wBKXCkn/view

23. 英国下院議会：https://publications.parliament.uk/

24. UK Parliament 「The governance of artificial intelligence: interim report – Report Summary」：https://publications.parliament.uk/pa/cm5803/cmselect/cmsctech/1769/summary.html

25. GOV.UK：https://www.gov.uk/

26. GOV.UK「AI regulation: a pro-innovation approach」：https://www.gov.uk/government/publications/ai-regulation-a-pro-innovation-approach

27. GOV.UK 「AI Safety Summit: introduction」：https://www.gov.uk/government/publications/ai-safety-summit-introduction

28. 中国サイバースペース管理局(CAC)：http://www.cac.gov.cn

29. 国家互联网信息办公室关于《生成式人工智能服务管理办法（征求意见稿）》公开征求意见的通知：http://www.cac.gov.cn/2023-04/11/c_1682854275475410.htm

30. 生成型人工知能サービスの運営に関する暫定法(生成式人工智能服务管理暂行办法)： http://www.cac.gov.cn/2023-07/13/c_1690898327029107.htm