イスラエルだけでなく、欧州のAI規制は全世界に影響を与える可能性があるかもしれません。サイバーセキュリティに次いで、イスラエルといえばAIとなっている昨今、この規制に関して現地メディアが以下のように報じています。

”この規制は、バイオメトリクス分類システム、インターネットやCCTV映像からの顔画像の非標的スクレイピング、職場や教育機関における感情認識、社会的行動に基づくソーシャルスコアリング、人間の行動を操作するAIシステム、人の脆弱性を悪用するために使用されるAIを禁止している”

欧州連合（EU）の政策立案者と議員たちは先週金曜日、ChatGPTのようなツールや生体認証監視における人工知能（AI）の使用を規制する世界初の包括的な規則について合意した。

来年初頭に発効し、2026年に適用される予定の最終的な法案を変更する可能性があるため、今後数週間で詳細を詰めることになる。

それまでは、企業は自主的なAI協定にサインアップし、規則の主要な義務を履行することが奨励されている。

以下は、合意された主なポイントである：

ハイリスクシステム

いわゆる高リスクのAIシステム（健康、安全、基本的権利、環境、民主主義、選挙、法の支配に重大な害を及ぼす可能性があるとみなされるもの）は、基本的権利の影響評価を受けるなどの一連の要件や、EU市場へのアクセスを得るための義務を遵守しなければならない。

リスクは限定的と考えられるAIシステムには、ユーザーがその使用方法を決定できるように、コンテンツがAIによって生成されたものであることを宣言する開示ラベルなど、ごく軽い透明性義務が課されることになる。

法執行におけるAIの利用

法執行機関による公共空間でのリアルタイムの遠隔生体認証システムの使用は、誘拐、人身売買、性的搾取の被害者の特定を支援する場合、および特定かつ現在のテロリストの脅威を防止する場合にのみ許可される。

また、テロ犯罪、人身売買、性的搾取、殺人、誘拐、強姦、武装強盗、犯罪組織への参加、環境犯罪の容疑者を追跡する努力においても許可される。

汎用AIシステム（GPAI）と基盤モデル

GPAIとファウンデーションモデルは、技術文書の作成、EU著作権法の遵守、アルゴリズム訓練に使用されたコンテンツに関する詳細な要約の公表などの透明性要件の対象となる。

システミック・リスクをもたらすと分類されたファウンデーション・モデルや、影響力の大きいGPAIは、モデルの評価、リスクの評価と軽減、敵対的テストの実施、重大インシデントに関する欧州委員会への報告、サイバーセキュリティの確保、エネルギー効率の報告などを行わなければならなくなる。

統一されたEU基準が公表されるまでは、システミック・リスクを有するGPAIは、この規制を遵守するための実践規範に頼ることができる。

Source Link ↓