第２１回 EU AI法（AI規則）の汎用目的AI及び生成AIに対する規制の概要
2023年1月26日付けで昨年12月に政治合意が成立したEU AI法(AI規則)のほぼ最終ドラフトが公表された(注:Proposal for a Regulation of the European Parliament and of the Council layingdown harmonised rules on artificial intelligence (Artificial Intelligence Act) and amendingcertain Union legislative acts Analysis of the final compromise text with a view to
agreement)。
特に興味を惹くのは、foundation model(基盤モデル)とも呼ばれていたgeneral purpose AI(汎用目的AI,GPAI)及び、generative AI(生成AI)対する規制である(なお、general purpose AI(汎用目的AI,GPAI)は、汎用AI(Artificial General Intelligence, AGI)とは異なる概念である。)。
1 汎用目的AI
(1)定義
AI法3条44b号は、汎用目的AIモデルを、顕著な汎用性を示し、広範囲な異なるタスクを有能に遂行することができ、多様な下流のシステムやアプリケーションに統合可能なもの等と定義する。
このような汎用目的AIモデルのうち、以下の2つのいずれかに該当すると、システミックリスクをもたらし得る汎用目的AIモデルとされる(AI法52a条1項柱書)。
指標およびベンチマークを含む適切な技術的ツールおよび方法論を基に評価された高度な影響を及ぼす能力を有する(同項(a)号)職権により、又は、汎用目的AIモデルが上記(a)号の能力又は影響力に相当するものを有しているとの科学パネルからの的確な警告に基づき、委員会が決定した場合(同項(b)号)
(2) 汎用目的AI全てに適用されるルール 汎用目的AIについては、汎用目的AIの定義に該当するAIの提供者が、委員会に通知する義務等が課せられ(AI法52b条)、その他、モデルの技術文書の策定と更新(AI法52c条1項(a)号)、汎用AIモデルをAIシステムに統合したAIシステム提供者に対する情報提供等(AI法52c条1項(b)号)、著作権法を尊重するポリシーの実施(AI法52c条1項(c)号)、AIオフィスの提供するテンプレートに基づき汎用AIモデルの訓練に用いたコンテンツに関する十分に詳細なサマリーを策定し、公表する(AI法52c条1項(d)号)義務、代理人を置く義務(AI法52ca条)等を負い、監督に服する(AI法68f条以下)。
(3) システミックリスクをもたらし得る汎用AIモデルに適用されるルール
システミックリスクをもたらし得る汎用目的AIモデルに対しては、上記イで述べた義務に加え、以下の義務が課せられる(AI法52d条1項)。
(a) システミックリスクを特定し、軽減するためのモデルの敵対的テストの実施・文書化を含む、最新の技術を反映した標準化されたプロトコルとツールに基づくモデル評価を実行する(同項(a)号)。 (b) システミックリスクをもたらし得る汎用目的AIモデルの開発、上市、または利用から生じる可能性がある、その源泉を含むEUレベルにおいてもたらし得るシステミックリスクを評価し、軽減する(同項(b)号)。 (c) 重大なインシデント及びそれに対処するための可能な是正措置に関する関連情報を、経時的に記録し、文書化し、AIオフィスおよび適切な場合には国内の所轄当局に対し、不当な遅滞なく報告する(同項(c)号)。 (d) システミックリスクをもたらし得る汎用目的AIモデルおよびそのモデルの物理的インフラストラクチャに対して、適切なレベルのサイバーセキュリティに関する保護措置を講じる(同項(d)号)。
2 生成AI
生成AIと汎用目的AIの関係については、AI法前文において、生成AIが汎用目的AIの典型例である(AI法前文60c)とか、汎用目的AI、とりわけ生成AIがユニークなイノベーションの機会と共に、芸術家、作家及び他のクリエイター等への挑戦を投げかけていること(AI法前文60i)等が説明されている。
その上で、AI法52条1a項において、例えば生成AIシステムの提供者が、当該AIの出力物が、AIによって生成され又は加工されたことが機械可読性のあるフォーマットでマークされ、かつ、そうであると検出可能であるようにしなければならないとし、また、同条3a項第1段落でディープフェイクを生成するAIシステムのデプロイ者に対して、当該コンテンツがAIによって生成され又は加工されたことを公表しなければならないとし、同項第2段落で公衆に対し公共の利害に関する事項について伝達する意図を持って発行される文章を生成し又は加工するAIシステムのデプロイ者は、当該文章がAIによって生成され又は加工されたことを公表しなければならないとする。
このようなEUのAI規制の内容が固まったことは、日本のAI規制にも大きな影響を及ぼすと予想される。
賛助会員には以下のコンテンツが配信されます。
- 理事から一言
- 総会理事会
- 業界の動き
- 事務局からのお知らせ
- NEWS