EUのAI規制法案が可決、「許容できない使用」を禁止：生成系AIの透明性も要求（2/2 ページ）

欧州議会が、AI（人工知能）規制法案「AI Act」の草案を可決した。今話題の生成系AIについても、透明性の要件を順守すべきとする。欧州議会議長を務めるRoberta Metsola氏は「技術が進展する時は必ず、基本的権利と民主主義的価値との密接な連携が不可欠である」と強調した。

[Anne-Francoise Pele，EE Times]

「許容できない使用」を禁止

　欧州議会議員であり共同報告者を務めるBrando Benifei氏は、「欧州はこのAI Actにより、信頼できるAIを構築する方法について世界の他の国々との対話を進めている。さまざまな機関が、真のリスクを特定することが可能な保障措置制度を構築しており、不必要な検査を行う必要がない場合にはAIに過度な負担をかけず、安全性や基本的権利に対するリスクが高い場合にはかなり本格的な適合性評価を行うことが可能だ」と述べている。

　欧州議会の投票は、EUの価値観に反するような許容できない使用や、耐え難いリスクを禁じることを目指して行われた。

　Benifei氏は、リアルタイム生体認証の明確な禁止を維持することに関して、議会の中で直前まで意見の相違があったことを指摘している。同氏は、「これを政治的に利用してプロパガンダの手段に変えるための試案がなされたが、われわれは議会の中で、大規模な監視のリスクを全て排除するための明確な安全措置を維持すると同時に、非リアルタイムの生体認証を利用して、社会の中に存在する犯罪などのあらゆるリスクを追求する可能性を維持していくという方向で承認を獲得した」と述べる。

AI生成コンテンツの検出

　欧州議会は、生成AIの爆発的な成長を受け、委員会と理事会から提示された文書を展開している。

　Benifei氏は、「生成AIや汎用AI、基本モデルの規制については、かなり先へ進むことができた。生成AIでは、AIによって作成されたコンテンツであることを認識できるようにして、ディープフェイクに民主主義を害されないようにしたい考えだ」と述べる。

　基本モデルのプロバイダーは、EU市場に出す前に、（ヘルス、安全性、基本的権利、環境、民主主義、法の支配などに対する）あらゆるリスクを評価、軽減し、それをEUデータベースに登録する必要がある。

　ChatGPTなどのモデルをベースとした生成AIシステムは、透明性要件に準拠し、違法コンテンツの生成に対する安全性を保証しなければならない。トレーニングで使われた著作権データの詳細なサマリーは、一般公開される予定だ。

【翻訳：田中留美、編集：EE Times Japan】