欧州議会は、生体認証による大規模な監視を全面的に禁止することについて賛成の立場を採択した。
顔認証などのAIを使った遠隔監視技術は、プライバシーのように自由や基本的な権利に大きく関わる問題だが、欧州ではすでに公共の場での使用が浸透している。
「プライバシーと人間の尊厳」を尊重するため、欧州議会は公共の場での個人の自動認識を恒久的に禁止することを可決すべきで、市民が監視されるのは犯罪の疑いがある場合のみだとした。
また、欧州議会は、民間の顔認証データベースの使用を禁止するよう求めた。米国のスタートアップ企業であるClearviewが開発した、物議を醸しているAIシステムがその例だ（これも欧州の一部の警察がすでに利用している）。欧州議会は、行動データに基づく予測的な取り締まりも非合法化すべきだとしている。
加えて欧州議会は、市民の行動や性格に基づいて信頼性を評価するソーシャルスコアリングシステムも禁止したいと考えている。
欧州連合（EU）執行部は4月、高いリスクをともなう人工知能技術の利用を規制する法案を発表した。この法案には、ソーシャルスコアリングの禁止や、公共の場での生体認証による遠隔監視の原則禁止が含まれていた。
しかし、市民社会、欧州データ保護会議、欧州データ保護監督官、および多くの欧州議会議員は直ちに、欧州委員会の提案が十分に行き届いていないと警告した。
関連記事：欧州議会議員グループが公共の場での生体認証監視を禁止するAI規制を求める
欧州議会全体としても、基本的権利に対する保護措置の強化を望んでいることが明らかになった。
現地時間10月5日夜に採択された決議で欧州議会議員は、市民の自由・司法・内務委員会の「刑法における人工知能」に関する報告書に377対248で賛成し、人工知能法の詳細を詰める今後のEU機関間の交渉で欧州議会が何を受け入れるかについて、強いシグナルを送った。
#EPlenary has adopted a resolution on the use of AI in law enforcement (@PetarVitanovMEP).
Votes: 377248 62 0⃣ Press release to follow.
— LIBE Committee Press (@EP_Justice) October 6, 2021
生体認証による遠隔監視に関する関連パラグラフでは、欧州委員会に次のことを求めた。
立法および非立法の手段により、また、必要ならば侵害訴訟により、法の執行を目的とした顔画像を含む生体データの処理で、公共の場での大量監視につながるようなものを禁止することを求める。さらに欧州委員会に対し、公共の場での無差別な大量監視につながる可能性のある生体データの研究や展開、プログラムへの資金提供を禁止するよう求める。
この決議は、アルゴリズムによる偏見にも目を向け、AIによる差別を防ぐために、特に法執行機関において、あるいは国境を越える場面で、人間による監督と強力な法的権限を求めた。
最終的な判断を下すのは常に人間のオペレーターでなければならず、AIを搭載したシステムに監視されている対象者は救済措置を受けることができなければならない、と欧州議会議員は合意した。
また、欧州議会議員は、AIベースの識別システムを使用する際に基本的権利が守られるよう求めた。AIベースの識別システムは、少数民族、LGBTI、高齢者、女性の誤認識が高いことが指摘されている。そして、アルゴリズムが備えるべき要件として、透明性、追跡可能性、十分な文書化が必要だとした。
公的機関に対しては、可能な限り透明性を高めるために、オープンソースのソフトウェアを使用するよう求めた。
さらに欧州議会議員は、EUから資金提供を受け、物議を醸している研究プロジェクトにも狙いを定めた。顔の表情を分析して「スマートな」嘘発見器を開発するという「iBorderCtrl」プロジェクトは中止すべきだと主張した。
関連記事：欧州司法裁判所で異議申立てされた「オーウェル的」AIうそ発見器プロジェクト
報告者のPetar Vitanov（ペーター・ビタノフ）氏（ベルギー、社会民主進歩同盟）は声明で次のように述べた。「基本的権利は無条件に与えられるものです。今回初めて、法の執行を目的とした顔認証システムの導入を一時停止することを要求します。この技術は効果的ではなく、しばしば差別的な結果をもたらすことが証明されているためです。私たちは、AIを利用した予測的な取り締まりや、大量の監視につながる生体情報の処理には明確に反対します。これは、すべての欧州市民にとって大きな勝利です」。
TechCrunchは欧州委員会に対し、今回の投票についてコメントを求めたところだ。
同議会の決議は、司法判断を補助するAIの禁止も求めている。これも、自動化がすでに適用されている大きな議論を呼ぶ分野だ。自動化により、刑事司法制度における偏見が体系的に固定・拡大される危険性がある。
世界的な人権慈善団体であるFair Trialsは、今回の採択を「テクノロジー時代の基本的権利と無差別のための画期的な結果」と歓迎している。
画像クレジット：Getty Images
［原文へ］
（文：Natasha Lomas、翻訳：Nariko Mizoguchi）