ＥＵのＡＩ規制案

人権守る厳格な制度　日本でも

　欧州連合（ＥＵ）の執行機関、欧州委員会が人工知能（ＡＩ）の利用ルールを定める規制案を発表しました。国・地域として初めての包括的法的枠組みづくりです。人権を侵害するリスクのある使い方を幅広く規制し、警察の顔認証捜査は原則禁止とします。ＡＩは今後、仕事や生活のあらゆる分野に活用が広がるとみられます。その一方、権力による市民監視や「スコアリング」（個人データにもとづく個人の格付け）への利用が懸念されています。日本でも検討すべき重要課題です。

公共での顔認証捜査禁止

　ＥＵは、個人情報保護を抜本的に強めた「一般データ保護規則」（ＧＤＰＲ）の制定をはじめ、社会のデジタル化に伴って人権を守る法制度の整備を進めています。ＡＩ規制案もその一環です。

　禁止事項の一つが、警察その他の公的機関が公共の場で市民をカメラで監視し顔認証など生体認証システムで個人を識別する行為です。行方不明となった子どもの捜索のような、ごく限られた場合を除いて違法とします。

　英国ではすでに顔認証捜査を違法とする判決が出ています。米国でも顔認証捜査が誤認逮捕を誘発すると指摘され、ＩＴ大手のＩＢＭやマイクロソフトは顔認証技術の警察への販売停止を宣言しました。こうした流れを受け、ＥＵとして禁止します。

　このほか、政府がＡＩを使って個々の市民に評価を加える「社会的スコアリング」や、消費者の潜在意識に働きかけるサブリミナル広告も禁止行為です。

　警察の捜査以外のすべての生体認証システム、企業の採用試験や銀行のローン審査のためのスコアリングについては「高いリスク」のある行為とされ、各国政府が独立機関で事前に審査し、許可された使い方だけが認められます。

　違反に対しては最大３０００万ユーロ（約４０億円）または世界売上高の６％の罰金が科せられます。

　今後、欧州議会と加盟国政府で審議され、採択、施行まで長期を要するとみられますが、世界が行方を注目しています。ＥＵ外でのＡＩ利用についても、ＥＵ内に効果が及ぶ行為は規制の対象となるため、影響は同域内にとどまりません。

　日本では政府の総合イノベーション戦略推進会議が２０１９年３月に「人間中心のＡＩ原則」を決定し「ＡＩの利用は、憲法および国際的な規範の保障する基本的人権を侵すものであってはならない」としましたが、菅義偉政権は具体的な規制に後ろ向きです。

　人権が守られないＡIの使い方は日本でも大きな問題になっています。スコアリングについては、リクルートキャリア社が就職情報サイトの閲覧履歴を解析した「内定辞退率」を企業に販売していたことが１９年に発覚し、行政指導を受けました。警察庁が、検挙歴のある容疑者の顔写真と、監視カメラやＳＮＳの画像を照合する顔認証システムを全国で運用していることには懸念が広がっています。