欧州、AIの市民監視を制限へ

米中とは異なる「人間中心」のアプローチ

Apr 19, 2021

毎週火・金曜日発行のAxion Newsletterは、デジタル経済アナリストの吉田拓史（@taxiyoshida）が、その週に顕在化した最新のトレンドを調べて解説するニュースレターです。同様の趣旨のポッドキャストもあります。ぜひご登録ください。

要点

欧州はAIの市民監視利用を制限しようとしている。デジタル監視国家を建設した中国、ビッグテックに事実上、プライバシーの管理を委ねている米国とは一線を画す、「人間中心」の戦略をとっている。

欧州委員会は今週、AIの「高リスク」アプリケーションを規制する枠組みの提案を発表する予定だが、先週、その草案のコピーがリークされた。

POLITICOが14日に入手した欧州連合（EU）の人工知能（AI）規則の草案によると、欧州委員会は、「リスクの高い」AIシステムの特定の使用を全面的に禁止し、基準を満たさないものはEUへの参入を制限するとしている。基準を満たさない企業には、最大で2,000万ユーロ（約26億円）または売上高の4％の罰金が科せられる可能性がある。欧州委員会は4月21日に最終規則を発表する予定だ。

この規則は、人工知能を規制する初めてのものであり、EUは独自のアプローチを強調したいと考えているという。EUは、米国のように強力な技術を持つ企業に任せることも、中国のように技術を利用して監視国家を形成することも望んでいない。その代わりに、ハイテクを後押しすると同時に、厳格なプライバシー法を脅かさないような「人間中心」のアプローチを求めている。

製造業を効率化したり、気候変動をモデル化したり、エネルギーグリッドをより効率的にしたりするAIシステムは歓迎される。しかし、現在ヨーロッパで使用されている技術の多くは、履歴書のスキャン、信用力の評価、社会保障給付や亡命・ビザ申請の配布、裁判官の判断支援などに使用されるアルゴリズムは、「高リスク」とみなされ、特別な監視の対象となるようだ。

規制案には以下のような内容が含まれている。

個人を直接追跡したり、他のソースからデータを集約したりするシステムを含む、「無差別な監視」のためのAIの禁止
社会的行動や予測される人格特性に基づいて人の信頼性を判断することを意味する社会的信用スコアを作成するAIシステムの禁止
顔認証などの「遠隔生体認証システム」を公共の場で使用する際の特別な許可
人がAIシステムと対話する際には、「状況や使用状況から明らかな場合」を除き、通知が必要自動運転車のように安全性を直接脅かすものや、雇用、司法判断、信用スコアリングに使用されるような、人の生活に影響を与える可能性が高いものなど、「高リスク」のAIシステムに対する新たな監視体制の構築
サービスを開始する前に、リスクの高いシステムの評価。これらのシステムが説明可能であることや、偏りがないかテストされた「高品質」なデータセットで訓練されていることが含まれる。
欧州委員会がどのAIシステムを「高リスク」と見なすかを決定し、禁止事項の変更を勧告するために、各国の代表者からなる「欧州人工知能委員会」を設置

この草案が採用されれば、EUは、米国や中国とは一線を画し、AIの特定の用途に対して強い姿勢で臨むことになる。一般データ保護規則（GDPR）でも顕にされた、欧州の独自路線が再び強調されることになる。

しかし、このルールでは、当局が重大な犯罪と闘う場合には、AI技術の使用を認める例外規定を設けている。例えば、公共の場での顔認識技術の使用は、その使用が時間的・地理的に限定されている場合には認められる可能性がある。欧州委員会は、法執行機関の職員が監視カメラの顔認識技術を使って、例えばテロリストを発見するような例外的なケースを認めるとしている。

草案のリーク先が米系メディアのPOLITICOだったことはある可能性を想起させる。これは観測気球で、欧州は米国の出方を見たいと考えている、ということだ。

この厳しいルールは、EUの同盟国からも非難される可能性がある。米国は、中国への対応を重視しており、米国企業がこの規制の対象となる可能性が高いため、より緩やかな法案を希望していたと思われる。米国との大西洋横断的な協力関係を築く上で、監視は欧州にとって重要な問題のひとつだ。

議会はより厳格な規則を要求

欧州議会の40人の議員からなる党派を超えたグループは、欧州委員会に対し、人工知能に関する次期立法案を強化し、公共の場での顔認識やその他の生体認証による監視の使用を全面的に禁止することを盛り込むよう求めた。

また、欧州議会は、人々の敏感な特徴（性別、セクシュアリティ、人種・民族、健康状態、障害など）を自動的に認識することを禁止するよう求めており、このようなAIを利用した行為はあまりにも大きな権利リスクを伴い、差別を助長する可能性があると警告している。

このリークされた草案には、公共の場での顔認識や同様のバイオメトリックな遠隔識別技術の使用を禁止することは含まれていなかった。「公共の場でのバイオメトリクスによる大量監視技術は、無実の市民を大量に不当に通報したり、存在感の薄いグループを組織的に差別したり、自由で多様性のある社会を萎縮させる効果があると広く批判されている。だからこそ、禁止が必要だ」と欧州委員会に宛てた書簡は記述している。

さらに、予測警察のようなアプリケーションや、生体情報を利用した集団の無差別な監視・追跡など、人々のデリケートな特性を自動的に推論することによる差別のリスクについても警告している。

「これは、プライバシーやデータ保護の権利を侵害し、言論の自由を抑圧し、汚職を暴くことを困難にするなどの弊害をもたらします。特に、LGBTQI+コミュニティ、有色人種、その他の差別されているグループに深刻な損害を与える可能性がある」と欧州議会議員は書き、EU市民の権利と、差別のリスクが高まっている（つまり、AIで強化された差別的なツールによるリスクが高まっている）コミュニティの権利を守るために、AI提案を修正してこの行為を違法化するよう欧州委員会に求めている。

Special thanks to supporters !

Shogo Otani, 林祐輔, 鈴木卓也, Mayumi Nakamura, Kinoco, Masatoshi Yokota, Yohei Onishi, Tomochika Hara, 秋元善次, Satoshi Takeda, Ken Manabe, Yasuhiro Hatabe, 4383, lostworld, ogawaa1218, txpyr12, shimon8470, tokyo_h, kkawakami, nakamatchy, wslash, TS, ikebukurou 太郎, bantou, shota0404, Sarah_investing, Sotaro Kimura, UmiSora, TAMAKI Yoshihito, kanikanaa.