編集部注：本稿はPhilip N. Howard（フィリップ・N・ハワード）氏とLisa-Maria Neudert（リサ-マリア・ニューデルト）氏による寄稿記事である。ハワード氏はOxford Internet Institute（オックスフォードインターネット研究所）所長。ニューデルト氏は、オックスフォード大学のオックスフォードインターネット研究所でComputational Propaganda Projectに取り組む研究者だ。
—–
韓国は新型コロナウイルスの感染拡大速度を低下させることに成功した。大規模な隔離対策と検査の実施に加えて、革新的な方法でテクノロジーを活用したことが韓国における同感染症の拡大抑止に大きく貢献したと言われている。欧州各国や米国が悪戦苦闘する中、多くの国々は、現在および今後長期にわたって疫学研究を推進し公衆衛生を管理するためのツールとしてAIに注目し始めており、接触者追跡、症状追跡、免疫証明などの用途に利用するための技術ソリューションの開発が進められている。このようなテクノロジーがあると心強いのは確かだが、その利用によって人権が侵害されるようなことがあってはならない。
韓国政府は、クレジットカード取引から、監視カメラ映像や携帯電話の位置情報に至るまで、数百万に及ぶデータポイントを分析し、市民のプライバシーに踏み込んだ個人データを広範囲に集めた。韓国のMinistry of the Interior and Safety（行政安全部）は、自主隔離中の市民のGPSデータを政府職員に通知するスマートフォンアプリまで開発した。隔離中の人が指定された「電子フェンス」の外に出ると、アプリから政府職員に警告メッセージが送信される。このような大規模な監視がプライバシーとセキュリティに与える影響は、深く憂慮すべきものだ。
ウイルス拡散防止のために個人データを活用している国は韓国だけではない。中国、イラン、イスラエル、イタリア、ポーランド、シンガポール、台湾などの国々も、携帯電話から収集された位置情報データを、新型コロナウイルスと戦うために開発されたさまざまなアプリケーションに利用してきた。人工知能と機械学習が駆使されたこれらのデータは、社会統制や社会監視に利用すべきでないばかりか、移動パターンの予測、アウトブレイクが予想されるホットスポットのピンポイント特定、感染経路のモデル化、または免疫予測にも利用してはならない。
人権とデータプライバシーへの影響は、新型コロナウイルスが終息した後もずっと長く続く。差し迫る脅威に立ち向かうための一時的な対策として導入された、大規模なデータ共有、観察、監視が、現代社会における生活の一部として定着する可能性がある。将来起こり得る公衆衛生の非常事態から市民を守るという建前で、期間限定のアプリケーションが恒久化されるかもしれない。少なくとも、政府が焦って未成熟な技術を導入することを決め、場合によってはその使用を法で義務づけるようなことをすると、危険な先例を作ってしまうことになる。
とはいえ、そのようなデータやAIを駆使したアプリケーションは、新型コロナウイルスとの戦いにおいて前進していくうえで有用なものになり得るし、政府は、匿名化されて個人特定が不可能な個人データから、公衆衛生を脅かすこの未曽有の非常事態を乗り切るための貴重な知見を得られる。ホワイトハウスは、携帯電話から収集できる集団レベルの匿名位置データの活用方法について、さまざまなテクノロジー企業と活発に協議しているようだ。英国政府は、位置情報と利用データの活用について携帯電話会社と話し合っている。いつもは先頭に立ってデータ権利を擁護するドイツでさえ、健康管理用の端末やスマートウォッチからのデータ供与を活用して新型コロナウイルスの地理的な拡散状況を見極めるという、賛否両論あるアプリを導入した。
大手テクノロジー企業も救助に駆けつけている。Google（グーグル）は140以上の国々で、店舗、娯楽施設、職場、住宅地などの場所における人々の移動傾向を知ることができる「コミュニティモビリティレポート」を公開している。Apple（アップル）とグーグルは接触者追跡アプリを共同開発し、APIなどの開発者ツールキットをリリースしたばかりだ。Facebook（フェイスブック）は、ユーザーの位置情報に基づいて地方自治体、緊急対応機関、法執行機関が通知を送信できる「ローカルアラート」機能を展開している。
市民の健康状態や位置情報に関するデータ開示がこれ以上ないほど個人特定に近づいていることは明らかだ。このようなデータを活用するアプリケーションには大きな潜在的メリットもあるが、その不正利用や悪用に関する懸念も同じくらい大きい。データ保護にはセーフガード（おそらく最も進んでいるのは欧州のGDPRだろう）が存在するが、政府は国家の有事に際して例外措置を設ける権利を持っている。さらに、民主制においてAIを合法的かつ倫理的に利用するための枠組みは（すでに存在していればの話だが）それほど確立されていない。
政府が社会統制、アウトブレイク予測、感染追跡を実施するのに役立つ可能性があるアプリケーションは数多くあり、役立ちそうなものもあれば、そうでないものもある。接触者追跡アプリは欧州各国や米国で政府が今最も注目しているものだ。分散プライバシー保護接近追跡（DP3T）という、Bluetoothを使ったアプローチでは、同意したユーザーが、安全な分散型プロトコルを使って、公衆衛生当局にデータを提供できる。すでにEuropean Commission（欧州委員会）が、分散型アプローチを推奨する「接触者追跡アプリケーションに関する指針」を発表している。言うまでもなく、EU加盟国は、このようなツールの導入にあたり、中央集中型かどうかに関わらず、GDPRを順守しなければならない。
オーストリア、イタリア、スイスは、アップルとグーグルが開発した分散型アプローチを採用する計画であることを表明している。ドイツは最近、現在進行中の国民による議論とプライバシー専門家からの厳重な警告をうけて、中央集中型アプリの導入計画を中止し、代わりに分散型アプリを採用することを発表した。しかし、フランスとノルウェーは、機密性の高い個人データが中央サーバーに保存される中央集中型システムを使用している。
英国政府も中央集中型アプローチによるアプリの開発を進めており、現在ワイト島で実証実験を行っている。National Health Service（国民保険サービス、NHS）の一機関であるNHSXはこのアプリを、感染が疑われる市民に保健当局の職員が直接、個人ベースで連絡できる仕様にする予定だ。収集されたデータをどのように使用するか、他のデータソースと結合させて使うかどうか、といったことは現時点ではまだ不明である。現行の規定によると、英国はEU離脱の移行期間が終了する2020年12月まで引き続きGDPRを順守しなければならない。
政府主導の取り組みとは別に、接触者追跡やその他の方法によるアウトブレイク阻止を目的としたアプリやウェブサイトが無数に出現するという困った事態が生じている。このようなアプリやウェブサイトは、個人データの任意提供を市民に求める一方で、プライバシーやセキュリティ性能は（たとえあったとしても）ほとんどないに等しく、機能性に欠けることは言うまでもない。善意により開発されていることは間違いないが、このようなツールは趣味でアプリ開発をしている人やアマチュアのハッカソンイベントによって生み出されている場合が多い。
有用なシステムとそうでないものを選別するのは簡単ではなく、おそらく政府にはその選別能力はない。現時点で、人工知能、特にガバナンスにおける人工知能の使用は、公的機関にとっていまだに不慣れな分野である。切羽詰まった規制当局は、さまざまなAIシステムについて、その正当性やより広範囲に及ぶ影響を民主主義的価値に照らして評価するのに四苦八苦している。十分な調達ガイドラインや法的枠組みがまだ整備されていないため、政府はAI導入に関する決定―今こそ最も必要とされている決定―を下すための準備ができていない。
さらに悪いことに、9・11同時多発テロ事件後の保安強化措置とは異なり、AI主導アプリケーションをひとたび世に送り出してしまうと、それを元に引きもどすことは難しい。新型コロナウイルスの第二波や迫り来る別のパンデミックを回避するには個人データを使用することが必要だと政府が主張する可能性もある。
規制当局が新型コロナウイルス危機の間にAIに特化した新たな規制を策定する可能性は低いため、今後も前に進み続けるには、少なくとも今、「公衆衛生の危機に対処するために開発されるあらゆるAIアプリケーションは、公衆衛生研究者や公共科学機関によって公益のために保持される関連データ、アルゴリズム、入出力内容も含めて、最終的には公共アプリケーションになるものとする」という合意を形成しておく必要がある。新型コロナウイルス感染症パンデミックを出しにして、プライバシー規制を破ることや、一般市民から貴重なデータを吸い上げることは許されない。
治療の提供や公衆衛生の非常事態収束に最先端のAIを活用してほしいと、誰もが願っている。新型コロナウイルスによって人々の命が失われている今は、個人のプライバシーやAIの人権に関する短期的リスクへの注目度が下がるのも当然だ。しかし、新型コロナウイルスをめぐる事態が収束したら、すべての人が個人のプライバシーを取り戻し、権利を回復させたいはずだ。民主主義下の政府や企業がこの問題に取り組みつつ、体制の強さを保ちたいなら、アプリがどのように機能するかをすべての人が観察する必要があり、公衆衛生に関するデータが医療研究者のところに集まるようにする必要があり、一般市民が追跡システムの監査や無効化を実行できなければならない。AIは長期的に見て優れたガバナンスに寄与するものでなければならないのだ。
新型コロナウイルス感染症パンデミックは、最優先で取り組むべき公衆衛生の非常事態であり、今後、何十年にもわたってガバナンスに大きな影響を及ぼすことだろう。また、このパンデミックにより、現行システムの大きな欠点も浮き彫りになっている。AIはすでに実用できる段階にあり、これからさらに強力なAI主導アプリケーションが開発されていく。しかし、政府には、その民主的利用を実現する能力がまだ備わっていない。世界規模のパンデミックが及ぼす計り知れない影響を目の当たりにしている今、急場しのぎの政策立案だけでは優れたガバナンスを実践するには不十分だが、でもそれが、現時点で手が届く最善の解決策なのかもしれない。
Category：人工知能・AI
[原文へ]
（翻訳：Dragonfly）