編集部注：本稿を執筆したJoel Shapiro, JD, Ph.D.（ジョエル・シャピロ、法務博士、医学博士）氏はケロッグ経営大学院でデータ分析研究を行う臨床准教授であり、ケロッグの分析コンサルティング研究室の運営にあたっている。
もう一人の執筆者であるReid Blackman, Ph.D.（レイド・ブラックマン、医学博士）氏は、 Virtue（バーチュー）の創設者兼CEOであり、 企業と協力し、新たなテクノロジー製品の開発、展開、調達と倫理的リスクの低減を統合させる取り組みを行っている。
—
2019年、UnitedHealthcare（ユナイテッドヘルスケア）のヘルスサービス事業部門、Optum（オプタム）は、50の医療機関に機械学習アルゴリズムを展開した。医師と看護師はこのソフトウェアを用いて糖尿病、心臓病、その他の慢性疾患を持つ患者をモニターし、また患者が処方箋を管理したり受診予約を入れたりするのを支援することができるようになった。しかし、研究の結果、このアルゴリズムがより症状の重い黒人患者よりも白人に注意を払うよう推奨していたことがわかり、Optumは現在調査を受けているところである。
今日、データや分析を主導する責任者は、データに基づき価値を生み出すことを任されている。彼らの技能や権限を考えると、彼らは社内で倫理的データ慣行を推進する責務を持つ特殊な立場にある。運用化可能で、かつ拡張性および持続性を備えたデータ倫理フレームワークが欠如していると、質の劣ったビジネス慣行、関係者からの信頼に対する裏切り、ブランドに対する評判の低下、規制当局による調査、訴訟などのリスクを招く。
以下に、データ責任者/サイエンティストおよび分析責任者（CDAO）が社内で倫理データ慣行およびビジネス慣行のフレームワークを構築する際に実践すべき4つの重要なポイントをまとめた。
組織内の既存の専門家グループを見出し、データリスクの処理にあたらせる
CDAOは分析の経済的機会を見出し実行する責任があるが、機会にはリスクが伴うものである。データが、顧客保持やサプライチェーンの効率を高めるなど、社内向けの取り組みに使用されることもあれば、顧客向け製品やサービスの開発のため使用されることもあるだろう。しかしどちらにせよ責任者はデータの使用に伴うリスクを特定し低減する必要がある。
倫理的データ慣行を打ち立てるにあたり最善の方法であるのが、データガバナンス委員会など、データ倫理フレームワーク構築のためにプライバシー、コンプライアンスやサイバーリスクの問題に既に取り組んでいる既存のグループに目を向けることである。倫理フレームワークを既存のインフラストラクチャーに組み合わせると、導入を効率良く進めることができ、成功の確率も高まる。あるいは、そのようなグループが存在しない場合は、組織内から関連知識を持つ専門家を募り新たなグループを立ち上げる必要がある。データ倫理を管轄するこういったグループが、データ倫理における原則を公式化し、開発中または既に展開されている製品やプロセスにこれらの原則を適用することに対しての責任を担うべきなのだ。
データ収集および分析における適切な透明性とプライバシーの保護を確保する
あらゆる分析やAIプロジェクトには、データ収集と分析戦略が必要である。倫理的にデータ収集を行うには、人々からデータを取る際十分な説明を行い同意を得たり、GDPRへの準拠など法的コンプライアンスを確保したり、個人を特定することが可能な情報を匿名化処理し、逆行的手法で個人が特定されないように対処してプライバシーを保護するなどの実践が必須である。
プライバシー保護などのこれらの基準の一部は、必ずしも厳格な要件を提示しているわけではない。CDAOは、倫理的な正しさと彼らの選択がビジネスに与える影響について、適切なバランスを見極める必要がある。その後、これらの基準は製品管理者の責務へと置き換えられ、今度は彼らが、現場でのデータ収集がこれらの基準に従って行われるよう責任を持って管理することになる。
またCDAOは、アルゴリズム上の倫理や透明性を重視する姿勢を取らなければならない。例えば、AI駆動形の検索機能または推奨システムの予測精度を最大限に高めるよう努め、ユーザーが知りたいと望んでいることに対し最善の予測を提供すべきだろうか？マイクロセグメンテーションを行って、結果や推奨を他の「類似の人々」が過去にクリックしたものに限定するのは倫理的と言えるだろうか？実際には予測的性質はないが、第三者にとって利益が最大化される結果や推奨を含めるのは倫理上問題がないだろうか？アルゴリズムの透明性はどれほどのレベルが適切なのか、そして、ユーザーはどの程度それを気にかけているのか？堅牢で倫理的な青写真を描くには、こうした決定を行うための訓練や経験を十分に経ていないデータサイエンティストや技術開発者個人に判断を押し付けるのではなく、こういった課題に体系的かつ細心の注意を払って取り組む必要があるのだ。
不公平な結果を予測し、回避する
部門責任者や製品責任者は、不公平で偏りのある結果を予測する方法についての指針が必要である。不公平や偏りは、単に収集時にデータのバランスが取れていないことが原因で発生することがある。例えば、10万人の男性の顔と5000人の女性の顔を使用して訓練された顔認識ツールでは、性別で効果に違いが出る可能性が高いだろう。CDAOはバランスの取れた代表的なデータセットを確保しなければならない。
もう一つの偏りは、それほど目立たないが、今述べた偏りと同様に重要である。2019年、 Apple Card（アップルカード）とGoldman Sachs（ゴールドマンサックス）はクレジットの貸付額増額の判断において、男性を女性より有利に扱っているとして非難を受けた。Goldman Sachsは、貸付金額の決定要因は性別ではなく、あくまでも信用度であると主張したが、女性が信用を構築する機会が男性に比べ少なかった歴史的事実は、アルゴリズムが男性に有利に働く可能性が高いことを意味した。
不公平を緩和するため、CDAOは技術開発者や製品責任者をサポートし、公平性についての認識を高める必要がある。コンピューターサイエンスの文献には公平性についての指標や定義が数え切れないほど提示されているが、データが最終的にどう使用されるのかを詳しく説明できる事業責任者や外部の専門家からの協力無しに、開発者が適切な指標を選ぶのは難しい。公平性についての基準が選択されたら、データ収集者が確実にこの基準を満たすよう、効果的に伝達される必要がある。
倫理的リスクの特定プロセスと組織構造を調整する
CDAOは多くの場合、次の2つのうちどちらか1つの方法を用いて分析機能を構築する。1つは、中核となる拠点を介し組織全体にサービスを提供する方法。もう1つは、データサイエンティストや分析のための投資がマーケティング、ファイナンス、運用など特定の部署に配置される、分散型モデルに基づいた方法である。組織構造を問わず、倫理的リスクの特定に向けたプロセスと規範が明確に伝達され、適切に奨励される必要がある。
重要なステップは以下の通りである。
- データ倫理を扱う組織と部門やチーム間の結びつきを構築することにより、説明責任を明確に確立する。これは、各部門やチームが倫理問題に目を配る「倫理責任者」を各々指定することで実現可能だ。責任者はデータに対する懸念をデータ倫理組織に報告し、組織は既存のデータの増強、透明性の向上、新たな目的関数の作成など、緩和戦略について助言を行う。
- データやAI倫理に関する教育とトレーニングを通し、一貫した定義とプロセスを各チーム内に浸透させる。
- 社内チーム間の協力関係を促進し、他の分野の例や研究を共有することにより、倫理的問題の特定と修正に対するチームの視野を広げる。
- 金銭的な報酬、または他の手段を用いてインセンティブを付与し、倫理的リスクを特定し緩和することに価値を置く社風を醸成する。
CDAOはデータを戦略的に使用し展開することで新製品の収益を促進し、社内における一貫性を高める責任を持つ。現在、あまりに多くの事業責任者やデータ責任者が倫理的問題が持ち上がった際、単純に決定の良い点と悪い点を比較することで「倫理的」であろうとしている。この近視眼的視点は不必要な評判低下のリスクや、金銭的および組織的リスクを生み出す。データへの戦略的アプローチがデータガバナンスプログラムを必要とするのと同様に、優れたデータガバナンスには、倫理プログラムが必要なのである。つまるところ、優れたデータガバナンスとは倫理的データガバナンスなのである。
関連記事：2020年の変化に人は適応し始めているがAIは苦労している
カテゴリー：その他
[原文へ]
（翻訳：Dragonfly）