10億ドルもの失敗を犯してはじめてデータ倫理の不透明な部分が浮き彫りになることさえあります。
Equifax 社は、2017年に世界中の約1億5,000万人のユーザーのデータを保護できなかったことで、この事実を身をもって知ることになりました。この壊滅的な侵害はそれだけでも十分に酷いものでしたが、Equifax 社がこのニュースを公表したのは3カ月後でした。
人々の怒りが次第に強くなりましたが、この信用情報会社はどのような情報が漏洩したのかを正確に開示することに消極的でした。その代わりに、影響を受けたかどうかを調べるための Web サイトに顧客を誘導し、通常は10ドルのクレジット凍結手数料を免除することを申し出ました。
この事件では Equifax 社の対応の遅れが問題となりました。また、7億ドルの罰金が甘いという批判もありました。しかし、非常に規模の大きな侵害があったことで、あやふやになりがちなデータ、倫理、企業責任の関係について、これまでよりも広く意見交換されるようになりました。
また、この侵害以降、組織がデータを追跡、収集、保存、使用する方法に関する人々の意識は高まり続けています。データを扱う組織は、データに関する透明性のある倫理ポリシーを積極的に策定すべきという世論の圧力の高まりと法的義務の増加に直面しています。
最近では、最高倫理責任者を任命して社内で倫理に関する責任を持つ必要性が高まっているという点が議論の中心となっています。しかしこの新たな役割は、すべての組織のデータに関する倫理的なジレンマを解決する特効薬なのでしょうか。
データドリブンなビジネスモデルに関する継続的な課題
Equifax 社がデータ侵害を経験した最初の組織だったわけではありません。しかし、大勢の人々のデータが不正利用された事例によって、これまで過小評価されていたある重要な要素が注目されました。それは「信頼」です。
今日、データ主導の組織にとって信頼は大変な努力をして得るものです。データを扱う組織に対する人々の不信感は根強く、さらに California Consumer Privacy Act (CCPA) や欧州の一般データ保護規則 (GDPR) などの法律が変更されて、組織は過失があった場合により重い制裁を受け、非難されることになります。
しかし、信頼を育む努力をした組織は報われます。Adobe 社のレポートによると、データ侵害による個人情報盗難の被害者となったコンシューマーの57% が、そのブランドからの購入を停止するという結果です。さらに、多くの研究では、高いレベルの信頼が長期的な顧客ロイヤルティとビジネスの収益性に結びついています。
データドリブンなビジネスモデルにとって、信頼と倫理は長期的な将来の収益性の中心となる信条です。信頼を得るためには、組織はまず責任を負っていることを示す必要があります。
Georgia College and State University のビジネス法の助教である Nicholas Creel 氏は「これはテクノロジーが私たちの思考を上回っているシナリオの1つ」と説明しています。
倫理の問題は、ビジネスにおける道徳のみにとどまりません。倫理はリスクを軽減するために不可欠です。最高倫理責任者への投資を検討しているかどうかにかかわらず、倫理的な AI とガバナンスについて詳しく学ぶことはビジネスとして理にかなっています。
「企業はコンシューマーのデータを非常に大量かつ高速で収集しているため、そのデータで何をすべきかについて立ち止まって考えたことがなく、何ができるかのみを考えてきました。人々の意識が高まっているため、次の課題は、収集した情報に対して組織がどのように責任を負うことができるか定義することです。侵害が新たに発生するたびに、データを扱う組織への信頼が少し下がります」
これが事実であることは、Apple 社と Facebook 社の最近の争いを見るだけでわかります。Apple 社が新しい iPhone 機能を導入し、マーケティング目的でのオンラインアクティビティの追跡をユーザーが拒否できるようしたところ、Facebook 社に推定で100億ドルの損失が出ました。しかしこれは Apple 社が顧客データに責任を持ったことを意味しており、かなり大きな功績でした。
「歴史的に人々は、情報の提供先について適切に判断する責任を負わされてきました。しかし、このような事件が非常に大規模かつ頻繁に発生するようになっているため、組織が責任を受け入れなければならない段階となっています」(Nicholas Creel 氏)
一躍注目される最高倫理責任者
組織によっては、責任の分担やデータに対する倫理的アプローチの強化といった課題に対処するため、新しい重要な人材として最高倫理責任者を検討するようになっています。
Salesforce 社が2019年に1名雇用したことで有名ですが、今では他の組織も同様の措置を講じています。では、組織にとって、信頼を取り戻し、倫理的なデータ使用に関して組織を正しい方向に導くために今後必要な重要な人材とは、最高倫理責任者なのでしょうか？
実は必ずしもそうではなく、Nicholas 氏は次のように反論しています。「業務上の観点から考えると、データの侵害や不正利用の防止について最終的に責任を負う最高倫理責任者のようなシニアリーダーを立てておくという現実的な側面が間違いなくあります。しかし、その人物が『正しいこと』とはどのようなことかを定義したり、何がデータの不正利用とされるのかについてルールを作成したりする組織内の唯一の個人でもあるべきだとは考えていません。そのような取り決めには、組織全体の賛同を得る必要があります」
では、倫理をデータプロセスの中心に据えたい場合、組織はどのように進めるべきでしょうか。前向きなやり方は、共同の説明責任を推進し、ポリシーを再構築し、先を見越した対策に焦点を当てることです。
どのような形であれ、データに関する共同の説明責任と当事者意識が必要
雇用するのが最高倫理責任者でも、データ倫理学者でも、コンプライアンスの専門家でも、その個人の肩書きは重要ではありません。重要なのは、組織全体の当事者意識と説明責任を定義することです。それには、個人の取り組みではなく、共同の努力が必要です。
「この場合、委員会制度を利用すればうまくいく可能性があります。データと倫理は、職務の枠を超え、組織のあらゆる部分に影響を与える問題であるため、このようなプロセスについては、すべてのレベルで高い透明性を確保して議論および導入する必要があります。そのようなプロセスにしないと、組織がブラックボックスになり、データに関するプロセスと決定がサイロ化され、倫理が適切に適用されない、というリスクがあります」(Nicholas 氏)
組織が今後の変化を乗り切るには、権力者の雇用ではなくポリシーが必要
最高倫理責任者の問題に関して評論家の間で高まっている懸念があります。それは組織が、倫理の問題を真剣に受け止めていることを示すためのチェックボックスとしてこの役職を考えるのではないかということです。
Nicholas 氏は次のように指摘しています。「組織に最高倫理責任者が必要だと考えて雇っているのであれば、それは間違ったアプローチです。見せかけの助言者的な役割では、真の変化をもたらすことはなく、問題を真剣に受け止めていることを顧客に示すこともありません」
「そうではなく、組織の構造に組み込まれた権力や権限のレベルを調べる必要があります。また、従業員に適切に責任を負わせるために必要な変更や、ルールが守られていない場合に対処するために必要な変更を実行する必要があります」
データ倫理ポリシーに関しては事後対応ではなく先を見越した取り組みが必要
Equifax 社の事例から学べることが1つあるとすれば、組織は倫理とデータポリシーについて、問題が起きてから対応するのではなく、先を見越した取り組みが必要だということです。これは、倫理リーダーと委員会が最初から組織全体で取り組む必要があることを意味します。
データ倫理は、組織のエコシステムに組み込まれ、業務や意思決定の方法を方向付け、製品設計からマーケティングまでのすべての部門に根付く必要があります。
データ倫理の変化する文脈に対応するには、信頼という基盤が必要
Equifax 社のデータ流出の影響を受けた約1億5,000万人が直面する損害の全体的な規模はわかりませんが、かつて保持していた組織への信頼が取り返しのつかないほど失われたことは確かです。
組織がデータと倫理ポリシーの次のステップをどのようなものにするか検討するときに、すべての話し合いの中心に据えるべきものは信頼です。
信頼を構築して維持するように組織が運営されれば、最高倫理責任者を雇うかどうかの問題は二の次になり、共同の当事者意識、説明責任、そして責任を組織全体に浸透させることが優先されます。
誰がデータを収集、管理、保護するかに関して、このような共同の当事者意識やプロセスが定義されていない企業は、最終的に、信頼と利益を失うことになります。
データと AI に関連する倫理の役割について、詳しくは「In AI we Trust? Why we Need to Talk about Ethics and Governance」をご覧ください。
著者
Santiago Giraldo
Santiago Giraldo は、Cloudera のハイブリッドデータサービス担当シニア製品マーケティング部長です。B2B の SaaS/PaaS/IaaS 企業でグローバルなキャンペーンや技術プロジェクトを10年以上主導した経験を持つ、データおよびテクノロジービジネスのプロフェッショナルです。