連載:企業と人権、その先へ(6)

9月1日に、「デジタル社会形成の司令塔として、未来志向のDX(デジタル・トランスフォーメーション)を大胆に推進し、デジタル時代の官民のインフラを今後5年で一気呵成に作り上げること」「徹底的な国民目線でのサービス創出やデータ資源の利活用、社会全体のDXの推進を通じ、全ての国民にデジタル化の恩恵が行き渡る社会を実現すべく、取組を進め」るという目的を掲げ、肝煎りのデジタル庁が発足した。そのミッションは、「誰一人取り残さない、人に優しいデジタル化を。一人ひとりの多様な幸せを実現するデジタル社会を目指し、世界に誇れる日本の未来を創造します。」――とある。(佐藤 暁子・弁護士)

デジタル庁の平井卓也・デジタル大臣(右)と事務方トップ「デジタル監」を務める石倉洋子・一橋大学名誉教授)=9月1日の発足式で

現在、至る場面でDXが提唱され、あたかもテクノロジーによると全ての社会課題が解決するかのような論調も見受けられる。しかし、テクノロジーの利活用には人権の観点からの懸念も大きい。

確かに、テクノロジーによる恩恵を日々感じる場面は多々あるものの、一方で、テクノロジーによって人権が制限、侵害される事態も現実化している。テクノロジーに限らず、私たちの生活に利便性をもたらすサービス、商品は、その一方で意図せずとも人権侵害を引き起こしたり、助長したりする事実はこれまでも指摘されてきた。ビジネスと人権に関する指導原則の意義も、そういった人権に対する負の影響を意識的に企業も特定し、取り組むことを促すことにある。

例えば、日本企業も積極的に開発を行う顔認証システムだが、2020年6月には、IBM、マイクロソフト、アマゾンが、いずれも顔認証システムの開発・販売からの撤退、あるいは警察への販売の停止を発表している。IBMのアーヴィン・クリシュナCEOは、連邦議員に宛てて、次のように述べた。

「IBMは今後、多目的の顔認証や分析ソフトを提供しません。IBMは、他のベンダーが提供する顔認識技術を含むいかなる技術も、集団監視、人種差別、基本的人権や自由の侵害、あるいは当社の価値観や『信頼と透明性の原則』に合致しない目的のために使用することに断固として反対し、容認しません(中略)。人工知能(AI)は、警察が市民の安全を守るのに役立つ強力なツールですが、AIの業者とユーザーはAIに偏りがないかを検査する責任を共有しています。特に、警察によって使用される場合がそうで、そのような偏りの検査は外部監査を受け、公開されるべきです」

同年1月には、実際に、顔認証AIによって、アフリカ系男性が誤認逮捕された事案がミシガン州で発生している。これらの事象は、人種差別を禁止するアメリカにおいて、すでにその差別があまりにも深く社会に根ざしており、テクノロジーによっても取り除くことができないことを示した。

このほか、フェイスブックは今年3月16日に、人権方針を発表し、指導原則に沿って各種の国際人権条約を尊重することに表明した。とりわけ、非差別という普遍的な義務は、十分条件でないとしても、現実の生きた平等のための必要条件であることを特に強調している。

ソニーも2018年9月に「ソニーグループAI倫理ガイドライン」を策定し、NECグループは、2019年4月にAIの利活用によって生じうる人権課題を予防・解決するために「NECグループ AIと人権に関するポリシー」を制定するなど、日本企業においてもテクノロジーの利活用と人権の関係性は着目されつつある。

これに対して国連人権高等弁務官事務所も、「人種差別とデジタルテクノロジーに関する人権の観点からの分析」において、指導原則が定める企業の人権尊重責任を果たすための人権デューディリジェンスの重要性を強調する。

とりわけデューディリジェンスは、「新製品のコンセプト立案、設計、テストの段階だけでなく、それらを支える基礎的なデータセットやアルゴリズムにも適用されるべき」と指摘する。

一方で、日本政府は、2018年3月に「人間中心のAI社会原則」を策定し、2019年に日本がホスト国となったG20では「AI原則」が採択され、初めて人間中心のAIという価値観について合意された。ビジネスと人権に関する行動計画(NAP)でも、「新しい技術の発展に伴う人権」を横断的事項の一つとして掲げる。

このように技術発展と人権侵害は表裏一体である。そのような権利侵害を訴える声がテクノロジーを称賛する声によってかき消されることのないように、デジタル庁には、ぜひともビジネスと人権の視点を入れ込んだDXに取り組むことを期待する。