米国でPayPalやExpedia、日本で東京海上やセブン銀行が導入
■大手企業各社、各省庁をはじめ日本国内で課題認識が進む「AIの社会的責任(Responsible AI) 」
「AIの社会的責任(Responsible AI)」とは、AIの暴走による社会への様々な悪影響、AIによる公平性の欠如やバイアスの発生に対する倫理的側面を理解し、企業として責任あるAI活用を進めるための活動です。AIの活用が先行して進んでいる欧米では、EUやEEOC(米国雇用機会均等委員会)やニューヨーク州などで、すでにAIによる差別や暴走に対する罰金刑を含む法令規制が施行されています。
日本でもこれを追従するように、経済産業省では2021年「AI原則実践のためのガバナンス・ガイドライン」を公表、金融庁でも同年に「モデル・リスク管理に関する原則」を公表しました。また、今年に入り大手企業各社は「AIの社会的責任」や「AI倫理」に対するポリシーを掲げ、AIの活用とそのガバナンス整備を強化しています。
■米国では330億円の損失事例も “Responsible AI”の実現が企業の経営課題に
「AIの社会的責任」が問われている背景に、AI特有の課題があります。未来を予測するテクノロジーであるAIは、新型コロナウイルスや地政学的リスクによるドリフトの発生や、性別・宗教などの差別、誤った学習による突然の暴走などのリスクが存在します。実際に、米国最大手の不動産検索サイト「Zillow」は、住宅価格予測にAIを導入していましたが、コロナ後の変化を見誤り、購入時より低い価格での物件販売を余儀なくされ、2021年第3四半期に330億円の損失を計上、従業員の25%を解雇することとなりました。
このような従来のソフトウェアに存在しなかったAI特有の課題への対策は、データサイエンス部門や事業部門だけの問題ではありません。“Responsible AI”を実現することは、技術とビジネスとコンプライアンスが三位一体となって解決すべき喫緊の経営課題となっています。
■AI特有の課題を解決し“Responsible AI”を実現する「Robust Intelligence」
AI特有の課題への対策として注目されているのが、 AIを自動でテスト・モニタリングするプラットフォーム「Robust Intelligence」です。運用後にAIのリスクが顕在化してから対処するのではなく、開発段階からモデルリスク管理を行い、運用時も検証を継続することで企業の“Responsible AI”を実現します。米国では国防総省、PayPal、Expedia、日本でもデロイトトーマツ、NEC、東京海上など大手各社が導入を開始しています。
また Robust Intelligence は、2021年、2022年2年連続で米国調査会社 CB Insights が選ぶ「世界で最も有望なAI スタートアップ 100 社『AI100』」に選出されるなど、有力なスタートアップ企業としても注目されています。
■「Robust Intelligence」の3つのサービス
①AI開発時点で運用時のリスクを未然に防ぐ「AI Stress Testing」
AI発段階で何百ものテストを自動で走行し、問題点を予め検出して対処することで問題を未然に防ぐことが可能。
②AI運用時の暴走を検知しAIを保護する「AI Firewall」
AIの予測状況を絶え間なくモニタリングし、精度が劣化した場合に自動で検知することが可能。
③AI運用時のモデルを絶え間なく検証する「AI Continious Testing」
本番稼働時のAIモデルを絶え間なくテストし、データ分布の崩れやモデルの精度劣化を検知すること可能。
■「Robust Intelligence」の4つのポイント
①AIモデルのライフサイクルにおける全てのプロセスをカバー
AI開発・運用プロセスに必要なテスト実施から改善モデル案の提出までを実施。
②標準化された検証方法
データサイエンティストごとに構築、検証していたモデルを統一した基準でテストすることで品質を保証。米国雇用規制法やNYC法をはじめ金融庁 モデル・リスク管理に関する原則にも対応。
③様々なデータ・モデル・ツールにマルチに対応
テーブルデータ、自然言語、画像解析など多様なモデルの管理を標準化。組織内で使い分けされる様々ツール、膨大なデータに対応。
④テストの自動化により検証工数を大幅に削減
手動設定不要で、開発・運用時の双方のモデルテスト、エラーの原因分析を自動で実施。既存テストの拡張により、テストケースのカスタムも可能。
＜報道関係のお問い合わせ＞
Robust Intelligence PR事務局（㈱イニシャル内） 担当：渡邊、高松、青山
Tel：03-5572-6062 e-mail：robust_Intelligence@vectorinc.co.jp
