アルゴリスク:アルゴリズムに潜むバイアスを低減する

アルゴリスク:アルゴリズムに潜むバイアスを低減する

AIシステムの採用は金融機関全体で加速していますが、特有の課題も生じています。適切なコンプライアンスコントロールとガバナンスの枠組を策定・高度化することで、企業はAIがはらむ様々なリスクを低減できます。本レポートは、アルゴリズムに潜むバイアスを低減するためにKPMGが支援できることについて紹介します。

関連するコンテンツ

モデルとアルゴリズムのバイアスリスクを管理する

機会
金融サービス業界では高度化したモデル/AIの導入が進んでいますが、一方で倫理的な利用、信頼性、公平性、説明責任、公正な融資審査および不公正、詐欺的または乱用的な行為または慣習のリスクに関する疑問が提起されています。母集団に不当な影響を及ぼし得るモデルのバイアスを低減するために、適切なコンプライアンス管理と検証を行う必要性が高まっています。

課題
企業内ではあらゆるタイプのモデルへの依存が高まるなか、基盤となるモデルに含まれるバイアスがわずかであったとしても、多くの顧客に影響を及ぼす可能性があり、財務的影響は時間とともに増加していきます。
AIモデルのバイアスと与信差別を巡る規制、ガイダンス、期待は一層高まっており、適切なコンプライアンスコントロールとガバナンスの枠組を策定し、高度化することで、企業は将来的な差別的インパクト/取扱にかかるリスクとUDAAPリスクを低減することができるでしょう。

KPMGが支援できること

KPMGでは、次のような支援の提供が可能です。

1.モデルのバイアスリスクの包括的な見解を策定

  • 方針策定
    AIモデルを利用することで生じるバイアスリスクを特定・評価し、場合によっては解消・低減するためのガバナンス構造、原則、指標を明確にします。
  • 適切な指標の開発
    AIモデルの開発・実装中にリスクをモニタリングし、リスク低減の戦略など適切な指標を検討します。
  • 検証の枠組構築
    バイアスリスクの判断に重点を置いた検証の枠組を構築します。

2.モデル・バイアスリスクの特定

  • AIモデル利用関連規制に対するコンプライアンス態勢評価
    規制リスクと機会を評価し、法令、規制、業界の慣習に関して義務を果たしているか、確認を行います。
  • AIモデルの現在の利用状況評価
    利用中のAIモデル一覧表を作成し、枠組とリスクの判断基準を策定します。さらにリスクに基づいたAIモデルのポートフォリオの優先順位付けを行います。
  • 同業他社に対するベンチマーク比較
    同業他社におけるAIモデルのリスク対処法を把握し、比較します。

3.事前のモデル評価

  • 事前のモデル評価
    AIモデルの監査・検証の枠組を、モデル開発、モデル・ガバナンスとコンプライアンス手順に組み込みます。
  • AIに内在する事前のバイアス評価
    内在するバイアス、あるいはバイアスの低減戦略、トレードオフ関係を特定し評価します。
  • モデルの開発に用いられるデータの事前評価
    AIモデルの構築に使用される、データサンプルの事前評価を実施し総括します。

4.モデルに含まれるバイアスの継続的モニタリング

  • 継続的なモニタリング
    各モデルの利用状況とそれらに付随する潜在的なリスクに見合った継続的なモニタリングを行います。
  • レポーティング、エスカレーション、低減メカニズムの構築
    独自の評価ツールを構築した上で、適切なレポーティングを行い、さらにエスカレーションとバイアス低減のメカニズムを設計します。
  • AIの定期的な監査/レビュー
    バイアスリスク、各モデルの全般にわたり、倫理的で責任ある利用に重点を置いたAIモデルとアルゴリズムの定期的な監査を設計し、実施します。
  • 能力を育成し、社員の方向性を貴社のアプローチに一致させます
    教育やトレーニング、人材採用・人材配置、社内外のコミュニケーションを通じて、AIモデルの責任ある利用を企業文化と企業DNAに組み入れます。

英語コンテンツ(原文)

金融機関に関する最新情報

#RegTech

© 2021 KPMG AZSA LLC, a limited liability audit corporation incorporated under the Japanese Certified Public Accountants Law and a member firm of the KPMG global organization of independent member firms affiliated with KPMG International Limited, a private English company limited by guarantee. All rights reserved. © 2021 KPMG Tax Corporation, a tax corporation incorporated under the Japanese CPTA Law and a member firm of the KPMG global organization of independent member firms affiliated with KPMG International Limited, a private English company limited by guarantee. All rights reserved.


For more detail about the structure of the KPMG global organization please visit https://home.kpmg/governance.

お問合せ

 

ご依頼・ご相談

 

loading image RFP(提案書依頼)

Myページへ

会員登録すると、興味・関心のあるテーマのコンテンツが表示され、お気に入りの記事をライブラリに保存できます。

Sign up today