アルゴリスク：アルゴリズムに潜むバイアスを低減する

• モデルとアルゴリズムのバイアスリスクを管理する
• KPMGが支援できること
  

機会
金融サービス業界では高度化したモデル／AIの導入が進んでいますが、一方で倫理的な利用、信頼性、公平性、説明責任、公正な融資審査および不公正、詐欺的または乱用的な行為または慣習のリスクに関する疑問が提起されています。母集団に不当な影響を及ぼし得るモデルのバイアスを低減するために、適切なコンプライアンス管理と検証を行う必要性が高まっています。

課題
企業内ではあらゆるタイプのモデルへの依存が高まるなか、基盤となるモデルに含まれるバイアスがわずかであったとしても、多くの顧客に影響を及ぼす可能性があり、財務的影響は時間とともに増加していきます。
AIモデルのバイアスと与信差別を巡る規制、ガイダンス、期待は一層高まっており、適切なコンプライアンスコントロールとガバナンスの枠組を策定し、高度化することで、企業は将来的な差別的インパクト／取扱にかかるリスクとUDAAPリスクを低減することができるでしょう。

KPMGでは、次のような支援の提供が可能です。

• 方針策定
  AIモデルを利用することで生じるバイアスリスクを特定・評価し、場合によっては解消・低減するためのガバナンス構造、原則、指標を明確にします。

• 適切な指標の開発
  AIモデルの開発・実装中にリスクをモニタリングし、リスク低減の戦略など適切な指標を検討します。

• 検証の枠組構築
  バイアスリスクの判断に重点を置いた検証の枠組を構築します。

• AIモデル利用関連規制に対するコンプライアンス態勢評価
  規制リスクと機会を評価し、法令、規制、業界の慣習に関して義務を果たしているか、確認を行います。

• AIモデルの現在の利用状況評価
  利用中のAIモデル一覧表を作成し、枠組とリスクの判断基準を策定します。さらにリスクに基づいたAIモデルのポートフォリオの優先順位付けを行います。

• 同業他社に対するベンチマーク比較
  同業他社におけるAIモデルのリスク対処法を把握し、比較します。

• 事前のモデル評価
  AIモデルの監査・検証の枠組を、モデル開発、モデル・ガバナンスとコンプライアンス手順に組み込みます。

• AIに内在する事前のバイアス評価
  内在するバイアス、あるいはバイアスの低減戦略、トレードオフ関係を特定し評価します。

• モデルの開発に用いられるデータの事前評価
  AIモデルの構築に使用される、データサンプルの事前評価を実施し総括します。

• 継続的なモニタリング
  各モデルの利用状況とそれらに付随する潜在的なリスクに見合った継続的なモニタリングを行います。

• レポーティング、エスカレーション、低減メカニズムの構築
  独自の評価ツールを構築した上で、適切なレポーティングを行い、さらにエスカレーションとバイアス低減のメカニズムを設計します。

• AIの定期的な監査／レビュー
  バイアスリスク、各モデルの全般にわたり、倫理的で責任ある利用に重点を置いたAIモデルとアルゴリズムの定期的な監査を設計し、実施します。

• 能力を育成し、社員の方向性を貴社のアプローチに一致させます
  教育やトレーニング、人材採用・人材配置、社内外のコミュニケーションを通じて、AIモデルの責任ある利用を企業文化と企業DNAに組み入れます。