人工知能 (AI) は近年、銀行部門を含む多くの分野に革命をもたらしました。その導入には、特に融資におけるアルゴリズムによる差別の問題など、良い面と悪い面の両方がありました。
カナダだけでなく世界中で、大手銀行内での AI の導入により、生産性が向上し、サービスのパーソナライズが強化されました。
IEEE Global Survey によると、AI ベースのソリューションの導入は 2025 年までに世界で 2 倍に増加し、金融機関の 80% に達すると予想されています。
BMO Financial Group など、より先進的な銀行もあります。BMO Financial Group は、競争力を維持するためにデジタル サービスへの AI の統合を監督する特別なポジションを設けています。その結果、AI のおかげで、世界の銀行業界の利益は 2028 年までに 2 兆米ドルを超える可能性があり、これは 2024 年から 2028 年の間に 9% 近くの成長を意味します。
ラヴァル知識イノベーション管理大学の教授であり、科学コミュニケーターでもある私は、アルゴリズムによる差別に関する研究プロジェクトの著者であるカンデット・ウマル・バー氏と、フランス健全性監督・解決局のガバナンスとサイバーリスクの専門家であるアジザ・ハリレム氏にこの分析の執筆を手伝っていただきました。
銀行部門への AI の統合により、財務プロセスはすでに大幅に最適化されており、業務効率は 25 ～ 40% 向上しています。 AI は、膨大なデータ収集など、増大するビッグ データの機能と組み合わせることで、金融システムのエラー マージンをすでに 18 ～ 30% 削減できる強力な分析を提供します。
また、何百万ものトランザクションをリアルタイムで監視し、不審な動作を検出し、特定の不正なトランザクションを予防的にブロックすることも可能になります。これは JP モルガンが実施した利用法の 1 つです。
さらに、AI ベースの意思決定分析に特化した FICO などのプラットフォームは、金融機関がさまざまな顧客データを活用し、高度な予測モデルを通じて与信判断を洗練するのに役立ちます。
現在、世界中のいくつかの銀行が、収入、信用履歴、負債比率などの多数のパラメーターを数秒で分析できる自動格付けアルゴリズムを利用しています。クレジット市場では、これらのツールにより、特に明示的なローン保証がある場合などの「標準的な」ケースでの申請処理が大幅に改善されます。
しかし、他の場合はどうでしょうか?
アメリカの研究者タンバリ・ヌカ氏とアモス・オグノラ氏が指摘しているように、アルゴリズムが公平で客観的な予測を生み出すという幻想は、銀行セクターに大きなリスクをもたらしている。
彼らは科学文献を検討し、人間の複雑な行動の評価を自動システムに盲目的に委ねる誘惑に対して警告しています。カナダを含むいくつかの中央銀行も、これについて強い懸念を表明し、特に信用力と支払い能力の評価において、AI への過度の依存に伴う運用リスクを警告しています。
アルゴリズムは技術的には中立ですが、トレーニング データが歴史的な偏見、特に特定のグループに対する組織的な差別から受け継いだ偏見によって汚染されている場合、既存の不平等を増幅する可能性があります。これらのバイアスは、性別や民族的出身などの明示的な変数からだけでなく、居住地や雇用形態などの要因との間接的な相関からも生じます。
たとえば、格付けシステムは、経済的に男性と同等の状況であっても、女性に低い信用限度額を割り当てる場合があります。郵便番号や職歴などの変数を分析すると、人種差別された個人、収入が不規則な労働者、最近移民した人など、疎外されたグループのメンバーが排除される可能性もあります。
米国の教授で社会正義の専門家であるバージニア・ユーバンクス氏は、この現象をうまく説明し、歴史的に不利な地域に住んでいる人々や、非典型的なキャリアパスを持つ人々が、偏ったデータに基づいて自動化された経済的決定によってどのようにペナルティを受けているかを示しています。
これは重要な疑問を引き起こします。財務上の意思決定の自動化によって、銀行サービスへのアクセスの格差を確実に減らすにはどうすればよいでしょうか?
こうした差別のリスクに対応するために、科学文献ではいくつかの方法が検討されています。たとえば、Nuka 氏と Ogunola 氏は、金融包摂アプローチを提案しています。これには、社会集団間の待遇の格差を減らすために、トレーニング データのバイアスを特定して修正することで統計モデルを継続的に改善することが含まれます。
技術的な解決策を超えて、金融などのデリケートな分野におけるアルゴリズムの透明性と公平性を確保するための規制枠組みが最近導入されました。カナダの人工知能およびデータ法やヨーロッパの EU 人工知能法がその例です。後者は 2024 年に採用され段階的に実装され、クレジットの付与に使用されるものなどの高リスク AI システムに厳しい要件を課します。
第 13 条では、システムが監査可能であり、すべての利害関係者がその決定を理解できることを保証するための透明性要件を定めています。目的は、アルゴリズムによる差別を防止し、倫理的かつ公正な使用を確保することです。金融規制当局は、公正な競争ルールの遵守を確保し、金融の安定と顧客保護のために賢明で透明性のある慣行を保証するという重要な役割も担っています。
しかし、特定のテクノロジーや金融機関からの、厳格な基準の採用を遅らせようとする圧力は、重大なリスクをもたらします。一部の国では規制が欠如し、他の国では施行が困難であるため、不透明性が高まり、最も弱い立場にある国民に不利益をもたらす可能性があります。