人工知能は世界を変革しており、金融サービスも例外ではありません。 AI は個人銀行部門を再構築していますが、男女平等、透明性、公平性の点で AI は現在どのような立場にあるのでしょうか?
今日、誰かがローンを申請しても、誰もその申請書を読まない可能性が高まっています。データドリブンのアルゴリズムは、対象となるかどうか、どれくらい借りられるか、どの程度リスクがあるとみなされるかを決定します。多くの場合、数秒で説明もなく、ほとんどの人が日常生活で目にすることも感じることもない方法で、金融の機会を静かに形作ります。
これらのシステムは通常、人間よりも高速で、より一貫性があり、偏見を受けにくい、中立的なツールとして提示されます。
不透明性と偏見で長らく批判されてきたこの分野では、その約束は魅力的であり、業界や政策の議論で頻繁に反響を呼んでいる。しかし、その約束は、これらのシステムが学習するデータはすべての人の生活を平等に反映しているという、ほとんど明示されていない脆弱な前提に基づいています。
EU基本権庁による最近の報告書は、加盟5か国のフィールドワークに基づいて、雇用、公益、法執行などの分野で高リスクAIシステムがEU AI法に基づいてどのように管理されているかを調査した。この調査では、法的な野心と実践の間に顕著なギャップがあることが判明しました。差別のリスクは広く認識されていますが、プロバイダーや導入者には、差別を体系的に評価するためのツール、専門知識、ガイダンスが欠けていることがよくあります。自己評価には一貫性がない傾向があり、監視は依然として希薄です。
これは重要な問題です。これらのシステムに供給されるデータが、男性と同じ深さと正確さで女性の経済生活の現実を捉えることができない場合、その結果は単なる技術的な欠陥ではなく、誰がどのような条件で、どのような長期的な影響を伴う信用アクセスを得るのかを形作る構造的な歪みをもたらします。 AI 主導の金融が公平であるためには、まずこれらのシステムが依存するデータに女性が「見える」必要があります。
アルゴリズムは公平性を判断したり、結果が理にかなっているかどうかを尋ねたりするのではなく、与えられたデータに基づいて正しい可能性が最も高いものを推定し、パターンを描き、それを予測します。データが不完全であるか歪んでいる場合、システムの結論は最初から不安定な仮定に基づいています。
女性が過小評価されていたり、測定が不十分であったり、男性と分けて分析されなかったりすると、システムは不平等な結果を認識できず、認識できないものを修正することはできません。偏見は単純に引き継がれ、日常化されます。
この力関係は、議論がモデルや規制のレベルに留まっていると見落とされがちですが、自動化システムが実際に観察されるとすぐにその影響が明らかになります。さまざまな国で、システムが差別するように設計されているためではなく、システムが学習から得たデータにすでに存在する歪みを忠実に再現しているため、アルゴリズムによる決定に不平等がいかに迅速に組み込まれるかを示す証拠があります。
ケニアが印象的な例を示しています。発表された研究によると、広く使用されているデジタル融資アルゴリズムは、返済実績が優れているにもかかわらず、一貫して女性の融資額は男性よりも少額で、場合によっては3分の1以上だった。このシステムは女性を意図的に除外したわけではありません。単に長年にわたる社会的および経済的格差によって形成されたデータから学習し、それらのパターンを大規模に適用しただけです。
この例で重要なのはケニアそのものではなく、この事件によって何が可視化されたかである。このアルゴリズムは、過去の行動から学習し、それらのパターンを一貫して適用するという、設計どおりの動作をしましたが、女性と男性の結果を区別する機能がなければ、不平等がリアルタイムで再現されていることを検出する方法はありませんでした。問題は自動化ではなく、失明でした。
そこで重要になるのが、性別ごとに分けられたデータです。金融データを性別ごとに分類することで、規制当局、金融機関、テクノロジー設計者は、自動化システムの影響を明らかにし、誰が金融にアクセスできるのかを特定し、結果が乖離し始める領域を正確に特定できます。このような可視化がなければ、ジェンダーギャップは隠されたままとなり、隠されたギャップは永続化する傾向があります。デジタル金融において、データは「女の子の親友」であり、スローガンとしてではなく、責任を果たすための実際的な条件として使用されます。
ほとんどの金融機関はすでに、基本的な身分証明書の一部として顧客の性別を記録しています。紙の上では、情報はそこにあり、日常的なレポートや基本的な顧客記録に埋め込まれています。ただし、実際には、変数を記録することと、変数を使用することは同じではありません。多くの国では、顧客の性別はデータベースに記載されていますが、健全性報告などの中核的な監督枠組みを含め、監督当局によって分析、報告、監視されることはありません。多くの場合、データはすでに存在しますが、収集され、ファイルに保管され、その後静かに無視されます。問題は何ができるかではなく、何が行われるかにあります。
資源が少ないと思われがちな国では、状況は大きく異なります。ラテンアメリカとアフリカの一部では、規制当局が長年にわたり性別ごとの報告を義務付けており、金融における男女格差に関するデータを定期的に公表している。
チリでは金融当局が20年以上にわたってローンと預金の男女差を追跡し、性別ごとの財務統計を定期的に公表している。
メキシコでは、規制当局が銀行データと全国家計調査を組み合わせて、女性と男性が金融サービスをどのように利用しているか、そして借り手としてのパフォーマンスを把握しています。
その可視性は実際的な結果をもたらしました。メキシコでは、女性向け融資は小規模だがリスクが低いことが監督データで示されており、その証拠が貸倒引当金規定の変更に反映された。
チリでは、口座への平等なアクセスが貯蓄や保険の平等な結果に結びつかないことがデータによって明らかになり、より的を絞った政策対応が促されました。こうしたギャップが可視化されると、無視するのがはるかに困難になります。
この観点から見ると、多くの高所得経済国の状況は技術的な遅れというよりもむしろ制度上の躊躇のように見えます。ヨーロッパの多くの地域では、高度なデータインフラストラクチャにもかかわらず、ジェンダーデータは自発的か断片的なままであり、これは技術的能力の問題ではなく、制度的選択の失敗です。 5 月に発行予定の私の次期政策文書「データは女の子の親友:性別に細分化されたデータによるデジタル金融不平等への取り組み」でこれについて検討しています。
人工知能が金融上の意思決定にさらに深く組み込まれるようになるにつれて、その選択を守るのは難しくなります。ヨーロッパが EU AI 法を施行し、金融におけるアルゴリズムによる意思決定をどのように規制するかを議論しているときに、系統的な性別データが存在しないという基本的な疑問が生じます。不平等を検出するために必要なデータがまったく分析されない場合、公平性はどのように監視できるのでしょうか?
データで女性を可視化することは象徴的なものではありません。それがなければ、フェアファイナンスは単なる主張にすぎません。
学者や研究者からの専門知識を紹介する英語での毎週の電子メール。大陸から発信される研究の多様性について紹介し、ヨーロッパ諸国が直面する重要な問題のいくつかについて考察します。ニュースレターを入手してください!