ChatGPTなど人工知能（AI）への注目が高まる中、その悪用や犯罪への応用も考えられるため、世界各国でAIに関する規制論議が起こっています。ここでは、金融機関が人工知能を活用することで、想定していなかった問題やリスクが生じることに関する米国の規制論議を取り上げてみました。
■ 論点
金融機関では、業務の効率化やカスタマー・エクスペリエンスの向上、不正検知などに人工知能の利用が始まっているが、無意識のうちに既存の法律や業界規制、企業規範などに抵触してしまう可能性があるとの懸念も広がっている。具体的には「顧客の差別」「知的資産の侵害」「顧客のプライバシー侵害」「サイバーセキュリティの脆弱性」などである。
■ 金融規制当局の動き/議会の動き
2021年3月、米国の5つの金融規制当局（FRB/CFPB/FDIC/NCUA/OCC）が共同で、金融機関に対してAI利用に関する情報提供依頼（RFI）が発行した。ここで収集された情報に基づき、2022年5月、CFPB（消費者金融保護局）は、消費者のローン審査の際に審査の過程が説明できないアルゴリズムの利用を禁止する通達を行った。特にローン申請を却下した場合、金融機関は、AIを使ったかどうかに係わらず明確な理由説明が必要だとしている。
またCFPBは、2023年中にOpen Bankingに関するルール案を公表する予定だが（2024年に制度化）、ここでは、消費者が（1）金融機関が保有する個人データにアクセスし/修正する権利や、（2）金融機関がサードパーティーが保有する個人データをどのように活用するかをコントロールできる権利など、個人データに関するプライバシー保護が盛り込まれると考えられている。金融機関は、個人データの収集を強化し、AIで分析することでパーソナライズ・マーケティングやカスタマー・エクスペリエンス向上などの推進を目指しているが、この際、プライバシー保護に抵触しないことの明示が必須になるはずだ。
一方、米国議会においては、超党派によるAI規制論議が始まり法律の制定も視野に入っているが、現段階では下記のような大きなテーマが中心であり、業界別の規制論議には至っていないように思われる。
・AIを使った虚偽の情報の流布や世論操作の禁止
・子供への悪影響の防止
・AI活用に関する責任所在の明確化
・AI製品の仕組みの公表
・AI規制とイノベーションの両立
・AI規制の為の省庁の新設（大手テクノロジー企業の監視/指導、不正情報流布の監視/摘発など）
■ AI活用とリスク管理
金融業界団体であるAmerican Bankers Associationでは、金融機関におけるAI活用を推進するため（1）金融業界におけるAI関連用語とその機能の定義、（2）当局監査の際にAIの活用状況を説明するためのドキュメンテーションやAI管理体系の整備、（3）サードパーティーやベンダーを活用したAI利用の際の説明責任と透明性確保方策に関するコンセンサス作りが必要になると見ている。
金融機関におけるAI利用は始まったばかりだが、現場での活用推進のためには既存レギュレーションとの関連の明確化や、説明責任/透明性の確保方策が必要であると考えるがどうだろう。
