人工知能に関する新しい規制に備える

2022/6/9

by Paul Hewitt from Luxoft

※本稿は、DXC Technologyのグループ企業であるLuxoftの記事を翻訳・要約したものです。出典：Prepare for new regulations on artificial intelligence

人工知能（AI）の利用に関する新しい規則が、金融機関の業務に影響を与えるかもしれません。この規制は、2024年から実施されますが、対応はすぐにはじめなければいけません。規制の内容は、Luxoftのベストプラクティスの推奨内容と整合的です。新しい規則に準拠し、AIの活用をご支援します。

新しい規制とは？

EUは、AIの 利用に関する規制である「人工知能法（AIA:Artificial Intelligence Act）」の草案を発表しました。 AIAは、クレジットスコアリング、不正検知、ポートフォリオ管理、エンタープライズ・リスク管理など、金融サービスにおける多くのユースケースに影響を与える可能性があります。 AIの出力がEU内で利用される場合、規制は地域外のAIにも適用されます。

規制は2024年まで発効する予定はありませんが、金融機関は、AIをどのように利用すべきか、規制が施行されたときの影響を明確に把握するために、今すぐ行動する必要があります。実践者はまた、新たなルールに注意し、AIテクノロジーを活用する新しいアプリケーションやサービスの設計プロセスにそれらを組み込む必要があります。

どのような活動が影響を受けるか？

草案では、AIアプリケーションを潜在的なリスク・レベルで分類し、それぞれに対応するコントロール・レベルを設定しています。

• 最小リスク—コントロールなし
• 限定的リスク—特定のコントロール
• 高リスク—厳格なコントロールと義務
• 許容不可リスク—完全な禁止

特定の金融サービスは高リスクに分類されると思われるため、この分野には特に注意を払う必要があります。たとえば、規則案では、リスクの高い活動として、「顧客のローン取得を判断するクレジットスコアリング」を挙げています。この考え方は、銀行がリテールのクレジットスコアリングや同等の目的にAIを利用する時に適用されるでしょう。

どのような統制が必要か？

高リスクのアプリケーションの場合、新しいEU規則では次のことが要求されます。

• 適切なリスクアセスメンtおよび軽減システム
• 高品質のデータセット（リスクと差別的な判断を最小限に抑えるため）
• 結果のトレーサビリティを確保するためのアクティビティのログ
• 監査人がシステムのコンプライアンスとその目的を評価できるような詳細な文書
• ユーザーへの明確で適切な情報提供
• リスクを最小化するための人間による適切な監視措置
• 高レベルの堅牢性、セキュリティ、および精度

違反に対する罰則

罰金やその他の懲罰的措置は厳しいものになる可能性があります。提案されている罰金は、ガバナンス関連の違反の場合、収益の6％、リスクの高いAIアプリケーションには、最大2,000万ユーロまたは収益の4％となっています。罰金に加え、違反は、評判の低下や関連する損害を追加的にもたらすリスクがあります。

実務家はどのように対応しているか？

これまでの業界の反応は、AIAの影響を認めており、他の規制当局もそれに続く可能性があるという期待です。リスクベースのアプローチは一般的に歓迎されており、2024年が近づくにつれて、さらにいくつかの変更が予想されます。ただし、規制の範囲とそれに含まれる例、および金融サービス内でのAIの急増を考えると、 EUで業務をしている事実上すべての金融機関が影響を受ける可能性があるでしょう。

規制が施行される前に、いくつかの明確化が期待されます。たとえば、EUのAIの定義には「統計的アプローチ」が含まれます。これは、回帰分析（200年以上使用されている）などの手法も範囲内にあることになり、これは、おそらく金融機関にとって意図しない内容でしょう。

今何をすべきか

まず、影響を受けるシステムを特定し、「高リスク」と指定される可能性が高い機能領域を明確にします。例えば、

• クライアントデータに直接使用されるAIソリューション（クレジットスコアリングなど）
• クライアントに直接または間接的に影響を与えるAIソリューション（クライアント業務のポートフォリオ管理など）
• 企業レベルでの意思決定に使用されるAIソリューション（リスクや資本管理など）。

影響を受けるアプリケーションについては、説明可能性や再現性など、規制への準拠を実証する必要があります。規制当局は、AIテクノロジーに透明性があり、一貫性があり、差別のない方法で適用されることを保証したいと考えています。これらの目的に対処するために、AIプラットフォームと新しいAI開発には、規制コンプライアンスが組み込まれている必要があります（コンプライアンスの責任は規制対象のエンティティにあることに注意してください）。

信頼できるパートナーからの支援

熟練したパートナーの専門知識を活用することで、コンプライアンス対策を迅速かつ簡単に導入できます。 AIAで概説されているルールの多くは賢明であり、Luxoftのベストプラクティスの推奨事項にも含まれていると考えています。

AIの使用を評価して適応させるためにすぐに行動し、パートナーや規制当局と話し合うためのデータポイントの棚卸をする良い機会です。これには準備が必要です。すでに使用されているAIをカタログ化して分類し、不足している可能性のあるものや修正箇所を特定します。

私たちは、金融機関がこれらの幅広い規制への影響を計画、実施、および挑戦するのを支援するためのさまざまなサービスを提供しています。専門知識とコンプライアンスを備えたAIの使用方法については、コンサルタントの1人に問い合わせてください。