Регуляторы Великобритании выражают озабоченность по поводу роли ИИ в финансовых услугах

По мере того как все больше финансовых учреждений внедряют искусственный интеллект для ключевых функций, таких как оценка кредитоспособности, группа законодателей из Великобритании выразила опасения, что отрасль может быть неготовой к крупному инциденту, связанному с ИИ.

Недавно законодатели рекомендовали Управлению по финансовому поведению и Банку Англии провести стресс-тесты, ориентированные на ИИ, которые могли бы помочь финансовым компаниям справиться с потенциальными проблемами, возникающими из-за технологий.

Комитет также призвал Великобританию занять более активную позицию в решении этих рисков. Например, он предложил, чтобы FCA опубликовало руководство, разъясняющее, как правила защиты потребителей применимы к ИИ, а также насколько руководители финансовых организаций должны разбираться в компонентах ИИ, встроенных в их системы.

Недостатки и риски

По данным отчета, эти меры становятся все более необходимыми, учитывая значительные риски, связанные с ИИ. Недостатки, часто проявляющиеся в этой новой технологии, могут привести к неправильным кредитным решениям, повышенному риску мошенничества и распространению дезинформации.

Отчет также подчеркнул риски концентрации, связанные с крупными моделями ИИ, которые в основном контролируются ведущими американскими технологическими гигантами. Эти централизованные системы могут искажать решения потребителей и способствовать стадному поведению на финансовых рынках.

Более того, законодатели из Великобритании заявили, что появление агентного ИИ — и спешка в его внедрении в коммерцию — создали потенциальную точку перелома для финансовых институтов. Это мнение разделяет и Experian, отметившая, что торговцы и финансовые учреждения в настоящее время не располагают инструментами для различения легитимных ИИ-агентов и вредоносных ботов.

Текущая дилемма

Несмотря на эти опасения, динамичные преимущества ИИ гарантируют, что он останется приоритетом для финансовых учреждений.

Данные FIS показывают, что более трех четвертей руководителей бизнеса и технологий считают, что ИИ укрепил возможности их организаций по обнаружению мошенничества и управлению рисками. Около половины опрошенных также заявили, что их организации планируют увеличить инвестиции в ИИ в течение следующих двух лет.

В то же время представитель Банка Англии недавно подчеркнул, что британская финансовая индустрия не полностью использует аналитические данные для обнаружения мошенничества. Это подчеркивает основную дилемму, с которой сталкиваются многие финансовые организации: руководители должны разрабатывать стратегии, максимально использующие преимущества ИИ, одновременно минимизируя его внутренние риски.