Regulator UK Suarakan Kekhawatiran tentang Peran AI dalam Layanan Keuangan

Seiring semakin banyak lembaga keuangan menerapkan kecerdasan buatan untuk fungsi utama seperti penilaian kredit, sekelompok anggota parlemen Inggris mengungkapkan kekhawatiran bahwa industri mungkin belum siap menghadapi insiden besar terkait AI.

Para anggota parlemen baru-baru ini menyarankan Otoritas Perilaku Keuangan dan Bank of England untuk menerapkan uji stres yang berfokus pada AI yang dapat membantu perusahaan jasa keuangan mengatasi potensi masalah yang berasal dari teknologi tersebut.

Komite tersebut juga menyerukan agar Inggris mengambil sikap yang lebih proaktif dalam mengatasi risiko ini. Misalnya, mereka merekomendasikan agar FCA menerbitkan panduan yang menjelaskan bagaimana aturan perlindungan konsumen berlaku untuk AI, serta sejauh mana manajer senior jasa keuangan diharapkan memahami komponen AI yang tertanam dalam sistem mereka.

Kekurangan dan Risiko

Menurut laporan tersebut, langkah-langkah ini semakin diperlukan mengingat risiko besar yang ditimbulkan oleh AI. Kekurangan yang sering muncul dalam teknologi yang masih baru ini dapat menyebabkan keputusan kredit yang tidak akurat, peningkatan risiko penipuan, dan penyebaran informasi yang salah.

Laporan tersebut juga menyoroti risiko konsentrasi yang terkait dengan model AI besar, yang sebagian besar difasilitasi oleh perusahaan teknologi terkemuka berbasis di AS. Sistem terpusat ini dapat mempengaruhi pengambilan keputusan konsumen dan mendorong perilaku kawanan di pasar keuangan.

Selain itu, anggota parlemen Inggris menyatakan bahwa munculnya AI agenik—dan dorongan untuk mengadopsi perdagangan agenik—telah menciptakan titik infleksi potensial bagi lembaga keuangan. Sentimen ini juga didukung oleh Experian, yang mencatat bahwa pedagang dan lembaga keuangan saat ini kekurangan alat untuk membedakan antara agen AI yang sah dan bot berbahaya.

Masalah Saat Ini

Meskipun kekhawatiran ini, manfaat dinamis dari AI memastikan bahwa teknologi ini akan tetap menjadi prioritas bagi lembaga keuangan.

Data dari FIS menunjukkan bahwa lebih dari tiga perempat pemimpin bisnis dan teknologi percaya bahwa AI telah memperkuat kemampuan deteksi penipuan dan manajemen risiko organisasi mereka. Sekitar setengah dari responden juga mengatakan bahwa organisasi mereka berencana meningkatkan investasi AI dalam dua tahun ke depan.

Pada saat yang sama, seorang pejabat Bank of England baru-baru ini menegaskan bahwa industri keuangan Inggris belum sepenuhnya memanfaatkan analitik data untuk deteksi penipuan. Ini menyoroti dilema utama yang dihadapi banyak lembaga keuangan: para pemimpin harus menciptakan strategi yang memaksimalkan manfaat AI sambil mengurangi risiko inherennya.