Apa yang Masih Belum Bisa Dilakukan AI dalam Layanan Keuangan

Bank menginvestasikan $30 miliar ke dalam AI pada tahun 2025. Namun 70% implementasi AI di perbankan tidak menunjukkan ROI yang terukur, dan hanya 26% pelanggan yang percaya AI dengan data keuangan mereka. Sebagai seseorang yang bekerja dekat dengan lembaga keuangan dalam menerapkan sistem ini, saya ingin mengatasi kebisingan dan berbagi apa yang saya lihat secara konsisten menghambat AI dalam praktiknya.

Tembok Integrasi

Setiap pemroses pembayaran, pemberi pinjaman, dan bank menggunakan format data yang berbeda, API proprietary, dan sistem legacy yang tidak kompatibel. Agen AI membutuhkan aliran data yang terpadu untuk berfungsi, tetapi infrastruktur keuangan sengaja dibuat terfragmentasi demi keamanan dan alasan kompetitif.

Dalam praktiknya, ini berarti tim menghabiskan lebih banyak waktu membangun lapisan penerjemah antar sistem daripada benar-benar melatih model. Inisiatif open banking semakin berkembang, tetapi kerangka kerja seperti Model Context Protocol masih merupakan teknologi yang sedang berkembang daripada infrastruktur yang mapan. Tantangan teknis ini memperburuk tantangan organisasi: menerapkan AI bukan sekadar menginstal perangkat lunak. Ini berarti mengubah cara pengambilan keputusan, aliran data, dan interaksi staf dengan sistem. Penelitian Federal Reserve menunjukkan produktivitas sering menurun awalnya saat tim berjuang beradaptasi.

Bias Tidak Hilang; Ia Meningkat

AI tidak menciptakan bias. Ia memperbesar bias yang sudah ada dengan presisi matematis. Ketika sebuah model dilatih berdasarkan dekade keputusan kredit yang mencerminkan redlining dan praktik pemberian pinjaman diskriminatif secara historis, model tersebut tidak mendeteksi diskriminasi. Ia mengidentifikasi pola yang mengoptimalkan hasil-hasil tersebut.

Kasus Hello Digit membuat ini menjadi konkret. Algoritma tabungan otomatis mereka berulang kali menyebabkan overdraft yang sebenarnya mereka coba cegah, sehingga dikenai denda CFPB sebesar $2,7 juta. Algoritma hipotek Freddie Mac dan Fannie Mae meniru pola diskriminasi rasial tanpa insinyur pernah secara eksplisit memprogramnya. Bahkan ketika karakteristik yang dilindungi dihapus dari model, variabel proxy (kode ZIP, riwayat pekerjaan, pola pengeluaran) diam-diam membawa sinyal yang sama.

Pengadilan telah menegaskan bahwa menerapkan model yang menghasilkan hasil diskriminatif secara hukum setara dengan menerapkan kebijakan diskriminatif, terlepas dari niatnya.

Halusinasi Bukan Sekadar Keanehan yang Dapat Diterima

Dalam aplikasi konsumen, halusinasi AI adalah gangguan. Dalam layanan keuangan, mereka adalah pelanggaran kepatuhan. Model bahasa besar dirancang untuk menghasilkan teks yang terdengar masuk akal, bukan selalu akurat. Mereka menyajikan perhitungan pinjaman yang dibuat-buat dan persyaratan regulasi yang diada-adakan dengan kepercayaan diri yang sama seperti saat mereka benar.

NatWest secara khusus bermitra dengan IBM untuk membangun asisten AI mereka, Cora+, dengan perlindungan terhadap hal ini. Kesalahan modifikasi hipotek Wells Fargo 2018 menggambarkan risiko dengan jelas: satu kesalahan perhitungan tidak mempengaruhi satu file, tetapi menyebabkan lebih dari 500 orang kehilangan rumah mereka dan menolak ratusan lainnya mendapatkan modifikasi pinjaman yang mereka layak terima. Ketika AI membuat kesalahan perhitungan secara massal, setiap proses hilir yang bergantung pada output tersebut terganggu.

Kepatuhan Regulasi dan Sifat Eksperimental AI Berlangsung dalam Ketegangan Langsung

EU AI Act mengharuskan lembaga menjelaskan secara tepat bagaimana AI mencapai setiap keputusan, membuktikan bahwa model tidak diskriminatif, dan menunjukkan pemantauan berkelanjutan terhadap drift. DORA, yang mulai berlaku awal 2025, mengharuskan deteksi insiden secara real-time dan jejak lengkap di seluruh infrastruktur.

Masalah praktisnya: mengesahkan sistem yang belajar dan beradaptasi secara terus-menerus secara inheren sulit. Lembaga keuangan akhirnya membekukan versi model untuk tinjauan regulasi, yang berarti kemampuan AI mutakhir akan selalu melampaui penerapan AI yang sesuai regulasi. Hanya 9% eksekutif bank di Inggris merasa siap menghadapi regulasi AI yang akan datang.

Bekerja lintas yurisdiksi semakin memperumit hal ini. Apa yang memenuhi syarat di EU mungkin tidak memenuhi syarat di UK atau AS. Tidak ada standar global.

Dimana AI Benar-benar Memberi Hasil Saat Ini

Kesenjangan antara hype dan kenyataan produksi patut disebut secara langsung. AI bekerja dengan baik dalam deteksi penipuan (sekitar 95% akurasi dengan tingkat positif palsu yang dapat diterima), pemantauan transaksi, pemrosesan dokumen, dan pertanyaan pelanggan dasar. Ini karena masalah tersebut sempit, terdefinisi dengan baik, dengan metrik keberhasilan yang jelas dan tingkat kesalahan yang dapat ditoleransi.

Apa yang masih terjebak di masa pilot: pengambilan keputusan kredit otomatis, keputusan pemberian pinjaman tanpa pengawasan, dan pemantauan kepatuhan otomatis sepenuhnya. Ini membutuhkan tingkat keandalan dan penjelasan yang saat ini tidak dapat dipenuhi AI secara konsisten dalam skala besar di bawah pengawasan regulasi.

CTO Grasshopper Bank menyatakan secara lugas: AI mungkin membantu dalam pemantauan portofolio, tetapi persetujuan kredit akhir harus selalu manusia. Kisah Klarna memperkuat poin ini dari sudut pandang berbeda. Setelah secara publik mengklaim chatbot mereka menggantikan 700 karyawan, CEO Sebastian Siemiatkowski membalikkan keadaan, mencabut moratorium perekrutan selama 18 bulan, dan mengakui bahwa pelanggan membutuhkan opsi kontak manusia, terutama saat mengalami tekanan keuangan.

Keputusan Strategis Tetap Sepenuhnya Manusia

Tidak ada AI yang dilatih dari data historis yang akan memprediksi bahwa orang ingin membagi tagihan restoran melalui aplikasi, secara otomatis menginvestasikan sisa uang, atau menyewa rumah kepada orang asing. Tidak ada dari perilaku ini dalam set pelatihan manapun.

Pertumbuhan pasar prediksi, kerangka stablecoin seperti GENIUS Act, dan pergeseran embedded finance pada tahun 2025 semuanya dirancang oleh orang yang mengenali perubahan perilaku pelanggan dan peluang regulasi sebelum data itu terlihat. AI unggul dalam memperbesar ide-ide ini setelah ada. Ia tidak menciptakan ide tersebut.

McKinsey memperkirakan AI dapat menambah nilai sebesar $200-340 miliar per tahun ke industri perbankan global. Nilai tersebut berasal dari AI yang mengeksekusi dan memperbesar strategi yang dirancang manusia, bukan dari AI yang menciptakan strategi secara mandiri.

Pesan Praktis untuk Pemimpin Keuangan

Lembaga yang menang dengan AI bukanlah yang memiliki algoritma paling canggih. Mereka adalah yang jernih tentang apa yang bisa dan tidak bisa dilakukan AI, membangun kerangka tata kelola sebelum penerapan, dan merancang alur kerja di mana manusia tetap memegang otoritas pengambilan keputusan untuk hasil yang berisiko tinggi.

Pertanyaan yang perlu diajukan bukanlah “apa yang bisa dilakukan AI?” Melainkan “apa yang harus kita bangun, dan bagaimana AI dapat membantu kita membangun dan mengantarkannya lebih cepat dan dengan skala yang lebih besar daripada yang bisa kita lakukan sendiri?” Pertanyaan pertama menganggap AI sebagai tujuan. Pertanyaan kedua menganggapnya sebagai alat dalam melayani strategi. Perbedaan ini membuat semua perbedaan.