Eksperimen Humanity Protocol Mengungkap Bagaimana AI Dapat Mengakali KYC Dan Memanfaatkan Kepercayaan Digital

Secara Singkat

Eksperimen terkendali Humanity Protocol menunjukkan bahwa AI dapat membuat profil palsu yang meyakinkan untuk melewati verifikasi identitas, mengungkap kelemahan kritis dalam sistem KYC tradisional dan menyoroti risiko meningkatnya penipuan berbasis AI secara online.

Humanity Protocol, sebuah startup teknologi yang fokus pada pengembangan lapisan kepercayaan internet, baru-baru ini melakukan eksperimen sosial terkendali untuk mengeksplorasi bagaimana AI dapat dimanfaatkan untuk membuat profil palsu yang sangat meyakinkan, melewati verifikasi identitas di platform kencan utama, dan berinteraksi dengan pengguna nyata dalam skala besar.

Hasilnya menyoroti kekhawatiran mendesak mengenai efektivitas sistem Know Your Customer (KYC) konvensional di era yang didominasi oleh AI generatif, serta potensi kerentanan ini dieksploitasi oleh aktor jahat.

Eksperimen berlangsung selama dua bulan, dari Oktober hingga Desember 2025, dan melibatkan enam anggota tim Humanity Protocol. Menggunakan alat AI yang dapat diakses publik termasuk Reve AI, ChatGPT, Nanobanana, dan Midjourney, tim menghasilkan empat profil Tinder yang berbeda, lengkap dengan foto dan detail biografi.

Untuk menjaga aktivitas yang realistis, tim menggunakan TinderGPT, sebuah alat sumber terbuka di GitHub, yang memungkinkan profil mengelola lebih dari 100 percakapan sekaligus dengan pengguna asli di aplikasi kencan tersebut. Meskipun akun dibuat dari berbagai negara—Portugal, Spanyol, Serbia, Indonesia, dan Thailand—semua profil menggunakan Tinder Gold untuk mengatur lokasi mereka ke Portugal. Sepanjang eksperimen, akun yang dihasilkan AI berinteraksi dengan 296 pengguna Tinder nyata dan berhasil meyakinkan 40 orang untuk bertemu secara langsung.

Eksperimen ini berakhir secara etis di sebuah restoran di Lisbon, Portugal, di mana semua peserta diberitahu tentang situasinya saat kedatangan dan dihibur makan malam oleh startup tersebut. Desain eksperimen memastikan bahwa tidak ada kerugian finansial, emosional, atau fisik yang terjadi, dan tujuan utamanya adalah untuk mengungkap kerentanan sistemik daripada mengeksploitasinya.

“Ini bukan tentang menipu orang untuk bersenang-senang,” kata Terence Kwok, Pendiri Humanity Protocol, dalam sebuah pernyataan tertulis. “Ini tentang menguji sistem yang kita semua andalkan dan menunjukkan betapa mudahnya kepercayaan dapat dibuat ketika AI terlibat. Jika tim kecil bisa melakukan ini sebagai eksperimen, bayangkan apa yang bisa dicapai aktor jahat yang terkoordinasi dengan niat jahat,” tambahnya.

Sistem KYC, Meningkatkan Taruhan untuk Keamanan Online dan Pencegahan Penipuan

Temuan ini menyoroti tantangan yang lebih luas bagi platform digital: protokol KYC tradisional dirancang dalam lingkungan sebelum AI generatif dan semakin tidak memadai. Langkah verifikasi standar seperti pemeriksaan foto, deteksi keaktifan dasar, dan unggahan dokumen kesulitan mengikuti kecepatan alat AI yang mampu menghasilkan gambar, suara, dan perilaku hiper-realistis yang meyakinkan meniru pengguna manusia.

Meskipun dampak langsung pada platform kencan mungkin terbatas pada pemborosan waktu atau manipulasi emosional, taruhan jauh lebih tinggi dalam konteks keuangan dan keamanan. Menurut Federal Trade Commission AS, warga Amerika kehilangan lebih dari $1,3 miliar akibat penipuan romantis pada tahun 2022, menjadikannya kategori penipuan konsumen paling mahal. Seiring kemajuan teknologi AI, perbedaan antara eksperimen yang tidak berbahaya dan penipuan skala besar semakin menyempit. Tanpa kerangka KYC yang dapat beradaptasi dengan AI generatif dan memverifikasi kemanusiaan daripada sekadar identitas, platform online berisiko menjadi target utama untuk eksploitasi berbasis AI generasi berikutnya.