'Momen Bahaya': CEO Anthropic Peringatkan Jendela Risiko Siber saat AI Mengungkap Cacat Perangkat Lunak

Singkatnya

• Anthropic mengatakan AI-nya telah menemukan puluhan ribu kerentanan perangkat lunak.
• CEO Dario Amodei memperingatkan ada jendela 6 hingga 12 bulan untuk memperbaikinya.
• Kritikus mengatakan risiko mungkin dilebih-lebihkan meskipun kekhawatiran keamanan meningkat.

Diskusi antara CEO Anthropic Dario Amodei dan CEO JPMorgan Chase Jamie Dimon pada hari Selasa berfokus pada ancaman keamanan siber yang semakin meningkat yang ditimbulkan oleh kecerdasan buatan karena mengidentifikasi kerentanan lebih cepat daripada organisasi dapat memperbaikinya. Dalam acara hampir dua jam yang terkait dengan dorongan Anthropic ke layanan keuangan, di mana mereka memperkenalkan agen AI untuk tugas-tugas seperti pitchbook, tinjauan pendapatan, dan pekerjaan kepatuhan, Amodei mengatakan mungkin ada jendela enam hingga 12 bulan untuk mengatasi puluhan ribu cacat yang ditemukan oleh model Mythos perusahaan sebelum kemampuan serupa menjadi lebih tersedia secara luas. “Bahaya adalah peningkatan besar dalam jumlah kerentanan, dalam jumlah pelanggaran, dalam kerusakan keuangan yang disebabkan oleh ransomware di sekolah, rumah sakit, belum lagi bank,” kata Amodei.

Pernyataan terbaru Amodei mengikuti pengujian sebelumnya dengan Mozilla, ketika versi awal Mythos mengidentifikasi 271 kerentanan di browser Firefox dalam satu kali pass, menunjukkan bagaimana AI dapat memindai basis kode besar jauh lebih cepat daripada peneliti manusia.  Anthropic mengatakan model ini dapat mengungkap ribuan kelemahan yang sebelumnya tidak diketahui di berbagai perangkat lunak yang banyak digunakan. Banyak yang tetap tidak diungkapkan karena belum diperbaiki, meninggalkan kerusakan yang belum terselesaikan. “Jika kami mengumumkan sesuatu tanpa memperbaikinya, maka orang jahat akan memanfaatkannya,” kata Amodei.

Dalam pengujian terkendali, Mythos menyelesaikan simulasi serangan jaringan multi-langkah tanpa intervensi manusia, menunjukkan kemampuan untuk beralih dari mengidentifikasi kelemahan ke memanfaatkannya. Anthropic membatasi model ini ke sekelompok kecil mitra di bawah Proyek Glasswing, bertujuan untuk memperbaiki kerentanan sebelum alat serupa menjadi tersedia secara luas. Para peneliti menunjukkan bahwa elemen dari kemampuan Mythos dapat direproduksi menggunakan model yang ada dan teknik sumber terbuka, menunjukkan bahwa alat serupa bisa menyebar lebih cepat dari yang diperkirakan. Peringatan tersebut telah menarik skeptisisme dari dalam industri. Pada bulan April, CEO OpenAI Sam Altman mengatakan kekhawatiran tentang Mythos mungkin dilebih-lebihkan dan menyarankan Anthropic menggunakan “pemasaran berbasis ketakutan” untuk membingkai risiko dan membenarkan pembatasan akses ke teknologi. “Anda bisa membenarkannya dengan berbagai cara, dan beberapa memang nyata, seperti adanya kekhawatiran keselamatan yang sah,” kata Altman. “Tapi jika yang Anda inginkan adalah ‘kami butuh kendali atas AI, hanya kami, karena kami orang yang dapat dipercaya,’ saya rasa pemasaran berbasis ketakutan mungkin cara paling efektif untuk membenarkannya.” Meskipun ada penolakan tersebut, meskipun terjadi perseteruan publik dengan Anthropic, pemerintah AS dilaporkan menggunakan Claude Mythos untuk memindai jaringan rahasia untuk kerentanan dan menguji kemampuan keamanan sibernya, menurut Axios. Meskipun dia tidak membahas pertarungan hukum yang sedang berlangsung, Amodei mengatakan Anthropic “baik untuk negara ini.” “Saya pikir pandangan Anthropic sama seperti sebelumnya. Dalam hal politisasi, ini adalah poin yang saya buat tentang menjadi efisien, sistematis, dan adil untuk semua,” kata Amodei. “Tujuan dari undang-undang dan tidak melakukan sesuatu secara ad hoc adalah agar semua perusahaan, setidaknya secara prinsip—saya tahu ini lebih rumit dalam praktik—diperlakukan dengan cara yang sama, dan kita harus beraspirasi ke arah itu meskipun mungkin tidak akan pernah berjalan sempurna.” Amodei membingkai momen ini sebagai jendela sempit untuk bertindak, memperingatkan bahwa seberapa cepat organisasi merespons dapat menentukan apakah risiko akan meningkat atau dikendalikan.

“Ini tentang momen bahaya di mana jika kita merespons dengan benar, dan saya rasa kita mulai mengambil langkah pertama, maka kita bisa memiliki dunia yang lebih baik di sisi lain,” kata Amodei. “Hanya ada beberapa bug yang harus ditemukan.”