ChatGPT 8 bulan yang lalu memblokir akun penyerang tetapi tidak melapor ke polisi, kemudian dia membunuh 8 orang, Altman meminta maaf

Kanada British Columbia Tumbler Ridge pada bulan Februari tahun ini mengalami penembakan yang menyebabkan 8 orang meninggal dunia, setelah itu terungkap bahwa OpenAI sudah sejak 8 bulan sebelum kejadian tersebut melarang akun ChatGPT dari pelaku penembakan Rootselaar karena “situasi terkait kekerasan senjata”, tetapi tidak melaporkannya ke polisi dengan alasan “belum memenuhi ambang ancaman langsung”. CEO OpenAI Sam Altman mengirim surat permintaan maaf minggu lalu.
（Latar belakang: Musk mengajukan gugatan terhadap OpenAI di pengadilan: meminta pembubaran perusahaan yang berorientasi laba, pencopotan Altman, dan ganti rugi sebesar 134 miliar dolar AS）
（Keterangan tambahan: OpenAI merilis lima konstitusi utama AGI: AI tidak boleh dikendalikan oleh segelintir orang, pengorbanan dapat digantikan dengan ketahanan yang lebih besar）

Daftar Isi Artikel

Toggle

• Kekosongan 8 bulan
• Siapa yang menetapkan ambang pelaporan?
• Perubahan dan yang tetap sama

10 Februari 2026, sebuah penembakan terjadi di kota kecil terpencil Tumbler Ridge, British Columbia, Kanada. Jesse Van Rootselaar yang berusia 18 tahun terlebih dahulu membunuh ibunya dan adik laki-lakinya yang berusia 11 tahun di rumah, kemudian pergi ke sekolah menengah di kota tersebut, menyebabkan 8 orang meninggal dan akhirnya bunuh diri.

Penyelidikan kemudian mengungkapkan: OpenAI sudah 8 bulan sebelumnya, dengan alasan Van Rootselaar “menggambarkan situasi terkait kekerasan senjata” dalam percakapan, telah melarang akun ChatGPT-nya, tetapi tidak memberitahu pihak berwenang manapun.

Kekosongan 8 bulan

Juni 2025, sistem deteksi penyalahgunaan otomatis ChatGPT dan moderator manusia bersama-sama menandai akun Van Rootselaar, dan akun tersebut diblokir. Menurut pernyataan OpenAI kemudian, moderator saat itu juga melakukan diskusi internal tentang apakah harus melaporkan ke polisi.

Hasil diskusi adalah: Tidak melaporkan.

OpenAI menyatakan, penilaian moderator menganggap bahwa perilaku akun tersebut “belum mencapai ambang ancaman serius dan langsung terhadap orang lain”, sehingga tidak mengaktifkan proses pelaporan penegakan hukum. Setelah akun diblokir, kasus ini tetap di dalam internal perusahaan. Akun ditutup, tetapi sinyalnya tidak dikirimkan keluar.

Hingga kejadian penembakan pada Februari 2026, OpenAI baru secara aktif menghubungi pihak berwenang Kanada.

Siapa yang menetapkan ambang pelaporan?

“Ancaman langsung dan terpercaya” adalah standar pelaporan yang ditetapkan sendiri oleh OpenAI, yang diputuskan oleh tim keamanan, hukum, dan kebijakan internal perusahaan tentang situasi apa yang perlu dilaporkan ke polisi. Standar ini tidak diawasi oleh lembaga pengawas eksternal, dan tidak ada penjelasan publik tentang bagaimana standar ini dikalibrasi.

Akun Van Rootselaar memenuhi standar “perlu diblokir”, tetapi tidak memenuhi standar “perlu dilaporkan”, dan kedua ambang ini dipisahkan dalam logika internal OpenAI.

23 April, Sam Altman menulis surat permintaan maaf yang pertama kali dipublikasikan di surat kabar lokal TumblerRidgeLines di Tumbler Ridge. Dalam surat tersebut, Altman menulis:

Rasa sakit yang kalian alami sangat sulit dibayangkan.

Beberapa bulan terakhir, saya terus memikirkan kalian. Saya sangat menyesal karena kami tidak melaporkan ke aparat penegak hukum saat akun tersebut diblokir pada bulan Juni.

Sebelum surat ini dipublikasikan, Altman sudah berkomunikasi langsung dengan Walikota Tumbler Ridge, Darryl Krakowka, dan Gubernur British Columbia, David Eby. Eby membagikan surat tersebut ke media sosial pada 24 April, dan menambahkan tanggapan: “Permintaan maaf memang perlu, tetapi untuk keluarga-keluarga di Tumbler Ridge yang mengalami penderitaan, ini jauh dari cukup.”

Perubahan dan yang tetap sama

OpenAI mengumumkan akan melonggarkan standar pelaporan ke aparat penegak hukum agar lebih banyak situasi akun yang memicu proses pelaporan. Menteri Kecerdasan Buatan Kanada, Evan Solomon, menyatakan bahwa Altman setuju untuk membangun saluran komunikasi langsung dengan Royal Canadian Mounted Police (RCMP), dan menambahkan mekanisme yang mengarahkan pengguna yang menunjukkan sinyal krisis dalam percakapan ke layanan dukungan lokal.

Pemerintah Kanada saat ini sedang menilai apakah perlu mengatur secara legislatif kewajiban pelaporan platform AI lebih lanjut.

Namun, yang kontradiktif adalah, banyak orang mungkin hanya mengucapkan sesuatu saat sedang tidak stabil secara emosional (kamu pasti juga pernah mengucapkan “saya ingin mati” sekadar pelampiasan, kan?) dan kemudian dilaporkan, sehingga orang menjadi takut untuk menceritakan masalah hati mereka kepada AI (atau mungkin itu bukan hal buruk?).

Saat ini, masalah ini bukan soal kemampuan OpenAI. ChatGPT mendeteksi, dan moderator manusia juga melihatnya, masalahnya adalah siapa yang menentukan ambang batas tersebut? Siapa yang menafsirkan? Bagaimana mengatur ukurannya?