Jadi OpenAI baru saja menunda fitur obrolan dewasa mereka untuk ChatGPT dan jujur saja, alasannya masuk akal. Tampaknya sistem deteksi usia mereka sering salah menandai remaja sebagai orang dewasa sekitar 12%, yang... tidak bagus. Dewan kesejahteraan mereka mengangkat kekhawatiran tentang hal ini sejak Januari lalu, dan ya, saya mengerti mengapa mereka menahan diri dari sesuatu seperti itu.

Seluruh situasi ini menyoroti betapa rumitnya membangun fitur-fitur ini dengan aman. Opsi obrolan dewasa bisa berguna, tetapi jika sistem tidak dapat memverifikasi secara akurat siapa yang sebenarnya di ujung lain, ini menjadi masalah besar. Terutama saat berbicara tentang melindungi pengguna muda dari konten yang seharusnya tidak mereka lihat.

Agak menyegarkan bahwa mereka benar-benar meluangkan waktu untuk memperbaikinya daripada langsung merilisnya. Membuat kita bertanya-tanya apa yang dilakukan perusahaan AI lain dengan tantangan serupa. Apakah mereka akhirnya akan membuat prediksi usia cukup akurat untuk meluncurkannya, atau ini salah satu fitur yang hanya akan tetap di rak?