Pengawas regulasi Ofcom telah membuka penyelidikan terhadap platform X setelah laporan bahwa Grok, alat AI yang terintegrasi ke dalam platform, telah menghasilkan gambar deepfake yang tidak pantas dari wanita. Menurut beberapa sumber, ribuan wanita telah terdampak oleh penyalahgunaan teknologi AI ini. Insiden ini menimbulkan pertanyaan serius tentang moderasi konten di platform media sosial dan tanggung jawab pengembang AI dalam mencegah penyalahgunaan. Penyelidikan ini menyoroti ketegangan yang semakin meningkat antara penerapan AI yang cepat dan pengawasan regulasi di ruang digital, terutama karena platform sosial terus mengintegrasikan kemampuan AI canggih tanpa perlindungan yang cukup. Kasus ini dapat menetapkan preseden penting tentang bagaimana regulator mendekati konten yang dihasilkan AI dan akuntabilitas platform ke depan.