Cơ quan quản lý truyền thông của Vương quốc Anh hiện đang chính thức điều tra X sau những lo ngại ngày càng tăng về hình ảnh khiêu dâm được tạo ra thông qua công cụ AI Grok của nền tảng này. Động thái này đánh dấu một chương mới trong sự giám sát quốc tế ngày càng gia tăng về kiểm duyệt nội dung do AI tạo ra.

Cuộc điều tra phản ánh những căng thẳng rộng lớn hơn giữa các nền tảng mạng xã hội và các nhà quản lý trên toàn thế giới. Khi công nghệ tạo hình ảnh bằng AI trở nên tinh vi hơn, các cơ quan chức năng ngày càng siết chặt việc triển khai các công cụ này và liệu các nền tảng có duy trì các biện pháp bảo vệ phù hợp hay không.

Grok, hệ thống AI nội bộ của X, đã thu hút sự chú ý đặc biệt vì khả năng tạo ra hình ảnh khiêu dâm với các hạn chế tối thiểu. Quyết định của Vương quốc Anh điều tra vấn đề này cho thấy các nhà quản lý không còn muốn bỏ qua các vấn đề như vậy nữa, đặc biệt khi an toàn người dùng và tiêu chuẩn nội dung đang bị đe dọa.

Điều này không xảy ra trong sự cô lập. Các nhà quản lý toàn cầu đang thắt chặt kiểm soát đối với các nền tảng công nghệ, yêu cầu rõ ràng hơn về trách nhiệm giải trình liên quan đến các sản phẩm AI và chính sách kiểm duyệt nội dung. Đối với X và các nền tảng tương tự cung cấp tính năng AI, áp lực ngày càng gia tăng để chứng minh việc triển khai có trách nhiệm — hoặc đối mặt với các hạn chế tiềm năng.