Các phương tiện truyền thông tổng hợp do AI tạo ra gây lo ngại về quy định: Các cơ quan chức năng Úc đang làm gì

Ủy ban An toàn Trực tuyến của Úc đã tăng cường giám sát các nền tảng trí tuệ nhân tạo sau sự gia tăng các khiếu nại liên quan đến hình ảnh tổng hợp không có sự đồng ý. Mối quan tâm tập trung vào cách các hệ thống AI nhất định, đặc biệt là những hệ thống có khả năng tạo nội dung không giới hạn, đang bị lợi dụng để tạo ra các tài liệu độc hại nhanh hơn khả năng phản ứng của các cơ quan quản lý.

Quy mô của vấn đề

Julie Inman Grant, Ủy viên An toàn Trực tuyến của Úc, đã cảnh báo về xu hướng đáng lo ngại của các báo cáo về việc lạm dụng. Số lượng khiếu nại đã tăng gấp đôi kể từ quý 4 năm 2025, cho thấy sự gia tăng nhanh chóng trong việc lạm dụng nội dung do AI hỗ trợ. Các vụ việc này bao gồm nhiều dạng, từ hình ảnh thân mật không có sự đồng ý nhắm vào người lớn đến các vi phạm nghiêm trọng hơn liên quan đến trẻ vị thành niên.

Vấn đề cốt lõi: các mô hình AI với các rào cản an toàn tối thiểu đang trở thành công cụ để tạo ra phương tiện tổng hợp quy mô lớn. Những gì trước đây đòi hỏi kỹ năng kỹ thuật phức tạp giờ chỉ cần một vài đầu vào vào hệ thống sai lệch.

Tại sao ‘Chế độ Cay’ trở thành dấu hiệu cảnh báo đỏ

Các tính năng không giới hạn—như “Chế độ Cay” gây tranh cãi trong một số nền tảng AI—đã loại bỏ hoàn toàn trở ngại trong việc tạo nội dung. Thay vì ngăn chặn việc lạm dụng, các tính năng này còn kích hoạt nó. Liên minh Châu Âu đã xếp loại cách tiếp cận này là vi phạm các khung an toàn kỹ thuật số của họ, coi các cơ chế tạo ra kết quả AI tương tự là bất hợp pháp theo luật pháp châu Âu.

Sự khác biệt quốc tế này quan trọng: trong khi một số khu vực pháp lý siết chặt, thì những nơi khác vẫn còn các lỗ hổng quy định mà các tác nhân xấu lợi dụng.

Phản ứng của Úc về quy định

Theo luật pháp an toàn kỹ thuật số của Úc, các nền tảng chứa hoặc phân phối nội dung do AI tạo ra phải chịu trách nhiệm về nội dung đó. Julie Inman Grant đã rõ ràng rằng văn phòng Ủy viên An toàn Trực tuyến sẽ không chỉ đứng nhìn một cách thụ động.

Chiến lược thực thi bao gồm:

• Cơ chế điều tra các nền tảng không thực hiện đầy đủ việc kiểm duyệt nội dung AI
• Hành động pháp lý chống lại các nhà vận hành cố ý cho phép lạm dụng nội dung tổng hợp
• Yêu cầu giám sát nền tảng nâng cao để phòng ngừa thay vì phản ứng sau khi thiệt hại xảy ra

Tiền lệ này còn quan trọng hơn ở Úc. Khi các hệ thống AI ngày càng dễ tiếp cận, các nhà quản lý toàn cầu đang gửi tín hiệu rằng “chúng tôi đã không biết điều này sẽ xảy ra” sẽ không còn đủ để biện hộ nữa.

Những gì sắp tới

Cách tiếp cận của Úc báo hiệu một xu hướng quy định rộng hơn: An toàn AI đang chuyển từ quản lý tùy chọn sang giám sát bắt buộc. Các nền tảng giờ đây phải chứng minh có hệ thống mạnh mẽ để phát hiện và loại bỏ nội dung tổng hợp AI trước khi gây hại—chứ không phải sau nhiều tháng khi các khiếu nại đã tích tụ.

Đối với ngành công nghiệp, thông điệp rõ ràng: xây dựng các biện pháp phòng ngừa ý nghĩa ngay bây giờ, hoặc đối mặt với sự can thiệp của pháp luật sau này.