Chặn tin xuyên tạc, Trung Quốc siết quản lý deepfake

Cục Quản lý Không gian mạng (CAC), Bộ Công nghiệp và Công nghệ thông tin, Bộ Công An Trung Quốc đồng công bố Quy định hành chính mới về tổng hợp sâu (deep synthesis) đối với dịch vụ thông tin Internet vào ngày 25/11. Quy định có hiệu lực từ ngày 10/1/2023.

Nhà chức trách định nghĩa deep synthesis là dùng các công nghệ như deep learning (học sâu) và thực tế tăng cường để tạo ra văn bản, hình ảnh, âm thanh, video và khung cảnh ảo.

Các nhà cung cấp và người dùng dịch vụ nói trên phải đảm bảo dán nhãn bất kỳ nội dung nào do công nghệ này tạo ra và truy được nguồn gốc của nó. Nếu dùng công nghệ để thay đổi hình ảnh hay giọng nói của người khác, nên thông báo và xin phép họ.

Khi dùng công nghệ để "xào" lại tin tức, chỉ có thể dùng nguồn tin từ danh sách các hãng tin được chính phủ cấp phép.

Tính đến tháng 10, có 1.358 nguồn tin được phê duyệt. Quy định mới cũng hối thúc nhà cung cấp dịch vụ deep synthesis tuân thủ luật pháp địa phương, tôn trọng đạo đức, duy trì “định hướng chính trị đúng đắn và định hướng dư luận đúng đắn”.

CAC lo ngại không kiểm soát việc phát triển và sử dụng deep synthesis có thể dẫn đến công nghệ bị lợi dụng cho các hoạt động phạm pháp như lừa đảo hay bôi nhọ trên mạng.

Trước đây, trách nhiệm quản lý thuộc về nhiều cơ quan, song việc bổ sung một luật riêng phản ánh sự phát triển nhanh chóng và những thách thức pháp lý của công nghệ này.

Một trong các ứng dụng khét tiếng nhất của deep synthesis là deepfake, hoán đổi gương mặt hay giọng nói của mọi người với nhau. CEO Meta Mark Zuckerberg từng bị ghép mặt vào một video có nội dung khoe khoang về dữ liệu đánh cắp từ hàng tỷ người dùng.

Với những tiến bộ của công nghệ, deepfake ngày càng khó bị phát hiện và sử dụng rộng rãi trên toàn cầu, tạo ra các video khiêu dâm của người nổi tiếng, sản xuất tin giả, lừa đảo tài chính. Những nền tảng như Twitter, Facebook đều có quy định cụ thể để phát hiện và ngăn chặn thông tin xuyên tạc từ deepfake.