Deepfakes là ảnh hoặc video được tạo hoặc thay đổi bằng phương thức tổng hợp, sử dụng công nghệ trí tuệ nhân tạo. Công nghệ này có thể được sử dụng để thay đổi video hiện có, đơn cử như đưa  khuôn mặt của một chính trị gia lên video hiện có hoặc tạo ra một bài phát biểu giả với khuôn mặt của một chính khách nào đó, sử dụng công nghệ tổng hợp hình ảnh.

Kết quả là AI sẽ tạo ra một sản phẩm truyền thông bịa, trong hoàn toàn giống như một video quay tự nhiên.

Bắc Kinh đã công bố những quy định quản lý “công nghệ tổng hợp sâu” vào đầu năm 2022 và hoàn thiện những quy định này tháng 12. Quy định sẽ có hiệu lực ngày 10/1/2023.

Dưới đây là một số quy định chính:

- Hình ảnh phái có sự đồng ý của người dùng nếu được sử dụng trong bất kỳ công nghệ tổng hợp sâu nào.

- Các dịch vụ tổng hợp sâu không được phép sử dụng công nghệ này để phổ biến tin giả.

- Các dịch vụ deepfake cần xác thực danh tính thực của người dùng.

- Nội dung tổng hợp phải có một phương pháp thông báo nào đó để thông tin cho người dùng biết, hình ảnh hoặc video đã bị thay đổi bằng công nghệ.

- Mọi nội dung đi ngược lại pháp luật hiện hành đều bị cấm, các nội dung gây nguy hiểm cho lợi ích và an ninh quốc gia, gây tổn hại hình ảnh quốc gia hoặc làm gián đoạn nền kinh tế bị cấm, người sản xuất, phát tán phải chịu trách nhiệm.

Cơ quan quản lý Không gian mạng hùng mạnh của Trung Quốc là cơ quan đưa ra bản dự thảo các quy định này đồng thời cũng là đơn vị thừa hành thực thi các quy định này.

Kể từ cuối năm 2020, Trung Quốc đã nỗ lực kiềm chế quyền lực của những doanh nghiệp công nghệ khổng lồ trong nước, đưa ra những văn bản pháp quy sâu rộng trong các lĩnh vực từ chống độc quyền đến bảo vệ có sở dữ liệu. Nhưng Bắc Kinh cũng đưa ra những giải pháp phù hợp nhằm điều chỉnh các công nghệ mới nổi và tiến xa hơn bất kỳ quốc gia nào khác trong những quy định kiểm soát và thúc đẩy công nghệ.

Đầu năm nay, Trung Quốc đã đưa ra một quy định pháp lý, quản lý các phương thức mà những công ty công nghệ có thể sử dụng các thuật toán đề xuất (thuật toán gợi ý), một văn bản luật đầu tiên kiểm soát công nghệ.

Các nhà phân tích cho biết bộ luật này giải quyết 2 mục tiêu, kiểm duyệt trực tuyến chặt chẽ hơn và đưa ra một khung pháp lý cho những công nghệ mới sẽ xuất hiện.

Paul Triolo, chủ nhiệm chính sách công nghệ tại công ty tư vấn Albright Stonebridge trong cuộc phỏng vấn với CNBC cho biết: “Chính quyền Trung Quốc rõ ràng đang mong muốn trấn áp khả năng các phần tử chống chế độ sử dụng deepfakes với hình ảnh của các nhà lãnh đạo cao cấp, bao gồm cả ông Tập Cận Bình, để truyền bá tuyên bố chống chế độ.”

“Nhưng các quy định pháp lý cho thấy, chính quyền Trung Quốc đang cố gắng giải quyết những vấn đề khó khăn về nội dung trực tuyến theo phương thức mà chỉ có một quốc gia khác đang làm, tìm cách đi trước đón đầu khi các công nghệ mới như nội dung do AI sang tạo ra bắt đầu phổ biến trên mạng.”

Ông Triolo nói thêm, các quy định về AI mà Bắc Kinh đưa ra trong những năm gần đây “được thiết kế để duy trì các biện pháp kiểm duyệt nội dung và công tác kiểm duyệt nội dung đi trước một bước so với sự xuất hiện của những công nghệ mới nổi, đảm bảo Bắc Kinh có thể tiếp tục đi trước sự xuất hiện của những công nghệ, có nguy cơ được sử dụng để phá vỡ sự kiểm soát tổng thể hệ thống.”

Công nghệ tổng hợp sâu không hoàn toàn xấu. Công nghệ có thể có một số ứng dụng tích cực trong những lĩnh vực khác nhau như giáo dục và chăm sóc sức khỏe.

Nhưng Trung Quốc đang cố gắng giải quyết vai trò tiêu cực của công nghệ trong nguy cơ tiềm năng tạo ra những thông tin giả mạo.

Kendra Schaefer, đối tác của công ty tư vấn Trivium China có trụ sở tại Bắc Kinh, đã cho CNBC thấy những ghi chú của bà, được xuất bản vào tháng 2 khi công bố dự thảo các quy định pháp ly, trong đó bà đã đưa ra những bình luận về ý nghĩa của những quy định mang tính bước ngoặt này. Bản ghi chú có viết

″Ấn tượng là Trung Quốc đang nhắm đến một trong những mối đe dọa nghiêm trọng đối với xã hội của chúng ta trong thời kỳ công nghiệp hiện đại: sự xói mòn niềm tin vào những gì chúng ta nghe và thấy, ngày càng khó phân biệt sự thật và sự dối trá.”

Thông qua việc đưa ra những quy định pháp lý, các cơ quan quản lý khác nhau của Trung Quốc tích lũy kinh nghiệm trong hoạt động thực thi các quy định pháp lý về công nghệ. Có một số phần của các quy định deepfake không rõ ràng, ví dụ như cách tác giả deepfakes chứng minh rằng, hình ảnh được sử dụng có sự đồng ý của đối tượng được nêu. Nhưng nhìn tổng thể chung, công ty tư vấn Trivium lưu ý trong nhận xét, hệ thống quản lý hiện nay của Trung Quốc cho phép các cơ quan chức năng thực thi những quy định pháp lý này.

“Trung Quốc có thể đưa ra những quy định pháp lý này vì đã có sẵn các hệ thống để kiểm soát việc truyền tải nội dung trong không gian trực tuyến, cho phép các cơ quan quản lý không gian mạng thực thi những quy định này”, bản nhận xét nhấn mạnh.