Thế kỷ 21 là kỷ nguyên bùng nổ sự sáng tạo dữ liệu khi người dùng chỉ cần một smartphone là đã có nguồn dữ liệu vô tận, khiến hệ thống kiểm duyệt rất khó kịp thời nắm bắt nội dung, đặc biệt có những kẻ cố tình đăng ảnh hoặc video độc hại, bất hợp pháp.

 

Công nghệ kiểm duyệt rủi ro hình ảnh được hỗ trợ bởi AI của Image Analyzer giúp các tổ chức tự động xóa hơn 90% hình ảnh, video và cảnh phát trực tiếp bất hợp pháp và có hại để nội dung độc hại không bao giờ đến trang web hoặc hàng đợi kiểm duyệt của họ.

Cris Pikes, Giám đốc điều hành và đồng sáng lập Image Analyzer nhận xét. "Chúng tôi đã xem xét và ước tính rằng, người kiểm duyệt phải mất đến 950 năm để kiểm tra tất cả các Snaps được tải lên SnapChat trong mỗi 24 giờ, các doanh nghiệp dịch vụ truyền thông không thể kiểm duyệt khối lượng hình ảnh này thủ công".

Các công ty truyền thông xã hội lớn như Facebook, thuê ngoài “outsource” kiểm duyệt nội dung cũng phải vật lộn hết sức để theo kịp sự phát triển những nội dung độc hại, cực đoan và sai sự thật. Khối lượng khủng khiếp đến mức nhân viên kiểm duyệt bắt đầu khởi kiện vì kiệt sức, chấn thương tâm lý và căng thẳng.

Các tổ chức cũng phải đối mặt với áp lực từ những dự thảo luật, như Dự luật An toàn Trực tuyến của Vương quốc Anh và Đạo luật Dịch vụ Kỹ thuật số của EU. Những đạo luật này đòi hỏi các công ty phải nhanh chóng gỡ bỏ nội dung bất hợp pháp với những khoản phạt tài chính lớn nếu không kịp thực hiện, có lên đến 10% doanh thu trên toàn cầu hàng năm.

Để giải quyết vấn đề, các kỹ sư CNTT đề xuất giải pháp ứng dụng Trí tuệ nhân tạo. Giám đốc điều hành Công ty Image Analyzer, giành được Giải thưởng Công nghệ mới nổi tốt nhất về AI tại Giải thưởng AI & Máy học năm 2021 Cris Pikes cho biết: "Trí tuệ nhân tạo có thể được sử dụng vào một điểm chuẩn trong quy trình làm việc của hệ thống nền tảng kỹ thuật số, tự động loại bỏ hầu hết các nội dung có hại trước khi vào hệ thống. Giải pháp này hỗ trợ việc tuân thủ luật pháp sắp ban hành và chỉ để lại nội dung đa dạng cho người kiểm duyệt xem xét. "

Kiểm duyệt nội dung tự động cho phép các tổ chức mở rộng quy mô nỗ lực và chứng minh với các cơ quan an ninh truyền thông về việc đã áp dụng hệ thống và quy trình bảo vệ người dùng và nhân viên trước những nội dung bất hợp pháp và có hại, đăng lên các phương tiện truyền thông cộng đồng hoặc xã hội. ”

Cris Pikes giải thích, "Hệ thống thông minh trực quan của Trình phân tích hình ảnh” (IAVIS) cung cấp cho mỗi phần nội dung điểm số xác suất rủi ro, tăng tốc độ xem xét các bài đăng và giảm khối lượng thông tin chờ kiểm duyệt xuống 90% hoặc hơn ... IAVIS có thể mở rộng để tăng vừa phải khối lượng nội dung trực quan và không làm ảnh hưởng đến hiệu suất hoặc trải nghiệm người dùng. "

Kiểm duyệt các phương tiện truyền thông xã hội là một trong những lĩnh vực quan trọng của công nghệ, các giám khảo của Giải thưởng gọi IAVIS là "Một ứng dụng AI tuyệt vời, giải quyết một vấn đề lớn, ảnh hưởng đến tất cả các ngành và tổ chức truyền thông.”

Cũng như các phương tiện truyền thông xã hội, các đối tác của Image Analyzer cũng sử dụng giải pháp AI này trong những hệ thống cộng đồng trực tuyến và hạ tầng cơ sở căn bản các trò chơi để bảo vệ trẻ em, trong các nhóm pháp y kỹ thuật số nhằm xác định bằng chứng kỹ thuật số ẩn bên trong hàng nghìn hình ảnh, tin nhắn và dữ liệu phi cấu trúc, lưu trữ trên mạng và các thiết bị điện tử.

Nhóm nghiên cứu "vô cùng vui mừng" khi biết rằng đã giành chiến thắng và Pikes gọi đó là "một chứng thực lớn" của công nghệ.

Ông nói thêm, "Giải thưởng là một động lực tinh thần thực sự đối với nhóm, chứng minh rằng thành quả công việc của chúng tôi được công nhận trong ngành. Danh tiếng là những người chiến thắng Giải thưởng Máy tính và Máy học mang lại cho khách hàng, đối tác mang lại niềm tin vững chắc đối với công nghệ của chúng tôi, do công nghệ này được đánh giá bởi một nhóm các chuyên gia CNTT giàu kinh nghiệm, hiểu biết sâu sắc trong lĩnh vực công nghệ. "

Mặc dù Image Analyzer rất hài lòng với hiệu suất của ứng dụng, nhưng thừa nhận công việc vẫn còn ở phía trước, đặc biệt khi các bộ luật mới xuất hiện. Nhiều tổ chức khoa học xã hội ngoài Vương quốc Anh và EU không nhận thất, những luật an ninh truyền thông sẽ áp dụng với những cơ sở này, Ông Pikes khẳng định, lĩnh vực giáo dục sẽ là trọng tâm sắp tới đối với công ty.

Image Analyzer đã ủy quyền cho nhóm luật sư tại Bird & Bird viết hai báo cáo chính thức, làm rõ cho các tổ chức biết họ sẽ phải tuân thủ những bộ luật sắp có hiệu lực, cấp độ tuân thủ phải thực hiện và những việc cần chuẩn bị cho những luật mới sẽ được ban hành.

"Những ưu tiên của công ty là hỗ trợ khách hàng hiện tại và tương lai hiểu được bối cảnh pháp lý truyền thông, sắp có hiệu lực ở Vương quốc Anh và Châu Âu, làm việc với những khách hàng và đối tác sản xuất sản phẩm (OEM), giúp chuẩn hóa các hệ thống để duy trì một môi trường trực tuyến an toàn cho người dùng và nhân viên. "