Thế kỷ 21 là kỷ nguyên bùng nổ sự sáng tạo dữ
liệu khi người dùng chỉ cần một smartphone là đã có nguồn dữ liệu vô
tận, khiến hệ thống kiểm duyệt rất khó kịp thời nắm bắt nội dung, đặc
biệt có những kẻ cố tình đăng ảnh hoặc video độc hại, bất hợp pháp.
Công nghệ kiểm duyệt rủi ro hình ảnh được hỗ trợ bởi AI của Image
Analyzer giúp các tổ chức tự động xóa hơn 90% hình ảnh, video và cảnh
phát trực tiếp bất hợp pháp và có hại để nội dung độc hại không bao giờ
đến trang web hoặc hàng đợi kiểm duyệt của họ.
Cris Pikes, Giám đốc điều hành và đồng sáng lập Image Analyzer
nhận xét. "Chúng tôi đã xem xét và ước tính rằng, người kiểm duyệt phải
mất đến 950 năm để kiểm tra tất cả các Snaps được tải lên SnapChat
trong mỗi 24 giờ, các doanh nghiệp dịch vụ truyền thông không thể kiểm
duyệt khối lượng hình ảnh này thủ công".
Các công ty truyền thông xã hội lớn như Facebook, thuê ngoài
“outsource” kiểm duyệt nội dung cũng phải vật lộn hết sức để theo kịp sự
phát triển những nội dung độc hại, cực đoan và sai sự thật. Khối lượng khủng khiếp đến mức nhân viên kiểm duyệt bắt đầu khởi kiện vì kiệt sức, chấn thương tâm lý và căng thẳng.
Các tổ chức cũng phải đối mặt với áp lực từ những dự thảo luật, như
Dự luật An toàn Trực tuyến của Vương quốc Anh và Đạo luật Dịch vụ Kỹ
thuật số của EU. Những
đạo luật này đòi hỏi các công ty phải nhanh chóng gỡ bỏ nội dung bất
hợp pháp với những khoản phạt tài chính lớn nếu không kịp thực hiện, có
lên đến 10% doanh thu trên toàn cầu hàng năm.
Để giải quyết vấn đề, các kỹ sư CNTT đề xuất giải pháp ứng dụng Trí tuệ nhân tạo. Giám đốc điều hành Công
ty Image Analyzer, giành được Giải thưởng Công nghệ mới nổi tốt nhất về
AI tại Giải thưởng AI & Máy học năm 2021 Cris Pikes cho biết: "Trí
tuệ nhân tạo có thể được sử dụng vào một điểm chuẩn trong quy trình làm
việc của hệ thống nền tảng kỹ thuật số, tự động loại bỏ hầu hết các nội
dung có hại trước khi vào hệ thống. Giải pháp này hỗ trợ việc tuân thủ
luật pháp sắp ban hành và chỉ để lại nội dung đa dạng cho người kiểm
duyệt xem xét. "
Kiểm duyệt nội dung tự động cho phép các tổ chức mở rộng quy mô nỗ
lực và chứng minh với các cơ quan an ninh truyền thông về việc đã áp
dụng hệ thống và quy trình bảo vệ người dùng và nhân viên trước những
nội dung bất hợp pháp và có hại, đăng lên các phương tiện truyền thông
cộng đồng hoặc xã hội. ”
Cris Pikes giải thích, "Hệ thống thông minh trực quan của Trình phân
tích hình ảnh” (IAVIS) cung cấp cho mỗi phần nội dung điểm số xác suất
rủi ro, tăng tốc độ xem xét các bài đăng và giảm khối lượng thông tin
chờ kiểm duyệt xuống 90% hoặc hơn ... IAVIS có thể mở rộng để tăng vừa
phải khối lượng nội dung trực quan và không làm ảnh hưởng đến hiệu suất
hoặc trải nghiệm người dùng. "
Kiểm duyệt các phương tiện truyền thông xã hội là một trong những
lĩnh vực quan trọng của công nghệ, các giám khảo của Giải thưởng gọi
IAVIS là "Một ứng dụng AI tuyệt vời, giải quyết một vấn đề lớn, ảnh
hưởng đến tất cả các ngành và tổ chức truyền thông.”
Cũng như các phương tiện truyền thông xã hội, các đối tác của Image
Analyzer cũng sử dụng giải pháp AI này trong những hệ thống cộng đồng
trực tuyến và hạ tầng cơ sở căn bản các trò chơi để bảo vệ trẻ em, trong
các nhóm pháp y kỹ thuật số nhằm xác định bằng chứng kỹ thuật số ẩn bên
trong hàng nghìn hình ảnh, tin nhắn và dữ liệu phi cấu trúc, lưu trữ
trên mạng và các thiết bị điện tử.
Nhóm nghiên cứu "vô cùng vui mừng" khi biết rằng đã giành chiến thắng và Pikes gọi đó là "một chứng thực lớn" của công nghệ.
Ông nói thêm, "Giải thưởng là một động lực tinh thần thực sự đối với
nhóm, chứng minh rằng thành quả công việc của chúng tôi được công nhận
trong ngành. Danh tiếng là những người chiến thắng Giải thưởng Máy tính
và Máy học mang lại cho khách hàng, đối tác mang lại niềm tin vững chắc
đối với công nghệ của chúng tôi, do công nghệ này được đánh giá bởi một
nhóm các chuyên gia CNTT giàu kinh nghiệm, hiểu biết sâu sắc trong lĩnh
vực công nghệ. "
Mặc dù Image Analyzer rất hài lòng với hiệu suất của ứng dụng, nhưng
thừa nhận công việc vẫn còn ở phía trước, đặc biệt khi các bộ luật mới
xuất hiện. Nhiều tổ chức
khoa học xã hội ngoài Vương quốc Anh và EU không nhận thất, những luật
an ninh truyền thông sẽ áp dụng với những cơ sở này, Ông Pikes khẳng
định, lĩnh vực giáo dục sẽ là trọng tâm sắp tới đối với công ty.
Image Analyzer đã ủy quyền cho nhóm luật sư tại Bird & Bird viết
hai báo cáo chính thức, làm rõ cho các tổ chức biết họ sẽ phải tuân thủ
những bộ luật sắp có hiệu lực, cấp độ tuân thủ phải thực hiện và những
việc cần chuẩn bị cho những luật mới sẽ được ban hành.
"Những ưu tiên của công ty là hỗ trợ khách hàng hiện tại và tương lai
hiểu được bối cảnh pháp lý truyền thông, sắp có hiệu lực ở Vương quốc
Anh và Châu Âu, làm việc với những khách hàng và đối tác sản xuất sản
phẩm (OEM), giúp chuẩn hóa các hệ thống để duy trì một môi trường trực
tuyến an toàn cho người dùng và nhân viên. "