Facebook, YouTube vẫn đang bất lực trong việc ngăn chặn nội dung bạo lực, khủng bố

Theo nhóm bảo vệ người tiêu dùng Digital Citizens Alliance, các nội dung tuyên truyền khủng bố vẫn xuất hiện tràn lan trên Facebook, YouTube, Instagram và Google . Nhóm này đã ghi lại hàng chục ví dụ, những video, bài đăng bao gồm hình ảnh các vụ hành quyết đẫm máu, những tay súng khủng bố hay cuộc tấn công 11/9.

Tom Galvin, giám đốc Digital Citizens Alliance, tuyên bố rằng tất cả những nội dung tuyên truyền khủng bố đều được họ thu thập trong vòng ba tháng qua.

Dựa trên kết quả ấy, Digital Citizens Alliance cho rằng Facebook và Google đã thất bại trong việc ngăn chặn nội dung khủng bố. Trước đó, cả Facebook và YouTube đều tuyên bố rằng sẽ giải quyết triệt để vấn đề này.

Mặc dù Facebook, YouTube và Google đã xóa một số nội dung nhưng những bài viết khác vẫn còn lưu hành trực tuyến và không bị phát hiện trong vài tuần tới vài năm.

Một số nội dung đã thu hút được rất nhiều sự quan tâm. Theo Galvin, một video tuyển dụng của ISIS trên YouTube đã được xem hơn 34.000 lần, hiện video này đã bị xóa. "Có rất nhiều bài viết, hình ảnh, video như thế này", Galvin nói. "Và đáng buồn hơn, tôi nghĩ rằng chúng tôi sẽ còn tìm thấy nhiều thứ như vậy hơn trong tương lai".

Digital Citizens Alliance công bố nghiên cứu của họ trong bối cảnh cả Facebook và YouTube đều nói rằng đã gỡ hàng triệu video và bài đăng có nội dung bạo lực, khủng bố. Các công ty này sử dụng AI để phát hiện những nội dung kể trên và gỡ chúng trước khi người dùng báo cáo.

Tuy nhiên, Galvin cho rằng những nền tảng này vẫn đang gặp khó trong việc kiểm soát số lượng lớn nội dung xấu. "Có thứ gì đó hoạt động không tốt ở đây", Galvin nói. "Hoặc hệ thống của họ không hiệu quả như họ nói hoặc vấn đề này không được ưu tiên như những gì họ tuyên bố".

Galvin chia sẻ rằng nhóm của anh đã phát hiện ra nội dung khủng bố nhờ sự giúp đỡ của hệ thống AI và sự kiểm duyệt của con người từ Global Intellectual Property Enforcement Center (GIPEC). Các chuyên gia của GIPEC đặc biệt tập trung vào cách những tuyên truyền của ISIS được phát tán trên internet qua meme và hashtags trong các ngôn ngữ khác.

GIPEC đã xác định được hàng nghìn bài đăng và video liên quan tới khủng bố trên các nền tảng Facebook, YouTube..., Galvin nói. Ví dụ, trên Instagram thuộc sở hữu của Facebook, bạn có thể tìm thấy nhiều bài đăng liên quan tới ISIS bằng cách sử dụng hashtag "Islamic country" trong tiếng Ả Rập.

Galvin cho rằng những tuyên bố về việc gỡ bỏ nội dung khủng bố của Facebook, Google và Twitter chỉ là nói suông.

Cho tới nay, YouTube (Google sở hữu) vẫn chưa có bất cứ phản hồi nào về vấn đề này. Trong khi đó, cuối tuần trước Facebook đã có phản ứng đầu tiên:

"Không có chỗ cho những kẻ khủng bố hoặc nội dung kích động khủng bố trên Facebook hoặc Instagram và khi phát hiện ra chúng tôi luôn cố gắng xóa chúng nhanh nhất có thể.

Chúng tôi coi trọng vấn đề này và cam kết làm cho môi trường và nền tảng của chúng tôi trở nên an toàn. Chúng tôi biết chúng tôi cần nỗ lực nhiều hơn và đã đầu tư lớn để bổ sung nhiều công nghệ và nâng cao chuyên môn cho nhân viên cũng như tăng cường các mối quan hệ đối tác để chống lại vấn đề toàn cầu này", Facebook tuyên bố.

Bên cạnh đó, Facebook cũng lần đầu tiên phát hành một báo cáo liệt kê số lượng nội dung phản cảm đã bị họ gỡ bỏ. Mạng xã hội lớn nhất thế giới cũng đang tuyển thêm 10.000 nhân viên tập trung vào an toàn và bảo mật.

Galvin thừa nhận Facebook là công ty công nghệ cởi mở nhất với những chỉ trích và phản hồi. Tuy nhiên, anh cho rằng công chúng vẫn cần có những cuộc thảo luận về các nền tảng internet lớn và bàn xem liệu họ có nên điều chỉnh phương thức hoạt động hay không. Những tranh cãi gần đây về bảo mật dữ liệu, tin giả... cho thấy sẽ rất nguy hiểm nếu các công ty internet khổng lồ như Facebook, Google không thể kiểm soát được chính họ.