Tiếp theo "Thử Thách Momo", vụ xả súng ở New Zealand cho thấy YouTube và Facebook sẽ không bao giờ kiểm soát được bạo lực

Khi nỗi sợ hãi mang tên Momo còn chưa lắng xuống, vụ xả súng tại New Zealand- đã nhanh chóng đẩy các công ty truyền thông vào một cuộc chạy đua mới: xóa bỏ đoạn video do kẻ khủng bố stream trực tiếp lên Facebook khi đang thực hiện hành vi giết người. Hơn 2 ngày sau khi vụ khủng bố xảy ra, các bản sao của đoạn video này vẫn liên tục xuất hiện trên YouTube, Facebook, Twitter và Reddit.

Hai sự việc này có một điểm chung: hậu kiểm không bao giờ giải quyết được triệt để vấn đề. Các mạng xã hội như Facebook hay YouTube sẽ mãi mãi là những nền tảng chứa nội dung không an toàn.

Không thể kiểm soát trước

Facebook, YouTube hay bất kỳ một mạng xã hội nào khác cũng đều sử dụng chung một biện pháp kiểm duyệt nội dung: chạy thuật toán để phát hiện nội dung xấu, nếu không phát hiện thì cho phép nội dung được đăng tải rồi... chờ đợi có người báo cáo. Phải đến lúc nhận được báo cáo, nhân viên của các dịch vụ này mới vào kiểm tra nội dung rồi thực hiện xóa bỏ nếu có nghi vấn.

Cũng như Momo, đoạn video xả súng tại New Zealand đã chứng minh sự bất lực của Facebook và YouTube trong khâu kiểm duyệt.

Qua vụ việc Momo và vụ xả súng tại New Zealand, điểm yếu của phương thức kiểm duyệt này đã bị phơi bày: các nội dung xấu vẫn có thể được đăng tải tràn lan và tiếp cận rất nhiều người dùng trước khi bị gỡ bỏ. Hy vọng lớn nhất của Facebook, YouTube và các công ty công nghệ khác là thuật toán nhận diện hiện vẫn còn nhiều thiếu sót: ngay cả ảnh nội dung xấu vẫn có thể "lọt" lên mạng xã hội, dùng máy móc để phát hiện video chứa nội dung xấu là gần như bất khả thi.

Đợi đến khi có người thông báo, và đợi đến khi báo cáo của người dùng được nhân viên các mạng xã hội này được xử lý thì mọi thứ có thể đã quá muộn: trước khi bị báo cáo, nội dung xấu có thể đã được truyền tải đến hàng trăm, hàng nghìn người xem. Bằng cách đó, Momo đã gây hại cho nhiều đứa trẻ, và các nội dung bạo lực đã kích động được những hành động thù ghét.

Không thể có giải pháp

Cho đến giờ, Facebook và YouTube mới chỉ thực sự thành công trong việc xóa và chặn các nội dung khiêu dâm hoặc các bài nhạc có bản quyền. Điều này có nghĩa rằng, các mạng xã hội chỉ có thể chặn các nội dung dễ phát hiện, có hình ảnh tham chiếu dễ dàng.

Điều các mạng xã hội phải làm là chặn trước, chứ không phải ngồi yên đợi người dùng báo cáo.

Thử thách Momo hay đoạn video xả súng tại New Zealand không nằm trong nhóm này. Không ai biết những kẻ bệnh hoạn sẽ dùng hình ảnh đáng sợ nào để gây hại cho con trẻ, cũng chẳng ai biết vụ xả súng tiếp theo sẽ diễn ra ở đâu. Thuật toán kiểm duyệt sẽ tiếp tục thất bại: trừ khi Facebook và YouTube chuyển sang kiểm duyệt bằng cách đưa con người lên trước máy móc, các mạng xã hội này sẽ tiếp tục là "ngôi nhà" cho các loại nội dung xấu.

Đến bao giờ thì Facebook và YouTube mới chịu thay đổi? Trẻ nhỏ, đối tượng dễ bị tổn thương nhất, đã bị làm hại. Khủng bố và kích động thù hằn đã có từ tận thời kỳ ISIS mới bùng nổ. Nhưng các mạng xã hội vẫn ngồi yên, vẫn chưa từng đưa ra bất kỳ thay đổi có nghĩa nào cả.