Facebook sẽ dùng trí thông minh nhân tạo để xác định người dùng có ý định livestream cảnh tự tử

Sau khi đã hệ thống tìm thấy những người dùng trong diện nghi ngờ, đội ngũ nhân viên sẽ kiểm tra để chứng thực lại một lần nữa. Sau đó họ sẽ liên lạc người dùng và đưa ra những lời khuyên để thuyết phục người dùng ấy. Hiện tại công cụ này đang được thử nghiệm tại quốc gia Mỹ.

Đây là lần đầu tiên Facebook sử dụng trí thông minh nhân tạo để phân tích các bài đăng/tin nhắn của người dùng trên mạng xã hội. Ngoài ra CEO Facebook, anh Mark Zuckerberg, cũng hy vọng nó sẽ được dùng để xác định ai là khủng bố và phần tử cực đoan trong tương lai.

Ngoài ra, Facebook còn giới thiệu cách thức phòng chống những biểu hiện liên quan đến tự tử thông qua tính năng phát video trực tuyến (Facebook Live). Họ cũng hợp tác với các tổ chức sức khỏe để người có ý định tự tử có thể liên lạc họ thông qua ứng dụng nhắn tin Messenger.

Tuy Facebook đã có tính năng đưa ra lời khuyên cho những người dùng có ý định tự tử trong nhiều năm nay, nhưng đến giờ họ mới trông cậy vào những người dùng khác bằng cách nhấn vào nút báo cáo (report) trên mỗi bài đăng.

Thêm vào đó, hệ thống trí thông minh nhân tạo sẽ được "học" cách xác định những bài đăng có tiềm ẩn ý định tự tử của người dùng, bằng cách cho nó phân tích các bài đăng được người dùng cáo cáo với hệ thống, ví dụ các bài đăng tiềm ẩn nguy hiểm như nói quá nhiều về nỗi buồn, hoặc bình luận hỏi thăm của bạn bè như "Cậu có ổn không?" hay "Tớ lo lắng cho cậu lắm" có thể là một trong những tín hiệu xác định sự tự tử.

Bà Callison-Burch, quản lí sản phẩm của Facebook, cho biết việc liên hệ với người thân hoặc bạn bè trực tiếp sẽ hiệu quả hơn nhiều so với gửi lời khuyên nhủ đến người dùng, như bà cho biết dấn thân quá sâu vào đời tư như vậy sẽ không được sự đồng tình: "Chúng tôi rất tôn trọng đời tư của người dùng và tôi nghĩ chúng tôi không nên can thiệp quá sâu vào các mối quan hệ như vậy, thay vào đó công ty sẽ làm mọi thứ để giúp người dùng vượt qua khó khăn nếu họ cần sự giúp đỡ".

Trước đó một cô bé 14 tuổi đã tự tử khi đang phát video trực tuyến trên mạng xã hội lớn nhất thế giới này. Sau đó, Facebook đã có cách để khuyên nhủ người dùng ngay trong lúc họ phát video trực tuyến, thay vì đợi video kết thúc như trước. Người xem video trực tuyến có thể bấm vào menu tùy chọn để thông báo cho Facebook, sau đó sẽ có một số cách để giải quyết tình hình, cùng cách đưa ra lời khuyên nhủ ngay lúc đó. Ngoài ra, khi người dùng thông báo cho hệ thống, đội ngũ nhân viên Facebook sẽ ưu tiên kiểm tra ngay lập tức những trường hợp này.

Hiện tại tính năng trên đang được áp dụng cho thị trường Mỹ, và nó sẽ được tung ra toàn cầu trong thời gian sớm nhất.

Tham khảo BBC