Facebook xóa một loạt trang nhóm liên kết với Đại Kỷ Nguyên, do sử dụng AI để tạo tài khoản giả mạo và đưa thông tin sai lệch

tvd , Theo Trí Thức Trẻ

Những tài khoản này sử dụng AI để tạo ra ảnh đại diện, giả mạo là công dân Mỹ và đăng những thông tin ủng hộ Tổng thống Donald Trump.

Hôm thứ 6 vừa qua, Facebook và Twitter đã đóng cửa một mạng lưới tài khoản giả mạo gây ảnh hưởng tới 55 triệu người dùng. Những tài khoản này sử dụng AI để tạo ra ảnh đại diện, giả mạo là công dân Mỹ và đăng những thông tin ủng hộ Tổng thống Donald Trump.

Trong một bài đăng trên blog, Facebook cho biết các tài khoản giả mạo này có liên quan đến một công ty truyền thông tên là The BL, trụ sở nằm tại Mỹ và có quan hệ với The Epoch Times (Đại Kỷ Nguyên). Hồi tháng 8, NBC News đã đưa tin rằng tập đoàn truyền thông Epoch Media Group đang đẩy các thông điệp ủng hộ Tổng thống Donald Trump trên các nền tảng như Facebook và Twitter.

Facebook xóa một loạt trang nhóm liên kết với Đại Kỷ Nguyên, do sử dụng AI để tạo tài khoản giả mạo và đưa thông tin sai lệch - Ảnh 1.

Facebook cho biết rằng nhiều tài khoản sử dụng ảnh đại diện giả, có thể được tạo ra bởi AI. Những tài khoản này giả mạo là công dân Mỹ, đăng những nội dung ủng hộ Tổng thống Donald Trump trong các group. Các bài đăng ủng hộ ông Trump xuất hiện với tần suất dày đặc, và được dẫn tới các bài viết bên ngoài của The BL và The Epoch Times.

Facebook cho biết họ đã xóa 610 tài khoản, 89 trang Facebook, 156 nhóm và 72 tài khoản Instagram. Khoảng 55 triệu tài khoản đã theo dõi một trong những trang Facebook giả mạo này. Và tổ chức của The BL đã chi 9,5 triệu USD cho các quảng cáo.

Facebook xóa một loạt trang nhóm liên kết với Đại Kỷ Nguyên, do sử dụng AI để tạo tài khoản giả mạo và đưa thông tin sai lệch - Ảnh 2.

Facebook đã xóa một số trang Facebook tiếng Việt có liên kết trực tiếp đến Đại Kỷ Nguyên, trong đó có một trang được xác minh tick xanh với gần 9 triệu người theo dõi, và một trang khác có 12,6 triệu người theo dõi.

Facebook đã điều tra và phát hiện các page và group của Đại Kỷ Nguyên được điều hành bởi các tài khoản giả mạo. Có trường hợp, sáu quản trị viên của một group đều là tài khoản giả. Có nhiều tài khoản giả có hình profile được tạo ra bởi AI. Các tài khoản giả khác sử dụng ảnh profile nhặt từ các ảnh trên mạng ghép lại. Việc post bài cũng bị phát hiện sử dụng công cụ tự động gọi là Postcron, không có sự can thiệp của con người.

Giám đốc bảo mật của Facebook, Nathaniel Gleicher cho biết: “The BL hiện đã bị cấm khỏi nền tảng Facebook. Chúng tôi cũng sẽ tiếp tục điều tra toàn bộ các mạng lưới, và sẽ có biện pháp nếu phát hiện các hành vi lừa đảo”.

Epoch Times phủ nhận mọi liên quan tới The BL, và cho rằng Facebook đang cáo buộc mà chỉ dựa trên những điều tra nội bộ của chính họ.

Tham khảo: theverge

Tags:

NỔI BẬT TRANG CHỦ