Xem bản thử nghiệm

Facebook chỉ biết im lặng trước các đoạn video giả mạo, ngay cả khi có kẻ giả mạo Mark Zuckerberg

Nguyễn Hải , Theo Trí Thức Trẻ

Thay vì gỡ bỏ đoạn video giả mạo Mark Zuckerberg, Facebook chỉ giảm khả năng hiển thị của nó, khiến nhiều người lo ngại rằng tin giả sẽ có cơ hội phát tán rộng rãi hơn trên nền tảng này.

Tháng trước, người dùng Facebook tại Mỹ được một phen chấn động khi chứng kiến một đoạn video đã qua chỉnh sửa, giả mạo hình ảnh và bài phát biểu của Chủ tịch Hạ viện Mỹ, bà Nancy Pelosi. Tuy nhiên, đáng ngạc nhiên hơn cả là Facebook từ chối xóa bỏ đoạn video đó. Nhưng đến nay, công ty lại đứng trước một câu hỏi khác còn nan giải hơn: Liệu họ có xóa đoạn video giả mạo đó không nếu người trong đoạn video đó là Mark Zuckerberg?

Được đăng tải lên vào cuối tuần trước trên Instagram, một đoạn video với chân dung giả mạo của Mark Zuckerberg đã nói: "Hãy thử tưởng tượng đến điều này một giây thôi: một người, với quyền quản lý dữ liệu ăn trộm của hàng tỷ người, tất cả bí mật của họ, cuộc sống của họ, tương lai của họ."

Video giả mạo Mark Zuckerberg.

Video này được làm ra dựa trên đoạn phim vào năm 2017 của Zuckerberg và sử dụng công nghệ giả mạo video deepfake, để thay đổi cử động gương mặt của Zuckerberg cho phù hợp với lời thoại trong đoạn video dù anh ta không hề làm vậy. Giọng của Zuckerberg trong đoạn video được thay thế bằng một diễn viên khác.

Facebook không xóa bỏ các đoạn video giả mạo trên

Theo lời xác nhận của nhà đồng sáng lập Omer Ben-Ami với CNN, đoạn video này do startup tại Israel có tên Canny AI tạo ra cùng với sự hợp tác của nhiều nghệ sĩ khác nhằm cho thấy, công nghệ có thể bị sử dụng để thao túng dữ liệu như thế nào.

Tháng trước, Facebook đã từ chối xóa bỏ đoạn video giả mạo bà Pelosi, thay vào đó, công ty chỉ hạ bậc hiển thị của nó, nghĩa là nó sẽ ít xuất hiện trên trang Facebook News Feed của mọi người hơn. Sau đó bà Felosi đã nổi nóng với quyết định của công ty: "Tôi nghĩ họ đã chứng minh một điều – bằng cách không gỡ bỏ một điều mà họ biết là giả mạo – rằng họ là những kẻ sẵn sàng cho phép người Nga can thiệp vào cuộc bầu cử của chúng ta."

Facebook chỉ biết im lặng trước các đoạn video giả mạo, ngay cả khi có kẻ giả mạo Mark Zuckerberg - Ảnh 2.

Bà Nancy Pelosi, Chủ tịch Hạ viện Mỹ.

Khi được hỏi liệu đoạn video giả mạo Zuckerberg trên có được đối xử giống như với đoạn video của bà Pelosi, giám đốc chính sách công khai của Facebook, Neil Potts cho biết trong phiên điều trần tại Canada vào tháng trước rằng: "Nếu trong cùng đoạn video đó, có chèn hình ảnh ông Zuckerberg thay cho bà Pelosi, nó vẫn sẽ được đối xử tương tự như vậy."

Trong khi đó, phát ngôn viên của Instagram cũng cho biết với CNN Business vào thứ Ba vừa qua rằng, trang web này sẽ đối xử với đoạn video trên "tương tự như mọi thông tin sai sự thật trên Instagram." Phát ngôn viên Instagram cho biết thêm, nếu đoạn video bị các nhà kiểm tra bên thứ ba đánh dấu là sai sự thật, thuật toán của trang web sẽ không khuyến nghị mọi người xem nó.

Sự việc càng trở nên phức tạp hơn khi vào cuối thứ Ba vừa qua, đài CBS đã kêu gọi Facebook và Instagram xóa đoạn video này khi đoạn video giả mạo này được thực hiện dựa trên một chương trình của kênh CBS News. Phát ngôn viên của CBS cho biết: "CBS đã yêu cầu Facebook gỡ bỏ việc sử dụng giả mạo, bất hợp pháp đối với thương hiệu CBSN."

Dễ dàng tạo ra các đoạn video giả mạo

Cho đến gần đây, việc giả mạo các đoạn video vẫn tương đối hiếm khi nó khó hơn nhiều so với việc chỉnh sửa các hình ảnh tĩnh. Tuy nhiên, với sự phát triển của công nghệ Generative Adversarial Networks – hay GANs – các mạng đối kháng sản sinh, điều này sẽ nhanh chóng thay đổi trong tương lai. Các mạng GANs có thể sử dụng dữ liệu có sẵn để tạo nên các nội dung mới. Kỹ thuật này cũng được sử dụng để tạo nên các deepfake, các đoạn video giả mạo.

Trong đoạn video nói trên, Canny AI chỉ chọn một đoạn clip dài chưa đến một phút và sử dụng máy tính để khớp chuyển động của gương mặt với giọng nói của diễn viên. Họ chỉ mất khoảng 1 ngày để làm phiên bản đầu tiên của đoạn video này với giọng nói của một trong các diễn viên. Phiên bản cuối cùng chỉ mất thêm 2 đến 3 giờ nữa để chỉnh sửa.

Nếu những mạng xã hội rộng lớn như Facebook đang khiến tin giả được phát tán nhanh chóng, những đoạn video được chỉnh sửa với các kỹ thuật kể trên có thể khiến tin giả trở nên chân thực và khó ngăn chặn hơn bao giờ hết. Đáng buồn hơn Facebook dường như không có động thái rõ ràng nào trong việc ngăn chặn điều đó.

Tháng trước, Facebook cho biết họ sẽ dành hàng triệu USD để tài trợ cho các học viện nghiên cứu về khả năng phân tích hình ảnh và video. Công ty cho biết, một trong những công trình đó có liên quan đến việc ngăn cản deepfake.

Tham khảo CNN


Bình luận