YouTube phát triển công cụ phát hiện nội dung AI giả mạo

Sự phát triển của trí tuệ nhân tạo (AI) đã và đang tạo ra nhiều tác động to lớn đến nhiều lĩnh vực, trong đó có cả ngành công nghiệp giải trí. Tuy nhiên, bên cạnh những lợi ích mà AI mang lại, không ít người lo ngại về nguy cơ công nghệ này bị lợi dụng để tạo ra các nội dung giả mạo, gây ảnh hưởng xấu đến xã hội. Nhận thức được điều này, YouTube đang nỗ lực tìm kiếm giải pháp nhằm kiểm soát nội dung AI giả mạo trên nền tảng của mình. Theo Amjad Hanif - Phó chủ tịch phụ trách mảng sản phẩm dành cho nhà sáng tạo của YouTube, công ty đang phát triển các công cụ mới, có khả năng phát hiện ra các nội dung sử dụng hình ảnh và giọng nói được tạo ra bởi AI.

Công cụ đầu tiên sẽ được tích hợp vào Content ID - hệ thống tự động phát hiện và quản lý bản quyền âm nhạc trên YouTube ra mắt vào năm 2007. Trước đó, trang tin Mashable từng đưa tin vào năm 2016 rằng YouTube đã chi hàng tỷ USD tiền bản quyền cho các chủ sở hữu bản quyền thông qua Content ID. Công nghệ mới này được cho là có khả năng phát hiện giọng hát do AI tạo ra, nhằm ngăn chặn việc mạo danh giọng hát của các nghệ sĩ. YouTube dự kiến sẽ thử nghiệm chương trình này vào năm tới.

Bên cạnh đó, YouTube cũng đang phát triển công nghệ phát hiện nội dung AI giả mạo khuôn mặt của các diễn viên, người sáng tạo, vận động viên,... Ông Hanif khẳng định, YouTube và công ty mẹ Google cam kết sử dụng nội dung do người dùng tải lên một cách có trách nhiệm, nhằm "cải thiện trải nghiệm nội dung" thông qua công nghệ học máy và phát triển các công cụ AI. Bài đăng cũng đề cập đến việc YouTube đã triển khai các biện pháp bảo vệ đối với việc sử dụng các công cụ AI do chính họ tạo ra, chẳng hạn như Dream Screen. Cụ thể, nền tảng này sẽ ngăn chặn một số trường hợp người dùng nhập liệu văn bản vi phạm chính sách của YouTube (mặc dù không nêu rõ đó là những trường hợp nào).

Ông Hanif cũng nhấn mạnh cam kết của YouTube trong việc hợp tác với các đối tác, nhằm đảm bảo những tiến bộ trong tương lai sẽ góp phần lan tỏa tiếng nói của họ. Ông cho biết thêm: "Chúng tôi cam kết hợp tác với các đối tác của mình để đảm bảo rằng những tiến bộ trong tương lai sẽ khuếch đại tiếng nói của họ và chúng tôi sẽ tiếp tục phát triển các biện pháp bảo vệ để giải quyết các mối lo ngại và đạt được các mục tiêu chung của mình."