TikTok tại Mỹ tràn ngập video phân biệt chủng tộc tạo bằng Google Veo 3

Google đã tạo ra một cú sốc lớn trong lĩnh vực AI khi ra mắt công cụ tạo video Veo 3 vào tháng 5. Công cụ tạo video AI này cũng vừa mới được ra mắt tại Việt Nam vào ngày 3/7. Dù nhiều video AI lan truyền chỉ là những trò vui vô hại, nhưng sản phẩm của Veo 3 lại có thể bị lợi dụng cho mục đích xấu. Trên TikTok, dù có nguy cơ bị cấm trong vài tháng tới tại Mỹ, người dùng đã nhận thấy sự gia tăng các video AI mang tính phân biệt chủng tộc, do Veo 3 của Google tạo ra.

Theo báo cáo từ MediaMatters, nhiều tài khoản TikTok đã bắt đầu đăng tải các video AI sử dụng hình ảnh và nội dung mang tính phân biệt chủng tộc và bài Do Thái trong vài tuần gần đây. Phần lớn nội dung này nhắm đến người da đen, miêu tả họ như những kẻ tình nghi trong tội phạm, cha mẹ vô trách nhiệm, và những hình ảnh xúc phạm khác. Nội dung này cũng nhắm tới người nhập cư và người Do Thái. Các video thường ngắn, chỉ khoảng tám giây, và được đóng watermark "Veo", xác nhận rằng chúng được tạo ra từ mô hình AI hàng đầu của Google.

Google đã nhấn mạnh về sự an toàn khi công bố các mô hình AI mới, và thường đã cân bằng tốt giữa việc ngăn chặn nội dung xấu và cho phép những ý định vô hại. Tuy nhiên, với Veo 3, dường như sự tuân thủ đã lỏng lẻo hơn. Trang arstechnica cho biết họ đã thử nghiệm với một vài câu lệnh đơn giản và nhận thấy dễ dàng tái tạo các yếu tố của những video này.

Điều khoản dịch vụ của TikTok cấm loại nội dung này. "Chúng tôi không cho phép bất kỳ phát ngôn thù ghét, hành vi thù ghét hay quảng bá các ý tưởng thù ghét nào. Điều này bao gồm cả nội dung rõ ràng hoặc ngầm định tấn công một nhóm được bảo vệ," theo hướng dẫn cộng đồng. Mặc dù có lệnh cấm toàn diện đối với các hình ảnh phân biệt chủng tộc, nhưng các video thù ghét của Veo 3 dường như vẫn lan truyền mà không bị kiểm soát.