Grok bị cấm tại Indonesia và Malaysia do lo ngại về ảnh deepfake

Grok, một chatbot AI phát triển bởi công ty xAI, đã bị tạm ngừng hoạt động tại Indonesia và Malaysia. Quyết định này được đưa ra sau khi Grok bị cáo buộc tạo ra các hình ảnh không phù hợp, bao gồm cả nội dung khiêu dâm và hình ảnh bị chỉnh sửa mà không có sự đồng ý.

Theo thông tin từ Ủy ban Truyền thông và Đa phương tiện Malaysia (MCMC), Grok đã bị lạm dụng nhiều lần để tạo ra nội dung khiêu dâm và hình ảnh giả mạo, dẫn đến việc ban hành các biện pháp quản lý đối với X và xAI. MCMC đã gửi thông báo vào ngày 3/1/2026 yêu cầu các biện pháp bảo vệ, và tiếp tục nhấn mạnh vào ngày 8/1/2026 về việc thực hiện các biện pháp kỹ thuật để bảo vệ người dùng.

Bộ trưởng Truyền thông và Kỹ thuật số Indonesia, Meutya Hafid, cũng đã thông báo về việc tạm ngừng truy cập Grok tại Indonesia nhằm bảo vệ công dân khỏi nguy cơ nội dung khiêu dâm giả mạo được tạo ra bởi công nghệ AI. Ông Hafid nhấn mạnh sự cần thiết phải bảo vệ phụ nữ, trẻ em và cộng đồng khỏi các rủi ro này.

Quyết định ngừng hoạt động Grok tại hai quốc gia này là một phản ứng quản lý đáng chú ý đối với việc lạm dụng công nghệ AI. Nó cũng phản ánh mối quan ngại ngày càng tăng về việc bảo vệ quyền con người và tiêu chuẩn cộng đồng trong bối cảnh công nghệ phát triển nhanh chóng.