Vụ việc này là minh chứng cho thấy một xu hướng ngày càng đáng sợ khi AI và các công cụ trí tuệ nhân tạo đang làm cho việc lừa đảo trở nên dễ dàng và nguy hiểm hơn bao giờ hết.
Vào cuối tuần qua, Google nộp đơn kiện lên Tòa án Liên bang Quận Nam New York nhắm vào một tổ chức tội phạm mạng Trung Quốc có tên Outsider Enterprise, cáo buộc nhóm này lợi dụng hệ thống trí tuệ nhân tạo Gemini của hãng để vận hành một mạng lưới lừa đảo quy mô lớn.
Đây là lần đầu tiên Google phối hợp đồng thời với FBI và ba nhà mạng viễn thông lớn nhất nước Mỹ gồm AT&T, T-Mobile và Verizon để triệt phá một mạng lưới tội phạm mạng. Bà Halimah DeLaine Prado, cố vấn pháp lý tổng hợp của Google, cho biết: "Đây là nỗ lực phối hợp và vụ kiện đầu tiên của chúng tôi, điều đó phản ánh mức độ ảnh hưởng rộng lớn của chiến dịch lừa đảo cụ thể này."
Quy mô hoạt động của Outsider Enterprise gây chú ý ngay cả với tiêu chuẩn của tội phạm mạng chuyên nghiệp. Chỉ trong vòng hai tuần trong tháng 5, nhóm này đã gửi 2,5 triệu tin nhắn đến người dùng Android với đường dẫn đến 9.000 website giả mạo, cùng hơn một triệu địa chỉ web gian lận liên kết với mạng lưới.
Riêng 55.000 tin nhắn rác trong số đó đã bị người dùng Android chủ động đánh dấu và báo cáo. Google cho biết hàng trăm nghìn người đã bị ảnh hưởng, phần lớn là người Mỹ, với tổng thiệt hại ước tính lên đến nhiều triệu USD.
Điểm đáng chú ý là cách nhóm tội phạm này dùng chính công cụ của Google để chống lại Google. Theo nội dung vụ kiện, Outsider Enterprise dùng Gemini để tạo ra 131 bộ công cụ phần mềm, cho phép sản xuất hàng loạt website giả mạo các thương hiệu quen thuộc gồm Google, YouTube, Bưu chính Mỹ và dịch vụ thu phí cao tốc E-ZPass của New York.
Các bộ công cụ này sau đó được chia sẻ và mua bán trong các nhóm Telegram nội bộ của mạng lưới, nơi các thành viên trao đổi mẹo và cập nhật phiên bản mới. Google không tiết lộ cụ thể những biện pháp nội bộ nào hãng đã thực hiện để ngăn chặn việc lạm dụng Gemini, dù chính hãng là bên kiểm soát hệ thống này.
Trong đơn kiện, Google yêu cầu tòa án ra lệnh hạn chế khẩn cấp để cho phép hãng cùng cơ quan thực thi pháp luật tiến hành đóng cửa mạng lưới. Trợ lý Giám đốc Bộ phận Tội phạm mạng FBI, ông Brett Leatherman, nhận định trong tuyên bố kèm theo: "Tội phạm ngày càng dùng trí tuệ nhân tạo để khiến các vụ lừa đảo trở nên thuyết phục hơn và khó phát hiện hơn, và chúng ta cần giải pháp lâu dài để đưa chúng ra trước công lý."
Vụ kiện này không đứng đơn lẻ mà nằm trong một bức tranh ngày càng đáng lo ngại. Theo báo cáo thường niên của FBI, tội phạm mạng đã lừa đảo người Mỹ gần 21 tỷ USD trong năm ngoái, trong đó khoảng 893 triệu USD được xác định có liên quan đến công cụ trí tuệ nhân tạo. Google cảnh báo con số này chỉ là khởi đầu, khi trí tuệ nhân tạo có khả năng "siêu nạp" các mối đe dọa lừa đảo lên một tầm mới mà các biện pháp hiện tại chưa đủ sức ứng phó.
