Với sự hỗ trợ của AI, hoạt động lừa đảo trực tuyến không chỉ mở rộng trên quy mô chưa từng có, mà còn được tự động hóa với mức độ khó có thể nhận biết được.
Một studio tại Trung Quốc đã sử dụng Claude để xây dựng hơn 20 ứng dụng hẹn hò, phía sau là một mạng lưới gồm hơn 4.700 nhân vật AI được thiết kế để khiến người dùng tin rằng họ đang trò chuyện với người thật.
Trong khoảng hai tuần vào tháng 4/2026, các nhân vật này đã trò chuyện với ít nhất 25.000 người dùng. Khoảng 75% những tài khoản mà người dùng ghép đôi thực chất là AI. Chỉ riêng Claude đã tạo ra khoảng 2,36 triệu tin nhắn trong thời gian này.
Điểm đáng chú ý là hệ thống không đơn giản chỉ sử dụng một chatbot để trả lời tin nhắn. AI được đưa vào gần như mọi công đoạn của quy trình, từ tạo nhân vật, duy trì hội thoại cho tới xử lý hình ảnh..
Các “người yêu ảo” được lập trình để không bao giờ thừa nhận mình là AI. Khi người dùng đề nghị gọi video hoặc gửi ảnh, chúng được hướng dẫn né tránh hoặc trì hoãn, đồng thời tiếp tục duy trì mối quan hệ.
Khi con người trở thành “bằng chứng” rằng AI là người thật
Hệ thống thậm chí không cần loại bỏ hoàn toàn con người. Khoảng 25% tài khoản trong luồng ghép đôi là những người làm việc bán thời gian.
Họ được trả tiền theo số tin nhắn, cuộc gọi video hoặc lượt theo dõi lại trên mạng xã hội. Mục đích là xuất hiện vào những thời điểm AI khó giả mạo nhất, chẳng hạn khi người dùng muốn gọi video hoặc kiểm tra tài khoản mạng xã hội.
Ngay cả những nhân viên này cũng được AI hỗ trợ. Một mô hình nhỏ hơn tạo sẵn 3 phương án trả lời cho mỗi cuộc trò chuyện để họ lựa chọn. AI đồng thời đảm nhiệm việc đánh giá độ hấp dẫn của ảnh, kiểm duyệt hình ảnh và giọng nói, trong khi một mô hình tạo ảnh được dùng để tạo hình đại diện cho các nhân vật ảo.
Nhờ vậy, hệ thống hình thành một dây chuyền khá hoàn chỉnh: AI tạo “người yêu”, AI trò chuyện với người dùng, con người xuất hiện để xác nhận danh tính, rồi người dùng phải nạp tiền để tiếp tục trò chuyện.
Các cuộc trò chuyện tiêu tốn tín dụng, buộc người dùng phải nạp thêm tiền để duy trì tương tác. Mô hình này sau đó được triển khai trên hơn 20 ứng dụng khác nhau.
Không chỉ lừa người dùng, hệ thống còn tìm cách qua mặt cả kho ứng dụng
Quy mô của hoạt động này không phải điểm đáng chú ý duy nhất. Hệ thống còn được thiết kế để che giấu bản chất thật của các ứng dụng trước những nền tảng phân phối.
Các nhà điều tra của Anthropic phát hiện tài liệu dành cho nhà phát triển mô tả một chế độ giao diện ẩn, chỉ được kích hoạt khi ứng dụng đang trải qua quá trình kiểm duyệt trên App Store hoặc Play Store và sẽ ngừng hoạt động sau khi ứng dụng được phát hành.
Các phiên bản ứng dụng cũng sử dụng tên lớp mã khác nhau nhằm tránh những hệ thống kiểm tra sự tương đồng có thể phát hiện các ứng dụng được nhân bản hoặc có liên hệ với nhau.
Một trình duyệt bên trong ứng dụng cho phép chuyển hướng thanh toán tới các đơn vị xử lý bên thứ ba cũng có thể được điều khiển từ máy chủ. Theo đó, chức năng này có thể bị tắt hoặc ẩn đi khi có người kiểm tra. Anthropic cho biết đã chuyển bằng chứng liên quan, bao gồm danh tính của các nhà phát hành ứng dụng, cho Apple và Google.
Một số thương hiệu ứng dụng được xác định trong mạng lưới gồm DORA, DONI, ROMI, LUMA, JOVIA, KIRA, GRACECHAT, HAVEN, NALO và LOVIA, bên cạnh những phiên bản khác chỉ được xác định bằng mã nội bộ.
Quy mô mới là điều đáng sợ
Lừa đảo tình cảm vốn không phải thủ đoạn mới. Điều khiến vụ việc trở nên đáng chú ý là AI đã thay đổi hoàn toàn khả năng mở rộng của mô hình này.
Một người không thể duy trì hàng nghìn cuộc trò chuyện cùng lúc. Một nhóm nhân viên cũng khó có thể tạo ra hàng triệu tin nhắn trong vài tuần mà vẫn duy trì được cảm giác mỗi người dùng đang nói chuyện với một cá nhân riêng biệt.
AI thì khác. Hơn 4.700 nhân vật có thể hoạt động đồng thời, duy trì hàng nghìn cuộc trò chuyện và phản hồi liên tục. Con người chỉ cần được đưa vào những khâu mà máy móc chưa thể tự thực hiện.
Trong một số cuộc trò chuyện được Anthropic lấy mẫu, người dùng thậm chí chia sẻ về bệnh tật nghiêm trọng hoặc trạng thái tinh thần căng thẳng. Tuy nhiên, Claude vẫn tiếp tục duy trì vai diễn thay vì dừng cuộc trò chuyện.
Vụ việc cũng cho thấy sự lừa dối không chỉ nhằm vào người dùng. Hệ thống còn có một chế độ giao diện ẩn được thiết kế để thay đổi hành vi khi ứng dụng đang trải qua quá trình kiểm duyệt trên App Store hoặc Play Store. Một số cơ chế khác được sử dụng để tránh bị phát hiện là các ứng dụng có liên hệ với nhau.
Anthropic cho biết đã cấm các tài khoản liên quan đến mạng lưới này và chia sẻ thông tin với những nhà cung cấp AI khác có công cụ được sử dụng trong hệ thống. Studio đứng sau hoạt động này không được công ty nêu tên, ngoài việc xác định đây là một đơn vị có trụ sở tại Trung Quốc.
Điều đáng lo không nằm ở việc một chatbot có thể giả làm người yêu. 4.700 chatbot, hơn 20 ứng dụng và 2,36 triệu tin nhắn trong 2 tuần mới là phần cho thấy AI có thể đưa một hình thức lừa đảo cũ lên quy mô hoàn toàn khác.
