Gemini bị chiếm quyền, hacker có thể mở rèm, bật đèn trong nhà nạn nhân

Mới đây, Wired đưa tin về một nghiên cứu an ninh mạng gây chú ý: các nhà nghiên cứu đã tìm ra cách "hack" trợ lý AI Google Gemini để điều khiển các thiết bị nhà thông minh - tất cả chỉ thông qua một lời mời họp trong Google Calendar.

Cụ thể, họ đã chèn các lệnh độc hại gián tiếp (indirect prompt injection) vào lời mời lịch. Khi người dùng yêu cầu Gemini tóm tắt lịch trình rồi lịch sự cảm ơn, Gemini sẽ tưởng rằng đây là phần tiếp theo trong yêu cầu của người dùng, đã vô tình truyền lệnh tới hệ thống Google Home, ra lệnh mở cửa sổ, tắt đèn… như được minh họa trong video demo.

Phát hiện này được công bố tại hội nghị an ninh mạng Black Hat tuần này, nhưng trước đó, nhóm nghiên cứu đã gửi báo cáo chi tiết cho Google từ tháng 2. Andy Wen, Giám đốc cấp cao mảng quản lý sản phẩm bảo mật của Google Workspace đã có chia sẻ với Wired sau khi sự việc được công bố.

"Kiểu tấn công này sẽ còn tồn tại trong một thời gian nữa, nhưng chúng tôi hy vọng có thể đưa nó về mức mà người dùng bình thường không phải lo lắng" - ông Wen cho biết. Ông cũng nói rằng các cuộc tấn công kiểu này trong thực tế vẫn "cực kỳ hiếm". Tuy nhiên, sự phức tạp ngày càng tăng của các mô hình ngôn ngữ lớn (LLM) cũng đồng nghĩa với việc kẻ xấu sẽ liên tục tìm cách khai thác các điểm yếu mới khiến việc phòng chống trở nên khó khăn hơn.

Google khẳng định đã xem xét rất nghiêm túc các lỗ hổng do nhóm nghiên cứu phát hiện và đang đẩy nhanh việc phát triển các công cụ nhằm chặn đứng các kiểu tấn công tương tự trong tương lai.