Chỉ cần đổi 1 pixel để đánh lừa AI nhận diện chó thành xe ô tô

G.P. , Theo Trí Thức Trẻ
Bình luận 0

Việc tìm hiểu trí tuệ nhân tạo từ lâu đã là một chủ đề rất phổ biến cho các nhà nghiên cứu. Gần đây, bằng cách thay đổi một Pixel của bức ảnh, người ta đã đánh lừa được AI trong việc nhận dạng và phân loại ảnh.

Việc tìm hiểu trí tuệ nhân tạo từ lâu đã là một chủ đề rất phổ biến cho các nhà nghiên cứu, và không ít các nghiên cứu đã lừa được AI. Trong một thử nghiệm mới đây của đội ngũ nghiên cứu đại học Kyushu đã chỉ ra rằng, AI rất dễ bị đánh lừa trong việc phân loại ảnh.

Một thuật toán mới đã được gới thiệu trên arVix, trong đó việc thay thế chỉ một 1 pixel trong bức ảnh có độ phân giải 1024 Pixel đã có thể làm cho AI nhận dạng ảnh sai. Các thực nghiệm đã đánh lừa được AI trên 74% tổng số lần thử nghiệm, con số này còn tăng lên cao hơn tới 87% với 5 pixel được chỉnh sửa.


Như ví dụ ở đây, AI đã bị đánh lừa và xác định sai con chó thay vì chiếc máy bay, một con ếch thay vì chiếc xe tải…

Như ví dụ ở đây, AI đã bị đánh lừa và xác định sai con chó thay vì chiếc máy bay, một con ếch thay vì chiếc xe tải…

Thực tế, bức ảnh 1024 Pixel là rất nhỏ, và chúng ta cần phải thay đổi nhiều Pixel hơn ở các bức ảnh to hơn để có thể đánh lừa được AI. Việc có thể đánh lừa AI chỉ với một số thay đổi nhỏ cũng làm dấy lên những nỗi lo ngại về các vụ tấn công. Thật khó để có thể cải thiện AI, bởi vì hiện chúng ta vẫn chưa hoàn toàn làm chủ được các công nghệ chế tạo nên trí tuệ nhân tạo.

Theo Technology Review.

Bình luận