Công nghệ nhận diện khuôn mặt của Amazon quá đáng sợ...kể cả đối với cảnh sát

Hầu hết các nỗ lực của lực lượng hành pháp đều được giữ bí mật tuyệt đối, nhưng các tài liệu vừa được tung ra từ các viên chức bang Oregon - những người đang sử dụng công nghệ nhận diện khuôn mặt của Amazon - đã cho chúng ta cái nhìn rõ ràng nhất về việc cảnh sát và các đối tác công nghệ của họ đã "lấp liếm" những sự thật xấu xí của công nghệ nhận diện khuôn mặt ra sao, bao gồm việc thường xuyên sai lệch hay bị sử dụng đối với những người không phải đối tượng tình nghi phạm tội, và làm thế nào để thuyết phục dư luận tin tưởng vào một thứ đáng sợ như vậy - một hành động mà ngay cả cảnh sát cũng không chắc họ đang làm.

Rekognition, công nghệ nhận diện khuôn mặt của Amazon, không phải là một sản phẩm bí mật. Nó có hẳn một trang riêng trên website Amazon, nơi trùm bán lẻ trực tuyến này "chém gió" về những mối quan hệ đối tác với các công ty tư nhân và các sở cảnh sát. Ứng dụng có vẻ "ngây thơ vô tội" được quảng cáo bởi Amazon này trở nên rắc rối hơn nhiều khi được ứng dụng vào hệ thống theo dõi của chính phủ. Hình ảnh dưới đây minh họa Rekognition có thể được sử dụng như thế nào để quét thẻ tên của nhân viên. Nhìn qua có vẻ bình thường, nhưng cơ chế hoạt động của nó lại không khác gì việc sử dụng các camera giám sát để so sánh mọi người với một cơ sở dữ liệu của chính phủ: một hình ảnh thời gian thực được mang ra đối chiếu với một hình ảnh đã được lưu trữ trước đó.

Khi bán công nghệ này để dùng cho mục đích theo dõi, Amazon quảng cáo khả năng sử dụng AI của Rekognition để so sánh những người bị bắt trong thời gian thực hoặc trong các thước phim được ghi lại với các cơ sở dữ liệu khổng lồ đã có sẵn, giúp "việc điều tra và giám sát các cá nhân dễ dàng và chính xác".

Một đối tác chính phủ đã từng sử dụng ứng dụng này là Hạt Washington, bang Oregon. Văn phòng cảnh sát trưởng tại đây đã và đang sử dụng Rekognition để đối chiếu các bức ảnh và các đoạn video theo dõi với một cơ sở dữ liệu chứa gần 300.000 ảnh chụp khuôn mặt. Thông qua các yêu cầu cung cấp bản ghi công, ACLU đã có thể thu thập được các tài liệu nội bộ liên quan đến quá trình sử dụng công nghệ của Amazon tại hạt này.

Dù chiến lược quảng cáo của Amazon tập trung vào việc lực lượng hành pháp có thể sử dụng Rekognition để tìm kiếm "những cá nhân được quan tâm" ra sao, nhưng các email nội bộ lại cho thấy cảnh sát hạt Washington đã sử dụng Rekognition để xác định "các cá nhân rơi vào trạng thái bất tỉnh nhân sự hoặc đã chết", cũng như "các cá nhân có khả năng là nhân chứng và người thực hiện tội phạm trong các hình ảnh". Theo ACLU, ở Oregon, bạn không hề phạm pháp nếu từ chối yêu cầu cung cấp thẻ định danh cho cảnh sát. Với Rekognition, cảnh sát thậm chí chẳng cần yêu cầu điều đó mà vẫn biết bạn là ai!

Các tài liệu khác cho thấy nguy cơ xác định nhầm của Rekognition. Một ảnh chụp màn hình cho thấy Rekognition xác định một hình ảnh của O.J. Simpson (da màu) có tỉ lệ trùng khớp là 93,53% với một phạm nhân...da trắng khác. Không rõ liệu người đàn ông xui xẻo này sau đó có bị kết tội hay không, bởi ảnh chụp khuôn mặt chỉ được chụp khi một người bị bắt, không phải khi người ta bị kết án. Nếu các nghi can đã được xóa mọi cáo buộc, không có gì đảm bảo hình ảnh của họ cũng sẽ bị xóa khỏi cơ sở dữ liệu ảnh chụp khuôn mặt này.

Các đoạn email trao đổi cũng cho thấy các viên chức chính phủ biết về sức mạnh đáng lo ngại của Rekognition. Trong một email, một viên chức hạt Washington giải thích cảnh sát trưởng của hạt đã thận trọng ra sao khi công khai mối quan hệ đối tác của văn phòng cảnh sát hạt với Amazon, trong đó vị cảnh sát trưởng này "lưỡng lự về việc sử dụng dữ liệu lớn". Trong một email khác, một viên chức cho biết đội ngũ quản lý của hạt đã có những quan ngại tương tự về Rekognition ra sao.

"Cho dù phần mềm của chúng tôi đang được sử dụng để xác định các cá nhân được quan tâm từ các hình ảnh người ta cung cấp cho văn phòng cảnh sát trưởng, thực chất chúng tôi luôn kiểm tra mọi khuôn mặt từ mọi thứ" - một lá thư tiết lộ.

Chưa hết, sự việc còn rắc rối hơn khi xuất hiện một chuỗi các email cho thấy hai đại diện của Amazon đang thiết lập một cuộc gọi giữa một viên chức cảnh sát của hạt Washington và một phó chủ tịch của Federal Signal - công ty sản xuất camera. Chủ đề của cuộc gọi này xoay quanh việc làm thế nào để kiểm soát ý kiến công chúng về việc sử dụng công nghệ nhận diện khuôn mặt bằng các thước phim camera. Và ý kiến của công chúng ở đây, được nhắc đến trong một email sau đó, là "mọi người không chấp nhận điều đó".

"Đồng nghiệp của tôi có một khách hàng sản xuất camera gắn trên người cho cảnh sát. Ông ta có chút hoài nghi về việc ứng dụng công nghệ nhận diện con người trong các thước phim ở thời điểm hiện tại bởi tất cả các vấn đề xoay quanh nó. Tất nhiên, ông cũng tin rằng công nghệ này cuối cùng sẽ phổ biến, và muốn biết làm thế nào bạn có thể vượt qua sự cản trở của các cổ đông để ứng dụng công nghệ tiên tiến này" - email ban đầu nói.

Nhận diện khuôn mặt tích hợp trong camera gắn trên người từ lâu đã bị xem là một thay đổi tồi tệ trong lực lượng hành pháp. Trong khi các camera theo dõi bị hạn chế ở vị trí lắp đặt, các camera gắn trên người với công nghệ nhận diện khuôn mặt sẽ biến các sĩ quan cảnh sát thành các nền tảng theo dõi di động. Không có dấu hiệu gì cho thấy Rekognition đang được sử dụng trên các camera đó, nhưng một viên chức nói trong email rằng làm vậy là bất hợp pháp, và đó sẽ là một rào cản lớn - nhưng hội đồng của Federal Signal lại cho thấy ít nhất một vài viên chức của Amazon rất háo hức nếu điều đó diễn ra.

Sau khi các tài liệu bị tiết lộ, hơn 40 tổ chức quyền công dân đã cùng kêu gọi Amazon ngừng bán Rekognition cho lực lượng hành pháp. Đây là một phần nội dung của bức thư mở gửi CEO Amazon Jeff Bezos:

"Amazon Rekognition sẽ bị lạm dụng trong tay chính phủ. Sản phẩm này gây ra một mối đe dọa cho cộng đồng, bao gồm người da màu và người nhập cư, và đe dọa cả lòng tin và sự tôn trọng mà Amazon cố gắng xây dựng. Amazon phải hành động nhanh gọn để bảo vệ quyền công dân và tự do công dân, bao gồm quyền của những khách hàng của mình, và ngừng bán Rekognition cho chính phủ".

Trong một tuyên bố của mình, Amazon cho biết họ "yêu cầu mọi khách hàng tuân thủ luật pháp và có trách nhiệm", và nếu các dịch vụ của hãng bị lạm dụng, "chúng tôi sẽ 'treo' quyền sử dụng dịch vụ của mình đối với khách hàng đó".

"Amazon Rekognition là công nghệ giúp tự động nhận diện con người, vật thể, và hoạt động trong các đoạn video và hình ảnh dựa trên dữ liệu nhập vào của khách hàng. Ví dụ, nếu khách hàng cung cấp hình ảnh một cái ghế, Rekognition sẽ giúp tìm hình ảnh những cái ghế khác trong một thư viện hình ảnh do khách hàng tải lên. Amazon Rekognition có nhiều ứng dụng hữu ích trong thế giới thực (nhiều cơ quan sử dụng Rekognition để tìm người bị bắt cóc, các công viên giải trí dùng Rekognition để tìm trẻ em bị lạc, Lễ cưới Hoàng gia Anh vừa qua sử dụng Rekognition để xác định các khách dự đám cưới...). Và tính hữu dụng của các dịch vụ AI như thế này sẽ chỉ tăng lên khi càng nhiều công ty bắt đầu sử dụng các công nghệ tiên tiến như Amazon Rekognition. Chất lượng cuộc sống của chúng ta sẽ tệ hơn nhiều nếu chúng ta đặt công nghệ mới ngoài sự quản lý của luật pháp, bởi một số người có thể sẽ lạm dụng công nghệ. Hãy tưởng tượng nếu các khách hàng không thể mua một chiếc máy tính vì nó từng có khả năng bị sử dụng vào các mục đích bất hợp pháp? Giống như bất kỳ dịch vụ AWS nào của chúng tôi, Amazon yêu cầu các khách hàng tuân thủ luật pháp và có trách nhiệm khi sử dụng Amazon Rekognition".

Tham khảo: Gizmodo