Hệ thống nhận diện khuôn mặt của Cảnh sát London có tỉ lệ sai lên đến... 81%

Công nghệ nhận diện khuôn mặt đang được thử nghiệm bởi Cảnh sát Metropolitan được cho là có tỉ lệ sai sót đến 81%.

Theo một nghiên cứu của Đại học Essex, hệ thống này nhận diện nhầm 4 trong số 5 người vô tội là những nghi phạm bị truy nã.

Nếu bị kiện ra tòa, hệ thống này nhiều khả năng sẽ bị đưa vào danh mục "bất hợp pháp".

Nhằm phục vụ công tác tổng hợp nên một bản báo cáo độc lập về quá trình thử nghiệm dịch vụ này của cảnh sát London, Peter Fussey và Daragh Murray đã được Đại học Essex trao cho quyền truy cập "chưa từng có tiền lệ" vào 6 trong số 10 đợt thử nghiệm tiến hành từ tháng 6/2018 đến tháng 2/2019.

Bộ đôi này đã tham gia cùng các sỹ quan làm việc trong các phòng điều khiển LFR (Live Facial Recognition - nhận diện khuôn mặt trực tiếp) và cả trên thực địa; họ còn tham dự các phiên họp và phỏng vấn, cũng như các cuộc họp lập kế hoạch.

"Báo cáo này được dựa trên quá trình tham gia mật thiết trong các quy trình liên quan sử dụng công nghệ nhận diện khuôn mặt trực tiếp của Cảnh sát Metropolitan" - đồng tác giả Fussey tuyên bố.

"Việc những vấn đề như những người liên quan đến quy trình sử dụng LFR là đối tượng bị kiểm tra, và những kết quả kiểm tra phải được công khai, là điều hợp lý" - ông nói thêm.

Những mối quan ngại chính của các nhà nghiên cứu này đều rất chính đáng.

Họ khẳng định Cảnh sát Metropolitan đã không nhận được "ủy quyền pháp lý rõ ràng" để sử dụng LFR xét theo luật nội địa, hoặc không quan tâm đến những yếu tố như bản chất xâm phạm đời tư của công nghệ hay việc sử dụng công nghệ xử lý sinh trắc học.

Thêm vào đó, hai nhà nghiên cứu cho rằng phía cảnh sát đã thiếu sót trong khâu lên kế hoạch tiền thử nghiệm và khái niệm hóa công nghệ, dẫn đến một loạt các vấn đề liên quan đến sự đồng thuận, tính hợp pháp, và niềm tin.

Trong 6 đợt thử nghiệm được đánh giá, công nghệ LFR đã đưa ra 42 kết quả trùng khớp, nhưng các tác giả nghiên cứu cho biết chỉ có 8 trong số đó là chắc chắn đúng.

"...hệ thống của Cảnh sát Metropolitan ngay từ đầu đã không được đưa vào những điều khoản về tuân thủ quyền con người, và nó cũng không phải là một phần thiết yếu của quy trình áp dụng công nghệ" - Murray nói.

Với công bố của mình, hai tác giả Murray và Fussey kêu gọi ngừng tất cả các đợt thử nghiệm LFR đang được tiến hành cho đến khi những mối quan ngại được giải quyết.

Cảnh sát Metropolitan hiện chưa đưa ra bình luận nào về vụ việc.

Tham khảo: Geek