Lý do Amazon phải cấm cảnh sát Mỹ sử dụng phần mềm nhận dạng khuôn mặt?

Ứng dụng Rekognition của Amazon đang gặp rắc rồi sau vụ người da màu bị cảnh sát chẹn cổ chết.

Amazon cấm cảnh sát Mỹ sử dụng phần mềm nhận dạng khuôn mặt trong vòng một năm sau vụ chẹn cổ chết một người da màu.

Khi Amazon tuyên bố ủng hộ phong trào “ Black Lives Matter” (Sinh mạng của những người da đen cũng đáng giá) ở Mỹ, ngay lập tức, tập đoàn này phải đối mặt với phản ứng dữ dội ngày càng tăng xoay quanh mối quan hệ với cảnh sát.

Amazon gần đây tuyên bố tán thành lời kêu gọi cải cách cảnh sát lực lượng cảnh sát ở Mỹ, sử dụng Twitter để kêu gọi chấm dứt đối xử bất công và tàn bạo đối với người da đen và đặt khẩu hiệu “Black lives matter” ở đầu trang chủ của hãng.

Nhưng sau đó, Amazon đã bị chỉ trích là đạo đức giả vì công ty này đã bán phần mềm nhận dạng khuôn mặt cho lực lượng cảnh sát.

Amazon không công bố về việc có bao nhiêu nhân viên cảnh sát sử dụng công nghệ này hay phần mềm đã được sử dụng ở mức độ nào, nhưng các tài liệu tiếp thị phần mềm cho thấy Rekognition đã được sử dụng để kết nối với các camera của cảnh sát viên trong thời gian thực.

Khi Amazon cho ra mắt sản phầm lần đầu tiên, phần mềm Rekognition đã bị các nhóm nhân quyền chỉ trích là “hệ thống giám sát uy lực ” sử dụng với mục đích xâm phạm quyền dân sự và nhắm vào cộng đồng da màu.

Các nhóm vận động cũng cho biết công nghệ này có thể gây tác động tiêu cực đối với những người da màu . Nữ nghị sĩ Alexandria Ocasio-Cortez đã liên tục chỉ trích phần mềm Rekognition trong bài đăng trên Tweeter vào thứ 4, bà cho biết, công nghệ này không nên xuất hiện trong các cơ quan thực thi pháp luật Mỹ.

Bà Alexandria khẳng định: “Phần mềm nhận diện khuôn mặt rất tệ hại và không chính xác. Nó thường gợi ý các thông tin về chủng tộc và giám sát trên diện rộng. Phần mềm thường xuyên xác định sai danh tính và nhầm người da nâu và da đen thành tội phạm.”.

Một thí nghiệm do ACLU (Liên minh Tự do Dân chủ Hoa Kỳ) thực hiện vào năm 2018 cho thấy Rekognition đã nhận diện sai 28 thành viên Quốc hội thành những người phạm tội bị bắt giữ.

Đặc biệt, phần mềm này càng nhầm lẫn khi phân biệt các thành viên Quốc hội da màu. Phần mềm nhận dạng khuôn mặt, giống như nhiều phần mềm trí tuệ nhân tạo, có lịch sử lâu đời về sự phân biệt chủng tộc. Lĩnh vực trí tuệ nhân tạo, vốn đã phân biệt màu da và giới tính, thường xuyên bị chỉ trích vì thiếu sự phổ quát và công bằng.

Trong một tuyên bố phát đi hôm thứ Tư, Amazon cho biết công ty sẽ tước quyền sử dụng công nghệ nhận diện khuôn mặt của lực lượng cảnh sát cho đến khi có luật mới thắt chặt vấn đề này. Cùng với Tập đoàn máy tính công nghệ đa quốc gia IBM, động thái của Amazon đã đặt dấu chấm hết cho sự phát triển công nghệ nhận dạng khuôn mặt.

Công ty Amazon cho biết: “ Chúng tôi mong rằng chính phủ nên đưa ra các quy định mạnh mẽ hơn để kiểm soát việc sử dụng công nghệ nhận dạng khuôn mặt và trong những ngày gần đây, Quốc Hội đang gặp phải nhiều thách thức do công nghệ của chúng tôi gây ra.

Chúng tôi hy vọng lệnh cấm một năm này có thể giúp Quốc hội Hoa Kỳ có đủ thời gian thi hành các luật phù hợp trong việc sử dụng công nghệ nhận dạng khuôn mặt, và Amazon sẵn sàng giúp đỡ nếu được yêu cầu.”

Trong khi những người ủng hộ quyền riêng tư cho rằng động thái của Amazon là một bước đi đúng đắn, thì Evan Greer, thành viên nhóm quyền kĩ thuật số Fight for the Future cho biết thông báo của công ty Amazon chỉ đang che mắt công chúng mà thôi.

Kế hoãn binh của Amazon?

Nhiều người da màu phản đối ứng dụng hỗ trợ cảnh sát của Amazon - ảnh AFP.

Evan nói rằng Amazon có thể sẽ dành cả năm để cải thiện công nghệ này và vận động Quốc hội ban hành những luật thân thiện với ngành và bán phần mềm nhận diện khuôn mặt trong tương lai. Vào năm 2019, Amazon đã chi 16,8 triệu USD cho cuộc vận động hành lang chính phủ.

Bà Greer khẳng định “quá nguy hiểm để sử dụng công nghệ nhận dạng khuôn mặt. Thứ công nghệ này gây ra mối đe dọa sâu sắc đến tương lai của nhân loại giống như vũ khí hạt nhân và vũ khí sinh học. Nó nên bị cấm hoàn toàn.”

Nicole Ozer, giám đốc công nghệ và tự do dân sự của Liên minh Tự do Dân sự Hoa Kỳ ở bắc California cũng kêu gọi Amazon nên thực hiện các cam kết có ý nghĩa hơn.

Ông cho biết: “Mối đe dọa của công nghệ giám sát này đối với quyền công dân và quyền tự do dân sự sẽ vẫn xuất hiện sau một năm nữa.

Amazon buộc phải hoàn toàn cam kết ngừng che đậy việc cơ quan thực thi pháp luật đã sử dụng phần mềm nhận dạng khuôn mặt cho đến khi những mối nguy được giải quyết hoàn toàn, đồng thời, công ty Amazon phải thúc ép Quốc hội và các cơ quan lập pháp trên toàn quốc làm điều tương tự. Công ty này cũng phải cam kết ngừng bán các hệ thống giám sát kiểm soát cộng đồng người da màu, ví dụ như ứng dụng Ring".

Ngày 10/6, Cơ quan thực thi pháp luật đầu tiên ở Hoa Kỳ ký hợp đồng với Amazon sử dụng công nghệ nhận dạng khuôn mặt là Văn phòng cảnh sát trưởng ở Hạt Washington tại Orgon đã xác nhận rằng trước thông báo mới của Amazon, cơ quan sẽ ngừng sử dụng phần mềm này.

Ảnh BBC.

Việc thông báo ngừng sử dụng Rekognition sẽ không ảnh hưởng đến tất cả quan hệ hợp tác của Amazon với các cơ quan hành pháp.

Amazon tuyên bố Trung tâm quốc tế về trẻ em bị thất lạc và bóc lột, cũng như hai công ty công nghệ Thorn và Marinus Analytics, vẫn sẽ được sử dụng công nghệ định dạng khuôn mặt để tìm ra các nạn nhân trong các vụ buôn người.

Ring - công ty con của Amazon chuyên về chuông cửa có gắn camera cũng chịu nhiều chỉ trích vì tăng cường giám sát những người da màu. Tuy nhiên, Amazon cũng không có động thái gì đối với hoạt động của công ty này.

Một báo cáo từ tổ chức Motherboard vào năm 2019 cho thấy những người da đen và da nâu có nhiều khả năng bị giám sát hơn bởi ứng dụng Neighbors, nơi người dùng của Ring có thể đăng video và hình ảnh của những “kẻ khả nghi” được camera ghi lại.

Ứng dụng chuông cửa hiện hợp tác với hơn 1.300 lực lượng cảnh sát trên khắp Hoa Kỳ- tăng 300% so với 400 đơn vị cảnh sát sử dụng vào tháng 8/2019.

Liên minh Tự do Dân sự Hoa Kỳ đã kêu gọi Amazon dừng việc tiếp thị hệ thống giám sát nhằm vào cộng đồng người da đen như ứng dụng Ring. Đồng thời, Liên minh ACLU cũng kêu gọi Microsoft và các công ty khác cùng tham gia lệnh cấm này.

Giám đốc của Liên minhTự do Dân sự Hoa kỳ cho biết “ Công nghệ nhận diện gương mặt cung cấp cho các nhà chức trách quyền lực chưa từng có để theo dõi chúng tôi. Điều này dẫn việc cảnh sát lạm dụng quyền riêng tư của người dân. Công nghệ giám sát này phải bị chấm dứt hoàn toàn.”

Phương Anh