Cách Amazon bí ẩn đứng sau hệ thống giám sát AI của cảnh sát

Amazon — gã khổng lồ thương mại điện tử — đang lặng lẽ biến mình trở thành lực lượng bí ẩn phía sau các hệ thống giám sát AI của cảnh sát. Truyền thông quốc tế đã hé lộ cách “vùng phủ” của Amazon xâm nhập lĩnh vực thực thi pháp luật ngày càng sâu, từ drone, camera AI đến trung tâm phân tích tội phạm thời gian thực.

Theo Forbes, Amazon Web Services (AWS) đã chủ động giới thiệu một bản nguyên mẫu hệ thống AI có thể phát hiện vũ khí hoặc các “vật thể quan tâm” trong hình ảnh, video trực tiếp, đồng thời gửi cảnh báo kèm tọa độ đến cảnh sát. Họ không chỉ đơn thuần bán dịch vụ đám mây – mà nhắm tới việc “cấy” AI vào hệ thống giám sát công cộng, biến chính phủ và lực lượng cảnh sát thành khách hàng của công nghệ Amazon.

Câu chuyện trở nên sống động khi hồi giữa năm 2023, Cảnh sát hạt San Diego tổ chức thử nghiệm drone giám sát với đề xuất tích hợp AI từ Amazon. AWS đã trình diễn hệ thống nhìn trực tiếp từ drone, kèm phân tích vật thể, gửi cảnh báo tới cảnh sát.

Tuy nhiên, cơ quan này đã chọn dùng công nghệ của Nomad Media, không chọn Amazon làm đối tác chính. Họ không biết rằng bản thân Nomad cũng sử dụng nền tảng AWS và có khả năng vận hành phần phát hiện đối tượng dựa trên Rekognition – dịch vụ xử lý hình ảnh/video của Amazon. Nói cách khác, Amazon vẫn “bắt tận tay, day tận mặt” khi chính là hạ tầng hỗ trợ cho đối tác.

Quan hệ hợp tác của Amazon với các công ty như Flock Safety (camera nhận diện biển số, drone, cảm biến âm thanh), ZeroEyes (công nghệ phát hiện súng), và các nền tảng quản lý dữ liệu công an đã giúp gã khổng lồ này mở rộng tầm ảnh hưởng. Theo phân tích từ Mash Yang, thị trường công nghệ cảnh sát có thể trị giá lên đến 110 tỷ đô la, và Amazon có đội ngũ riêng “Law Enforcement & Safety” để khai thác mảnh đất này.

Song, khi các mắt nhìn AI len lỏi vào không gian công cộng, những tiếng cảnh báo về quyền riêng tư, sai lệch dữ liệu và lạm quyền cũng vang lên. Nhiều cảnh sát có thể gửi yêu cầu truy cập video của người dùng mà không cần trát, làm xói mòn ranh giới giữa công và tư.

Ngoài ra, một trong những dấu ấn đen tối nhất của Amazon trong giám sát AI là Rekognition — hệ thống nhận dạng hình ảnh/video từng gây nhiều tranh cãi. Năm 2018, ACLU từng thử nghiệm Rekognition và phát hiện 28 nghị sĩ Mỹ — đa số là người da màu — bị khớp nhầm với ảnh tội phạm. Nghiên cứu từ MIT cũng cho thấy Rekognition có sai lệch khi nhận diện người da tối màu, đặc biệt nữ, bị định dạng giới tính sai nhiều hơn.

Trong thực tế, các hệ thống AI có thể báo cảnh báo sai, khiến cảnh sát can thiệp nhầm vào người dân vô tội. Những khu vực có ít dữ liệu hoặc biến động cao sẽ dễ bị tác động nặng hơn. Bên cạnh đó, camera, drone, cảm biến kết nối vào trung tâm kiểm soát có thể bị hack hoặc rò rỉ dữ liệu — nếu lớp bảo mật không mạnh, hậu quả vô cùng nghiêm trọng.

Và có một nguy cơ lớn hơn: “ảo tưởng an ninh”. Khi các cơ quan dựa nhiều vào giám sát AI, có thể dễ bỏ qua nguyên nhân gốc rễ của tội phạm — nghèo đói, bất bình đẳng xã hội, giáo dục thiếu — và tập trung vào hậu quả thay vì phòng ngừa. Trách nhiệm xã hội, chính sách an sinh, giáo dục… dễ bị đẩy ra lề.

Theo: Forbes