Bê bối giám sát AI: CEO Flock Safety tuyên bố không chịu trách nhiệm về việc lạm dụng dữ liệu

Flock Safety, công ty công nghệ giám sát 7 năm tuổi tại Mỹ, đang đối mặt với làn sóng chỉ trích dữ dội khi hệ thống camera tích hợp trí tuệ nhân tạo (AI) của họ bị cáo buộc dẫn đến nhiều vụ bắt giữ nhầm và truy tố oan sai. Bất chấp những hệ lụy nghiêm trọng đối với quyền công dân, ban lãnh đạo công ty này vẫn giữ quan điểm đứng ngoài cuộc đối với cách thức vận hành dữ liệu của các cơ quan thực thi pháp luật.

Khi bằng chứng AI trở thành lời phán quyết tuyệt đối

Các cơ quan cảnh sát trên khắp nước Mỹ đang ngày càng phụ thuộc vào hệ thống camera của Flock Safety, kết hợp giữa bằng chứng gián tiếp, hình ảnh từ camera và thuật toán AI để thực hiện công việc tuần tra. Tuy nhiên, sự tin tưởng tuyệt đối vào công nghệ này đang bộc lộ những lỗ hổng chết người. Việc sử dụng phần mềm nhận diện khuôn mặt AI, máy đọc biển số xe tự động và micro phát hiện tiếng súng đang được triển khai mà thiếu đi sự đào tạo bài bản hoặc các biện pháp bảo mật vận hành cần thiết.

Một trong những trường hợp nghiêm trọng nhất là Michael Williams, một người dân tại Chicago, đã phải ngồi tù gần một năm vì cáo buộc giết người dựa trên bằng chứng từ ShotSpotter – một hệ thống micro phát hiện tiếng súng. Đáng chú ý, ban đầu hệ thống này xác định âm thanh đó là pháo hoa và thậm chí không ghi nhận nó ở gần vị trí của Williams. Dù không tìm thấy bằng chứng vật chất nào, cảnh sát vẫn dựa vào dữ liệu AI để giam giữ ông.

Đối với hệ thống đọc biển số xe, gánh nặng chứng minh sự vô tội đã bị đẩy từ phía cảnh sát sang người lái xe. Hình ảnh từ các hệ thống này được coi là không thể sai lầm, dù thực tế không phải vậy. Jacob Rockwell, một người đàn ông tại Florida, đã gây xôn xao khi chứng minh mình bị phạt oan vì vi phạm đèn đỏ tại một tiểu bang mà ông thậm chí không có mặt vào thời điểm đó.

Quan điểm của CEO Garret Langley: Đó không phải việc của tôi

Trong một cuộc phỏng vấn với 9NEWS, CEO của Flock Safety, Garret Langley, đã gây tranh cãi khi trả lời câu hỏi về trách nhiệm của công ty trong việc kiểm soát cách cảnh sát sử dụng dữ liệu. Ông thẳng thắn tuyên bố: "Tôi không nghĩ đó là công việc của tôi".

Flock CEO Garret Langley

Langley giải thích rằng nếu phát hiện hành vi lạm dụng dữ liệu, ông sẽ liên hệ với các quan chức thích hợp để giải quyết. Tuy nhiên, giới quan sát chỉ ra sự mâu thuẫn khi các cơ quan tiếp nhận phản ánh lạm dụng thường chính là những đơn vị cảnh sát đang trực tiếp sử dụng dữ liệu đó. Trong khi đó, Flock Safety vẫn tiếp tục tập trung vào việc thu thập thêm dữ liệu và mở rộng tệp khách hàng trên toàn quốc thông qua các chiến dịch quảng bá rầm rộ.

Rủi ro bảo mật và sự phản kháng từ cộng đồng

Hệ thống của Flock Safety không chỉ dừng lại ở việc đọc biển số xe. Nó còn liên quan đến các vấn đề nhạy cảm như theo dõi người nhập cư, giám sát các hoạt động liên quan đến quyền phá thai và vi phạm quyền riêng tư liên bang. Ngoài ra, những lo ngại về lỗ hổng bảo mật (bootloader) có thể bị tin tặc khai thác và tình trạng lạm dụng dữ liệu cá nhân của các sĩ quan cảnh sát cũng đang ở mức báo động.

Trước những diễn biến này, nhiều tiểu bang tại Mỹ đã bắt đầu xem xét lại và hủy bỏ hợp đồng với Flock Safety cùng các cơ quan tương tự. Cộng đồng cũng bắt đầu tự bảo vệ mình bằng cách theo dõi vị trí lắp đặt của các camera này thông qua các hệ thống như DeFlock và OpenMaps. Đáp lại, CEO Langley gọi DeFlock là một "tổ chức khủng bố", cho thấy sự căng thẳng leo thang giữa các công ty công nghệ giám sát và những người bảo vệ quyền riêng tư.

Sự trỗi dậy của các công ty giám sát tư nhân như Flock Safety đang đặt ra một câu hỏi lớn về sự cân bằng giữa an ninh công cộng và quyền tự do cá nhân. Khi AI dần trở thành "tiêu chuẩn" trong thực thi pháp luật, việc thiếu vắng các cơ chế kiểm soát và trách nhiệm giải trình từ phía nhà cung cấp công nghệ có thể dẫn đến những tiền lệ nguy hiểm cho xã hội.

Tuệ Nhân