Rủi ro từ hệ thống camera AI của Flock Safety và bài toán trách nhiệm công nghệ

Trong bối cảnh mạng lưới giám sát tại Mỹ mở rộng nhanh chóng, Flock Safety – công ty công nghệ 7 năm tuổi – đang trở thành tâm điểm của những cuộc tranh luận về quyền riêng tư và độ chính xác của trí tuệ nhân tạo (AI). Việc các cơ quan thực thi pháp luật ngày càng phụ thuộc vào dữ liệu từ camera giám sát đang dẫn đến những hệ lụy nghiêm trọng, đặc biệt là tình trạng bắt giữ oan sai do nhầm lẫn danh tính.

Hệ sinh thái giám sát của Flock Safety và những lỗ hổng kỹ thuật

Flock Safety cung cấp giải pháp giám sát kết hợp giữa camera nhận diện biển số xe tự động (ALPR), phần mềm nhận diện khuôn mặt AI và hệ thống cảm biến âm thanh phát hiện tiếng súng. Về lý thuyết, hệ thống này giúp cảnh sát phản ứng nhanh và truy vết tội phạm hiệu quả hơn. Tuy nhiên, thực tế triển khai cho thấy sự thiếu hụt trong đào tạo vận hành và các biện pháp bảo mật dữ liệu.

CEO Flock Garret Langley

Một trong những vấn đề cốt lõi là sự tin tưởng tuyệt đối vào bằng chứng kỹ thuật số. Các hệ thống như ShotSpotter (cảm biến phát hiện tiếng súng) đôi khi nhầm lẫn tiếng pháo hoa với tiếng súng, dẫn đến những vụ bắt giữ không có bằng chứng vật chất. Trường hợp của Michael Williams tại Chicago là một ví dụ điển hình, khi ông phải ngồi tù gần một năm dựa trên dữ liệu sai lệch từ cảm biến âm thanh mà không có bất kỳ chứng cứ trực tiếp nào khác.

Sự dịch chuyển gánh nặng chứng minh trong kỷ nguyên AI

Công nghệ ALPR của Flock đã thay đổi cách thức thực thi pháp luật, nhưng đồng thời cũng làm thay đổi nguyên tắc "vô tội cho đến khi được chứng minh là có tội". Hiện nay, gánh nặng chứng minh đang dần chuyển sang phía người dân. Khi một hệ thống camera ghi nhận sai sót, người lái xe phải tự tìm cách chứng minh mình không có mặt tại hiện trường.

Phát ngôn gây tranh cãi của CEO Flock Safety

Trước những lo ngại về việc lạm dụng dữ liệu và sai sót của hệ thống, CEO Garret Langley đã đưa ra quan điểm gây xôn xao dư luận. Trong một cuộc phỏng vấn với 9NEWS, khi được hỏi về trách nhiệm của công ty trong việc kiểm soát cách cảnh sát sử dụng dữ liệu, ông Langley tuyên bố: "Tôi không nghĩ đó là việc của mình".

Quan điểm này cho thấy cách tiếp cận "đứng ngoài cuộc" của Flock đối với việc quản lý dữ liệu sau khi cung cấp cho khách hàng. Mặc dù ông Langley cho biết sẽ liên hệ với các quan chức phù hợp nếu phát hiện sai phạm, nhưng thực tế, những cơ quan này thường chính là các đơn vị đang trực tiếp vận hành và có khả năng lạm dụng hệ thống.

Phản ứng từ cộng đồng và xu hướng tương lai

Sự thiếu minh bạch và các lỗ hổng bảo mật (bao gồm cả lỗ hổng bộ nạp khởi động - bootloader - trên camera Flock) đã khiến nhiều khu vực bắt đầu xem xét lại các hợp đồng với công ty này. Một số tiểu bang đã tiến hành hủy hợp đồng sau khi nhận thấy những rủi ro về quyền riêng tư xuyên bang và giám sát trái phép.

Song song đó, các phong trào dân sự như DeFlock và OpenMaps đã xuất hiện nhằm giúp người dân theo dõi vị trí lắp đặt của các camera giám sát này. Mặc dù CEO Langley gọi đây là các tổ chức có tính chất cực đoan, nhưng sự tồn tại của chúng phản ánh nhu cầu cấp thiết về việc giám sát ngược lại các hệ thống giám sát đang bủa vây đời sống công cộng.

Nhìn chung, công nghệ giám sát của Flock Safety là một con dao hai lưỡi. Để đạt được sự cân bằng giữa an ninh và quyền tự do cá nhân, các quy định pháp lý nghiêm ngặt về độ chính xác của AI và trách nhiệm giải trình của nhà cung cấp công nghệ là điều không thể thiếu trong tương lai gần.

PHỐ HỘI