Khoa học - Công nghệ

Trong bối cảnh mạng lưới giám sát tại Mỹ ngày càng mở rộng, Flock - công ty chuyên về công nghệ camera nhận diện biển số xe tự động (ALPR) - đang trở thành tâm điểm của những cuộc tranh luận về đạo đức và trách nhiệm công nghệ. Sự phụ thuộc ngày càng lớn của lực lượng hành pháp vào trí tuệ nhân tạo (AI) đã dẫn đến nhiều trường hợp người dân bị cáo buộc oan sai, dấy lên lo ngại về tính minh bạch và quản lý dữ liệu.

Rủi ro từ sự tin tưởng tuyệt đối vào thuật toán AI

Các sở cảnh sát trên khắp nước Mỹ đang tăng cường sử dụng kết hợp bằng chứng gián tiếp, cảnh quay camera và các thuật toán AI để thực hiện công tác tuần tra. Tuy nhiên, việc triển khai các phần mềm nhận diện khuôn mặt, đầu đọc biển số xe và hệ thống phát hiện tiếng súng thường thiếu sự đào tạo bài bản hoặc các biện pháp bảo mật vận hành cần thiết để đảm bảo dữ liệu được sử dụng hợp pháp.

Một trong những vấn đề kỹ thuật lớn nhất là sự thay đổi trong "nghĩa vụ chứng minh". Thay vì cơ quan chức năng phải chứng minh hành vi vi phạm, các bằng chứng hình ảnh từ hệ thống tự động đang được coi là không thể sai lầm, đẩy gánh nặng chứng minh sự vô tội về phía người dân. Thực tế cho thấy, các sai sót vẫn xảy ra thường xuyên, từ việc nhận diện nhầm biển số đến các lỗ hổng bảo mật nghiêm trọng trong bộ nạp khởi động (bootloader) của camera Flock.

Những hệ lụy từ việc lạm dụng dữ liệu giám sát

Sự phụ thuộc quá mức vào bằng chứng AI đã dẫn đến những hậu quả thực tế nghiêm trọng. Tại Chicago, một người đàn ông tên Michael Williams đã bị giam giữ gần một năm vì cáo buộc giết người dựa trên dữ liệu từ ShotSpotter - hệ thống micro phát hiện tiếng súng. Đáng chú ý, ban đầu hệ thống này xác định âm thanh là pháo hoa và không ghi nhận được tiếng động ở gần vị trí của Williams. Dù không có bằng chứng vật chất, ông vẫn bị tạm giam trong thời gian dài.

Tương tự, trường hợp của Jacob Rockwell tại Florida cũng cho thấy sự bất cập của hệ thống tự động. Ông đã chứng minh tại một cuộc họp hội đồng thành phố rằng mình nhận được vé phạt vượt đèn đỏ dù lúc đó không hề có mặt tại tiểu bang. Những sai sót này cho thấy ranh giới mong manh giữa hiệu quả giám sát và quyền lợi hợp pháp của công dân khi công nghệ được triển khai mà thiếu sự kiểm soát chặt chẽ.

Quan điểm của CEO Flock: "Đó không phải việc của tôi"

Trước những lo ngại về việc lạm dụng dữ liệu, theo dõi quyền riêng tư hoặc các lỗ hổng bảo mật, CEO của Flock, ông Garret Langley, đã đưa ra quan điểm gây tranh cãi. Trong một cuộc phỏng vấn với 9NEWS, khi được hỏi về trách nhiệm trong việc kiểm soát cách cảnh sát sử dụng dữ liệu của công ty, Langley khẳng định: "Tôi không nghĩ đó là công việc của tôi".

Ông giải thích rằng nếu phát hiện hành vi lạm dụng, ông sẽ liên hệ với các quan chức phù hợp để giải quyết. Tuy nhiên, giới quan sát chỉ ra sự mâu thuẫn khi các quan chức này thường chính là những người thuộc cơ quan cảnh sát đang trực tiếp sử dụng dữ liệu đó. Thái độ này bị coi là hành động từ chối trách nhiệm quản lý đối với sản phẩm công nghệ có khả năng tác động lớn đến quyền tự do cá nhân.

Làn sóng phản đối và xu hướng tự bảo vệ của cộng đồng

Hiện nay, nhiều tiểu bang đã bắt đầu xem xét lại và hủy bỏ hợp đồng với Flock cùng các đại lý tương tự. Song song đó, người dân đã bắt đầu tự theo dõi việc triển khai các camera này thông qua các hệ thống như DeFlock và OpenMaps. Đáp lại, Langley coi DeFlock là một "tổ chức mang tính khủng bố", cho thấy sự căng thẳng leo thang giữa các công ty công nghệ giám sát và những nhóm bảo vệ quyền riêng tư.

Sự việc của Flock là bài học điển hình về việc triển khai công nghệ AI trong thực thi pháp luật. Khi các công ty công nghệ ưu tiên việc thu thập dữ liệu và mở rộng khách hàng hơn là thiết lập các rào cản đạo đức, rủi ro về một xã hội bị giám sát quá mức và các sai sót pháp lý là điều khó tránh khỏi.

Vũ Sơn