Khi AI Gặp Pháp Luật: Thẩm Phán Liên Bang Cảnh Báo Ngược Đãi Báo Cáo Thuật Toán Trong Điều Tra Cảnh Sát

Một thẩm phán liên bang đã cảnh báo về một xu hướng đáng lo ngại trong lực lượng thực thi pháp luật của Mỹ: dựa vào các hệ thống trí tuệ nhân tạo để soạn thảo các tài liệu điều tra quan trọng. Vụ việc nổ ra sau phán quyết của Thẩm phán Sara Ellis, người đã xem xét hành vi của các nhân viên ICE khi họ sử dụng ChatGPT để soạn báo cáo về việc sử dụng vũ lực. Trường hợp này đã làm sáng tỏ mối nguy hiểm trong mối liên hệ giữa sự tiện lợi của AI và tính toàn vẹn của tư pháp.

Thực hành gây tranh cãi đang bị Tư pháp giám sát

Vụ việc tập trung vào một nhân viên đã cung cấp cho ChatGPT dữ liệu tối thiểu—chỉ một bản tóm tắt ngắn gọn kèm theo bằng chứng hình ảnh—và nhận lại một báo cáo đã được chỉnh sửa kỹ lưỡng. Tuy nhiên, khi Thẩm phán Ellis so sánh tài liệu do AI tạo ra với footage từ camera thân, những điểm bất thường rõ ràng đã xuất hiện. Thay vì là một hồ sơ khách quan, AI đã bịa đặt chi tiết và mô tả không chính xác. Phán quyết của thẩm phán đã coi cách làm này là gây hại nghiêm trọng đến uy tín của lực lượng thực thi pháp luật và cảnh báo rằng những thực hành như vậy làm suy yếu nền tảng niềm tin của công chúng vào hệ thống tư pháp.

Tại sao các báo cáo do AI soạn thảo lại mang lại rủi ro ngày càng tăng

Các chuyên gia tội phạm học ngày càng lo ngại. Ian Adams, người có chuyên môn trong lĩnh vực công lý hình sự và tư vấn trí tuệ nhân tạo, mô tả phương pháp này như sắp xảy ra thất bại thảm khốc. Khi các nhân viên cung cấp cho hệ thống AI những thông tin rời rạc—cơ bản là buộc thuật toán phải điền vào các khoảng trống nguy hiểm—công nghệ này sẽ tự động tạo ra các câu chuyện hợp lý giả mạo thay vì tái tạo trung thực các sự kiện.

Các học giả pháp lý cũng nâng cao mối quan ngại này. Andrew Guthrie Ferguson, một giáo sư luật, chỉ ra rằng các thuật toán dự đoán vốn dĩ đã định hình lại các câu chuyện bằng cách nhấn mạnh những gì “lẽ ra phải xảy ra” thay vì ghi lại sự thật khách quan. Đối với bị cáo, sự bóp méo do thuật toán này biến phòng xử thành một chiến trường nơi các lời nói dối do AI tạo ra làm phức tạp chiến lược bào chữa pháp lý.

Yếu tố quyền riêng tư: Một lớp lưới dễ tổn thương ẩn giấu

Ngoài độ chính xác, còn có một mối đe dọa đáng lo ngại khác: bảo vệ dữ liệu nhạy cảm. Katie Kinsey, một chuyên gia chính sách công nghệ liên kết với Dự án Cảnh sát của NYU, nhấn mạnh rằng việc tải lên bằng chứng cảnh sát lên các nền tảng AI phổ biến như ChatGPT tạo ra rủi ro rò rỉ không kiểm soát được. Một khi thông tin này được truyền đến các dịch vụ thương mại, dữ liệu bí mật có thể lưu hành qua các kênh công cộng hoàn toàn ngoài phạm vi kiểm soát của lực lượng thực thi pháp luật.

Quan sát của Kinsey phản ánh rõ hơn về sự bất cập lớn hơn: các cơ quan thực thi pháp luật về cơ bản đang “xây dựng hạ tầng giữa lúc khủng hoảng,” triển khai các công cụ AI trước và chỉ thiết lập các quy trình giám sát sau khi thiệt hại đã xảy ra. Bộ An ninh Nội địa đã rõ ràng không công bố hướng dẫn toàn diện về việc triển khai AI, khiến các nhân viên phần lớn bị bỏ rơi không có hướng dẫn rõ ràng.

Các biện pháp đối phó mới nổi và phản ứng của ngành công nghiệp

Một số khu vực pháp lý và nhà cung cấp công nghệ đang thực hiện các bước chủ động. Utah và California đã bắt đầu yêu cầu dán nhãn rõ ràng các tài liệu do AI tạo ra, tạo ra một dấu vết có thể kiểm tra được. Trong khi đó, Axon—nhà cung cấp camera thân của cảnh sát hàng đầu—đã phát triển các giải pháp AI chỉ tạo ra các bản tóm tắt dựa trên âm thanh, qua đó tránh được mìn địa hình trong phân tích hình ảnh.

Tuy nhiên, các biện pháp này vẫn còn rời rạc. Việc triển khai phân tích dự đoán trong lực lượng thực thi pháp luật vẫn gây ra hoài nghi, với các nhà quan sát đặt câu hỏi liệu quyết định dựa trên thuật toán có đáp ứng được các tiêu chuẩn chuyên nghiệp hay kỳ vọng về trách nhiệm giải trình của công chúng hay không.

Hướng tới trách nhiệm giải trình: Con đường phía trước

Sự can thiệp của tòa án này nhấn mạnh một yêu cầu cấp bách: các khung pháp lý toàn diện phải được thiết lập để quản lý vai trò của AI trong việc soạn thảo tài liệu của lực lượng thực thi pháp luật. Nếu không có các giới hạn rõ ràng, việc phổ biến các báo cáo do thuật toán tạo ra sẽ đe dọa đồng thời làm suy yếu độ chính xác của tư pháp, quyền riêng tư và tính hợp pháp mà toàn bộ hệ thống tư pháp hình sự dựa vào. Cảnh báo của thẩm phán phản ánh một chân lý sâu sắc hơn: sự tiện lợi của công nghệ không thể để cho nó làm suy yếu tính toàn vẹn của bằng chứng mà công lý đòi hỏi.