Độ tin cậy của AI không đồng nghĩa với xác thực

SANS vừa công bố hai framework AI mới để giải quyết rủi ro khi sử dụng AI trong pháp y số và ứng phó sự cố. Vấn đề là AI tự tin vào kết quả của mình nhanh hơn khả năng kiểm chứng của người dùng. Nếu không có quy trình quản lý và tiêu chuẩn xác thực, kết quả chưa kiểm chứng có thể xuất hiện trong báo cáo pháp y, thậm chí tại tòa án.

Framework Digital Forensics & AI Investigations được xây dựng dựa trên tiêu chuẩn của Scientific Working Group on Digital Evidence (SWGDE), còn Incident Response & AI Investigations Framework dựa trên NIST Cybersecurity Framework 2.0. Cả hai đều nhấn mạnh AI có thể tăng tốc công việc điều tra, nhưng chuyên gia vẫn là người đưa ra quyết định cuối cùng.

Xác thực không thể ủy thác

Trong pháp y số, xác thực kết quả AI bắt đầu từ tệp gốc. Công cụ không hiển thị lý do đưa ra kết quả thì không đáng tin cậy, bất kể độ tin cậy hiển thị. Công cụ trích dẫn nguồn tệp (ví dụ: lịch sử trình duyệt từ cơ sở dữ liệu Chrome) giúp kiểm tra, nhưng vẫn cần xác minh độc lập.

Một kết quả AI có độ tin cậy cao giống như học sinh lớp 3 khẳng định đã hoàn thành bài tập. Khẳng định không đồng nghĩa với việc làm đúng, và độ tin cậy không thay đổi điều đó. Chỉ có xác minh mới cho biết kết quả chính xác.

Nhiều người coi AI là nguồn chân lý duy nhất. Các diễn đàn chuyên nghiệp tràn ngập trường hợp quét tệp, công cụ báo cáo là AI tạo ra, và đó trở thành kết luận. Kết luận này không có nguồn rõ ràng, không có lý do, và người thiếu kiến thức nền tảng không thể phát hiện lỗi.

Ghi lại quy trình là bắt buộc

Việc ghi lại công cụ tạo ra kết quả quan trọng không kém việc kiểm tra. Nhiều người không sử dụng AI, nhưng các thuật toán học máy đã chạy trong công cụ pháp y của họ để đánh giá mức độ tin cậy. Ghi tên công cụ là đủ nếu AI được tích hợp sẵn. Với mô hình chung, cần ghi rõ phiên bản.

Phiên bản công cụ quan trọng vì công nghệ và công việc pháp y phát triển khác nhau. Một vụ án từng xảy ra khi công cụ hỗ trợ phân tích log chưa tồn tại lúc thu thập dữ liệu. Đến khi ra tòa hai năm sau, công nghệ đã tiến bộ, và đối phương có thể khai thác lỗ hổng này nếu không có hồ sơ rõ ràng về khả năng của công nghệ thời điểm đó.

Quản lý AI khác nhau cho từng lĩnh vực

Pháp y số và ứng phó sự cố có mức độ chấp nhận rủi ro khác nhau. Ứng phó sự cố cần tốc độ, nên AI hữu ích trong việc phát hiện và làm nổi bật hoạt động bất thường. Pháp y số cần xác thực mọi tệp, nên AI có thể gây thêm công việc. Cả hai đều đúng, vì vậy cần hai framework riêng biệt.

AI phát triển nhanh hơn khả năng giám sát của con người. AI tấn công mạnh mẽ, nhưng phòng thủ vẫn thận trọng. Thu hẹp khoảng cách này trong sự cố trực tiếp phụ thuộc vào độ tin cậy của công cụ. Nếu đội ngũ xây dựng và xác thực AI, thì giám sát và can thiệp thủ công là khả thi. Yêu cầu phê duyệt từng hành động trong sự cố làm chậm quá trình, lúc tốc độ là yếu tố then chốt.

Chuyên gia là yếu tố quyết định

Cả hai framework đều nhấn mạnh một điểm: AI không được thực hiện hành động không thể đảo ngược. Thu thập bằng chứng là ví dụ: nhà điều tra chỉ có một cơ hội thu thập dữ liệu chính xác, và sai sót sẽ loại bỏ khả năng phân tích. Xác minh hash có thể tự động hóa, nhưng quyết định cách thu thập dữ liệu đám mây, tiếp cận hiện trường, hay triển khai công cụ để theo dõi hoạt động lan truyền thì không, vì không thể quay lại.

Quyền pháp lý cũng tương tự. AI phát hiện tài khoản đám mây liên kết là hữu ích, nhưng AI tự thu thập dữ liệu vượt quá giới hạn mà nhà điều tra không thể đảo ngược. Một số công cụ có thể tự động thực hiện nếu cấu hình sai.

Câu hỏi thường gặp

Framework Digital Forensics & AI Investigations dựa trên tiêu chuẩn nào?

Framework này được xây dựng dựa trên tiêu chuẩn của Scientific Working Group on Digital Evidence (SWGDE), một tổ chức phát triển các tiêu chuẩn cho pháp y số.

Framework Incident Response & AI Investigations dựa trên tiêu chuẩn nào?

Framework này dựa trên NIST Cybersecurity Framework 2.0, một tiêu chuẩn quốc tế về bảo mật thông tin.

Tại sao cần xác thực kết quả AI trong pháp y số?

Vì AI có thể tạo ra kết quả không chính xác, và việc sử dụng kết quả chưa kiểm chứng có thể dẫn đến sai sót trong báo cáo pháp y hoặc tại tòa án.