Lỗ hổng compaction của OpenAI cho phép trích xuất suy luận ẩn
"Researchers at Xint discovered a flaw in OpenAI's compaction feature that allowed extraction of a model's hidden reasoning in plaintext. This bypassed previous protections implemented in August against reasoning theft, specifically affecting gpt-5.6-sol. OpenAI addressed the issue on October 23rd with a server-side fix, requiring no action from API developers."
Lỗ hổng này cho phép trích xuất suy luận ẩn của mô hình, có thể dẫn đến đánh cắp dữ liệu và lạm dụng mô hình. Việc khai thác thành công có thể gây ra rủi ro bảo mật đáng kể.
Các doanh nghiệp sử dụng API của OpenAI có thể gặp rủi ro về mất dữ liệu độc quyền và ảnh hưởng đến lợi thế cạnh tranh. Việc bảo vệ thông tin nhạy cảm trở nên quan trọng hơn bao giờ hết.
OpenAI đã khắc phục một lỗ hổng trong tính năng compaction vào ngày 23 tháng 10, cho phép trích xuất suy luận ẩn của mô hình dưới dạng văn bản thuần túy. Xint, một công ty bảo mật, phát hiện ra lỗ hổng này có thể vượt qua các biện pháp bảo vệ được triển khai vào tháng 8 nhằm ngăn chặn việc đánh cắp suy luận.
Xint thử nghiệm kỹ thuật này trên mô hình gpt-5.6-sol bằng các bài toán toán học và thuật toán do họ tự tạo. Họ không khẳng định phương pháp này có thể truy cập suy luận của người dùng khác. Kết quả trích xuất khớp với các yêu cầu ban đầu, và việc lặp lại trên các mô hình rẻ hơn (gpt-4.1 và gpt-4o) cho thấy tính nhất quán.
Tính năng compaction của OpenAI được thiết kế để giảm kích thước của các cuộc hội thoại dài. Lỗ hổng này khai thác việc compaction có thể được sử dụng để sao chép suy luận ẩn. Xint đã sử dụng tab để thay thế khoảng trắng, qua mặt bộ lọc chính sách sử dụng của OpenAI.
Đây là một lỗ hổng mới, khác với phương pháp tấn công được báo cáo trước đó vào tháng 8, khi các suy luận được mã hóa có thể được tái sử dụng trên các mô hình yếu hơn. Lỗ hổng compaction hoạt động vì quá trình compaction chạy trên cùng một mô hình tạo ra suy luận, bỏ qua kiểm tra chéo mô hình. Xint đã công khai mã nguồn trên GitHub.
OpenAI đã vá lỗ hổng ở phía máy chủ, do đó các nhà phát triển API không cần thực hiện thay đổi nào. OpenAI đã trả cho Xint khoản tiền thưởng 6.000 đô la cho việc phát hiện này. Xint chưa kiểm tra xem GPT-6 Astra có bị ảnh hưởng hay không. OpenAI cũng đã xác nhận một chiến dịch vào tháng 9 nhằm khai thác suy luận ẩn của mô hình, liên quan đến các cá nhân có liên kết với Moonshot AI của Trung Quốc.
Câu hỏi thường gặp
Tính năng compaction của OpenAI là gì?
Compaction là một tính năng của OpenAI giúp giảm kích thước của các cuộc hội thoại dài bằng cách sử dụng một mô hình để nén thông tin, duy trì ngữ cảnh.
Lỗ hổng này ảnh hưởng đến những mô hình nào của OpenAI?
Xint đã thử nghiệm lỗ hổng này trên mô hình gpt-5.6-sol. Hiện chưa rõ liệu GPT-6 Astra có bị ảnh hưởng hay không.
OpenAI đã làm gì để khắc phục lỗ hổng này?
OpenAI đã phát hành bản vá ở phía máy chủ vào ngày 23 tháng 10, không yêu cầu nhà phát triển API thực hiện bất kỳ thay đổi nào.
Góc nhìn của Orange Cloud
Theo chúng tôi, lỗ hổng này cho thấy việc bảo vệ suy luận ẩn của mô hình AI là một thách thức liên tục. Các doanh nghiệp Việt Nam sử dụng API của OpenAI cần theo dõi các bản vá bảo mật và hiểu rõ các rủi ro tiềm ẩn liên quan đến việc xử lý dữ liệu nhạy cảm. Điều đáng chú ý là việc vá lỗi ở phía máy chủ có nghĩa là không cần thay đổi mã nguồn, nhưng việc hiểu rõ cơ chế hoạt động của lỗ hổng có thể giúp các nhà phát triển xây dựng các biện pháp phòng ngừa bổ sung.