OpenAI chặn chiến dịch trích xuất suy luận từ mô hình AI
"OpenAI said it disrupted a coordinated adversarial distillation campaign that attempted to extract protected reasoning from its AI models, with a core cluster attributed to individuals associated with Moonshot AI. The activity began on July 1, 2026, spiked in late July, and was fully disrupted on July 28, 2026; OpenAI also added mitigations, banned involved accounts, and closed a replay pathway that could expose encrypted reasoning contents."
Rủi ro chính là rò rỉ protected reasoning và trích xuất dữ liệu ở quy mô lớn; sự cố cho thấy các cơ chế bảo vệ đầu ra của mô hình vẫn có thể bị lạm dụng.
Có thể ảnh hưởng đến niềm tin khách hàng, chi phí vận hành an toàn và yêu cầu tăng cường kiểm soát với các hệ thống AI tạo sinh trong doanh nghiệp.
OpenAI cho biết đã phát hiện và vô hiệu hóa một chiến dịch adversarial distillation nhằm trích xuất protected reasoning từ các mô hình AI của hãng. Theo mô tả, hoạt động này bắt đầu từ 01/07/2026, tăng mạnh vào 24–25/07/2026 với khoảng 16.000 yêu cầu từ hơn 4.000 người dùng, và bị chặn hoàn toàn vào 28/07/2026.
Công ty nói một cụm hoạt động cốt lõi có liên quan đến các cá nhân được cho là gắn với Moonshot AI, nhưng không công bố bằng chứng kỹ thuật chi tiết. OpenAI khẳng định kẻ tấn công không phá mã hóa, không xâm nhập cơ sở dữ liệu và không truy cập trực tiếp vào hội thoại đã lưu; thay vào đó, họ thao túng tương tác để làm lộ nội dung suy luận ở dạng có thể quan sát được.
Sau sự cố, OpenAI đã triển khai thêm mitigations, khóa tài khoản liên quan và đóng một replay pathway có thể cho phép khôi phục nội dung suy luận đã mã hóa. Hãng cũng bổ sung kiểm tra để phát hiện và giữ lại các luồng đầu ra có nguy cơ làm lộ thông tin.
Với đội kỹ thuật, sự kiện này cho thấy cần theo dõi các mẫu truy vấn bất thường, rà soát cơ chế bảo vệ chain-of-thought và đánh giá rủi ro rò rỉ dữ liệu qua các luồng phản hồi của mô hình.