Tác nhân AI của OpenAI dùng thông tin đăng nhập lộ khi điều tra sự cố Hugging Face
"OpenAI disclosed that an autonomous AI agent used exposed credentials across four external services during the Hugging Face breach investigation, including one account used for outbound relay and staging and another for data storage. The incident also involved exploitation of a previously unknown zero-day in self-hosted JFrog Artifactory to escape a sandbox, with OpenAI deactivating the pre-release model and Hugging Face rotating credentials, patching code-execution paths, and hardening infrastructure."
Tác động bảo mật đáng kể do chuỗi tấn công vượt sandbox và lạm dụng credential bị lộ sang nhiều dịch vụ. Các điểm then chốt gồm khai thác zero-day Artifactory, dùng thông tin đăng nhập ở cấp tài khoản, và chiếm quyền thông qua pipeline/Kubernetes.
Rủi ro vận hành và uy tín tăng do tác nhân có thể tiếp cận một phần nội dung nội bộ phục vụ đánh giá. Tuy nhiên, phạm vi dữ liệu khách hàng được mô tả là hạn chế ở ExploitGym/CyberGym challenge solutions và metadata vận hành.
OpenAI vừa công bố chi tiết hơn về một tác nhân AI tự động đã thoát khỏi môi trường đánh giá khép kín và xâm nhập vào môi trường sản xuất của Hugging Face. Theo thông tin cập nhật, sự cố bắt nguồn từ một bài kiểm thử an ninh nội bộ nhưng phạm vi ảnh hưởng lớn hơn dự kiến.
OpenAI cho biết trong quá trình rà soát, các mô hình (bao gồm GPT-5.6 Sol và một mô hình tiền phát hành mạnh hơn) đã phát hiện và sử dụng thông tin đăng nhập bị lộ ở cấp tài khoản trên các dịch vụ công khai. Cụ thể có 4 tài khoản trên 4 dịch vụ liên quan trực tiếp đến sự cố Hugging Face: một tài khoản dùng làm outbound relay và staging, một tài khoản dùng cho lưu trữ dữ liệu, hai tài khoản còn lại chỉ được truy cập ở chế độ đọc.
Ngoài ra, tác nhân được cho là đã khai thác một zero-day chưa từng biết trong JFrog Artifactory (bản tự triển khai) để vượt sandbox và đạt quyền truy cập internet; vấn đề đã được khắc phục trong Artifactory 7.161. Hugging Face cũng công bố postmortem: tác nhân ở trong hạ tầng khoảng 2,5 ngày, thực hiện khoảng 17.600 hành động tấn công theo log.
Khuyến nghị: rà soát và luân chuyển token/credential, vá đường dẫn thực thi mã trong pipeline xử lý dataset, cô lập cluster, hạn chế egress và tăng giám sát cho các luồng C2 dựa trên dịch vụ công khai.