Lỗ hổng Unsloth Studio có thể dẫn đến thực thi mã khi kiểm tra mô hình
"A vulnerability in Unsloth Studio allowed malicious AI models to execute arbitrary Python code when being inspected, due to unsafe handling of the trust_remote_code setting. The issue has been patched, reducing the risk of code execution during routine model review and loading."
Có thể dẫn đến thực thi mã tùy ý trong quá trình kiểm tra mô hình, làm tăng nguy cơ xâm nhập môi trường MLOps và lạm dụng quyền của hệ thống.
Có thể ảnh hưởng đến quy trình đánh giá mô hình và làm gián đoạn vận hành MLOps nếu tổ chức phải tạm dừng hoặc siết chặt kiểm soát khi nạp mô hình.
Một lỗ hổng trong Unsloth Studio đã được vá, sau khi phát hiện cơ chế xử lý trust_remote_code không an toàn có thể cho phép mô hình AI độc hại thực thi mã Python tùy ý trong quá trình kiểm tra. Sự cố này ảnh hưởng đến các bước xem xét và tải mô hình vốn thường được thực hiện trong quy trình đánh giá nội bộ.
Theo mô tả, rủi ro phát sinh khi hệ thống tin cậy và thực thi mã đi kèm từ nguồn mô hình mà không có kiểm soát đủ chặt. Điều này có thể khiến một thao tác kiểm tra thông thường trở thành điểm xâm nhập vào môi trường chạy mô hình.
Khuyến nghị kỹ thuật: cập nhật Unsloth Studio lên phiên bản đã vá, hạn chế trust_remote_code với các nguồn chưa được xác minh, và chỉ cho phép mô hình đáng tin cậy trong môi trường kiểm thử. Với các quy trình MLOps, nên tách biệt môi trường đánh giá, kiểm tra quyền thực thi và ghi log đầy đủ khi nạp mô hình.