OpenAI tạm dừng huấn luyện RL quy mô lớn để tăng kiểm soát an toàn
"OpenAI paused its largest planned frontier reinforcement learning training run for two weeks while it strengthens monitoring, alignment, and security controls to reduce the risk of unsafe or unauthorized model behavior. The changes include tighter sandboxing, network isolation, continuous security testing, and faster escalation of suspicious activity, with mandatory safeguards for higher-capability RL workloads and an estimated 20% compute overhead."
Giảm rủi ro hành vi mô hình không an toàn, truy cập trái phép và rò rỉ dữ liệu trong quá trình huấn luyện/đánh giá AI tác tử.
Có thể làm chậm tiến độ triển khai và tăng chi phí tính toán khoảng 20%, nhưng đổi lại cải thiện độ tin cậy vận hành và giảm rủi ro sự cố.
OpenAI cho biết đã tạm dừng training reinforcement learning (RL) quy mô lớn nhất trong 2 tuần để tăng cường monitoring, alignment và security controls, nhằm giảm nguy cơ mô hình có hành vi unsafe hoặc unauthorized. Trong thời gian này, công ty chỉ tiếp tục các đợt huấn luyện và đánh giá quy mô nhỏ để kiểm tra hành vi mô hình và xác thực các biện pháp bảo vệ.
Các thay đổi kỹ thuật gồm sandboxing chặt hơn, network isolation để ngăn truy cập Internet, continuous security testing, giảm standing privileges và cải thiện ranh giới tin cậy giữa các dịch vụ dùng chung. OpenAI cũng nâng cấp hệ thống giám sát để phát hiện sớm các dấu hiệu như unauthorized access, data theft và hành vi phá hoại, đồng thời yêu cầu cảnh báo trong vòng 30 phút khi phát hiện hoạt động đáng ngờ.
Theo công ty, các biện pháp này sẽ được áp dụng bắt buộc cho mọi RL training và đánh giá có dùng công cụ với mô hình mức Sol capability trở lên, với chi phí tính toán tăng khoảng 20%. Với các tổ chức đang thử nghiệm AI tác tử, nên rà soát quyền truy cập, tách môi trường thử nghiệm và tăng kiểm tra an toàn trước khi mở rộng quy mô.