OpenAI siết kiểm soát bảo mật cho mô hình Astra
"OpenAI says its pending Astra model may have significant cyber capabilities and will be subject to stricter security controls, including isolated testing, restricted tool/network access, enhanced weight protection, sandboxing, and monitoring of chain-of-thought for risky actions. The article also notes Anthropic is loosening Fable refusals for biology-related prompts, reflecting a broader tension between model capability, safety controls, and competitive pressure; no CVE is mentioned."
Tăng cường kiểm soát an toàn AI cho mô hình có thể hỗ trợ tấn công mạng; giảm rủi ro từ tool/network access và hành vi rủi ro trong giai đoạn thử nghiệm.
Có thể làm chậm chu kỳ thử nghiệm và tăng chi phí vận hành do cần môi trường cô lập và giám sát bổ sung; đổi lại cải thiện độ tin cậy khi triển khai.
OpenAI cho biết mô hình sắp ra mắt Astra có thể sở hữu năng lực tấn công mạng đáng kể, nên sẽ áp dụng các biện pháp kiểm soát chặt hơn trong giai đoạn phát triển và đánh giá. Các biện pháp này gồm môi trường thử nghiệm cô lập, hạn chế truy cập công cụ và mạng, bảo vệ trọng số mô hình, sandboxing và tăng cường giám sát hành vi rủi ro.
Công ty cũng nói sẽ tạm dừng thử nghiệm nội bộ nếu các kiểm soát này chưa được triển khai đầy đủ, đồng thời đưa ra hướng dẫn cho đối tác đánh giá bên thứ ba khi chạy các bài kiểm tra có rủi ro cao. Một điểm đáng chú ý là OpenAI cho biết sẽ theo dõi Chain of Thought để phát hiện và ngăn chặn các hành động có nguy cơ cao trong giai đoạn tiền phát hành.
Ở chiều ngược lại, Anthropic được cho là đang nới lỏng các cơ chế từ chối của Fable đối với các truy vấn liên quan đến sinh học, phản ánh áp lực cạnh tranh giữa năng lực mô hình và an toàn. Với đội kỹ thuật, thông điệp chính là cần chuẩn bị cho các mô hình AI có khả năng hỗ trợ cả phòng thủ lẫn tấn công, đồng thời duy trì kiểm soát truy cập, giám sát đầu ra và quy trình đánh giá an toàn trước khi đưa vào sử dụng.