OpenAI tạm dừng một số hoạt động nội bộ với mô hình Astra do đánh giá an ninh mạng
"OpenAI said it is pausing some internal activities involving its upcoming model Astra after evaluations suggested it may have "Critical" cyber capabilities, including advanced agentic coding and potential zero-day exploit development. The company is adding stronger security controls such as isolated testing, restricted network/tool access, enhanced monitoring, sandboxing, and weight protections while coordinating with government and safety organizations; no CVE is mentioned."
Rủi ro liên quan đến năng lực tấn công mạng tự động và khả năng phát triển zero-day exploit; cần tăng cường kiểm thử cô lập và giám sát hành vi trước khi triển khai.
Có thể làm chậm lộ trình thử nghiệm và phát hành, đồng thời tăng chi phí cho kiểm soát an toàn và hạ tầng sandbox; đổi lại giảm nguy cơ sự cố bảo mật.
OpenAI cho biết đã tạm dừng một số hoạt động nội bộ liên quan đến mô hình AI sắp ra mắt Astra sau khi đánh giá cho thấy mô hình này có tiến bộ đáng kể trong agentic coding và an ninh mạng. Theo công ty, các thử nghiệm ban đầu cho thấy Astra có thể đạt mức năng lực đủ mạnh để không loại trừ khả năng thuộc ngưỡng “Critical” cyber capabilities theo Preparedness Framework.
Để giảm rủi ro, OpenAI đang áp dụng thêm các biện pháp như môi trường kiểm thử cô lập, hạn chế truy cập mạng và công cụ, giám sát tăng cường, sandboxing và bảo vệ trọng số mô hình. Công ty cũng cho biết sẽ phối hợp với cơ quan chính phủ và một số tổ chức an toàn AI để kiểm thử các năng lực của mô hình trong điều kiện kiểm soát chặt hơn.
OpenAI nhấn mạnh mục tiêu là giúp các mô hình có năng lực phòng thủ hỗ trợ phát hiện và khắc phục lỗ hổng trước khi bị khai thác. Với đội ngũ kỹ thuật doanh nghiệp, cần theo dõi các khuyến nghị về kiểm soát truy cập, giám sát hành vi tác nhân, và đánh giá rủi ro khi triển khai mô hình có khả năng tự động hóa cao.