Ra mắt liên minh AI red teaming toàn cầu EXTRA để tăng cường đánh giá an toàn
"Microsoft announced the External Red Team Alliance (EXTRA), a global extension of its AI Red Team aimed at improving AI safety and security testing through external academic and specialist participation. The initiative funds unrestricted research grants to 18 university labs across six continents and builds a distributed network of experts to evaluate frontier AI risks, multilingual harms, misuse scenarios, and cybersecurity implications; no CVE is associated with this research announcement."
Tác động bảo mật ở mức cao nhờ mở rộng năng lực kiểm thử bên ngoài và bao phủ các rủi ro thực tế đa ngôn ngữ. Điểm then chốt: multilingual harms, misuse scenarios, và cybersecurity implications.
Tác động vận hành ở mức trung bình do chủ yếu là hoạt động nghiên cứu/đánh giá, nhưng có thể cải thiện độ tin cậy khi triển khai mô hình AI. Điểm then chốt: AI safety assessments và phương pháp kiểm thử độc lập.
Microsoft công bố External Red Team Alliance (EXTRA), một chương trình mở rộng toàn cầu cho hoạt động AI Red Team nhằm cải thiện AI safety và security testing thông qua sự tham gia của các tổ chức học thuật và chuyên gia bên ngoài. Theo thông tin công bố, EXTRA sẽ cấp unrestricted research grants cho 18 phòng thí nghiệm tại 6 châu lục, tập trung phát triển các AI safety assessments mà không ràng buộc theo yêu cầu sản phẩm định sẵn; không có CVE nào gắn với thông báo nghiên cứu này.
EXTRA gồm hai trụ cột. Thứ nhất là mạng lưới học thuật toàn cầu để thúc đẩy nghiên cứu về an toàn và bảo mật AI. Thứ hai là hợp tác vận hành, xây dựng mạng lưới chuyên gia phân tán để tham gia red teaming ở các mảng cần hiểu biết sâu như attack classes, bối cảnh ngôn ngữ/văn hóa và các miền kỹ thuật mà đội nội bộ có thể không bao phủ đầy đủ.
Về phạm vi nghiên cứu, chương trình nhấn mạnh các rủi ro liên quan đến misuse scenarios, multilingual harms, alignment failures và cybersecurity implications. Khuyến nghị cho doanh nghiệp: tăng cường quy trình đánh giá độc lập, mở rộng kiểm thử theo bối cảnh ngôn ngữ/khu vực, và tích hợp kết quả red teaming vào quản trị rủi ro AI theo vòng đời triển khai.