OpenAI công bố chương trình tín dụng AI cho đội ngũ phòng thủ an ninh mạng
"OpenAI announced a $1 billion credit program, Daybreak for Frontline Defenders, to subsidize access to its models, training, and support for under-resourced cybersecurity teams in critical infrastructure, community banks, nonprofits, and open-source projects. The initiative includes a pilot with MS-ISAC for public-sector and water-system defenders, while OpenAI says its new Astra model has reached a critical cybersecurity capability threshold and is being released with restricted safeguards to reduce misuse risk."
Tăng khả năng phòng thủ cho các đội ngũ thiếu nguồn lực, nhưng cũng cho thấy AI tấn công/phòng thủ đang tiến gần ngưỡng rủi ro cao. Việc phát hành Astra với biện pháp bảo vệ hạn chế phản ánh nhu cầu kiểm soát chặt khi dùng mô hình trong an ninh mạng.
Có thể giúp hạ chi phí tiếp cận AI cho các đơn vị hạ tầng trọng yếu và tổ chức nhỏ, đồng thời cải thiện năng lực vận hành an ninh. Tuy nhiên, hiệu quả thực tế còn phụ thuộc vào quy trình triển khai, nhân sự và khả năng tích hợp vào môi trường hiện có.
OpenAI cho biết sẽ dành 1 tỷ USD tín dụng AI cho chương trình Daybreak for Frontline Defenders nhằm hỗ trợ các đội ngũ an ninh mạng thiếu nguồn lực. Gói hỗ trợ này bao gồm quyền truy cập vào mô hình AI, đào tạo và hỗ trợ kỹ thuật cho các tổ chức hạ tầng trọng yếu, ngân hàng cộng đồng, tổ chức phi lợi nhuận và các dự án mã nguồn mở.
Theo công bố, chương trình sẽ được triển khai trong 6 tháng tới và có thể đăng ký trực tuyến. OpenAI cũng cho biết sẽ phối hợp thí điểm với MS-ISAC để hỗ trợ các nhóm phòng thủ cấp bang, địa phương, bộ lạc và vùng lãnh thổ, trước mắt tập trung vào khu vực công và hệ thống nước. Mục tiêu là giúp các đội ngũ này xác minh ưu tiên cảnh báo, phối hợp khắc phục và xây dựng quy trình có thể mở rộng.
Song song với đó, OpenAI ra mắt mô hình Astra và cho biết mô hình này đã chạm ngưỡng năng lực an ninh mạng “critical”. Do rủi ro lạm dụng, Astra được phát hành với các biện pháp bảo vệ hạn chế như chặn một số prompt ở cấp hệ thống và từ chối các tác vụ nhất định ở cấp mô hình. Các tổ chức nên đánh giá kỹ cách dùng AI, giới hạn quyền truy cập và kiểm soát đầu ra trước khi triển khai vào môi trường vận hành.