_Techa_Tungateja_Alamy.png%3Fwidth%3D720%26quality%3D80%26disable%3Dupscale&v=2&w=800)
Tin tặc dùng kỹ thuật jailbreak để biến mô hình AI thành nền tảng tấn công
"A Russian-speaking actor known as "Trim" reportedly dismantled publicly available frontier AI models and combined them with offensive security tooling to create an attack platform. The content does not mention any CVE, specific vulnerability, or remediation; it describes misuse of AI models for offensive operations."
Tác động bảo mật chủ yếu đến từ việc lạm dụng mô hình AI và jailbreak để hỗ trợ hoạt động tấn công; không có thông tin về CVE hay lỗ hổng cụ thể, nên cần tập trung vào kiểm soát sử dụng và giám sát hành vi.
Nguy cơ gia tăng về tấn công có hỗ trợ AI có thể làm tăng chi phí ứng phó và thời gian điều tra sự cố; tác động trực tiếp phụ thuộc vào mức độ tổ chức sử dụng AI trong quy trình nội bộ.
Một tác nhân nói tiếng Nga được biết đến với tên “Trim” được cho là đã dỡ bỏ/giải cấu trúc các mô hình AI “frontier” được công bố công khai và tích hợp chúng với các công cụ phục vụ offensive security nhằm tạo thành một nền tảng tấn công. Theo mô tả hiện có, trọng tâm của hoạt động là việc lạm dụng mô hình AI thông qua các kỹ thuật jailbreak để vượt qua ràng buộc an toàn, từ đó hỗ trợ các tác vụ mang tính công kích.
Bài viết không nêu CVE, không chỉ rõ lỗ hổng cụ thể trong phần mềm hay hạ tầng, và cũng không đưa ra hướng dẫn khắc phục. Tuy vậy, rủi ro chính nằm ở khả năng kẻ xấu kết hợp mô hình AI với chuỗi công cụ tấn công để tăng tốc quy trình thử nghiệm và triển khai.
Khuyến nghị cho tổ chức: rà soát chính sách sử dụng AI, siết kiểm soát truy cập và giới hạn quyền cho các hệ thống/đầu vào liên quan đến mô hình; áp dụng cơ chế giám sát để phát hiện dấu hiệu prompt injection/jailbreak; và đánh giá lại quy trình kiểm thử an toàn cho các mô hình AI trước khi đưa vào vận hành.