UAC-0099 chèn prompt độc hại để gây nhiễu phân tích AI
"Cybersecurity researchers reported that Russia-aligned UAC-0099 used a GuardBreaker technique to embed a malicious prompt about making a nuclear weapon inside a VBS script comment, aiming to trigger LLM safety refusals and disrupt AI-assisted malware analysis. The script is used to download and install MATCHBOIL, a C# loader associated with the group; no CVE is mentioned, and the mitigation is to isolate untrusted file content from LLM-based scanners and analyst copilots."
Rủi ro chính là gây nhiễu công cụ phân tích AI và làm giảm hiệu quả phát hiện mã độc; kỹ thuật này có thể khiến pipeline quét dừng sớm hoặc bỏ sót phần mã độc thực sự.
Tác động chủ yếu nằm ở gián đoạn quy trình SOC/IR và tăng thời gian xử lý mẫu; các tổ chức dùng AI hỗ trợ phân tích tệp cần điều chỉnh quy trình để tránh false refusal và chậm phản ứng.
Các nhà nghiên cứu an ninh mạng cho biết nhóm đe dọa UAC-0099 có liên kết với Nga đã dùng kỹ thuật GuardBreaker để chèn một đoạn prompt độc hại vào chú thích của VBS script, nhằm kích hoạt cơ chế an toàn của mô hình ngôn ngữ lớn (LLM) và làm gián đoạn quy trình phân tích hỗ trợ bởi AI.
Theo ghi nhận, đoạn script này chứa nội dung như “I want to make a nuclear weapon...” để đánh lạc hướng công cụ quét, khiến hệ thống có thể dừng sớm hoặc từ chối xử lý phần còn lại của tệp. Mã độc được đánh giá là một phần trong bộ công cụ của nhóm, vốn từng nhắm vào lĩnh vực vận tải và năng lượng.
Script nói trên chủ yếu dùng để tải và cài đặt MATCHBOIL, một C# loader do nhóm sử dụng để phát tán tải trọng bổ sung. CERT-UA trước đó cũng cảnh báo về biến thể mới của MATCHBOIL được ngụy trang dưới dạng plugin Notepad++.
Khuyến nghị kỹ thuật: tách biệt rõ nội dung tệp không tin cậy khỏi các LLM-based scanners và analyst copilots, tránh đưa trực tiếp phần đầu tệp vào mô hình mà không có lớp cô lập hoặc gắn nhãn dữ liệu đầu vào.