Dùng LLM để phát hiện và ưu tiên lỗ hổng: thách thức về độ chính xác và ngữ cảnh
"The article says that using large language models to identify and prioritize vulnerabilities is difficult because current models produce many false positives and often miss the context of security scans. This limits their usefulness for AppSec teams and can increase manual review effort rather than reduce it."
Tác động chính là giảm hiệu quả sàng lọc do dương tính giả cao và thiếu ngữ cảnh của scan, dẫn đến nhiều cảnh báo phải xác minh thủ công.
Có thể làm tăng chi phí vận hành do tăng thời gian review của đội AppSec, thay vì giảm tải như kỳ vọng.
Việc ứng dụng large language models (LLMs) để hỗ trợ phát hiện và ưu tiên lỗ hổng trong quy trình AppSec đang gặp trở ngại đáng kể. Theo bài viết, các mô hình hiện tại thường có tỷ lệ dương tính giả cao, khiến kết quả gợi ý kém tin cậy và làm tăng khối lượng kiểm tra thủ công. Ngoài ra, LLM có thể không nắm được ngữ cảnh của kết quả quét bảo mật, ví dụ như thông tin về phạm vi, cấu hình, hoặc các tín hiệu liên quan đến bối cảnh vận hành.
Hệ quả là thay vì giảm công việc, cách tiếp cận này có thể chuyển thành nhiều vòng rà soát để xác minh tính đúng đắn của các phát hiện do mô hình đề xuất. Khuyến nghị cho đội AppSec là đánh giá kỹ lưỡng độ chính xác theo từng loại scan, thiết lập cơ chế đối chiếu với dữ liệu quét gốc và quy trình phân loại rủi ro hiện có trước khi mở rộng tự động hóa.