OWASP cảnh báo rủi ro tiêu thụ tài nguyên không giới hạn trong ứng dụng AI
"The content highlights the risk of unbounded consumption in AI/LLM applications, where AI agents can trigger excessive resource usage and lead to runaway enterprise costs. It references OWASP's Top 10 for LLM Applications, where this issue is currently ranked sixth, but does not mention any specific CVE or a concrete fix."
Rủi ro tiêu thụ tài nguyên không giới hạn có thể làm tăng bề mặt tấn công và gây lạm dụng dịch vụ; chưa có CVE cụ thể nhưng cần kiểm soát chặt hành vi của AI agents.
Có thể gây chi phí vận hành tăng đột biến và làm giảm khả năng dự báo ngân sách; cần áp dụng quota và giám sát sử dụng để hạn chế tác động.
OWASP hiện xếp unbounded consumption ở vị trí thứ 6 trong Top 10 for LLM Applications, cho thấy đây là một rủi ro đáng chú ý với các hệ thống AI/LLM trong doanh nghiệp. Vấn đề này xảy ra khi AI agents hoặc ứng dụng sinh ngôn ngữ có thể tạo ra mức sử dụng tài nguyên vượt kiểm soát, dẫn đến chi phí tăng nhanh ngoài dự kiến.
Tác động chính không nằm ở một CVE cụ thể mà ở khả năng phát sinh chi phí vận hành lớn do gọi mô hình quá mức, tiêu thụ token cao, hoặc lặp tác vụ không được giới hạn. Với các môi trường triển khai quy mô lớn, rủi ro này có thể ảnh hưởng trực tiếp đến ngân sách và khả năng dự báo chi phí.
Khuyến nghị kỹ thuật là thiết lập giới hạn sử dụng, theo dõi quota/token, áp dụng rate limiting, và giám sát hành vi của AI agents để phát hiện vòng lặp hoặc truy vấn bất thường. Do đây là rủi ro thiết kế và vận hành, doanh nghiệp nên đưa kiểm soát chi phí vào quy trình đánh giá bảo mật và quản trị mô hình ngay từ đầu.