AI tự động bị lạm dụng để thu thập hàng nghìn thông tin xác thực
"Google Threat Intelligence Group reported that a financially motivated threat actor used an autonomous, multi-agent AI attack framework to run a credential-harvesting campaign in under six hours, compromising thousands of third-party credentials. The activity also reflects broader abuse of AI tools for supply-chain compromise, cloud intrusion, and automated offensive operations; no specific CVE was cited, and the main mitigation is stronger protection of AI coding tools, cloud credentials, and CI/CD environments."
Rủi ro cao do tự động hóa tấn công làm tăng tốc độ và quy mô xâm nhập, đồng thời mở rộng bề mặt tấn công vào cloud, CI/CD và AI tools.
Có thể gây rò rỉ credential, gián đoạn vận hành và tăng nguy cơ xâm nhập chuỗi cung ứng; tác động đáng kể đến đội phát triển và hạ tầng cloud.
Google Threat Intelligence Group (GTIG) cho biết một tác nhân đe dọa vì mục tiêu tài chính đã dùng khung tấn công đa tác tử AI để triển khai chiến dịch thu thập thông tin xác thực quy mô lớn trong dưới 6 giờ, làm lộ hàng nghìn credential của bên thứ ba.
Theo GTIG, xu hướng này phản ánh việc đối tượng tấn công đang khai thác AI tạo sinh, công cụ hỗ trợ lập trình và môi trường cloud để tăng tốc các hoạt động như xâm nhập chuỗi cung ứng, đánh cắp dữ liệu và vận hành hạ tầng trái phép. Một số chiến dịch còn nhắm vào AI coding assistants, công cụ quét bảo mật LLM và các kho phần mềm như PyPI, npm và Docker Hub.
Google cũng ghi nhận việc lạm dụng prompt injection, poisoning workspace và các kỹ thuật tự động hóa để né phát hiện trong CI/CD pipelines. Không có CVE cụ thể nào được nêu.
Khuyến nghị cho doanh nghiệp là siết chặt bảo vệ tài khoản cloud, khóa API, công cụ AI hỗ trợ lập trình, quyền truy cập CI/CD, đồng thời giám sát bất thường trong chuỗi cung ứng phần mềm và luồng xác thực.