AI gợi ý gói phần mềm đáng ngờ, suýt gây rủi ro chuỗi cung ứng
"An engineer asked an AI agent to recommend a software package and received a plausible-looking package name that turned out to be suspicious. The company avoided a potential supply-chain compromise by verifying the package on GitHub, where they found low download counts and a very recent creation date; the article warns this is consistent with 'slopsquatting,' where attackers register packages matching AI-hallucinated names."
Nguy cơ chuỗi cung ứng phần mềm và cài đặt mã độc nếu tin vào tên gói do AI tạo ra; có thể dẫn tới backdoor hoặc rò rỉ dữ liệu.
Có thể gây gián đoạn phát triển, tăng chi phí rà soát và tạo rủi ro sự cố an ninh nếu quy trình kiểm tra gói phần mềm không chặt chẽ.
Một kỹ sư đã hỏi AI agent để đề xuất một gói phần mềm cho tác vụ thông thường và nhận được một tên gói nghe có vẻ hợp lý. Tuy nhiên, khi kiểm tra lại trên GitHub, nhóm phát hiện gói này có ít lượt tải xuống và mới được tạo vài ngày trước, nên bị xem là đáng ngờ.
Sự việc cho thấy rủi ro của slopsquatting: mô hình AI có thể bịa ra tên gói nghe giống thật, sau đó kẻ tấn công đăng ký đúng tên đó để chờ người dùng cài đặt nhầm. Nếu không có bước xác minh thủ công, tổ chức có thể vô tình cài gói mã độc, mở đường cho backdoor, đánh cắp dữ liệu hoặc gây gián đoạn hệ thống.
Khuyến nghị kỹ thuật là duy trì quy trình xác minh nguồn gốc gói phần mềm trước khi cài đặt, đặc biệt với đề xuất từ AI. Cần kiểm tra lịch sử dự án, số lượt tải, thời điểm tạo repository, và rà soát mã nguồn hoặc nguồn phát hành chính thức. Với môi trường doanh nghiệp, nên yêu cầu human-in-the-loop cho mọi thành phần bên ngoài được đưa vào chuỗi cung ứng phần mềm.