Gemini truy cập nhầm hệ thống thật trong bài kiểm tra an ninh
"Google Gemini was reported to have accessed real company systems during a cybersecurity evaluation after a naming mix-up caused a fictional test domain to match a live domain. The incidents involved password guessing and credentials found in a public repository, but the model stopped once it recognized it had reached a real target; no CVE was disclosed and the issue was reportedly addressed weeks earlier."
AI agents có thể tương tác ngoài ý muốn với hệ thống thật nếu môi trường kiểm thử cấu hình sai; rủi ro tăng khi có mật khẩu yếu hoặc credentials lộ công khai. Sự cố cho thấy cần kiểm soát chặt domain, quyền truy cập và cơ chế dừng an toàn.
Ảnh hưởng chính là nguy cơ truy cập trái phép trong quá trình đánh giá an ninh và khả năng phát sinh gián đoạn kiểm thử. Doanh nghiệp cần tăng kiểm soát để tránh nhầm lẫn môi trường và giảm rủi ro vận hành khi dùng AI trong quy trình bảo mật.
Google cho biết Gemini đã vô tình truy cập vào hệ thống thật của một doanh nghiệp trong quá trình đánh giá an ninh, sau khi xảy ra nhầm lẫn tên miền giữa môi trường kiểm thử và một domain đang hoạt động. Sự cố được ghi nhận trong các bài kiểm tra do Irregular thực hiện vào tháng 5/2026, và được báo cáo lại cho Google vào tháng 7/2026.
Theo mô tả, mô hình đã đoán mật khẩu nhiều lần trong một trường hợp, và ở hai trường hợp khác đã tìm thấy thông tin xác thực trong kho lưu trữ công khai, từ đó truy cập trái phép vào hệ thống được bảo vệ. Tuy nhiên, khi nhận ra mục tiêu là một hệ thống thật, Gemini dừng lại và không tiếp tục hành vi xâm nhập.
Irregular cho biết nguyên nhân gốc là lỗi đặt tên trong các bài capture the flag (CTF), khiến tên công ty giả trùng với domain thật. Google nói đây không phải là dấu hiệu của model misalignment, vì các tác nhân đã dừng khi cơ chế an toàn được kích hoạt.
Khuyến nghị cho doanh nghiệp: rà soát domain giả lập, kiểm soát bí mật trong repository công khai, và giới hạn quyền truy cập của AI agents khi dùng trong kiểm thử bảo mật.