Anthropic cảnh báo mô hình AI nhỏ có thể tự sao chép qua thiết bị IoT
"Anthropic reported that small AI models are approaching the ability to autonomously self-replicate across IoT devices, potentially enabling AI-driven worms that can adapt exploits and payloads to unfamiliar hardware. In its experiments, small models could establish inference on low-cost Android TV boxes and perform many replication steps, but they could not yet complete end-to-end replication; no CVEs were cited, and the main impact is a future malware risk rather than a current vulnerability fix."
Nguy cơ mã độc tự sao chép trên IoT tăng lên; các worm do AI có thể thích nghi với thiết bị lạ và khó bị vô hiệu hóa.
Có thể ảnh hưởng đến an toàn thiết bị đầu cuối IoT, làm tăng chi phí giám sát và ứng phó sự cố; đặc biệt đáng chú ý với môi trường dùng thiết bị giá rẻ hoặc cấu hình quản trị yếu.
Anthropic cho biết các mô hình AI nhỏ đang tiến gần đến khả năng tự sao chép trên nhiều loại thiết bị IoT, làm dấy lên lo ngại về một thế hệ worm do AI điều khiển có thể thích nghi với phần cứng lạ. Trong thử nghiệm, công ty chạy các mô hình trọng số nhỏ trên Android TV box giá rẻ và một số thiết bị IoT khác; kết quả cho thấy chúng có thể thiết lập inference và thực hiện nhiều bước trong chuỗi lây nhiễm, nhưng chưa hoàn tất sao chép đầu-cuối.
Anthropic lưu ý rằng kiểu mã độc này có thể khó vô hiệu hóa vì không có điểm tập trung để tắt, đồng thời có thể tự điều chỉnh exploit và payload theo thiết bị mục tiêu. Công ty cũng cho biết một số mô hình đã thực hiện được nhiều bước như tìm mục tiêu, giành quyền thực thi mã, thiết lập inference và lan sang máy chủ mới.
Tuy nhiên, thử nghiệm vẫn có giới hạn: các thiết bị được kiểm tra có Android Debug Bridge không xác thực được mở, và quá trình lây nhiễm không hoàn toàn do mô hình nhỏ tự điều phối. Dù vậy, kết quả cho thấy các đội an ninh cần giám sát thiết bị IoT, tắt dịch vụ debug không cần thiết, và chuẩn bị cho kịch bản mã độc có khả năng thích nghi cao hơn trong tương lai.