Anthropic công bố nghiên cứu về nguy cơ AI tự sao chép trên thiết bị IoT
"Anthropic published research claiming that future small AI models could enable self-replicating worms or botnets across vulnerable IoT and Android-based devices, with experiments showing distributed inference on cheap hardware and propagation of a model across cloud instances. The article argues the threat is speculative and heavily constrained by assumptions, custom test environments, and lack of demonstrated real-world exploitability; no CVE is cited and no specific fix is described beyond general security hygiene and mitigation awareness."
Nguy cơ được nêu chủ yếu là tự sao chép và lan truyền trên IoT/Android, nhưng hiện vẫn ở mức giả thuyết nghiên cứu; chưa có CVE hay khai thác thực tế được chứng minh.
Tác động trước mắt là nâng mức cảnh giác với thiết bị biên và IoT; doanh nghiệp cần chuẩn bị cho giám sát, vá lỗi và phân đoạn mạng để giảm rủi ro vận hành.
Anthropic đã công bố một nghiên cứu cho rằng các mô hình AI nhỏ trong tương lai có thể hỗ trợ worm tự sao chép hoặc botnet trên thiết bị IoT và Android dễ tổn thương. Trong thử nghiệm, hãng cho biết một mô hình 9 tỷ tham số có thể thiết lập suy luận phân tán trên 8/9 loại phần cứng được kiểm tra, và một mô hình khác có thể lan truyền bản sao của Llama3.1-8B qua 8 phiên bản Google Cloud chạy Android 15 emulator.
Tuy nhiên, kết quả này chủ yếu dựa trên môi trường thử nghiệm tùy biến và các giả định mạnh về khả năng khai thác, nên chưa chứng minh được mức độ khả thi trong thực tế. Bài nghiên cứu cũng thừa nhận đã lược bỏ phần khai thác lỗ hổng, vì cho rằng các mô hình nhỏ đã có thể thực hiện một số bước tấn công khi được cung cấp công cụ phù hợp.
Về mặt vận hành, Anthropic ước tính loại worm này có thể mất vài ngày để nhân đôi, chậm hơn nhiều so với Mirai. Điều đó cho thấy việc phát hiện vẫn có thể dựa vào giám sát lưu lượng, vá lỗi thiết bị, giảm bề mặt tấn công và kiểm soát truy cập thay vì chỉ tập trung vào AI.
Khuyến nghị cho đội kỹ thuật là rà soát các thiết bị IoT/Android TV box, tắt dịch vụ không cần thiết, cập nhật firmware và theo dõi dấu hiệu kết nối bất thường hoặc lan truyền ngang trong mạng nội bộ.