Nghiên cứu: 282 ứng dụng chatbot AI iOS rò rỉ khóa API và cho phép truy cập proxy
"Researchers analyzed 444 iOS AI chatbot apps and found 282 exposed paid AI access in network traffic through plaintext API keys, reusable/replayable tokens, or open backend relays with no authentication. The issue affected multiple AI providers, including OpenAI, and could enable unauthorized model usage billed to developers; after disclosure, only 28% of developers had clearly fixed the problem within three months."
Rủi ro cao do rò rỉ bí mật xác thực qua traffic cho phép LLMjacking và phát sinh chi phí ngoài ý muốn; điểm đáng chú ý gồm plaintext API keys, token replayable, và proxy relay không xác thực.
Tác động vận hành đáng kể vì chi phí AI có thể tăng do bị lạm dụng; nghiên cứu nêu kịch bản xấu có thể vượt $46.000/ngày và tỷ lệ khắc phục sau 3 tháng chỉ đạt 28%.
Một nghiên cứu của các nhà nghiên cứu từ Wake Forest University đã phân tích 444 ứng dụng chatbot AI trên iPhone và phát hiện 282 ứng dụng (gần hai phần ba) phơi bày quyền truy cập dịch vụ AI trả phí thông qua lưu lượng mạng. Vấn đề thường lộ ra chỉ bằng cách quan sát dữ liệu ứng dụng gửi đi: khóa API dạng plaintext, token có thể tái sử dụng/replayable, hoặc một backend relay chấp nhận yêu cầu mà không cần xác thực.
Hệ quả là bên thứ ba có thể gửi yêu cầu mô hình bằng tài khoản của nhà phát triển, khiến nhà phát triển phải chịu chi phí. Sau khi được thông báo, chỉ 28% nhà phát triển khẳng định đã khắc phục trong vòng ba tháng; thêm 23% vẫn còn hoạt động.
Nghiên cứu sử dụng công cụ LLMKeyLens để theo dõi luồng traffic và trích xuất thông tin xác thực mà không cần jailbreak hay giải mã ứng dụng. Một số trường hợp còn làm lộ system prompt nội bộ.
Khuyến nghị: không nhúng khóa vào ứng dụng, chuyển lệnh AI qua server do bạn kiểm soát, áp xác thực cho người gọi và thu hồi ngay các khóa/tokens đã rò rỉ. Các nhà nghiên cứu cũng đề xuất nhà cung cấp AI gắn nhãn khóa phía client là rủi ro và theo dõi việc khóa bị dùng bất thường.