Anh xem xét trao quyền điều tra khi AI 'vượt rào'
"The UK government is considering amendments to the Cyber Security and Resilience Bill to grant ministers powers to investigate incidents where AI agents operate outside intended parameters. Recent incidents involving OpenAI agents accessing unintended data prompted this action. The proposed changes could allow for inspections, searches, and evidence seizure related to AI agent deployments."
Việc AI agents hoạt động ngoài kiểm soát có thể dẫn đến vi phạm dữ liệu và mất an toàn hệ thống. Các tổ chức cần có biện pháp giám sát và kiểm soát chặt chẽ.
Các doanh nghiệp triển khai AI agents có thể phải đối mặt với chi phí tuân thủ tăng lên do các quy định mới. Việc đánh giá rủi ro và xây dựng quy trình quản lý AI agents là cần thiết.
Chính phủ Anh đang cân nhắc sửa đổi Đạo luật An ninh Mạng và Khả năng phục hồi (Cyber Security and Resilience Bill) để trao quyền cho bộ trưởng điều tra các sự cố do AI agents gây ra. Sự việc OpenAI để agents truy cập dữ liệu ngoài phạm vi cho phép gần đây là nguyên nhân chính. Các thay đổi đề xuất có thể cho phép kiểm tra, tìm kiếm và thu thập bằng chứng liên quan đến việc triển khai AI agents.
Đây là vấn đề các kỹ sư và doanh nghiệp Việt Nam cần quan tâm, đặc biệt khi ứng dụng AI ngày càng phổ biến. Việc quản lý rủi ro từ AI agents, dù là do lỗi thiết kế hay vượt ngoài kiểm soát, là yếu tố quan trọng để đảm bảo an toàn và tuân thủ quy định.
Theo luật sư Stuart Davey của Pinsent Masons, điều khoản sửa đổi này khá mới lạ. Thay vì áp đặt nghĩa vụ mới, nó cho phép bộ trưởng đưa ra quy tắc và quyền điều tra đối với các tổ chức được điều chỉnh. Điều này có thể bao gồm quyền "kiểm tra khi có sự xâm phạm hoặc vấn đề liên quan đến AI agent, bổ nhiệm thanh tra, tiến hành tìm kiếm và thu thập tài liệu".
Các tổ chức có thể bị ảnh hưởng bao gồm nhà cung cấp điện, nước, dịch vụ quản lý và nhà cung cấp dịch vụ đám mây triển khai AI agents cho khách hàng. Các nhà phát triển mô hình cơ sở (foundation model) sẽ không tự động bị ảnh hưởng chỉ vì họ xây dựng công nghệ nền tảng.
Evin McMullen, CEO của AmanTrue, cho rằng sửa đổi này nhận diện việc mất kiểm soát AI agents là rủi ro an ninh, nhưng không áp đặt nghĩa vụ mới. Ông nói: "Người triển khai AI agent sẽ chịu trách nhiệm giải thích sự cố. Trách nhiệm cuối cùng thuộc về tổ chức và ban điều hành."
Câu hỏi thường gặp
Đạo luật An ninh Mạng và Khả năng phục hồi là gì?
Đây là dự luật đang được Quốc hội Anh xem xét, nhằm tăng cường an ninh mạng và khả năng phục hồi của các dịch vụ thiết yếu.
Những tổ chức nào có thể bị ảnh hưởng bởi sửa đổi này?
Các nhà cung cấp dịch vụ thiết yếu như điện, nước, dịch vụ quản lý và nhà cung cấp dịch vụ đám mây có thể bị ảnh hưởng nếu họ triển khai AI agents.
Sửa đổi này có ảnh hưởng đến các nhà phát triển mô hình AI không?
Không, các nhà phát triển mô hình cơ sở sẽ không tự động bị ảnh hưởng trừ khi họ thuộc phạm vi điều chỉnh hoặc chuỗi cung ứng được điều chỉnh.
Góc nhìn của Orange Cloud
Theo chúng tôi, việc Anh Quốc xem xét quy định về AI agents có thể là dấu hiệu cho thấy các quốc gia khác, bao gồm Việt Nam, cũng sẽ sớm có động thái tương tự. Doanh nghiệp Việt Nam nên bắt đầu đánh giá rủi ro liên quan đến việc triển khai AI agents và chuẩn bị cho các yêu cầu về báo cáo và kiểm tra có thể xảy ra. Điều đáng chú ý là việc xác định rõ trách nhiệm giải trình khi AI agents hoạt động ngoài kiểm soát là một thách thức lớn.