Cách bảo mật đối phó với 'wild code' (mã nguồn tự phát)
"The article discusses the security risks associated with 'wild code' – rapidly developed AI-assisted workflows and applications created by employees. These can lead to excessive permissions, sensitive data exposure, and unintended actions. The article argues that education, sandboxes, and committees alone are insufficient and advocates for embedding security controls directly into the development and runtime environment."
Rủi ro lộ dữ liệu nhạy cảm và mất kiểm soát truy cập có thể dẫn đến vi phạm bảo mật nghiêm trọng. Việc thiếu khả năng theo dõi hoạt động của 'wild code' gây khó khăn cho việc điều tra sự cố.
Việc triển khai 'wild code' không được kiểm soát có thể gây ra gián đoạn hoạt động và tổn thất tài chính do các hành động ngoài ý muốn hoặc vi phạm dữ liệu. Năng suất có thể tăng, nhưng đi kèm rủi ro bảo mật.
Cloudflare cho biết nhân viên đang tự tạo các workflow và ứng dụng AI nhanh hơn quy trình hiện tại có thể kiểm soát. Điều này tạo ra rủi ro về quyền truy cập quá mức, lộ dữ liệu nhạy cảm và hành động ngoài ý muốn.
'Wild code' (mã nguồn tự phát) xuất hiện khi các ứng dụng hữu ích lan rộng nhanh hơn quá trình quản lý, bảo mật và duy trì chúng. Đây không đơn thuần là phần mềm trái phép; nhân viên đang tạo ra khả năng mới, không chỉ sử dụng sản phẩm có sẵn. Một thử nghiệm nhỏ có thể trở thành phụ thuộc vận hành trước khi bộ phận bảo mật biết đến sự tồn tại của nó.
Rủi ro không chỉ nằm ở lỗ hổng trong mã được tạo ra. Ngay cả mã hoạt động đúng như dự kiến cũng có thể hoạt động với quyền truy cập quá lớn hoặc lộ dữ liệu cho đối tượng sai:
* Quyền truy cập quá mức: Workflow chỉ cần một tập hợp nhỏ các bản ghi nhưng lại chạy với quyền có thể đọc hoặc sửa đổi nhiều hơn. * Lộ dữ liệu nhạy cảm: Nhân viên kết nối agent với thông tin không cần thiết, hoặc chia sẻ kết quả ra quá rộng. Thông tin nhạy cảm cũng có thể xuất hiện trong yêu cầu hoặc nhật ký mô hình. * Hành động ngoài ý muốn: Agent có thể thay đổi bản ghi hoặc quyền mà không có ranh giới phê duyệt phù hợp. * Mất quyền sở hữu: Workflow hữu ích tiếp tục chạy sau khi người tạo thay đổi vai trò hoặc rời đi, không có ai rõ ràng xem xét quyền. * Thiếu thông tin điều tra: Khi có sự cố, bộ phận bảo mật không thể dễ dàng xác định ai đã chạy workflow, truy cập vào đâu hoặc thay đổi gì.
Giáo dục nhân viên, sandbox (môi trường thử nghiệm) và ủy ban chỉ đạo AI là khởi đầu tốt, nhưng không đủ để kiểm soát 'wild code'. Cách tiếp cận bền vững hơn là xây dựng các biện pháp kiểm soát trực tiếp vào môi trường phát triển và runtime (thời gian chạy).
Tại sao các biện pháp khắc phục thông thường không hiệu quả
Giáo dục, sandbox và ủy ban đều có vai trò. Sai lầm là mong đợi chúng kiểm soát phần mềm mà họ có thể không bao giờ gặp, hoặc kiểm soát những gì xảy ra sau khi nó bắt đầu chạy. Chính sách mô tả điều gì nên xảy ra. Bảo mật cũng cần các biện pháp kiểm soát hạn chế những gì có thể xảy ra, bằng chứng về những gì đã xảy ra và cách can thiệp.
1. Giáo dục giải thích thực hành tốt, nhưng không thể thực thi
Chính sách AI có thể giải thích điều gì được phép. Đào tạo có thể giới thiệu các thực hành tốt. Cả hai đều không đảm bảo rằng người xây dựng workflow báo cáo sẽ nhận ra khi nào họ vượt qua ranh giới xử lý dữ liệu nhạy cảm hoặc vận hành phần mềm sản xuất.
2. Sandbox bảo vệ thử nghiệm, không phải toàn bộ tương lai
Môi trường cô lập hữu ích để thử nghiệm prompt, mô hình và mã được tạo ra. Nhưng giá trị của nguyên mẫu thường phụ thuộc vào việc cuối cùng kết nối với hệ thống và dữ liệu kinh doanh thực tế.
3. Ủy ban không thể xem xét những gì họ không thấy
Ủy ban chỉ đạo có thể đặt ra hướng đi, thiết lập trách nhiệm giải trình và đưa ra quyết định về các trường hợp sử dụng rủi ro cao. Nhưng chu kỳ xem xét của họ không phải lúc nào cũng phù hợp với tốc độ nhân viên có thể tạo và triển khai phần mềm.
Câu hỏi thường gặp
'Wild code' khác gì so với phần mềm trái phép?
'Wild code' là các ứng dụng và workflow do nhân viên tự tạo, thường sử dụng AI, trong khi phần mềm trái phép là phần mềm không được phê duyệt. 'Wild code' tập trung vào việc tạo ra khả năng mới, không chỉ sử dụng sản phẩm hiện có.
Những rủi ro chính của 'wild code' là gì?
Các rủi ro bao gồm quyền truy cập quá mức, lộ dữ liệu nhạy cảm, hành động ngoài ý muốn, mất quyền sở hữu và thiếu thông tin điều tra khi có sự cố xảy ra. Các ứng dụng này có thể hoạt động với quyền hạn không phù hợp hoặc truy cập dữ liệu không cần thiết.
Sandbox có thể giải quyết vấn đề 'wild code' không?
Sandbox hữu ích cho thử nghiệm, nhưng không đủ để kiểm soát 'wild code' trong môi trường sản xuất. Các biện pháp kiểm soát cần phải mở rộng ra ngoài môi trường thử nghiệm và duy trì trong suốt vòng đời của ứng dụng.
Góc nhìn của Orange Cloud
Theo chúng tôi, việc tự động hóa quy trình kiểm soát quyền truy cập và giám sát hoạt động của các ứng dụng AI tự phát là quan trọng. Các doanh nghiệp Việt Nam nên xem xét các giải pháp quản lý quyền truy cập dựa trên vai trò (RBAC) và các công cụ giám sát runtime. Điều đáng chú ý là việc chờ đợi một giải pháp hoàn hảo có thể khiến doanh nghiệp bỏ lỡ cơ hội tận dụng AI, đồng thời tăng rủi ro bảo mật.