Nghị sĩ Anh muốn cơ quan giám sát AI có quyền dừng mô hình nguy hiểm
"UK Members of Parliament are proposing an 'AI Safety and Security Bill' to establish a watchdog with the authority to halt the development, testing, or deployment of potentially dangerous AI models. This stems from concerns that self-regulation by companies like OpenAI and Anthropic is insufficient, and that independent oversight is needed to address safety gaps and ensure responsible AI development. The proposal includes mandatory incident reporting, independent testing access, and whistleblower protections."
Đề xuất này có thể tăng cường an toàn cho các hệ thống AI bằng cách yêu cầu giám sát độc lập và báo cáo sự cố bắt buộc. Điều này đặc biệt quan trọng trong bối cảnh các mô hình AI ngày càng mạnh mẽ và phức tạp.
Các doanh nghiệp phát triển hoặc sử dụng AI có thể phải đối mặt với chi phí tuân thủ cao hơn và thời gian phát triển kéo dài. Tuy nhiên, các quy định rõ ràng hơn cũng có thể tạo ra sự tin tưởng và khuyến khích việc áp dụng AI rộng rãi hơn.
Các nghị sĩ Anh đề xuất 'Đạo luật An toàn và Bảo mật AI' để thành lập cơ quan giám sát, có quyền tạm dừng phát triển, thử nghiệm hoặc triển khai các mô hình AI tiềm ẩn nguy hiểm. Động thái này xuất phát từ lo ngại rằng việc tự điều chỉnh của các công ty như OpenAI và Anthropic là chưa đủ, và cần có sự giám sát độc lập để giải quyết các lỗ hổng an toàn và đảm bảo phát triển AI có trách nhiệm.
Đề xuất bao gồm báo cáo sự cố bắt buộc, quyền truy cập thử nghiệm độc lập và bảo vệ người tố giác. Các mô hình LLM (Large Language Models - Mô hình ngôn ngữ lớn) được huấn luyện trên hàng tỷ tham số, do đó các nhà phát triển không phải lúc nào cũng dự đoán được hành vi của mô hình trong mọi tình huống.
Ủy ban Kinh doanh, Đổi mới, Khoa học và Thương mại của Quốc hội Anh đã phỏng vấn các nhà nghiên cứu, cựu nhân viên AI và đại diện từ OpenAI, Google DeepMind, Anthropic và Meta. Cả bốn công ty đều cam kết không phát hành các mô hình mà họ cho là không an toàn. Tuy nhiên, họ sử dụng các tiêu chí an toàn khác nhau, và luật pháp Anh Quốc thường không yêu cầu họ phải có ý kiến độc lập trước khi phát hành bất cứ thứ gì.
Chủ tịch ủy ban Liam Byrne MP cho biết: “Chúng ta không thể trao cho các nhà lãnh đạo AI ngày nay quyền tự do vô hạn để hành động như các Tiến sĩ Frankenstein thời hiện đại, tạo ra những nguy hiểm vượt quá tầm kiểm soát của bất kỳ ai.” Ông nhấn mạnh rằng, tương tự như hàng không, dược phẩm hoặc an toàn hạt nhân, chính phủ Anh Quốc không nên chỉ dựa vào sự đảm bảo của nhà sản xuất.
Báo cáo của ủy ban, 'Guardrails for Growth: Making AI Safe', xác định mười lỗ hổng trong cách tiếp cận an toàn AI của Anh Quốc, bao gồm thiếu báo cáo sự cố bắt buộc, quyền truy cập hạn chế cho người kiểm tra độc lập và bảo vệ không đầy đủ cho người tố giác. Viện An toàn AI (AISI) của Anh Quốc đã kiểm tra một số mô hình mạnh mẽ nhất thế giới, nhưng công việc của viện này phụ thuộc vào sự hợp tác tự nguyện và không có quyền ngăn chặn một công ty phát hành một mô hình gây lo ngại về an toàn.
Các nghị sĩ muốn AISI tiếp tục công việc kiểm tra trong khi một cơ quan quản lý riêng biệt chịu trách nhiệm thực thi. Các nhà phát triển hệ thống rủi ro cao được chỉ định sẽ phải cung cấp bằng chứng hỗ trợ tuyên bố an toàn của họ và cho phép các nhà nghiên cứu độc lập kiểm tra chúng. Những thay đổi đáng kể đối với khả năng hoặc biện pháp bảo vệ của mô hình sẽ kích hoạt thêm sự giám sát.
Các cựu nhân viên AI cũng cho biết việc nêu ra lo ngại về an toàn có thể phải trả giá. Các hợp đồng hạn chế, áp lực thương mại và các ưu đãi tài chính bất lợi có thể ngăn cản nhân viên lên tiếng. Các nghị sĩ muốn có các biện pháp bảo vệ pháp lý mạnh mẽ hơn cho người tố giác và báo cáo bắt buộc về các sự cố và tình huống suýt xảy ra liên quan đến AI.
Ủy ban ước tính rằng AI có thể làm tăng quy mô nền kinh tế Anh lên đến 400 tỷ bảng trong thập kỷ tới. Họ cũng thấy cơ hội để Anh Quốc kiếm tiền từ việc kiểm tra độc lập các mô hình AI, dựa trên chuyên môn đã được thiết lập tại AISI. Các nghị sĩ cho rằng các biện pháp bảo vệ mạnh mẽ hơn có thể khuyến khích các doanh nghiệp, đặc biệt là các công ty nhỏ hơn, áp dụng công nghệ này.
Câu hỏi thường gặp
Đạo luật An toàn và Bảo mật AI đề xuất những quyền hạn gì cho cơ quan giám sát?
Cơ quan giám sát được đề xuất sẽ có quyền tạm dừng phát triển, thử nghiệm hoặc triển khai các mô hình AI tiềm ẩn nguy hiểm. Họ cũng có thể chặn việc triển khai hoặc đình chỉ các dịch vụ AI nếu rủi ro không thể kiểm soát được.
Ủy ban Quốc hội Anh đã xác định bao nhiêu lỗ hổng trong cách tiếp cận an toàn AI của Anh Quốc?
Ủy ban đã xác định mười lỗ hổng, bao gồm thiếu báo cáo sự cố bắt buộc, quyền truy cập hạn chế cho người kiểm tra độc lập và bảo vệ không đầy đủ cho người tố giác.
Viện An toàn AI (AISI) của Anh Quốc có vai trò gì trong đề xuất này?
Các nghị sĩ muốn AISI tiếp tục công việc kiểm tra các mô hình AI, nhưng một cơ quan quản lý riêng biệt sẽ chịu trách nhiệm thực thi các quy định mới.
Góc nhìn của Orange Cloud
Theo chúng tôi, đề xuất này có thể ảnh hưởng đáng kể đến các doanh nghiệp Việt Nam đang phát triển hoặc sử dụng các mô hình AI từ các công ty lớn như OpenAI. Việc tuân thủ các quy định nghiêm ngặt hơn có thể làm tăng chi phí và thời gian phát triển, nhưng cũng có thể tạo ra một môi trường cạnh tranh công bằng hơn. Các doanh nghiệp nên bắt đầu tìm hiểu về các tiêu chuẩn an toàn AI và chuẩn bị cho khả năng phải chứng minh tính an toàn của các mô hình của họ. Điều đáng chú ý là, các công ty Việt Nam có thể tận dụng cơ hội để cung cấp dịch vụ kiểm tra và đánh giá AI độc lập, tương tự như những gì Anh Quốc đang hướng tới.