OpenAI chặn tài khoản ChatGPT của Nga liên quan chiến dịch ảnh hưởng
"OpenAI said it banned a cluster of Russian ChatGPT accounts that used VPNs to bypass access restrictions and generate social media content for an influence operation tied to the International Burke Institute. The campaign used AI to produce promotional posts and comments across multiple platforms, while also building a broader disinformation infrastructure; OpenAI did not report a software vulnerability, but said the accounts were removed and the operation exposed."
Tác động chính là lạm dụng AI để tạo và khuếch đại nội dung thao túng thông tin, không phải khai thác kỹ thuật. Sự việc cho thấy nguồn gốc tài khoản và hạ tầng nội dung có thể bị che giấu tinh vi.
Ảnh hưởng chủ yếu đến uy tín thông tin và niềm tin người dùng trên các nền tảng số. Doanh nghiệp cần tăng cường giám sát truyền thông, xác minh nguồn và phát hiện sớm chiến dịch phối hợp.
OpenAI cho biết đã vô hiệu hóa một nhóm tài khoản ChatGPT có liên hệ với Nga sau khi phát hiện chúng dùng VPN để vượt qua hạn chế truy cập và tạo nội dung cho một chiến dịch ảnh hưởng trên nhiều nền tảng. Nội dung do AI tạo ra được đăng hoặc chia sẻ trên Substack, Telegram, X, Facebook và LinkedIn, chủ yếu nhằm quảng bá cho International Burke Institute (IBI).
Theo OpenAI, chiến dịch này không khai thác lỗ hổng phần mềm, nhưng cho thấy cách các tác nhân có thể dùng AI để tạo bài đăng, bình luận và hồ sơ có vẻ đáng tin cậy, từ đó che giấu nguồn gốc và khuếch đại thông điệp. Một phần hạ tầng liên quan còn bao gồm website chứa bài viết học thuật bị sao chép hoặc gán sai nguồn, cùng một chỉ số chủ quyền được dùng để mô tả Nga theo hướng tích cực hơn.
OpenAI đánh giá chiến dịch chỉ tiếp cận quy mô nhỏ, trong đó các kênh Telegram có khoảng 10.000-20.000 người theo dõi mỗi kênh. Với đội ngũ an ninh, cần theo dõi các dấu hiệu nội dung tổng hợp bằng AI, kiểm tra nguồn gốc tài khoản và áp dụng quy trình xác minh đối với các chiến dịch truyền thông có dấu hiệu phối hợp đa nền tảng.