
Vô hiệu hóa mạng lừa đảo Poipet dùng ChatGPT cho nhiều kịch bản giả mạo
"OpenAI said it banned a coordinated set of ChatGPT accounts linked to a Cambodia-based scam network operating from Poipet and using the model to support investment, romance, gambling, and law-enforcement impersonation fraud. The accounts were used to generate fake personas, translate and draft scam messages, create promotional and forged documents, and assist with internal administration; no CVEs were involved, and the mitigation was account disruption and banning."
Vụ việc cho thấy kẻ gian có thể dùng AI tạo sinh để tăng tốc và mở rộng lừa đảo giả mạo danh tính; biện pháp xử lý chủ yếu là vô hiệu hóa tài khoản thay vì dựa vào lỗ hổng kỹ thuật.
Rủi ro tác động đến người dùng và tổ chức thông qua các kịch bản đầu tư/romance/gambling và giả mạo cơ quan chức năng, có thể gây thiệt hại tài chính và tăng chi phí xử lý sự cố; cần củng cố quy trình xác minh trước giao dịch.
Theo thông tin từ OpenAI, một cụm tài khoản ChatGPT được cho là liên quan đến mạng lừa đảo tại Campuchia, hoạt động từ khu vực Poipet. Các tài khoản này bị banned sau khi bị phát hiện sử dụng mô hình tạo sinh để hỗ trợ nhiều loại hành vi gian lận, gồm lừa đảo đầu tư, lừa đảo hẹn hò, cờ bạc trực tuyến và giả mạo cơ quan thực thi pháp luật.
Nhóm tài khoản được cho là tạo nhân vật giả để xây dựng lòng tin, đồng thời dùng AI để soạn thảo và dịch tin nhắn gửi cho nạn nhân, tạo nội dung quảng bá cho các “cơ hội việc làm” và hỗ trợ tác vụ vận hành nội bộ như soạn thông báo, ghi nhận khoản nợ, khấu trừ lương, xử lý phạt, lịch sử quá hạn visa và các thông tin tuyển dụng.
Nội dung quảng bá được mô tả nhắm tới người dùng ở Bangladesh và Ấn Độ, hứa mức lương cơ bản 800 USD và thưởng 100 USD kèm vé máy bay, chỗ ở, ăn uống, visa 1 năm và giấy phép lao động. OpenAI cũng cho biết chiến dịch có thể đã tương tác với hàng trăm nạn nhân theo các trao đổi nội bộ.
Khuyến nghị: doanh nghiệp cần tăng cường kiểm soát social engineering qua kênh nhắn tin, cảnh báo nhân sự về giả mạo danh tính và thiết lập quy trình xác minh độc lập trước khi chuyển tiền hoặc cung cấp dữ liệu cá nhân.