Nền tảng AI không có bộ lọc làm dấy lên lo ngại về lạm dụng an ninh mạng
"The article describes an AI platform marketed as having no safety filters, despite an official prohibition on illicit use. It is reported to enable social engineering, offensive cybercrime assistance, and OSINT scanning for users who pay with cryptocurrency, raising concerns about misuse and abuse potential. No CVE is mentioned; the key issue is the platform’s lack of guardrails and the resulting cybercrime risk."
Nguy cơ lạm dụng cho tấn công xã hội tăng cao; công cụ có thể hỗ trợ phishing và OSINT nhằm thu thập thông tin mục tiêu.
Có thể làm tăng rủi ro lừa đảo và chi phí phòng thủ; ảnh hưởng đến uy tín nếu người dùng nội bộ bị nhắm mục tiêu.
Một nền tảng AI được quảng bá là không có bộ lọc an toàn đang bị chú ý vì có thể bị lạm dụng cho các hoạt động liên quan đến social engineering, hỗ trợ cybercrime tấn công và OSINT scanning. Theo mô tả, dù nhà cung cấp nêu rõ cấm sử dụng trái phép, dịch vụ này vẫn được cung cấp cho người dùng trả bằng cryptocurrency.
Điểm đáng lo ngại chính là việc thiếu guardrails và cơ chế kiểm soát sử dụng, làm tăng nguy cơ công cụ bị khai thác để tạo nội dung lừa đảo, thu thập thông tin mục tiêu hoặc hỗ trợ các chiến dịch tấn công. Trong bối cảnh doanh nghiệp phụ thuộc nhiều vào email, danh tính số và dữ liệu công khai, các công cụ như vậy có thể làm giảm đáng kể chi phí và rào cản cho kẻ tấn công.
Khuyến nghị cho đội kỹ thuật là tăng cường giám sát hành vi bất thường, rà soát các kịch bản phishing và social engineering, đồng thời củng cố đào tạo nhận thức an ninh cho người dùng nội bộ. Các tổ chức cũng nên theo dõi việc lộ lọt thông tin công khai và áp dụng nguyên tắc least privilege để giảm bề mặt tấn công.