Nghiên cứu mới nhất về AI và An ninh Mạng
Nghiên cứu từ Đại học Carnegie Mellon, hợp tác với Anthropic, chỉ ra rằng các mô hình ngôn ngữ lớn (LLM) có khả năng tự động lên kế hoạch và thực hiện các cuộc tấn công mạng phức tạp vào mạng doanh nghiệp. Brian Singer, người đứng đầu nghiên cứu, nhấn mạnh rằng LLM có thể mô phỏng các xâm nhập mạng giống với các kịch bản tấn công thực tế, làm nổi bật sự cần thiết phải đánh giá lại các chiến lược an ninh mạng trong tương lai.
LLM có thể xâm nhập mạng doanh nghiệp, xác định các lỗ hổng và thực hiện các cuộc tấn công đa giai đoạn mà không cần sự can thiệp của con người. Nghiên cứu này nhấn mạnh cả rủi ro và cơ hội trong an ninh mạng. Các tác nhân độc hại có thể tự động hóa các cuộc tấn công, trong khi các công ty và nhà nghiên cứu bảo mật có thể sử dụng LLM để phát triển và kiểm tra các cơ chế phòng thủ mạnh mẽ hơn.
Thực trạng tấn công mạng sử dụng AI
Theo một phân tích từ Imperva, các trang web bán lẻ phải hứng chịu trung bình 569.884 cuộc tấn công sử dụng AI mỗi ngày từ tháng 4 đến tháng 9 năm 2024. Các công cụ AI như ChatGPT, Claude và Gemini, cùng với các bot được thiết kế để thu thập dữ liệu từ trang web cho quá trình huấn luyện LLM, thường được tội phạm mạng sử dụng trong các cuộc tấn công lạm dụng logic kinh doanh, tấn công từ chối dịch vụ phân tán (DDoS), tấn công bot xấu và vi phạm giao diện lập trình ứng dụng (API).
Lạm dụng logic kinh doanh chiếm 30,7% các mối đe dọa do AI điều khiển, bao gồm khai thác các chức năng của ứng dụng hoặc API để thực hiện các hành động độc hại như thao túng giá và lạm dụng mã giảm giá. Tấn công DDoS chiếm 30,6% các mối đe dọa do AI điều khiển, với mục tiêu làm quá tải tài nguyên trang web, dẫn đến thời gian ngừng hoạt động. Các cuộc tấn công bot xấu chiếm 20,8% các mối đe dọa do AI điều khiển, bao gồm thu thập dữ liệu giá cả và tích trữ hàng tồn kho. Vi phạm API chiếm 16,1% các mối đe dọa do AI điều khiển.
Giải pháp và cơ hội từ AI
Sự phát triển của AI cũng mang lại cơ hội để tăng cường bảo mật. Anthropic đã giới thiệu Claude Code, một công cụ AI hỗ trợ các nhà phát triển phần mềm với khả năng tìm kiếm, đọc mã, chỉnh sửa tệp và chạy thử nghiệm. Claude Code được trang bị mô hình lý luận "lai", giúp mô hình vừa có thể trả lời nhanh các câu hỏi, vừa phân tích chuyên sâu các vấn đề phức tạp.
Các hệ thống an ninh mạng cần liên tục theo kịp những chiêu thức ngày càng phức tạp của kẻ tấn công. Thay vì tập trung vào những rủi ro tiềm ẩn, chúng ta có thể xem sự phát triển của AI như một cơ hội để nâng cao nhận thức và trách nhiệm trong việc bảo vệ không gian mạng. Bằng cách chấp nhận sự thay đổi và hợp tác để phát triển các giải pháp sáng tạo, chúng ta có thể tạo ra một môi trường mạng an toàn và bảo mật hơn cho tất cả mọi người.