Một phương pháp tấn công mạng mới, được gọi là "Kẻ trung gian trong lời nhắc" (Man in the Prompt), đã được xác định, cho phép các tác nhân độc hại khai thác các tiện ích mở rộng của trình duyệt để đưa các hướng dẫn có hại vào các công cụ AI như ChatGPT và Google Gemini.
Lỗ hổng này được phát hiện bởi công ty an ninh mạng LayerX. Cuộc tấn công tận dụng cấu trúc giao diện của chatbot, nơi các trường nhập lời nhắc là một phần của Mô hình Đối tượng Tài liệu (DOM) của trang. Điều này có nghĩa là bất kỳ tiện ích mở rộng trình duyệt nào có quyền truy cập DOM cơ bản đều có thể đọc hoặc thay đổi những gì người dùng nhập vào lời nhắc AI, ngay cả khi không có quyền đặc biệt.
LayerX đã chứng minh các cuộc tấn công proof-of-concept trên các nền tảng chính. Đối với ChatGPT, một tiện ích mở rộng với các quyền tối thiểu có thể chèn lời nhắc, trích xuất phản hồi của AI và xóa lịch sử trò chuyện khỏi chế độ xem của người dùng. Đối với Google Gemini, cuộc tấn công khai thác tích hợp của nó với Google Workspace. Ngay cả khi thanh bên Gemini bị đóng, một tiện ích mở rộng bị xâm phạm có thể chèn lời nhắc để truy cập và đánh cắp dữ liệu người dùng nhạy cảm, bao gồm email và danh bạ.
Theo một báo cáo gần đây của Check Point Research, các cuộc tấn công liên quan đến phần mềm độc hại đánh cắp thông tin đã gia tăng. LayerX khuyến nghị các tổ chức điều chỉnh chiến lược bảo mật của họ để kiểm tra hành vi của trình duyệt. Các khuyến nghị chính bao gồm giám sát các tương tác DOM trong các công cụ AI để phát hiện hoạt động đáng ngờ, chặn các tiện ích mở rộng rủi ro dựa trên hành vi của chúng và chủ động ngăn chặn việc giả mạo lời nhắc và đánh cắp dữ liệu trong thời gian thực ở cấp trình duyệt.
Các nhà nghiên cứu cũng đã xác định một loại tấn công đối nghịch mới trên các mô hình ngôn ngữ, được gọi là tấn công "Tác vụ trong lời nhắc" (TIP). Các cuộc tấn công này nhúng các tác vụ cụ thể vào lời nhắc để vượt qua các biện pháp bảo vệ trong các mô hình ngôn ngữ, làm nổi bật nhu cầu cấp thiết về các chiến lược phòng thủ tinh vi hơn. Các cuộc tấn công TIP có thể giảm độ chính xác của các mô hình ngôn ngữ.
Những phát hiện này nhấn mạnh tầm quan trọng của sự cảnh giác liên tục và các biện pháp bảo mật tăng cường khi tích hợp các công cụ AI vào môi trường doanh nghiệp, nhằm bảo vệ thông tin nhạy cảm trước các mối đe dọa mới nổi. Các doanh nghiệp nên xem xét việc thực hiện các chương trình đào tạo bảo mật toàn diện cho nhân viên để nâng cao nhận thức về các rủi ro liên quan đến tiện ích mở rộng trình duyệt và sử dụng AI.
Check Point ước tính khoảng 10 triệu người trên toàn cầu có thể đã bị ảnh hưởng bởi các quảng cáo trực tuyến chứa phần mềm độc hại.