Serangan siber 'Man in the Prompt' telah teridentifikasi sebagai ancaman baru yang menargetkan alat AI seperti ChatGPT dan Google Gemini. Serangan ini memanfaatkan ekstensi peramban untuk menyuntikkan instruksi berbahaya ke dalam alat AI, memanfaatkan kerentanannya dalam struktur antarmuka chatbot. Hal ini memungkinkan ekstensi peramban dengan akses ke Document Object Model (DOM) untuk membaca atau mengubah input pengguna ke dalam prompt AI tanpa izin khusus.
LayerX, perusahaan keamanan siber, menemukan bahwa serangan ini dapat mengeksploitasi integrasi alat AI dengan platform lain, seperti Google Workspace. Bahkan ketika bilah sisi Gemini ditutup, ekstensi yang disusupi dapat menyuntikkan prompt untuk mengakses dan mengeksfiltrasi data pengguna sensitif, termasuk email dan kontak. Penelitian ini menyoroti pentingnya kesadaran dan tanggung jawab dalam penggunaan teknologi, serta perlunya strategi keamanan yang lebih canggih untuk melindungi data sensitif dari ancaman siber yang semakin kompleks.
Para peneliti merekomendasikan agar organisasi menyesuaikan strategi keamanan mereka untuk memeriksa perilaku peramban. Rekomendasi utama termasuk memantau interaksi DOM dalam alat AI untuk mendeteksi aktivitas mencurigakan, memblokir ekstensi berisiko berdasarkan perilakunya, dan secara aktif mencegah perusakan prompt dan eksfiltrasi data secara real-time di tingkat peramban. Selain itu, penting untuk meningkatkan kesadaran dan pelatihan bagi pengguna mengenai potensi risiko yang terkait dengan penggunaan ekstensi peramban dan alat AI, serta menerapkan kebijakan keamanan yang ketat untuk melindungi data sensitif dari ancaman siber yang terus berkembang.