W ostatnich miesiącach pojawiły się nowe zagrożenia dla narzędzi sztucznej inteligencji (AI), w tym ataki na rozszerzenia przeglądarek oraz techniki "prompt injection".
Badacze ds. cyberbezpieczeństwa odkryli, że niektóre rozszerzenia przeglądarek, zwłaszcza te związane z AI, mogą stanowić zagrożenie dla prywatności użytkowników. Analiza wykazała, że te rozszerzenia mogą zbierać i przetwarzać dane osobowe użytkowników, często przy minimalnych zabezpieczeniach, co może prowadzić do naruszenia regulacji dotyczących ochrony danych. Eksperci zalecają użytkownikom ostrożność przy instalowaniu rozszerzeń AI oraz dokładne sprawdzanie ich polityki prywatności. Alternatywnym rozwiązaniem może być korzystanie z lokalnych modeli AI, które nie przesyłają danych do chmury. Twórcy rozszerzeń AI bronią się, twierdząc, że użytkownicy powinni samodzielnie kontrolować, jakie dane wysyłają do modeli AI. Z kolei badacze podkreślają, że problem tkwi w braku przejrzystości i odpowiednich zabezpieczeń. Zachęcają oni do wprowadzenia bardziej rygorystycznych procedur weryfikacji rozszerzeń dostępnych w Chrome Web Store oraz do priorytetowego traktowania prywatności użytkowników przez firmy technologiczne.
Innym zagrożeniem są techniki "prompt injection", które polegają na manipulowaniu poleceniami wprowadzanymi do modeli językowych AI w celu uzyskania niepożądanych rezultatów. Badacze zidentyfikowali przypadki, w których złośliwe oprogramowanie zawierało technikę "prompt injection", próbującą zmanipulować narzędzia AI poprzez specjalnie sformułowane instrukcje. Tego typu ataki mogą prowadzić do nieprawidłowego działania systemów AI, co podkreśla potrzebę ciągłego monitorowania i aktualizacji zabezpieczeń w takich systemach.
W obliczu tych zagrożeń eksperci zalecają użytkownikom zachowanie ostrożności przy instalowaniu nowych rozszerzeń oraz regularne aktualizacje oprogramowania. Ważne jest również korzystanie z zaufanych źródeł i dokładne sprawdzanie polityk prywatności oraz uprawnień wymaganych przez instalowane aplikacje. Ponadto, organizacje powinny wdrażać strategie monitorowania i zabezpieczania środowisk AI, aby chronić poufne informacje przed nowymi zagrożeniami.