Forskere har opdaget alvorlige Gemini-sikkerhedsfejl, som viser, hvordan angribere kan udnytte Googles AI-system. Disse svagheder, kendt som “Gemini Trifecta”, afslører mangler i håndtering af prompts, datasikkerhed og personaliseringsfunktioner.
De tre største sårbarheder
Eksperter identificerede tre separate fejl i Gemini. Hver udgjorde en risiko for datatyveri eller manipulation:
- Prompt injection i Cloud Assist gjorde det muligt for angribere at skjule kommandoer i logdata.
- Misbrug af søgepersonaliseringsfunktionen lod ondsindede historikposter styre Geminis svar.
- Forkert brug af browsing-værktøjet tillod angribere at udtrække følsomme brugeroplysninger til eksterne servere.
Hvordan prompt injection fungerede
Gemini Cloud Assist opsummerer logfiler for administratorer. Forskere fandt, at angriberstyret input, såsom HTTP-headere, kunne narre Gemini til at køre skjulte kommandoer. Denne fejl kunne have afsløret interne sky-konfigurationer.
Udnyttelse af søgepersonaliseringsfunktionen
Gemini bruger browserhistorik til at tilpasse søgeresultater. Angribere indsatte ondsindede instruktioner i en brugers historik, hvilket fik Gemini til at behandle dem som legitim kontekst. Denne metode kunne omdirigere forespørgsler eller lække private oplysninger.
Datalækager via browsing-værktøjet
Browsing-værktøjet hentede indhold direkte fra nettet. Angribere indlejrede persondata i udgående forespørgsler. Gemini sendte derefter disse data til en fjendtlig server uden brugerens viden.
Googles svar
Efter afsløringen handlede Google hurtigt for at lukke de tre Gemini-sikkerhedsfejl. Virksomheden styrkede sine AI-beskyttelser for at forhindre prompt injection, misbrug af personalisering og dataeksfiltrering via værktøjer.
Konklusion
Opdagelsen af disse Gemini-sikkerhedsfejl viser det presserende behov for stærkere beskyttelse i AI-platforme. Uden robuste forsvar kan angribere manipulere prompts, kapre personalisering og lække følsomme data. Sagen beviser, at AI-sikkerhed skal udvikles lige så hurtigt som systemerne selv.
0 svar til “Gemini-sikkerhedsfejl afslører kritiske AI-risici”