Google avdekker hackere som misbruker Gemini AI

Google har identifisert en rekke statsstøttede hackergrupper som har forsøkt å utnytte Gemini-plattformen for kunstig intelligens til ondsinnede formål, blant annet ved å bidra til utvikling av skadelig programvare. Teknologigiganten rapporterer imidlertid at denne innsatsen ikke har resultert i betydelige cybertrusler, og understreker at AI fortsatt er et verktøy snarere enn en "game-changer" for nettkriminelle.

Ifølge Googles funn har hackere fra Iran, Nord-Korea, Kina og Russland utnyttet Gemini til oppgaver som å oversette innhold, raffinere phishing-angrep og skrive datakode. Selskapet sporet denne aktiviteten til over 10 iranske hackergrupper, 20 kinesiske regjeringsstøttede grupper og ni nordkoreanske trusselaktører.

"Iranske APT-aktører (advanced persistent threat) var de største brukerne av Gemini, og brukte det til å forske på forsvarsorganisasjoner, analysere sårbarheter og lage innhold til desinformasjonskampanjer", skrev Google i et blogginnlegg onsdag.

Til tross for disse forsøkene hevder Google at Gemini først og fremst har gitt disse aktørene produktivitetsforbedringer snarere enn direkte hackingfunksjoner. "For øyeblikket bruker de først og fremst AI til forskning, feilsøking av kode og oppretting og lokalisering av innhold", uttalte selskapet.

Bildekreditt: Jaque Silva | NurPhoto

Google fremhevet også begrensningene hackere møtte når de prøvde å bruke Gemini til mer avanserte ondsinnede oppgaver. Selv om AI-en hjalp dem med å forstå komplekse emner og generere grunnleggende kode, forhindret sikkerhetstiltakene misbruk av cyberangrep. Forsøk på å utnytte Gemini til avanserte phishing-teknikker, koding av skadelig programvare eller omgå Googles sikkerhetstiltak mislyktes.

"Noen ondsinnede aktører forsøkte uten hell å be Gemini om veiledning for å misbruke Googles produkter, for eksempel avanserte phishing-teknikker for Gmail, hjelp til å kode en Chrome infostealer og metoder for å omgå Googles verifiseringsmetoder for kontooppretting", rapporterte selskapet. "Disse forsøkene var mislykkede. Gemini produserte ikke skadelig programvare eller annet innhold som kunne brukes i en vellykket ondsinnet kampanje."

Google erkjente imidlertid at AI-verktøy som Gemini kunne akselerere cybertrusselaktørers arbeidsflyt, slik at de kunne operere mer effektivt og i større skala. For eksempel brukte en Iran-basert propagandaoperasjon Gemini til å forbedre oversettelser, slik at desinformasjonskampanjene deres nådde ut til et bredere publikum. I mellomtiden brukte hackere med tilknytning til Nord-Korea chatboten til å skrive søknadsbrev og samle råd om jobbsøking på LinkedIn - noe som kan ha hjulpet dem i arbeidet med å sikre seg eksterne IT-stillinger i amerikanske selskaper, noe som er en økende bekymring blant føderale etterforskere.

"Gruppen brukte også Gemini til å innhente informasjon om utveksling av ansatte i utlandet. Mange av temaene ville være vanlige for alle som undersøker og søker på jobber", skriver Google.

Googles funn er et ekko av lignende funn gjort av OpenAI. For et år siden oppdaget OpenAI flere statsstøttede grupper som forsøkte å misbruke ChatGPT. Etterforskningen avslørte imidlertid at disse hackerne først og fremst brukte chatboten til mindre produktivitetsøkninger i stedet for å utføre avanserte nettangrep.

Som svar på disse truslene har Google forsterket sine sikkerhetsprotokoller for AI. Selskapet tester kontinuerlig Geminis forsvar for å forhindre misbruk, og samarbeider med politimyndigheter når det er nødvendig. "Vi undersøker misbruk av våre produkter, tjenester, brukere og plattformer, inkludert ondsinnede cyberaktiviteter fra regjeringsstøttede trusselaktører, og samarbeider med rettshåndhevelse når det er hensiktsmessig", uttalte Google.

I tillegg jobber Google aktivt for å stanse disse nettruslene ved å fjerne mistenkte ondsinnede aktører fra plattformene sine. Denne proaktive holdningen understreker selskapets forpliktelse til å holde AI-verktøyene sine sikre, samtidig som de erkjenner den stadig økende risikoen som statssponsede hackere utgjør.