Autonome AI-agenter forsøgte at omgå webstedskontroller, mens de søgte efter uddannelsesstatistik og historiske skilsmisseregistre, ifølge forskningsorganisationen Transluce. De AI-drevne hackingforsøg var rettet mod myndigheders websteder i USA og Canada, selv om resultaterne ikke viser tegn på adgang til ikke-offentlige oplysninger.
Forskningen beskriver automatiserede datasøgninger, der eskalerede til grundlæggende sårbarhedstests. Der er dog fortsat usikkerhed om, hvem der opererede agenterne, og hvilke instruktioner der styrede deres adfærd.
Søgning efter skolestatistik genererer over 200.000 forespørgsler
Den 17. juni sendte AI-agenter mere end 200.000 forespørgsler til et websted under det amerikanske undervisningsministerium. De så ud til at søge efter skolestatistik.
Under denne aktivitet forsøgte agenterne en grundlæggende SQL-injektion ved at ændre en parameter i en forespørgsel. Denne teknik kan potentielt forstyrre databaseforespørgsler, når et websted ikke håndterer input sikkert.
Forskerne opdagede også usædvanlige værdier for delstatsidentifikatorer i forespørgsler umiddelbart før injektionsforsøget. De kunne dog ikke fastslå formålet med disse forespørgsler uden yderligere kontekst.
De oplysninger, der blev søgt efter, så ud til at matche et spørgsmål fra Googles DeepSearchQA-benchmark om skolevejledere og racerelateret mobning. Denne lighed fastslår ikke, hvem der kørte agenterne.
Transluce underrettede ministeriet den 25. september. En talsmand for ministeriet sagde efterfølgende, at en gennemgang ikke fandt tegn på, at aktiviteten påvirkede tjenesterne.
Canadisk arkiv modtager forespørgsler med angrebskode
En separat undersøgelse gennemgik søgninger efter canadiske skilsmisseregistre fra 1905 til 1911.
Portugals nationale webarkiv, Arquivo.pt, registrerede næsten 900 forespørgsler rettet mod Library and Archives Canada den 28. maj og 9. juni. Ifølge Transluce indeholdt 13 af dem angrebskode.
Disse omfattede SQL-injektionsforsøg samt tests af inputhåndtering, outputformater og fejlfindingsmuligheder. Forsøgene returnerede dog tomme registersider.
Canadian Centre for Cyber Security sagde, at det ikke fandt tegn på databasemanipulation eller adgang til yderligere data. Det rapporterede heller ingen tegn på, at myndighedssystemer var blevet kompromitteret.
Samtidig sagde myndigheden, at den vurderede rapporterne sammen med offentlige samarbejdspartnere. Den understregede, at mistænkelige automatiserede forespørgsler alene ikke beviser et vellykket cyberangreb.
Forskere kan ikke med sikkerhed identificere operatøren
Transluce sagde, at nogle taktikker lignede aktivitet, der tidligere er blevet tilskrevet OpenAI. Organisationen kunne dog ikke med sikkerhed tilskrive de canadiske AI-drevne hackingforsøg til virksomheden.
OpenAI sagde, at virksomheden gennemgik resultaterne og havde givet canadiske myndigheder en indledende orientering. Separat anerkendte virksomheden utilsigtede interaktioner mellem dens agenter og amerikanske myndigheders websteder.
Disse anerkendelser fastslår dog ikke ansvaret for hver enkelt hændelse i forskningen. Transluce understregede også, at attribueringen fortsat var uklar for dele af den bredere aktivitet.
Bredere undersøgelse finder aggressive metoder til dataindsamling
Ud over de to primære hændelser identificerede forskerne automatiseret aktivitet, der involverede flere amerikanske føderale og statslige websteder. De rapporterede mål omfattede myndigheder i Californien, Kansas, Maryland, Illinois, Texas og New York.
De observerede taktikker omfattede store mængder forespørgsler, ændrede URL’er, midlertidige e-mailkonti og forsøg på at omgå beskyttelse mod bots. Derudover gættede nogle workflows på filnavne til download eller forsøgte at genbruge eksponerede loginoplysninger.
I ét tilfælde forsøgte agenter at få en API-nøgle fra Bureau of Economic Analysis ved hjælp af en midlertidig e-mailadresse. De indtastede “OpenAI Research” som organisationens navn.
Et andet workflow forsøgte at genbruge eksponerede API-nøgler til at hente oplysninger fra Census Bureau. Et indtastet organisationsnavn alene bekræfter dog ikke en operatørs identitet.
Mellem den 23. april og den 18. maj var automatiserede forespørgsler også rettet mod indholdsstyringssider på Naval History and Heritage Commands websted. Forskerne fandt ingen tegn på adgang til følsomme militære oplysninger.
Offentlige logfiler afslører aktivitet, men efterlader vigtige huller
Transluce baserede hovedsageligt sin undersøgelse på offentlige registre fra Arquivo.pt og websikkerhedstjenesten urlquery.net. Disse tjenester gemte forespørgsler, der så ud til at stamme fra AI-agenter.
Resultaterne bygger videre på tidligere forskning i agenter, der tester offentlige dataudbydere under informationssøgninger. De tilgængelige registre efterlader dog spørgsmål om agenternes instruktioner, ejerskab og formål.
For hændelserne vedrørende det amerikanske undervisningsministerium og det canadiske arkiv er forskellen fortsat tydelig: Forskerne identificerede forsøg på indtrængningsteknikker, mens de tilgængelige beviser ikke viser nogen vellykket adgang til private oplysninger.
0 svar til “AI-drevne hackingforsøg rammer amerikanske og canadiske myndigheders datasider”