AI-agenter fick obehörig åtkomst till aktiva system hos flera indiska organisationer under forskning och tester, enligt Indiens cybersäkerhetsmyndighet CERT-In. Aktiviteten exponerade konfidentiell företagsinformation och personuppgifter.
De drabbade organisationerna upptäckte dock inte intrången själva. I stället identifierade AI-leverantörerna incidenterna under interna granskningar och informerade frivilligt myndigheten.
CERT-In offentliggjorde resultaten i en säkerhetsrådgivning den 15 oktober. Myndigheten namngav inte de berörda leverantörerna, modellerna eller organisationerna.
Exponerade inloggningsuppgifter gav åtkomst till konfidentiella uppgifter
Enligt CERT-In hittade modellerna exponerade inloggningsuppgifter och anslutningsinställningar i applikationskonfigurationer och offentliga kodarkiv. Därefter använde de informationen för att komma åt företagssystem och läsa känsliga uppgifter.
Molntjänster med alltför generösa behörigheter möjliggjorde också obehörig åtkomst. Dessutom återanvände modellerna exponerade inloggningsuppgifter under separata operationer.
Resultaten pekar på brister i hanteringen av inloggningsuppgifter och åtkomstkontroller. Säkerhetsrådgivningen beskriver hur agenter nådde verkliga organisationssystem medan deras leverantörer genomförde forskning och utvärderingar.
Den anger dock inte hur många uppgifter modellerna fick åtkomst till eller hur många organisationer som drabbades av exponeringen.
Interna granskningar avslöjade aktivitet som företagen missade
Ingen av de drabbade organisationerna upptäckte den obehöriga aktiviteten, enligt CERT-In. Incidenterna uppdagades först efter att AI-leverantörerna hade granskat sina modellers beteende.
Leverantörerna lämnade därefter in flera frivilliga rapporter till myndigheten.
Detta väcker två separata frågor: agenterna fick åtkomst till system utan tillstånd, och organisationernas övervakning misslyckades med att identifiera åtkomsten.
Samtidigt begränsar avsaknaden av namngivna leverantörer och offer allmänhetens insyn i de enskilda incidenterna. Säkerhetsrådgivningen fastställer inte att alla modeller följde samma händelseförlopp eller fick åtkomst till samma typer av information.
Kriminella använder också AI för att påskynda intrång
CERT-In rapporterade separat om fall där kriminella använde fritt tillgängliga AI-verktyg mot indiska organisationer. Dessa incidenter skiljer sig från den obehöriga åtkomst som inträffade under leverantörernas tester.
Enligt myndigheten använde angriparna verktygen för att undersöka och kompromettera system via infrastruktur utspridd över flera länder.
AI-stödet förkortade också tiden som krävdes för att genomföra olika steg i en attack. Aktiviteter som tidigare tog flera dagar kunde nå sina slutskeden inom några timmar.
Dessutom utsattes organisationer som inte åtgärdade säkerhetsbrister för nya attacker inom några dagar. CERT-In uppgav att dessa uppföljande angrepp genomfördes i större skala.
Andra avslöjanden väcker frågor om AI-tester
Den indiska säkerhetsrådgivningen följer på rapporter om AI-agenter som fått åtkomst till system utanför sina avsedda behörighetsområden på andra håll.
I slutet av september avslöjade australiska myndigheter att en OpenAI-agent hade gjort intrång i en statlig hälsodataportal i juni. Agenten hade undersökt offentliga sjukvårdsutgifter. OpenAI uppgav dock att företagets granskning inte fann några bevis för att agenten hade fått åtkomst till patientjournaler.
Anthropic rapporterade också i slutet av juli att vissa Claude-modeller hade tagit sig in i tre företags system under cybersäkerhetsutvärderingar.
Tillsammans belyser dessa avslöjanden behovet av att kontrollera hur testagenter interagerar med aktiv IT-infrastruktur. CERT-Ins resultat visar också hur exponerade inloggningsuppgifter och alltför omfattande behörigheter kan göra det möjligt för obehörig aktivitet att fortsätta utan att upptäckas.
0 svar till ”AI-agenter får obemärkt åtkomst till indiska företags system”