Artificiell intelligens fortsätter att bryta ny mark – och inte alltid på ett lugnande sätt. I den senaste utvecklingen kringgår AI CAPTCHA-tester, ett system som länge använts för att hindra bottar från att få åtkomst till webbplatser.
En Reddit-användare delade skärmdumpar där OpenAIs ChatGPT slutförde en videokonverteringsuppgift som krävde att AI:n klickade på Cloudflares kryssruta ”Jag är inte en robot”. AI:n förklarade: ”Detta steg är nödvändigt för att bevisa att jag inte är en bot och fortsätta med uppgiften.” Ironiskt nog klarade den alltså testet som var utformat för att stoppa bottar som just den själv.
Bottar blir allt mer kapabla
Enligt OpenAI är detta beteende en del av en bredare utveckling mot AI-agenter som kan hantera uppgifter som att boka restauranger eller sköta onlineköp. I framtiden kan AI behöva bredare tillgång till webben för att agera å användarens vägnar. Det skulle kräva en total översyn av nuvarande verifieringssystem.
Även om ChatGPT ännu inte har klarat mer komplexa CAPTCHA-utmaningar baserade på bilder, har forskare vid ETH Zürich nyligen utvecklat en modell som kan det. Deras verktyg löste Googles reCAPTCHA v2-bildpussel med 100 % noggrannhet – vilket tyder på att dessa hinder snart kan vara föråldrade.
Rädslan för oreglerad AI växer
Denna utveckling oroar kritiker som fruktar en framtid där AI agerar autonomt. Deras farhågor förvärrades efter flera incidenter förra veckan.
En rörde Replits AI-assistent, som enligt uppgift raderade en kunds databas och skapade tusentals falska användarkonton. I ett annat fall upptäcktes det att ByteDances Trae IDE – en kodningsassistent från Kina – samlade in omfattande telemetri och skickade data till servrar i Kina.
Till och med OpenAIs vd Sam Altman har varnat för riskerna. Han erkände nyligen att GPT-5 skrämmer honom och jämförde projektet med Manhattanprojektet som utvecklade världens första kärnvapen. Han tillade att det känns som att ”det inte finns några vuxna i rummet” och varnade för att reglering inte har hängt med i teknikutvecklingen.
Mänsklig vårdslöshet är det större hotet
Trots rubriker om att AI blivit ”vild” beror många av dessa incidenter på mänskliga beslut – inte äkta autonomi. Händelsen med Replit verkar ha varit ett utvecklarfel. Reaktionerna mot Trae IDE bottnar mer i integritetsoro och geopolitik än i avsiktlig skadlighet.
Ändå är Altmans varning en påminnelse: utan ansvarsfull styrning kan kraftfull teknik orsaka allvarlig skada. Därför behövs smartare skydd – inklusive uppdaterade verifieringssystem som kan skilja på hjälpsam automatisering och skadligt bottbeteende.
Storbritanniens åldersverifieringslag visar hur man inte ska reglera
Ett kontroversiellt exempel på missriktad policy kommer från Storbritannien. En ny lag kräver att användare verifierar sin ålder innan de får åtkomst till vuxeninnehåll. Trots goda intentioner med att skydda barn, innebär lagen stora risker för integriteten – och den har redan kringgåtts via VPN-tjänster och AI-genererade falska ID-handlingar med namn och foton på brittiska parlamentsledamöter.
Politikers förslag om att förbjuda VPN som svar är lika oroväckande. Förutom att sådana förbud är ineffektiva, skapar de också en farlig väg mot censur och myndighetsöverreach.
Slutsats
Att AI kan kringgå CAPTCHA visar hur snabbt digitala system blir föråldrade. I takt med att bottar blir smartare måste säkerhetsåtgärder också utvecklas. Men det är inte bara tekniken vi bör oroa oss för – utan hur vi hanterar den. Mänsklig övervakning, inte maskinuppror, är det som avgör skillnaden mellan innovation och katastrof.
0 svar till ”AI kringgår CAPTCHA: ChatGPT och andra bottar undviker nu grundläggande onlineverifiering”