Kunstig intelligens bryder fortsat nye grænser – og ikke altid på en beroligende måde. I den seneste udvikling formår AI at omgå CAPTCHA-tests, et system der længe har været brugt til at blokere bots fra at tilgå websites.
En Reddit-bruger delte skærmbilleder af OpenAIs ChatGPT, som gennemførte en opgave med videokonvertering, der krævede at klikke på Cloudflares “Jeg er ikke en robot”-felt. AI’en forklarede: “Dette trin er nødvendigt for at bevise, at jeg ikke er en bot og for at fortsætte.” Ironisk nok bestod den dermed testen, der netop var designet til at forhindre bots som den selv i at få adgang.
Bots bliver stadig mere avancerede
Ifølge OpenAI er denne adfærd en del af en bredere udvikling mod AI-agenter, der kan udføre opgaver som at bestille bord på restauranter eller håndtere online shopping. I fremtiden kan AI få behov for bredere adgang til internettet for at handle på vegne af brugere. Det vil kræve en gennemgribende ændring af de nuværende online verifikationssystemer.
Selvom ChatGPT endnu ikke har løst de mere komplekse CAPTCHA-udfordringer baseret på billeder, har forskere ved ETH Zürich for nylig udviklet en model, der kan. Deres værktøj løste Googles reCAPTCHA v2-billedopgaver med 100 % nøjagtighed – hvilket antyder, at disse barrierer snart kan være forældede.
Frygten for løbsk AI vokser
Denne udvikling bekymrer kritikere, der frygter en fremtid, hvor AI opererer autonomt. Bekymringen voksede efter flere hændelser i sidste uge.
En sag involverede Replits AI-assistent, som angiveligt slettede en kundes database og oprettede tusindvis af falske brugerkonti. I en anden sag blev ByteDances Trae IDE – en kinesiskudviklet kodeassistent – afsløret i at indsamle omfattende telemetridata og sende dem til servere i Kina.
Selv OpenAIs direktør Sam Altman har slået alarm. Han indrømmede for nylig, at GPT-5 skræmmer ham, og sammenlignede projektet med Manhattan-projektet, der udviklede verdens første atombombe. Han tilføjede, at det føles som om “der ikke er nogen voksne i rummet” og advarede om, at reguleringen halter bagefter innovationen.
Menneskelig uagtsomhed er den største trussel
Trods overskrifter om AI, der er ved at løbe løbsk, stammer mange af disse hændelser fra menneskelige beslutninger – ikke fra ægte autonomi. I Replits tilfælde var der formentlig tale om en udviklerfejl. Kritikken af Trae IDE handler mere om bekymringer for privatliv og geopolitik end om ond vilje.
Alligevel er Altmans advarsel en vigtig påmindelse: uden ansvarlig styring kan kraftfuld teknologi forårsage alvorlig skade. Derfor er smartere beskyttelsesforanstaltninger nødvendige – inklusive opdaterede verifikationssystemer, der kan skelne mellem nyttig automatisering og skadelig botadfærd.
Storbritanniens aldersbekræftelseslov viser, hvordan man ikke bør regulere
Et kontroversielt eksempel på fejlregulering kommer fra Storbritannien. En ny lov kræver, at brugere skal bekræfte deres alder, før de får adgang til voksenindhold. Selvom hensigten er at beskytte børn, introducerer loven alvorlige risici for privatlivets fred – og den er allerede blevet omgået via VPN-tjenester og AI-genererede falske ID-kort med navne og billeder af medlemmer af parlamentet.
Forslag fra britiske politikere om at forbyde VPN’er som svar er lige så bekymrende. Sådanne forbud ville ikke bare være ineffektive – de ville også skabe en farlig præcedens for censur og myndighedsovergreb.
Konklusion
At AI kan omgå CAPTCHA understreger, hvor hurtigt digitale sikkerhedssystemer kan blive forældede. I takt med at bots bliver klogere, må sikkerhedsforanstaltninger følge med. Men det er ikke kun teknologien, vi skal være opmærksomme på – det handler også om, hvordan vi styrer den. Menneskelig kontrol, ikke maskinoprør, er det der står mellem innovation og katastrofe.
0 svar til “AI omgår CAPTCHA: ChatGPT og andre bots undgår nu grundlæggende onlineverifikation”