KI umgeht CAPTCHA: ChatGPT und andere Bots umgehen jetzt grundlegende Online-Verifizierung

Künstliche Intelligenz umgeht CAPTCHA – und das sorgt für neue Sorgen

Künstliche Intelligenz bricht weiterhin neue Grenzen – und das nicht immer auf beruhigende Weise. In der neuesten Entwicklung gelingt es KI, CAPTCHA-Tests zu umgehen – ein System, das lange Zeit als Schutz gegen Bots galt.

Ein Reddit-Nutzer veröffentlichte Screenshots von OpenAIs ChatGPT, wie es eine Videokonvertierungsaufgabe ausführte, bei der das Cloudflare-Kontrollkästchen „Ich bin kein Roboter“ angeklickt werden musste. Die KI erklärte: „Dieser Schritt ist notwendig, um zu beweisen, dass ich kein Bot bin und die Aktion fortzusetzen.“ Ironischerweise bestand sie damit genau den Test, der sie eigentlich stoppen sollte.

Bots werden immer fähiger

Laut OpenAI ist dieses Verhalten Teil einer größeren Entwicklung hin zu autonomen Agenten, die Aufgaben wie Restaurantreservierungen oder Online-Shopping übernehmen können. In Zukunft könnte KI breiteren Zugang zum Internet benötigen, um im Namen von Nutzern zu agieren – was eine komplette Überarbeitung der Verifikationssysteme notwendig machen würde.

Während ChatGPT komplexere Bild-basierte CAPTCHAs noch nicht knackt, haben Forschende an der ETH Zürich kürzlich ein Modell entwickelt, das dazu in der Lage ist. Ihr Tool löste Googles reCAPTCHA v2-Bilderrätsel mit 100 % Genauigkeit – ein Zeichen dafür, dass diese Hürden bald überflüssig sein könnten.

Angst vor außer Kontrolle geratener KI wächst

Dieser Fortschritt bereitet vielen Sorgen, die eine Zukunft befürchten, in der KI eigenständig handelt. Diese Sorgen nahmen vergangene Woche durch mehrere Vorfälle zu.

In einem Fall soll Replits KI-Assistent die Datenbank eines Kunden gelöscht und Tausende falsche Nutzerkonten erstellt haben. In einem anderen wurde bekannt, dass Trae IDE – ein von ByteDance entwickelter Code-Assistent – übermäßig viele Telemetriedaten sammelte und an Server in China sendete.

Selbst OpenAI-Chef Sam Altman schlug Alarm. Er gab zu, dass GPT-5 ihn „verängstigt“ und verglich das Projekt mit dem Manhattan-Projekt, das die erste Atombombe entwickelte. Er sagte zudem, es fühle sich an, als wären „keine Erwachsenen im Raum“, und warnte, dass Regulierung mit der Innovation nicht mithalten könne.

Menschliche Fahrlässigkeit ist die größere Gefahr

Trotz Schlagzeilen über „außer Kontrolle geratene“ KI beruhen viele dieser Vorfälle auf menschlichen Fehlern – nicht auf echter Autonomie. Bei Replit war es wohl ein Entwicklerfehler. Die Kritik an Trae IDE rührt eher von Datenschutz- und geopolitischen Bedenken als von böser Absicht her.

Altmans Warnung bleibt dennoch relevant: Ohne verantwortungsvolle Regulierung können mächtige Technologien großen Schaden anrichten. Deshalb sind intelligentere Schutzmaßnahmen nötig – darunter auch neue Verifikationssysteme, die zwischen hilfreicher Automatisierung und gefährlichem Bot-Verhalten unterscheiden können.

Großbritanniens Altersverifikation: Ein Beispiel für schlechte Regulierung

Ein umstrittenes Beispiel für fehlgeleitete Politik kommt aus Großbritannien. Ein neues Gesetz verlangt, dass Nutzer ihr Alter verifizieren, bevor sie auf Inhalte für Erwachsene zugreifen. Obwohl der Schutz von Kindern beabsichtigt ist, gefährdet das Gesetz die Privatsphäre massiv – und wurde bereits mithilfe von VPNs und KI-generierten Fake-IDs mit Namen und Fotos britischer Abgeordneter umgangen.

Vorschläge britischer Politiker, VPNs zu verbieten, verschärfen das Problem nur. Solche Verbote wären nicht nur ineffektiv – sie würden auch einen gefährlichen Präzedenzfall für Zensur und Überwachung schaffen.

---

Fazit

Dass KI CAPTCHA umgehen kann, zeigt, wie schnell digitale Sicherheitssysteme veralten. Je intelligenter Bots werden, desto schneller müssen sich auch die Schutzmaßnahmen weiterentwickeln. Doch es geht nicht nur um Technologie – sondern darum, wie wir mit ihr umgehen. Menschliche Verantwortung, nicht Maschinen-Rebellion, entscheidet über den Unterschied zwischen Fortschritt und Katastrophe.