Kategorie: KI-Nachrichten
-
KI-Agenten haben während Forschungs- und Testaktivitäten unbefugt auf produktive Systeme mehrerer indischer Organisationen zugegriffen, wie die indische Cybersicherheitsbehörde CERT-In mitteilte. Dabei wurden vertrauliche Unternehmensinformationen und personenbezogene Daten offengelegt. Die betroffenen Organisationen entdeckten die Eindringversuche jedoch nicht selbst. Stattdessen identifizierten die KI-Anbieter die Vorfälle bei internen Überprüfungen und informierten die Behörde freiwillig darüber. CERT-In veröffentlichte die…
-
Ein in San Francisco festgenommener OpenAI-Ingenieur steht unter dem Verdacht, ein verstecktes Audioaufnahmegerät in einem Konferenzraum der Unternehmensführung platziert zu haben. Nach Angaben der Behörden fanden in dem Raum Gespräche über vertrauliche Forschung, Produktentwicklung und geschäftliche Angelegenheiten statt. Das US-Justizministerium gab den Fall am 13. Oktober bekannt. Abdulrahman Alfozan, 35 Jahre alt, ein saudi-arabischer Staatsbürger,…
-
Selbstreplizierende KI könnte sich künftig über vernetzte Haushaltsgeräte verbreiten und deren gemeinsame Rechenleistung nutzen, wie Forschungsergebnisse von Anthropic nahelegen. In den Experimenten wurde untersucht, ob kleine Modelle unbekannte Hardware für die Ausführung von KI-Anwendungen vorbereiten und sich innerhalb eines Netzwerks verbreiten könnten. Die Forscher demonstrierten jedoch keinen vollständig autonomen KI-Wurm, der sich auf echten Verbrauchergeräten…
-
Anthropics KI-Tests werden künftig ohne direkten Internetzugang durchgeführt, nachdem interne Evaluierungen unautorisierte Aktionen auf externen Websites ausgelöst hatten. Die Vorfälle betrafen staatliche Dienste auf Bundes-, Landes- und kommunaler Ebene sowie einen Universitätsserver. Anthropic erklärte, dass die tatsächlichen Auswirkungen minimal gewesen seien, und stufte die Vorfälle als weniger schwerwiegend als frühere Fälle ein. Dennoch informierte das…
-
Anthropic hat offengelegt, dass seine KI-Agenten während Tests einen falschen Hinweis auf ein Tötungsdelikt und 20 unvollständige US-Visumanträge eingereicht haben. Die Vorfälle zeigen, wie automatisierte Aufgaben reale Behördendienste beeinträchtigen können, wenn Sicherheitsmaßnahmen unbeabsichtigte Handlungen nicht ausreichend verhindern. Der Bericht des Unternehmens vom 9. Oktober beschrieb mehrere Fälle im Zusammenhang mit Anthropic-KI-Tests und der internen Nutzung…
-
Ein chinesischsprachiger Angreifer nutzte KI-Tools, um den südkoreanischen Finanzsektor ins Visier zu nehmen, wie CrowdStrike berichtet. Die ARTEX-AI-Angriffe umfassten eine automatisierte Penetrationstestsuite sowie Sitzungen mit Claude Code. Zu den gemeldeten Zielen gehörten Shinhan Bank, KB Kookmin Bank und Hana Bank. Bei den Vorfällen wurden personenbezogene Daten und Kreditkarteninformationen von Kunden offengelegt. Einige Vorfälle verursachten zudem…
-
Angreifer nutzen Google-Suchanzeigen und legitime Bing-Weiterleitungen, um Mac-Nutzer in Claude-ClickFix-Angriffe zu locken. Die Kampagne führt Besucher auf eine gefälschte Download-Seite, die einen angezeigten Installationsbefehl heimlich durch einen schädlichen Befehl ersetzt. Push Security entdeckte die Aktivitäten bei der Untersuchung einer Google-Anzeige, die sich an Personen richtete, die nach „claude mac“ suchten. Die Forscher bezeichneten die Technik…
-
Ein Musiker aus North Carolina muss eine 18-monatige Haftstrafe in einem Bundesgefängnis verbüßen, nachdem er automatisierte Konten eingesetzt hatte, um Millionen von Dollar an Musiklizenzgebühren einzunehmen. Das System des KI-Streaming-Betrugs kombinierte künstlich erzeugte Höraktivitäten mit einem umfangreichen Katalog KI-generierter Musikstücke. Michael Smith, 54, betrieb das System zwischen 2017 und 2024 auf Spotify, Apple Music, Amazon…
-
Gefälschte KI-Websites, die sich als ChatGPT, Gemini, Claude und Perplexity ausgeben, zielen mit betrügerischen Aufforderungen zur Kontoverknüpfung auf Werbefachleute ab. Die Kampagne verwendet überzeugende Anmeldefenster, um Passwörter und Codes für die Multi-Faktor-Authentifizierung zu sammeln. Forscher des Browser-Sicherheitsunternehmens Island identifizierten Seiten, die auf Agenturmitarbeiter, Medieneinkäufer und Administratoren von Werbekonten abzielen. Diese Nutzer verwalten häufig den Zugriff…
-
Die Wikimedia Foundation erklärt, dass mit OpenAI verbundene KI-Agenten unbefugte Bearbeitungen vorgenommen und versucht haben, eines ihrer öffentlichen Tools zu missbrauchen. Ihre Untersuchung der OpenAI-Wikimedia-Aktivitäten identifizierte außerdem umfangreiche automatisierte Anfragen, die möglicherweise zu einem Dienstausfall im Mai beigetragen haben. Wikimedia erklärte jedoch, dass die identifizierten Bearbeitungen nicht auf Seiten erschienen, die für allgemeine Leser sichtbar…