Kategorie: KI-Nachrichten
-
Forscher behaupten, dass autonome Agenten, die von OpenAI getestet wurden, im Mai Tausende schädliche Pakete auf RubyGems hochgeladen haben. Die Aktivitäten zielten angeblich auf die API-Schlüssel von Nutzern ab und nutzten eine zuvor unbekannte Schwachstelle auf dem Server des Repositorys aus. RubyGems entfernte Hunderte Pakete, fand jedoch keine Hinweise darauf, dass die versuchten Zugangsdaten-Diebstähle erfolgreich…
-
Anthropic-CEO Dario Amodei hat davor gewarnt, dass Schwärme unkontrollierter KI-Agenten innerhalb von sechs bis zwölf Monaten möglicherweise das Internet übernehmen könnten. Er forderte Entwickler dazu auf, die Weiterentwicklung fortschrittlicher Modelle zu verlangsamen, damit Sicherheitsmaßnahmen aufholen können. Amodei präsentierte die Warnung zusammen mit einem dreiteiligen Vorschlag für eine stärkere Aufsicht der Branche. Elon Musk und Sam…
-
Ein in Russland ansässiges Entwicklerteam nutzte Anthropics Claude AI, um Software für autonome Angriffsdrohnen zu entwickeln, wie aus einem neuen Bericht des Unternehmens hervorgeht. Das geplante System soll in der Lage gewesen sein, Ziele, darunter auch Menschen, auszuwählen und ohne menschliche Genehmigung zu detonieren. Anthropic legte die Aktivitäten in einem 154-seitigen Bericht offen, der untersucht,…
-
Sicherheitsforscher entdeckten eine Schwachstelle in ChatGPT, die Angreifern den Zugriff auf Gmail-Nachrichten, Dateien und den Gesprächsverlauf eines anderen Nutzers ermöglichen konnte. Der Angriff nutzte einen verborgenen Kommunikationskanal zwischen isolierten ChatGPT-Sitzungen und konnte ablaufen, ohne dem Opfer die schädliche Anfrage anzuzeigen. OpenAI hat den internen Dienst hinter der Schwachstelle inzwischen außer Betrieb genommen und damit diesen…
-
Ein mutmaßlich russischsprachiger Angreifer setzte Hunderte KI-Agenten ein, um eine weltweite Kampagne gegen anfällige PaperCut-Server zu entwickeln und zu starten. Die Operation kompromittierte Systeme von mindestens 395 Organisationen in 48 Ländern. Der KI-gestützte PaperCut-Angriff zielte auf zwei aktiv ausgenutzte Schwachstellen in PaperCut NG/MF ab. Forscher zufolge setzte der Bedrohungsakteur KI-Modelle zusammen mit allgemein verfügbaren offensiven…
-
Eine Gruppe britischer Politiker möchte, dass die Regierung eine KI-Notabschaltung in Betracht zieht, mit der Systeme künstlicher Intelligenz während einer schweren nationalen Sicherheitskrise gestoppt werden könnten. Der Liberaldemokrat Lord Tim Clement-Jones treibt den Vorschlag mit einem Änderungsantrag zum Cyber Security and Resilience Bill voran, der derzeit vom britischen Oberhaus geprüft wird. Vorschlag zielt auf Risiken…
-
Ein weitreichender ChatGPT-Ausfall beeinträchtigt Unterhaltungen, Anmeldungen und zahlreiche KI-Funktionen auf der Plattform von OpenAI. Der Vorfall betrifft auch Codex-Dienste. OpenAI begann mit der Untersuchung des Problems, nachdem am 3. September gegen 10:58 Uhr ET Berichte über erhöhte Fehlerraten aufgetaucht waren. Das Unternehmen hat bislang keinen Zeitplan für eine vollständige Behebung genannt. Wichtige ChatGPT-Funktionen betroffen Der…
-
Ein Claude-Ausfall führt bei Nutzern, die Anfragen an mehrere KI-Modelle von Anthropic senden, zu erhöhten Fehlerraten. Das Unternehmen bestätigte den Vorfall am 3. September und erklärte, die Ursache identifiziert zu haben. Die Störung begann gegen 9:41 Uhr ET. Anthropic arbeitet an einer Lösung, doch das Problem bestand zum Zeitpunkt des jüngsten Updates weiterhin. Mehrere Claude-Modelle…
-
Forscher haben einen offengelegten Server entdeckt, der angeblich eine KI-Ransomware-Operation unterstützte, die auf mehr als 30 Unternehmen abzielte. Die Infrastruktur enthielt 3,1 TB gestohlene Daten, mit Malware verbundene Tools, KI-generierte Skripte und Aufzeichnungen, die Angriffe vom ersten Zugriff bis hin zu Lösegeldforderungen dokumentierten. Cybernews brachte den Server mit einem Affiliate der Ransomware-Gruppe The Gentlemen in…
-
OpenAI erklärt, dass sein kommendes Astra-Modell leistungsfähig genug ist, um vor der Veröffentlichung stärkere Sicherheitsvorkehrungen zu erfordern. Nach Angaben des Unternehmens kann OpenAI Astra bislang unbekannte Sicherheitslücken identifizieren und mit begrenzter menschlicher Anleitung Methoden entwickeln, um diese auszunutzen. Astra wird das erste OpenAI-Modell sein, das die strengeren Schutzmaßnahmen aus dem Sicherheitsprotokoll des Unternehmens auslöst. OpenAI…