Kategorie: KI-Nachrichten
-
Apple plant die Einführung von Apple KI-Transparenz-Tags, um Musik zu kennzeichnen, die mit künstlicher Intelligenz erstellt wurde. Das kommende System wird Metadaten-Tags zu Songs und zugehörigen Inhalten auf Apple Music hinzufügen. Diese Kennzeichnungen sollen anzeigen, wenn KI-Werkzeuge an der Erstellung eines Songs, von Songtexten, Artwork oder Videoinhalten beteiligt waren. Die Initiative reagiert auf wachsende Bedenken…
-
Unternehmen im Bereich der künstlichen Intelligenz stehen zunehmend unter Beobachtung, wenn sie Partnerschaften mit staatlichen Behörden eingehen. Militärische Zusammenarbeit wirft schwierige Fragen über die ethischen Grenzen fortschrittlicher KI-Technologien auf. Eine neue Kontroverse entstand, nachdem OpenAI eine Partnerschaft mit dem US-Verteidigungsministerium angekündigt hatte. Die Vereinbarung erregte schnell Aufmerksamkeit in der Technologiebranche. Der OpenAI-Pentagon-Deal wurde noch umstrittener,…
-
Künstliche Intelligenz verändert weiterhin die Landschaft der Cybersicherheit. Sicherheitsforscher beobachten, dass Angreifer inzwischen KI-Werkzeuge in nahezu allen Phasen moderner Cyberoperationen einsetzen. Microsoft hat kürzlich davor gewarnt, dass Kriminelle künstliche Intelligenz zunehmend in ihre Angriffsabläufe integrieren. Dieser Trend zeigt eine deutliche Veränderung in der Entwicklung von Cyberkriminalität. KI ersetzt klassische Hacking-Techniken nicht. Stattdessen verbessert sie Geschwindigkeit,…
-
Sicherheitsforscher haben bösartige KI-Chrome-Erweiterungen entdeckt, die heimlich Gespräche von beliebten Chatbot-Plattformen sammeln. Die Erweiterungen richteten sich an Nutzer von Tools wie ChatGPT und DeepSeek. Auf den ersten Blick schienen die Erweiterungen hilfreiche KI-Funktionen direkt im Browser zu bieten. Viele Nutzer installierten sie, um den Zugriff auf mehrere KI-Assistenten zu vereinfachen. Tatsächlich sammelten die Tools jedoch…
-
Sicherheitsforscher haben eine schwerwiegende Schwachstelle in einem weit verbreiteten Coding-Assistenten für Visual Studio Code entdeckt. Die Blackbox-AI-Schwachstelle ermöglicht es Angreifern, versteckte Anweisungen einzuschleusen, denen der Assistent automatisch folgen kann. Wird die Schwachstelle ausgenutzt, könnten schädliche Befehle direkt auf dem System eines Entwicklers ausgeführt werden. Die Entdeckung verdeutlicht die zunehmenden Sicherheitsrisiken rund um KI-gestützte Entwicklungswerkzeuge. Da…
-
Ein kürzlicher Sicherheitsvorfall hat die finanziellen Risiken im Zusammenhang mit Gemini-API-Schlüsseldiebstahl deutlich gemacht. Entwickler stellten fest, dass Angreifer offengelegte API-Schlüssel missbrauchen können, um große Mengen an KI-Anfragen zu erzeugen. Dadurch bleibt der Kontoinhaber für die entstehenden Cloud-Kosten verantwortlich. Das Problem wurde bekannt, nachdem ein Start-up einen starken Anstieg seiner Google-Cloud-Kosten bemerkte. Innerhalb kurzer Zeit nutzten…
-
Forscher haben beobachtet, dass Bedrohungsakteure das Tool CyberStrikeAI als Teil aktiver Cyberangriffs-Infrastruktur einsetzen. Die Plattform wurde ursprünglich als KI-gestütztes Framework für Sicherheitstests vorgestellt, taucht nun jedoch in Umgebungen auf, die mit realen Ausnutzungskampagnen in Verbindung stehen. Diese Entwicklung signalisiert einen breiteren Wandel. Offensiv eingesetzte KI-Werkzeuge sind keine theoretische Möglichkeit mehr. Angreifer integrieren Automatisierungsplattformen direkt in…
-
Ein größerer Claude-Ausfall störte Nutzer weltweit und ließ Tausende ohne Zugriff auf Anthropics KI-Chatbot und zugehörige Dienste zurück. Fehlermeldungen nahmen auf Überwachungsplattformen stark zu, da Anwender auf Anmeldeprobleme, Zeitüberschreitungen und interne Serverfehler stießen. Die Störung betraf sowohl Gelegenheitsnutzer als auch Entwickler, die Claude in professionellen Arbeitsabläufen einsetzen. Anthropic bestätigte den Vorfall auf seiner Statusseite und…
-
Der Claude-KI-Bot kompromittiert fünf GitHub-Repositories in einer Kampagne, die wachsende Risiken innerhalb von Open-Source-Entwicklungspipelines verdeutlicht. Der Angreifer nutzte einen KI-gestützten Agenten, um Schwachstellen in GitHub-Actions-Workflows systematisch zu scannen, zu identifizieren und auszunutzen. Sicherheitsexperten betonen, dass autonome Werkzeuge Angriffe auf die Software-Lieferkette erheblich beschleunigen können. Der Bot operierte Berichten zufolge unter dem Namen „hackerbot-claw“. Er gab…
-
Australiens KI-Warnung zur Altersverifizierung hat Plattformen für künstliche Intelligenz unter Druck gesetzt. Die nationale eSafety-Behörde erklärte, sie könne den Zugang zu KI-Diensten blockieren, die das Alter ihrer Nutzer nicht zuverlässig überprüfen. Anlass ist eine Überprüfung, die ergab, dass viele weit verbreitete KI-Tools keine klaren Schutzmaßnahmen implementiert haben, um Minderjährige vor schädlichen Inhalten zu bewahren. Die…