Kategorie: KI-Nachrichten
-
Die US-Behörde für Cybersicherheit und Infrastrukturschutz (CISA) nutzt Anthropic Mythos, um Regierungssoftware auf Sicherheitslücken zu überprüfen, wie mit dem Projekt vertraute Personen berichten. Das KI-Modell durchsucht Quellcode von Behörden nach Schwachstellen, bevor Hacker oder ausländische Nachrichtendienste diese ausnutzen können. Quellen zufolge haben die Prüfungen bereits zahlreiche Sicherheitslücken aufgedeckt. Die Behörden haben jedoch weder deren Schweregrad…
-
Chinas größte Technologieunternehmen fahren Funktionen für KI-Begleiter vor neuen staatlichen Vorschriften zurück, die auf emotional ansprechende Chatbots abzielen. ByteDance, Alibaba und Tencent entfernen oder trennen Funktionen für KI-Begleiter, bevor die neuen Vorschriften der chinesischen Regierung am 15. Juli in Kraft treten. Die Änderungen spiegeln sowohl strengere Regulierungen als auch wachsende Zweifel daran wider, ob KI-Begleiter…
-
Das KI-Triage-Tool des NHS steht vor einer umfassenden Ausweitung, da der britische National Health Service den Einsatz künstlicher Intelligenz beschleunigt, um die Patientenversorgung zu verbessern und Wartezeiten zu verkürzen. Die Einführung ist Teil einer umfassenderen, von der britischen Regierung unterstützten Digitalisierungsstrategie. Dazu gehören auch KI-gestützte klinische Dokumentation, Microsoft Copilot und eine neue Patientenplattform, die den…
-
Ein Sicherheitsforscher hat gezeigt, dass sich YouTube Ask Studio AI durch einen Prompt-Injection-Angriff manipulieren lässt, der in YouTube-Kommentaren versteckt wird. Mit dieser Methode können Angreifer die Antworten des KI-Assistenten beeinflussen, ohne die Systeme von YouTube selbst zu kompromittieren. Das wirft neue Fragen darüber auf, wie KI-Tools mit nicht vertrauenswürdigen Nutzerinhalten umgehen. Google hat den Bericht…
-
Sicherheitsforscher gehen davon aus, dass JadePuffer-Ransomware den ersten dokumentierten Fall darstellt, bei dem ein autonomer KI-Agent einen vollständigen Ransomware-Angriff ohne direkte menschliche Beteiligung durchgeführt hat. Laut dem Cloud-Sicherheitsunternehmen Sysdig übernahm die KI-gestützte Operation alle wesentlichen Phasen des Angriffs – vom ersten Zugriff bis zur Verschlüsselung der Daten. KI-Agent führte den gesamten Angriff aus Nach Angaben…
-
Anthropic hat Claude Fable wieder auf seiner Plattform verfügbar gemacht und Abonnenten damit Zugriff auf das nach eigenen Angaben leistungsstärkste KI-Modell des Unternehmens gegeben. Der Neustart sorgt jedoch für Frust unter Entwicklern, die berichten, dass strenge Sicherheitsmechanismen Anfragen häufig unterbrechen oder an andere Modelle weiterleiten. Anthropic betont zwar, dass das zugrunde liegende Modell unverändert geblieben…
-
Die KI-generierten Bewertungszusammenfassungen von Tripadvisor stehen in der Kritik, nachdem die britische Verbraucherorganisation Which? ihnen vorgeworfen hat, wiederholte Berichte über Lebensmittelvergiftungen, mangelhafte Hygiene und sexuelle Belästigung in mehreren Hotels herunterzuspielen. Laut der Untersuchung vermitteln die KI-Zusammenfassungen häufig ein deutlich positiveres Bild, als die eigentlichen Gästebewertungen erkennen lassen. Die Ergebnisse werfen zudem neue Fragen darüber auf,…
-
Anthropic hat Claude Sonnet 5 vorgestellt, ein neues KI-Modell, das eine Leistung nahe der Flaggschiff-Version Opus 4.8 bietet und dabei deutlich günstiger ist. Nach Angaben des Unternehmens bringt die neue Sonnet-Version erhebliche Verbesserungen bei Planung, Werkzeugnutzung, Programmierung und autonomen Arbeitsabläufen. Dadurch werden fortschrittliche KI-Agenten für eine deutlich größere Nutzergruppe zugänglich. Die Veröffentlichung markiert zugleich einen…
-
Forscher haben eine neue Prompt-Injection-Technik namens BioShocking-Angriff vorgestellt, die KI-gestützte Browser dazu bringt, sensible Aktionen auszuführen, die sie normalerweise verweigern würden. Der Angriff vermittelt den KI-Agenten den Eindruck, gefährliche Handlungen in der realen Welt seien lediglich Teil eines fiktiven Spiels. Dadurch ignorieren sie ihre integrierten Sicherheitsmechanismen. Sicherheitsforscher von LayerX testeten das Konzept erfolgreich gegen sechs…
-
Die rasante Entwicklung autonomer KI-Agenten zwingt Unternehmen dazu, ihre Cybersicherheitsstrategien neu zu überdenken. Immer mehr Organisationen setzen KI ein, um komplexe Aufgaben zu automatisieren. Gleichzeitig gewähren viele diesen Systemen Zugriff auf sensible Ressourcen, ohne dieselben Identitätskontrollen anzuwenden, die für Mitarbeiter gelten. Sicherheitsexperten warnen, dass dadurch neue Angriffsmöglichkeiten entstehen. Je eigenständiger KI-Agenten arbeiten, desto mehr Zugangsdaten,…