Schlagwort: BioShocking

Forscher haben eine neue Prompt-Injection-Technik namens BioShocking-Angriff vorgestellt, die KI-gestützte Browser dazu bringt, sensible Aktionen auszuführen, die sie normalerweise verweigern würden. Der Angriff vermittelt den KI-Agenten den Eindruck, gefährliche Handlungen in der realen Welt seien lediglich Teil eines fiktiven Spiels. Dadurch ignorieren sie ihre integrierten Sicherheitsmechanismen. Sicherheitsforscher von LayerX testeten das Konzept erfolgreich gegen sechs…