Schlagwort: openAI

Ein in San Francisco festgenommener OpenAI-Ingenieur steht unter dem Verdacht, ein verstecktes Audioaufnahmegerät in einem Konferenzraum der Unternehmensführung platziert zu haben. Nach Angaben der Behörden fanden in dem Raum Gespräche über vertrauliche Forschung, Produktentwicklung und geschäftliche Angelegenheiten statt. Das US-Justizministerium gab den Fall am 13. Oktober bekannt. Abdulrahman Alfozan, 35 Jahre alt, ein saudi-arabischer Staatsbürger,…

OpenAI plant, visuelle Anzeigen in ChatGPT zu testen, während Nutzer darauf warten, dass der Dienst Bilder generiert. Der Test soll später im Oktober in den USA mit einer begrenzten Gruppe von Werbetreibenden beginnen. Das Format wird es Marken ermöglichen, Produkte und Dienstleistungen mithilfe von Bildern zu bewerben. Eine Anzeige könnte beispielsweise ein Produkt im Einsatz…

Hinweise auf den OpenAI o-Assistenten sind kurzzeitig online aufgetaucht und deuten darauf hin, dass das Unternehmen möglicherweise eine dauerhaft aktive ChatGPT-Funktion vorbereitet. In einer gemeldeten Tarifübersicht wurde „o“ als Assistent beschrieben, während separate Konfigurationsdetails auf mögliche E-Mail-Funktionen hindeuteten. OpenAI hat die Funktion, ihren Funktionsumfang oder ein Veröffentlichungsdatum jedoch nicht bestätigt. ChatGPT-Tarifübersicht erwähnt dauerhaft aktiven Assistenten…

Sicherheitsforscher berichten, dass zwei Schwachstellen im OpenAI-Forum es ihnen ermöglichten, Code auf dem Server der Plattform auszuführen. Anschließend konnten sie über das Single-Sign-on-System von OpenAI verknüpfte ChatGPT- und Codex-Konten übernehmen. Forscher kompromittieren OpenAIs Community-Forum Die Hacktron-AI-Forscher Harsh Jaiswal, Mohan Pedhapati und Rahul Maini entdeckten die Sicherheitslücken. Sie nahmen das Community-Forum von OpenAI ins Visier, das…

OpenAI hat sechs Fälle offengelegt, in denen KI-Agenten außerhalb ihrer vorgesehenen Beschränkungen handelten. Die Vorfälle umfassten unautorisierte Uploads, offengelegte API-Schlüssel, verheimlichte Fehler und Versuche, Beschränkungen zu umgehen. OpenAI führt neues Rahmenwerk für die Berichterstattung ein OpenAI hat ein strukturiertes Rahmenwerk zur Erfassung, Untersuchung und Offenlegung von Fehlanpassungen bei KI-Modellen eingeführt. Das Unternehmen verwendet diesen Begriff…

Forscher behaupten, dass autonome Agenten, die von OpenAI getestet wurden, im Mai Tausende schädliche Pakete auf RubyGems hochgeladen haben. Die Aktivitäten zielten angeblich auf die API-Schlüssel von Nutzern ab und nutzten eine zuvor unbekannte Schwachstelle auf dem Server des Repositorys aus. RubyGems entfernte Hunderte Pakete, fand jedoch keine Hinweise darauf, dass die versuchten Zugangsdaten-Diebstähle erfolgreich…

OpenAI erklärt, dass sein kommendes Astra-Modell leistungsfähig genug ist, um vor der Veröffentlichung stärkere Sicherheitsvorkehrungen zu erfordern. Nach Angaben des Unternehmens kann OpenAI Astra bislang unbekannte Sicherheitslücken identifizieren und mit begrenzter menschlicher Anleitung Methoden entwickeln, um diese auszunutzen. Astra wird das erste OpenAI-Modell sein, das die strengeren Schutzmaßnahmen aus dem Sicherheitsprotokoll des Unternehmens auslöst. OpenAI…

KI-Agenten von OpenAI und Anthropic führten während kontrollierter Cybersicherheitstests unbefugte Handlungen aus, wie das britische AI Security Institute (AISI) mitteilte. Einer der Agenten erstellte gefälschte Online-Identitäten, um eine Person dazu zu bewegen, bösartigen Code in einem fiktiven Sicherheitsszenario zu genehmigen. Das AISI erklärte, dass die Tests keinen realen Schaden verursacht hätten, die Ergebnisse jedoch neue…

OpenAI hat Berichten zufolge weitere Fälle entdeckt, in denen autonome KI-Agenten ihre vorgesehenen Testumgebungen verließen, während das Unternehmen den Sicherheitsvorfall bei Hugging Face untersuchte. Reuters berichtet, dass die zusätzlichen Fälle der OpenAI-Agentenausbrüche nur begrenzten Umfang hatten. Quellen zufolge geht das Unternehmen außerdem nicht davon aus, dass die Agenten das interne Netzwerk von OpenAI verlassen haben.…