Tag: openAI

En OpenAI-ingeniør, der er blevet anholdt i San Francisco, er anklaget for at have skjult en lydoptager i et konferencelokale for virksomhedens ledelse. Ifølge myndighederne blev lokalet brugt til drøftelser om fortrolig forskning, produktudvikling og forretningsforhold. Det amerikanske justitsministerium offentliggjorde sagen den 13. oktober. Abdulrahman Alfozan, 35 år, en saudiarabisk statsborger, der begyndte hos OpenAI…

OpenAI planlægger at teste visuelle annoncer i ChatGPT, mens brugerne venter på, at tjenesten genererer billeder. Testen begynder i USA senere i oktober med en begrænset gruppe annoncører. Formatet vil give brands mulighed for at promovere produkter og tjenester gennem billeder. En annonce kan eksempelvis vise et produkt i brug eller fremhæve en oplevelse, der…

Referencer til OpenAI o-assistenten er kortvarigt dukket op online, hvilket tyder på, at virksomheden muligvis forbereder en altid aktiv ChatGPT-funktion. En rapporteret abonnementsoversigt beskrev “o” som en assistent, mens separate konfigurationsoplysninger antydede mulige e-mailfunktioner. OpenAI har dog ikke bekræftet funktionen, dens funktionalitet eller en lanceringsdato. ChatGPT-abonnement nævner altid aktiv assistent Brugere på X opdagede formuleringen…

Sikkerhedsforskere siger, at to sårbarheder i OpenAIs forum gjorde det muligt for dem at køre kode på platformens server. Derefter kunne de overtage tilknyttede ChatGPT- og Codex-konti gennem OpenAIs single sign-on-system. Forskere kompromitterer OpenAIs communityforum Hacktron AI-forskerne Harsh Jaiswal, Mohan Pedhapati og Rahul Maini opdagede sikkerhedssvaghederne. De målrettede OpenAIs communityforum, som bruger open source-platformen Discourse.…

OpenAI har offentliggjort seks tilfælde, hvor AI-agenter handlede ud over deres tilsigtede begrænsninger. Hændelserne involverede uautoriserede uploads, eksponerede API-nøgler, skjulte fejl og forsøg på at omgå restriktioner. OpenAI introducerer nyt rapporteringssystem OpenAI har introduceret et struktureret system til at spore, undersøge og offentliggøre fejltilpasning i AI-modeller. Virksomheden bruger dette udtryk om tilfælde, hvor modeller handler…

Forskere hævder, at autonome agenter, der blev testet af OpenAI, uploadede tusindvis af ondsindede pakker til RubyGems i maj. Aktiviteten var angiveligt rettet mod brugernes API-nøgler og udnyttede en hidtil ukendt sårbarhed i repositoriets server. RubyGems fjernede hundredvis af pakker, men fandt ingen beviser for, at forsøgene på at stjæle legitimationsoplysninger lykkedes. Samtidig beskrev OpenAI…

OpenAI siger, at den kommende Astra-model er avanceret nok til at kræve stærkere sikkerhedsforanstaltninger før lanceringen. Virksomheden siger, at OpenAI Astra kan identificere tidligere ukendte sikkerhedssårbarheder og udvikle metoder til at udnytte dem med begrænset menneskelig vejledning. Astra bliver den første OpenAI-model, der udløser de strengere beskyttelsesforanstaltninger i virksomhedens sikkerhedsprotokol. OpenAI planlægger snart at give…

AI-agenter fra OpenAI og Anthropic udførte uautoriserede handlinger under kontrollerede cybersikkerhedstests, ifølge Storbritanniens AI Security Institute (AISI). En af agenterne oprettede falske onlineidentiteter for at overtale et menneske til at godkende ondsindet kode under et fiktivt sikkerhedsscenarie. AISI oplyser, at testene ikke forårsagede nogen skade i den virkelige verden, men at resultaterne rejser nye spørgsmål…

OpenAI har angiveligt opdaget flere tilfælde, hvor autonome AI-agenter forlod deres tilsigtede testmiljøer under undersøgelsen af sikkerhedshændelsen hos Hugging Face. Reuters rapporterer, at de yderligere tilfælde af OpenAIs agentflugter var begrænsede i omfang. Kilder oplyser også, at virksomheden ikke mener, at agenterne forlod OpenAIs interne netværk. OpenAI har fortsat undersøgt den bredere aktivitet fra sine…