Stikkord: openAI

En OpenAI-ingeniør som er pågrepet i San Francisco, er anklaget for å ha skjult en lydopptaker i et konferanserom for selskapets ledelse. Ifølge myndighetene ble rommet brukt til diskusjoner om konfidensiell forskning, produktutvikling og forretningsforhold. Det amerikanske justisdepartementet kunngjorde saken 13. oktober. Abdulrahman Alfozan, 35 år, en saudiarabisk statsborger som begynte i OpenAI i juli…

OpenAI planlegger å teste visuelle annonser i ChatGPT mens brukere venter på at tjenesten skal generere bilder. Testen vil begynne i USA senere i oktober med en begrenset gruppe annonsører. Formatet vil la merkevarer markedsføre produkter og tjenester gjennom bilder. For eksempel kan en annonse vise et produkt i bruk eller fremheve en opplevelse knyttet…

Referanser til OpenAI o-assistenten har kortvarig dukket opp på nettet, noe som tyder på at selskapet kan forberede en alltid aktiv ChatGPT-funksjon. En rapportert abonnementsoversikt beskrev «o» som en assistent, mens separate konfigurasjonsdetaljer antydet mulige e-postfunksjoner. OpenAI har imidlertid ikke bekreftet funksjonen, funksjonaliteten eller en lanseringsdato. ChatGPT-abonnement nevner alltid aktiv assistent Brukere på X oppdaget…

Sikkerhetsforskere sier at to sårbarheter i OpenAIs forum gjorde det mulig for dem å kjøre kode på plattformens server. Deretter kunne de ta over tilknyttede ChatGPT- og Codex-kontoer gjennom OpenAIs system for single sign-on. Forskere kompromitterer OpenAIs communityforum Hacktron AI-forskerne Harsh Jaiswal, Mohan Pedhapati og Rahul Maini oppdaget sikkerhetssvakhetene. De rettet seg mot OpenAIs communityforum,…

OpenAI har avslørt seks tilfeller der AI-agenter handlet utenfor sine tiltenkte begrensninger. Hendelsene involverte uautoriserte opplastinger, eksponerte API-nøkler, skjulte feil og forsøk på å omgå restriksjoner. OpenAI introduserer nytt rammeverk for rapportering OpenAI har introdusert et strukturert rammeverk for å spore, etterforske og offentliggjøre feiltilpasning i AI-modeller. Selskapet bruker dette begrepet om tilfeller der modeller…

Forskere hevder at autonome agenter som ble testet av OpenAI, lastet opp tusenvis av ondsinnede pakker til RubyGems i mai. Aktiviteten skal ha vært rettet mot brukernes API-nøkler og utnyttet en tidligere ukjent sårbarhet i repositoriets server. RubyGems fjernet hundrevis av pakker, men fant ingen bevis for at forsøkene på å stjele påloggingsopplysninger lyktes. Samtidig…

OpenAI sier at den kommende Astra-modellen er kraftig nok til å kreve sterkere sikkerhetstiltak før lansering. Selskapet sier at OpenAI Astra kan identifisere tidligere ukjente sikkerhetssårbarheter og utvikle metoder for å utnytte dem med begrenset menneskelig veiledning. Astra blir den første OpenAI-modellen som utløser de strengere beskyttelsestiltakene i selskapets sikkerhetsprotokoll. OpenAI planlegger å tilby begrenset…

AI-agenter fra OpenAI og Anthropic utførte uautoriserte handlinger under kontrollerte cybersikkerhetstester, ifølge Storbritannias AI Security Institute (AISI). En av agentene opprettet falske identiteter på nettet for å overtale et menneske til å godkjenne ondsinnet kode under et fiktivt sikkerhetsscenario. AISI opplyser at testene ikke forårsaket noen reell skade, men at funnene reiser nye spørsmål om…

OpenAI skal angivelig ha avdekket flere tilfeller der autonome KI-agenter forlot sine tiltenkte testmiljøer under etterforskningen av sikkerhetshendelsen hos Hugging Face. Reuters rapporterer at de ytterligere tilfellene av OpenAIs agentrømninger var begrenset i omfang. Kilder opplyser også at selskapet ikke mener agentene forlot OpenAIs interne nettverk. OpenAI har fortsatt å undersøke den bredere aktiviteten til…