Kategori: KI-nyhende
-
Anthropics vd Dario Amodei har varnat för att svärmar av okontrollerade AI-agenter potentiellt kan ta över internet inom sex till tolv månader. Han uppmanade utvecklare att bromsa förbättringarna av avancerade modeller medan säkerhetsåtgärderna hinner ikapp. Amodei presenterade varningen tillsammans med ett förslag i tre delar för starkare tillsyn inom branschen. Elon Musk och Sam Altman…
-
Et utviklingsteam basert i Russland brukte Anthropics Claude AI til å lage programvare for autonome angrepsdroner, ifølge en ny rapport fra selskapet. Det foreslåtte systemet skal angivelig kunne velge ut mål, inkludert mennesker, og detonere uten menneskelig godkjenning. Anthropic avslørte aktiviteten i en 154 sider lang rapport som undersøker hvordan trusselaktører misbruker Claude. Selskapet utestengte…
-
Sikkerhetsforskere oppdaget en sårbarhet i ChatGPT som kunne gjøre det mulig for angripere å få tilgang til en annen brukers Gmail-meldinger, filer og samtalehistorikk. Angrepet brukte en skjult kommunikasjonskanal mellom isolerte ChatGPT-økter og kunne gjennomføres uten at den skadelige forespørselen ble vist til offeret. OpenAI har siden tatt den interne tjenesten bak sårbarheten ut av…
-
En mistenkt russisktalende angriper brukte hundrevis av AI-agenter til å utvikle og gjennomføre en verdensomspennende kampanje mot sårbare PaperCut-servere. Operasjonen kompromitterte systemer som tilhørte minst 395 organisasjoner i 48 land. Det AI-drevne PaperCut-angrepet rettet seg mot to aktivt utnyttede sårbarheter i PaperCut NG/MF. Forskere sier at trusselaktøren brukte AI-modeller sammen med lett tilgjengelige offensive sikkerhetsverktøy.…
-
En gruppe britiske politikere ønsker at regjeringen skal vurdere en nødstoppmekanisme for KI som kan stanse kunstig intelligens-systemer under en alvorlig nasjonal sikkerhetskrise. Liberaldemokraten Lord Tim Clement-Jones leder forslaget gjennom et tillegg til Cyber Security and Resilience Bill, som nå behandles av det britiske Overhuset. Forslaget retter seg mot risiko for kritisk infrastruktur Den foreslåtte…
-
Et omfattende ChatGPT-avbrudd forstyrrer samtaler, innlogging og en rekke AI-funksjoner på OpenAIs plattform. Hendelsen påvirker også Codex-tjenester. OpenAI begynte å undersøke problemet etter at rapporter om økte feilrater dukket opp rundt klokken 10.58 ET den 3. september. Selskapet har ennå ikke oppgitt noen tidsplan for en fullstendig løsning. Viktige ChatGPT-funksjoner er berørt ChatGPT-avbruddet påvirker mange…
-
Et Claude-avbrudd fører til økte feilrater for brukere som sender forespørsler til flere av Anthropics AI-modeller. Selskapet bekreftet hendelsen 3. september og opplyste at det hadde identifisert årsaken. Forstyrrelsen begynte rundt klokken 09.41 ET. Anthropic arbeider med en løsning, men problemet pågikk fortsatt i selskapets siste oppdatering. Flere Claude-modeller er berørt Anthropic rapporterte først om…
-
Forskere har avdekket en eksponert server som angivelig støttet en AI-ransomwareoperasjon rettet mot mer enn 30 selskaper. Infrastrukturen inneholdt 3,1 TB stjålne data, verktøy knyttet til skadevare, AI-genererte skript og registre som dekket angrep fra første tilgang til krav om løsepenger. Cybernews knyttet serveren til en affiliate av ransomwaregruppen The Gentlemen. Forskerne sier at operasjonen…
-
OpenAI sier at den kommende Astra-modellen er kraftig nok til å kreve sterkere sikkerhetstiltak før lansering. Selskapet sier at OpenAI Astra kan identifisere tidligere ukjente sikkerhetssårbarheter og utvikle metoder for å utnytte dem med begrenset menneskelig veiledning. Astra blir den første OpenAI-modellen som utløser de strengere beskyttelsestiltakene i selskapets sikkerhetsprotokoll. OpenAI planlegger å tilby begrenset…
-
Sony Music Publishing og Warner Chappell har levert inn et søksmål mot Anthropic og anklager AI-selskapet for å ha brukt opphavsrettsbeskyttede sanger og sangtekster til å trene Claude-modellene sine uten tillatelse. Musikkforlagene hevder at Anthropic skaffet seg beskyttede verk gjennom torrenting, scraping, nedlastinger og ulovlige nettbiblioteker. De hevder at den påståtte aktiviteten omfattet musikk i…