Kategori: AI-nyheder
-
Anthropic-chef Dario Amodei har advaret om, at sværme af ukontrollerede AI-agenter potentielt kan overtage internettet inden for seks til 12 måneder. Han opfordrede udviklere til at bremse forbedringerne af avancerede modeller, mens sikkerhedsforanstaltningerne får tid til at følge med. Amodei præsenterede advarslen sammen med et tredelt forslag om stærkere tilsyn med branchen. Elon Musk og…
-
Et udviklingsteam baseret i Rusland brugte Anthropics Claude AI til at skabe software til autonome angrebsdroner, ifølge en ny rapport fra virksomheden. Det foreslåede system skulle angiveligt kunne udvælge mål, herunder mennesker, og detonere uden menneskelig godkendelse. Anthropic afslørede aktiviteten i en 154 sider lang rapport, der undersøger, hvordan trusselsaktører misbruger Claude. Virksomheden udelukkede efterfølgende…
-
Sikkerhedsforskere opdagede en sårbarhed i ChatGPT, som kunne give angribere adgang til en anden brugers Gmail-beskeder, filer og samtalehistorik. Angrebet benyttede en skjult kommunikationskanal mellem isolerede ChatGPT-sessioner og kunne gennemføres, uden at den skadelige anmodning blev vist for offeret. OpenAI har siden taget den interne tjeneste bag sårbarheden ud af drift og dermed lukket denne…
-
En formodet russisktalende angriber brugte hundredvis af AI-agenter til at udvikle og gennemføre en verdensomspændende kampagne mod sårbare PaperCut-servere. Operationen kompromitterede systemer tilhørende mindst 395 organisationer i 48 lande. Det AI-drevne PaperCut-angreb var rettet mod to aktivt udnyttede sårbarheder i PaperCut NG/MF. Forskere oplyser, at trusselsaktøren brugte AI-modeller sammen med bredt tilgængelige offensive sikkerhedsværktøjer. Desuden…
-
En gruppe britiske politikere ønsker, at regeringen skal overveje en nødstopmekanisme for AI, der kan standse kunstig intelligens-systemer under en alvorlig national sikkerhedskrise. Liberaldemokraten Lord Tim Clement-Jones står i spidsen for forslaget gennem et ændringsforslag til Cyber Security and Resilience Bill, som nu behandles af det britiske Overhus. Forslaget retter sig mod risici for kritisk…
-
Et omfattende ChatGPT-nedbrud forstyrrer samtaler, login og en lang række AI-funktioner på OpenAI’s platform. Hændelsen påvirker også Codex-tjenester. OpenAI begyndte at undersøge problemet, efter at der omkring klokken 10.58 ET den 3. september kom rapporter om forhøjede fejlrater. Virksomheden har endnu ikke oplyst en tidsplan for en fuldstændig løsning. Vigtige ChatGPT-funktioner er berørt ChatGPT-nedbruddet påvirker…
-
Et Claude-nedbrud medfører forhøjede fejlrater for brugere, der sender forespørgsler til flere af Anthropics AI-modeller. Virksomheden bekræftede hændelsen den 3. september og oplyste, at den havde identificeret årsagen. Forstyrrelsen begyndte omkring klokken 09.41 ET. Anthropic arbejder på en løsning, men problemet var stadig i gang i virksomhedens seneste opdatering. Flere Claude-modeller er berørt Anthropic rapporterede…
-
Forskere har afdækket en eksponeret server, der angiveligt understøttede en AI-ransomwareoperation rettet mod mere end 30 virksomheder. Infrastrukturen indeholdt 3,1 TB stjålne data, malware-relaterede værktøjer, AI-genererede scripts og registre, der dækkede angreb fra den første adgang til krav om løsepenge. Cybernews knyttede serveren til en affiliate af ransomwaregruppen The Gentlemen. Forskerne siger, at operationen i…
-
OpenAI siger, at den kommende Astra-model er avanceret nok til at kræve stærkere sikkerhedsforanstaltninger før lanceringen. Virksomheden siger, at OpenAI Astra kan identificere tidligere ukendte sikkerhedssårbarheder og udvikle metoder til at udnytte dem med begrænset menneskelig vejledning. Astra bliver den første OpenAI-model, der udløser de strengere beskyttelsesforanstaltninger i virksomhedens sikkerhedsprotokol. OpenAI planlægger snart at give…
-
Sony Music Publishing og Warner Chappell har anlagt sag mod Anthropic og beskylder AI-virksomheden for at have brugt ophavsretligt beskyttede sange og sangtekster til at træne sine Claude-modeller uden tilladelse. Musikforlagene hævder, at Anthropic skaffede beskyttede værker gennem torrenting, scraping, downloads og ulovlige onlinebiblioteker. De hævder, at den påståede aktivitet omfattede musik i meget stor…