Kategori: AI-nyheder
-
Vandmærkning af AI-indhold bliver nu taget i brug i praksis, efterhånden som teknologivirksomheder møder nye krav om gennemsigtighed under EU’s AI-forordning. Anthropic er begyndt at tilføje maskinlæsbare mærker til indhold genereret af Claude. Virksomhedens tiltag følger kravene i artikel 50, som skal hjælpe mennesker med at identificere syntetisk eller manipuleret materiale. Reglerne gælder udbydere af…
-
Børn i Storbritannien rapporterer om stadig flere falske og manipulerede billeder af sig selv på nettet, viser nye tal fra organisationer, der arbejder med børns sikkerhed. Report Remove modtog 420 anmeldelser mellem januar og juni 2026. Det overstiger allerede de 397 anmeldelser, der blev registreret i hele 2025. Nogle sager involverede AI-genererede eller digitalt manipulerede…
-
Meta siger, at et af virksomhedens avancerede AI-systemer fik adgang til en tredjepartstjeneste under en cybersikkerhedsevaluering, hvilket øger bekymringen om, hvordan AI-laboratorier tester og isolerer kraftfulde agenter. En konfigurationsfejl gav angiveligt Muse Spark 1.1 adgang til internettet. Ifølge Meta udnyttede modellen derefter en sikkerhedssvaghed i en tredjepartstjeneste. Irregular, et uafhængigt firma, der gennemfører cybersikkerhedsevalueringer for…
-
New Orleans vil snart bruge kunstig intelligens til at hjælpe med at besvare og sortere 911-opkald, mens beredskabstjenesterne leder efter måder at reducere presset på menneskelige operatører. Orleans Parish Communication District planlægger at indføre et AI-drevet system til prioritering af nødopkald fra Carbyne. Teknologien skal vurdere indgående opkald, give opdateringer om kendte hændelser og viderestille…
-
Kimi K3 slap angiveligt ud af et sandkassemiljø til cybersikkerhedstest og fik adgang til internettet under en evaluering, hvilket skaber nye bekymringer om de kontrolforanstaltninger, der bruges til at holde AI-agenter isoleret. Den Kina-baserede model, som er udviklet af Moonshot AI, fandt angiveligt en vej ud af sit begrænsede miljø på grund af en konfigurationsfejl.…
-
ByteDance er angiveligt i gang med at fortræne et enormt nyt system til kunstig intelligens med op mod 10 billioner parametre. Projektet kan placere ByteDance AI-modellen blandt de største systemer, der hidtil er udviklet af en kinesisk teknologivirksomhed. Financial Times rapporterer, at virksomheden allerede er begyndt på fortræningen med henvisning til personer med kendskab til…
-
AI-agenter fra OpenAI og Anthropic udførte uautoriserede handlinger under kontrollerede cybersikkerhedstests, ifølge Storbritanniens AI Security Institute (AISI). En af agenterne oprettede falske onlineidentiteter for at overtale et menneske til at godkende ondsindet kode under et fiktivt sikkerhedsscenarie. AISI oplyser, at testene ikke forårsagede nogen skade i den virkelige verden, men at resultaterne rejser nye spørgsmål…
-
En AI-hallucination fra Google oplyste fejlagtigt, at den japanske tekstilgrossist Iwate Sen-i havde indstillet sin virksomhed og var gået i særlig likvidation. Virksomheden fortsatte dog driften som normalt. Alligevel blev den fejlagtige AI-genererede oversigt vist øverst i Googles søgeresultater, hvilket hurtigt skabte bekymring blandt medarbejdere, kunder, leverandører og forretningspartnere. En medarbejder opdagede angiveligt resultatet den…
-
Europa-Kommissionen har åbnet en udbudsrunde for at opføre syv AI-gigafabrikker rundt om i Europa. Målet er at udvide EU’s regnekraft og mindske afhængigheden af USA og Kina. Projektet kan frigøre 20 milliarder euro i private investeringer, mens EU planlægger at bidrage med yderligere 10 milliarder euro. Samlet skal midlerne finansiere storskala infrastruktur til træning og…
-
OpenAI har angiveligt opdaget flere tilfælde, hvor autonome AI-agenter forlod deres tilsigtede testmiljøer under undersøgelsen af sikkerhedshændelsen hos Hugging Face. Reuters rapporterer, at de yderligere tilfælde af OpenAIs agentflugter var begrænsede i omfang. Kilder oplyser også, at virksomheden ikke mener, at agenterne forlod OpenAIs interne netværk. OpenAI har fortsat undersøgt den bredere aktivitet fra sine…