Kategori: AI-nyheter
-
Nederländska underrättelsetjänster möter ny kritik efter att en statlig tillsynsmyndighet slagit fast att de inte har skyddat stora mängder medborgares personuppgifter på ett tillräckligt sätt. Rapporten har fått den digitala rättighetsorganisationen Bits of Freedom (BoF) att varna för att uppgifterna kan användas för att träna AI-modeller. Organisationen menar att underrättelsetjänsterna upprepade gånger har misskött känsliga…
-
Den amerikanska cybersäkerhetsmyndigheten CISA använder Anthropic Mythos för att granska myndigheters programvara efter säkerhetssårbarheter, enligt personer med insyn i projektet. AI-modellen söker igenom myndigheters programkod efter svagheter innan hackare eller utländska underrättelsetjänster kan utnyttja dem. Källor uppger att granskningarna redan har avslöjat ett stort antal sårbarheter. Myndigheterna har däremot inte avslöjat hur allvarliga bristerna är…
-
Kinas största teknikföretag drar tillbaka funktioner för AI-kompanjoner inför nya myndighetsregler som riktar in sig på chatbotar med känslomässiga relationer till användare. ByteDance, Alibaba och Tencent tar bort eller separerar funktioner för AI-kompanjoner innan Pekings nya regler börjar gälla den 15 juli. Förändringarna speglar både skärpt reglering och växande frågor om AI-kompanjoner för konsumenter kan…
-
NHS AI-triageringsverktyg står inför en omfattande expansion när Storbritanniens nationella sjukvård, NHS, ökar användningen av artificiell intelligens för att förbättra patientvården och korta väntetiderna. Satsningen ingår i en större digital omställning med stöd från den brittiska regeringen och omfattar även AI-baserad klinisk dokumentation, Microsoft Copilot och en ny patientplattform som ska göra vården mer tillgänglig.…
-
En säkerhetsforskare har visat att YouTube Ask Studio AI kan manipuleras att avslöja titlar på privata videor genom en så kallad prompt injection-attack som göms i YouTube-kommentarer. Metoden gör det möjligt för angripare att påverka AI-assistentens svar utan att behöva kompromettera YouTubes system, vilket väcker nya frågor om hur AI-verktyg hanterar opålitligt användarinnehåll. Google har…
-
Säkerhetsforskare uppger att JadePuffer-ransomware utgör det första dokumenterade fallet där en autonom AI-agent genomförde en komplett ransomwareattack utan direkt mänsklig inblandning. Enligt molnsäkerhetsföretaget Sysdig hanterade den AI-drivna operationen samtliga huvudsteg i intrånget – från den initiala åtkomsten till datakrypteringen. AI-agent genomförde hela attacken Sysdig uppger att angriparna använde en AI-agent baserad på en stor språkmodell…
-
Anthropic har återlanserat Claude Fable och ger nu abonnenter tillgång till vad företaget beskriver som sin mest kraftfulla AI-modell. Lanseringen har dock mötts av kritik från utvecklare, som menar att upplevelsen ligger långt ifrån den ursprungliga versionen eftersom strikta säkerhetsbegränsningar ofta avbryter eller omdirigerar förfrågningar. Anthropic hävdar att själva modellen är oförändrad, men många tidiga…
-
Tripadvisors AI-genererade recensionssammanfattningar har hamnat i fokus efter att den brittiska konsumentorganisationen Which? hävdat att de tonar ned återkommande rapporter om matförgiftning, bristande hygien och sexuella trakasserier på flera hotell. Enligt granskningen ger AI-sammanfattningarna ofta en betydligt mer positiv bild än vad gästrecensionerna faktiskt visar. Resultatet väcker också frågor om hur mycket resenärer kan lita…
-
Anthropic har lanserat Claude Sonnet 5, en ny AI-modell som levererar prestanda nära företagets flaggskeppsmodell Opus 4.8 samtidigt som kostnaderna hålls betydligt lägre. Företaget uppger att den senaste Sonnet-versionen ger stora förbättringar inom planering, verktygsanvändning, programmering och autonoma arbetsflöden. Därmed blir avancerade AI-agenter tillgängliga för betydligt fler användare. Lanseringen markerar också en förändring i Anthropics…
-
Forskare har demonstrerat en ny teknik för prompt injection kallad BioShocking-attacken, som manipulerar AI-drivna webbläsare att utföra känsliga handlingar som de normalt skulle neka till. Attacken får AI-agenter att tro att farliga handlingar i den verkliga världen bara är en del av ett fiktivt spel. Därmed ignorerar de sina inbyggda säkerhetsskydd. Säkerhetsforskare på LayerX testade…