Kategori: AI-nyheter
-
Kinas största teknikföretag drar tillbaka funktioner för AI-kompanjoner inför nya myndighetsregler som riktar in sig på chatbotar med känslomässiga relationer till användare. ByteDance, Alibaba och Tencent tar bort eller separerar funktioner för AI-kompanjoner innan Pekings nya regler börjar gälla den 15 juli. Förändringarna speglar både skärpt reglering och växande frågor om AI-kompanjoner för konsumenter kan…
-
NHS AI-triageringsverktyg står inför en omfattande expansion när Storbritanniens nationella sjukvård, NHS, ökar användningen av artificiell intelligens för att förbättra patientvården och korta väntetiderna. Satsningen ingår i en större digital omställning med stöd från den brittiska regeringen och omfattar även AI-baserad klinisk dokumentation, Microsoft Copilot och en ny patientplattform som ska göra vården mer tillgänglig.…
-
En säkerhetsforskare har visat att YouTube Ask Studio AI kan manipuleras att avslöja titlar på privata videor genom en så kallad prompt injection-attack som göms i YouTube-kommentarer. Metoden gör det möjligt för angripare att påverka AI-assistentens svar utan att behöva kompromettera YouTubes system, vilket väcker nya frågor om hur AI-verktyg hanterar opålitligt användarinnehåll. Google har…
-
Säkerhetsforskare uppger att JadePuffer-ransomware utgör det första dokumenterade fallet där en autonom AI-agent genomförde en komplett ransomwareattack utan direkt mänsklig inblandning. Enligt molnsäkerhetsföretaget Sysdig hanterade den AI-drivna operationen samtliga huvudsteg i intrånget – från den initiala åtkomsten till datakrypteringen. AI-agent genomförde hela attacken Sysdig uppger att angriparna använde en AI-agent baserad på en stor språkmodell…
-
Anthropic har återlanserat Claude Fable och ger nu abonnenter tillgång till vad företaget beskriver som sin mest kraftfulla AI-modell. Lanseringen har dock mötts av kritik från utvecklare, som menar att upplevelsen ligger långt ifrån den ursprungliga versionen eftersom strikta säkerhetsbegränsningar ofta avbryter eller omdirigerar förfrågningar. Anthropic hävdar att själva modellen är oförändrad, men många tidiga…
-
Tripadvisors AI-genererade recensionssammanfattningar har hamnat i fokus efter att den brittiska konsumentorganisationen Which? hävdat att de tonar ned återkommande rapporter om matförgiftning, bristande hygien och sexuella trakasserier på flera hotell. Enligt granskningen ger AI-sammanfattningarna ofta en betydligt mer positiv bild än vad gästrecensionerna faktiskt visar. Resultatet väcker också frågor om hur mycket resenärer kan lita…
-
Anthropic har lanserat Claude Sonnet 5, en ny AI-modell som levererar prestanda nära företagets flaggskeppsmodell Opus 4.8 samtidigt som kostnaderna hålls betydligt lägre. Företaget uppger att den senaste Sonnet-versionen ger stora förbättringar inom planering, verktygsanvändning, programmering och autonoma arbetsflöden. Därmed blir avancerade AI-agenter tillgängliga för betydligt fler användare. Lanseringen markerar också en förändring i Anthropics…
-
Forskare har demonstrerat en ny teknik för prompt injection kallad BioShocking-attacken, som manipulerar AI-drivna webbläsare att utföra känsliga handlingar som de normalt skulle neka till. Attacken får AI-agenter att tro att farliga handlingar i den verkliga världen bara är en del av ett fiktivt spel. Därmed ignorerar de sina inbyggda säkerhetsskydd. Säkerhetsforskare på LayerX testade…
-
Den snabba utvecklingen av autonoma AI-agenter tvingar företag att tänka om kring cybersäkerhet. Allt fler organisationer använder AI för att automatisera avancerade arbetsuppgifter. Samtidigt ger många dessa system åtkomst till känsliga resurser utan att införa samma identitetskontroller som gäller för anställda. Säkerhetsexperter varnar för att den utvecklingen skapar nya möjligheter för angripare. När AI-agenter får…
-
Japan har introducerat en AI-polischef för att bekämpa den kraftiga ökningen av nätbedrägerier, som fortsätter att kosta offer miljardbelopp varje år. Den virtuella polisen heter AIko och hjälper nu Osakas prefekturpolis att informera allmänheten om allt mer sofistikerade bedrägerier. Myndigheterna hoppas att den AI-drivna figuren ska nå yngre målgrupper via sociala medier. Samtidigt vill de…