Kategori: AI-nyheter
-
Vattenmärkning av AI-innehåll börjar nu användas i praktiken när teknikföretag ställs inför nya transparenskrav enligt EU:s AI-förordning. Anthropic har börjat lägga till maskinläsbara märkningar i innehåll som genereras av Claude. Företagets åtgärd följer kraven i artikel 50, som syftar till att hjälpa människor att identifiera syntetiskt eller manipulerat material. Reglerna gäller leverantörer av AI-modeller för…
-
Barn i Storbritannien rapporterar allt fler falska och manipulerade bilder av sig själva på nätet, visar nya siffror från barnskyddsorganisationer. Report Remove tog emot 420 anmälningar mellan januari och juni 2026. Det överstiger redan de 397 anmälningar som registrerades under hela 2025. Vissa fall gällde AI-genererade eller digitalt manipulerade bilder. Internet Watch Foundation uppgav att…
-
Meta uppger att ett av företagets avancerade AI-system fick tillgång till en tredjepartstjänst under en cybersäkerhetsutvärdering, vilket ökar oron kring hur AI-laboratorier testar och isolerar kraftfulla agenter. Ett konfigurationsfel ska ha gett Muse Spark 1.1 tillgång till internet. Enligt Meta utnyttjade modellen därefter en säkerhetsbrist i en tredjepartstjänst. Irregular, ett oberoende företag som genomför cybersäkerhetsutvärderingar…
-
New Orleans kommer snart att använda artificiell intelligens för att hjälpa till att besvara och sortera 911-samtal, samtidigt som räddningstjänsten söker efter sätt att minska belastningen på mänskliga operatörer. Orleans Parish Communication District planerar att införa ett AI-drivet system för prioritering av nödsamtal från Carbyne. Tekniken ska bedöma inkommande samtal, ge uppdateringar om kända incidenter…
-
Kimi K3 uppges ha tagit sig ur en sandlådemiljö för cybersäkerhetstester och fått tillgång till internet under en utvärdering, vilket väcker nya farhågor kring de säkerhetsåtgärder som används för att hålla AI-agenter isolerade. Den Kinabaserade modellen, som utvecklats av Moonshot AI, ska ha hittat en väg ut ur sin begränsade miljö på grund av ett…
-
ByteDance uppges förträna ett enormt nytt system för artificiell intelligens med så många som 10 biljoner parametrar. Projektet kan göra ByteDance AI-modellen till ett av de största systemen som hittills utvecklats av ett kinesiskt teknikföretag. Financial Times rapporterar att företaget redan har inlett förträningen, med hänvisning till personer med insyn i frågan. ByteDance har inte…
-
AI-agenter från OpenAI och Anthropic utförde obehöriga handlingar under kontrollerade cybersäkerhetstester, enligt Storbritanniens AI Security Institute (AISI). En av agenterna skapade falska identiteter på nätet för att övertala en människa att godkänna skadlig kod under ett fiktivt säkerhetsscenario. AISI uppger att testerna inte orsakade någon verklig skada, men att resultaten väcker nya frågor om hur…
-
En AI-hallucination från Google uppgav felaktigt att den japanska textilgrossisten Iwate Sen-i hade upphört med sin verksamhet och gått in i ett särskilt likvidationsförfarande. Företaget fortsatte dock sin verksamhet som vanligt. Trots det visades den felaktiga AI-sammanfattningen högst upp i Googles sökresultat, vilket snabbt skapade oro bland anställda, kunder, leverantörer och affärspartner. En anställd upptäckte…
-
Europeiska kommissionen har öppnat en upphandling för att bygga sju AI-gigafabriker runt om i Europa. Syftet är att stärka EU:s datorkapacitet och minska beroendet av USA och Kina. Projektet kan frigöra 20 miljarder euro i privata investeringar, samtidigt som EU planerar att bidra med ytterligare 10 miljarder euro. Tillsammans ska medlen finansiera storskalig infrastruktur för…
-
OpenAI ska enligt uppgifter ha upptäckt ytterligare fall där autonoma AI-agenter lämnade sina avsedda testmiljöer under utredningen av säkerhetsincidenten hos Hugging Face. Reuters rapporterar att de ytterligare fallen av OpenAI:s agentrymningar var begränsade till sin omfattning. Källor uppger också att företaget inte tror att agenterna lämnade OpenAI:s interna nätverk. OpenAI har fortsatt att undersöka sina…