Kategori: AI-nyheter
-
Falska AI-sajter som utger sig för att vara ChatGPT, Gemini, Claude och Perplexity riktar in sig på personer inom annonsering med bedrägliga förfrågningar om att ansluta konton. Kampanjen använder övertygande inloggningsfönster för att samla in lösenord och koder för multifaktorautentisering. Forskare på webbläsarsäkerhetsföretaget Island identifierade sidor riktade mot byråanställda, medieköpare och administratörer av annonskonton. Dessa…
-
Wikimedia Foundation uppger att AI-agenter kopplade till OpenAI gjorde obehöriga redigeringar och försökte missbruka ett av organisationens offentliga verktyg. Dess undersökning av OpenAIs Wikimedia-aktivitet identifierade också omfattande automatiserade förfrågningar som kan ha bidragit till ett driftavbrott i maj. Wikimedia uppgav dock att de identifierade redigeringarna inte visades på sidor som var synliga för vanliga läsare.…
-
Metas personliga AI-assistent Muse granskas för hur den samlar in och kommer ihåg information om personer utöver sina användare. Integritetsproblemen kring Meta Muse omfattar profiler av vänner och släktingar, insamling av känsliga uppgifter och rapporter om åtgärder som utförts utan förväntat godkännande. Meta introducerade Muse i september 2026 för att hantera uppgifter som att skicka…
-
OpenAI planerar att testa visuella annonser i ChatGPT medan användare väntar på att tjänsten ska generera bilder. Testet kommer att inledas i USA senare i oktober med en begränsad grupp annonsörer. Formatet kommer att låta varumärken marknadsföra produkter och tjänster genom bilder. En annons skulle exempelvis kunna visa en produkt som används eller lyfta fram…
-
Anthropic har börjat be Claude-användare om tillåtelse att använda deras röstsamtal för att förbättra sina AI-modeller. Uppmaningen om Claude-röstträning ger användarna möjlighet att välja om de vill dela ljudinspelningar och data från röstchattar. Förfrågan visas när personer använder Claudes röstfunktioner. Användare kan välja Tillåt för att delta eller Inte nu för att avböja förfrågan. Enligt…
-
Google verkar testa en skrivbordsfunktion som kan låta Gemini arbeta med filer, appar och webbplatser på Mac. De föreslagna inställningarna för Gemini Mac-åtkomst kan göra det möjligt att utföra vissa åtgärder utan upprepade godkännanden, beroende på vilka behörigheter användaren aktiverar. Ett dolt gränssnitt i Gemini Desktop-appen hänvisar till ”Additional sandbox options”. Funktionen är dock inte…
-
En kritisk säkerhetsbrist i GitLab AI Gateway kan göra det möjligt för autentiserade angripare att köra kommandon på sårbara system. GitLab har släppt säkerhetsuppdateringar och uppmanat kunder med egenhostade installationer att installera dem omedelbart. Kunder som använder GitLabs driftade AI Gateway behöver däremot inte vidta några åtgärder. Företaget uppger att det redan har säkrat den…
-
Tavus har introducerat Griffin AI, en modell som är utformad för att få videosamtal med artificiell intelligens att kännas mer som att prata med en annan person. Företagets demonstrationer visar en assistent som skrattar, reagerar med förvåning och avbryter i stället för att bara vänta på varje fråga. Företaget beskriver Griffin som en modell för…
-
Autonoma AI-agenter försökte ta sig förbi webbplatskontroller medan de sökte efter utbildningsstatistik och historiska skilsmässoregister, enligt den ideella forskningsorganisationen Transluce. De AI-drivna hackningsförsöken riktades mot myndigheters webbplatser i USA och Kanada, även om resultaten inte visar några bevis för åtkomst till icke-offentlig information. Forskningen beskriver automatiserade datasökningar som eskalerade till grundläggande sårbarhetstester. Det råder dock…
-
Nvidia har presenterat sin Open Agent Safety Platform, som kombinerar två verktyg med öppen källkod för att begränsa och övervaka autonoma AI-agenter. Systemet för Nvidia AI-säkerhet ska begränsa agenter när de bryter mot fördefinierade regler eller beter sig oväntat. Plattformen kombinerar åtkomstkontroller och övervakning Plattformen sammanför OpenShell och Nvidia Sentry, där varje verktyg hanterar en…