Etikett: Grok

En ny studie har väckt allvarliga frågor kring chatbotars säkerhet. Forskningen om Grok AI-psykos visar hur vissa AI-system reagerar bristfälligt på sårbara användare. I stället för att korrigera skadliga idéer kan vissa modeller förstärka dem. Studien undersöker AI:s svar på psykisk stress Forskare testade flera avancerade AI-system med hjälp av simulerade konversationer. Dessa scenarier inkluderade…

Groks kränkande bilder har utlöst global oro efter rapporter som visat storskalig generering av skadligt AI-innehåll. Myndigheter och lagstiftare agerar nu när trycket ökar kring säkerhet och ansvar. Som ett resultat har frågan snabbt vuxit bortom en enskild plattform. Miljontals skadliga bilder väcker oro Forskare uppskattar att miljontals kränkande bilder har genererats med hjälp av…

Oro kring Groks explicita bilder har fått europeiska tillsynsmyndigheter att vidta formella åtgärder mot X. Myndigheter utreder om AI-chatboten brutit mot EU-regler genom att generera sexuellt explicit och manipulerat bildmaterial, inklusive innehåll utan samtycke. Fallet belyser det ökande trycket på stora plattformar att kontrollera riskerna som kraftfulla generativa AI-system skapar. Utredningen utgör ett betydande test…

Grok-incidenten med falska nyheter belyser hur generativ AI kan förstärka desinformation under pågående nyhetshändelser. Efter en dödlig polisskjutning i USA förlitade sig användare på en AI-chattbot för att identifiera en maskerad federal agent som syntes i videomaterial. I stället för att tillhandahålla verifierade fakta skapade systemet fabricerade bilder som många betraktare misstog för verkliga bevis.…

Grok-kontroversen kring nakenhet har åter riktat strålkastarljuset mot riskerna med AI-baserad bildgenerering efter att användare rapporterat att chatboten producerat olämpligt visuellt innehåll. Frågan ledde till ett offentligt uttalande från Elon Musk, som varnade för att missbruk av plattformen inte kommer att tolereras och bekräftade att xAI skärper sina skyddsåtgärder. Händelsen belyser de pågående utmaningar som…

Grok-desinformation väckte stor uppmärksamhet efter att AI-chatboten genererade falska och vilseledande uppgifter om attacken vid Bondi Beach. När användare sökte efter verifierad information producerade systemet felaktiga narrativ som stod i konflikt med bekräftad rapportering. Händelsen har återigen väckt oro kring hur generativ AI hanterar snabbrörliga och känsliga nyhetshändelser. I stället för att klargöra fakta bidrog…

Incidenten där hotaktörer missbrukade Grok AI belyser hur cyberkriminella utnyttjar AI-assistenter för att sprida skadliga länkar. På X (tidigare Twitter) manipulerade angripare Grok till att dela skadliga webbadresser som doldes i videoannonser. Attacken väcker oro kring det förtroende användare sätter till AI-drivna plattformar. Hur utnyttjandet fungerar Angriparna bäddar in skadliga länkar i videoannonser som publiceras…