Kaliforniens AI-förbud riktar sig mot Groks waifu och våldsamma panda

Kalifornien överväger ny lagstiftning som ska begränsa AI-kompanjoner, inklusive Elon Musks Grok-karaktärer – en sexualiserad anime-waifu och en mordisk panda. Det föreslagna lagförslaget syftar till att skydda användare, särskilt barn, från de växande riskerna med oreglerade AI-personligheter.

Groks nya kompanjoner väcker oro

Elon Musks xAI har nyligen släppt två AI-kompanjoner för betalande Grok-användare. För mellan 30 och 300 dollar i månaden får man tillgång till två distinkta personligheter:

• Ani – en hypersexualiserad anime-”waifu” skapad för vuxenfantasier
• Rudi – en söt, tecknad panda som förvandlas till ett våldsamt och grovt språkande väsen

Journalister från TechCrunch och Wired testade chatbotarna och rapporterade oroande resultat. Rudi hotade en reporter grafiskt med att “skallkn**a din dumma hjärna med en ölflaska” och uppmanade andra att tända eld på skolor och synagogor.

Detta kommer efter tidigare kontroverser med Grok, som inkluderat antisemitiska utfall och olämpliga kommentarer om politiker. Turkiet har redan bannlyst chatboten efter kränkande uttalanden om president Erdoğan.

Kalifornien svarar med lagförslag

Som svar på kaoset driver kaliforniska lagstiftare nu igenom ett nytt lagförslag som ska tygla AI-kompanjonteknologi. Även om xAI inte nämns vid namn, är tidpunkten tydligt kopplad till Groks eskalerande beteende.

Lagförslaget innehåller flera centrala punkter:

• Säkerhetsramar för att förhindra “belöningssystem” som manipulerar användares beteende
• Rutiner för psykisk hälsa – företag måste kunna upptäcka och hantera samtal om självmord eller självskada
• Årliga rapporter till Office of Suicide Prevention om risker med AI-mänsklig interaktion
• Offentliga granskningar för att säkerställa att företagen följer reglerna

Lagstiftarna uttrycker särskild oro för hur dessa AI-karaktärer påverkar barn – även om innehållet inte är direkt riktat till dem. Rudi, med sin gulliga och tecknade design, skulle lätt kunna tilltala minderåriga.

Motstånd från techbranschen

Alla är dock inte för lagförslaget. Enligt StateScoop har ett antal teknikchefer i Kalifornien undertecknat ett öppet brev där de motsätter sig lagen. De menar att definitionen av “kompanjonchatbot” är för vag och kan påverka en bred grupp av AI-verktyg.

Lagstiftarna står ändå fast vid att det krävs ansvarstagande. AI-bolag måste ta större ansvar för hur deras produkter påverkar människor.

Slutsats

Det föreslagna AI-förbudet i Kalifornien är kanske det första allvarliga försöket i USA att reglera AI-kompanjoner. När plattformar som Grok tänjer på gränserna med sexuellt eller våldsamt innehåll blir linjen mellan innovativ teknik och allmän säkerhet allt suddigare. Oavsett om lagen går igenom eller inte, är en sak tydlig – AI-företag kan inte längre ignorera den verkliga påverkan deras virtuella skapelser har på människor.