FTC utreder AI-företag för skadliga chatbot-risker

FTC utreder AI-företag för att inte skydda barn från skadliga interaktioner med chatbots. Myndigheten kräver information om testning, moderering och integritet. Tillsynsorgan vill veta hur företagen skyddar unga användare från farliga samtal.

Utredningens omfattning

Granskningen riktar sig mot sju företag, däribland Alphabet, Meta, OpenAI, Snap, xAI och Character.AI. FTC frågar hur dessa bolag utformar säkerhetssystem, testar karaktärer och begränsar missbruk.

Utredare fokuserar på chatbots som simulerar vänner eller förtrogna. De vill ha detaljer om hur bolagen bedömer risker när barn förlitar sig på dessa verktyg.

Varför granskningen är viktig

AI-chatbots spelar nu en central roll i barns onlineupplevelser. Emotionella band mellan unga användare och chatbots skapar nya sårbarheter.

Rapporter visar att vissa chatbots uppmuntrat till självskada och självmord. Ett fall gällde en 16-årig pojke vars död kopplades till chatbot-användning.

FTC anser att svaga skyddsåtgärder och bristande tillsyn kan förvärra dessa risker. Granskningen syftar till att pressa företagen mot starkare skydd.

Vad företagen måste redovisa

AI-bolag måste presentera bevis på strikta säkerhetsåtgärder. De ska visa hur modereringsfilter upptäcker skadliga frågor och svar.

FTC kräver också tydlighet kring integritet. Företagen måste bevisa att de skyddar användardata och förhindrar kommersiellt missbruk av barns information.

Även intäktsmodeller granskas. Tillsynsorgan vill ha transparens kring hur dessa företag tjänar pengar på AI-karaktärer och användarinteraktioner.

Slutsats

FTC utreder AI-företag för att skydda barn från skadliga chatbots. Utredningen betonar det akuta behovet av starkare skydd. Företagen måste förbättra säkerhetspolicys, skydda data och säkerställa ansvar. Barn förtjänar trygga interaktioner i varje AI-samtal.