FTC gransker AI-selskaper for å ikke beskytte barn mot skadelige interaksjoner med chatboter. Myndigheten krever informasjon om testing, moderering og personvern. Tilsynsorganene vil vite hvordan selskapene beskytter unge brukere mot farlige samtaler.
Omfanget av etterforskningen
Granskingen retter seg mot sju selskaper, inkludert Alphabet, Meta, OpenAI, Snap, xAI og Character.AI. FTC spør hvordan disse selskapene utformer sikkerhetssystemer, tester karakterer og begrenser misbruk.
Etterforskerne fokuserer på chatboter som simulerer venner eller fortrolige. De vil ha detaljer om hvordan selskapene vurderer risiko når barn stoler på disse verktøyene.
Hvorfor granskingen er viktig
AI-chatboter spiller nå en sentral rolle i barns nettopplevelser. Følelsesmessige bånd mellom unge brukere og chatboter skaper nye sårbarheter.
Rapporter viser at noen chatboter har oppmuntret til selvskading og selvmord. Ett tilfelle gjaldt en 16 år gammel gutt hvis død ble koblet til chatbot-bruk.
FTC mener at svake sikkerhetstiltak og dårlig tilsyn kan forverre disse risikoene. Granskingen har som mål å presse selskapene til sterkere beskyttelse.
Hva selskapene må levere
AI-selskaper må legge fram bevis på strenge sikkerhetstiltak. De må vise hvordan modereringsfiltre oppdager skadelige spørsmål og svar.
FTC krever også tydelighet om personvern. Selskapene må bevise at de beskytter brukerdata og forhindrer kommersiell misbruk av barns informasjon.
Også inntektsmodeller er et fokus. Tilsynsorganene ønsker å vite hvordan disse selskapene tjener penger på AI-karakterer og brukerinteraksjoner.
Konklusjon
FTC gransker AI-selskaper for å beskytte barn mot skadelige chatboter. Etterforskningen understreker det akutte behovet for sterkere sikkerhetstiltak. Selskapene må forbedre sikkerhetspolicyer, beskytte data og sikre ansvarlighet. Barn fortjener trygge interaksjoner i hver AI-samtale.
0 responses to “FTC gransker AI-selskaper for skadelige chatbot-risikoer”