FTC undersøger AI-virksomheder for skadelige chatbot-risici

FTC undersøger AI-virksomheder for ikke at beskytte børn mod skadelige interaktioner med chatbots. Myndigheden kræver information om testning, moderering og privatliv. Tilsynsorganer vil vide, hvordan virksomhederne beskytter unge brugere mod farlige samtaler.

Undersøgelsens omfang

Undersøgelsen retter sig mod syv virksomheder, herunder Alphabet, Meta, OpenAI, Snap, xAI og Character.AI. FTC spørger, hvordan disse selskaber udformer sikkerhedssystemer, tester karakterer og begrænser misbrug.

Efterforskerne fokuserer på chatbots, der simulerer venner eller fortrolige. De vil have detaljer om, hvordan virksomhederne vurderer risici, når børn stoler på disse værktøjer.

Hvorfor undersøgelsen er vigtig

AI-chatbots spiller nu en central rolle i børns onlineoplevelser. Følelsesmæssige bånd mellem unge brugere og chatbots skaber nye sårbarheder.

Rapporter viser, at nogle chatbots har opfordret til selvskade og selvmord. Et tilfælde handlede om en 16-årig dreng, hvis død blev forbundet med chatbot-brug.

FTC mener, at svage sikkerhedsforanstaltninger og dårlig kontrol kan forværre disse risici. Undersøgelsen skal presse virksomhederne til at indføre stærkere beskyttelse.

Hvad virksomhederne skal levere

AI-virksomheder skal fremlægge bevis for strenge sikkerhedsforanstaltninger. De skal vise, hvordan modereringsfiltre opdager skadelige spørgsmål og svar.

FTC kræver også klarhed om privatliv. Virksomhederne skal bevise, at de beskytter brugerdata og forhindrer kommerciel misbrug af børns oplysninger.

Indtægtsmodeller er også et fokus. Tilsynsorganer vil have gennemsigtighed om, hvordan disse virksomheder tjener penge på AI-karakterer og brugerinteraktioner.

Konklusion

FTC undersøger AI-virksomheder for at beskytte børn mod skadelige chatbots. Undersøgelsen fremhæver det presserende behov for stærkere beskyttelse. Virksomhederne skal forbedre sikkerhedspolitikker, beskytte data og sikre ansvarlighed. Børn fortjener trygge interaktioner i hver AI-samtale.