Kinas største teknologivirksomheder ruller funktioner til AI-ledsagere tilbage forud for nye myndighedsregler, der retter sig mod chatbotter med følelsesmæssigt engagerende egenskaber.
ByteDance, Alibaba og Tencent fjerner eller adskiller funktioner til AI-ledsagere, inden Beijings nye regler træder i kraft den 15. juli. Ændringerne afspejler både strammere regulering og stigende tvivl om, hvorvidt AI-ledsagere til forbrugere kan blive en rentabel forretning.
Kinesiske AI-ledsagere mister følelsesmæssige funktioner
ByteDance fjerner funktionen til brugerdefinerede AI-personaer fra chatbotten Doubao den 15. juli. Funktionen gjorde det tidligere muligt for brugerne at skabe personlige AI-karakterer med deres egne personligheder, baggrundshistorier og talemåder.
Alibaba gennemfører lignende ændringer i chatbotten Qwen, mens Tencents platform Yuanbao også nedskalerer sine funktioner til AI-ledsagere.
De nye regler retter sig mod AI-ledsagertjenester, der opmuntrer til langvarige følelsesmæssige relationer mellem brugere og kunstig intelligens. Reglerne omfatter virtuelle kærester, AI-terapeuter, følelsesmæssige støtteassistenter, personlige studiehjælpere og rollespilskarakterer.
Myndighederne oplyser, at tiltagene skal mindske de risici, der er forbundet med AI, som skaber stærke følelsesmæssige bånd.
Nye regler styrker privatliv og børnebeskyttelse
De nye regler kræver, at platforme for AI-ledsagere indfører stærkere beskyttelse af børn.
Virksomheder må heller ikke bruge følsomme samtaler med AI-ledsagere til at træne fremtidige AI-modeller, medmindre de opfylder strenge krav til privatliv og databeskyttelse.
Pan Helin, medlem af ekspertudvalget under Kinas ministerium for industri og informationsteknologi, siger til South China Morning Post, at AI-agenter stadig kræver en vis forståelse fra brugerne, fordi teknologien endnu ikke er moden nok.
Kina vælger en anden vej end USA
Kinas reguleringsmodel adskiller sig markant fra udviklingen i USA, hvor bekymringer om AI-ledsagere primært har ført til retssager.
OpenAI-støttede Character.AI er blevet mødt med flere søgsmål, hvor virksomheden beskyldes for, at dens chatbotter har skabt usund følelsesmæssig afhængighed hos sårbare brugere.
Tidligere i år indgik Google, som ejer licensen til Character.AI, et forlig i en sag, hvor chatbot-interaktioner angiveligt bidrog til en teenagers død. Samtidig fortsætter flere andre retssager mod Character.AI.
Erhvervsmarkedet bliver højeste prioritet
Regelændringerne afspejler også de kommercielle udfordringer ved AI-produkter til forbrugere.
Lange samtaler med personlige AI-ledsagere kræver betydelig regnekraft, samtidig med at de skaber begrænsede indtægter. Branchevurderinger viser, at nogle forbrugertjenester tjente mindre end ti cent for hver yuan, virksomhederne brugte på datainfrastruktur. Det gør forretningsmodellen vanskelig at opretholde.
Derfor flytter mange virksomheder investeringerne fra AI-ledsagere til AI-løsninger til erhvervslivet, herunder kundeservice, arbejdspladsassistenter, uddannelse og forskningsværktøjer.
Alibaba udvidede Qwens virksomheds-API i juni. Luckin Coffee, KFC og China Eastern Airlines tester allerede tjenesten. I modsætning til AI-ledsagere til forbrugere giver erhvervsrettede AI-løsninger et mere tydeligt afkast og påvirkes kun i begrænset omfang af de nye regler.
0 svar til “Kina strammer grebet om AI-ledsagere, mens ByteDance og Alibaba fjerner chatbotfunktioner”