Kinas största teknikföretag drar tillbaka funktioner för AI-kompanjoner inför nya myndighetsregler som riktar in sig på chatbotar med känslomässiga relationer till användare.
ByteDance, Alibaba och Tencent tar bort eller separerar funktioner för AI-kompanjoner innan Pekings nya regler börjar gälla den 15 juli. Förändringarna speglar både skärpt reglering och växande frågor om AI-kompanjoner för konsumenter kan bli lönsamma.
Kinesiska AI-kompanjoner tappar känslomässiga funktioner
ByteDance kommer att ta bort funktionen för anpassade AI-personor från chatboten Doubao den 15 juli. Funktionen gjorde det tidigare möjligt för användare att skapa personliga AI-karaktärer med egna personligheter, bakgrundshistorier och sätt att kommunicera.
Alibaba genomför liknande förändringar i chatboten Qwen, medan Tencents plattform Yuanbao också minskar sina funktioner för AI-kompanjoner.
De nya reglerna riktar sig mot tjänster för AI-kompanjoner som uppmuntrar långvariga känslomässiga relationer med användare. Reglerna omfattar virtuella flick- och pojkvänner, AI-terapeuter, emotionella stödassistenter, personliga studiehandledare och rollspelskaraktärer.
Myndigheterna uppger att åtgärderna ska minska riskerna med AI som skapar starka känslomässiga band.
Nya regler stärker integritetsskyddet och skyddet för barn
De nya reglerna kräver att plattformar för AI-kompanjoner inför starkare skydd för barn.
Företag får inte heller använda känsliga samtal med AI-kompanjoner för att träna framtida AI-modeller, om de inte samtidigt uppfyller strikta krav på integritet och dataskydd.
Pan Helin, ledamot i expertkommittén vid Kinas industri- och informationsteknikministerium, säger till South China Morning Post att AI-agenter fortfarande kräver en viss kunskapsnivå från användarna eftersom tekniken ännu inte är tillräckligt mogen.
Kina väljer en annan väg än USA
Kinas regleringsmodell skiljer sig tydligt från utvecklingen i USA, där oron kring AI-kompanjoner främst har lett till rättsliga processer.
OpenAI-stödda Character.AI har ställts inför flera stämningar där företaget anklagas för att dess chatbotar skapat ett ohälsosamt känslomässigt beroende hos sårbara användare.
Tidigare i år nådde Google, som innehar licensen för Character.AI, en förlikning i ett mål där chatbotens interaktioner påstods ha bidragit till en tonårings död. Samtidigt pågår andra rättsprocesser fortfarande mot Character.AI.
Företagsmarknaden blir högsta prioritet
Regeländringarna speglar också de kommersiella utmaningarna för AI-produkter riktade till konsumenter.
Långa samtal med personliga AI-kompanjoner kräver omfattande datorkraft samtidigt som de genererar begränsade intäkter. Branschbedömningar visar att vissa konsumenttjänster drog in mindre än tio cent för varje yuan som företagen spenderade på datorkraft, vilket gör affärsmodellen svår att upprätthålla.
Därför flyttar många företag investeringar från AI-kompanjoner till AI-lösningar för företag, exempelvis kundservice, arbetsplatsassistenter, utbildning och forskningsverktyg.
Alibaba utökade Qwens företags-API i juni. Luckin Coffee, KFC och China Eastern Airlines testar redan tjänsten. Till skillnad från AI-kompanjoner för konsumenter ger företagsinriktade AI-lösningar tydligare avkastning och påverkas i liten utsträckning av de nya reglerna.
0 svar till ”Kinas AI-kompanjoner stramas åt när ByteDance och Alibaba tar bort chatbotfunktioner”