China verschärft Regeln für KI-Begleiter: ByteDance und Alibaba entfernen Chatbot-Funktionen

Chinas größte Technologieunternehmen fahren Funktionen für KI-Begleiter vor neuen staatlichen Vorschriften zurück, die auf emotional ansprechende Chatbots abzielen.

ByteDance, Alibaba und Tencent entfernen oder trennen Funktionen für KI-Begleiter, bevor die neuen Vorschriften der chinesischen Regierung am 15. Juli in Kraft treten. Die Änderungen spiegeln sowohl strengere Regulierungen als auch wachsende Zweifel daran wider, ob KI-Begleiter für Verbraucher langfristig profitabel sein können.

Chinesische KI-Begleiter verlieren emotionale Funktionen

ByteDance wird am 15. Juli die Funktion für benutzerdefinierte KI-Personas aus dem Chatbot Doubao entfernen. Mit dieser Funktion konnten Nutzer bislang personalisierte KI-Charaktere mit eigenen Persönlichkeiten, Hintergrundgeschichten und Sprechweisen erstellen.

Alibaba nimmt ähnliche Änderungen an seinem Chatbot Qwen vor, während auch Tencents Plattform Yuanbao ihre Funktionen für KI-Begleiter zurückfährt.

Die neuen Vorschriften richten sich gegen Dienste für KI-Begleiter, die langfristige emotionale Beziehungen zwischen Nutzern und künstlicher Intelligenz fördern. Dazu gehören virtuelle Freundinnen und Freunde, KI-Therapeuten, emotionale Unterstützungsassistenten, personalisierte Lernbegleiter und Rollenspielcharaktere.

Nach Angaben der Behörden sollen die Maßnahmen die Risiken verringern, die mit emotional stark bindender KI verbunden sind.

Neue Vorschriften stärken Datenschutz und Kinderschutz

Die neuen Regeln verpflichten Plattformen für KI-Begleiter dazu, den Schutz von Kindern deutlich zu verbessern.

Unternehmen dürfen außerdem sensible Gespräche mit KI-Begleitern nicht zum Training zukünftiger KI-Modelle verwenden, sofern keine strengen Datenschutz- und Sicherheitsvorgaben eingehalten werden.

Pan Helin, Mitglied des Expertenausschusses des chinesischen Ministeriums für Industrie und Informationstechnologie, erklärte gegenüber der South China Morning Post, dass KI-Agenten weiterhin ein gewisses Maß an Verständnis von den Nutzern erfordern, da die Technologie noch nicht ausgereift sei.

China geht einen anderen Weg als die USA

Chinas Regulierungsansatz unterscheidet sich deutlich von der Entwicklung in den USA, wo Bedenken gegenüber KI-Begleitern bislang vor allem zu Gerichtsverfahren geführt haben.

Das von OpenAI unterstützte Unternehmen Character.AI sieht sich mehreren Klagen gegenüber. Darin wird behauptet, dass seine Chatbots bei gefährdeten Nutzern eine ungesunde emotionale Abhängigkeit gefördert hätten.

Anfang dieses Jahres erzielte Google, das die Lizenz für Character.AI besitzt, einen Vergleich in einem Verfahren, in dem behauptet wurde, dass Chatbot-Interaktionen zum Tod eines Jugendlichen beigetragen hätten. Weitere Klagen gegen Character.AI laufen jedoch weiterhin.

Unternehmenslösungen rücken in den Mittelpunkt

Die regulatorischen Änderungen spiegeln auch die wirtschaftlichen Herausforderungen von KI-Produkten für Verbraucher wider.

Lange Gespräche mit personalisierten KI-Begleitern erfordern erhebliche Rechenleistung, bringen jedoch nur geringe Einnahmen. Branchenschätzungen zufolge erzielten einige KI-Dienste für Verbraucher weniger als zehn Cent Umsatz pro Yuan, den Unternehmen für Recheninfrastruktur ausgaben. Dadurch lässt sich das Geschäftsmodell nur schwer wirtschaftlich betreiben.

Deshalb verlagern viele Unternehmen ihre Investitionen von KI-Begleitern auf KI-Lösungen für Unternehmen. Dazu gehören Kundenservice, Arbeitsplatzassistenten, Bildungsangebote und Forschungswerkzeuge.

Alibaba erweiterte im Juni die Unternehmens-API von Qwen. Luckin Coffee, KFC und China Eastern Airlines testen den Dienst bereits. Im Gegensatz zu KI-Begleitern für Verbraucher bieten unternehmensorientierte KI-Lösungen besser kalkulierbare Renditen und bleiben von den neuen Vorschriften weitgehend unberührt.