ByteDance uppges träna AI-modell med 10 biljoner parametrar

ByteDance uppges förträna ett enormt nytt system för artificiell intelligens med så många som 10 biljoner parametrar.

Projektet kan göra ByteDance AI-modellen till ett av de största systemen som hittills utvecklats av ett kinesiskt teknikföretag. Financial Times rapporterar att företaget redan har inlett förträningen, med hänvisning till personer med insyn i frågan.

ByteDance har inte offentligt bekräftat uppgifterna. Reuters uppger att nyhetsbyrån inte självständigt har kunnat verifiera detaljerna och att företaget inte omedelbart svarade på en begäran om kommentar.

En modell byggd i enorm skala

Parametrar är de numeriska inställningar som en AI-modell lär sig under träningen. De hjälper systemet att identifiera mönster, generera svar och utföra uppgifter.

En modell med 10 biljoner parametrar skulle vara mer än tre gånger större än Kimi K3, ett system med 2,8 biljoner parametrar från den kinesiska startupen Moonshot AI.

Kinas inhemska AI-sektor har redan tagit fram flera modeller med biljoner parametrar. Innan Kimi K3 lanserades uppges Meituans LongCat-2.0 och DeepSeeks V4-Pro ha lett marknaden med 1,6 biljoner parametrar vardera.

Antalet parametrar ger dock bara en grov indikation på en modells storlek. Det visar inte automatiskt hur kapabel, effektiv eller kommersiellt användbar ett system kommer att vara.

ByteDance kan närma sig ledande amerikanska system

Den rapporterade storleken på ByteDance AI-modellen har lett till jämförelser med avancerade system som utvecklats i USA.

Företag som Anthropic och OpenAI offentliggör inte antalet parametrar i sina mest avancerade modeller. Det gör direkta jämförelser svåra.

Financial Times hänvisar dock till uppskattningar inom branschen som tyder på att Anthropics Mythos 5 kan ha omkring 8 biljoner parametrar. Fable 5 uppskattas ha omkring 5 biljoner parametrar.

Om dessa uppskattningar stämmer kan ByteDances modell ligga nära Mythos 5 när det gäller ren storlek. Jämförelsen bekräftar dock inte att modellerna kommer att erbjuda liknande prestanda.

Förträningen kan ta upp till sex månader

Systemet befinner sig enligt uppgifterna i förträningsfasen, det första stora steget i utvecklingen. Under denna fas exponeras en modell för stora datamängder så att den kan lära sig språk, resonemangsmönster och andra generella förmågor.

Enligt rapporten kan processen ta mellan tre och sex månader. Därefter skulle ByteDance behöva finjustera systemet innan det kan göras tillgängligt i produkter eller för bredare användning.

Projektet belyser det växande trycket på kinesiska och amerikanska teknikföretag att utveckla kraftfullare AI-modeller samtidigt som de försöker kontrollera de höga kostnaderna för att träna och driva dem.