ByteDance er angiveligt i gang med at fortræne et enormt nyt system til kunstig intelligens med op mod 10 billioner parametre.
Projektet kan placere ByteDance AI-modellen blandt de største systemer, der hidtil er udviklet af en kinesisk teknologivirksomhed. Financial Times rapporterer, at virksomheden allerede er begyndt på fortræningen med henvisning til personer med kendskab til sagen.
ByteDance har ikke offentligt bekræftet oplysningerne. Reuters oplyser, at nyhedsbureauet ikke uafhængigt har kunnet bekræfte detaljerne, og virksomheden svarede ikke umiddelbart på en anmodning om en kommentar.
En model bygget i enorm skala
Parametre er de numeriske indstillinger, som en AI-model lærer under træningen. De hjælper systemet med at identificere mønstre, generere svar og udføre opgaver.
En model med 10 billioner parametre ville være mere end tre gange større end Kimi K3, et system med 2,8 billioner parametre fra den kinesiske startup Moonshot AI.
Kinas indenlandske AI-sektor har allerede udviklet flere modeller med billioner af parametre. Før Kimi K3 kom på markedet, førte Meituans LongCat-2.0 og DeepSeeks V4-Pro angiveligt markedet med 1,6 billioner parametre hver.
Antallet af parametre giver dog kun en grov indikation af en models størrelse. Det viser ikke automatisk, hvor kapabelt, effektivt eller kommercielt anvendeligt et system vil være.
ByteDance kan nærme sig førende amerikanske systemer
Den rapporterede størrelse på ByteDance AI-modellen har ført til sammenligninger med avancerede systemer udviklet i USA.
Virksomheder som Anthropic og OpenAI offentliggør ikke antallet af parametre i deres mest avancerede modeller. Det gør direkte sammenligninger vanskelige.
Financial Times henviser dog til brancheestimater, der antyder, at Anthropics Mythos 5 kan have omkring 8 billioner parametre. Fable 5 anslås at have omkring 5 billioner parametre.
Hvis disse estimater er korrekte, kan ByteDances model være tæt på Mythos 5, når det gælder ren størrelse. Sammenligningen bekræfter dog ikke, at modellerne vil levere tilsvarende ydeevne.
Fortræningen kan tage op til seks måneder
Systemet befinder sig angiveligt i fortræningsfasen, som er den første store fase i udviklingen. I denne fase eksponerer udviklerne en model for store datasæt, så den kan lære sprog, ræsonneringsmønstre og andre generelle egenskaber.
Ifølge rapporten kan denne proces tage mellem tre og seks måneder. ByteDance vil derefter skulle finjustere systemet, før det kan gøres tilgængeligt i produkter eller til bredere brug.
Projektet fremhæver det voksende pres på kinesiske og amerikanske teknologivirksomheder for at udvikle stærkere AI-modeller, samtidig med at de forsøger at kontrollere de høje omkostninger ved at træne og drive dem.
0 svar til “ByteDance træner angiveligt AI-model med 10 billioner parametre”