arXiv strammer nu håndhævelsen mod forskere, der uploader AI-genererede forskningsartikler af lav kvalitet til platformen. Beslutningen kommer efter voksende bekymringer om, at generative AI-værktøjer bliver brugt til at masseproducere svagt videnskabeligt indhold med minimal menneskelig kontrol.
Problemet er blevet stadig mere synligt inden for akademisk publicering, efterhånden som forskningsarkiver kæmper med at håndtere voksende mængder maskингenererede indsendelser.
arXiv indfører strengere moderering
Moderatorer hos arXiv bekræftede, at platformen nu tager hårdere skridt mod forfattere, der gentagne gange uploader AI-genererede artikler af lav kvalitet. Nogle brugere skal angiveligt have modtaget midlertidige eller permanente udelukkelser efter at have indsendt det, moderatorerne beskrev som “AI-slop”.
Platformen indeholder millioner af videnskabelige preprints inden for emner som fysik, matematik, datalogi og kunstig intelligens. Forskere offentliggør ofte artikler på arXiv, før formel peer review finder sted.
Ifølge moderatorerne har den seneste stigning i brugen af generativ AI ført til en tydelig stigning i problematiske indsendelser. Gennemlæsere skal have fundet artikler med fabrikerede kilder, meningsløse tekniske forklaringer, ødelagt formatering og indhold med meget begrænset videnskabelig værdi.
AI-værktøjer fortsætter med at forstyrre akademisk publicering
Det seneste arXiv AI-forbud afspejler bredere bekymringer, der spreder sig blandt universiteter og videnskabelige forlag. Generative AI-værktøjer kan nu producere meget overbevisende akademiske tekster på få sekunder, hvilket gør det lettere hurtigt at generere store mængder forskningsartikler.
Nogle forskere bruger AI ansvarligt til redigering, opsummering, oversættelse eller idéudvikling. Andre ser dog ud til at stole på teknologien til at generere hele forskningsartikler med minimal verificering eller originalt arbejde.
Kritikere advarer om, at udviklingen kan svække videnskabelig troværdighed og fylde åbne forskningsarkiver med upålidelig information. Fordi preprint-platforme distribuerer forskning hurtigt, kan svage AI-genererede artikler sprede sig bredt, før eksperter når at evaluere indholdet ordentligt.
Flere akademiske forlag har allerede indført krav om gennemsigtighed, der tvinger forskere til at forklare, hvordan AI-værktøjer blev brugt under skriveprocessen.
Moderatorer siger, at AI-spam er blevet mere almindeligt
Moderatorer hos arXiv oplyste, at mistænkelige indsendelser steg kraftigt, efter at offentlige AI-værktøjer blev bredt tilgængelige. Nogle artikler skal have indeholdt gentagne formuleringer, falske referencer og meningsløse videnskabelige påstande, som tydeligt pegede på automatiseret generering.
Problemet skaber ekstra pres på frivillige moderatorer, der har ansvar for at gennemgå nye indsendelser. Forskere frygter også, at store mængder AI-genereret spam kan gøre det sværere for legitim forskning at få synlighed.
Situationen er særligt udfordrende for arXiv, fordi platformen fokuserer på hurtig deling af forskning frem for traditionel peer-reviewed publicering. Hastigheden hjælper forskere med hurtigt at dele resultater, men øger samtidig risikoen for, at indhold af lav kvalitet spreder sig i akademiske miljøer.
Forskere er fortsat splittede om AI-brug
Debatten om AI-genereret akademisk indhold er fortsat stærkt splittet. Tilhængere mener, at AI-værktøjer kan forbedre produktiviteten og hjælpe forskere med repetitive skriveopgaver mere effektivt.
Kritikere mener, at overdreven afhængighed af AI opmuntrer til lavindsats-publicering og svækker videnskabelige standarder. Bekymringerne vokser også omkring fabrikerede kilder, hallucineret information og unøjagtige forskningspåstande genereret af AI-systemer.
Samtidig frygter nogle akademikere, at aggressiv moderering kan ramme forskere, som bruger AI ansvarligt under redigering eller udarbejdelse af udkast.
arXiv har ikke forbudt alle AI-assisterede artikler. Moderatorerne ser i stedet ud til at fokusere på indsendelser, der tydeligt viser tegn på automatiseret spam eller mangler meningsfuld videnskabelig kvalitet.
Konklusion
De nye arXiv AI-forbudstiltag viser, hvordan generativ AI hurtigt ændrer akademisk publicering. Selvom AI-værktøjer kan understøtte legitime forskningsprocesser, står videnskabelige platforme over for voksende pres for at forhindre lavkvalitets maskингenereret indhold i at oversvømme åbne forskningsarkiver.
Efterhånden som AI-systemer til tekstgenerering fortsætter med at udvikle sig, vil forskere og forlag sandsynligvis møde endnu større udfordringer med at beskytte videnskabelig troværdighed samtidig med, at de tilpasser sig ny teknologi.
0 svar til “arXiv slår ned på AI-genererede forskningsartikler af lav kvalitet”