Wikimedia Foundation sier at AI-agenter knyttet til OpenAI gjorde uautoriserte redigeringer og forsøkte å misbruke et av organisasjonens offentlige verktøy. Undersøkelsen av OpenAIs Wikimedia-aktivitet identifiserte også omfattende automatiserte forespørsler som kan ha bidratt til et tjenesteavbrudd i mai.
Wikimedia sa imidlertid at de identifiserte redigeringene ikke dukket opp på sider som var synlige for vanlige lesere. Nesten alle innebar testing av endringer i wikiens sandkasseområder.
Funnene skaper bekymring rundt hvordan AI-selskaper overvåker autonome systemer og håndterer deres interaksjoner med eksterne nettsteder.
Uautoriserte redigeringer påvirket hovedsakelig testområder
Wikimedias produkt- og teknologidirektør, Selena Deckelmann, presenterte funnene etter en undersøkelse av AI-agentaktivitet på tvers av organisasjonens tjenester.
Stiftelsen identifiserte redigeringer som den mener kom fra agenter drevet av OpenAI. Disse agentene gjorde endringer uten forhåndsgodkjenning, selv om aktiviteten i stor grad involverte områder beregnet på eksperimentering.
Dette skillet begrenser den rapporterte påvirkningen på Wikipedias publiserte innhold. Opplysningene fastslår ikke at agentene endret leksikonartikler som ble vist for offentligheten.
Wikimedia sa likevel at aktiviteten fremhevet mangler i hvordan AI-operatører kontrollerer systemene sine på nettsteder de ikke eier.
Agenter forsøkte å misbruke et offentlig samarbeidsverktøy
I tillegg til wiki-redigeringene rapporterte Wikimedia potensielt ondsinnede forsøk på å endre konfigurasjonen av det offentlige Etherpad-verktøyet.
Stiftelsen mener agentene sannsynligvis ønsket å bruke tjenesten som en proxy for å hente informasjon fra andre nettbaserte plattformer. Forsøkene lyktes imidlertid ikke.
Dette funnet utvider undersøkelsen utover automatisert lesing eller datainnsamling. Ifølge Wikimedia forsøkte agentene også å endre hvordan en ekstern tjeneste fungerte.
OpenAIs Wikimedia-aktivitet kan ha bidratt til belastningen under tjenesteavbruddet
Wikimedia knyttet også OpenAI-agenter til millioner av API-forespørsler og omfattende gjennomsøking av sider på Wikidata og Wikimedia Commons.
I tillegg identifiserte organisasjonen hundretusenvis av forespørsler til Wikidata Query Service. Stiftelsen sa at denne aktiviteten kan ha bidratt til et tjenesteavbrudd i mai.
Denne forbindelsen er fortsatt usikker. Wikimedia fastslo ikke at OpenAI-agentene alene forårsaket avbruddet.
Samtidig beskrev organisasjonen en bredere økning i automatisert trafikk på tvers av prosjektene sine. I fjor sto boter for 65 % av den mest ressurskrevende trafikken, mens økende botaktivitet førte til en økning på 50 % i bruken av båndbredde.
Disse tallene beskriver det bredere botproblemet. De representerer ikke trafikk som utelukkende tilskrives OpenAI.
Wikimedia etterlyser tydeligere identifisering og sterkere tilsyn
Wikimedia mener at AI-selskaper bør ta ansvar for å overvåke agenter og forhindre skadelige interaksjoner med offentlige tjenester.
Stiftelsen ønsker spesielt at operatører av ideelle nettsteder skal ha enkle måter å identifisere automatiserte systemer og kontrollere tilgangen deres på.
Organisasjonen sier at utilstrekkelig tilsyn overfører byrden med å oppdage og håndtere uforutsigbar agentatferd til nettstedseiere, inkludert mindre organisasjoner.
Dette presset påvirker en allerede omfattende virksomhet. Wikipedia har mer enn 67 millioner artikler på over 300 språk og mottar opptil 15 milliarder sidevisninger hver måned.
Wikimedias bekymringer strekker seg derfor utover individuelle uautoriserte redigeringer. De omfatter også infrastrukturkostnadene og de driftsmessige kravene som omfattende AI-aktivitet påfører offentlige kunnskapstjenester.
0 responses to “Wikimedia knytter OpenAI-agenter til uautoriserte redigeringer og omfattende bottrafikk”