En KI-hallusinasjon fra Google opplyste feilaktig at den japanske tekstilgrossisten Iwate Sen-i hadde stanset virksomheten og gått inn i en særskilt likvidasjonsprosess.
Selskapet fortsatte imidlertid driften som normalt. Likevel dukket den feilaktige KI-oppsummeringen opp øverst i Googles søkeresultater og skapte raskt bekymring blant ansatte, kunder, leverandører og forretningspartnere.
En ansatt oppdaget angivelig resultatet 10. juli og varslet selskapets grunnlegger. I løpet av få dager tok bekymrede personer kontakt med selskapet, mens flere samarbeidspartnere besøkte kontoret for å spørre om virksomheten hadde økonomiske problemer.
Feilaktig Google-oppsummering skapte umiddelbar bekymring
Iwate Sen-i har rundt 90 ansatte og en årlig omsetning på omtrent 2 milliarder yen, tilsvarende rundt 12 millioner dollar.
Selskapet hadde ikke gått i likvidasjon. Likevel hevdet Googles KI-genererte svar det motsatte, noe som skapte usikkerhet blant personer som brukte søkeresultatene for å hente informasjon om virksomheten.
For et selskap som er avhengig av tillit fra kunder og leverandører, kan en slik påstand føre til betydelig skade, selv om den bare ligger ute i kort tid. Bekymrede samarbeidspartnere kan utsette bestillinger, revurdere avtaler eller kontakte selskapet direkte for å få svar.
Hendelsen viser også hvordan KI-oppsummeringer som plasseres øverst i søkeresultatene kan gi ubekreftet informasjon et skinn av troverdighet.
Betalingsmur kan ha utløst feilen
Rapporter tyder på at Google kan ha forvekslet Iwate Sen-i med en annen tekstilgrossist i samme by.
Det andre selskapet hadde faktisk gått inn i særskilt likvidasjon. Den lokale avisen The Iwate Nippo publiserte imidlertid angivelig en overskrift bak betalingsmur som kun omtalte en «tekstilgrossist i Yahaba» uten å oppgi navnet på selskapet.
Iwate Sen-is leder Yoshitaka Watabe undersøkte saken og identifiserte den lokale artikkelen som en mulig kilde til feilen.
Fordi hele artikkelen lå bak en betalingsmur, kan KI-systemet ha manglet den nødvendige konteksten for å identifisere riktig selskap. I stedet kan det ha koblet opplysningene om likvidasjonen til Iwate Sen-i.
Google kommenterte ikke den konkrete saken. Selskapet opplyste imidlertid at KI-systemer noen ganger kan mistolke informasjon på nettet eller mangle nødvendig kontekst.
Google merket opplysningen som udokumentert
Google skal ha merket beskrivelsen som udokumentert informasjon 19. juli, ni dager etter at det feilaktige søkeresultatet først dukket opp.
En professor i bibliotek- og informasjonsvitenskap ved Universitetet i Tsukuba mener Google bør innføre sterkere sikkerhetstiltak mot påstander som kan skade et selskaps omdømme.
For eksempel kan søkemotorer unnlate å vise KI-oppsummeringer når de ikke kan bekrefte alvorlige påstander om konkurs, kriminalitet eller nedleggelse av virksomheter.
Google-hallusinasjonen viser en økende utfordring for bedrifter. KI-oppsummeringer kan spre feilaktig informasjon svært raskt, særlig når brukere oppfatter et søkeresultat som et pålitelig svar uten å kontrollere den opprinnelige kilden.
0 responses to “Googles KI-hallusinasjon erklærer feilaktig japansk selskap konkurs”