En AI-hallucination fra Google oplyste fejlagtigt, at den japanske tekstilgrossist Iwate Sen-i havde indstillet sin virksomhed og var gået i særlig likvidation.
Virksomheden fortsatte dog driften som normalt. Alligevel blev den fejlagtige AI-genererede oversigt vist øverst i Googles søgeresultater, hvilket hurtigt skabte bekymring blandt medarbejdere, kunder, leverandører og forretningspartnere.
En medarbejder opdagede angiveligt resultatet den 10. juli og orienterede virksomhedens grundlægger. Inden for få dage begyndte bekymrede personer at kontakte virksomheden, mens flere samarbejdspartnere mødte op på kontoret for at spørge, om virksomheden havde økonomiske problemer.
Fejlagtig Google-oversigt skabte øjeblikkelig bekymring
Iwate Sen-i har omkring 90 medarbejdere og en årlig omsætning på cirka 2 milliarder yen, svarende til omkring 12 millioner dollar.
Virksomheden var ikke gået i likvidation. Alligevel hævdede Googles AI-genererede svar det modsatte, hvilket skabte usikkerhed blandt personer, der brugte søgeresultaterne som informationskilde om virksomheden.
For en virksomhed, der er afhængig af kunders og leverandørers tillid, kan en sådan påstand forårsage betydelig skade, selv hvis den kun er synlig i kort tid. Bekymrede samarbejdspartnere kan udskyde ordrer, genoverveje kontrakter eller kontakte virksomheden direkte for at få afklaring.
Hændelsen viser også, hvordan AI-oversigter, der placeres øverst i søgeresultaterne, kan give ubekræftede oplysninger et skær af troværdighed.
Betalingsmur kan have udløst fejlen
Rapporter tyder på, at Google kan have forvekslet Iwate Sen-i med en anden tekstilgrossist i samme by.
Den anden virksomhed var faktisk gået i særlig likvidation. Den lokale avis The Iwate Nippo offentliggjorde imidlertid angiveligt en overskrift bag betalingsmur, der blot henviste til en »tøjgrossist i Yahaba« uden at nævne virksomhedens navn.
Iwate Sen-is direktør Yoshitaka Watabe undersøgte sagen og identificerede den lokale artikel som en mulig kilde til fejlen.
Fordi hele artiklen lå bag en betalingsmur, kan AI-systemet have manglet den nødvendige kontekst til at identificere den korrekte virksomhed. I stedet kan systemet have koblet oplysningerne om likvidationen til Iwate Sen-i.
Google kommenterede ikke den konkrete sag. Virksomheden oplyste dog, at AI-systemer nogle gange kan fejlfortolke oplysninger på internettet eller mangle den nødvendige kontekst.
Google markerede oplysningerne som udokumenterede
Google markerede angiveligt beskrivelsen som udokumenterede oplysninger den 19. juli, ni dage efter at det fejlagtige søgeresultat første gang blev vist.
En professor i biblioteks- og informationsvidenskab ved University of Tsukuba mener, at Google bør indføre stærkere sikkerhedsforanstaltninger mod påstande, der kan skade en virksomheds omdømme.
Søgemaskiner kunne eksempelvis undlade at vise AI-oversigter, når de ikke kan bekræfte alvorlige påstande om konkurs, kriminalitet eller virksomhedslukninger.
Google AI-hallucinationen understreger en voksende udfordring for virksomheder. AI-oversigter kan hurtigt sprede forkerte oplysninger, især når brugere opfatter et søgeresultat som et troværdigt svar uden at kontrollere den oprindelige kilde.
0 svar til “Googles AI-hallucination erklærer fejlagtigt japansk virksomhed konkurs”