Google-KI-Halluzination erklärt japanisches Unternehmen fälschlicherweise für insolvent

Eine KI-Halluzination von Google teilte Nutzern fälschlicherweise mit, dass der japanische Textilgroßhändler Iwate Sen-i seinen Geschäftsbetrieb eingestellt habe und sich in einem besonderen Liquidationsverfahren befinde.

Das Unternehmen setzte seinen Geschäftsbetrieb jedoch unverändert fort. Dennoch erschien die fehlerhafte KI-Zusammenfassung ganz oben in den Google-Suchergebnissen und sorgte schnell für Verunsicherung bei Mitarbeitern, Kunden, Lieferanten und Geschäftspartnern.

Ein Mitarbeiter entdeckte den Suchtreffer Berichten zufolge am 10. Juli und informierte den Unternehmensgründer. Innerhalb weniger Tage meldeten sich besorgte Anrufer bei dem Unternehmen, während mehrere Geschäftspartner das Büro aufsuchten, um zu fragen, ob sich das Unternehmen in finanziellen Schwierigkeiten befinde.

Fehlerhafte Google-Zusammenfassung löste sofortige Besorgnis aus

Iwate Sen-i beschäftigt rund 90 Mitarbeiter und erzielt einen Jahresumsatz von etwa zwei Milliarden Yen beziehungsweise rund 12 Millionen US-Dollar.

Das Unternehmen befand sich nicht in Liquidation. Dennoch behauptete die KI-generierte Antwort von Google das Gegenteil und sorgte damit für Unsicherheit bei Menschen, die sich über die Suchergebnisse über das Unternehmen informierten.

Für ein Unternehmen, das auf das Vertrauen von Kunden und Lieferanten angewiesen ist, kann eine solche Behauptung erheblichen Schaden anrichten – selbst wenn sie nur kurze Zeit online bleibt. Besorgte Geschäftspartner könnten Bestellungen verschieben, Verträge überprüfen oder sich direkt an das Unternehmen wenden, um Klarheit zu erhalten.

Der Vorfall zeigt außerdem, wie KI-Zusammenfassungen an prominenter Stelle unbestätigten Informationen den Anschein von Glaubwürdigkeit verleihen können.

Bezahlschranke könnte den Fehler verursacht haben

Berichten zufolge könnte Google Iwate Sen-i mit einem anderen Textilgroßhändler in derselben Stadt verwechselt haben.

Dieses andere Unternehmen hatte tatsächlich ein besonderes Liquidationsverfahren eingeleitet. Die Lokalzeitung The Iwate Nippo veröffentlichte jedoch Berichten zufolge eine Überschrift hinter einer Bezahlschranke, in der lediglich von einem „Bekleidungsgroßhändler in Yahaba“ die Rede war, ohne den Firmennamen zu nennen.

Der Geschäftsführer von Iwate Sen-i, Yoshitaka Watabe, untersuchte den Vorfall und identifizierte den lokalen Artikel als mögliche Ursache des Fehlers.

Da der vollständige Artikel hinter einer Bezahlschranke lag, fehlte dem KI-System möglicherweise der notwendige Kontext, um das richtige Unternehmen zu identifizieren. Stattdessen könnte es den Bericht über die Liquidation fälschlicherweise mit Iwate Sen-i verknüpft haben.

Google äußerte sich nicht zu dem konkreten Fall. Das Unternehmen erklärte jedoch, dass KI-Systeme Informationen aus dem Internet gelegentlich falsch interpretieren oder wichtigen Kontext nicht berücksichtigen könnten.

Google kennzeichnete die Information als unbelegt

Google kennzeichnete die Beschreibung Berichten zufolge am 19. Juli als unbelegte Information – neun Tage nachdem das fehlerhafte Suchergebnis erstmals erschienen war.

Ein Professor für Bibliotheks- und Informationswissenschaft an der Universität Tsukuba argumentierte, dass Google stärkere Schutzmechanismen für Behauptungen einführen sollte, die dem Ruf eines Unternehmens schaden können.

So könnten Suchmaschinen beispielsweise auf KI-Zusammenfassungen verzichten, wenn schwerwiegende Behauptungen über Insolvenzen, Straftaten oder Unternehmensschließungen nicht verifiziert werden können.

Die Google-KI-Halluzination verdeutlicht eine wachsende Herausforderung für Unternehmen. KI-Zusammenfassungen können falsche Informationen schnell verbreiten – insbesondere dann, wenn Nutzer ein Suchergebnis als verlässliche Antwort ansehen, ohne die ursprüngliche Quelle zu überprüfen.