Pleite? Von wegen! Google-KI erfindet Insolvenz und ruiniert fast ein Unternehmen

Wenn die Maschine lügt: Wie eine KI Seyvillas ins Chaos stürzte

Stellen Sie sich vor: Ihr Unternehmen läuft seit Jahren erfolgreich, Kund:innen buchen, die Bewertungen sind top – und plötzlich lesen Sie im Netz, dass Sie angeblich pleite sind. Genau das ist dem Seychellen-Reiseveranstalter Seyvillas passiert. Und der „Verursacher“? Keine Boulevardzeitung, kein missgünstiger Blogger – sondern die künstliche Intelligenz von Google.

In einem sogenannten „Infokasten“ – direkt prominent über den Suchergebnissen – stand plötzlich die Behauptung, Seyvillas sei insolvent. Keine Quelle, kein Zitat, keine Realität. Einfach eine ausgedachte „Halluzination“ der KI, wie es in der Fachsprache heißt.

Falschinformationen mit echtem Schaden

Geschäftsführer Julian Grupp war schockiert. Und das zu Recht: Die Fake-Pleite verbreitete sich rasch. Kunden stornierten Buchungen oder meldeten sich besorgt beim Unternehmen. Der Imageschaden war enorm. Erst nachdem Seyvillas rechtlich aktiv wurde und ein Anwalt eingeschaltet wurde, reagierte Google und entfernte die falschen Inhalte. Doch das Vertrauen war bereits angekratzt – bei Kunden und Geschäftspartnern.

Und damit nicht genug: Seyvillas denkt über weitere rechtliche Schritte nach, darunter eine Unterlassungsklage gegen Google. Denn eins ist klar: Solche Fehler dürfen nicht passieren – erst recht nicht in Suchmaschinen, die für viele Nutzer als „Wahrheit“ gelten.

KI kann viel – aber auch viel kaputt machen

Das Problem ist nicht neu: Sogenannte „KI-Halluzinationen“ sind ein bekanntes Phänomen. Dabei erfindet die künstliche Intelligenz Inhalte, die plausibel klingen, aber komplett falsch sind. In harmlosen Fällen sorgt das für Lacher – im schlimmsten Fall, wie hier, gefährdet es ganze Existenzen.

Besonders problematisch wird es, wenn diese Inhalte von großen Plattformen automatisiert in Infoboxen eingebaut werden – ohne redaktionelle Kontrolle. Was bleibt: Eine Lüge, die sich wie ein Virus im Netz verteilt.

Branchen wie Tourismus, Finanzen oder Gesundheit sind besonders anfällig. Eine erfundene Diagnose, ein falsches Insolvenz-Gerücht oder eine manipulierte Firmeninfo – schon ist der Schaden da. Und anders als bei klassischen Medien gibt es keinen klaren Verantwortlichen, keinen „Chefredakteur“, der für Fehler haftet. Die Maschine schreibt – und der Mensch leidet.

Wer muss Verantwortung übernehmen?

Wer falsche Pleiten erfindet, sollte sich nicht hinter Algorithmen verstecken dürfen. Es ist fast schon zynisch, dass ein Milliardenkonzern wie Google eine KI losschickt, die Unternehmen faktisch ruinieren kann – und sich dann in Schweigen hüllt, wenn’s knallt.

Das Argument „Die KI hat’s halt falsch gemacht“ ist kein Freifahrtschein. Wenn digitale Systeme wie Menschen agieren, dann müssen sie auch wie Menschen Verantwortung übernehmen – oder besser: deren Betreiber. Alles andere wäre ein Freibrief für Desinformation. Und davon haben wir schon jetzt mehr als genug.