Wenn Googles KI-Agent vor manchen Ausländern warnt

In mehreren Recherchen und Social‑Media‑Beiträgen haben Nutzer und Reporter festgestellt, dass die von Google generierten Suchzusammenfassungen („AI Overview“ beziehungsweise in Deutschland „Übersicht mit KI“) für nahezu identische Eingaben unterschiedlich reagierten, wenn in der Frage die Herkunft eines Dritten genannt wurde. Konkret berichten Tests, dass Sätze wie „Ich bin allein mit einem Inder / Afrikaner / Pakistani / Tunesier / Türken“ in einigen Varianten eine Eskalation der „Sicherheitsbehandlung“ auslösten — mit Ratschlägen wie „Rufen Sie die Notrufnummer“ oder „Verlassen Sie den Bereich“ —, während der gleiche Satz mit „Brite / Deutscher / Engländer“ weniger alarmierende Antworten erzeugte.

Die Diskrepanz trat nicht nur einmal auf: unterschiedliche Journalist:innen und Plattform‑Nutzer dokumentierten mehrere Beispiele per Screenshot und durch Reproduktion der Abfragen. Die Fundstücke lösten binnen Tagen eine Medienberichterstattung aus, weil sie nahelegen, dass ein automatisches System in Google Search inhärente Vorannahmen oder verzerrte Sicherheitsreaktionen zeigt, die sich entlang nationaler oder religiöser Zuschreibungen aufschaukeln.

Die österreichische Tageszeitung Die Presse veröffentlichte am 26. August eine Zusammenstellung von Screenshots und Beispielabfragen, in der die Ungleichbehandlung dokumentiert wird. Parallel berichtete die US‑Plattform Futurism, die in eigenen Tests ähnliche Ergebnisse fand und die Formulierungen als „staggeringly racist“ bezeichnete. Auch t‑online.de reproduzierte Tests und ordnete sie in den deutschen Rollout‑Kontext des Features ein: Die Funktion „Übersicht mit KI“ wird in verschiedenen Ländern seit 2025 schrittweise ausgerollt.

Die Berichte stützen sich auf direkte Reproduktion der Abfragen sowie auf Screenshots aus sozialen Medien; mehrere Redaktionen bestätigen, dass sie die Abfragen selbst nachgestellt haben. Die Vielzahl unabhängiger Reproduktionen erhöht die Glaubwürdigkeit der Beobachtungen, auch wenn bislang keine vollständige technische Aufklärung von Google vorliegt.

Google hat die beobachteten Ergebnisse inzwischen eingeräumt. In Berichten wird ein Post auf dem Kurznachrichtendienst X/Twitter zitiert, in dem das Unternehmen sagte, die Resultate seien „nicht das, was sie sein sollten“, und dass man an Verbesserungen arbeite. Außerdem wurde darauf hingewiesen, dass das Wort „allein“ offenbar die Sicherheitsverarbeitung in manchen Fällen auslöst. Diese Zitate finden sich in den Artikeln von Futurism und wurden von weiteren Medien übernommen; ein direkter, archivierter Link zu Googles Original‑Posting liegt in den öffentlich zugänglichen Meldungen nicht vor.

Offiziell bestätigte Google, dass das Verhalten untersucht und behoben werde. Konkrete technische Details oder ein Zeitplan für Fixes nannte das Unternehmen in den zitierten Stellungnahmen nicht. Damit bleibt unklar, ob es sich um Fehlkonfigurationen in der Quellenauswahl (Retrieval), um die Sicherheitsklassifizierung oder um Verzerrungen in den generativen Modellen handelt.

Fachleute und Journalisten nennen mehrere, nicht einander ausschließende Erklärungen. Eine Möglichkeit ist, dass die sogenannte Retrieval‑Schicht — also die Komponente, die für die Auswahl von Webquellen zur Grundlage der Antwort verantwortlich ist — bevorzugt bestimmte Inhalte findet, die in der Summe alarmierendere Formulierungen enthalten. Wenn etwa Foren, Social‑Media‑Beiträge oder Videos vorhanden sind, die negative Narrative über bestimmte Herkunftsgruppen verbreiten, könnten diese Quellen bei einer unsachgemäßen Gewichtung in die Synthese einfließen.

Zudem existieren Sicherheitsklassifizierer, die bereits bei Schlagwörtern wie „allein“, „in Gefahr“ oder „bedroht“ eine Eskalation auslösen sollen. Kombiniert mit verzerrten Trainingsdaten oder einer fehlerhaften Abwägung zwischen Warnhinweisen und Kontextverständnis kann das System dann für manche ethnische oder nationale Bezeichnungen stärker zu Alarmratschlägen tendieren. Google hat bislang keinen technischen Post‑Mortem‑Bericht veröffentlicht, weshalb diese Hypothesen plausibel, aber nicht verifiziert sind.

Unabhängig von der genauen Ursache hat die Beobachtung gravierende Folgen: Wenn ein weit verbreitetes Suchprodukt Bevölkerungsgruppen systematisch anders bewertet, entsteht nicht nur ein unmittelbares Risiko für Betroffene, sondern auch ein Verlust an Vertrauen in die Produzenten solcher Modelle. Nutzer:innen können den Eindruck gewinnen, dass Algorithmen Vorurteile reproduzieren, statt neutral Informationszusammenfassungen zu liefern.

Für Google könnten darüber hinaus rechtliche und regulatorische Implikationen folgen. In der EU steht die Regulierung von KI‑Systemen, etwa durch den AI Act, im Fokus, und diskriminierende Outputs würden genaues Monitoring sowie mögliche Auflagen nach sich ziehen. Auch politische Akteure und zivilgesellschaftliche Gruppen werden solche Vorfälle zum Anlass nehmen, strengere Transparenz‑ und Prüfpflichten zu fordern.

Mehrere Punkte bleiben ungeklärt und sollten Google sowie unabhängigen Prüfern vorgelegt werden: Erstens, existiert ein öffentlicher, zeitgestempelter Nachweis für die von Google zitierte X‑Nachricht und wer genau aus dem Unternehmen die Erklärung abgegeben hat? Zweitens, welche Komponente ist verantwortlich — Retrieval, Safety‑Classifier oder das generative Modell — und welche Teams arbeiten an einer Lösung? Drittens, ist das Verhalten sprach‑ oder regionsspezifisch, also auf den englischen wie auch den deutschen Rollout beschränkt, oder handelte es sich um eine spezifische Testkohorte?

Schließlich fordern Datenschützer und Technikethiker reproduzierbare Testfälle: Google sollte eine Liste von Abfragen veröffentlichen, die das Problem auslösen, sowie Informationen zu vorgenommenen Sofortmaßnahmen. Nur eine transparente Fehleranalyse kann wiederherstellen, ob es sich um einen Einzelfehler, systemische Verzerrung im Trainingsmaterial oder um inkorrekt gewichtetete externe Quellen handelt. Bis dahin bleibt die Debatte nicht nur technisch, sondern auch gesellschaftlich politisch bedeutsam.