Herausforderungen und Risiken der KI-gestützten Gesundheitsinformationen bei Google

Googles KI-Übersichten und die Herausforderung medizinischer Präzision

Die Integration künstlicher Intelligenz (KI) in alltägliche Anwendungen schreitet rasant voran. Eine dieser Anwendungen sind die "AI Overviews" von Google, die Nutzern bei Suchanfragen KI-generierte Zusammenfassungen direkt in den Suchergebnissen präsentieren. Diese Funktion, die auf dem Gemini-Modell basiert, soll komplexe Informationen aus verschiedenen Quellen bündeln und als kompakte Übersicht darstellen. Besonders im sensiblen Bereich der Gesundheitsfragen wirft diese Entwicklung jedoch grundlegende Fragen zur Präzision und potenziellen Gefährdung der Nutzer auf.

Fehlerhafte Gesundheitsinformationen: Ein Risiko für Patienten

Recherchen, unter anderem von The Guardian, haben gezeigt, dass Googles AI Overviews bei medizinischen Suchanfragen mitunter gravierend falsche Informationen liefern. Ein prominentes Beispiel betraf die Frage nach dem "Normalbereich für Leberbluttests". Die von der KI ausgegebenen Werte wichen teilweise erheblich von medizinisch anerkannten Referenzwerten ab und berücksichtigten keine individuellen Faktoren wie Alter, Geschlecht oder ethnische Herkunft. Dies könnte dazu führen, dass Patienten mit ernsthaften Lebererkrankungen ihre Werte fälschlicherweise als unauffällig einstufen und notwendige ärztliche Hilfe verzögern oder gänzlich unterlassen.

Weitere problematische Beispiele wurden im Kontext von Krebserkrankungen und psychischer Gesundheit identifiziert. So wurden etwa Krebspatienten Ratschläge zur Ernährung gegeben, die dem aktuellen Stand der Medizin widersprechen und potenziell schädlich sein könnten. Experten bezeichneten solche Fehlinformationen als "gefährlich" und "alarmierend", da sie die Chancen der Patienten auf eine erfolgreiche Behandlung beeinträchtigen könnten.

Googles Reaktion und die anhaltende Kritik

Nach Bekanntwerden der fehlerhaften Informationen hat Google einige der betreffenden KI-Übersichten entfernt. Ein Sprecher des Unternehmens betonte, dass man kontinuierlich an der Verbesserung der KI arbeite und bei Bedarf eingreife. Gleichzeitig wurde hervorgehoben, dass die KI-Zusammenfassungen in vielen Bereichen "hilfreich" und "zuverlässig" seien.

Diese Maßnahmen werden von Gesundheitsexperten und Organisationen, die sich für evidenzbasierte Gesundheitsinformationen einsetzen, jedoch als unzureichend kritisiert. Vanessa Hebditch vom British Liver Trust äußerte die Sorge, dass bei leicht abgewandelten Suchanfragen weiterhin potenziell irreführende KI-Übersichten angezeigt werden könnten. Sue Farrington vom Patient Information Forum betonte die Notwendigkeit, dass Google Nutzer auf fundierte, recherchierte Gesundheitsinformationen und Angebote vertrauenswürdiger Gesundheitsorganisationen verweisen sollte.

Die Kritik fokussiert sich auch darauf, dass die KI-generierten Kurzantworten komplexe medizinische Themen zu stark vereinfachen und dadurch eine falsche Sicherheit vermitteln könnten. Die scheinbare Autorität, die Googles Benutzeroberfläche den AI Overviews verleiht, trage zusätzlich zu diesem Problem bei, da sie den Anschein offizieller und geprüfter Aussagen erwecke, obwohl es sich um KI-generierte Wahrscheinlichkeitsberechnungen handle.

Die Rolle der KI im Gesundheitswesen: Chancen und Herausforderungen

Der Vorfall mit den AI Overviews verdeutlicht ein zentrales Dilemma im Umgang mit KI im Gesundheitsbereich: Während KI das Potenzial hat, Informationen blitzschnell zu aggregieren und Prozesse zu optimieren, mangelt es ihr an der Fähigkeit zur verlässlichen Kontextualisierung und Bewertung, die in der Medizin entscheidend ist. Individuelle Patientengeschichten, Alter, Geschlecht und Genetik sind Faktoren, die für Diagnosen und Therapieempfehlungen von großer Bedeutung sind, in generischen KI-Übersichten jedoch oft unberücksichtigt bleiben.

Die Bundesärztekammer betont in ihrer Stellungnahme "Künstliche Intelligenz in der Medizin", dass KI die ärztliche Tätigkeit unterstützen kann, die Verantwortung für Diagnostik, Indikationsstellung und Therapie jedoch stets beim Arzt liegt und nicht an ein KI-System abgetreten werden darf. Die ärztliche Prüfung der Plausibilität von KI-generierten Empfehlungen sei unerlässlich.

Die zunehmende Nutzung des Internets für Gesundheitsfragen – in Deutschland ist der Anteil der Nutzer, die Gesundheitsthemen googeln, in den letzten Jahren deutlich gestiegen – unterstreicht die Relevanz verlässlicher Online-Informationen. Im Jahr 2022 lag dieser Anteil bei 37 Prozent und stieg zwei Jahre später um 20 Prozentpunkte an. Dies macht es umso wichtiger, dass die bereitgestellten Informationen korrekt und vertrauenswürdig sind.

Wege zur Verbesserung: Transparenz, Kontrolle und Kompetenz

Um die Patientensicherheit im Zeitalter der KI zu gewährleisten und das Vertrauen in digitale Gesundheitsinformationen zu stärken, werden verschiedene Maßnahmen diskutiert:

• Transparente Kennzeichnung: Nutzer müssen klar erkennen können, ob es sich um KI-generierte Inhalte handelt.
• Menschliche Kontrolle (Human-in-the-Loop): Besonders bei medizinischen Antworten ist eine verpflichtende Prüfung durch menschliche Experten notwendig.
• Regulatorische Rahmenbedingungen: Nationale und internationale Behörden sind gefordert, klare Richtlinien für den Einsatz von KI im Gesundheitsbereich zu schaffen. Die EU-KI-Verordnung (AI Act), die ab 2026 bzw. 2027 greift, stuft KI-basierte medizinische Anwendungen als Hochrisiko-KI-Systeme ein und legt entsprechende Anforderungen fest.
• Stärkung der digitalen Gesundheitskompetenz: Die Bevölkerung muss über die Funktionsweise und Grenzen von KI aufgeklärt werden, um einen kritischen Umgang mit KI-generierten Informationen zu fördern.
• Qualitätssicherung und Validierung: KI-Systeme müssen anhand hochwertiger und repräsentativer Daten trainiert und rigoros validiert werden, um Verzerrungen zu minimieren und die Übertragbarkeit der Modelle zu gewährleisten.

Die ethischen Implikationen des KI-Einsatzes in der Medizin sind ebenfalls von großer Bedeutung. Die Zentrale Ethikkommission bei der Bundesärztekammer hat hierzu Stellungnahmen veröffentlicht, die die Notwendigkeit der Aufklärung und der Überprüfung der Plausibilität diagnostischer Vorschläge betonen. Empathische Kommunikation und eine vertrauensvolle Arzt-Patienten-Beziehung dürfen durch den Einsatz von KI nicht in den Hintergrund treten.

Fazit und Ausblick

Der Fall der fehlerhaften Gesundheitsinformationen durch Googles AI Overviews ist ein Prüfstein für den verantwortungsvollen Umgang mit KI. Er unterstreicht, dass selbst technologisch hochentwickelte Systeme fehleranfällig sein können und im sensiblen Bereich der Medizin schwerwiegende Folgen haben. Die Debatte macht deutlich, dass Innovation und Patientensicherheit Hand in Hand gehen müssen. Die Entwicklung von KI-Systemen im Gesundheitswesen erfordert nicht nur technische Exzellenz, sondern auch eine sorgfältige Berücksichtigung ethischer, rechtlicher und gesellschaftlicher Aspekte. Nur so kann das volle Potenzial der KI genutzt werden, um die Gesundheitsversorgung zu verbessern, ohne dabei die Sicherheit und das Wohlergehen der Patienten zu gefährden.

Bibliographie

• Bölling, Noëlle. "AI Overviews bei Gesundheitsfragen: Warum Googles KI gefährlich falsch liegt." t3n, 17. Januar 2026.
• Deutscher Ärzteverlag GmbH, Redaktion Deutsches Ärzteblatt. "Gesundheitskompetenz: Dr. Google wird zu Dr. KI." Deutsches Ärzteblatt, 22. Mai 2025.
• Deutscher Ärzteverlag GmbH, Redaktion Deutsches Ärzteblatt. "Stellungnahme „Künstliche Intelligenz in der Medizin“." Deutsches Ärzteblatt, 20. Februar 2025.
• euronews. "Google streicht einige Gesundheitsfragen aus den AI Overviews wegen Genauigkeitsbedenken." euronews.com, 12. Januar 2026.
• n-tv NACHRICHTEN. "Google KI liefert Falschinformationen zu Leberwerten." n-tv.de, 10. Januar 2026.
• NEXperts. "Kritik an Google: KI‑Gesundheitsinformationen gefährden Patientensicherheit." nexperts.ai, 15. Januar 2026.
• t-online. "Google löscht fehlerhafte KI-Gesundheits-Infos nach Expertenwarnung." t-online.de, 12. Januar 2026.
• watson. "Google-KI verbreitet offenbar medizinische Falschinformationen." watson.de, 3. Januar 2026.
• Der Standard. "Google-KI gibt auf einzelne Gesundheitsfragen keine Antworten mehr." derstandard.at, 12. Januar 2026.