Google beendet KI-Funktion „What People Suggest“ nach Gesundheitsbedenken

Der Technologiekonzern Google hat die experimentelle, auf künstlicher Intelligenz basierende Funktion „What People Suggest“ stillschweigend eingestellt. Dieses Tool, das darauf ausgelegt war, gesundheitsbezogene Ratschläge aus anonymen Nutzerbeiträgen zu aggregieren, wurde nach einer Prüfungsphase deaktiviert. Eine Unternehmenssprecherin bestätigte die Maßnahme und ordnete diese in eine umfassendere strategische Vereinfachung der Suchergebnisseiten ein.

Die Funktion „What People Suggest“ war ursprünglich im März 2025 für mobile Nutzer in den Vereinigten Staaten eingeführt worden. Sie nutzte generative KI, um Peer-Erfahrungen zu Gesundheitsthemen, wie etwa dem Management von Arthritis, zusammenzufassen. Die KI zog dabei Informationen aus verschiedenen Online-Diskussionsplattformen wie Reddit und Quora heran, um thematisch geordnete Einblicke zu liefern. Karen DeSalvo, die damalige Chefärztin von Google, hatte die Einführung damit begründet, dass Nutzer neben Experteninformationen auch den Austausch mit Gleichgesinnten schätzten.

Die Einstellung dieser Funktion erfolgt vor dem Hintergrund einer anhaltenden fachlichen Auseinandersetzung um die Verlässlichkeit von Googles KI-generierten Inhalten im medizinischen Bereich. Bereits im Januar gab es Berichte, wonach die allgemeineren „AI Overviews“ potenziell schädliche oder fehlerhafte medizinische Empfehlungen enthielten. Als Beispiel wurde die fälschliche Empfehlung an Patienten mit Bauchspeicheldrüsenkrebs genannt, fettreiche Speisen zu meiden, was Experten als das Gegenteil der empfohlenen Diät kritisierten. Die Kritik umfasste auch Ungenauigkeiten bei Referenzwerten für Leberfunktionstests und fehlerhafte Informationen zu Vorsorgeuntersuchungen bei Frauenkrebs. Diese KI-generierten Zusammenfassungen erreichen monatlich rund zwei Milliarden Nutzer.

Obwohl Google einige problematische Übersichten entfernte und auf die Verlinkung zu anerkannten Quellen verwies, verdeutlicht das Ende von „What People Suggest“ die ethischen Spannungen im Zusammenhang mit dem Einsatz unüberprüfter, nicht-expertenbasierter Gesundheitserfahrungen durch KI-Systeme. Die Entscheidung signalisiert eine Neuausrichtung der Gesundheitsinitiativen des Konzerns, die nun stärker auf verifizierte Partnerschaften fokussiert sein könnten. Der neue Chief Medical Officer, Dr. Michael Howell, wird voraussichtlich am 17. März 2026 auf der Veranstaltung „The Check Up“ neue Gesundheitsprogramme vorstellen, wobei eine Kooperation mit CVS Health ein Schwerpunkt sein wird. Insider bestätigten gegenüber Medien, dass das Projekt nach der Testphase beendet wurde. Die Debatte um die KI-Gesundheitsberatung unterstreicht, dass Systeme, die Laienmeinungen zusammenfassen, noch von einer zuverlässigen Beantwortung medizinischer Fragen entfernt sind.