Das Team der Diabetologie am Klinikum Landkreis Tuttlingen hat sich im letzten halben Jahr intensiv mit dem Thema „Künstliche Intelligenz in der Patientenversorgung“ auseinandergesetzt. Anlass hierfür war die Beobachtung, dass immer mehr Patienten mit Diabetes mellitus Künstliche Intelligenz zur Verbesserung ihrer Diabeteseinstellung einsetzen – darunter auch Smartphone-Apps, die per Foto-Analyse die Kohlenhydrate auf dem Teller schätzen können. 

Nicht nur insulinpflichtige Menschen mit Diabetes müssen wissen, wie viele Kohlenhydrate sie zu sich nehmen, auch Sportler und Menschen, die Gewicht abnehmen wollen, zählen häufig Kalorien. Nachdem ein Patient die Schulung zum Thema Kohlenhydrate schätzen mit der Begründung abgelehnt hatte, er habe doch eine App, setzte der ärztliche Leiter des Diabeteszentrums, Dr. Michael Bösch, kurzerhand eine eigene Studie zum Thema auf. 

Über den Jahreswechsel 2025/2026 analysierten die Diabetesberaterinnen wochenlang die gelieferten Mahlzeiten aus der Klinik-Küche mit Hilfe einer Nährstoff-Analysewaage. Ihre Ergebnisse wurden jenen gegenübergestellt, die fünf Apps lieferten, die unter Patienten weit verbreitet sind. Darunter befinden sich nicht nur spezielle, für Diabetiker entwickelte Apps, sondern auch ganz allgemein die großen Sprachmodelle wie ChatGPT oder Google Gemini. Die statistische Auswertung zeigte zunächst, dass alle Apps die tatsächliche Kohlenhydrat-Menge deutlich überschätzten. Was bedeutet, dass Insulin zur Mahlzeit stets zu hoch dosiert wird, wenn man diese App-Schätzungen für bare Münze nimmt. So riskieren Menschen mit Diabetes allerdings Unterzuckerungen. 

Ein zweiter Befund, der auf den erhobenen Daten basiert, war die Erkenntnis, dass die Apps zu Ausreißern neigen: So gab es zum Beispiel an einem Tag in der Fastenzeit Pfannkuchen mit Spinat und Salzkartoffeln. Wo das Team des Diabetes-Zentrums 25 Gramm Kohlenhydrate mit der Waage ermittelte, taxierte eine App dieselbe Mahlzeit auf 225 Gramm Kohlenhydratgehalt. „Spätestens hier wird deutlich,“, sagt Dr. Michael Bösch, „dass eine gute Schulung Patienten die Lage versetzt, solche Ausreißer zu erkennen und durch eigene Schätzungen richtig einzuordnen. Die Daten zeigten darüber hinaus, dass der Schätzfehler umso größer wurde, je mehr Kohlenhydrate sich auf einem Teller befanden.“ Dabei hat es das Tuttlinger Team den Apps noch relativ leicht gemacht, weil nur Gerichte mit einzeln erkennbaren Komponenten untersucht wurden: Eintöpfe, Suppen oder in Teig gebackene Gerichte wurden gar nicht erst untersucht, da deren Inhaltsstoffe sich mit einem einzelnen Foto gar nicht ermitteln lassen. 

Darüber hinaus wurde klar, dass jede App einen anderen Schätzfehler erzeugt, und dass kein Produkt eine ausreichende Genauigkeit bietet, um Patienten zuverlässig eine Grundlage für die Insulindosierung zu bieten. 

Ein paar Anregungen für die Verbesserung der Apps hat das Team der Diabetologie um Dr. Michael Bösch daher auch schon parat. So könnte man etwa eine zweite Ebene fotografieren, um die Höhe einer Portion auf dem Teller besser abschätzen zu können. Auch dreidimensional aufgenommene Fotos, wie es viele moderne Handys ermöglichen, können von vielen Apps nicht ausgewertet werden, obwohl das einen deutlichen Mehrwert bieten würde. Darüber hinaus könnte man die Tellergröße in die App eingeben oder dem Programm mitteilen, was auf dem Teller denn so zu sehen ist, wenn sie denn mal einen Fehler macht. 

Die Ergebnisse der Tuttlinger Studie wurden vor kurzem beim Deutschen Diabetes Kongress 2026 in Berlin präsentiert. Erstaunt hat Dr. Bösch, dass sich vor allen Dingen Patienten mit diesen technischen Neuerungen beschäftigt haben – die eigene Studie war die einzige von klinisch tätigem Fachpersonal erstellte Arbeit. Dabei, so der Diabetologe, sei es aus Sicht von Krankenhäusern überaus wichtig, die technischen Entwicklungen im Auge zu behalten und mit dem Patienten Schritt zu halten. Schließlich sind Patienten jeden Tag mit dem Management ihrer Erkrankung beschäftigt und nehmen jede technische Hilfe an, von der sie sich Erleichterung erhoffen. 

„Viele Apps versprechen jedoch deutlich mehr, als sie halten können“, lautet Michael Böschs Fazit. „Darüber hinaus sind die Apps sehr intransparent gehalten – keine offenbart einen Blick in Ihren Algorithmus. Man kauft also immer eine Black Box.“ Das sei typisch für Künstliche Intelligenz. Aktuell kämpfen große Hersteller wie Open AI, Google oder Anthropic mit plötzlich auftretenden seltsamen Fehlern wie unpassenden Kommentaren oder eingeblendeten Comicfiguren, ohne dass sie erklären könnten, warum diese Fehler auftreten. Deswegen bemühen sich immer mehr Firmen um sogenannte „explainable AI“ – darunter versteht man den Versuch, die Rechenwege der künstlichen Intelligenz nachvollziehbar zu machen. Für Dr. Bösch ist das nicht akzeptabel: „Gerade im medizinischen Bereich ist es wichtig, dass Anwendungen mit künstlicher Intelligenz offenlegen, wie sie zu ihren Ergebnissen kommen.“

 Die Beschäftigung mit Künstlicher Intelligenz bezeichnet er „auch für medizinisches Fachpersonal als ganz essenziell“, weil die Entwicklung sicher nicht an der Klinikpforte Halt machen werde. Tatsächlich wird Künstliche Intelligenz am Klinikum Tuttlingen bereits in der Radiologie oder in der Endoskopie erfolgreich eingesetzt. Laut Dr. Bösch bedrohe KI keineswegs Arbeitsplätze medizinischer Fachkräfte – es sei allerdings wichtig, dass sich Ärzte wie Pflegende ein Bild von den Möglichkeiten und Risiken machen, um ihre Patienten adäquat beraten zu können. Das Stichwort laute hier „Guidance statt Ignoranz“. 

Zu den größten Herausforderungen in vielen Branchen gehöre es im Moment herauszufinden, an welcher Stelle der Mensch und an welcher Stelle die KI am sinnvollsten eingesetzt werden kann. Nach Überzeugung Dr. Böschs wird es auch zukünftig keinen Prozess geben ohne einen „Human in the Loop“, also ohne einen in diesen Prozess eingebundenen Menschen. Und so ermutigt das Diabetes-Team am Klinikum Landkreis Tuttlingen seine Patienten stets, Diabetes-Apps auszuprobieren und sich dabei ein eigenes Urteil zu bilden. Immerhin wurden sie wurden im Krankenhaus von Diabetesberaterinnen und Ärzten ja gut geschult.