Foto: Ada Health GmbH 2019

Sprechstunde bei Dr. App

Die KI-gestützte Gesundheitsplattform Ada hilft Millionen Menschen überall auf der Welt, Krankheitssysmptome einzuordnen und passende nächste Schritte für die richtige Behandlung zu finden. Ein Gespräch mit Ada-Health-Mitgründer Martin Hirsch über die Faszination des Denkens und KI-Systeme, mit denen man im Mittelalter landet.

Der Stifterverband hat Ihrem berühmten Großvater Werner Heisenberg 1924/25 ein Stipendium finanziert: 100 Reichsmark monatlich. Wussten Sie das?
Nein, das wusste ich nicht. Das Geld scheint ja aber richtig angelegt worden zu sein.

Damals gelang ihm die später mit dem Nobelpreis ausgezeichnete Entdeckung zur Quantenmechanik. Die Eingebung für diesen Durchbruch soll Ihrem Großvater 1925 im Urlaub auf Helgoland gekommen sein. Hat er Ihnen davon erzählt?
Ja, als Jugendlicher hat mich seine Erzählung von der Wucht und Kraft der einzigen deutschen Hochseeinsel schwer beeindruckt. Vielleicht suche ich auch deshalb die Nähe zu authentischer Natur, wenn ich komplexe Probleme lösen will. Bei mir ist das allerdings eher die Ostsee oder der Walchensee. An solchen Orten kommen mir die besten Ideen.

Stimmt, man denkt mal an nichts und plötzlich kommt einem eine geniale Idee ins Bewusstsein geschossen.
Ich bin ein großer Verfechter des Denkens und finde es immer wieder verblüffend, wie wenig die Denkprozesse des Menschen Gegenstand der Forschung sind. Gerade im Land der Dichter und Denker sollten wir eigentlich wissen, was für ein tolles Individualwerkzeug das Denken ist ...

... und wie weit man damit kommen kann. Die Einsteins dieser Welt, wie auch Ihr Großvater, sind ja Beweise genug.
In der Tat. Insofern finde ich viele Debatten um die Zukunft der Medizin in Deutschland etwas schief, denn sie sind häufig sehr datenzentriert. Wir können viel aus Daten lernen – verstehen Sie mich bitte nicht falsch. Wir arbeiten aber an den falschen Baustellen, wenn wir alles Mögliche auf Datenverfügbarkeit reduzieren, was leider zu oft passiert. Das Lamentieren darüber, dass Deutschland abgehängt wird, weil uns die Daten fehlen, wird dem eigentlichen Problem nicht wirklich gerecht. Wir sind mit unserer medizinischen App Ada so erfolgreich, weil unser System dahinter ganz bewusst und ausdrücklich nicht ausschließlich auf großen Datenmengen basiert.

Das Lamentieren darüber, dass Deutschland abgehängt wird, weil uns die Daten fehlen, wird dem eigentlichen Problem nicht wirklich gerecht.
Martin Hirsch (Foto: Ada Health)

Martin Hirsch

Neurowissenschaftler und Chief Scientific Officer Ada Health

Interessant, worauf dann?
Wir nutzen das in der Literatur kondensierte Wissen und das Denken erfahrener Ärzte.

Sie meinen Erfahrungswissen statt Studien- und Gesundheitsdaten?
Die geschickte Kombination macht es. Wir berücksichtigen natürlich Studien- und Gesundheitsdaten, aber darüber hinaus eben auch Fachliteratur und Erfahrungswissen der Ärzte. Ich hole mal kurz aus, damit man das besser versteht: Wie kommt die Ärztin oder der Arzt zu einer Diagnose? Zunächst einmal schicken wir sie oder ihn zehn Jahre lang an die Universität und in Kliniken. Was macht der angehende Arzt dort? Er schaufelt Wissen in sich hinein.

Das er in seiner späteren Arbeit dann abstrahiert und auf neue Situationen überträgt – das ist klar.
Genau das ist aber so etwas wie ein kleines Wunder! Denn wir wissen nicht exakt, was das Gehirn da tut – wie es zu Kategorisierungen kommt, zu Verallgemeinerungen, um dann Analogieschlüsse ziehen zu können. Das ist die große, bislang erst wenig erforschte Stärke unseres Gehirns. Gute Ärzte sind darin wahre Spezialisten. Nach dem Studium gehen sie mit diesem Wissen nach draußen und schleifen ihre Wissensmodelle immer wieder an der Realität ab – sie lernen also aus Daten und verbinden das gewissermaßen mit ihrem gedanklichen Modell. Und genauso machen wir es auch.

So weit, so gut, das tun viele Spezialisten. Aber ich glaube, Sie wollen noch etwas anderes betonen.
Bei Ärztinnen und Ärzten kommt in der Tat noch etwas anderes dazu: Sie sind ständig mit unklaren Situationen konfrontiert, für die es keinen Standardprozess gibt. Ein Arzt muss dann häufig in kürzester Zeit Entscheidungen treffen, egal ob er die Situation in Gänze versteht oder nicht. Und das ist ein interessanter Zustand, in den das Gehirn da gerät: Der Arzt weiß, dass er die Verantwortung trägt und für seine Entscheidungen haftbar gemacht wird, und trifft seine Diagnose dennoch – selbst auf für ihn undurchsichtigem Terrain. Dabei verlässt er sich auf eine Mischung aus Wissen, Erfahrung, Einschätzung und Abwägung der Situation.

Er verlässt sich also auf seine Intelligenz.
Ja, Intelligenz ist die Fähigkeit, in einer Situation handlungsfähig zu bleiben, in der man vorher noch nie war.

Wenn man das auf KI überträgt: Durchrationalisierte Entscheidungsbäume können da sicher nicht mithalten.
Garantiert nicht! Wenn man gute Diagnostikunterstützung machen will, muss eine Maschine in dem eben beschriebenen komplexen Umfeld, mit all den Unschärfen und der bisweilen dünnen Datenlage der Medizin, funktionieren. Ich kann Ihnen versprechen: Wenn Sie Entscheidungssysteme ausschließlich auf der Basis von Datenströmen und Machine Learning designen, landen Sie im Mittelalter. Gängige Machine-Learning-Ansätze trainieren neuronale Netze und produzieren so Blackboxes; der Arzt kann die Einschätzung der Maschine also nicht nachvollziehen. Das ist nicht hinnehmbar.

Martin Hirsch

Martin Hirsch (Foto: Ada Health)

Martin Hirsch ist Neurowissenschaftler und Physiologe. 2011 gründete er mit einem Team aus Ärzten, Wissenschaftlern und Ingenieuren die Ada Health GmbH, um die medizinische App „Ada“ zu entwickeln. Es ist ein Unterstützungstool für medizinische Diagnosen, das das auf künstlicher Intelligenz (KI) basiert und sowohl Laien als auch Ärzte nutzen können. Martin Hirsch verantwortet als Chief Scientific Officer (CSO) die Art und Weise, wie Ada lernt. Weltweit nutzen bereits sechs Millionen Menschen Ada. Sie ist die führende medizinische App in 130 Ländern. Standort der Ada Health GmbH ist Berlin. Martin Hirsch ist der Enkel des berühmten deutschen Nobelpreisträgers Werner Heisenberg.

Der Arzt verlässt sich auf eine Mischung aus Wissen, Erfahrung, Einschätzung und Abwägung der Situation.
Martin Hirsch (Foto: Ada Health)

Martin Hirsch

Ich weiß, wie Sie das meinen. Dennoch waren manche Ärzte im Mittelalter erstaunlich gut! Aber zu der Zeit hat natürlich die wissenschaftliche Untermauerung gefehlt: das Experiment, die Reproduzierbarkeit. Von der Medizintechnik mal ganz abgesehen.
Ärzte hatten damals einen kleinen, engen heuristischen Horizont, konnten auf das zurückgreifen, was in ihrem jeweiligen Umfeld passierte. Sie haben die eigenen Erfahrungen verallgemeinert, daraus Schlussfolgerungen gezogen, wieder verallgemeinert und darauf basierend dann therapiert. Ob ihre Erfahrungen valide waren, wusste keiner. Ähnlich verhält es sich mit datengetriebenen Systemen. 

Ganz viel Ärztewissen in einer App

Foto: Ada Health GmbH
Start-up-Atmosphäre im Ada-Office

Kommen wir mal zu Ada. Inwiefern ist Ihre KI anders?
Wir sind dem Ansatz gefolgt: Die Kombination von einem kundigen Menschen und einer ermüdungsfreien, viel wissenden und transparent denkenden Maschine ist die leistungsfähigste Symbiose, die wir kennen. Dabei war für uns entscheidend, dass in jedem einzelnen Fall nachvollziehbar sein muss, aus welchem Grund Ada zu einer bestimmten Einschätzung kommt, sodass der Nutzer sich der Meinung der Maschine begründet anschließen oder diese begründet ablehnen kann. Für mich ist diese Argumentfähigkeit der KI entscheidend – und ich glaube, dass diesem Zusammenspiel von menschlicher und maschineller Intelligenz – also einer Art Zentaur-Ansatz – die Zukunft gehört.

Sie haben also Ärzte befragt und deren Wissen und Erfahrungen eingespeist?
Ja, sehr intensiv, über sieben Jahre hinweg. Und wir tun es auch weiterhin. Darüber hinaus berufen wir uns natürlich auch auf Fachbücher, Studien und wissenschaftliche Publikationen. Unser System basiert auf konsolidiertem Wissen von Ärzten, explizitem Wissen und Beobachtungen aus Datenströmen – wobei wir Beobachtungen in Daten immer von fachkundigen Menschen auf ihre Plausibilität hin überprüfen lassen. Ada war sozusagen selbst sieben Jahre lang an der Uni, ist ständig in Fortbildungsmaßnahmen und schleift zusätzlich ihr Wissen in der Praxis gewissermaßen ab.

Ziemlich schlau umgesetzt. Klingt noch dazu recht einfach.
Ist aber irre aufwendig, das kann ich Ihnen sagen!

Foto: Ada Health GmbH

Nutzer laden Ihre App Ada aufs Smartphone, beantworten sehr viele Fragen zu ihren Beschwerden und am Ende bekommen sie eine Info wie: „Acht von zehn Patienten mit diesen Symptomen, die Sie genannt haben, hatten diese Krankheit.“
Genau, es werden noch ein paar weitere Infos angezeigt. Die Nutzer haben dann die Resultate einer intensiven Vordiagnose in der Hand, mit der sie dann zum Arzt gehen, falls nötig.

Bekommt der Arzt dann auch eine Auswertung?
Ja, Ada liefert Nutzer und Arzt eine Grafik mit unterschiedlich dicken Linien zwischen Symptomen und Krankheiten. Er kann daraus ablesen: Die wahrscheinlichste Ursache für die Symptome sind diese Erkrankungen. Und hier sind Adas Argumente für dieses Resultat: Dieses Symptom spricht für die und gegen diese Krankheit. Die Abwesenheit dieses Symptoms schließt diese Krankheit eher aus und so weiter. Ada macht also nichts anderes als eine unterstützende Differenzialdiagnostik. Danach kann der Arzt selbst entscheiden, was ihm am plausibelsten erscheint und welche Therapie er ansetzt.

Ada funktioniert also wie ein Fachkollege, der Ratschläge gibt?
Genau. Wir sagen, Ada ist ein virtuelles Konzil von Ärzten.

Dessen Meinung sicher nicht jeder Arzt gern hört.
Ich glaube, dass Systeme wie Ada ganz normale Alltagstools für Ärzte werden, wie heute das Stethoskop. Man wird zukünftig als Patient sicher auch skeptisch gegenüber einem Arzt sein, der so ein System ablehnt. Gerade in Situationen, in denen eine Diagnose schwerfällt, weil die Ausgangslage komplex ist. Gehört es dann nicht zur Sorgfaltspflicht eines Arztes, eine KI zurate zu ziehen?

Ärzte sind auch nur Menschen.
Natürlich – denken Sie an den Zentaur-Ansatz: Mensch und Maschine zusammen sind unschlagbar. Wenn Sie mich fragen: Die Medizin bringt die Menschen zwangsläufig an ihre kognitiven Grenzen, wie das Beispiel seltene Krankheiten gut zeigt – die kann kein Arzt alle im Kopf haben, er kann auch kein Bauchgefühl für all diese Krankheiten entwickeln. Bisher war die Lösung des Gesundheitssystems hierfür, dass man die Medizin in Fachdisziplinen eingeteilt hat, damit die Größe des Problems ungefähr noch zu den Möglichkeiten des menschlichen Gehirns passt! Aber dass das keine gute Lösung ist, wissen wir alle.

Kommentare anzeigen