00:14

Inga Bergen

Dr. Martin Hirsch ist Professor für Künstliche Intelligenz in der Medizin am Universitätsklinikum Marburg. Professor Dr. Martin Hirsch studierte selbst Human Biology an der Philipps-Universität Marburg und promovierte in Neurowissenschaften. Anschließend gründete er verschiedene Unternehmen, darunter das 2010 gegründete Gesundheits- und Technologieunternehmen Ada Health. Im Podcast erklärt Martin Hirsch zunächst, was genau künstliche Intelligenz eigentlich ist und wie sie sich von unserer menschlichen Intelligenz abgrenzt, berichtet, berichtet, was das Ziel von KI in der Medizin ist und wie sie dazu beitragen kann, das Gesundheitssystem nachhaltig zu entlasten.

00:55

Inga Bergen

Hallo lieber Martin, ich freue mich total, dass du heute mein Podcast-Gast bist. Wir haben Aida Aufderby, ich bin leider etwas krank. Man hört das, glaube ich, auch an meiner Stimme. Ich sehe dich nicht und du siehst mich nicht. Aber ich freue mich wahnsinnig, weil ich schon sehr lange wollte, dass du mein Podcastgast wirst. Ich habe das auch schon ein paar Mal angestoßen, aber irgendwie kam es nie dazu. Und jetzt ist es endlich soweit. Ja, ich sage jetzt erst mal ein paar Worte zu dir. Du bist der Dr., Professor Dr. Martin Hirsch und bist einer der Mitgründer von Ada Health. So haben wir uns auch kennengelernt oder der vielleicht Impulsgeber geber, der Mastermind hinter der mittlerweile ja wirklich weltweit bekannten Diagnose-Support-App und bist aber auch Humanbiologe und mittlerweile Professor für Künstliche Intelligenz. Und das ist auch unser Thema, über das wir heute sprechen werden. Und ich freue mich total, dass du mein Gast bist.

01:55

Prof. Dr. Martin Hirsch

Ja, vielen Dank. Genau, ich mache noch einen Zusatz: Professor für Künstliche Intelligenz in der Medizin, weil ich halt eher aus dem humanwissenschaftlichen Feld komme. Ich bin jetzt kein Hardcore-Informatiker, der sich hier um die neuesten Algorithmen der neuronalen Netzprogrammierung kümmert, sondern eher Anwendungsforschung mache und gucke, wie können wir mit KI-Systemen die Medizin transformieren.

02:18

Inga Bergen

Ja, und das ist ja auch total passend zum Thema Visionäre der Gesundheit, denn KI ist gerade wirklich so das große Hype-Thema seit ChatGPT. Auch wenn ich jetzt Statistiken gesehen habe, dass so die Anwendungs- Fälle wieder so ein bisschen zurückgehen. Also da kehrt auch eine gewisse Normalität ein. De facto ist es aber so, dass künstliche Intelligenz ja die Medizin ja verändern, beeinflussen kann. Immer wenn ich dich erlebe, dann geht es dir zunächst mal darum, eigentlich so über den Begriff aufzuklären. Denn häufig, wenn wir künstliche Intelligenz sagen, dann ist das ja gar keine Intelligenz, oder?

03:00

Prof. Dr. Martin Hirsch

Ja, manchmal kommt bei mir dann der Kognitionsforscher, der ich ja eigentlich von meiner Ausbildung her bin, so durch. Und dann guckt man so etwas verwundert auf die Szene, was die eigentlich unter Intelligenz versteht. Also als Biowissenschaftler versteht man unter Intelligenz eigentlich die Fähigkeit, in einer intellektuell oder emotional anspruchsvollen Situation, in der ich noch nie war, eine gute Lösung dafür zu finden. Ja, und wie diese Definition schon zeigt, ist dadurch sozusagen das, was wir heute mit den neuronalen Netzen machen quasi ausgeschlossen, weil eine Maschine braucht 300 oder Tausende von Beispielen, um eine einfache Kategorisierungsaufgabe zu lösen. Einen Menschen, der 300 Beispiele braucht, um etwas zu verstehen, in Anführungszeichen, den würde man jetzt nicht unbedingt als super intelligent bezeichnen. Also von daher hat Intelligenz im kognitionswissenschaftlichen Umfeld eine etwas andere Konnotation. Als hier bei der künstlichen Intelligenz. Aber immerhin, die Maschinen sind ja in der Lage, sich selber diese Sachen beizubringen. Und das ist natürlich schon ein Novum. Und das ist interessant, das ist neu. Und von daher ist der Hype nicht ganz unberechtigt.

04:14

Inga Bergen

Ja, und ich meine, wenn wir jetzt die Medizin angucken, ja, dann ist ja eine Frage, wie kann man künstliche Intelligenz jetzt einsetzen? Und das, was jetzt seit ChatGPT eigentlich passiert ist, dass jedes Unternehmen im Gesundheitsbereich, das eine gewisse Größe und Finanzkraft hat, auch eigene solche Sprachmodelle entwickelt und versucht, sich das zunutze zu machen. Da geht es jetzt aber gar nicht so unbedingt um einen medizinischen Einsatz im ersten Schritt, sondern eher darum, so Arbeitsabläufe oder vielleicht medizinische Inhalte zu erstellen. Aber jetzt noch nicht so konkret darum, dass die Medizin durch eine KI gemacht wird. Das ist ja so ein bisschen der Traum eigentlich, auch das, womit ihr da angetreten seid damals, zu sagen, wir haben ja so viel seltene Erkrankungen, die kann ja kein Mensch kennen. Das wäre doch toll, wenn das eine KI könnte. Also wo stehen wir denn da heute überhaupt, um das mal so ein bisschen zu entmystifizieren vielleicht auch?

05:16

Prof. Dr. Martin Hirsch

Ja, ich glaube, es ist genauso, wie du jetzt geschildert hast. Also in die Breite der Gesellschaft ist KI eigentlich erst gekommen durch GPT und KI ist aber in der Medizin schon seit einigen Jahren eher ein treibendes Thema. Und da sind dann eher die Machine Learning, die klassischen datenbasierten Machine-Learning-Anwendungen sozusagen vorherrschend. Und die helfen halt an den Stellen, wo große Datenmengen anfallen und ausgewertet werden wollen. Also zum Beispiel natürlich Bilder, digitale Bilder. Jeder weiß, dass da viele Daten anfallen, dass Bilder komplexe Gebilde sind, die immer ein bisschen anders aussehen. Und da Maschine zu bauen, die es schafft, in meinetwegen bei dermatologischen, also Hautveränderungsbildern, eine Struktur als pathologisch, also krankhaft, zu erkennen. Das ist natürlich schon eine Leistung. Und dass diese Maschinen dann auch selber die Wege und die Kriterien finden, mit denen diese Differenzierung am besten funktioniert, das ist ja schon interessant und spannend. Und dann in diesen Feldern, also was weiß ich, in der Dermatologie, in der Pathologie, in, also wo Gewebeschnitte analysiert werden, in der ganzen MRT-Welt, also Bildgebungswelt, Röntgenapparate und so weiter, in der ganzen Sonographie, also Ultraschallwelt, Endoskopie, in all diesen datennahen Bereich, wo viele Daten anfallen, die kategorisiert werden müssen, also die durchgeschaut werden müssen, ist da was Pathologisches, da kommt die KI jetzt traditionell aus den letzten Jahren her, weil sie eben eine Datenanalysetechnologie ist. Und dort sind auch die größten Fortschritte und die stabilsten Anwendungen im Moment in der Medizin zu finden. Das, was wir uns davon versprechen, also wir heißt, ich bin jetzt kein approbierter Arzt, aber ich sitze hier im Uniklinikum und arbeite mit den Kliniksdirektoren daran. Im besten Fall führt eine KI-Anwendung im klinischen Alltag dazu, dass ich die medizinische Versorgung der Patienten verbessere, also Patientenrisiko minimiere, Diagnosesicherheit erhöhe, Therapie personalisiere und dergleichen. Und gleichzeitig, und das ist genauso wichtig, Das Ziel, das medizinische Personal entlastet, weil es eben eine kognitiv enorm anspruchsvolle Tätigkeit ist, die im Moment zu 40% von Verwaltungstätigkeit okkupiert wird und damit nicht mehr den Patienten zur Verfügung steht. Und also diese, also im Idealfall kann KI die medizinische Versorgung verbessern und menschliche Ressourcen freisetzen, damit Medizin in der Summe wieder menschlicher wird.

08:04

Inga Bergen

Ich finde das total interessant, weil das ist auch genau die These, die ich immer vertrete. Und da kommen wir auch zu dem Thema. Also jetzt diesen ganzen Bereich mal betrachtet, das ist ja etwas, da gibt es sehr klare Anwendungsfelder und da gibt es eigentlich für jeden Bereich dann eine eigene KI, die genau das kann. Und in der Gänze bringt uns das aber schon auch zu der Frage: Was ist überhaupt Medizin? Und auch zu diesen ganz ethischen und philosophischen Fragen. Und das finde ich halt auch mega spannend, weil wenn wir sagen, so eine KI wird halt die Diagnose, vielleicht auch eine Decision Support, was dann für eine Therapie passend ist. Ja, die werden ja auch immer komplexer, gerade so in Bereichen der Onkologie zum Beispiel, wo man es mit großen genetischen Datensätzen dann auch zu tun hat und immer mehr personalisierte Möglichkeiten auch einfach ja von der medizinischen Forschung und der Pharmazie dann bereitgestellt werden, bringt uns das ja zu der Frage, was Medizin überhaupt ist. Weil im Moment haben wir ja eine Medizin, die eigentlich so dieses klassische, ja, was man früher so als die medizinische Kunst bezeichnet hat oder ärztliche Kunst, dass den Begriff, den gibt es ja gar nicht mehr so abbildet. Weil sprechende Medizin nicht so viel Platz hat eigentlich in der Versorgung. Und die Frage finde ich auch mega spannend. Also das ist ja sicher auch was, womit du dich auch beschäftigst, oder?

09:38

Prof. Dr. Martin Hirsch

Ja, definitiv. Also das ist einer, würde ich sogar sagen, der Haupttriebfedern. Ich meine, wir sehen ja hier in unserer Neuzeit historisch gesehen, dass wir seit der Zeit der Renaissance im Grunde das naturwissenschaftliche Experiment mehr und mehr vergöttern. Und das ist auch richtig so, ja, weil das naturwissenschaftliche Experiment in seiner Reproduzierbarkeit und in seiner technischen Vermessbarkeit gibt einem eine gewisse Stabilität, einen gewissen Wahrheitsgrad, der von politischen, weltanschaulichen Glaubensfragen unabhängig ist, ja, und über den wir uns nicht die Köpfe einhauen müssen. Und Das hat vieles beruhigt und vieles objektiver gemacht. Wir haben eine objektive Basis, auf der wir unabhängig von dem, woran wir glauben und welchen politischen Ideologien wir folgen, eine Faktenbasis, auf der wir uns treffen können. Und das war ein großer Fortschritt, und der hat natürlich auch die Medizin erfasst. Das heißt, es gab einen sehr großen Druck auf die Medizin, sich diesem naturwissenschaftlichen ansatz zu unterwerfen. Und das ist auch mit viel Erfolg gemacht worden. Und die Mediziner sagen ja auch häufig, sie bezeichnen Medizin als Wissenschaft oder sehen Medizin als Wissenschaft. Aber sie ist es natürlich nicht, weil ich muss in der Medizin handeln, auch wenn ich die aktuelle Situation noch nicht ganz verstanden habe, zumindest in akuten Notsituationen. Da kann ich mich nicht hinstellen, sagen, oh, jetzt mache ich erst mal ein Experiment, oder oh, jetzt muss ich erst mal nachdenken und mir überlegen, Was könnte denn das alles sein? Sondern ich muss handeln. Und deswegen ist in der Medizin sehr viel Heuristik. Und natürlich ist in der Medizin viel Ethik, denn es ist eben nicht so einfach. Es gibt nicht immer die eine Wahrheit, ja, schon gar nicht bei Therapieplanung, die du vorhin angesprochen hast. Es ist eben häufig bei, weil gerade bei schwereren Erkrankungen gibt es eben die Option 1, 2, 3, 4 und 5, und die sind alle gut und die sind alle schlecht. Und am Ende muss ich jetzt Abwägen. Es ist eine Sache von Abwägung, ja. Und auch in der Chirurgie, wenn ich da operiere, ja, das wird immer versucht, an möglichst vielen objektiv messbaren Biomarkern festzumachen. In Wirklichkeit, wenn du die Chirurgen fragst, sagen die auch, das ist auch ein ästhetisches Geschäft. Sie haben dann das Gefühl, die Wunde ist jetzt noch nicht gut genug ausgeschnitten, und nehmen dann noch an der Stelle noch was weg und dergleichen mehr. Sind so Einschätzungsdinge, die aus Lebenserfahrung kommen und dergleichen mehr. Das heißt, Medizin ist eine interessante Mischung aus wissenschaftlichem Wissenschaft und Heuristik. Und deswegen kommt auch der Begriff der Heilkunst zustande, weil die Kunst ist die Fähigkeit eines synthetischen Urteils. Also ich tue verschiedene Informationen zusammen, ziehe daraus eine plausible Schlussfolgerung und handle entsprechend. Das ist das, was die Philosophen die Vernunft genannt haben, ein ganzheitlicher Akt. Und der, der ist immer mit Unsicherheit, oder sehr häufig mit Unsicherheit verbunden, weil ästhetische Urteile nicht unbedingt eindeutig sind. Ja, also synthetische Urteile haben immer einen Interpretationsgrad, und der führt uns auf das zurück, was uns Menschen ausmacht. Denn vieles von den Werten, die uns Menschen wichtig sind, sind eben nicht von der naturwissenschaftlichen Natur. Ja, die Würde des Menschen, die Liebe, die Freundschaft, das Vertrauen, das sind alles Dinge, die sich nicht in einem naturwissenschaftlichen Experiment so einfach vermessen lassen. Mit Vertrauen ist gleich 12 und gestern war es 8, sondern das sind eben sozusagen Werte und Ansichten, in die eine Menge Einzelinformationen einfließen, die dann in ihrer Gesamtheit von uns interpretiert werden. Und das ist das, was die Kunst ausmacht. Der Künstler, der Maler nimmt Farben und Formen und pinselt sie auf Papier, so lange bis ein stimmiges Ganzes entsteht. Und der Arzt nimmt halt die Informationen, die er hat, so lange bis er ein stimmiges Bild im Kopf hat, ein Krankheitsbild, und handelt dann entsprechend.

13:58

Inga Bergen

Und total spannend, weil letztendlich geht es ja auch bei der modernen Medizin und Wissenschaft immer darum, Fehler zu minimieren und irgendwie so einen objektiven Blick zu bekommen, der eigentlich auf naturwissenschaftlichen Gesetzen im Idealfall basiert und total objektiv ist. Das ist ja aber auch schon sehr, sehr schwierig, weil wir wissen, ganz viele Studien sind gar nicht reproduzierbar. Also bei ungefähr, wenn man Studien wiederholt, ich weiß nicht, ungefähr die Hälfte zeigt dann ganz andere Ergebnisse, teilweise sogar noch mehr. Kommt so ein bisschen auf den, den Bereich an. Und außerdem, ja, ist das, was in Studien untersucht wird, ja auch immer einer gewissen Bias unterlegen. Und Und das ist jetzt natürlich das, wo künstliche Intelligenz auch ein Stück weit drauf aufbaut. Also das ist diese Faktenlage, die in Anführungsstrichen objektiv scheint, wenn man aber genauer hinschaut, das vielleicht gar nicht in dem Maße ist, wie wir das zunächst erwarten würden, oder?

15:05

Prof. Dr. Martin Hirsch

Ja, das ist genau so.

15:06

Inga Bergen

Kann man so sagen.

15:07

Prof. Dr. Martin Hirsch

Ja, kann man so sagen. Und das ist ja auch die große Thematik bei den heutigen Ansätzen der künstlichen Intelligenz, Stichwort Machine Learning. Dass man eben, weil die Algorithmen selber noch sehr ineffizient sind, sehr große Datenmengen braucht, um eben die Systeme trainieren zu können. Wie ich vorhin schon meinte, ja, so unter 300 Beispielfällen braucht man in der Regel mit den gängigen KI-Systemen nicht anzufangen. Und wenn wir an seltene Erkrankungen denken, wenn wir an Multimorbiditäten denken, wenn wir an untypische Präsentationen von Erkrankungen denken, und so weiter, haben wir diese Menge an Fällen pro Konstellation eben nicht. Und aber genau dort bräuchten Ärztinnen und Ärzte Unterstützung, ja. Und die, weil die, die Sachen, die häufig sind, die können sie in der Regel auch selber. Und das, da geht so eine gewisse Schere auf, die das Ganze etwas ernüchtert, sozusagen. Ich glaube, deswegen ist auch die von dir eingangs erwähnte Ernüchterung, so allmählich zeichnet die sich ab. Es Man konnte halt sehr viele Sachen sehr überzeugend aufbauen. Aber jetzt stellt sich so mehr und mehr heraus, okay, wo sind auch die Grenzen des bisherigen Ansatzes? Und das, was heute unter KI läuft und auch die Technologien, die dahinführen, sind eben nicht das Ende der Fahnenstange. Ja, das ist, wenn wir mal schauen, wie Menschen lernen oder Gehirne lernen und wie Maschinen lernen, dann ist eben das menschliche Gehirn in der Lage, aus einem Beispiel sehr viel zu lernen. Wenn es ein Beispiel wirklich durcharbeitet, ja, dann kann ich daraus sehr viel lernen. Und warum brauchen Maschinen 300 Beispiele? Und die Wahrheit liegt dann irgendwo dazwischen, ja. Aber es wird eben Algorithmen geben in Zukunft, auch in der künstlichen Intelligenz, die mit sehr viel weniger Daten auskommen. Und dann werden wir ein ganz anderes Spiel sehen, ja. Also die Limitierungen heute, die wir sehen von der künstlichen Intelligenz, sind vorrangig bedingt durch die Ineffizienz Effizienz der Algorithmen, die wir einsetzen. Und da wird sich noch vieles tun, sodass ich da sehr optimistisch bin, dass wir in Zukunft auch Maschinen haben werden, die mit deutlich weniger Beispielen auskommen. Und dann können wir natürlich eine hohe Qualität viel besser gewährleisten, weil es ist viel einfacher, wenige gute Datensätze einer Maschine bereitzustellen als 300 oder ein paar tausend.

17:36

Inga Bergen

Ich finde das übrigens total interessant, weil ich habe auch mal ein KI-Startup gemacht und da haben wir es geschafft, auf weniger Datensätzen einen wirklich sehr guten Algorithmus zu entwickeln. Aber Die Daten haben wir auch alle selbst erhoben und die hatten alle eine einheitliche Qualität. Und ich finde eben diese Frage spannend, weil du sagst ja auch, wir haben letzte Woche, haben wir zusammen eine Veranstaltung besucht, die ich moderiert habe und du warst Gast eines Panels beim Asklepios Campus. Da ging es um KI in der Medizin und in der medizinischen Ausbildung und Weiterbildung. Und da hast du gesagt, dass du findest, dass nicht nur die Mediziner:innen heute eigentlich KI verstehen sollen, sondern dass eben auch alle Leute, die dann solche Algorithmen entwickeln, also Data Scientists und so, denn diese Algorithmen fallen ja jetzt nicht vom Himmel, also das ist ja nichts, was einfach so passiert, sondern das wird in der Regel von Menschen gebaut, dass die auch ein Verständnis der Medizin brauchen zukünftig, dass da ein Riesennachholbedarf besteht, weil man irgendwie immer erwartet, dass sich alle so mit KI jetzt auseinandersetzen. Einzusetzen, aber gar nicht, also standardisiert ist das, jemand, der einen Algorithmus entwickelt in so einem hochregulierten Feld wie der Medizin, auch wirklich ein medizinisches Grundverständnis hat überhaupt.

18:59

Prof. Dr. Martin Hirsch

Ja.

19:00

Inga Bergen

Wie ist denn das heute? Und was würdest du jetzt sagen, um dahin zu kommen, dass wir zukünftig bessere Algorithmen haben? Was sind da auch für neue Rollen notwendig überhaupt?

19:11

Prof. Dr. Martin Hirsch

Ja, also die Grundannahme oder Beobachtung war ja, dass wenn wir wirklich Clinical Decision Support Systeme bauen, also IT-Systeme, die sich, wenn sie gut gemacht sind, in die Entscheidungswege einer Ärztin, eines Arztes hineinklinken, einklinken und mit zur Gesamtentscheidung beitragen, dann nehme ich ja unmittelbar Einfluss auf eine extrem wichtige Entscheidung in der Medizin. Und ich finde, dann sollten diese Systeme wirklich auch qualifiziert sein, dies zu tun. Bis dahin ist bei allen Konsens. Die Erfahrung, die ich gemacht hatte bei Ada damals, als ich in München nach einem Vortrag— ich hatte über assoziative Wissenstechnologien gearbeitet und dann kam halt aus dem Auditorium eine Frage, ob man solche assoziativen Technologien nicht auch in der Medizin zur Diagnoseunterstützung einsetzen könnte. Das fand ich eine sehr interessante Frage, weil ich mich immer im Bereich der Medizin aufgehalten hatte. Und dann habe ich nicht daran gedacht, was könnte ich denn da jetzt für Algorithmen nehmen, sondern ich habe daran gedacht, was habe ich denn für Entwickler eigentlich zur Verfügung, mit denen man eine solche Aufgabe angehen könnte. Und da fiel mir Henry Hoffmann ein. Und dann sagt sie mir, okay, das können wir machen. Ja, und dann bin ich nach Berlin zurückgefahren, weil Henry ist wirklich ein extrem schlauer Kopf und er ist eben, obwohl er sozusagen aus der Elektroingenieurecke kommt, in der Lage, sich in die medizinische Denke hineinzuarbeiten. Und dann habe ich ihm gesagt, Henry, du musst dich jetzt, unser Pilotprojekt sind die Schwindelerkrankungen aus der Neurologie, und du musst dich da jetzt so reinfuchsen, so dass gut bist wie ein Diagnostiker, ja, in der Neurologie. Und das hat er auch getan. Und ich glaube, das war einer der Erfolgsschlüssel für Ada, dass der damalige, sozusagen der erste Chefingenieur, heute würde man sagen CTO, aber er war sozusagen der Designer auch der Algorithmen, einmal sich richtig tief in die Medizin reingedacht hat. Und dann werden solche Systeme auf einmal by Design gut, ja. Und deswegen war dann so die Überlegung zu sagen, okay, wenn Menschen, die in der Medizin tätig sind, einen Hippokratischen Eid schwören müssen, warum sollen es dann nicht auch Ingenieure tun, die Maschinen bauen, die Ärztinnen und Ärzte bei dieser Entscheidungsfällung, Findung da reinfummeln, ja. Und die sollten zumindest ein paar Grundkenntnisse haben und nicht nur, dass wir den Medizinern zumuten, KI zu verstehen. Und deswegen kann ich mir gut vorstellen, das ist das, was wir jetzt zum Beispiel in Marburg probieren, dass man an Hochschulen Kurse anbietet für Informatiker und Mediziner. Ja, also einfach Mischkurse, wo beide Fachbereiche sich darauf einigen, ja, das akzeptieren wir in der Informatik und wir akzeptieren den Kurs in der Medizin, so dass die jungen Menschen da zusammenkommen und mal gemeinsam über bestimmte Arbeitsaufgaben, die man ihnen gibt, gemeinsam brüten und versuchen Lösungen zu finden.

22:30

Inga Bergen

Wir möchten euch unseren Werbepartner DrLib vorstellen, der mit seinen Lösungen dafür sorgt, dass Gesundheitsfachkräfte mehr Zeit für eine optimale Patientenversorgung haben und der Arztberuf wieder attraktiver wird. Terminbuchungs- und Verwaltungssoftware bietet benutzerfreundliche und nützliche Angebote aus einer Hand, die für Ärzte und Ärztinnen sowie Patienten und Patientinnen mobil und auf dem Desktop verfügbar sind. Dabei ist die Digitalisierung für Dr. Lübcken Selbstzweck, sondern schafft durch technologische Expertise und tiefe Kenntnisse des Gesundheitswesens ein Angebot, das wirklich hilft, wie mehr als 14 Millionen Patientenseite-Nutzer und -Nutzerinnen beweisen.

23:09

Inga Bergen

Ja, und ich finde den Gedanken so total spannend, weil wir neigen ja dazu, Innovation immer auf die Welt draufzulegen, die wir halt kennen, so wie sie jetzt gerade ist. Aber wir stehen ja in total vielen Bereichen vor einem kompletten Wechsel. Also es ist zumindest zu hoffen, sei es irgendwie der Shift auf Prävention, weil wir viel mehr Daten am Menschen erheben, weil wir viel mehr wissen, wer hat vielleicht ein Risiko, irgendwie eine chronische Krankheit zu entwickeln, als Beispiel. Wir haben also eine Welt, die sich gerade ja viel schneller entwickelt, als das irgendwie so das Gesundheitswesen tut und auch der medizinische Bereich. Und brauchen da eigentlich neue Konzepte. Und ich finde es halt total spannend, weil ich glaube, wenn man jetzt so wie den Medizinern im universitären Betrieb, wenn man denen jetzt sagt, ja, ihr müsst jetzt auch Informatiker hier ausbilden, ich weiß gar nicht, wie da so die Resonanz ist, ob die das eher gut finden oder eher schlecht finden. Aber das ist ja eigentlich ganz logisch, dass sich total viel verändern muss, wenn KI einen signifikanten Anteil irgendwann hat in jeder medizinischen Interaktion sozusagen.

24:27

Prof. Dr. Martin Hirsch

Ja, definitiv. Und ich würde auch nicht nur die Informatik reinnehmen, sondern auch noch andere Bereiche, weil das, was ich vorhin meinte, dass wir in eine Medizin hineingeschlittert sind, die sehr auf naturwissenschaftliches Denken, Fakten, Daten und so weiter zielt, und dabei irgendwo auch— und das ist auch gut so und richtig so, aber das sind eben genau, ist genau der Teil der Medizin, der auch den Maschinen sehr gut zugänglich ist. Und alles, was logisch ist, logisches Schlussfolgern, Fakten zusammenwürfeln zu neuen Figuren und so weiter, das werden Maschinen einfach viel besser können als wir Menschen. Und deswegen brauchen wir es meiner Meinung nach an den Universitäten auch immer weniger zu lehren, weil wir kommen viel schneller an die Fakten, die wir haben müssen, mit elektronischen Geräten ran, wenn wir sie nicht mehr genau im Kopf haben. Aber was Was, wo Maschinen nie hinkommen werden, ist in die zwischenmenschliche Begegnung zwischen Arzt, Ärztin und Patient, Patientin. Das heißt, das ist ja eine zwischenmenschliche Begegnung. Und wie der Name schon sagt, sie ist eben zwischenmenschlich. Sie findet zwischen diesen beiden Menschen statt. Und die Skills, die man dafür braucht, in einer solchen Situation zu bestehen, die lehren wir gerade in der deutschen Medizin meines Erachtens viel zu wenig. In England ist das ein bisschen besser. Da läuft das aber auch mehr so Gesprächsführung und so weiter. Aber was mache ich denn eben, wenn die Patientin dann plötzlich anfängt zu weinen, weil sie das alles so belastet? Was mache ich denn, wenn sich ein älterer Herr auf dem Polsterstuhl, auf dem er gerade vor mir sitzt, sich plötzlich einnässt und dann vor Scham fast vergeht? Was, wie handele ich dann? Wie spreche ich ihn an? Wann zeige ich Mitgefühl? Wann zeige ich eben kein Mitleid, sondern eher sozusagen einen positiven Blick in die Zukunft? Hilft und so weiter. So, wie gehe ich mit einem Menschen um, dem mitgeteilt wurde, dass er dem Sterben nahe ist und oder austherapiert ist? Und diese Art der zwischenmenschlichen Begegnung, man muss gar nicht in diese Extreme gehen, ja, das ist auch einfach die Begegnung beim Hausarzt. Schaue ich an, wie interagiere ich mit ihm? All diese Skills spielen im medizinischen Curriculum, damit es eben gut vermessbar ist, was die Skills und Kompetenzen spielt kaum eine Rolle. Und ich glaube, dass wir diese Kompetenzen im Zuge der KI-Einführung wieder stärker ins Curriculum reintegrieren müssen. Und ich sehe in meinen Lehrveranstaltungen, wo ich das heute aktiv tue, was für eine Resonanz das hat. Da sitzen Studierende vor mir, die fangen an zu heulen, ja, weil sie plötzlich merken, was es bedeutet, eigentlich Mensch zu sein. Und das ist eine KI-Vorlesung, wohlgemerkt, ja. Und das ist eben wichtig, dass man dann denen auch zeigt, ihr habt Kompetenzen an Bord, die nie von einer KI euch weggenommen werden können, weil das keine Menschen sind. Aber ihr müsst auch lernen, als Mensch eurem Patienten, eurer Patientin zu begegnen und dafür euch auch Skills anzueignen. Und deswegen würde ich immer sagen, wenn wir überlegen, wie bereiten wir Ärzte auf das KI-Zeitalter vor, heißt es eben auch, sich mal wieder zu besinnen, was es heißt, Mensch zu sein, und einem erkrankten, hilfesuchenden Menschen in seiner Not als Mensch zu begegnen.

27:54

Inga Bergen

Ja, das ist übrigens auch eine Theorie von mir, dass wir in Deutschland Weltmeister sind, oder Europameister, weiß nicht, ob sogar Weltmeister, bei der Anzahl der Arztbesuche. Also enorm hoch ist. Aber die Zeit, die Leute in einem Arztgespräch verbringen, ist zeit extrem kurz. Und meine These ist halt immer, dass die Leute von ärztlicher Beratung zu ärztlicher Beratung rennen, bis zu dem Moment, wo sie sich gesehen fühlen. Weil die Qualität einer Diagnose ist ja oft gar nicht das Entscheidende, oder die Qualität einer Empfehlung. Es geht oft darum, gesehen zu werden und irgendwie als Mensch auch wahrgenommen zu werden. Und das finde ich auch total interessant, weil unser System ist ja auch in der Lehre darauf ausgerichtet, dass so diese sogenannten Koryphäen oder Key Opinion Leader, dass das Leute sind, die sehr viel publizieren, die aber jetzt in der Patient:innen-Interaktion vielleicht nicht unbedingt, würde ich jetzt sagen, das hellste Licht auf der Kerze sind. Oft, das sage ich jetzt aus meiner eigenen persönlichen Erfahrung, das ist natürlich ein total subjektiver Ausschnitt, aber so ist ja das System auch ein bisschen gestrickt. Das incentiviert ja jetzt nicht gerade, dass man irgendwie sich viel Zeit nimmt.

29:17

Prof. Dr. Martin Hirsch

Ja, genau. Es gibt im deutschen Gesundheitssystem keinerlei Inzentivierung dafür, die Diagnose richtig zu stellen. Ich habe nichts davon. Ich kriege nicht mehr Geld. Ich habe in jedem Fall mehr Arbeit, wenn ich mir mal wirklich Gedanken machen sollte. Und ich profitiere monetär nicht davon. Ja, das ist in anderen Systemen anders. In Amerika zum Beispiel ist der Druck, die richtige Diagnose zu stellen, viel größer. Weil das geschlossene Gesundheitssysteme sind oder Gesundheitsanbieter, und die haben halt eben auch den Nachteil davon, wenn sie die Diagnose nicht richtig stellen. Deswegen wundert es mich auch nicht, dass ein System wie Ada vor allen Dingen in die US-amerikanischen Gesundheitssysteme sehr schnell Eingang gefunden hat, und in China genauso, in die Diagnostikzentren, weil eben dort ein, ein inhärenter Druck ist, die Diagnose richtig zu stellen. In Deutschland ist das nicht Das ist am Ende der persönliche Ehrgeiz und der Ethos des einzelnen Arztes, der einzelnen Ärztin. Aber profitieren tut er davon nicht, wenn er sich da schwer ins Zeug hängt.

30:23

Inga Bergen

Ja, ja, das ist an sich total paradox, weil wir ja auch ganz lange schon davon reden, irgendwann mal so outcome-orientierte Gesundheitsversorgung zu haben, also wo eher darauf geguckt wird, was ist das Ergebnis, ja, statt dass irgendwie apparative Medizin oder irgendwelche, also was man eben tut, so vergütet wird, weil das ja auch nicht immer unbedingt den richtigen Anreiz setzt. Also ich finde das total spannend, dass man eigentlich von der Diskussion über KI ganz schnell bei diesen ganz großen Themen ist. Und mit Ada, das ist für mich auch so ein spannendes Beispiel, weil wir haben ja in Deutschland sehr, sehr viel medizinische Forschung oder auch Data Scientist. Wir haben gute Algorithmen, es gibt da wirklich eine breite Basis. Aber in die, ja, in die Praxis findet das dann wenig. Und Ada ist für mich auch so ein Beispiel. Ist eigentlich ein deutsch, in Deutschland gegründetes Unternehmen, und mittlerweile ist es aber so, der Hauptmarkt sind die USA und Asien, so wie ich dich verstehe. Ist das deutsche Gesundheitssystem da überhaupt so adaptionsfähig? Wie bewertest du das jetzt aus deiner Brille, ganz vorne so in der Lehre?

31:36

Prof. Dr. Martin Hirsch

Ja, also das deutsche Gesundheitssystem ist ja, oder war zumindest ja, auf berechtigter Weise wurde es immer genannt als eines der besten der Welt. Und das ist schon so. Und es hat auch mit die längste Tradition. Und das gereicht ihm halt jetzt zum Nachteil, weil es so nach dem Motto, wir haben es doch schon immer so gemacht und es war doch gut. Ja, so. Und man ist eben, man ist unglaublich verquast. Also das ist, die Sachen hängen alle so zusammen, die ganzen Institutionen und Lobbygruppierungen und Sektoren, und jeder hat also seine kleinen Königreiche und verteidigt die einfach auf Teufel komm raus. Und das ist sehr schwer, ein solches System zu transformieren, und bis hin zu unmöglich, weil am Ende wird es sich von selber überleben, indem die alten weißen Männer, die im Moment hauptsächlich das Sagen haben, einfach aussterben. Ja, das ist doof, wenn man das so sagt, aber am Ende ist es so. Und dann wachsen halt neue nach, die dann schon digital affiner sind und die einfach in ihrer Praxis im Wartezimmer ein Anamnese-Tool haben wollen. Punkt. Weil das einfach Zeit spart, Qualität sichert, Dokumentationsqualität erhebt, also anhebt und so weiter. Und das sehen wir ja auch jetzt kommen. Ich meine, ich mache das ja jetzt auch schon ein paar Jahrzehnte. Und früher musste man sich da, also wenn ich Vorträge gehalten habe, da Das ging also wirklich bis hin zu persönlichen Diffamierungen und Beleidigungen, reichte da das Spektrum. Und heute wird man auf sehr viel mehr Veranstaltungen eingeladen, weil die Menschen gesehen haben, dass diese Technologien halt auch wirklich Nutzen stiften können. Also heute ist dieses Spiel definitiv ein anderes, aber trotzdem hängen wir Deutschen da ziemlich hinterher. Und dass Ada vor allen Dingen in Amerika und Asien da eher reüssiert als hier in Deutschland, liegt jetzt nicht an den Deutschen, sondern das liegt eher daran, Dass die eben hier die Incentivierung fehlt. Ja, es fehlen Anreizsysteme, die Diagnose richtig zu stellen. Ich werde nicht dafür bestraft oder ich habe keinen Nachteil dadurch, dass die Diagnose falsch stelle. Wenn der 4 Wochen später oder ein halbes Jahr später wieder mit den gleichen Symptomen kommt, ist einfach Business as usual. Ja, weil den kann ich genauso gut wieder abrechnen wie vorher. Also es gibt keine wirklichen Nachteile. Wenn ich die Diagnose falsch stelle, und da sind natürlich solche Systeme wie hier in Spanien sehr interessant, wenn man sagt, okay, wir machen sozusagen per capita, also pro Bürger setzt man eine Summe fest, und die, und mit der muss halt ein Konzern dann meinetwegen wirtschaften. Und dann bin ich natürlich hochgradig incentiviert, die Diagnose richtig zu stellen, weil dann kostet mich jede Diagnose viele Fehlbehandlungen, viele Fehltherapien und so weiter, Ausfallzeiten der Person womöglich beim Job und so weiter. Und also da würde ich mir manchmal so bessere Anreizsysteme, was Diagnosestellung betrifft, wünschen, oder auch Fehltherapien betrifft, wünschen, die, die da ein bisschen mehr unser System steuern. Aber das glaube ich nicht.

35:00

Inga Bergen

Übrigens total spannend, weil ich hatte ja glaube ich einen der ersten Podcasts Podcasts mit Daniel Nadrat gemacht, der mittlerweile CEO von Ada ist. Und da hatte ich echt viel Feedback bekommen, auch von Ärztinnen aus meinem Bekanntenkreis, die dann so, ja, ich habe mal XY bei Ada eingegeben und da kam was ganz Falsches raus. Man kann diesen Tools nicht vertrauen. Und das ist ja, glaube ich, auch ein Thema für dich, weil du redest viel auch über Kulturwandel, ja, über Wandel im Mindset. Wie kann man denn solche Tools, wenn du jetzt sagst, es geht darum, eine richtige Diagnose zu stellen, wie kann man solche Tools heute nutzen? Wie muss man die anwenden? Mit welcher, sagen wir, inneren Haltung? Wie ernst kann man das nehmen? Wie soll man das verwenden? Jetzt zum Beispiel als Arzt oder Ärztin.

35:57

Prof. Dr. Martin Hirsch

Ja, gute Frage. Also Vertrauen in KI-Systeme ist tatsächlich hier einer unserer Schwerpunktthemen am Institut. Und die Wissenschaftlerin, die daran die daran arbeitet, ist die Nadine Schlicker. Die ist von ihrer Ausbildung her Psychologin, kennt also die ganze Klaviatur des Data Science und hat sich immer für so Gerechtigkeitsfragen interessiert. So nach dem Motto: Empfinde ich eine Entscheidung, die mir nicht passt, als gerechter, wenn sie von einer Maschine so entschieden worden ist? Meinetwegen Arbeitsplan in einer Pflegeeinrichtung. Und ich habe jetzt schon wieder, muss ich Weihnachten ran. So diese Art von Entscheidung empfinde ich die als gerechter, wenn der Plan von maschine gemacht wird als von meiner Kollegin, von der ich vermute, dass sie mich sowieso nicht mag. Ja, so diese Art von Dynamiken, die dann so reinkommen. Und aus der Ecke kommt sie und macht jetzt das Thema Vertrauen. Und wir versuchen halt eine Metrik, einen einfachen Mechanismus zu bauen oder zu entwickeln, mit dem man halt die Vertrauenswürdigkeit einer App, meinetwegen einer KI-App, in Hinblick auf mein persönliches Wertesystem auch beurteilen kann. Also dass ich nicht nur sehe, okay, Stiftung Warentest Crash-Test oder das TÜV-Siegel oder die DIN-Norm. Das erfüllt die DIN-Norm und die Ingenieure hinter der Norm finden die App also gut. Aber das heißt ja nicht, dass ich ihr auch vertrauen will. Und also wie, weil Vertrauen und Vertrauenswürdigkeitsempfinden hat durchaus eine Reihe von subjektiven Dimensionen. Das merkt man auch gerade in der Medizin. Also wenn ich hier Diskussionen mit Datenschützern habe, dann denke ich mir auch, mein Gott, ihr seid alle gesund. Aber unterhaltet euch mal mit kranken Menschen. Denen ist ihre Gesundheit und Gesundwerdung lieber und wichtiger als sozusagen meinetwegen ihr Datenschutz in einer solchen Situation. Und das kann auch kritisch sein, da gebe ich den Datenschützern durchaus recht, also dass man Notsituationen nicht ausnutzt. Aber was ich nur sagen will, ist, dass eben solche Einschätzungen und Werteabwägungen durchaus situationsabhängig sind. Und da entwickeln wir halt jetzt eine Vertrauenswürdigkeit Sicherheitsalgorithmus, der es mir halt sehr leicht macht zu beurteilen, welche Apps hier von denen, die jetzt in Frage kämen, auch in meinem Wertesystem und in dem, was mir wichtig ist, eine gewisse Vertrauenswürdigkeit haben können. Und das muss, egal ob das jetzt unser System werden wird oder irgendein anderes, es muss eben für eine Ärztin, einen Arzt, der ein solches System einzusetzen gedenkt oder überlegt, das zu tun, sehr klar und schnell begreifbar sein, ob dieses Tool jetzt taugt. Oder gibt es ganz einfache Regeln? Ja, die einfachste Regel heute ist, dass man vergleicht, hat das, sind, ist das Trainingsdatensatz, der Trainingsdatensatz des Tools, passt der zu meinem Patienten? Oder wäre mein Patient auch ein Mitglied in diesem Trainingsdatensatz gewesen? Und zum Zweiten, ist das Ziel, mit dem diese KI optimiert und trainiert worden ist eigentlich auch mein Ziel in der jetzigen Situation. Wenn die beiden Sachen gegeben sind, bin ich schon ziemlich auf der sicheren Seite. Das ist jetzt erstmal so ein Schuss ins Blaue, aber ich sag mal, man kann mit wenigen Parametern schon Spreu vom Weizen trennen. Und das wird die Aufgabe auch hier von KI-Forschern sein, da Lösungen anzubieten, die es Ärztinnen und Ärzten und Pflege erlaubt, sehr schnell zu gucken, passt das Tool in meine Situation oder nicht.

39:27

Inga Bergen

Ja, ich finde, das ist total spannend, weil da müssen wir ja auch einschätzen, eigentlich so wie das Ärztinnen und Ärzte auch tun bei irgendwelchen Informationen. Ja, man hat, man erlernt ja im medizinischen Studium die Fähigkeit, auch Studien zu lesen und zu interpretieren und kann dann auch gewisse Studienergebnisse vielleicht kritisch hinterfragen. Also man, man wird dazu befähigt und das müsste eben auch für KI stattfinden.

39:56

Prof. Dr. Martin Hirsch

Ja, ja.

39:56

Inga Bergen

Ich danke dir wirklich für dieses total spannende Gespräch und ja auch für deinen Weitblick und deine wirklich umfassende Perspektive auf das Thema. Es hat mir wahnsinnig viel Spaß gemacht und auch wirklich neue Erkenntnisse gebracht in der ganzen Debatte. Dafür möchte ich mich bei dir bedanken.

40:17

Inga Bergen

Wenn ihr mehr wissen wollt, findet ihr alle Links und Informationen auf www.visionäre-gesundheit.de. Www.gesundheit.de/visionäre. Wenn euch diese Folge gefallen hat, erzählt es gern allen Freunden und Bekannten. Und um nichts zu verpassen, abonniert unseren Podcast auf Spotify, Apple Podcast und Stitcher.