00:14

Inga Bergen

Herzlich willkommen zur Visionäre der Gesundheit Solo-Folge, zur ersten Solo-Folge mit mir, eurem Host Inga Bergen. Ich wollte das Format schon lange testen und diese Woche hat sich ein Gespräch mit einem Gast verschoben. Ich habe die Pipeline mit wirklich spannenden Leuten, mit denen über die ich gerne sprechen möchte, immer so voll, dass es noch nie dazu gekommen ist. Aber diese Woche ist meine Gelegenheit und ich habe einige Themen, die mir wirklich unter den Nägeln brennen und die ich einordnen möchte. Dazu nutze ich meinen Newsletter auf LinkedIn, was für mich den Vorteil hat, dass ich direkt mit euch ins Gespräch komme. Und ja, heute mal den Podcast. Bitte schreibt mir, wie ihr das findet und was ihr euch wünscht, ob ich vielleicht öfter Solofolgen machen sollte, um Themen einzuordnen. Und wir starten direkt rein, denn vor ein paar Wochen auf einer Veranstaltung habe ich eine Keynote gehalten zum Thema die smarte ambulante Praxis, Digitalisierung in der Medizin und ja, das, was sich gerade verschiebt. Und irgendwann meldet sich ein Arzt und sagt, und er meinte das nicht lustig, wenn die KI besser ist als ich, dann höre ich auf, dann verkaufe ich Würstchen. Ich habe gelacht, aber innerlich irgendwie auch nicht so, denn er meinte, es wirkt wirklich ernst. Und diese Frage: Wer bin ich, wenn eine KI Dinge kann, die ich eigentlich mache? Ja, die ist vielleicht in vielen Köpfen, vielleicht auch in eurem. Und die basiert meiner Meinung nach auf einem fundamentalen Missverständnis. Und da möchte ich gerne reinstarten und mich heute mit drei Themen beschäftigen. Das erste Thema ist: Was sind die 10%, die Menschen besser können als die KI, insbesondere in den Domänen, die wie für die KI gemacht sind? Und das alles, wo wir mit Wissen arbeiten, auf Basis von Wissen arbeiten. Und ja, das möchte ich einmal betrachten. Dann möchte ich mir Studien angucken aus dem Lancet, dem New England Journal of Medicine und vom MIT, die wirklich zeigen, was macht KI-Nutzung in der Medizin gerade mit uns? Uns und ein Thema ein bisschen vertiefen, was ich schon im Podcast mit Alena Büx hatte. Das ist das Thema Never Skilling, also dass wir durch KI niemals Kompetenzen aufbauen, weil dieser ganze Hustle, man startet irgendwie ganz unten und muss dann sukzessive das Wissen sich aneignen, nicht mehr so richtig gebraucht wird, weil das Wissen immer verfügbar ist. Einen KI-Researcher entfernt, wenn man gute KI-Skills hat. Ja, und Takeaway Nummer 3: Ich habe ein paar Strategien für euch, wie ihr und eure Teams wirklich auf der Seite steht, die durch KI gewinnt. Ja, und vielleicht noch mal initial zu dem, was diese Folge auch ausgelöst hat. Ich habe über beide Erlebnisse schon in meinem Newsletter geschrieben. Den könnt ihr auf LinkedIn abonnieren. Das ist der Visionäre der Gesundheit Newsletter, den ich regelmäßig herausgebe. Und das war ein Erlebnis. Ich hau im Moment wirklich alles, was mich beschäftigt, in die KI, lass mir Deep Researchers machen. Ich habe ein Tool, was aus verschiedenen Denkrichtungen tatsächlich Themen analysiert. Das finde ich total spannend zu sehen, weil wenn man mal schaut, was sagt ein Pragmatiker? Ja, was sagt ein Zukunftspessimist? Was sagt ein Steuerberater? Was ist eine feministische Perspektive? Was ist eine Perspektive, die eher im rechten Spektrum steht? Was ist eine Perspektive, die extrem wissenschaftskritisch ist? Was ist eine evidenzbasierte Perspektive? Finde ich total spannend. Also ich war so im Sparing mit meiner KI und dann hat die einen Output generiert und dieser Output machte bei mir einen Gedanken: Krass, die KI ist 90% schlauer als ich, vor allen Dingen schneller. Und das in einem Feld, in dem ich Expertin bin. Sie erfasst die Kontexte schneller, sie reichert viel umfassender an, sie produziert wirklich in 90 Sekunden, woran ich 90 Minuten gesessen hätte. Und ich bin keine durchschnittliche Beobachterin. Ich bin Expertin. Ich würde mich selbst als intelligent einschätzen und habe auch faktisch mal einen Intelligenztest gemacht. Also ich bin überdurchschnittlich intelligent, ich habe Bücher geschrieben: Ich rede die ganze Zeit mit Leuten, ich bin ahead of my game. Wenn die KI also schneller ist und 90 meiner kognitiven Arbeit übernehmen kann, ja, was sind dann meine 10 Und auf diese 10 kam ich, weil ich diese Frage: Wow, ich merke gerade zum ersten Mal, dass die KI wirklich besser ist als ich und vor allen Dingen schneller, einem Freund geschrieben habe, der sich auch total intensiv mit KI beschäftigt. Der ein Techie ist, der seit Monaten nicht mehr programmiert hat und auch weiß, das macht niemand mehr, weil alle nur noch KI dafür nutzen. Und der hat mir dann geantwortet: Ich frage mich seit Wochen, was sind meine 10%? Und dann habe ich mich auch gefragt, ganz eigennützig, wie bleibe ich auf der Seite, die durch KI gewinnt, nicht auf der, die dadurch verliert? Weil braucht es mich noch, wenn man mit einem Deep Research halt Sachen herausfinden kann, die ich sonst eben Ja, für die ich sonst vielleicht gefragt werde. Und an dieser Stelle kommt der Arzt, der, wenn die KI besser ist als ich, seinen Job aufgeben möchte und Würstchen verkaufen will, ins Spiel. Denn seine Antwort war dann aufhören, aussteigen, ja, irgendwie was anderes machen. Meine Antwort ist aber eine andere. Und ja, ich finde es spannend, vielleicht einmal da reinzugucken, was die Forschung sagt. Denn kurz auf die Fakten geguckt: Die KI wird besser. Ich habe mal Magnosco geleitet, das ist Jahre her. Ich glaube mittlerweile 6, 7 Jahre. Und wir haben damals eine KI entwickelt in der Diagnostik, in der Dermato-Onkologie. Und da wird die KI besser. Und das war sie damals schon. Da gab es dann Studien, aber das war eben nie auf realen Bedingungen. Das waren dann irgendwie immer, wenn man jetzt das, was wir alle kennen: Ich habe hier einen Leberfleck. Oh Gott, der ist neu. Kann es ein Melanom sein? Und da schien die KI damals schon genau, aber eben nur auf ganz, ganz begrenzten Bilddaten und konnte sich dann nicht reproduzieren in der Genauigkeit in der realen Welt. Das ändert sich. Die KI wird besser in der dermatologischen Bilderkennung, in der radiologischen Befundung, aber auch in der Differentialdiagnostik bei seltenen Erkrankungen. Und da ist die Studienlage Eindeutig, Algorithmen schlagen Fachärzt:innen in der reinen Mustererkennung zunehmend. Im Lancet wurde 2025 eine Studie eröffnet, da mit in Polen an 4 Endoskopiezentren Ärzt:innen über Monate, ja, eine quasi wurden beobachtet, die bei Darmspiegelungen mit KI-Unterstützung arbeitet.. Und dann wurde geschaut, was passiert, wenn die plötzlich ohne KI-Unterstützung arbeiten mussten. Und die Adenom-Detektionsrate, also wie zuverlässig Vorstufen von Darmkrebs gefunden wurden, sank tatsächlich von 28,4 auf 22,4%, also 6 Prozentpunkte runter. Absolut, ja. 20% relativ. Übersetzt: Erfahrene Ärztinnen werden nach 3 Monaten der KI-Nutzung messbar schlechter, wenn sie dann ohne KI arbeiten müssen. Das lassen wir mal kurz stehen. Die zweite Studie, die ich mitgebracht habe, ist aus Radiology 2023. Was passiert denn, wenn die KI bei der Mammographiebefundung einen falschen Vorschlag macht? Bei unerfahrenen Lesern brach dann die Trefferquote von rund 80 auf 20% ein. Und auch sehr erfahrene Leser wurden messbar schlechter, nur etwas weniger drastisch. Automation Bias nennt sich das. Also wir folgen der Maschine dann auch, wenn sie irrt. Vor allen Dingen dann, wenn sie selbstbewusst irrt. Und das kennt ihr aus dem Umgang mit KI, die irrt sehr selbstbewusst. Also die klingt so, als klingt alles total richtig. Und wenn man die dann nutzt, kann man dem eben folgen, auch wenn es nicht stimmt. Automation Bias. Und die Studie 3 im New England Journal of Medicine aus dem Jahr 2025. Und die hat einen Begriff geliefert, den ich spannend finde. Ja, „Deskilling", also erfahrene Fachkräfte verlernen. Das haben wir in der ersten Studie. Aber was passiert, wenn Assistenzärzt:innen niemals selber lernen, sondern immer KI einsetzen? Dann heißt der Begriff Never Skilling. Also eine ganze Generation, die zentrale diagnostische Fähigkeiten vielleicht nie vollständig aufbaut, weil sie von Tag eins unterstützt mit KI arbeitet. Dazu empfehle ich noch mal den Podcast mit Professor Dr. Alena Buyx. Sie ist ehemalige Vorsitzende des Deutschen Ethikrats und sie hat das gespiegelt. Sie macht sich weniger Sorgen jetzt so um die Generation, die schon skilled ist, sondern um die nächste. Und sie fordert ganz dringend neue Ausbildungsmodelle. Ich verlinke den Podcast gerne gerne in den Shownotes. Aber soweit die Fakten. Der Kollege mit den Würstchen, der hat jetzt nicht so unrecht. Die KI wird besser und bei manchen deutlich besser als wir. Aber er zieht dann eine falsche Schlussfolgerung. Und ja, seit über 30 Jahren, ich gehe darauf jetzt ein, zeigt eine Studie nach der anderen. Die Therapeutische Allianz erklärt, einen erheblichen Teil der Variabilität in Therapieergebnissen, nicht Diagnostik. Und wenn wir jetzt auf Diagnostik kommen, dann geht es um einen Vertrauenspakt zwischen dem Behandler, der Behandlerin und dem Patient oder der Patientin. Und das geht über alle Behandlungsformen, über alle Fachrichtungen hinweg und ganz unabhängig von der Diagnostik oder von der Methodik. Das eine ist ja: Welche Diagnose stellen wir? Welche Therapieableitung haben wir? Das andere ist: Wie wird das übersetzt? Und wer Vertrauen aufbaut, heilt besser. Das zeigt eine Studie nach der anderen. Und das gilt nicht nur für die Frage, ob jetzt Patient:innen ihr Medikament wirklich nehmen. Vertrauen entscheidet darüber, ob Menschen zur Vorsorge gehen, ob sie sich impfen lassen, ob sie ihren Lebensstil ändern, ob sie den Empfehlungen folgen oder ob sie Dr. Google oder Professor ChatGPT folgen. Und KI kann natürlich diagnostizieren. Was sie nicht kann, ist ein Pakt schließen, der zur Handlung führt. Und genau das übersieht der Würstchenkundliche. Ich nenne ihn jetzt so, ist natürlich Quatsch, aber ihr wisst, was ich meine. Er denkt nämlich, sein Beruf, er kennt, besteht aus diesem Wissen. Aber dieses Wissen und diese Mustererkennung, das ist nur ein Teil. Und vielleicht, wenn wir ehrlich sind, der Teil, der sich am ehesten automatisieren lässt. Und dann kommt eben der zweite Teil. Das ist die größere Hälfte der ärztlichen Arbeit, die sich nicht digitalisieren lässt. Sie heißt, einem Menschen in einer Lebenskrise gegenübersitzen. Sie heißt, Vertrauen aufbauen, wenn die Diagnose schwierig ist. Sie heißt, einen Patienten, der mit einem ChatGPT-Ausdruck in die Sprechstunde kommt, nicht abzukanzeln, sondern zu fragen: Ja, welche Technologie haben Sie denn jetzt gefragt? Haben Sie gegoogelt? Haben Sie ChatGPT genutzt? Was haben Sie gepromptet? Welche Daten haben Sie denn da reingegeben? Was haben Sie Was haben sie nicht verstanden? Und ich habe einen Begriff dafür entwickelt. Mir war das Thema Empathie nicht weit genug, weil es geht dann oft— und ich bin super viel auf Konferenzen, ich moderiere viel, ich mache viel Keynote-Speaking, ich rede viel mit Leuten, ich mache auch übrigens ganz viele Beiräte, wo ich Unternehmer:innen in dem Bereich da unterstütze, die richtigen Netzwerke aufzumachen und solche Sachen. Also ich würde sagen, ich bewege mich ganz vorne da, wo Innovation ja entweder besprochen wird oder auch gebaut wird. Und dieser Begriff Empathie, was bleibt dann übrig? Empathie bleibt Empathie für das Gegenüber. Der ist mir nicht weit genug. Und deswegen habe ich die ganze Zeit überlegt, was für ein Begriff könnte passen? Und ich bin auf Empathy gekommen. Empathie. Plus die Fähigkeit, eine Handlung abzuleiten, einen Pakt zu schließen mit dem Patient oder der Patientin. Also die Fähigkeit, aus Wissen eine Handlung zu übersetzen, aus Diagnose ein Vertrauen zu übersetzen, aus Daten, aus einer Therapieentscheidung einen Pakt zu schließen. Und das kann KI nicht. KI kann das nicht. KI kann das nicht bewirken. Das können Menschen. Wir Menschen brauchen Menschen. Und deswegen lasst mich zu dem Teil kommen, der ja darauf eingeht, wo KI die menschlichen Fähigkeiten nicht ersetzen kann, sondern braucht. Und ich finde spannend, da eine Studie, die von zwei Forschern, also einer Forscherin und einem Forscher, 2025 vom MIT veröffentlicht wurde, die in dieser Future-of-Work-Debatte ziemlich abgeräumt hat. Die heißt Epoch. Und die Forscher:innen haben gefragt, welche Jobs frisst denn die KI, beziehungsweise haben sie nicht gefragt, sondern sie haben eher gefragt: Welche menschlichen Fähigkeiten ergänzt die KI dort, wo KI systematisch nicht gut funktioniert? Weil die hat auch Schwächen. Und das bringt mich zu der Frage: Was sind denn die 10%, die KI besser, die wir besser können, wir Menschen besser können als die KI? Vielleicht sind es auch 20 aber wir bleiben mal bei den 10 Und da gehe ich jetzt Schritt für Schritt durch, denn das finde ich total spannend. Und das ist erstens das Urteilsvermögen unter Unsicherheit. Also wenn Daten fehlen, wenn Daten widersprüchlich sind, kontextabhängig interpretiert werden müssen, da braucht die KI das richtige Trainingsset und die richtigen Fragen vor allen Dingen. Wir brauchen das nicht, können diese Fragen selber stellen. Wir können auf diese Fragen selber kommen. Ja, das heißt, blind der KI zu vertrauen, ohne mitzudenken, kann man machen, haben wir sicher alle schon mal gemacht. Ich habe das sicher schon mal gemacht, dass ich irgendwas ungeprüft rausgeschickt habe und dass ich dann hinterher dachte, oh, das war jetzt nicht so klug von mir. Also diese Disziplin, da immer alert zu bleiben, mit dem eigenen Urteilsvermögen wirklich draufzugucken, den Kontext zu verstehen, das müssen wir können und das müssen wir üben. Das müssen wir üben in den Ausbildungszyklen, die wir durchlaufen, ob es nun ein Studium ist oder die praktische Arbeit. Das müssen wir üben. Das Zweite ist Beziehungsarbeit und ethische Verantwortung. Eine Patientin trösten, ein Team durch eine Veränderung führen, im Gespräch erkennen, was nicht gesagt wird. Das sind ja keine Schwächen der KI. Das ist eine Domäne, die strukturell nicht bei der KI liegt. Das kann die KI nicht. Das können wir Menschen. Wir können trösten, wir können durch eine Veränderung führen, wir können Intuition haben. Wir können auf das kommen, was nicht gesagt wird. Wir können im Moment noch viele Dinge. Die KI wird auch sicherlich irgendwann unser Face auslesen. Das kann ja KI heute schon, dass sie Emotionen erkennt. Aber diesen Kontext auch zu sehen, was nicht im Raum ist, zu sehen, was vielleicht stattfindet, dann, wenn wir nicht der KI gegenübersitzen, das können wir Menschen. Und wir können originelle Synthese, wir können aus Disziplinen, aus verschiedenen Disziplinen ein neues Konzept zusammensetzen. Wir können ein Versorgungssystem neu denken. Ich finde es auch spannend. Ich mache manchmal, das jetzt aus meiner eigenen Arbeit, ich halte ja viele Vorträge über die Zukunft und ich versuche dann manchmal mit Claude eine PowerPoint über die Zukunft zu machen. Ich habe das einmal gemacht und das war wirklich mein schlechtester Vortrag. Das funktioniert nicht. Die KI kann keine richtigen Zukunftssynthesen entwickeln, so wie ich das kann, weil vieles von dem, was ich aufgreife, noch gar nicht im Internet publiziert ist. Und das sind ja die Daten, auf die die KI zugreift, sondern das sind Gedanken, das sind Beobachtungen, das sind Ableitungen. Und diese originelle Synthese, die kann die KI nicht. Und das ist übrigens auch etwas, das mache ich nicht mehr. Habe ich einmal gemacht, mache ich nicht mehr. Wir müssen aus verschiedenen Punkten neue Konzepte, neue Fragen, neue Predictions zusammensetzen. Das müssen wir tun als Menschen. Und die KI kann keine Verantwortung übernehmen. Und Verantwortung können wir hier als einmal Verantwortung sehen. Wir brauchen übrigens ganz viele neue Begriffe. Dazu komme ich in dieser Folge nicht. Das möchte ich aber zukünftig gerne behandeln. Impact hier ist einer davon. Die KI kann keine Verantwortung übernehmen. Sie kann keine Entscheidung treffen, hinter denen man als Mensch steht. Sie kann auch keine Haftung übernehmen. Haftung ist das Magic Word im rechtlichen Sinne, im ethischen Sinne, im menschlichen Sinne. Die KI haftet nicht. Die KI haftet übrigens auch rechtlich nicht. Wir haben keine KI, die rechtlich haftet. Und das ist die Kernkompetenz von Ärzt:innen. Wir müssen da übrigens aufpassen, dass wir nicht irgendwann, wie, so stelle ich es mir übrigens bei diesen ganzen Direct-to-Consumer-Telemedizinanbietern vor, zum Beispiel im Bereich Cannabis, da haftet ein Arzt, der eigentlich nur weiterklickt. Ja, Rezept freigegeben, Rezept freigegeben, Rezept freigegeben. Das stelle ich mir nicht vor. Ist aber wirklich auch möglich, dass die KI zukünftig übernimmt und ein Mensch übernimmt dann die Haftung. Das ist aber nicht das, was wir wollen. Also Urteilsvermögen, Beziehung, Verantwortung, das ist das, was menschlich ist. Und nicht das, was der Kollege, der Würstchen verkaufen gesagt hat, also das ist das, was er macht, sieht, weil er leitet ab, es ist die Mustererkennung, aber eben nicht aus meiner Sicht. Das ist nicht das, was bleibt, sondern Urteilsvermögen, Beziehung, Empathy, Verantwortung. Also was müssen wir jetzt tun? Wir müssen natürlich Strategien entwickeln. Wir müssen uns selbst überlegen, was wollen wir mit der KI leisten? Und das muss sich jeder von uns überlegen. Wir müssen die KI natürlich füttern. Wir brauchen KI auch im medizinischen Kontext, die dafür gemacht ist. Wir haben diese KI. Und dazu hatte ich schon mehrere Folgen, einmal mit AMBOSS und mit dem Gründer von AMBOSS, mit der Gründerin von Professor Valmed. Das sind KI-Modelle, die sich an medizinisches Fachpersonal richten. Übrigens Professor Valmed bald auch an Patient:innen. Und ja, diese KI ist gefüttert mit medizinisch validierten Daten und so was brauchen wir. Aber wenn wir mit KI-Modellen arbeiten, die nicht für medizinischen Kontext zugelassen sind, dann müssen wir sie füttern mit besseren Briefings. Wer der KI bessere Briefings gibt, kriegt bessere Outputs. Und das müssen wir alle lernen. Dann müssen wir unser eigenes Urteil bewusst trainieren. Wenn die Lancet-Studie sagt, dass Detektionsrate nach 3 Monaten KI-Nutzung sinkt, dann müssen wir aktiv dagegen arbeiten. Arbeiten und manche Aufgaben weiterhin manuell machen. Aus Sorgfaltspflicht für das eigene Gehör. Und das finde ich eine total spannende Frage. Da bin ich noch nicht zu einem abschließenden Punkt gekommen. Das würde ich aber super gerne mit euch diskutieren. Und Punkt 3: Wir müssen Beziehungsarbeit aufwerten und nicht delegieren. Das schwierigste Gespräch des Tages gehört nicht in eine KI-E-Mail. Das gehört in das reale Gespräch. Und wer das delegiert, der delegiert wirklich genau die Kompetenz, die den Unterschied macht. Ich möchte übrigens auch nicht so viel KI-Kommentare. Ich glaube, dann sollten wir es lieber lassen. Wir müssen lernen, diese Gespräche zu führen. Und das finde ich auch spannend, weil es wird ein fundamentaler Shift sein, auch in der Art, wie wir Ausbildung machen in der Medizin, gerade mit medizinischem Fachpersonal, weil dieses Thema findet eben heute noch viel zu wenig statt, insbesondere in Deutschland. Und das Thema heißt Synthese statt Konsum. Wir müssen uns nach jedem KI-Output fragen: Was kommt jetzt von mir dazu, was die KI nicht konnte? Was ist vielleicht ein blinder Fleck? Wenn ich die Antwort nicht habe, dann habe ich nur kopiert. Und ich arbeite auch immer iterativ. Ich frage immer nach, ich bringe immer Aspekte ein und mir hilft die KI beim Denken, auf neue Punkte zu kommen. Und wir müssen übrigens auch, und das ist mein Punkt 5, wir müssen über Schutzräume reden für die nächste Generation, für Studierende, für Berufseinsteiger:innen, für Schüler:innen. Die brauchen Phasen ihrer Ausbildung ohne KI, damit dieses Never Skilling nicht entsteht. Und das sind Strukturentscheidungen, die treffen sich nicht von allein, die brauchen Führung, die brauchen den Willen, dass wir KI ernst nehmen und dass wir das Gesundheitssystem und das System einfach, das KI-gestützte System auch der Zukunft wirklich stärken. Ich wünsche mir, dass ich übrigens damals bei der Veranstaltung etwas schlagfertiger gewesen wäre. Ich habe dem Arzt gesagt: Bitte bleiben Sie Arzt. Aber ich hätte es ausführen können: Wir brauchen Sie nicht als Wissensmonopolisten. Das ist vorbei. Wir brauchen Sie als Vertrauensbildner. Wir brauchen Sie als jemanden, der impacten kann, um bei dem Wort zu bleiben, der aus Wissen Handlung macht, der dieser Verwirrung, die Menschen haben, die von Dr. Google zu Dr. ChatGPT rennen, der da wirklich diesen Hand-auf-die-Schulter-Moment: Vertrauen Sie mir, ich kann Ihnen helfen. Das kann die KI nicht, das können nur Sie. Und das brauchen wir nicht am Würstchenstand. Das brauchen wir als jemand, der den Menschen wirklich in die Augen schaut, der den Menschen wahrnimmt, dem es nicht gut geht und der sagt: Ich ordne das jetzt für Sie ein. Und dazu braucht man Beziehungskompetenz, aber dafür hat man nicht 10 Jahre studiert. Ja, wenn euch diese Folge bewegt, dann macht mir eine Freude, teilt sie, teilt sie mit jemandem, der sich gerade diese Fragen stellt. Und meinen Newsletter könnt ihr natürlich auf LinkedIn sehen. Und ich freue mich, wenn wir dann auch darüber diskutieren. Und nächste Woche oder in 2 Wochen gibt es wieder eine Folge mit einem Gast und bleibt neugierig und schreibt mir gerne: Was sind eure 10%? Vielen, vielen Dank und tschüss!