00:14

Inga Bergen

Was passiert, wenn künstliche Intelligenz plötzlich medizinische Fragen beantwortet, und zwar schneller als jede Google-Suche? In dieser Folge von Visionäre der Gesundheit ist Sifat Weiss, Mitgründer und CEO von AMBOSS, zu Gast. Wir sprechen darüber, warum künstliche Intelligenz in der Medizin nicht nur klug, sondern vor allem sicher sein muss, was es mit dem No-Harm-Ansatz auf sich hat und weshalb gute Medizin auch im KI-Zeitalter ohne klinisches Denken nicht funktioniert. Außerdem geht es um ChatGPT for Health. Um informierte Patientinnen und um die Frage, ob Ärztinnen bald bessere Fragen stellen müssen als je zuvor. Herzlich willkommen zum Visionäre der Gesundheit Podcast und ich freue mich sehr, dass ich heute einen Gast habe, den ich schon mal zu Gast hatte und bei dem sich so unglaublich viel getan hat in so kurzer Zeit, dass viele sich ein Update tatsächlich gewünscht haben. Der Gast ist Siebert Weiß von AMBOSS. Hallo Siebert!

01:27

Sievert Weiss

Hi Inga!

01:28

Inga Bergen

Freue mich sehr, dass du heute mein Gast bist.

01:31

Sievert Weiss

Ich freue mich auch sehr. Vielen Dank! Ich freue mich sehr, dass wir mal wieder miteinander hier sprechen.

01:36

Inga Bergen

Ja, wir sprechen öfter miteinander und es ist wahnsinnig viel passiert bei euch. Ihr habt viel Geld eingesammelt, ihr seid international gelauncht, ihr seid ein Unicorn, also Heißt, ihr habt durch die Finanzierungsrunde über 1 Milliarde Bewertung auf dem Buckel und ihr habt eine KI, die alle großen Modelle in einer Studie gerade geschlagen hat beim Thema medizinische Fragen. Da werden wir gleich genauer eintauchen. Das wirst du uns ja alles erklären. Also es hat sich super viel getan. Und wer sich für die Geschichte von AMBOSS interessiert und auch wie du das mit deinen Mitgründern gegründet hast, der kann in die erste Folge reinhören. Hören, das skippen wir heute, die verlinke ich aber in den Shownotes. Und genau, und seitdem ist KI gelandet und das ist auch so ein bisschen das Thema, über das ich gerne heute mit dir sprechen möchte. Das war noch vor dem Launch von ChatGPT. Jetzt ist KI für alle da, wir alle nutzen es und das hat auch für euch total was verändert. Also was ist passiert, seitdem wir das letzte Mal gesprochen haben, Siward, im Schnelldurchlauf?

02:47

Sievert Weiss

Ich habe zumindest mal nachgeschaut heute, wann wir das letzte Mal gesprochen haben und das war tatsächlich Das war heute vor 3 Jahren auf den Tag genau. Und was hat sich seitdem getan? Also letztlich, wenn man die erste Folge gehört hat, dann weiß man das grob, aber letztlich haben wir vieles von dem einfach weitergemacht, was wir damals schon gemacht haben. Wir haben also weiter, vielleicht im Schnelldurchlauf, 95% der Medizinstudierenden in Deutschland, alle bis auf eine Uni in Deutschland. Wir haben über 60% der US-Studierenden in den USA, die sich auf das Examen mit uns vorbereiten und die ersten Ärzte, die da in die Nutzung kommen. Wir haben über 550 Krankenhäuser, die uns für das ärztliche Personal und auch mittlerweile das pflegerische Personal anschaffen. Und insgesamt in Deutschland, das vielleicht das Interessanteste, gut ein Viertel der deutschen Ärzteschaft auf unserer Plattform. Was jetzt vielleicht sozusagen außergewöhnlich hinzugekommen ist: Wir haben zwei Firmen gekauft im Verlauf der letzten Jahre und wir haben die Pflege hinzugenommen, sodass medizinisches Wissen eben nicht nur den Ärzten zugutekommt, sondern genauso der Pflege. Ansonsten verfolgen wir letztlich weiterhin die gleiche Mission wie davor auch. Wir wollen evidenzbasiertes medizinisches Wissen an den Anwender bringen. Das ist unser Ziel. Und wenn wir uns überlegen, dass es wahrscheinlich so roundabout 60 Millionen Healthcare Professionals in der Welt gibt und wir haben jetzt so um die 2, dann gibt es auf jeden Fall noch Room to grow für uns, diese Mission zu erfüllen.

04:23

Inga Bergen

Ja, aber es ist schon wirklich wahnsinnig viel für so eine kleine, für die kleine Gründung, als die ihr gestartet seid. Ihr habt jetzt auch sehr stark internationalisiert und wirklich den Schritt gewagt. Wie ist das? Wie ist das für euch? Wie organisiert ihr das? Und wie wird das vor allen Dingen angenommen als ein Produkt, was auch aus Deutschland kommt?

04:45

Sievert Weiss

Ja, also genau die Internationalisierung, das machen wir jetzt ja schon so grob, sage ich mal, seit 2018 vielleicht mit der englischen Plattform. Mit der englischen Plattform, die großen Fokus auf die USA hat, aber eben auch im Rest der Welt viel Anklang findet. Damit sind wir in 180 Ländern der Welt tatsächlich in Benutzung. Und wie ist das für eine deutsche Plattform, in die Welt zu gehen? Also ich glaube, dass man das jetzt der Plattform nicht immer unbedingt ansieht, dass sie deutsch ist. Und das versuchen wir natürlich jetzt auch nicht immer in den Vordergrund zu stellen, weil das vielleicht dann doch irgendwie für den einen oder anderen nicht passt. Aber wir versuchen natürlich einen lokalen Anspruch über überall da, wo wir wirklich explizit in die Märkte gehen, da geht es uns darum, bestmöglich auf die dortigen Probleme und Bedürfnisse einzugehen, und das ist dann teilweise eben auch sehr unterschiedlich zu dem, was wir in Deutschland machen. Also als wir in die USA gegangen sind, war klar, dass wir uns beispielsweise total auf das US-Examen einstellen müssten, was auch anders ist als das deutsche, obwohl es auch Multiple-Choice-Fragen sind und dass es auch beispielsweise auf US-Guidelines basieren muss. Und damit, mit solchen Komplexitäten müssen wir dann hantieren. Aber es hat bisher ganz gut geklappt und wird tatsächlich wahrscheinlich jetzt sogar noch einfacher.

06:09

Inga Bergen

Ja, was ich so spannend finde, ist, dass ihr ja also wirklich Schlagzeilen gemacht habt mit der NoHarm-Studie. Vielleicht kannst du das ja gleich auch noch mal erklären. Das kannst du sicher besser erklären als ich. Die Schlagzeile war: Deutsche KI schlägt alle großen LLMs von ChatGPT. Über Gemini und Perplexity, you name it, Claude, in medizinischen Fragestellungen in dieser NoHarm-Studie. Und ihr habt auch beim Thema KI wirklich aufgerüstet. Also das ist auch Kern eurer Strategie. Vielleicht starten wir mal mit der NoHarm-Studie. Das kannst du mir noch mal erklären. Ich habe viel darüber gelesen und finde es total spannend. Wir haben es auch mal kurz, wir haben uns mal kurz drüber ausgetauscht. Aber was Was war da genau die Fragestellung und warum habt ihr da so gut abgeschnitten?

07:00

Sievert Weiss

Ja, also erst mal No Harm ist sozusagen, der Name ist Programm. Es ging darum herauszufinden in dieser Studie, ob die getesteten Modelle erst mal sozusagen keinen Schaden anrichten oder welchen Schaden sie anrichten. Und das im Vergleich sozusagen zu einem Allgemeinmediziner, der durch die gleichen Fragestellungen geht. So, dann wurde ein Set aus 100 realen Fällen aus der echten klinischen Versorgung dafür erstellt. Und alle diese Systeme, das waren insgesamt 31 KI-Systeme plus dann diese Generalist Physicians oder GPs, wurden auf diese Fragen losgeschickt und dann wurden die Antworten sozusagen ausgewertet. Und es wurde geschaut, sozusagen in verschiedenen Dimensionen, über verschiedene Dimensionen hinweg, Wie sind diese Fragen beantwortet worden? Und das wurde bewertet. Genau. Und da, wie gesagt, der Fokus war Vermeidung potenziell schädlicher Empfehlungen. Und das passt sehr gut natürlich irgendwie mit dem ärztlichen Leitbild zusammen. Seit über 2000 Jahren heißt es: Primum nihil nocere. Erst mal keinen Schaden anrichten. Das ist der erste Schritt. Und dann muss man auch noch sehr vorsichtig sein und dann kann man vielleicht ans Heilen gehen. Und insofern glaube ich, passte dieser Ansatz irgendwie ganz gut zu uns, weil das natürlich sehr unserem Ethos entspricht. Aber auch die Überlegung zu sagen: Ja gut, also wenn wir unterstützen wollen, und das ist natürlich, wenn man diese KIs jetzt an der Hand hat, sind die sehr viel theoretisch sehr viel einfacher testbar, weil das ein automatisierter Prozess ist, der dann da abläuft. Und da kann man natürlich schauen, wie zumindest dieser Teil der Performance aussieht und kann das ganz gut gegeneinander benchmarken, was vorher schwieriger war, wenn ich nicht irgendwie ein sehr viel komplexeres Setup hatte. Und Und insofern ist das natürlich für uns total spannend zu sehen, wie schneiden wir in solchen Benchmarks ab. Jetzt gibt es natürlich unterschiedliche Benchmarks. Wir haben auch unsere eigenen Benchmarks, weil wir natürlich auch außerhalb von Studien total daran interessiert sind, unser Angebot zu verbessern und unserem Versprechen sozusagen da weiter zu folgen. Aber das ist natürlich schön, wenn das dann in so einem Set validiert wird. Es gibt auch ganz andere Benchmarks, da geht es darum, wie werden irgendwie die Examsfragen beantwortet durch eine KI und so weiter, und ob das dann irgendwie ein verlässlicher Parameter ist dafür, ob ich in einem klinischen Setting auch gute Antworten auf schwierige Fragen liefere, ist dann was ganz anderes. Insofern war das für uns hier ein sehr guter Test. Es waren echte klinische Fälle und unser Modell hat sehr gut abgeschnitten. Und ein Beispiel daraus: Was heißt das? Also es gab beispielsweise die Kategorie Harmful Errors. Wie viele wirklich schädliche Fehler sind aufgetreten? Da hat der Allgemeinmediziner bei den 100 Fällen 33 schädliche Fälle verursacht und die Amboss AI eben nur 13. Das heißt also nur ein Drittel der Fehler. Aber nichtsdestotrotz eben immer noch trotzdem irgendwie eine gewisse Nummer.

10:01

Inga Bergen

Eben immer noch Fehler. Also perfekt ist es noch nicht. Und solche Fehler sind dann irgendwie eine Fehldiagnose oder die Einschätzung vielleicht nicht irgendwie noch weiter diagnostische Frage zu stellen? Oder was kann so ein Fehler sein?

10:16

Sievert Weiss

Also was hier aufgefallen ist, war sozusagen Error of Omission. Und das war sozusagen, dass Dinge unterlassen wurden. Also dass der nächste Schritt oder eine weitere Untersuchung oder irgendwie so was, die indiziert gewesen wäre, die wurde nicht vorgeschlagen. Das ist jetzt vielleicht auch nicht total total, also wie soll man sagen, es ist ja an für sich wahrscheinlich im Kern der Modelle begründet, dass die erst mal versuchen, nicht überall irgendwie die Leute aufzuschrecken und weitere Diagnostik und weitere Therapie zu veranlassen. Aber das führt wahrscheinlich an manchen Stellen dann eben auch dazu, dass es ein Stück zu weit geht.

10:58

Inga Bergen

Aber ich finde es spannend, weil es ist natürlich ein Kernproblem der Medizin, dass man ganz häufig, also das wissen wir ja gerade bei seltenen Erkrankungen, oder bei Erkrankungen, die aus irgendeinem Grund nicht wirklich auf der Agenda stehen oder standen, dass es manchmal für Patient:innen sehr schwer ist, bis zu einer wirklich fundierten, guten Diagnose zu kommen und eben durch diese Journey, auch diese diagnostische Journey, dann auch wirklich gut geleitet zu werden. Und wenn man das jetzt weiterdenkt, dann bietet ja so eine Technologie den Grundstein wirklich für assistierte Medizin, die noch mal besser als der durchschnittliche Mediziner:in wirklich zeigen kann, was ist jetzt als Nächstes, was ist die Next Best Action. Das ist auch etwas, das hatten wir in unserer KI-Academy, also diese Next Best Action-Empfehlung. Das ist ja etwas, was KI sehr gut kann und das habt ihr dann letztendlich ja dort bewiesen. Was bedeutet das denn jetzt für eure Produktweiterentwicklung? Also das muss ja auch einen ganz klaren Nutzen haben für all das, was ihr demnächst oder was ihr jetzt anbietet, was ihr jetzt auch launcht.

12:18

Sievert Weiss

Natürlich, das ist definitiv so, dass das für uns sehr wichtig ist. Und ich meine, wir haben in der Vergangenheit, haben wir glaube ich auch in unserem Podcast darüber gesprochen, dass irgendwie eine wesentliche KPI für uns ist: Time to knowledge. Also wie schnell kommt derjenige, der eine Frage hat, zu einer Antwort. Und das war lange total aufwendig. Also es gab damals auch schon Google und Google, wie wir wissen, ist auch relativ schnell, aber bis du dann die richtige Quelle für deine Frage gefunden hast, hat das ewig gedauert. So, ich sag mal, diesen Teil, den haben wir irgendwie mit Amboss abgelöst. Das war sehr viel schneller, dass ich eine verlässliche Antwort auf meine Frage bekam, und die Performance war, sagen wir mal, vergleichbar, was die Schnelligkeit angeht. Nun ist sicherlich, wenn wir uns jetzt anschauen, wie KI-Modelle heutzutage Frage, wie schnell die irgendwie Output generieren, ist Geschwindigkeit wahrscheinlich nicht mehr das Problem. Das Thema haben wir gelöst und auch der Zugang, diese Frage zu stellen und Antwort zu bekommen, ist auch relativ einfach. Sehr viel schwieriger wird es jetzt sein, glaube ich, in Zukunft zu sicheren Antworten zu kommen. Und selbst wenn wir sagen, die Modelle antworten irgendwie mit einer ungefähr 90-prozentigen Richtigkeit, dann haben wir immer noch 10%, die irgendwie uns unsichere Antworten geben oder vielleicht auch Antworten, die falsch sind, schlichtweg falsch, und wir das aber wenn wir Pech haben, gar nicht erkennen, weil das uns dann ja auch, wie wir wissen, relativ selbstbewusst präsentiert wird, bis wir dann irgendwie vielleicht doch mal kritisch nachfragen. Also die Zukunft wird sein sozusagen als neuer KPI für uns ist eher Time to Save Knowledge oder Time to Save Insight, wenn man so will. Wo wir sagen, das wesentliche Kriterium wird sein, dass das verlässliche Antworten sind. Und wie schnell, wie gut kriege ich das hin? Wie hoch kann ich das Level an Verlässlichkeit schrauben, um das wirklich so sicher wie möglich zu machen? Und das ist letztlich auch das Modell, was wir quasi in NoHarm verwendet haben. Also wie kann dieses Modell, was ja jetzt dann auf AMBOSS-Daten zurückgreift irgendwo und natürlich sich einer KI-Logik bedient, aber die eben, wenn man so will, so weit zurückgeschraubt, dass die jetzt nicht dazwischenfunkt, wenn da wissenschaftliche Erkenntnisse aus dem Korpus herausgezogen werden, den wir beispielsweise dann da erstellt haben. Und damit ist die Fehlerwahrscheinlichkeit deutlich reduzierter.

14:43

Inga Bergen

Ja, und die Grundlage sind natürlich die Daten. Also ihr habt saubere Daten. Das hat natürlich ein Modell nicht, was aufs gesamte Internet zugreift. Aber wir haben ja jetzt auch gesehen, es gibt mittlerweile ChatGPT Health, also auch die großen KI-Modelle versuchen in den Gesundheitsmarkt reinzugehen und haben natürlich den Vorteil auf der Patient:innen-Seite, dass sie da schon große Reichweite haben und dass das Menschen natürlich auch schon nutzen. Für medizinische Fragestellungen oder für Fragestellungen rund um Gesundheit. Und da würde ich jetzt sagen, kann man es eigentlich nur begrüßen, dass die auch dezidierte Health Sections bauen oder Lösungen entwickeln, weil die Leute es ja wahrscheinlich eh auch dafür nutzen. Jetzt habt ihr auch ein KI-Produkt gelauncht. Dazu kannst du— das sind die News, die ihr ja habt, große News. Vielleicht kannst du da auch noch mal was zu erzählen. Wie da eure Vision ist und wie ihr die jetzt in einem ersten Schritt auch wirklich in ein Produkt überführt habt.

15:41

Sievert Weiss

Wir haben über die NoHarm-Studie gesprochen. Da wurde letztlich die US-AI-Variante von AMBOSS getestet. Wir haben es jetzt in Deutschland rausgebracht, natürlich in einer Form, die auf Deutschland angepasst ist und auch hiesigen Bedingungen entspricht. Und was ist sozusagen die Vision davon? Also letztlich, wenn man so will, wieder zurück, ist eigentlich relativ simpel. Wir wollen, dass das wesentlich den Anwendern zugutekommt und einfach sehr viel besser noch Antworten liefert auf Fragen, die die Anwender haben. Und wenn wir uns jetzt vorher vorstellen, über die AMBOSS-Suche konnte ich vorher schon suchen und ich konnte gewisse Suchanfragen stellen und konnte sagen: Okay, was ist die Therapie oder Second-Line-Treatment oder was auch immer bei Herzinsuffizienz oder Bluthochdruck? Dann kann ich jetzt auch Fragen stellen, die weit über das hinausgehen. Ich kann sagen: Was sind die Differentialdiagnosen? Bei Schmerzen in der Brust oder irgendwie sowas. Und ich ziehe mir die Informationen aus allen Bereichen, wo das als Symptom vorkommt, zusammen und bereite das auf. Und es wird mit einer gewissen Wahrscheinlichkeit irgendwie angegeben, was ist jetzt wie verfolgenswert, was sollte ich als Erstes ausschließen und so weiter und so fort. Also es gibt die Möglichkeit, ebenso wie sonst auch, wenn man so will, mit der KI aus dem gesamten verfügbaren Korpus mir etwas zusammenstellen zu lassen, was auf diese Frage passt. Und das macht gerade bei komplexen Fragestellungen sozusagen das Finden dieser Antwort sehr viel einfacher. Als ein Beispiel.

17:15

Inga Bergen

Das heißt, ich könnte jetzt also als Beispiel auch Symptomatiken beschreiben, die irgendwie gar nicht zusammenpassen, die nicht in meinem Wissensset irgendeinen Sinn machen und würde von eurer KI aus eben verschiedenen Kontexten Informationen dazu bekommen, Worauf könnte das hindeuten?

17:36

Sievert Weiss

Ja, also das könntest du versuchen. Amboss gibt aber auch in dem Fall, wird es, wenn das gar keinen Sinn macht, was du fragst, wird es auch sagen: Sorry, dazu habe ich kein Wissen oder das kann ich dir nicht beantworten. Und dann hört es auch auf. Ja, es checkt auch widersprüchliche Empfehlungen. Wir wissen auch, dass es sozusagen von unterschiedlichen Fachgesellschaften unterschiedliche Empfehlungen zur Therapie des gleichen Krankheitsbildes gibt. Und so weiter. Also es versucht da eine differenzierte Antwort zu geben. Und letztlich eben auch nicht komplett die Entscheidung zu übernehmen.

18:10

Inga Bergen

Ich finde das übrigens spannend, weil ich meinte jetzt auch tatsächlich gar nicht etwas Unsinniges, um die KI auszutricksen, sondern eher eine Fragestellung, die, wenn ich jetzt mich rein hypothetisch in die Rolle einer Ärztin in der Notaufnahme versetze und da kommt etwas, aus dem ich mir gar keinen Reim machen kann, dann könnte ich in dem Moment ja auch Amboss benutzen. Ich finde das spannend, weil ich zum ganzen Thema Shadow AI etwas recherchiert habe und habe auch einige Artikel dazu publiziert. Shadow AI bedeutet, dass KI genutzt wird, die gar nicht zugelassen ist. Und ich bin darauf gekommen, weil auf TikTok gab es einige virale Videos, wie Menschen in der Notaufnahme ChatGPT nutzen, also Ärztinnen und Ärzte. Und das finde ich auch sehr, sehr spannend, weil eine Kompetenz in der Zukunft wird ja sein, wenn wir jetzt davon ausgehen, Dass ihr über ein Chatinterface zukünftig bedient werdet vom medizinischen Fachpersonal, wird ja eine Kernkompetenz sein, die richtigen Fragen stellen zu können.

19:17

Sievert Weiss

Ja.

19:17

Inga Bergen

Das wird ja eine Kernkompetenz sein für die Ärzteschaft. Also, wie bediene ich AMBOSS? Könnte ja eigentlich in die Curriculä dann weltweit auch reinkommen. Wie bediene ich das richtig und wo schaue ich vielleicht noch mal nach oder mache noch mal einen Doublecheck?

19:33

Sievert Weiss

Also ich glaube, das ist Total, dem kann ich total zustimmen, was du da sagst. Ich kann jetzt heutzutage sehr viel mehr Fragen stellen. Das Fragenstellen ist viel einfacher als vorher und wie du gesagt hast, wenn ich mir dann noch sozusagen anschaue, dass einige frei verfügbar sind, kostenlos, jederzeit irgendwie abrufbar und ich kriege da total überzeugende Antworten. Ich denke schon, dass es sehr wichtig wird und das sieht man auch, wenn man sich die Modelle anschaut, wie sie auf bestimmte Fragestellungen reagieren. Es wird weiterhin oder vielleicht sogar mehr als vorher wichtig sein, ein vernünftiges klinisches Bild vom Patienten zu bekommen. Also eine vernünftige Einschätzung dessen, was jetzt hier wirklich vorliegt. Wenn ich jetzt, wie du gesagt hast, ich habe eine Patientin in der Notaufnahme und die hat irgendwie total wirre Symptome, die die mitbringt. Ja klar, könnte das jetzt eine total seltene Erkrankung sein. Die Möglichkeit gibt es, aber wie der Titel besagt, stimmt jetzt auch nicht für alle, aber es ist eine seltene Erkrankung und wir Ärzte sind eigentlich dazu angehalten, wenn die Hufe klappern, dann sollten wir an Pferde denken und nicht an Zebras, heißt es immer. Und das ist das klinische Gespür, was wir ausbilden müssen im Laufe der Zeit. Und insofern ist es dann auch, wenn ich meine Frage letztlich an eine KI weiterreiche, muss ich ein vernünftiges Bild darstellen. Und man sieht, dass KI auf so Ablenkungssymptome, wenn man so will, die jetzt ja keiner bewusst eingestreut hat, aber wenn die auftauchen, reagiert KI, weil KI daraus ein Gesamtbild machen will und landet tendenziell eher bei sozusagen Diagnosen, die jetzt ein erfahrener Kliniker vielleicht so nicht getroffen hätte. Insofern ist es total wichtig: Ich muss ein vernünftiges Bild von dem Patienten entwickeln. Dieses nehme ich mit und auf dieser Basis stelle ich dann eine vernünftige klinische Frage, bei der ich jetzt nicht weiter weiß, aber Aber nichtsdestotrotz habe ich mir vorher den Patienten irgendwie vernünftig angeschaut. Und dann bleibt immer noch der Teil, dass ich aus dem, was mir welche KI auch immer zurückgibt, einen Reim machen muss und verstehen muss: Ist das denn jetzt verlässlich, was mir da gesagt wurde? Entspricht das dem, was ich weiß oder was die Literatur tatsächlich sagt?

21:48

Inga Bergen

Ja, ich meine, das nimmt auch so ein bisschen dem Argument die Luft, dass es dass Denken ja verlernen lässt, das menschliche Denken verlernen lässt, wenn man KI nutzt. Also es gibt ja erste Studien dazu, wo zum Beispiel verglichen wurde, wenn Probanden eine Google-Suche machen oder eine KI-Suche machen oder etwas sich von KI erklären lassen, welche Hirnregionen sind aktiv? Und bei der Google-Suche waren es deutlich mehr, weil man eben noch selber den Kontext setzen muss. Bei der KI waren es dann deutlich weniger. Aber das ist ja im Prinzip der große Change, also auch der große kulturelle Change, den ihr jetzt natürlich auch mit verursacht mit euren Produkten. Also es kommt in die Anwendung, aber was es bedeutet für die gesamte Profession und auch für die Ausbildung, das wird sich ja jetzt erst in den nächsten Jahren komplett zeigen, oder? Welche großen Veränderungen kommen müssen, damit medizinische Exzellenz im KI-Zeitalter steigt?

23:01

Sievert Weiss

Das kann in beide Richtungen gehen, natürlich, was du beschreibst. Es gibt Studien, die zeigen die Performance von, ich glaube, es waren Gastroenterologen, bevor sie KI benutzen, die hatten ein gewisses Level, dann benutzen sie KI, dann steigt das Level ein bisschen an. Damit Dann wird ihnen die KI wieder weggenommen und die Performance dieser Leute fällt unter das Ausgangsniveau, weil sie aufgehört haben, wie du gesagt hast, sozusagen selber drüber nachzudenken. Das sind, glaube ich, Effekte, die wir jetzt erst mehr und mehr sehen und verstehen. Und erst dann können wir darauf auch Antworten finden, was das jetzt für die klinische Praxis als auch die Ausbildung der nächsten Generationen heißt. Und ich glaube, Das ist noch ein weiter Weg, aber es kann eben wirklich beide Seiten einnehmen.

23:48

Inga Bergen

Ich finde es eine spannende Frage, weil zum Beispiel die Situation für mich total vorstellbar ist, dass in einem Arztgespräch ein Arzt sagt: Ich weiß es gerade nicht, ich frage mal kurz meine KI, ich frage mal mein System. Und dass ich das für eine, also für mich wäre das ist eine Möglichkeit, wirklich Vertrauen zu haben. Wenn ich da Patientin wäre, ich würde das total gut finden. Aber auch da gibt es super widersprüchliche Studien. Also es gibt einerseits Studien, die sagen, Patient:innen wollen KI plus Arzt plus Ärztin. Es gibt andere, die sagen, medizinisches Fachpersonal KI nutzt, dann sinkt das Vertrauen. Also auch da wissen wir einfach noch gar nicht, was wirklich die Auswirkungen sind, weil das finde ich ja schon sehr, sehr spannend. Du beschreibst es jetzt, also du beschreibst jetzt die KI. Letztendlich ist es auch keine Rocket Science. Im Grunde nimmt sie alle Daten und kontextualisiert das in Bezug auf die Frage, die gestellt wird. Aber letztendlich sind die Daten und die Informationen ja schon verfügbar. Es geht eben nur um die, sagen wir, Auswahl der richtigen, von den richtigen Stellen. Das macht die KI bei euch. Und das ist ja jetzt auch kein Rocket Science, aber das Wo es wirklich die Kraft entfaltet, ist ja, wenn es sich in die Prozesse wirklich integriert. Und jetzt habt ihr, ich mache jetzt gerade eine lange Überleitung, ihr habt ja jetzt in den USA als Erstes gelauncht. Europa und Deutschland ist schwierig, auch regulatorisch. Das wissen wir, wenn man ein Start-up ist oder ein junges Unternehmen, dann ist Time to Market immer wichtig. Das ist am wichtigsten, dass man schnell auch Innovationen besetzt. Ihr habt jetzt in den USA gestartet. Könnt ihr schon absehen, wie das Prozesse verändert in im klinischen Alltag, wenn solche Technologien dann eingesetzt werden, auch gerade jetzt mit dem KI-Feature?

25:42

Sievert Weiss

Also ich glaube jetzt, um das KI-Feature oder die KI-Funktionalität jetzt alleinig als einzigen Faktor zu betrachten und was verändert der, dafür ist es zu früh. Das ist so nicht möglich. Ich glaube schon, was wir jetzt gesehen haben über die letzten Jahre, ist natürlich ein, sage ich mal, ein Wandel, der stattgefunden hat mit den neueren Generationen dazu, wie selbstverständlich es ist, sozusagen Dinge nachzuschauen. Dadurch, dass es einfacher ist, dadurch, dass ich verlässliche Antworten auf meine Fragen bekomme. Und vielleicht noch mal einen Schritt zurück: KI ist ja jetzt auch nicht, wenn man so will, der Allheilsbringer, der uns alle Probleme löst und der plötzlich alles auf den Kopf stellt, was da irgendwie ist. Erstmal ist KI ein Werkzeug, ja. Das ist wie, wenn man so will, Mathematik. Benutzt ihr bei eurer Betriebsabrechnung Mathematik? Ja, machen wir. Ja, wir benutzen Addition und Subtraktion, ja, weil das etabliert ist. Und das ist kein Rocket Science. KI ist an der Stelle, wenn man so will, schon lange auch ein Werkzeug in unserem Werkzeugkasten, ja. Das ist jetzt nicht erst Bestandteil, seitdem es sozusagen die LLMs gibt und die Performance dieser LLMs und Insofern würde ich mal wagen zu sagen, das, was jetzt einfacher geworden ist, ist letztlich meine Fragestellung abzuladen. Vorher musste ich meine Fragestellung im Kopf behalten, während ich dabei war, sozusagen Dinge zu suchen. Ich musste mir dieses Puzzleteil suchen, ich musste mir das Puzzleteil suchen und dann musste ich aus beiden Puzzleteilen irgendwie versuchen, ein für mich schlüssiges Bild zu machen. Jetzt kann ich die komplexere Frage, die direkt beide Puzzleteile oder noch mehr adressiert, abladen laden und bekomme sozusagen auf alle diese Puzzleteile sofort eine Antwort. Das macht es sehr viel einfacher. Was bedeutet das für das klinische Verhalten? Ich glaube, was wir sehen werden, ist, dass erstmal mehr Fragen gestellt werden, ja, und das ist was total Gutes, ja, weil wir, wie du davor auch gesagt hast, da wo diese Fragen nicht gestellt werden, steht entweder ein total erfahrener Kliniker, ja, der das seit 20 Jahren macht und ganz genau weiß, was jetzt aktuelle Praxis ist, ja, und tausende von Patienten gesehen hat und super klinisches Gespür hat, ja, und der hat keine Frage und deswegen muss er sie nicht stellen, ja. Oder wir haben jemanden, der total unter Zeitdruck steht, erstes Weiterbildungsjahr Assistenzarzt, Notaufnahme nachts alleine, bumms, ja, und da liegen irgendwie 3 Patienten, die schreien nach mir, und alle anderen Einflüsse fallen auch auf mich ein. Und früher hat, wenn wir Glück hatten, hat die Person eine Google-Suche gestartet, ja, und hat dann vielleicht irgendwie unterschiedliche Informationen gefunden, musste die bewerten, musste da diese Puzzleteile zusammenziehen. Das war wahrscheinlich 30 Minuten Arbeit, das zu machen. Wenn wir den schlechteren Fall hatten, die Person nicht nachgeschaut und erstmal einfach irgendwie gemacht, weil irgendwie schnell gehandelt werden musste oder die Zeit einfach nicht da war, ja, mit den Möglichkeiten aller Ausgänge dahinter. Jetzt können wir sehr viel mehr Fragen stellen, bekommen sehr viel mehr Antworten darauf und dadurch wird sich erstmal überhaupt das Volumen, glaube ich, der Fragen erhöhen und das ist aus meiner Sicht total gut. Und dann ist natürlich, es wird immer mehr gerade in unserem Bereich dann eine Frage werden, Wie gut ist das, was zurückkommt? Wie verlässlich ist das, was zurückkommt? Und was das dann in der klinischen Praxis, in der Ausbildung und über Berufe hinweg und so weiter macht? Ich glaube, das ist noch schwer abzusehen.

29:27

Inga Bergen

Ja, ich finde das sehr, sehr spannend, weil ich hatte eine Folge mit Vera von Professor Walmeth, einer der Gründerinnen, das ist ja ein Gründerteam. Sie ist die Juristin, was ich auch super spannend fand, weil sie natürlich total auf die Regulatorik guckt und auf diese Möglichkeiten. Und sie hat mir erzählt, Professor Walmeth, Medu wird ein Produkt launchen, was sich an Patient:innen richtet. Das ist eine Plattform, eine KI, wo man eine diagnostische, ja, eine diagnostische Empfehlung bekommen kann. Es gibt ja mittlerweile auch Open Evidence in den USA, was ganz ähnlich ist, aber mit dem großen Unterschied, dass es auch Produktempfehlungen drin hat. Auch Medizinprodukte, pharmazeutische Produkte etc. empfiehlt. Und das ist ja auch ein, also das kann man nur mit Arztausweis nutzen. Und es gibt andere Tools, die weichen das so ein bisschen auf. Ist das etwas, was für euch, also ja, ihr habt einen Markenkern, ihr seid für Ärztinnen und Ärzte. Aber ist das etwas, was ihr euch in der Zukunft vorstellen könntet, dass ihr auch andere Personen auch noch einbindet. Also den ersten Schritt hast du ja vorhin gesagt, habt ihr gemacht, ihr seid für die Pflege auch zugänglich, weil das wird ja auch noch mal einiges verändern. Wer interagiert dann eigentlich mit der KI? Wer stellt diese Fragen? Und wie? Und ich finde das sehr spannend, um einen abschließenden Satz zu sagen, weil ich glaube, ein Use Case, warum Leute so viel KI nutzen, auch gerade für Gesundheitsfragen, ist ja, dass sie so viel Rückfragen auch stellen können und dass man manchmal beim Fragen eigentlich auch eher erst darauf kommt, was man eigentlich will oder was man sozusagen noch berücksichtigen müsste. Das ist ja auch oft ein Prozess.

31:18

Sievert Weiss

Ich glaube, auch da ist sehr viel Wahrheit in dem, was du sagst, und vollkommen richtig. Also ich meine, es gibt da wahrscheinlich verschiedene Szenarien, die interessant wären anzuschauen. Einmal, wir sehen, wie hoch die Suchanfragen innerhalb von ChatGPT für Gesundheit sind. Das macht irgendwie, ich weiß ich, was war das, ein Viertel oder irgendwie sowas aller Fragen in ChatGPT aus. Ja, das ist super krass, wenn man sich anschaut, wenn man sich überlegt, wie viel Volumen da drauf ist. Und sicherlich zu Recht haben sie jetzt ihr ChatGPT for Health gelauncht, was sich bewusst an Patienten richtet, und jetzt ja einen Tag später auch für Healthcare Institutions. Und total spannend, weil man sich dann vorstellen kann, plötzlich haben wir Interoperabilität, ohne dafür eine eigene Instanz sozusagen noch mal zu brauchen, weil die theoretisch vielleicht miteinander kommunizieren könnten.

32:07

Inga Bergen

Das ist ein spannender Gedanke.

32:09

Sievert Weiss

Wer weiß. Also ich meine, mit dem ganzen Datenkram und so weiter. Aber ich kann als Patient mit meinem ganzen Stack dahin laufen, ich kann woanders hinlaufen, ich habe das da alles hochgeladen, meine ganzen Labore, meine letzten Arztbefunde. Und auf der anderen Seite steht auch ChatGPT und sitzt in der Institution. Ist ja irgendwie ganz praktisch und erfüllt vielleicht ein großes oder löst vielleicht ein Problem, wenn man so will, an einigen Stellen, wo wir das einfach nicht haben, wo diese Systeme nicht miteinander kommunizieren. Das nur. Also, aber gut, mal am Rande als vielleicht irgendwie, wie auch immer, realistische Zukunftsvision. Ich glaube, es ist ja auch so, wenn wir jetzt wieder den Blick auf die Ärzte richten, dass natürlich diese Entwicklung nicht nur, wie gesagt, an den Ärzten nicht vorbeigeht und wir uns überlegen müssen, wie wir diese Fähigkeiten solcher Tools für uns am besten nutzen und was das alles bedeutet für unsere Kompetenzen und so weiter. Nein, wir werden auch, und das wahrscheinlich jetzt schon seit 2 Jahren oder so, mit Patienten konfrontiert, konfrontiert, die das gemacht haben, die alle ihre Daten hochgeladen haben und gesagt haben: So, jetzt sag mir mal, was muss ich machen? Und mit dem, was da rauskommt, laufen sie zum Arzt und sagen: So, ich brauche jetzt das hier. Und das klingt natürlich auch dann gut und vielleicht hat der Patient sich lange damit beschäftigt und ist vielleicht auch ein sehr aufgeklärter Patient. Und plötzlich bin ich mit so einem Wust an Anfragen, aber gut formulierten Anfragen irgendwie konfrontiert und muss das irgendwie für mich sortieren. Denn das Bottleneck bin ja immer noch ich, war ich vorher auch schon. Jetzt nimmt die Anzahl der Anfragen zu und die Anzahl der Daten, die in diesem System Themen unterwegs sind, auch noch. Und natürlich, wenn ich mir überlege, dass es da um probabilistische Modelle geht, die auf diese ganzen Sachen draufschauen, und ich erhöhe den Datenberg um das 10- bis 100-Fache oder irgendwie sowas, der zur Verfügung steht, auf dem drauf ich solche Analysen dann fahren kann, dann komme ich natürlich auch mit 10-mal mehr irgendwie falsch positiven Themen zu meinem Arzt und stelle das dar. Vielleicht auch guten Themen. Aber das muss ich alles auseinanderklamüsern, wenn ich Pech habe. Und das ist natürlich sozusagen die Realität, wo wir uns gerade befinden. Wahrscheinlich Natürlich clasht es da auch an vielen Stellen gerade, wo gesagt wird, so, jetzt müssen wir mal hier Butter bei die Fische und jetzt müssen wir uns das einmal in Ruhe anschauen. Das macht wahnsinnig viel Arbeit. Also wie wir uns da aufstellen als Gesellschaft, das ist, glaube ich, total spannend. Wie die Interaktion zwischen Ärzten und Patienten stattfindet, ist, glaube ich, auch total spannend. Und da sind wahrscheinlich die Patienten vielleicht auch ein Stück weit in Teilen vor der Ärzteschaft, was die Entwicklung angeht. Und was das jetzt für uns als Unternehmen bedeutet, ja, du hast es gesagt, also für uns macht es total Sinn, dass alle, die irgendwie ein Stake in so einer Gesundheitsreise irgendwie oder in so einem Gesundheitssystem haben, und das sind für uns, waren das immer erst die Ärzte, dann die Pflege. Aber es ist natürlich genauso auch der Patient, der irgendwann mitreden will und sollte und der aufgeklärt genug sein sollte eigentlich, um vielleicht nicht nur irgendwelche patriarchalen Botschaften zu empfangen und ganz demütig nach Hause zu gehen und dann zu sagen: Okay, mache ich jetzt. Und was hat er noch mal gesagt, habe ich eigentlich gar nicht verstanden, weil er nicht so richtig mit mir in der richtigen Sprache gesprochen hat. Das wäre natürlich toll eigentlich, wenn man sich da trifft, in der Mitte trifft und sagt, ja, wir wissen jetzt alle hier, wovon wir reden und wir haben das alle verstanden und so können wir wahrscheinlich den bestmöglichen Effekt aus jedweder Therapie ziehen. Therapie-Adherenz und so weiter wird wahnsinnig steigen, könnte zumindest wahnsinnig steigen, weil die Leute verstehen, worum es geht. Das macht, glaube ich, einen großen Unterschied und das natürlich auch für uns irgendwann interessant. Ist jetzt nicht, würde ich sagen, direkt um die Weil wir erst mal bei dieser ersten Gruppe anfangen und da gibt es noch genug für uns zu tun. Aber perspektivisch würde ich sagen, könnte das auch sehr spannend sein.

35:50

Inga Bergen

Es sei denn, und das sage ich jetzt, ihr werdet von irgendeinem der Großen zwischendurch aufgeschluckt, weil die sagen, wir müssen so viel medizinische Kompetenz nachholen, das können wir gar nicht so schnell und so gut und so sauber mit unseren Modellen, weil die so viel Rauschen haben. Könnte ja auch passieren. Ich finde es auf jeden Fall enorm spannend und ich ich, wenn, also wenn ich dich reden höre, dann geht mir auch noch mal auf, wie schnell und wie substanziell die Entwicklung gerade ist. Ich hatte die ChatGPT-Health-News gesehen und habe irgendwie an Andreessen Horowitz denken müssen, die ja in irgendeinem Newsletter von vor, weiß ich nicht, 10 Jahren oder so mal gesagt haben, die größte Firma der Welt, das größte Unternehmen der Welt wird eine Health- Tech Company sein, weil Gesundheit sind einfach die größten Ausgaben und Tech ist der größte Wachstumsmarkt. Ich würde jetzt mittlerweile sagen, wir können jetzt eigentlich noch Defense in das Rennen geben. Also entweder es wird Health oder es wird Defense die größte Firma der Welt in Verbindung mit Tech und KI. Aber da sind wir ja auf der Zielgeraden und das verändert ja so viel in der Medizin, dass das einfach super, super spannend bleibt. Und die KI-Lösung, die ihr jetzt in Deutschland launcht, da würde ich gerne zum Ende noch mal draufkommen. Das ist letztendlich eine veränderte Interaktion mit dem, was die Menschen von euch gewöhnt sind, was sie dort finden. Wird das für alle Nutzerinnen und Nutzer von AMBOSS dann verfügbar sein? Ist das einfach irgendwie ein neues Feature, was es dann gibt, oder wie kann ich mir das vorstellen?

37:28

Sievert Weiss

Ja, genau, das wird für alle Nutzer verfügbar sein und das ist letztlich an gewohnter Stelle, wird man diese Interaktionsmöglichkeit finden, ja, da, wo vorher ausschließlich die Suche war, wird es jetzt auch die Möglichkeit geben, solche Fragen zu stellen. Die Suche ist auch nicht abgeschafft, die kann man sich weiterhin zurechtlegen und benutzen, aber man kann eben für andere Fragen, wo das besser passt, dann auch diesen Modus bedienen. Und der passt sich an, der passt sich auf mein Profil an, der bezieht mit ein sozusagen, wenn ich Pädiater bin, dass er sagt, okay, es geht jetzt hier vor allem bei den Krankheitsbildern um kindliche Krankheitsbilder, was ein Unterschied ist zu den Erwachsenen. Er bezieht mit ein, ob ich aus der Pflege komme oder aus der Ärzteschaft. Und auch das hat wieder einen unterschiedlichen Blick auf das, was ich tun muss bei den gleichen Krankheitsbildern. Und ja, das ist aber ansonsten, wenn man so will, eingebettet in das, was AMBOSS bisher auch angeboten hat, und bietet jetzt hier ja eine große Veränderung, aber dann eben im Rahmen des ja irgendwie auch Gewohnten, was Nutzer von AMBOSS irgendwie kennen.

38:35

Inga Bergen

Ja, super. Und optimiert auf Sicherheit und Qualität der Ergebnisse. Das habe ich auch verstanden. Ja, ich bedanke mich ganz herzlich bei dir, Siwa, dass du dir die Zeit genommen hast. Es ist immer eine Freude für mich, mit dir zu sprechen und wirklich eure tolle Erfolgsgeschichte zu beobachten. Und ich wünsche euch von Herzen, dass ihr ganz, ganz vielen Menschen wirklich ermöglicht, diesen Zugang zu bekommen zu niedrigschwelligem medizinischem Wissen jederzeit und dass eure Reise wirklich weitergeht. Ich danke dir ganz herzlich. Ganz herzlich, dass du mein Gast warst heute, lieber Siebert.

39:09

Sievert Weiss

Vielen Dank dir, liebe Inga, war mir eine große Freude.