Latest / docsdigital - Wie KI Medizin, Kommunikation und Versorgung verändert / Was Ärzte tun sollten, wenn Patienten KI Diagnosen mitbringen I 247

Transcript

Was Ärzte tun sollten, wenn Patienten KI Diagnosen mitbringen I 247 · docsdigital - Wie KI Medizin, Kommunikation und Versorgung verändert

0:00
Speaker 0: Hallo und herzlich willkommen bei Docs Digital.
0:02
Speaker 0: Mein Name ist Alexandra Bitmo, ich freue mich, dass du hier zuschaust oder zuhörst.
0:07
Speaker 0: Viele Ärztinnen und Ärzte erleben gerade etwas völlig Neues – nicht ganz neu aber auch noch relativ neu!
0:14
Speaker 0: Patientinnen und Patienten kommen zunehmend mit KI-Chatbot ausdrucken in die Praxis oder in die Klinik und zeigen uns KI generierte Diagnosen auf dem Handy oder haben jahrelange Gesundheitsdaten, die sie zu Hause gesammelt haben, analysiert mit Agenten und erwarten dann von uns Kronkete Diagnose- oder Therapieentscheidungen.
0:36
Speaker 0: Oder bringen diese Entscheidungen sogar schon mit weil Sie sich schon entschieden haben?
0:40
Speaker 0: Und genau darüber sprechen wir heute was das eigentlich rechtlich bedeutet.
0:46
Speaker 0: wie sollten wir Ärztinnen und Ärzte damit umgehen?
0:49
Speaker 0: und veränderte KI gerade die Verantwortung von uns Ärzten?
0:55
Speaker 0: Und darüber spreche ich heute morgen mit Frau Prof.
0:59
Speaker 0: Dr.
0:59
Speaker 0: Julia Gockel, sie ist Fachanwältin für Medizinrecht, Assurciate Partnerin bei Lick und Petzhaut-Helske Recht und beschäftigt sich unter anderem intensiv mit rechtlichen Fragen rund um KI und Digitalisierung im Gesundheitswesen.
1:15
Speaker 0: Schön dass du da bist!
1:16
Speaker 0: Guten Morgen!
1:18
Speaker 0: Liebe Julia Mit welchen Fragen kommen Ärzte aktuell zu dir, wenn es AI und Chatbots geht?
1:30
Speaker 0: Oder kommen die überhaupt schon?
1:33
Speaker 1: Die kommen schon.
1:34
Speaker 1: Und wie sie kommen?
1:35
Speaker 1: also das Thema ist wirklich sehr berulent und es sind ja auch doch erhebliche Rechtsfragen, die sich da stellen und ich nehme wahr dass die Verunsicherung einfach groß ist übrigens auf beiden Seiten also Patientenseite Sie auch Behandlerseite Wobei wir ja ausschließlich die Behandlerseite beraten, insofern haben wir die Fragen ganz stark auf dem Schreibtisch.
1:57
Speaker 1: Also dieses Thema Screenshot, Frechstunde oder Second Opinion bei JetGPC was du ein bisschen angesprochen hast das Patienten eben paar Reiche Befunde mitbringen ins Behandlungssetting und den Behandlern die Behannlerin damit konfrontieren Das ist aus meiner Sicht ein Problem weil es natürlich zeitintensiv ist, weil man sich als Behandler natürlich im Zuge der Anamnese auch gerne dem Patienten widmet und da gründlich kommuniziert.
2:24
Speaker 1: Und dafür ja auch gesetzlich verpflichtet ist im Rahmen der medizinischen Behandlung eine anständige Anamnisse eben durchzuführen.
2:32
Speaker 1: Allerdings muss man aus meiner Sicht differenziert vorgehen.
2:36
Speaker 1: also das Phänomen KI und ChatGPT Diagnosen ist eigentlich ja an sich kein Neues in der Sache, denn also bisher gab es ja auch zahlreiche Patienten die mit Dr.
2:51
Speaker 1: Google befunden oder sonstigen Zweitmeinungen oder anderen externen Informationsquellen den Behandler, die Behandlerin konfrontiert haben.
2:59
Speaker 1: Es nimmt im Moment zu weil einfach die Schlagzahl höher ist, weil die Diagnosen individueller sind und all diese Systeme einfach schon ziemlich gut sind Einschätzungen abgeben.
3:14
Speaker 1: Das ist aber etwas, was sozusagen zur Rate gezogen werden kann und auch ernst genommen werden sollte, aber wohl gemerkt nur in einem gewissen Rahmen.
3:25
Speaker 1: Also wenn jetzt die Behandler dann sich fragt ob ich KI-Empfehlungen, die der Patient mitbringt ansehen muss?
3:33
Speaker 1: Dann würde ich sagen grundsätzlich ja, Das heißt, ich würde den Patienten im Zuge eines Anamnibetelsprächs mal kurz schildern lassen was für einen KI-Vorschlag er da gerade hat.
3:49
Speaker 1: Der ihn ja wahrscheinlich auch sehr beschäftigt.
3:51
Speaker 1: das beeinflusst der auch mit Untersehrschlag die eigene Krankheitswahrnehmung.
3:55
Speaker 1: und da versuchen auch irgendwie den Patienten abzuholen vielleicht sind es ja Ängste das weißt du als Fachfrau besser als ich was dann die Patienten oft belastet Und dann das Ganze runterbrechen auf vielleicht ein Vorschlag der im Raum steht, zu einem Symptom zu einer Verdachtsjerkung oder ähnlichen und abprüfen ob es dazu Anlassbezogen-Anhaltpunkte gibt.
4:19
Speaker 1: Und dann sehr schnell in die eigene fachärztliche Bewertung einsteigen also diesen KI befunden, der mitgebracht wird oder die Daten, die vorliegen können sozusagen als Indiz eingebracht werden wenn sie auf den konkreten Fall gemünzt auch irgendwie Anlass geben, weitere Befunde beispielsweise zu erheben, eine Differenzialdiagnose entsprechend zu erstellen.
4:44
Speaker 1: Aber es ist auf gar keinen Fall rechtliche Pflicht der Behandlerseite einen Bericht auszuwerten und zu lesen, das ist ja auch in der Praxis überhaupt nicht leistbar.
4:55
Speaker 0: Genau.
4:56
Speaker 0: Und dass es bei mir passiert ein Patient hatte, das war im letzten Juli hatte wirklich die letzten zehn Jahre Krankengeschichte eingegeben und es war für mich überhaupt in keinster Weise möglich darauf zu reagieren oder besser gesagt das zu überprüfen.
5:13
Speaker 0: also das ist einfach zeitlich nicht möglich gewesen.
5:16
Speaker 0: Aber ich habe jetzt auch andere Patienten schon, die kommen dann somit in zwei drei vier Seiten aus Druck und haben natürlich eine ganz entscheidende Erwartungshaltung.
5:28
Speaker 0: Ich weiß nicht, wie dir das geht.
5:30
Speaker 0: Es taucht ja immer mehr dieser Begriff dieses Brain-Fry auf, dass das Gehirn so durchgeputzelt ist wenn man in seiner kurzen Zeit so viel Informationen bekommt.
5:41
Speaker 0: Du sagst, man sollte diese Diagnosen oder das was dort vorgeschlagen wird als Indidiz nutzen?
5:46
Speaker 0: Schön gesagt!
5:47
Speaker 0: In der Realität ist es gar nicht so einfach umsetzbar weil es einfach so viel Information in kurzer Zeit ist Ich mich auch bei sehr kurzen Befunden relativ davon überrollt fühle.
6:03
Speaker 0: Die Frage ist jetzt an mich, du hast gesagt ja es nutzt das als Indiz.
6:08
Speaker 0: was sage ich aber den Patienten und was mache ich damit?
6:12
Speaker 0: Wenn die das in ihrem Handy haben um mir das nur zeigen gut dann kann ich das nur dokumentieren dass ich das gesehen habe.
6:17
Speaker 0: also ich muss das hier sicherlich dokumentieren.
6:20
Speaker 0: Aber jetzt zum Beispiel war vor kurzem eine da hat mir sieben Seiten mitgebracht.
6:25
Speaker 0: Ich dachte, was mache ich denn jetzt mit ausgedruckten Seiten?
6:29
Speaker 0: Schreibe es darunter.
6:30
Speaker 0: Ich habe das dann gescannt und habe darunter geschrieben nicht validiert.
6:34
Speaker 0: Also ärztlich nicht validierend.
6:37
Speaker 0: Ich weiß nicht ob das richtig war, weil ich kann's ja nicht komplett ignorieren.
6:41
Speaker 0: Dann verliere ich den Kontakt zu einer Patientin erst recht, dann haben wir bald keine Arzt-Patientenbeziehung mehr.
6:46
Speaker 0: Ich formuliere das jetzt mal sehr scharf.
6:48
Speaker 0: Also ich muss ja irgendwie so einen Zwischenweg finden, was sage ich rechtlich sauber und was passiert aber auch?
6:55
Speaker 0: Nehmen wir mal anders den Fall.
6:57
Speaker 0: Das waren jetzt schon zwei Fragen.
7:00
Speaker 0: Was passiert wenn ich es ignoriere und sage, oh, das ist mir egal.
7:04
Speaker 0: also Sie können mitbringen, was sie wollen.
7:07
Speaker 0: Ich schaue mir nichts an, was aus einer KI aus der USA oder China kommt.
7:10
Speaker 0: Also überspitzt auch!
7:12
Speaker 1: Genau, also das verstehe ich total gut.
7:15
Speaker 1: Auch gerade weil du die Vertrauensbeziehung nochmal für den Patienten ansprichst der sich ja im Zweifel schlecht auch früher gemacht hat.
7:21
Speaker 1: Total!
7:21
Speaker 1: Der will man natürlich den Faden der Kommunikation nicht verlieren.
7:26
Speaker 1: andererseits muss man denke ich dem Patienten klar machen dass ein Befund erhoben wird, nicht weil eine KI-Distanz sondern weil es medizinisch geboten ist.
7:36
Speaker 1: Also erstmal muss man hier einschränken und konstatieren das du überhaupt nicht weißt welche KI dieser Patientin jetzt benutzt hat.
7:43
Speaker 1: ja wir wollen gar nicht von wissenschaftlicher Evidenz oder sowas erreichen sondern einfach die Frage in was sind denn da?
7:49
Speaker 1: Welche Daten mit welchen Fragen müssen alle mit dem Bomben steht Das Ergebnis, also wie ist da gefragt worden?
7:57
Speaker 1: Was ist gefragt worden.
7:58
Speaker 1: Welche KI ist genutzt und
7:59
Speaker 1: etc.,
8:01
Speaker 1: kann man als Arzt überhaupt nicht überblicken Und das würde ich mir in dem Sinne auch nichts zu eigen machen wollen.
8:08
Speaker 1: Deswegen du sagst okay Du hast es zur Akte genommen und hast runtergeschrieben Nicht validiert Kann man sich ja machen.
8:14
Speaker 1: Ich sitze vielleicht für die Dauer sehr sehr anstrengend und auch komplex weil so dass Ja dann ein zweifel eins gewinnt.
8:20
Speaker 1: Also du hast einen zusätzlichen Worklaut.
8:22
Speaker 1: Vielleicht muss man auch mal schauen, um was schön befundet sich jetzt konkret dreht.
8:26
Speaker 1: Also ist es jetzt irgendwie etwas Minimalinvasives oder geht gut im Leben und Tod?
8:31
Speaker 1: Da wäre natürlich vielleicht ein anderer Standard auch hinsichtlich der Dokumentation noch einmal geboten.
8:36
Speaker 1: da kommen wir gleich nochmal drauf zu sprechen.
8:38
Speaker 1: aber ich würde darauf zurückzukommen das Vertrauen nicht zu verstellen den Patienten schon klar machen dass du als Ärztin, als Arzt aufgrund deiner ärztlichen Therapiehoheit, deiner medizinischen Kenntnisse entscheidest und das DKI deine Entscheidung nicht ersetzt.
8:54
Speaker 1: Also das denke ich muss ein Patient, eine Patientin verstehen.
8:57
Speaker 1: Das ist sozusagen, würde ich mal sagen die Basis auch für das Vertrauen so.
9:01
Speaker 1: Du hast ja auch die letzte Verantwortung für deine therapeutische Entscheidungen
9:05
Speaker 1: etc.,
9:05
Speaker 1: also das nimmt dir DKI eben auch nicht ab.
9:08
Speaker 1: Und wenn jetzt beispielsweise der Patient einen KI-Vorschlag einbringt, von dem du abweichen möchtest weil du eine andere Therapie für Aussichtsreich hältst.
9:17
Speaker 1: Dann würde ich da schon ins Gespräch gehen und halt kurz und verständlich erläutern was die Gründe sind warum du aufgrund deiner ärztlichen Kompetenz dieser vorgeschlagenen Diagnose nicht folgst sie aber zumindest in Erwägung gezogen hast.
9:31
Speaker 1: also dieses Inerwägungen ziehen würde ich schon machen.
9:34
Speaker 1: Ich würde auch im Anamnese-Gespräch am Anfang offen sein, so was einzubauen.
9:39
Speaker 1: Aber ich würde wirklich eine klare Linie ziehen, wo beginnt der medizinische Sachverstand in deiner Person?
9:45
Speaker 1: Weil das ist ja auch ein sehr individuelles Setting.
9:47
Speaker 1: Du sagst ja auf das Vertrauen als Patient besondere Kommunikation und das eben abgrenzen von dem, was jetzt generisch von irgendeiner KI zu irgendeine Frage vom Patientenseite generiert wurde.
10:00
Speaker 1: also da würde ich mich im Gespräch abkennen.
10:03
Speaker 1: Ich würde mich auch nicht wegduppen, genau was du sagst und dann ich wird es
10:06
Speaker 1: adressieren.".
10:08
Speaker 1: Und natürlich das ist jetzt schon eine Frage wie viel aus diesem Befund suche ich mir zusammen fange überhaupt an diese vier Seiten zu lesen.
10:17
Speaker 1: Das tatsächlich... Da gibt's wahrscheinlich keine Pauschalantwort!
10:22
Speaker 1: Ich würde ein Grammeter in die Waagschale werfen.
10:26
Speaker 1: Wie lange kennst du diesen Patienten?
10:28
Speaker 1: Was weißt Du über seine Also, seinen medizinischen Defunds vor Erkrankungen etc.
10:34
Speaker 1: Vielleicht auch sozial an?
10:35
Speaker 1: am Nesegeist ist vielleicht ein sehr ängstlicher Patient der jetzt irgendwie im Internet gefunden hat dass er morgen stirbt oder so das und bisschen auf Sicht zu fahren dann eben zu schauen.
10:48
Speaker 1: deckt sich dieser KI-Denfund mit dem was ihr bisher schon zusammen gemacht habt wie bisherige Therapie schon aus war.
10:53
Speaker 1: es ist eine neue Erkankung im Raum.
10:56
Speaker 1: Also das Ganze nur ein bisschen zu frame'n in dem Behandlungssetting, dass ja möglicherweise schon besteht wenn es jetzt kein Neupatient ist und dann eben wirklich auch vielleicht weg von dem Papier hin zum Gespräch zu gehen.
11:10
Speaker 1: Und den Patenten zu fragen mit was er dich jetzt eigentlich konfrontiert?
11:15
Speaker 1: Das sagst du vielleicht noch mal auf der Tonspur.
11:17
Speaker 1: wie da gibt sie eher das Verstanden hat denn Es kann nicht dein Auftrag sein, dass du da jetzt an sich Seiten KI Ausdruck erstmal liest, analysierst.
11:26
Speaker 1: Vielleicht ist es ja auch hallucinierende KI, was man ja nicht und das alles misst oder es passt einfach nicht zu den konkreten Patienten.
11:34
Speaker 1: Ich würde sagen, man baut es ins Gespräch ein und guckt so'n bisschen kursorisch vielleicht mal drüber jetzt irgendwie einen krasser Refund oder eine krasse Verdachtdiagnose im Raum die man ansprechen sollte.
11:47
Speaker 1: aber wirklich Wort für Wort Und das ist eigentlich ne ganz interessante Lösung das zur Akte zu nehmen Ja, aber ich würde sagen das ist eigentlich nicht notwendig.
11:56
Speaker 1: Weil dieser KI-Befund keine Behandlungsgrundlage ist.
12:00
Speaker 1: es kann wie gesagt ein Endiz sein für dich auf Suche zu gehen oder vielleicht eine Differenzialdiagnose zu erstellen.
12:07
Speaker 1: Du solltest es wenn es nicht total abwegig ist in Erwägung ziehen Aber am Ende entscheidet eben die der medizinische Sachverstand in deiner Person Und das muss der Patient auch verstehen.
12:21
Speaker 0: Ja, es war vielen Dank für diese sehr klaren Worte und diese klare Einordnung.
12:25
Speaker 0: in meinem Hinterkopf ratterte mein Gehirn.
12:28
Speaker 0: Ich finde es gut dass du gesagt hast, dass man das dann natürlich alles im Kontext erstmal einordnen muss und schauen muss wie gut man die Patienten kennt.
12:36
Speaker 0: In meinem konkreten Fall erkannte ich die Patientin knappen Jahr Aber sie hatte sich mit der KI tagelang unterhalten.
12:43
Speaker 0: Also die wusste wirklich sehr viel, diese KI hat diese Patientin gut kennengelernt und hat ihr zwei Verdachtsdiagnosen gegeben.
12:49
Speaker 0: Unter anderem eine, die ich aufgrund der Tatsache dass ich die Patientin nicht so gut kannte noch gar nicht in Erwägung gezogen hatte Und ich mich sehr ertappt gefühlt habe.
13:02
Speaker 0: In Ach du meine Güte hab' ich da was übersehen.
13:05
Speaker 0: und also es ging genau um die Diagnose, Verdachtsdiagnose ADHS.
13:09
Speaker 0: dann wurde er vorgeschlagen, dass sie auch gleich mit ihre ganzen Schulzeugnisse mitbringt.
13:14
Speaker 0: Und da hat mir das dann vorgelegt.
13:17
Speaker 0: und als ich dann gesagt habe zu ihr die medizinische Relevanz dieser Diagnose sehe ich aktuell nicht.
13:24
Speaker 0: Wir haben einen anderen Fokus.
13:25
Speaker 0: Hat sie das genommen?
13:27
Speaker 0: Ich hab mich da abgegrenzt.
13:30
Speaker 0: Konsequenz war Sie ist zum anderen Arzt gewechselt.
13:33
Speaker 0: Also sprich, wir schaffen uns auch mehr Arbeit und auch durchaus mehr Kosten.
13:38
Speaker 0: Also einer Seite können wir eventuell auch Kosten sparen dadurch dass die Leute mit Husen schnupfen Heiserkeit selbst Lösungen finden und nicht gleich zum Hausarzt rennen.
13:46
Speaker 0: aber auf der anderen Seite führt das eher zu einem Ich aus zu einem Mehrbedarf, weil die Leute sich dann nicht gut abgeholt fühlen und die KI fühlt sich ja schon sehr gut im Gespräch an und baut unfassbares Vertrauen auf.
14:01
Speaker 0: Deswegen finde ich diese Aussage wo du sagst das siehst du nicht eben der ärztlichen Verantwortung zu wissen welche KI wurde genutzt.
14:08
Speaker 0: wie hat der Patient die KI genutzen?
14:10
Speaker 0: Ich fragt das mittlerweile schon haben Sie einfach nur eine Frage gestellt mit wem haben sie gesprochen?
14:15
Speaker 0: wie lange haben sie gesprochen?
14:17
Speaker 0: Wie gut ist denn eigentlich das gewesen, was Sie da gemacht
14:20
Speaker 1: haben?
14:21
Speaker 0: Ich weiß nicht ob das nicht doch ein Wissen ist.
14:26
Speaker 0: Was wir als in Zukunft auch brauchen werden um das bisschen besser einordnen zu können.
14:31
Speaker 0: im gesamten Kontext und letzter Punkt den ich dann noch gerne zu ergänzen möchte ist mir jetzt gerade entfallen wird mir aber sicherlich noch später wieder einfallen Aber das ist so die Herausforderung gewesen dass manchmal das wissen schon deutlich besser ist als die Daten, die mir eigentlich vorliegen.
14:52
Speaker 0: Und das ist wirklich eine Zwickmühle in der ich da uns noch auf alle Fälle sehe.
14:59
Speaker 0: aber du sagst um es nochmal sozusagen abzuschließen an dieser Stelle wir müssen diese Befundung und Ausdruck gar nicht unbedingt dokumentieren und aufnehmen.
15:13
Speaker 0: Ja, es ist halt keine verantwortliche Person dahinter wie bei einer Zweitmeinung oder sowas.
15:16
Speaker 0: Das würde man ja schon durchaus dokumentieren.
15:19
Speaker 0: hier wird zu sagen und muss nicht sein.
15:22
Speaker 1: Also ich würde sagen also wenn wir jetzt noch mal tatsächlich aufs Gesetz zurückgehen da gibt's ja die Dokumentationspflicht im Behandlungsvertrag Und das ist der Paragraph sixhundertreißig F in bürgerlichem Gesetzentwurf der so ominös lautet dass alle für die Behandlung wesentlichen Umstände zu dokumentieren sind.
15:39
Speaker 1: Also da ist dann insbesondere an der Nese Diagnose und Therapie genannt, aber natürlich auch die Befunde.
15:47
Speaker 1: Daraus kann man jetzt nicht wirklich Honig glauben.
15:49
Speaker 1: was so ein KI-Besicht anbelangt Ich würde sagen wenn der Patient sich stark auf den KI Output beruft Und wenn die KI tatsächlich zu zusätzlichen Untersuchungen führt also wie in deinem Fall mit der ADHS-Diagnose.
16:07
Speaker 1: Das ist für mich absolut plausibel, dass es zu sowas kommt und da sehe ich auch kein Versagen in deiner Person oder einen Hilferhalten denn das ist so wenn die Patienten sich natürlich sehr viel mit der KI beschäftigt und tägliche Befunde eingibt
16:25
Speaker 1: usw.,
16:26
Speaker 1: die hat ja einen viel größeren Informationspool als du als Behandlerin in den Minuten in denen du das Arztgespräch führen kannst.
16:35
Speaker 1: Und da sind ja vielleicht auch Püchenbefunde drin, die vielleicht der Patient gar nicht mitteilt.
16:41
Speaker 1: Weil er sie nicht für wesentlich hält, weil er selber gar nicht ahnt was es in die Richtung gehen könnte und du auch nicht danach fragst, weil du keinen Anlass hast danach zu fragen.
16:50
Speaker 1: also ist für mich absolut erklärlich will ich sagen wenn dann aber so ein ADHS-Befund im Raum steht Dann würde ich schon sagen, dass man den zumindest dokumentiert.
17:02
Speaker 1: Kurz, dass der Patient damit eben das Warnungsbespräch kam, dokumentiert, dass entsprechend dieser Befund KI generiert zur Diskussion gestellt wurde und dann veranlasst du entsprechend seine weiteren Maßnahmen.
17:18
Speaker 1: also wenn man da jetzt direkt fast angenötigt wird irgendwie die Schulzeugung seit Chapter eins auch zu arbeiten.
17:24
Speaker 1: Das muss man dann mal sehen.
17:27
Speaker 1: Eben genau.
17:28
Speaker 1: Also das ist ja auch so, dass es immer wünscht der was ist.
17:31
Speaker 1: Sondern da ist natürlich nicht genau aus mit der Diagnostik von ADHS gefunden.
17:37
Speaker 1: aber dann wird es ja ein fachärztliches Vorgehen geben was man zu Rate zieht und wie man eine solche Verdachtdiagnose möglicherweise differenzial diagnostisch erhärtet oder auch nicht.
17:50
Speaker 1: Und das ist jetzt wieder sozusagen die ärztliche Hoheit darüber zu entscheiden, wie du dann vorgehst.
17:57
Speaker 1: Aber diesen ADHS-Fund der dann im Raum stand, den würde ich schon zur Akte nehmen und das kostet dich ja auch nix.
18:05
Speaker 1: in einem Satz nah also sehr schnell geschrieben.
18:08
Speaker 0: Ja ne ne, das habe ich auch getan, das hab' ich auch getan.
18:11
Speaker 0: Okay, also das ist ähm ja dennoch hat es dann leider dazu geführt dass die Patientin... Das ist jetzt wieder ein eher Psychologisches Thema, ne?
18:21
Speaker 0: Sich dann nicht von mir unterstützt gefühlt hat.
18:24
Speaker 0: Weil ich gesagt habe hier ist nicht mehr medizinische Relevanz.
18:27
Speaker 0: Sie haben ein ganz anderes Thema.
18:28
Speaker 0: gerade das steht jetzt im Fokus dass nicht war sozusagen der Gedanke gesetzt und das Tunishtetbots das tunika is ja Dann sitzt das fest so.
18:36
Speaker 0: Jetzt gibt es ja Kollegen Und ich würde mal sagen Ich bin da sehr offen frage sehr proaktiv nach mach mittlerweile eine digitale Andamnese mit jedem Patienten sehr ausführlich bei Neupatienten oder auch bei Patientinnen, die ich länger kenne.
18:49
Speaker 0: Wo die da gerade stehen weil viele ja schon vorinformiert sind und auch schon Entscheidungen getroffen haben.
18:56
Speaker 0: was ist jetzt der Fall?
18:57
Speaker 0: zum Beispiel keine Ahnung Diagnose Keine Ahnung Mal ganz banal Diabetes.
19:05
Speaker 0: Die KI sagt Mensch du hast Diabetes.
19:07
Speaker 0: Der Hausarzt sagt kommen Sie mir nicht damit ignoriert es Und dann gibt's ein diabetisches Koma.
19:13
Speaker 0: Und dann gilt der Patient hin und sagt, wissen Sie was?
19:17
Speaker 0: Ich habe das meinem Arzt aber schon vor einem halben Jahr gesagt.
19:20
Speaker 0: Er hat das total ignoriert und hat nicht das aufgenommen, was ich hier mit der KI mitgebracht habe.
19:27
Speaker 0: Finde ich nicht gut.
19:29
Speaker 0: Also kann daraus eine Haftung entstehen.
19:31
Speaker 0: also wenn ich sozusagen...
19:34
Speaker 1: Aber die können auch unabhängig davon entstehen ob da jetzt ein KI-Befund Vorlag oder nicht weil du hast es nicht wegen der KI, sondern wegen des medizinischen Standards.
19:43
Speaker 1: Also immer dann wenn es Anlass gibt nach Forschung zu betreiben befundet zu erheben wir sprechen im Arzthaftungsrecht vom sogenannten Befund Erhebungsfehler, der immer so mit dem Diagnose Fehler abzugrenzen ist.
19:56
Speaker 1: Dann hast du sozusagen die Verpflichtung dieser Verdachtsdiagnose diesen Befund eben nachzugehen diese Symptome abzuklären entsprechend weitere Befunde Basis von KI im Raum steht oder weil der Patient sagt, er denkt.
20:12
Speaker 1: Er hat es oder irgendeinen Vorbehandler was in der Richtung geäußert hat und du verschließt davor die Augen dann bist du natürlich möglicherweise in der Haftung.
20:21
Speaker 1: Stichwort Befunderhebungsfehl.
20:22
Speaker 1: aber da muss man nochmal betonen das ist keine Haftungen wegen der KI sondern wegen einer Verletzung des medizinisch verbotenen Standards.
20:30
Speaker 1: Und die KI ist dann möglicherweise ein Beweis dafür dass dir zum Zeitpunkt der Behandlung schon Kenntnis darüber vorlag oder du hättest wissen können, dass ein solcher Befund im Raum steht.
20:42
Speaker 1: Aber es ist kein besonderer Haftung-Tatbestand.
20:46
Speaker 1: Den gibt's sowieso und das ist nach wie vor einfach die ärztliche Sorgfreizpflicht.
20:51
Speaker 0: Okay also ignorieren dieser Befunde.
20:54
Speaker 0: geht er so... Ja, ihr sollte man auf keinen Fall tun.
20:58
Speaker 0: Aber ich weiß noch zu Google-Zeiten wo die Patientin mit Google ausdrucken kam, gab schon immer den einen oder anderen der gesagt, da kommen sie mir nicht damit an.
21:09
Speaker 0: Denn davon will ich gar nichts hören das geht einfach nicht.
21:12
Speaker 0: Also das
21:13
Speaker 1: würde
21:13
Speaker 0: ich eigentlich damit sagen sondern wir müssen es ernst nehmen und wir müssen wirklich auch nachfragen.
21:21
Speaker 0: Da ist noch Luft nach oben und deswegen freue ich mich dass wieder hier so ausführlich drüber sprechen.
21:26
Speaker 0: Aber das ist gut, dass auch noch mal gehört zu haben.
21:30
Speaker 0: Dass das mit auf eine Fälle dazugehört.
21:32
Speaker 0: Ich habe dir in der Vorbereitung und ich hab die Zitale bei den Herrn Dr.
21:37
Speaker 0: Sifi gesehen.
21:38
Speaker 0: Bei LinkedIn hatte ein Urteil gepostet vom Oberlandesgericht Ham zur Haftung so.
21:45
Speaker 0: Und da geht es darum, dass einen KI-Chatbot auf einer Webseite falsche Facharztbezeichnung ausgegeben hat ja?
21:51
Speaker 0: Das Gericht hat dann jetzt gesagt Die Verantwortung bleibt trotzdem bei dem Betreiber, sprich der Arzt sich ja diese Webseite verantwortet.
22:02
Speaker 0: Und du warst ja auch auf der Demära.
22:04
Speaker 0: ich auch und wir haben ja gesehen fast jeder Firma an jedem Stand prankt das Wort AI und es wird jetzt alles toll und alles vergleicht und wir sind hier alle entlastet.
22:15
Speaker 0: In bestimmten Dingen erlaubigt ist das auch so, dem stimme ich zu.
22:18
Speaker 0: Aber das Thema was wir gerade hatten da ist die Entlastung eher nicht der Fall sondern es führt zu einer Mehrkommunikation.
22:25
Speaker 0: aber in diesem Fall ging's um ein Chatbot auf der Webseite.
22:30
Speaker 0: Was mich daran interessiert an diesem Urteil?
22:32
Speaker 0: Da gibt´s mir jetzt weniger so um diesen konkreten Fall.
22:34
Speaker 0: Ich glaube das ist noch gar nicht endgültig beschieden oder wie man das nennt.
22:38
Speaker 0: Aber was bedeutet das insgesamt für Arztpraxen, Kliniken?
22:43
Speaker 0: Oder überhaupt für diese KI-Gestütze Patientenkommunikation?
22:46
Speaker 0: ist das sozusagen ein ... Ist es ein Warnsignal oder... Was hat das für Folgen?
22:54
Speaker 1: Also das ist auf jeden Fall eine Entscheidung, die sich so einen Blick zu behalten weil sie, wie du schon richtig gesagt hast noch nicht abschließend entschieden ist also noch nicht Rechtskräfte, nämlich Revision eingelegt zum Bundesgerichtshof, also dem höchsten Gericht in dem Fall in den Zivilangelegenheiten.
23:14
Speaker 1: Dass dann voraussichtlich uns eine spannende Entscheidung geschehen wird an der wir uns dann alle orientieren dürfen das war aus meiner Sicht eigentlich auch abzusehen dass es vor dem BGH geht einfach weil jetzt eine Frage ist die grundsätzliche Bedeutung hat also der BGH Division zugelassen vielzahl anderer gleich oder ähnlich gelagerte Fälle zu einer solchen Fragestellung kommen.
23:41
Speaker 1: Jetzt, was ist so die Relevanz?
23:43
Speaker 1: Also man kann diese Entscheidung unter zwei Aspekten betrachten.
23:46
Speaker 1: Einmal ist ja sozusagen der Aufhänger die irreführende Werbung mit Facharzt.
23:50
Speaker 1: das ist jetzt kein Novum dass falsche Facharztechnungen unzulässig sind und entsprechend auch geschützt sind natürlich Das ist jetzt hier passiert, weil der Chatbot solche generiert hat.
24:02
Speaker 1: Dies eben nicht gibt aber irgendwie vom Facharzt für ästhetische Behandlungen die Rede.
24:06
Speaker 1: Das natürlich Quatsch darf auch nichts so verwendet werden, weil es einfach den Verbraucher also hier Patientinnen und Patienten potenziell in die Irre führen kann.
24:15
Speaker 1: das ist jetzt kein Novum.
24:17
Speaker 1: Das Novum an der Entscheidung ist tatsächlich die Frage Hauptung für das was der Chatbots da selbstständig ausgibt.
24:25
Speaker 1: wo?
24:26
Speaker 1: da hat es geheim zu Lasten der Ärztinnen und Ärzte entschieden.
24:31
Speaker 1: Das ist ja Rück und Nick, die berühmten Schioren, die man ja schon aus anderen Kontext kennt und die auch immer wieder die Gerichte beschäftigen.
24:41
Speaker 1: Und tatsächlich ist die Entscheidung insofern spannend weil die Argumentation erklagten also Kriegerin war ja die Verbraucherzentrale Nordrhein-Westfalen.
24:57
Speaker 1: Die Argumentation der Praxis oder der Klinik war, dass die KI oder dieser Chatbot als Tritter also als unabhängige dritte Person wie beispielsweise ein Mitarbeiter in einem Unternehmen da halt etwas ausgeworfen hat.
25:13
Speaker 1: Wofür man was einem selbst nicht zurechnbar ist?
25:17
Speaker 1: Man ja diesen Chatbot nur mit korrekten Daten trainiert hat und entsprechend angelernt hat, der auch technisch einwandfrei programmiert war.
25:26
Speaker 1: Und diese Exkrepationsmöglichkeit will ich mal sagen, hat das Gericht jetzt nicht anerkannt und hat gesagt als Betreiber dieser Chatbots haftest du, sagen wir mal wie einen Täter.
25:39
Speaker 1: Ja also du kannst dich jetzt nicht entschuldigen oder explizieren damit dass du sagst den Fehler haben wir versucht zu beherrschen weil wir sie entsprechend gut trainiert haben Und dafür können wir jetzt sozusagen letzten Endes nicht einstehen.
25:53
Speaker 1: Deswegen haben sie ja auch die Strafverwärtsunterlassungserklärung nicht abgegeben und deswegen ist es hier überhaupt vor Gericht letzten Enden gelandet.
26:01
Speaker 0: So für mich, die da in diesem Gebiet jetzt nicht so bewandert ist... Also übersetzt heißt das also ich hätte jetzt gedacht eigentlich dass der Hersteller dieser Software dieses Chatbots haftet aber das ist nicht der Fall.
26:14
Speaker 0: Das wundert mich.
26:15
Speaker 0: und müsste das dann nicht bedeuten dass sogar Chatbots auf Webseiten Medizin Produkte sein müssen in Zukunft.
26:22
Speaker 0: Und reicht nicht so ein Disclaimer einfach, das ersetzt jetzt hier keine ärztliche Beratung?
26:28
Speaker 0: Das sind die Fragen, die mir einfallen.
26:31
Speaker 1: Genau gute Frage!
26:32
Speaker 1: Also die erste Frage ich weiß gar nicht genau wer Hersteller des Chatbos war.
26:36
Speaker 1: Auf jeden Fall ist die Praxis ja Betreiber dessen und hat ihnen selbst individualisiert mit eigenen Daten trainiert und gefüttert.
26:46
Speaker 1: ob da noch mal im Innenregress der Hersteller in Anspruch genommen werden kann, weil das ein Externer ist.
26:52
Speaker 1: Das kann ich gerade nicht sagen, denn es jedenfalls in der aktuellen Konstellationsvorgericht nicht beklagt hat.
26:57
Speaker 1: Also das wäre dann eher eine Folgefrage können die Betreiber für einen technischen Fehler in der Produktion den Herstellern nochmal in Anspruch nehmen, wenn sich sowas rausstellen würde?
27:09
Speaker 1: Und jetzt aber tatsächlich in dem konkreten Streit wird das nicht entschieden, Das ist aber denkbar.
27:15
Speaker 1: Also das sollte man übrigens als Tipp für die Praxis, wenn man eine KI-basierte Tool einsetzt auch immer genau vertraglich abbilden und regeln wie haftet der Hersteller?
27:27
Speaker 1: was für Szenarien können auftreten?
27:31
Speaker 1: dass man sich da so zwangvertraglich absichert?
27:34
Speaker 1: zwischen dem Betreiber ist aber tatsächlich noch mal eine andere Dimension.
27:39
Speaker 0: Also ich meine, das betrifft ja jetzt nicht nur diese Webseiten KI Chatbots Das betrifgt ja das Amienscribe also die AI-Dokumentation.
27:48
Speaker 0: Das betriebt im Endeffekt fast alle Tools, die wir in Praxen und Kliniken einsetzen oder?
27:55
Speaker 1: Ja, auf jeden Fall!
27:57
Speaker 0: Aber es ist natürlich
27:59
Speaker 1: auch eine wahnsinnig innovationenfemme Wirkung.
28:02
Speaker 0: Total!
28:03
Speaker 1: Durch die Entscheidung einfach eingetreten Weil es jetzt in der Form, also ich muss mal als Disclaimer dazu sagen Alexander.
28:10
Speaker 1: Es gibt im Moment die Entscheidungsgründe noch nicht freiverkügbar das heißt wir liegen die Entscheidungen gar nicht vor.
28:17
Speaker 1: Wir haben im Prinzip den Tenor, also den Leitsatz auch der Entscheidung.
28:22
Speaker 1: wir wissen was entschieden wurde aber die sozusagen juristische Begründung ja sich meistens über sehr viele Seiten erstreckt und im Detail dann ganz relevant ist wie liegt noch nicht vor?
28:32
Speaker 1: Insofern alles immer natürlich unter dem Vorbehalt dass die Entscheidungsbunde dann veröffentlicht werden.
28:38
Speaker 1: Aber im Moment ist es natürlich doch eher ein, ja wegen ich sage einen Rückschlag.
28:43
Speaker 1: aber das hat natürlich eine innovationzhemmende Wirkung weil es ein strenger Maßstab ist der hier an die KI-Haftung angelegt mit einem sehr strengen Maßstabe Weil du als Betreiber jetzt natürlich wieder sagen kannst die KI ist ne eigene Rechtsperson.
28:58
Speaker 1: Das Thema ist eigentlich weitgehend gefährdet auch wenn immer noch Stimmen in der Literatur gab die für so eine E-Person oder E-Passen plädiert haben, dass man sozusagen sagt, GKI ist ein eigenes Rechtssubjekt.
29:10
Speaker 1: Also davon ist man mittlerweile weggekommen.
29:13
Speaker 1: Es geht letzten Endes eigentlich um die Frage wie wird die KI dann dem Betreiber zugerechnet?
29:19
Speaker 1: So wie wenn ein Mitarbeiter irgendwas im Internet stellt oder einen Dritter möglicherweise und sozusagen Schaden stiftet Und die Frage hast du sozusagen dazu anlassengegeben bist du verantwortlich eine solche Gefahr entsprechend einzudämmen.
29:37
Speaker 1: Und hier ist jetzt tatsächlich gesagt worden, dass dieser Chatbot eben kein Witter sei, sondern sozusagen ein Werkzeug muss man eigentlich fast sagen in der Hand des Plattformbetreibers mit dem er selbst arbeitet.
29:52
Speaker 1: also das das eigenes Verschulden wird so gewertet und ich spreche aus Sicht der Entscheidung es wird als eigenes verschulden des Seitenbetreibers und Chatbots verwendet angesehen.
30:05
Speaker 1: Und das ist natürlich schon ein strenger Maßstab, der hier angelegt wird auf jeden Fall.
30:08
Speaker 0: Aber dann müssen wir ja auch wirklich also nicht nur bei Therapienprodukten jetzt zum Beispiel wie bei digitalen Gesundheitsanwendungen die wir als Medizinprodukte ausgeben wo wir denn wirklich in Einführungsstriche sicher sind, dass das geprüft ist und dass das gewisse Zertifizierungsstuf hat, müssen wir das jetzt auch an solchen organisatorischen Tools solche Maßstäme anlegen.
30:31
Speaker 0: Das ist sicherlich, wie du schon sagst, Innovationshemd.
30:35
Speaker 0: Da kann ich mir schon vorstellen dass da viele jetzt irgendwie gerade auf die Bremse strücken und für viele Hersteller von digitalen Tools das auch sicherlich eine große Frage ist.
30:45
Speaker 0: und ich kann mir vorstellen man da bist du mehr da drin und du siehst ja was sollen wir denn noch alles machen?
30:52
Speaker 0: Also wir müssen uns hier auf irgendwas verlassen können und ich muss mich irgendwie als Arzt verlassen oder auch was ich meinen Patienten präsentiere, das ist safe.
31:03
Speaker 0: Ich kann das nicht auch noch alles machen.
31:06
Speaker 0: Das finde ich sehr bedauerlich ehrlich gesagt gerade.
31:11
Speaker 0: Oder wie siehst du das?
31:12
Speaker 1: Das sehe ich aus.
31:13
Speaker 1: also tatsächlich ist ja von der beklagten Seite vorgetragen worden man habe die Ordnung gemäß Prenier.
31:19
Speaker 1: also man hat nur mit korrekten Daten trainiert muss man sagen Und die sei technisch-einwandfrei, glaube ich programmiert gewesen.
31:25
Speaker 1: Jetzt weiß ich natürlich nicht zu der Frage, ob sie regelmäßig geprüft worden sind?
31:28
Speaker 1: Sind die Antworten regelmäßig getestet worden auf sachliche Richtigkeit?
31:33
Speaker 1: Das wäre jetzt vielleicht noch so ein Punkt wo man sagen müsste das muss man dann irgendwie abdehnen ist natürlich auch wieder auffändig aber wahrscheinlich am Ende unterm Strich günstiger als drauf ankommen zu lassen dass medizinische Falschausprünfte im Rechtsverkehr kursiert.
31:50
Speaker 1: Also das ist genau der Punkt, man müsste tatsächlich Stichprobenartig die Auskünfte, die da entstehen prüfen vor allen Dingen gerade bei der selbstlernischen Variante.
32:02
Speaker 1: ja weil du hast dann diesen Jackbox-Effekt und du musst es irgendwie einfangen.
32:06
Speaker 1: also du kannst dir nicht das Scheld überlassen oder einfach lauten lassen sondern
32:12
Speaker 0: Das kann ja bei Telefonassistenten wahrscheinlich genauso passieren, oder?
32:16
Speaker 0: Also eigentlich ob es jetzt so ein schriftlich oder auch mündlich ist.
32:20
Speaker 0: Aber wer soll denn das noch alles überprüfen?
32:22
Speaker 0: Du kannst ja nicht noch deine Praxis führen und nebenbei immer noch sozusagen eigene.
32:27
Speaker 0: wie heißt das?
32:28
Speaker 0: diese Tests machen also deine deine Jager genau und das auch noch alles prüfen.
32:39
Speaker 1: wir auch versicherungsrechtlich abbilden.
32:40
Speaker 1: Auch das macht ein wichtiger Tipp für die Praxis, wenn du so was einsetzt musst du natürlich auch schauen dass deine Hackpflichtversicherung entsprechend auch diese Fälle abdeckt um dann am Ende nicht möglichst schadlos zu halten, wenn der Schadenfall einset.
32:52
Speaker 1: Das löst jetzt nur das monetäre Problem.
32:59
Speaker 1: Das spannende Problem ist wie kann ich überhaupt verhindern?
33:03
Speaker 1: Jetzt ging es hier ja in Anfangsstrichen Falschatzgezeichnungen.
33:07
Speaker 1: Ja, ja.
33:08
Speaker 1: Also ist natürlich auch nicht schön weil es natürlich wettbewerbswidrig ist.
33:12
Speaker 1: aber Marcelle sich vor ist wenn jetzt irgendwelche falschen Diagnosen gehen nach Stadium kann das dann natürlich auch richtig haftungsrechtlich werden.
33:20
Speaker 1: insofern ist Argument man kann's nicht mehr kontrollieren.
33:25
Speaker 1: Das ist halt eigentlich rechtlich nicht haltbar.
33:29
Speaker 1: Ich verstehe das Dilemma absolut.
33:32
Speaker 1: Aber genau dazu weiß ich gerade nicht, wie es in dem konkreten Fall gehandhabt wurde, ob da regelmäßig kontrolliert wurde und ob die Antworten sachlich richtig
33:39
Speaker 0: sind.
33:41
Speaker 0: Also, was gehen wir den Kolleginnen und Kollegen mit hier zuhören?
33:45
Speaker 0: Rede mit den Herstellern.
33:46
Speaker 0: Egal, was du einsetzt in der Praxis.
33:48
Speaker 0: Kliniken sicherlich auch.
33:50
Speaker 0: Das wird es so sagen sind wer ist da rechtlich schlechter?
33:53
Speaker 0: gerade auf KI vorbereitet die Praxen oder die Klinik?
33:56
Speaker 0: oder kann man das so pauschal nicht sagen.
33:58
Speaker 0: Ach,
33:58
Speaker 1: der niedergelassene Bereich ist da glaube ich wie hat sie so schön gesagt jetzt noch Luft nach oben.
34:03
Speaker 1: Es kommt immer so drauf an mit wem du dich unterhältst auch vielleicht die Generation und die Affinität zu diesen Themen.
34:10
Speaker 1: Alle, die mal damit gearbeitet haben sind eigentlich überzeugt und wollen nichts anderes mehr.
34:14
Speaker 1: Aber natürlich so ein Urteil das jetzt die Runde macht ist nicht gerade die Sternestunde um zu sagen man investiert da noch einmal oder man geht diesen Weg vollen Herzens mit.
34:27
Speaker 1: es gibt natürlich nach wie vor Leute, die das ablehnen ja und sie finden dann natürlich in solchen Entscheidungen gute Gründe.
34:35
Speaker 0: Siester habe ich doch recht gehabt.
34:37
Speaker 0: Bleibe ich doch bei meiner.
34:39
Speaker 0: Lass sich die Patienten lieber tagelang warten und soll keiner an das Telefon gehen.
34:44
Speaker 0: Wird zu sagen, dass wir sind wir in Deutschland regulatorisch so langsam für die Realität von KI im Gesundheitswesen oder in der ganzen Welt?
34:54
Speaker 1: Die Fragen kennt man ja schon so vom Datenschutz.
34:56
Speaker 1: Ich habe immer gesagt Deutschland ist immer da wenn irgendwas genießt ist es der Datenschut oder der Brandschutz?
35:03
Speaker 1: Wir sind auf jeden Fall nicht schnell genug, wenn ich das mal so diplomatisch ausdrücken darf.
35:08
Speaker 1: Und wir haben da Jahre jahrzehntelang verpasst, auf den Zug aufzuspringen und das müssen wir jetzt mühevoll aufarbeiten.
35:18
Speaker 1: In andererseits als Jurist sage ich auch voller Überzeugung ist so eine BGH-Entscheidung auch ne Chance!
35:23
Speaker 1: Ja, ich bin ja immer gut, wenn es Entscheidungen gibt.
35:25
Speaker 1: Das sind Zeitplanken
35:26
Speaker 0: und die Unterrichte
35:28
Speaker 1: sind auch alle froh.
35:29
Speaker 1: Warum geht denn die Revision jetzt so schnell zum WGH?
35:32
Speaker 1: Naja dann haben alle ganz Gerichte die ähnliche Fälle auf dem Testfliegen eine klare Richtschnur was entschieden wird.
35:38
Speaker 1: Und dann kann sich das nächste Marktregulatoris da nach ausrichten werden.
35:42
Speaker 1: Also ist auch ne Chance um smart positiv zu sehen.
35:49
Speaker 0: bevor ich zur vorletzenden Frage komme.
35:51
Speaker 0: Ein Punkt ist mir noch wichtig, den ich mir auch mal wieder stelle diese Frage müssen wir in und die Frage habe ich schon fast vor vier Jahren gestellt noch vor dieser ganzen Welle, die angestartet ist.
36:05
Speaker 0: Müssen wir in Diagnosen- und Arztbriefen kennzeichnen?
36:09
Speaker 0: Wenn wir sie KI generiert sind oder wenn wir KI überarbeitet haben gibt es da Leitplanken schon?
36:19
Speaker 0: Muss das angezeigt werden?
36:20
Speaker 0: Ich weiß, dass das in Papers der Fall ist.
36:23
Speaker 0: Aber wie ist es da?
36:26
Speaker 1: Also da gibt's ja den EU AI-Eck, der sich dazu klar positioniert was die Transparenzpflichten angeht zur Verwendung von KI, ich glaube Artikel fünfzig Die Ecke müsste dazubass stehen, dass es da auf jeden fall die Pflicht gibt zu belehren und Das kann man dann wieder unterbrechen auch auf die Aufklärungen, wenn man KI Einsetzerzenten darüber natürlich auch informiert.
36:49
Speaker 1: Also das ist aus meiner Sicht unverzichtbar.
36:53
Speaker 0: Das heißt aber auch, dass wir den EU-EI-Akt für uns übersetzen und verstehen was da eigentlich darin stickt?
37:01
Speaker 0: Und was das für unsere Arbeit bedeutet?
37:04
Speaker 1: Da gibt es ja zum Glück uns die mir sowas beraten also gerne jederzeit melden vielleicht keine Sachen in eigener Sache.
37:10
Speaker 1: Das kann man ja alleine gar nicht leisten.
37:14
Speaker 1: von der Fallhöhe der Terminologie ganz bespeigen dass man sich danklich ausstellt, gerade auch was zulässige KI angeht.
37:22
Speaker 1: Ich meine da haben wir jetzt ja in einem Stadion gesprochen, wo es um falsche Facharztbezeichnungen geht und Terminskabe, aber wenn wir dann ein Chatbot haben der Diagnosenauswürft und so, dann sind wir ja schon im ganz anderen Bereich auch der Riesigen unterwegs, sodass man sich da auf jeden Fall rechtlich gut absichern sollte.
37:40
Speaker 1: Das sollte das auch wert sein.
37:44
Speaker 1: Ich denke, hier eine rechtliche Risikoabschätzung zu einem frühen Stadion kann einen eben dann vor größeren Schäden bewahren.
37:52
Speaker 1: Also da sollte man auf jeden Fall nicht zurück schalten sich wirklich Fachexpertise zu holen.
37:58
Speaker 0: Ja ja kann ich nur unterstützen.
38:01
Speaker 0: was würdest du denn heute Ärztinnen und Ärzten wenn du drei Dinge mitgeben müsstest im Umgang mit KI und Ergebnissen für Patienten?
38:10
Speaker 0: Was wären das?
38:12
Speaker 0: welche drei Punkte Hält ihr was ein?
38:15
Speaker 0: Was sollten die Kollegen jetzt tun?
38:17
Speaker 1: Da fährt man einiges ein.
38:20
Speaker 1: Vielleicht nicht mal so sehr rechtlich gesprochen, also gewisse Respekt und auch nicht einen Abtunen.
38:27
Speaker 1: Also das wäre ja gerade auch schon von den Spornaten, die brauchen sie mir gar nicht kommen.
38:31
Speaker 1: Das ist absolut nicht mehr zeitgemäß und das könnte auch wirklich dann nicht nur den Patienten verbrellen sondern vielleicht wie in dem von dir angesprochenen Fall das ist, finde ich, dass man wirklich was übersieht.
38:44
Speaker 1: Also man sollte es schon ernst nehmen und einen gewissen Respekt davor haben.
38:49
Speaker 1: Andererseits muss ich aber auch sagen, man sollte sich nicht verrückt machen.
38:53
Speaker 1: Also nicht nur weil jetzt alles irgendwie mit KI möglich ist, ist die Panik los?
38:58
Speaker 1: Das sind ja im Prinzip rechtlich auch Fragen, die es schon früher gab.
39:02
Speaker 1: Die potenzieren sich dadurch, dass die Schwachzahl durch KI viel höher ist als jeder Nutz möglich ist beispielsweise so von eben zu erstellen.
39:11
Speaker 1: Aber die Kernfrage, welche Infos der Patient sonst aus externen Quellen mitbringt muss ich berücksichtigen?
39:18
Speaker 1: Muss sich beachten?
39:19
Speaker 1: Muss mich in meine Behandlung einziehen?
39:21
Speaker 1: Die gab es ja auch schon vor dem Zeitalter der KI.
39:26
Speaker 1: Einerseits gewisse Respekt aber auch keine Panik.
39:30
Speaker 1: Das reicht sowas was man da an dieser Stelle raten könnte.
39:35
Speaker 0: Alles gut alles gut.
39:38
Speaker 0: Ja, ich habe mir noch eine... Alles gut.
39:41
Speaker 0: Das war schon sehr wichtig!
39:43
Speaker 0: Nein aber das sind wichtige Leitplanken auch für uns wieder.
39:51
Speaker 0: also diese Übersetzung ist ja wirklich immer das Rechtliches einmal und das andere ist dann wenn der Patient wirklich da sitzt und was sage ich denn dann wirklich konkret?
39:59
Speaker 0: Also dieser Balance zu halten zwischen was es rechtlich erlaubt, was darf ich und was passiert denn dann in der Praxis?
40:06
Speaker 0: Aber nicht nur auf Patientenseite, die mit KI ausdrücken kommen.
40:08
Speaker 0: Sondern natürlich auch die Millionen von Ärzten weltweit, die KI-Bots nutzen für Diagnose, für Therapie und aber die Kliniken nicht die passenden Software und Medizinproduktlösung anbieten.
40:26
Speaker 0: hast du das Gefühl also da ist ja auch ein unfassbares Gleichgewicht zwischen dem was gemacht wird und dem was offiziell von Kliniken oder auch Praxen zur Diagnose, Unterstützung, Entscheidungsfindung und so weiter angeboten wird.
40:44
Speaker 0: Hast du das Gefühl dass wir in Deutschland also schon die Klinik das verstanden haben und da wirklich aufrüsten?
40:53
Speaker 1: Also du meinst jetzt speziell des stationären Bereichs?
40:57
Speaker 1: Ja,
40:57
Speaker 0: also jetzt auch so ein Stationär aber auch in Praxens.
41:05
Speaker 1: Speziell aus dem Klinikbereich hat sich ja im Zuge des KRZG, also Krankenhaus-Zukunftsgesetz und den ganzen Fördermittel, die da abrufbar waren in den letzten Jahren ein bisschen was getan.
41:17
Speaker 1: Stichwort digitales Patientenportal
41:18
Speaker 1: etc.,
41:19
Speaker 1: da haben einige aufgerüstet.
41:21
Speaker 1: Da sehe ich auch in der Beratung, da gibt es jetzt im Moment den Transformationsvor für die Krankenhäuser sozusagen um eine Anschlussgeneration sicherzustellen weiter auf den Markt zu bringen und weiter auszurollen, denn dazu hat die Kürze die Förderung ja nicht gereicht.
41:38
Speaker 1: Also David tut sich was auch wahrscheinlich wieder nicht schnell genug und ich früh genug.
41:43
Speaker 1: das muss man auf jeden Fall eineseits Bemängeln andererseits sehen wir dass da gute Lösungen am Markt sind.
41:51
Speaker 1: Das große Thema Interoperabilität ist ja gerade sozusagen die, darf ich nur sagen, gaudig, die durchs Dorf getrieben wird.
41:58
Speaker 1: Aber vollkommen zurecht!
41:59
Speaker 1: Das ist jetzt so das nächste große Problem.
42:02
Speaker 1: aber es ist auf jeden Fall Musik drin.
42:05
Speaker 1: also da wird auch gerüstet und das ist jetzt auch durch diese Fördermittel eben möglich.
42:10
Speaker 1: Also zum Beispiel im Transformationswort man stark diese digitalen Netzwerkstrukturen wo viele Krankenhäuser Fördermeister beantragt haben unter Aufrüsten.
42:19
Speaker 1: Und es geht natürlich auch nicht anders, dass die ganze Krankenhausplanung oder das ganze Reformgesetz zielt ja letzten Endes auf eine Konsolidierung der Krankenhauslandschaft und da kann natürlich ohne Digitalisierung gar nichts gehen.
42:34
Speaker 1: Denn wir können ja nicht einfach nur Häuser schließen und den Markt bereinigen, ohne zeitgleich in Digitalisierung zu investieren.
42:41
Speaker 1: Das ist eigentlich aus meiner Sicht völlig klar.
42:45
Speaker 1: Insofern sehe ich schon Bewegung aber halt auch sehr schwerfällig, also wenn die großen Universitätskrankenhäuser oder andere größere Einrichtungen da an den Markt gehen das sind manchmal Prozesse dann ganz zu schweigen mal vom Vergaberecht und so weiter was erwartet werden muss.
43:01
Speaker 1: es geht alles schwerfältig
43:07
Speaker 0: Ja, es geht.
43:10
Speaker 0: Ich muss sagen wenn ich dann wieder in Kliniken bin und sehe was davon ankommt das sind immer noch mal zwei Welten.
43:19
Speaker 0: Und ich frage mich und vielleicht auch nochmal jeder hat ja so eine Frage die einen so beschäftigt wohin führt uns das alles gerade die Welt?
43:28
Speaker 0: Also ich glaube dass die Patienten und die KI unfassbare Treiber sind und dass die Professionals sich da ganz schön warm anziehen müssen auf der einen Seite und ich ja auch sehe wie zum Beispiel Patientenverbände, wie die ihre Patienten mit KI aufschlauen.
43:45
Speaker 0: Wie sie sie unterstützen und da immer autonomer werden was ja auch in einer gewissen Art und Weise sehr gut ist aber auch natürlich die Ärzte die absolut ihrer Grenzen sind, ihrer Machbarkeit und wir gar nicht mehr alles bewältigen können und wir auch Unterstützung brauchen.
44:03
Speaker 0: also dass der Ist-Zustand und die Prozesse, die dahinter stehen bis das dann alles so läuft.
44:10
Speaker 0: Da ist schon eine große Schere und das ist schon was mich sehr beschäftigt.
44:15
Speaker 0: Was ist für dich ein Thema?
44:17
Speaker 0: Was dich da in diesem Kontext beschäftigt oder vielleicht etwas ganz anderes?
44:21
Speaker 1: Also das kann ich auf jeden Fall bestätigen!
44:23
Speaker 1: Das hat man ja auch diesen... High-Gefühl, wenn man von der Demära kommt.
44:27
Speaker 1: Du hast es ja gerade nochmal beschrieben.
44:29
Speaker 1: Da sind jetzt auch beide dort und da liegt ein Jahr alles zu Füßen und man denkt das könnte so einfach sein!
44:34
Speaker 1: Es gibt so coole Lösungen und dann fällt man wieder auf den Boden der Realität, wenn mal in einem nächsten Krankenhaus steht.
44:40
Speaker 1: also da es auf jeden Fallen gibt, den sehe ich auch und ich sehe halt eine wahnsinnige Dynamik drin und diese auch Foliakt die ist ja immer schwerer zu gewinnen weil Ja, also weil natürlich auch da muss ich die Regulatur jetzt natürlich voll in die Pflicht nehmen mit Unter-Innovation-Taments.
44:57
Speaker 1: Insofern braucht es einfach Leute, die auch versuchen Innovationen auf den Markt zu bringen, rechtlich sauber zu begleiten und dennoch natürlich auch Juristen... Und
45:08
Speaker 0: diese?
45:10
Speaker 1: ...die nicht genau, die nicht überall und das ist auch unser Beratungsgesetz!
45:13
Speaker 1: Nicht nur Bedenken, ich habe neulich Krankenhausgeschäftsführer gesprochen, der sagte ja, wenn ich dann die Anwälte hole, die erklären wir da erstmal drei Stunden was alles nicht geht und warum.
45:22
Speaker 1: Nicht lösungsorientiert.
45:24
Speaker 0: Das wäre auch total
45:25
Speaker 1: zu frustriert, wenn alles nichtgeht.
45:28
Speaker 1: Und dann hat man so ein Ohnmachtsgefühl.
45:31
Speaker 1: Es gibt viele tolle Sachen und da einfach so ein bisschen mutiger wie du sagst, um wirklich Lösungen möglich zu machen.
45:41
Speaker 1: Das würde ich mir wünschen.
45:42
Speaker 0: Ja, absolut.
45:43
Speaker 0: und wenn wir es nicht machen das wird so kommen.
45:44
Speaker 0: also der ist wird nicht dieser Stadt erst quoisch bestehen bleiben.
45:49
Speaker 0: Und dann sehe ich ehrlich gesagt also aus meiner Perspektive den sekundären Gesundheitsmarkt in Deutschland immer mehr an gewinnen.
45:57
Speaker 0: Wenn wir sozusagen es schaffen imprieren wir auch voranzukommen und da mutig Veränderungen anzugehen.
46:06
Speaker 0: Okay, das war jetzt auf einer ganz großen Metaille.
46:08
Speaker 0: Aber wenn man mit dir jetzt so ganz konkret im Alltag als Kolleginnen und Kollegen ein Thema hat mit KI-Mitpatienten und sagt da brauche ich Unterstützung?
46:17
Speaker 0: Wo erreicht man nicht?
46:18
Speaker 0: wie kann man zu dir Kontakt bekommen liebe Julia?
46:22
Speaker 1: Also sehr gerne über Mail.
46:24
Speaker 1: Wir haben eine schöne Internetseite.
46:26
Speaker 1: auch Die
46:27
Speaker 0: verlinke ich in den Schonot.
46:30
Speaker 1: Das ist super.
46:31
Speaker 1: Ansonsten kann ich vielleicht noch ankündigen, haben wir jetzt im Juni unsere Bart-Homburger Medizinrechtsfrage.
46:37
Speaker 1: Gerne auch mal im Internet ins Programm reinschauen sind auch einflusslos buchbar.
46:41
Speaker 1: Ich selbst will auch was sagen zu KI und Ethik.
46:43
Speaker 1: also das ganz Besteck auffahren ja du bist letztlich eingeschaut!
46:48
Speaker 0: Da muss man nochmal reden finde ich uns ganz gespannt.
46:53
Speaker 1: Als Jurist interessiert mich das auch total als.
46:55
Speaker 1: ich habe da früh angefangen mich auch lange Jahre mit in der Ethik Kommission über den Tellerrand zu schauen Weil natürlich kommst du irgendwann mit dem Recht auch so an Grenzen.
47:03
Speaker 1: und dann sind es tatsächlich schon mit unterethischen Fragen, die sie stellen.
47:07
Speaker 1: oder das über Lagerzeichertal ist auch interessiert nicht total.
47:10
Speaker 1: Also unsere Medizinrechtstage, ansonsten gerne über die Homepage-Email ich bin aber auf LinkedIn sehr aktiv in Instagram
47:20
Speaker 0: Instagram sogar auch.
47:21
Speaker 0: Okay, also dann habe ich ja einiges zusammenzutragen und das findet ihr dann in den Schoenots!
47:27
Speaker 0: Liebe Julia vielen Dank für deine Zeit, für deine Aufklärung, deine klaren Worte und ich hoffe dass du jetzt hier zugehört oder zugeschaut hast, ein bisschen mehr Klarheit auch hast und Sicherheit gewonnen hast.
47:42
Speaker 0: und wenn nicht weißt du ja wo an wen du dich wenden kannst?
47:45
Speaker 0: Und genau hinzuschauen und hinzuhören aber dennoch allem.
47:49
Speaker 0: Und darum mache ich das ja hier, dass wir nicht eine Rolle rückwärts machen sondern trotz allen irgendwie ein Weg finden auch weiterzugehen und diese Dinge alle zu nutzen an den Stellen wo es sinnvoll ist und auch gut mit den Patienten im Patientengespräch zu bleiben über KI weil es wird nie wieder weggehen sondern ein Teil unseres Lebens sein.
48:10
Speaker 0: In diesem Sinne würde ich dir alles Gute.
48:12
Speaker 0: vielen Dank und dann bis bald liebe Julia!
48:15
Speaker 1: Vielen Dank lieber Alexandra.