Latest / KI Espresso / 1 Millimeter: Darf KI dem Hirnchirurgen den Weg zeigen?

Transcript

1 Millimeter: Darf KI dem Hirnchirurgen den Weg zeigen? · KI Espresso

• 0:00
  SPEAKER_00: Also, stellen Sie sich vor, Sie operieren am Gehirn.
• 0:03
  SPEAKER_00: Wirklich direkt neben dem Sehnerv.
• 0:06
  SPEAKER_00: Eine extrem kritische Zone, ja?
• 0:08
  SPEAKER_00: Genau, wo ein Millimeter über alles entscheidet.
• 0:10
  SPEAKER_00: Und plötzlich leuchtet ein Gewebeteil auf Ihrem Zusatzmonitor orange auf.
• 0:15
  SPEAKER_00: Eine KI warnt sie in Echtzeit.
• 0:18
  SPEAKER_00: Vertrauen Sie ihr?
• 0:20
  SPEAKER_01: Das ist ja genau das, was am 26.
• 0:22
  SPEAKER_01: August 2026 am University College London passiert ist.
• 0:26
  SPEAKER_00: Richtig.
• 0:26
  SPEAKER_00: Da wurde erstmals eine KI live eingesetzt, um während einer Tumor-OP kritische Anatomie durch diese sogenannte Pixelsegmentierung auf einem Bildschirm zu markieren.
• 0:36
  SPEAKER_01: Wobei wir da direkt den Rahmen setzen müssen.
• 0:38
  SPEAKER_01: Wir sprechen hier über die KI als Orientierungshilfe auf einem Monitor, nicht über autonome Roboter, die selbst schneiden.
• 0:44
  SPEAKER_00: Für Deutschland, Österreich und die Schweiz bleibt da echt die praktische Frage.
• 0:48
  SPEAKER_00: Absolut, danke für die Klarstellung.
• 0:50
  SPEAKER_00: Unsere zentrale Frage heute ist, wie hoch die Evidenzschwelle sein muss, bevor eine KI diesen Live-Einfluss im OP ausüben darf.
• 0:58
  SPEAKER_00: Und da haben wir ja sehr unterschiedliche Ansichten.
• 1:01
  SPEAKER_00: Ja, ich vertrete den Standpunkt, dass der kontrollierte, klinische Live-Einsatz unter ärztlicher Verantwortung im Hier und Jetzt der absolut beste Weg ist, um zwingend benötigte Praxisdaten zu sammeln.
• 1:15
  SPEAKER_01: Und ich halte dagegen, dass dieser KI-Einfluss strikt auf die Forschung beschränkt bleiben muss.
• 1:20
  SPEAKER_01: Also ohne routinemäßigen Einsatz, bis wir eine unabhängige multizentrische Validierung haben.
• 1:25
  SPEAKER_00: Ich widerspreche.
• 1:26
  SPEAKER_00: Aber schauen wir uns doch den UCL-Fall an.
• 1:30
  SPEAKER_00: Der Eingriff lief fantastisch.
• 1:32
  SPEAKER_00: Ein 11 mm großer Hypophysetumor wurde vom menschlichen Team erfolgreich entfernt.
• 1:38
  SPEAKER_00: Und die Sehkraft des Patienten hat sich danach deutlich verbessert.
• 1:41
  SPEAKER_01: Das ist ja auch ein großartiges Ergebnis, absolut.
• 1:44
  SPEAKER_01: Aber wir dürfen jetzt nicht den Fehler machen, die KI als alleinige Ursache für diesen chirurgischen Erfolg zu feiern.
• 1:50
  SPEAKER_01: Das sagt ja auch niemand.
• 1:52
  SPEAKER_01: Aber sie war ein hilfreiches Werkzeug.
• 1:54
  SPEAKER_01: Ja, aber die Einsätze sind einfach zu hoch.
• 1:57
  SPEAKER_01: Ein einziger Millimeter Fehler bedeutet in dieser Region des Gehirns.
• 2:00
  SPEAKER_00: Ja, aber wenn wir auf diesen perfekten multizentrischen Beweis warten und die Assistenzsysteme aus dem OP aussperren, blockieren wir doch genau den medizinischen Fortschritt, den wir brauchen.
• 2:10
  SPEAKER_00: Das sehe ich komplett anders.
• 2:12
  SPEAKER_00: Eine abschaltbare Orientierungshilfe ist doch ein sicherer Weg, um reale Praxisdaten überhaupt erst zu ergeben.
• 2:18
  SPEAKER_01: Es geht hier aber nicht um das physische Abschalten eines Monitors, sondern um die menschliche Psychologie.
• 2:24
  SPEAKER_01: Wenn die Orangemarkierung der KI im OP glaubwürdig aussieht, sucht das Auge des Chirurgen nicht mehr kritisch nach dem Fehler dahinter.
• 2:32
  SPEAKER_01: Der Fokus wird gelenkt, bevor die Technologie in der Breite geprüft wurde.
• 2:37
  SPEAKER_00: Genau gegen diesen Bias haben wir aber doch bereits handfeste präklinische Daten.
• 2:43
  SPEAKER_00: In einer Peer-Review-Studie von 2024 stieg die mittlere Dice-Überlappung, also die Präzision, mit der Strukturen von Ärzten erkannt wurde.
• 2:55
  SPEAKER_00: Die Studie mit den 24 Personen?
• 2:57
  SPEAKER_00: Richtig.
• 2:58
  SPEAKER_00: Die Präzision stieg von 70,7% ohne KI auf 77,5% mit KI.
• 3:06
  SPEAKER_00: Die KI funktioniert hier ja wie eine zweite Stimme am OP-Tisch, die die Mustererkennung des menschlichen Teams messbar schärft.
• 3:14
  SPEAKER_01: Moment, das ist aber nur der Durchschnitt.
• 3:17
  SPEAKER_01: Wir müssen uns anschauen, was am anderen Ende der Skala passierte.
• 3:21
  SPEAKER_01: Sie meinen die Ausreißer?
• 3:23
  SPEAKER_01: Ja, denn in exakt derselben Studie verschlechterte die KI-Assistenz die Leistung der Ärzte bei fast 17 bis über 22 Prozent der Bilder.
• 3:33
  SPEAKER_00: Okay, ja.
• 3:33
  SPEAKER_01: Und das waren statische Standbilder im Labor.
• 3:36
  SPEAKER_00: Das ist ein fairer Punkt.
• 3:38
  SPEAKER_01: Ein echtes OP-Feld verformt sich, Gewebe verschiebt sich, Blut verdeckt die Kameralinse.
• 3:44
  SPEAKER_01: Dynamisches Licht wirft Schatten.
• 3:46
  SPEAKER_01: Das ist für eine KI ungleich schwerer in Echtzeit zu berechnen.
• 3:51
  SPEAKER_01: Ein Patient darf unter Zeitdruck nicht zum Debugger einer frühen Technologie gemacht werden.
• 3:56
  SPEAKER_00: Das ist ein starkes Argument hinsichtlich der Komplexität.
• 4:00
  SPEAKER_00: Aber das setzt ja voraus, dass der Chirurg blindlings folgt.
• 4:03
  SPEAKER_01: Was beim Automation Bias eben schnell passiert.
• 4:07
  SPEAKER_00: Ja, aber ein erfahrener Operateur kennt die Anatomie in- und auswendig und bewertet diese zweite Stimme permanent im Kontext.
• 4:14
  SPEAKER_00: Verhindern wir durch das Aussperren solcher Systeme nicht aktiv potenziell bessere Behandlungen?
• 4:20
  SPEAKER_00: Nicht, wenn wir es in der reinen Forschung belassen.
• 4:22
  SPEAKER_00: Aber reale Daten, also wirklich aussagekräftige Daten, sammeln wir nur in der realen Welt, nicht mit Laborbildern.
• 4:29
  SPEAKER_01: Die Machbarkeit an einem einzigen ersten Patienten etabliert aber noch lange keine kausale Wirksamkeit und erst recht keine verlässlichen Fehlerraten der KI.
• 4:38
  SPEAKER_01: Das stimmt.
• 4:38
  SPEAKER_01: Es ist nur ein erster Schritt.
• 4:40
  SPEAKER_01: Wir brauchen zwingend unabhängige Daten aus mehreren Kliniken.
• 4:44
  SPEAKER_01: Wir müssen sehen, ob das System bei verschiedenen Kamerasystemen, bei unterschiedlichen Operatoren und vor allem bei ungewöhnlichen anatomischen Anomalien stabil bleibt.
• 4:53
  SPEAKER_01: Richtig.
• 4:54
  SPEAKER_01: Und routinemäßiger Einflussgeber im OP darf die KI erst nach diesem unabhängigen Beweis sein.
• 5:02
  SPEAKER_01: Vorher ist und bleibt es reine Forschung.
• 5:04
  SPEAKER_00: Es scheint wirklich, wir ziehen aus denselben Ausgangsdaten völlig unvereinbare Schlüssel für die Praxis.
• 5:12
  SPEAKER_00: Ich sehe den kontrollierten klinischen Live-Einsatz weiterhin als unabdingbaren Schritt zur Datengewinnung.
• 5:18
  SPEAKER_01: Und für mich bleibt der routinemäßige Einfluss ohne die unabhängige Validierung tabu.
• 5:23
  SPEAKER_01: Reine Forschung ist der einzige Weg, bis wir wissen, dass die KI im Worst Case keinen Schaden anrichtet.
• 5:29
  SPEAKER_00: Genau.
• 5:29
  SPEAKER_00: Und damit geben wir diese offene Überlegung an Sie weiter.
• 5:32
  SPEAKER_01: Welche Hürden müssen dann gelten, bevor die KI Ihnen den Weg weisen darf?
• 5:37
  SPEAKER_01: Das ist die Frage, die wir heute stehen lassen.
• 5:40
  SPEAKER_01: Wenn euch diese Debatte zum Nachdenken gebracht hat, abonniert KI Espresso.
• 5:44
  SPEAKER_01: Jeden Tag eine neue KI-Debatte in sechs Minuten.
• 5:48
  SPEAKER_00: Das war KI Espresso.