Latest / Lebensretter - Ein Podcast der Björn Steiger Stiftung / KI und Fahrzeugsicherheit

Transcript

KI und Fahrzeugsicherheit · Lebensretter - Ein Podcast der Björn Steiger Stiftung

• 0:00
  Die Björnsteigerstiftung.
• 0:02
  Der Podcast.
• 0:04
  Mai 1969.
• 0:06
  Auf dem Rückweg vom Schwimmbad wird der 8-jährige Björnsteiger
• 0:09
  von einem Auto erfasst und dabei schwer verletzt.
• 0:12
  Es dauert fast eine Stunde, bis endlich ein Rettungswagen eintrifft.
• 0:16
  Björnsteiger stirbt.
• 0:18
  Nicht an seinen Verletzungen, sondern an den Folgen eines Schocks.
• 0:22
  Die Eltern Ute und Siegfried Steiger gründen erst einen gemeinnützigen Verein.
• 0:26
  Später entsteht daraus die Björnsteigerstiftung.
• 0:29
  Durch ihr unerlässliches Engagement wurden bis heute
• 0:32
  Millionen Menschenleben gerettet und vergleichbare Schicksalsschläge vermieden.
• 0:36
  In diesem Podcast geht es um die Arbeit der Björnsteigerstiftung
• 0:40
  und die Bedeutung einer funktionierenden Notfallhilfe.
• 0:43
  Wir sprechen mit Experten, Betroffenen und den Machern hinter den Kulissen.
• 0:47
  Folge 10.
• 0:48
  KI und Fahrzeugsicherheit.
• 0:50
  Übernehmen unsere Autos künftig das Denken.
• 0:54
  Mein Name ist Belanda und in dieser Folge blicken wir gemeinsam
• 0:57
  mit dem Verkehrsexperten und Unfallforscher Siegfried Brockmann
• 1:00
  in die Zukunft.
• 1:02
  Kann tünstliche Intelligenz helfen, unsere Straßen sicherer zu machen
• 1:06
  und um Leben zu retten?
• 1:08
  Was sind die Rechtsgrundlagen und werden wir tatsächlich eines Tages
• 1:11
  kompletter Beifahrer der KI?
• 1:14
  Herr Brockmann, schön, dass wir uns heute wiedersehen.
• 1:17
  Wie weit ist die Entwicklung autonomer Fahrzeuge
• 1:20
  und KI, also künstliche Intelligenzgesteuerte,
• 1:23
  Systeme im Automobilsektor fortgeschritten?
• 1:26
  Also ich glaube, da müssen wir erstmal eine Begriffsklerung machen.
• 1:30
  Wir unterscheiden in der Fahrzeugtechnik zwischen automatisierten
• 1:34
  und autonomen Fahrzeugen.
• 1:37
  Und autonome Fahrzeuge sind ausschließlich Fahrzeuge,
• 1:40
  in denen kein Lenkrad mehr existiert oder wenn es existiert,
• 1:43
  es nicht mehr benutzt werden müsste.
• 1:46
  Das heißt, das Fahrzeug macht wirklich alles völlig alleine.
• 1:49
  Also gar nicht mehr dauerhaft.
• 1:51
  Der Fahrer kann sich dann auch völlig abwenden,
• 1:54
  kann sich umdrehen.
• 1:56
  Manchmal sieht man ja so futuristische Entwürfe,
• 1:59
  wo die da alle sozusagen am Konferenztisch im eigenen Auto sitzen.
• 2:02
  Also so ähnlich darf man sich das dann vorstellen,
• 2:05
  während wir jetzt im Moment bei der Entwicklung von automatisierten
• 2:09
  Fahrzeugen in verschiedenen Entwicklungsstufen sprechen.
• 2:13
  Und da muss man mal klar sagen, das ist noch nicht so wahnsinnig weit her.
• 2:19
  Denn wir haben also die Entwicklung von Driver Only.
• 2:23
  Also das heißt, der Fahrer macht alles selber.
• 2:26
  Hinzu assistiert im Fahren, die ist weitgehend fortgeschritten
• 2:31
  bei modernen Fahrzeugen.
• 2:33
  Das heißt, das Fahrzeug zeigt mir an, wenn ich etwas anders machen soll,
• 2:38
  beispielsweise ich fahr zu schnell oder ich habe zu wenig Sicherheitsabstand,
• 2:42
  dann blind ist oder gibt es sogar ein Piepton von sich.
• 2:45
  Oder ich habe Notbremsassistenten, die im Zweifel eingreifen,
• 2:49
  wenn ich selber nicht schnell genug bin.
• 2:51
  Ich habe auch intelligenten Tempomaten,
• 2:54
  der also die Geschwindigkeit zum Vordermann hält
• 2:56
  und im Zweifel die eigene reduziert, ähnliche Dinge.
• 2:59
  Das sind assistierte Fahrfunktionen, wo moderne Fahrzeuge schon ziemlich gut sind.
• 3:05
  Und das ist aber jetzt wieder für den Unfallforscher nämlich entspannender Punkt.
• 3:09
  Da geht es nämlich um Funktionen, die dem Fahrer, deswegen heißt es ja so,
• 3:13
  assistieren. Und zwar immer dann, wenn er einen Fehler macht
• 3:17
  oder im Begriffen ist, einen Fehler zu machen, sollen die eingreifen.
• 3:21
  Umgekehrt formuliert, der Fahrer merkt die gar nicht, wenn er alles richtig macht.
• 3:25
  Nicht immer den richtigen Abstand hätte, immer früh genug Bremse,
• 3:29
  nie die Spurverlasse aus Leichtsinnigkeit oder so,
• 3:33
  werde ich diese Assistenten nie merken.
• 3:36
  Und das ist auch ihr Sinn.
• 3:38
  Und jetzt kommt diese nächste Entwicklungstufe, die auch ingenieurtechnisch extrem anspruchsvoll ist,
• 3:45
  nämlich die der automatisierten Fahrzeuge der nächsten Entwicklungstufe.
• 3:50
  Das heißt, ich habe jetzt ein Fahrzeug, was beispielsweise auf der Autobahn,
• 3:54
  und das ist im Moment die Standardfunktion, etwa nicht in der Stadt,
• 3:58
  die Standardfunktion für automatisierte Fahrzeuge der nächsten höheren Stufen,
• 4:04
  die da eine ganze Stunde alleine vor sich herfahren können,
• 4:07
  weil sie die Spur erkennen, weil sie den Vordermann erkennen,
• 4:10
  weil sie alleine runterbremsen.
• 4:12
  Es gibt auch Fahrzeuge, die sobald ich den Blinkersätze dann auch die Spur wechseln würden.
• 4:18
  Das heißt, ich habe als Fahrer wenig zu tun.
• 4:22
  Und jetzt wird es spannend, weil natürlich der Fahrer etwas zu tun haben muss.
• 4:28
  Das sind Grundlagen der Psychologie, die haben wir im Auto verankert,
• 4:31
  gar nichts zu tun.
• 4:32
  Wenn jemand einfach nur da sitzt und nichts zu tun hat,
• 4:37
  dann lenkt er sich entweder ab, also pädter auch mit dem Handy spielen,
• 4:40
  oder er schläft allen mehr Möglichkeiten, hat man gar nicht auf die Dauer.
• 4:43
  Wir werden ja nicht von 10 Minuten jetzt.
• 4:45
  Und das heißt, dass wir an einem sehr, sehr kritischen Punkt angekommen sind,
• 4:51
  wo die Systeme halt entweder alles können müssen oder aber nichts können in dem Bezug.
• 4:58
  In dem Moment, wo ich zwei Stunden den Fahrer alles abnehme,
• 5:01
  aber dann sage ich, ja, Moment, aber jetzt verstehe ich die Situation nicht mal.
• 5:04
  Lieber Freund, du hast jetzt zehn Sekunden Zeit, sieh zu, wie du dich da rettest.
• 5:08
  Dann erwische ich den Jahr in einer Verfassung, wo er überhaupt nichts weiß.
• 5:13
  Der hat jetzt die ganze Zeit, wenn wir fahren, haben wir den Spiegel im Auge.
• 5:18
  Ich weiß, was vor mir und hinter mir gerade los ist.
• 5:21
  Ich kann die Spur wechseln ohne zehn Sekunden Zeit, weil ich ja weiß, da ist nichts.
• 5:25
  Da ist wer.
• 5:26
  Ich habe immer mal wieder auf den Tachos geguckt.
• 5:28
  Ich weiß, wie schnell ich bin. Keine einzige dieser Informationen hat jemand,
• 5:31
  der jetzt seit zwei Stunden chauffiert wird.
• 5:33
  Und dann soll er innerhalb weniger Sekunden das Problem lösen.
• 5:37
  Und das wird eben nicht funktionieren.
• 5:40
  Und deswegen ist die Forderung von Anfang an eigentlich immer so gewesen.
• 5:44
  Macht mir keine Autos, die so ein bisschen mehr können als assistiertes Fahren.
• 5:49
  Es gibt sogar Marken, die damit verbunden sind, die darf ich aber jetzt nicht nennen.
• 5:52
  Und macht mir Fahrzeuge, die dann wirklich so gut sind, dass das Eingreifen des menschlichen Fahrers die absolute Ausnahme ist.
• 6:01
  Nie wird man das ganz ausschließen können.
• 6:03
  Auch im Flugzeug kann man das nicht völlig ausschließen, dass der Pilot nicht doch irgendwann mal eingreifen muss,
• 6:08
  weil irgendein System nicht richtig funktioniert.
• 6:10
  Aber an der Stelle sind wir bisher nicht.
• 6:13
  Wir haben Fahrzeuge, die das einigermaßen gut können, aber immer wieder dem Fahrer sozusagen die Fahraufgabe übergeben müssen.
• 6:20
  Das machen die, indem sie mitteilen.
• 6:22
  Jetzt wird die Fahraufgabe übernehmen.
• 6:24
  Dann hat man ein paar Sekunden, da muss man das tun.
• 6:26
  Ich hatte so ein Auto da, das fuhr in manchen Abschnitten alleine,
• 6:30
  muss die alle 30 Sekunden auf so einen Knopf drücken und sagen, okay, okay, okay,
• 6:34
  wenn ich das nicht getan habe, fuhr dann noch eine 30 Sekunden weiter.
• 6:37
  Und dann weiß gar nicht, was dann passiert.
• 6:39
  Ich habe dann immer wieder drauf geguckt.
• 6:40
  Hatte es aber auch bei diesem Fahrzeug, sehr entwickeltes Fahrzeug tatsächlich,
• 6:44
  nicht dieses berühmte, das wir alle in Verbindung bringen mit dem Autonomenfahren,
• 6:48
  das aus Amerika kommt, sondern ein heimisches, wo ich tatsächlich auf einen Block zugefahren bin
• 6:54
  und das Auto in diesem Modus das nicht erkannt hat.
• 6:57
  Also hätte ich da nicht reagiert, wäre das wahrscheinlich eine Vollbremsung geworden oder was auch immer,
• 7:02
  aber weil die Spurechts nicht entsprechend für Abgrenzung gesorgt hat.
• 7:07
  Der Spurwechsel war nicht auf der Fahrbahn vorgegeben, wahrscheinlich war das der Grund.
• 7:12
  Also auch da sehen wir, dass es da eine Vorgaukelung gibt, immer noch von Sicherheit,
• 7:17
  auf die man sich dann natürlich auch verlässt.
• 7:19
  Das ist genau der springende Punkt, dass man sich irgendwann darauf verlässt.
• 7:23
  Also je besser die ist, desto mehr wird man sich darauf verlassen.
• 7:27
  Aber es gibt eben kein einziges System, was absolut perfekt ist hier.
• 7:32
  Und gerade so Themen wie welche Spur ist das jetzt eigentlich?
• 7:36
  Wie erkenne ich die?
• 7:37
  Dann braucht es sogenannte redundante Systeme.
• 7:40
  Das heißt also zum Beispiel Kamera und Sensor, die gegenseitig quasi sich dasselbe bestätigen müssen.
• 7:46
  Sonst macht das Auto nichts, was ja auch richtig ist.
• 7:49
  Man hat manchmal nur Radar-Shutten.
• 7:51
  Und wenn das dann in der Vollbremsung gehen würde, auch nur das da faktisch was ist,
• 7:54
  da wäre es ja eine ähnliche Katastrophe.
• 7:56
  Es sind also sehr, sehr viele ingenörtechnische Herausforderungen drin
• 8:00
  und auch noch eine, die man auch nicht unterschätzen darf.
• 8:04
  Wir haben ja die passiven Sicherheitssysteme, also die man gar nicht hoch genug einschätzen kann.
• 8:09
  In ihrer Bedeutung für die Verringerung von Verkehrsopfern, wie zum Beispiel den Gurt.
• 8:14
  Da ist es so, dass natürlich jemand, der jetzt die ganze Zeit nichts zu tun hat,
• 8:19
  der Wetter nicht exakt in seiner Position verharren,
• 8:23
  sondern der hat dann Spaß mit seinem Hintermann sich vielleicht
• 8:25
  oder mit dem Nebenmann ganz anders zu unterhalten, als er das tun würde,
• 8:28
  wenn er da jetzt ständig rausstahnen muss und das Lenkrad in der Hand hat und so weiter.
• 8:32
  Und das nennen wir im Fachschaggon "Out of position".
• 8:36
  Und das bedeutet, in dem Moment verlässt jetzt der Gurt seine optimale Führung,
• 8:41
  hängt vielleicht nur noch über dem Oberarm oder so.
• 8:43
  Und wenn dann irgendwas passiert, dann ist das eben gleich sehr, sehr dramatisch in den Folgen.
• 8:49
  Und deswegen sind automatisierte Fahrzeuge in den höheren Entwicklungsstufen
• 8:55
  alle mit einer sogenannten Fahrer-Zustandserfassung versehen,
• 8:59
  auf Deutsch eine Kamera, die beobachtet den Fahrer.
• 9:02
  Und wenn der sich jetzt aus seiner Position heraus bewegt,
• 9:06
  wird ihn das Fahrzeug ebenfalls dringend ermuntern, das sein zu lassen
• 9:10
  oder eben auch die Fahrt einstellen.
• 9:12
  Und das halte ich auch für richtig, denn wir können jetzt sozusagen
• 9:15
  mit nicht ganz perfekten System natürlich nicht in Kauf nehmen,
• 9:19
  dass dann die alten Sicherheitssysteme, die alle super funktionieren,
• 9:22
  plötzlich außer Kraft gesetzt werden.
• 9:25
  Wie mein Auto hat eine Kamera, die mich monisort?
• 9:27
  Ja, ihr Auto möglicherweise noch nicht,
• 9:29
  weil es noch nicht eine höhere Entwicklungstufe der Automatisation hat.
• 9:32
  Also wenn wir aber in der Automatisierungstufe viel sind,
• 9:36
  das wäre die sozusagen letztlich unterhalb des Autonomen-Fahrens.
• 9:41
  Also der Fahrer hat nur noch eine theoretische Funktion dort,
• 9:45
  muss also im Notfall eingreifen können in der Praxis aber nicht mehr.
• 9:49
  Dann wird es zwingend eine solche Kamera haben,
• 9:52
  die erfasst, ob der Fahrer sich in der richtigen Position befindet.
• 9:55
  Das hat übrigens aber auch den Vorteil,
• 9:57
  dass ich gleichzeitig in der Müdigkeitserkennung natürlich
• 10:01
  Fortschritte machen kann, die heute von den Herstellern völlig unterschiedlich
• 10:04
  gehandhabt wird, denn dann sehe ich zumindest mal relativ klar,
• 10:07
  ob die auch im Auf- oder zu sind.
• 10:09
  Wow, welche Vorteile hat denn KI sonst noch in Bezug auf die Verkehrssicherheit?
• 10:14
  So, jetzt sind wir natürlich bei der zweiten Begriffsklärung, nämlich KI.
• 10:18
  Also die KI, das ist ja im Moment gerade zu ein inflationärer Begriff
• 10:22
  für irgendwas, was einfach nur eine Weiterentwicklung
• 10:25
  von Computerkapazität ist.
• 10:28
  Im Automobilsektor haben wir das zur Zeit.
• 10:31
  Also worüber wir hier reden, gerade wenn ich verschiedene Systeme,
• 10:34
  Kamerasensoren oder Stereokameras, da sind,
• 10:38
  da fließen gigantische Datenmengen natürlich.
• 10:41
  Und eines der großen Probleme der Vergangenheit war,
• 10:44
  diese Datenmengen quasi innerhalb von Millisekunden zu verschneiden
• 10:48
  und dann auch noch sozusagen den Fahrzeug mitzuteilen, was es tun soll.
• 10:53
  Und da ist es insbesondere eine Frage der Weiterentwicklung,
• 10:57
  der Chip-Technologie, logischerweise.
• 10:59
  Ob ich das hinbekomme oder nicht.
• 11:02
  Also gerade in den ersten Jahren wurden da im Kofferraum der Versuchsfahrzeuge,
• 11:06
  also ähnlich wie früher, die quasi bevor es PC gab,
• 11:09
  gab es ja auch ganze Etagen, die mit einer geringeren Rechnerleistung,
• 11:14
  also sie heute auf jedem Smartphone haben.
• 11:17
  Und so ähnlich muss man sich das beim Auto auch vorstellen,
• 11:20
  diese riesigen Datenmengen zutreffend zu verarbeiten,
• 11:23
  brauchen wir eben Fortschritte in der Computer- und Chip-Technologie,
• 11:26
  die kommen mit der Zeit.
• 11:29
  Und deswegen bin ich relativ optimistisch, dass wir das hinbekommen.
• 11:33
  Aber KI, so wie ich sie verstehe, ist ja was völlig anderes.
• 11:38
  Da ist nämlich das Wort Intelligenz drin.
• 11:41
  Und hier ist es so, dass in diesem Auto nichts passiert,
• 11:44
  was der Mensch nicht an irgendeiner Stelle anpackt.
• 11:48
  Das ist nur bei einem einzigen Hersteller aus USA kritischer zu sehen,
• 11:53
  weil dort quasi, wie es im Fachjargon heißt,
• 11:57
  over the air ständig Updates eingespielt werden.
• 12:00
  Das heißt, das Fahrzeug, was ich zwei Jahre nachdem ich es gekauft habe,
• 12:04
  auf der Straße befindet, hat nichts mehr mit der Typzulassung zu tun,
• 12:08
  die es irgendwann mal bekommen hat,
• 12:10
  weil es sich ja quasi ständig weiterentwickelt.
• 12:12
  Aber auch da ist es so, dass der Datenstrom zum Werk geht,
• 12:16
  im Werk in irgendwas verarbeitet wird
• 12:19
  und zurück zum Auto geschickt wird, um Veränderungen vorzunehmen.
• 12:22
  Das ist aus meiner Sicht immer noch keine KI.
• 12:25
  KI ist, wenn das Auto etwas selber entscheiden dürfte.
• 12:29
  Und deswegen ist zurzeit auch diese Dilemma-Situation,
• 12:32
  von der wir hier immer reden im Zusammenhang mit autonomem Fahren,
• 12:36
  ist zurzeit gar kein Problem, weil das Auto nichts selber entscheiden darf.
• 12:41
  Und ehrlich gesagt ist das für mich auch ziemlich genau die Schwelle,
• 12:45
  um mir Angst und Bange wird.
• 12:47
  Denn KI würde ja bedeuten, also als wirkliche Intelligenz,
• 12:50
  dass das Auto ständig sich selber weiterentwickelt.
• 12:53
  Ständig also auch entscheidet, welche Geschwindigkeit es fahren darf,
• 12:57
  auch entscheiden darf, ob wenn ich jetzt Zielzeit so und so eingebe,
• 13:01
  ja, ist es das Wert jetzt dreimal so schnell zu fahren oder nicht.
• 13:05
  All das könnte plötzlich diese KI selber entscheiden
• 13:08
  und sich auch selber weiterentwickeln.
• 13:10
  Und was ich auch problematisch finde,
• 13:13
  ist plötzlich kein Menschen mehr, den ich verklagen könnte.
• 13:16
  Das ist ja auch eine strafrechtliche Problematik der Produkthaftung zurzeit.
• 13:20
  Wenn tatsächlich der menschliche Fahrer irgendwann nicht mehr die Haftung hätte,
• 13:25
  weil er sich im automatischen Modus befand,
• 13:28
  dann muss ja doch trotzdem jemand die Verantwortung tragen.
• 13:32
  Das ist bisher ziemlich klar der Hersteller,
• 13:34
  wenn auch komplex nachweisbar, aber er hat das Ding programmiert.
• 13:38
  Wenn die KI jetzt ständig sich selber weiterentwickelt,
• 13:41
  also irgendwas da reinschreibt, was kein menschlicher Verstand mehr gesehen hat,
• 13:46
  dann sind wir, ehrlich gesagt, an einer Schwelle,
• 13:49
  die ich auch nicht für wünschenswert halte.
• 13:51
  Und ich glaube, an die Stelle sollten wir auch nie kommen.
• 13:53
  Aber gehen wir noch mal zurück, Herr Brodmann,
• 13:55
  zu dem Beispiel, das Sie Eingangs erwähnt haben.
• 13:57
  Wir haben ja konventionelle Maßnahmen,
• 14:00
  die über ein Jahrhundert fast sich entwickelt haben.
• 14:05
  Nehmen wir den TÜV.
• 14:06
  Ein Auto ist fahrtauglich aufgrund des Zustandes
• 14:10
  wie ich den Wagen bei der technischen Überwachung,
• 14:13
  bei der Untersuchung eben präsentiere.
• 14:16
  Und dann muss ich es natürlich so halten,
• 14:18
  wenn es dann ein Jahr später auseinanderfallen würde.
• 14:20
  Dann habe ich auch was falsch gemacht.
• 14:22
  Aber im Grunde ist das der Kern.
• 14:25
  Hier das Beispiel, was Sie genannt haben,
• 14:27
  dass es ja schon gibt, ein Fahrzeug,
• 14:29
  das sich konstant erneuert, erneuert kann,
• 14:32
  durch neue Aufspielungen von Software in der Software,
• 14:37
  dieses Auto steuert, ist ja etwas anderes.
• 14:40
  Also sind unsere System eigentlich noch zeitgemäß,
• 14:45
  wenn ich mit dieser Entwicklung anschaue?
• 14:47
  Also ich glaube, was nicht zeitgemäß ist,
• 14:50
  ist, wie der Gesetzgeber mit diesem Thema umgeht.
• 14:53
  Denn wir haben da so einen merkwürdigen Zwiespalt.
• 14:56
  Einerseits versuchen wir ja, die Systeme,
• 14:58
  so wie sie klassisch sind, zu retten und abzubilden.
• 15:01
  Das heißt, ich muss alles Mögliche immer noch prüfen lassen.
• 15:05
  Ich habe sehr komplexe Gesetze zum Thema automatisiertes Fahren,
• 15:08
  was das Auto können soll, muss oder eben auch nicht darf.
• 15:12
  Und auf der anderen Seite lasse ich eben diese Over-DR-Updates
• 15:15
  im Grunde ständig zu,
• 15:17
  weil wir ja alle so schön technologiefreundlich sein wollen.
• 15:22
  Und an der Stelle muss man jetzt aber auch noch mal etwas sagen,
• 15:26
  weil das liegt auch daran, dass wir glauben,
• 15:29
  dass hochautomatisierte Systeme besser seien als der Mensch.
• 15:34
  Und das ist jedenfalls auch das, was ich immer höre und lese.
• 15:38
  Wenn die Autos erst mal automatisch fahren,
• 15:40
  dann hätten wir keine Unfalle mehr.
• 15:42
  Genau, weil wir dann alle gleiten mit einer Durchschnittsgeschwindigkeit,
• 15:46
  mit richtigen Abstand zum Vordermann und so weiter.
• 15:49
  Genau, also erst mal muss man sagen, das würde ja nur zutreffen,
• 15:53
  wenn wir nur noch Autos auf der Straße hätten.
• 15:55
  Wir haben in anderem Zusammenhang auch schon über Radfahrer
• 15:58
  und Fußklinger gesprochen, die sind ja immer noch da
• 16:01
  und würden sich eigenständig verhalten.
• 16:04
  Wir würden nur noch Autos miteinander kommunizieren,
• 16:07
  was in einer mittelfernen Zukunft ja auch möglich ist.
• 16:10
  Im Moment haben wir Fahrzeuge, die quasi nur selbst so optimiert sind,
• 16:14
  dass sie alles andere versuchen zu verstehen.
• 16:17
  Wir haben in einer nächsten Entwicklungstufe
• 16:19
  auch die Kommunikation zwischen den Fahrzeugen.
• 16:22
  Das heißt, die Elektronik weiß sehr frühzeitig,
• 16:24
  was das andere Fahrzeug vorhat,
• 16:27
  was ja noch mal eine ganz andere Entwicklungstufe wäre.
• 16:30
  Und da rede ich jetzt aber nicht von einem Zeitraum von zehn Jahren,
• 16:34
  sondern deutlich länger.
• 16:36
  Tatsächlich ein System,
• 16:37
  was ja dann nicht mehr auf individuelle Entscheidungen beruhen würde.
• 16:41
  Das ist tatsächlich für mich eins, was anstrebenswert wäre.
• 16:44
  Dann müssen wir nur noch das Problem lösen,
• 16:47
  dass natürlich massig ältere Fahrzeuge auf der Straße sind.
• 16:50
  Dann habe ich der sogenannten Mischverkehr,
• 16:53
  der das Ganze wieder deutlich komplizierter macht,
• 16:56
  weil ich eben viele individuelle Entscheidungen habe.
• 16:59
  Ich habe seit aber Fahrzeuge, die das nicht mehr können.
• 17:02
  Und wie die jetzt miteinander umgehen,
• 17:04
  das ist noch mal ein Sonderproblem.
• 17:06
  Aber nehmen wir mal an, wir hätten irgendwann dieses System,
• 17:10
  dann muss es aber eben auch fehlerfrei funktionieren.
• 17:13
  Und wir müssen ja gucken, was ist eigentlich unsere Benchmark?
• 17:16
  Unsere Benchmark ist doch der menschliche Fehler,
• 17:19
  den wir heute haben oder nicht haben.
• 17:21
  Und was die meisten Leute sich nicht klarmachen,
• 17:24
  ist, dass der menschliche Fahrer im Schmidt
• 17:27
  alle 300 Jahre einen Unfall mit Personenschaden verursacht.
• 17:31
  Die Zahl muss man sich auf der Zunge zergehen lassen.
• 17:34
  Der menschliche Fahrer verursacht alle 300 Jahre?
• 17:37
  Und zwar im Durchschnitt.
• 17:39
  Daran sieht man schon, was ich immer sage,
• 17:41
  10 Prozent aller Verkehrsteilnehmenden verursachen 90 Prozent der Probleme.
• 17:45
  Das sind nämlich immer dieselb.
• 17:47
  Deswegen kommen solche Zahlen zustande.
• 17:50
  Aber das ist unsere Benchmark.
• 17:52
  Und wenn ich mir die jetzt mal nehme und sage,
• 17:55
  die werden automatisierte Systeme so gut sein.
• 17:58
  Auch über die Nutzungsdauer des Objekts.
• 18:01
  Der kommt ja nicht immer nur verbrückt neu aus die Straße,
• 18:05
  sondern da geht auch mal ein Sensor kaputt,
• 18:07
  der Fahrer wird es nicht reparieren wollen.
• 18:10
  Oder was alles nach drei, vier Jahren an so einem Fahrzeug dran sein könnte.
• 18:14
  Wo es dann schlechter funktioniert,
• 18:16
  als wenn der Fahrer wirklich selber fährt.
• 18:19
  Und ich mir so meinen Computer angucke,
• 18:21
  der nicht mal ein Jahr fehlerfrei durchhält.
• 18:24
  Der sogar groben Mist produzieren kann.
• 18:27
  Vom Eingriff von außen jetzt mal gar nicht zu reden,
• 18:30
  was noch ein Sonderproblem bei der Automatisation ist.
• 18:33
  Weil ich die Systeme natürlich stören kann.
• 18:36
  Und es gibt keine nicht-hackbaren Systeme bis heute.
• 18:39
  Nicht mal im Pentagon ist das der Fall.
• 18:42
  Dann produzieren wir natürlich viele neue Probleme,
• 18:46
  ohne dass ich die Benchmark von 300 Jahren wirklich glaube,
• 18:51
  dass wir die knacken können.
• 18:53
  Deswegen glaube ich so einfach, dass wir sagen,
• 18:55
  da in einer mittelfernen Zukunft
• 18:57
  haben wir alle unsere Sicherheitsprobleme gelöst,
• 19:00
  sehe ich das gar nicht.
• 19:01
  Es gibt tatsächlich gerade einen von Barack Obama,
• 19:04
  glaube auch von seiner Frau, mit produzierten Film.
• 19:07
  Ich habe einen kleinen Ausschnitt gesehen,
• 19:10
  die Marke über die, wenn ich spreche,
• 19:12
  damit ihr uns alle im Kopf ist,
• 19:14
  wenn wir über automatisiertes Fahren sprechen,
• 19:16
  ist damit ihrem größten Wagen dargestellt.
• 19:19
  Und wir auf einmal hunderte von diesen Autos
• 19:22
  und fahren.
• 19:23
  Und das zeigt so ein bisschen die ...
• 19:25
  Ja, das ist ja relativ leicht möglich.
• 19:27
  Wir haben ja gerade wieder den Absturz von weltweit Kausenden
• 19:31
  vom Computer angesehen,
• 19:33
  die irgendwie nur mit derselben Software ausgestattet waren.
• 19:36
  Also, ich glaube, dass wir solche Systeme
• 19:40
  unangreifbar von außen machen können,
• 19:43
  das sehe ich überhaupt gar nicht.
• 19:46
  Und erst recht nicht in der nächst höheren Entwicklungsstufe,
• 19:50
  dass die Fahrzeuge miteinander kommunizieren.
• 19:52
  Denn dann muss sich ja natürlich ein Weg haben,
• 19:55
  um die Firewall aufzumachen an einer bestimmten Stelle.
• 19:58
  Und das macht die ganze Sache sicherlich nicht einfacher.
• 20:01
  Gibt es eigentlich jetzt schon spezifische Unfälle oder Vorfälle,
• 20:05
  die bedenken hinsichtlich der Sicherheit von ...
• 20:07
  ja, künstlicher Intelligenz oder intelligenten Systemen
• 20:11
  im Fahrzeug wecken?
• 20:12
  Also, wir alle kennen ja die Videos von automatisierten Fahrzeugen,
• 20:17
  die irgendetwas nicht erkennen konnten.
• 20:19
  Also, beispielsweise ein Quer auf der Fahrbahn stehenden Langhänger.
• 20:23
  Weil der in dieser Software überhaupt nicht vorgesehen war.
• 20:26
  Oder andere Dinge, die der Programmierer
• 20:28
  vielleicht einfach nicht bedacht hat.
• 20:31
  Natürlich entwickelt sich dann die Technik auch immer weiter,
• 20:34
  aber es wird immer wieder auch Fälle geben,
• 20:36
  die das System nicht erkennt.
• 20:38
  Und dann kommen wir wieder an diesen kritischen Punkt.
• 20:41
  Was wird ein menschlicher Fahrer,
• 20:43
  der hier noch Rest-Eingriffmöglichkeiten hat?
• 20:46
  Das ist ein Problem, das wir haben,
• 20:48
  in wenigen Sekunden das Problem zu erkennen und richtig zu entscheiden.
• 20:52
  Und das bleibt eine spannende Frage.
• 20:54
  Und deswegen bin ich hier ziemlich knallhart der Meinung.
• 20:58
  Assistiert ja, automatisiert nein,
• 21:00
  bis die Systeme das wirklich richtig gut können.
• 21:03
  Der Zuhörbrauchmann gibt es ja bei vollkommenem Einsatz
• 21:06
  von automatisierten Systemen auch ethische Fragen.
• 21:09
  Welche sind das?
• 21:11
  Die ethischen Fragen stellen sich natürlich erst dann,
• 21:14
  wenn die KI in dem Auto selbstständig sich weiterentwickelt
• 21:18
  und also auch eigenständige Entscheidungen treffen kann.
• 21:21
  Da sind wir jetzt definitiv aus meiner Sicht nicht.
• 21:24
  Was dann immer wieder dargestellt wird,
• 21:27
  also die Dilemma-Situation fahre ich jetzt ein einziges Kindtod
• 21:31
  auf der linken Seite oder wiege ich zur anderen Seite ab.
• 21:34
  Und da steht eine Fußgängergruppe oder ähnlich.
• 21:37
  Da kann man beliebig konstruieren.
• 21:39
  Der Punkt ist nur, dass wir natürlich auch als menschliche Fahrer
• 21:43
  nicht in einem juristischen Oberseminat treffen würden,
• 21:46
  sondern innerhalb weniger Millisekunden das eine oder das andere
• 21:50
  oder vielleicht auch gar nichts tun.
• 21:52
  Und deswegen bin ich da insofern relativ entspannt in der Praxis,
• 21:56
  dass es jedenfalls nicht schlechter wird,
• 21:59
  als es jetzt auch schon ist.
• 22:00
  Rechtstheoretisch wirft das selbstverständlich Fragen auf,
• 22:04
  weil ich ja jetzt immer ein Prozess führe, um die Frage,
• 22:08
  was hätte man als optimaler Fahrer tun können.
• 22:12
  Habe ich alles getan, was getan werden konnte?
• 22:15
  Habe ich ein Fehler gemacht oder, oder, oder?
• 22:18
  Was ich eben beinahe sich selbst weiterentwickelnden KI
• 22:21
  so einfach nicht mehr machen kann.
• 22:23
  Aber wie gesagt, an der Stelle sind wir aus meiner Sicht noch lange nicht,
• 22:27
  um was die Systeme im Moment machen würden.
• 22:29
  In all diesen Fällen ist eine Vollbremsung.
• 22:32
  Und nicht etwa die Frage, lenke ich nach links oder lenke ich nach rechts.
• 22:36
  Welche Rolle hätte denn idealerweise,
• 22:39
  das ist mir noch nicht so ganz klar,
• 22:41
  als wäre es bei einer der ersten Jahre
• 22:43
  bei Einsatz eines vollkommen automatisierten Systems.
• 22:47
  Weil wenn ich sie richtig verstehe,
• 22:50
  müssen wir auch bei Einsatz eines vollautomatisierten Systems,
• 22:54
  sogar bei Einsatz eines mit anderen Fahrzeugen kommunizierenden Systems,
• 22:58
  immer auch weiterhin zumindest die theoretische Möglichkeit erwegen,
• 23:03
  dass irgendetwas falsch läuft.
• 23:05
  Also die Vorstellung, die mir auch tatsächlich in der Werbung
• 23:10
  einmal vermittelt wird.
• 23:12
  Ich dreh meinen Sitz einfach nicht in Fahrbahnrichtung,
• 23:16
  sondern als Fahrer mal um und kommuniziere da nett mit anderen
• 23:20
  oder arbeite mit meinem Laptop oder sonst was.
• 23:23
  Die ist nicht ihre, oder?
• 23:25
  Also ich kann nicht in die Zukunft gucken, weil ich ...
• 23:28
  Wir haben ja eben schon darüber gesprochen,
• 23:30
  dass vieles in der Optimierung der automatisierten Systeme
• 23:33
  auch von der Komplexität der Aufgabe,
• 23:35
  aber letztlich eben auch von der Computerkapazität abhängig ist,
• 23:39
  die ich zur Verfügung habe.
• 23:41
  Und da haben wir ja noch Riesenentwicklungsmöglichkeiten
• 23:44
  in den nächsten Jahren.
• 23:46
  Auch wenn ich immer wieder lese von sogenannten Quantencomputern,
• 23:50
  die also ganz andere Datenmengen verarbeiten können,
• 23:54
  als das heute der Fall ist.
• 23:56
  Inwieweit das und in welcher Geschwindigkeit
• 23:59
  in die Fahrzeugtechnik einzughalten kann.
• 24:01
  Dafür bin ich auch natürlich nicht genug Computerexperte,
• 24:05
  aber das ist die Voraussetzung dafür, ein System zu schaffen,
• 24:09
  was immer die zumindest nicht schlechterer Entscheidung treffen kann
• 24:14
  als der Mensch das tut.
• 24:15
  Denn das wäre ja jetzt mal unsere Mindestvoraussetzung.
• 24:18
  Und das auch selber erkennt, wenn es irgendeine Fehlfunktion hat.
• 24:22
  Und das nicht mehr dem Menschen überlässt.
• 24:25
  Denn eins ist klar, der Mensch ist von seiner ganzen Psychologie her
• 24:29
  nicht geeignet, ein redundantes System zu sein,
• 24:32
  was man nur dann aktiviert, wenn es ein Problem gibt.
• 24:35
  Umgekehrt funktioniert das sehr gut.
• 24:37
  Das sind assistierte Systeme, macht der Menschen Fehler,
• 24:39
  kann das System einspringen.
• 24:41
  Aber nicht andersrum, das kann der Mensch nicht.
• 24:43
  Und insofern muss immer ganz klar sein, es fährt der Mensch
• 24:47
  oder es fährt das System.
• 24:48
  Und das kann es im Moment noch nicht gut genug.
• 24:51
  Und deswegen müssen wir warten,
• 24:53
  ob sich das in diese Richtung weiterentwickelt.
• 24:55
  Wie kann man überhaupt solche Systeme, Verkehrs- und Sicherheitstechnik,
• 24:59
  so testen, dass man irgendwann sagen kann,
• 25:01
  ja, okay, wir sind bereit dafür, wir gehen diesen Weg?
• 25:04
  Ja, das ist, was ich seit Jahren sage,
• 25:07
  natürlich ist kein Hersteller, schon gar nicht die Premiumhersteller,
• 25:11
  daran interessiert, dass mit ihren Autos
• 25:13
  schwere Unfälle im automatisierten Modus passieren.
• 25:16
  Das ist ja auch ein kommunikativer Gau,
• 25:19
  den man gerne verhindern möchte.
• 25:20
  Infolgedessen fahren die natürlich umfangreiche Tests rein.
• 25:25
  Und die Forschung außerhalb dieser Unternehmen
• 25:28
  hat aber leider kein Zugriff auf die Fehlerprotokolle.
• 25:31
  Deswegen kann ich nicht wissen, wie gut diese Systeme sind,
• 25:34
  wenn sie auf die Straße kommen.
• 25:36
  Und 100 Prozentig sind sie eben bisher noch nie gewesen.
• 25:40
  Und wogegen ich mich wäre, ist, dass dann irgendwann
• 25:43
  einem Punkt X Fahrzeuge auf der Straße sind,
• 25:46
  wo wir alle als menschliche Versuchsfahrer agieren.
• 25:49
  So nach dem Motto "But, so eine Restfehlerquote haben wir."
• 25:53
  Und die schleift sich jetzt da schon im Laufe des Serienprozesses aus.
• 25:57
  Das kann es in dieser Frage nicht geben.
• 26:01
  Bedauerlicherweise ist das aber jetzt schon Standard.
• 26:03
  Was kann der Konsument tun, Herr Bockmann,
• 26:06
  um der vor der Frage steht,
• 26:08
  welches System nutze ich nun,
• 26:11
  welche Parameter hat der zu sagen, okay, ich vertraue
• 26:14
  dieses oder jene System, wenn er einfach an die Entwicklung
• 26:18
  dieser Systeme denkt und denkt, ich möchte ein möglichst
• 26:21
  sicheres oder möglichst umfassend modernes und sicheres System kaufen?
• 26:27
  Also ich tue mich ein bisschen schwer damit,
• 26:29
  weil mir viel gerade ein, wie ich immer wieder in Unterhaltung
• 26:33
  sagt mir jemand, also das ist alles so schön
• 26:35
  mit seinem neuen Auto oder fährt auf der Autobahn,
• 26:38
  macht den Tempomat auf 130, sagen wir mal,
• 26:40
  und kann dann völlig entspannt stundenlang rollen.
• 26:43
  Aber das ist eben, also das vordergründig hört sich das ziemlich sicher an.
• 26:48
  Aber das ist eben genau das Beispiel, was ich vorhin meinte.
• 26:51
  Das ist so eine Scheinsicherheit
• 26:53
  und man schaltet dann letztlich ab aus diesen komplexen Systemen,
• 26:57
  wird dann aber plötzlich auch wieder zurück in das System geholt.
• 27:00
  Man muss klar sagen, wir haben in Deutschland im Moment
• 27:04
  nur zwei Hersteller, die sogenannte Stufe Drei Fahrzeuge anbieten.
• 27:09
  Das sind automatisierte Systeme, in denen der Mensch
• 27:12
  tändig quasi als Rückfallposition vorhanden sein muss
• 27:18
  und die auch sobald irgendwas kritisch wird,
• 27:20
  die Fahraufgabe an den Menden zurückgeben.
• 27:22
  Ist das die entwickelste Stufe?
• 27:24
  Das ist zur Zeit die entwickelste Stufe.
• 27:26
  Wer ist das, wenn man ja keine Werbung, aber das können wir sagen?
• 27:29
  Nein, ich kann das nicht sagen, also grundsätzlich keine Marken.
• 27:33
  Keine Marken, der Tesla eben nicht.
• 27:35
  Der Tesla behauptet von sich, dass er automatisiert fährt
• 27:39
  oder automatisch fährt oder sogar autonom fährt.
• 27:43
  Und tatsächlich ist er aber ein Stufe Zwei Fahrzeug,
• 27:46
  das heißt ein assistiertes Fahrzeug.
• 27:47
  Sind das deutsche Marken? - Sind deutsche Marken.
• 27:50
  Okay. - Sind deutsche Marken.
• 27:51
  Wenn man damit mal so fahren ist, stellt man fest,
• 27:54
  die schalten relativ häufig ab, weil der Ingenieur eben sagt,
• 27:57
  also mit meinem Auto passiert jedenfalls nichts im automatisierten Modus,
• 28:01
  was es nicht versteht.
• 28:03
  Das verstehe ich auch.
• 28:04
  Aber das ist natürlich ein Hin und Her,
• 28:06
  was der Mensch schwer verarbeiten kann.
• 28:08
  Also ich glaube, wir haben noch ...
• 28:09
  Also die Werbesprache und das, was Marketing daraus macht
• 28:14
  und das, was tatsächlich das Fahrzeug kann
• 28:17
  und auch an Zusatzsicherheit bietet,
• 28:19
  das geht im Moment noch sehr, sehr, sehr weit auseinander.
• 28:24
  Und ich ermahne auch einfach alle Fahrzeughersteller,
• 28:28
  dass sie diese Stufe, wo es sozusagen ständig
• 28:32
  die Rückfallposition Mensch braucht,
• 28:34
  dass sie die nicht auf den Markt bringen
• 28:37
  oder möglichst schnell überspringen.
• 28:38
  Wen wir dennoch irgendwann komplett auf manuelles Fahren verzichten?
• 28:43
  Also ich persönlich habe einige Wetten laufen,
• 28:47
  dass ich das zu meinen Lebzeiten nicht mehr erlebe.
• 28:50
  Also das heißt, wenn ich die Wette verliere,
• 28:53
  muss ich sie auch nicht einlösen.
• 28:54
  Nee, umgekehrt.
• 28:55
  Wenn ich sie gewinne, kriege ich nichts mehr.
• 28:57
  (Lachen)
• 28:59
  Ich wünsche mir ein möglichst langes Leben
• 29:02
  und schauen, was die Zukunft bringt.
• 29:05
  Herr Bauchmann, herzlichen Dank für dieses Gespräch.
• 29:07
  Sehr gerne.
• 29:08
  Die Björn Steigerstiftung, der Podcast.