Latest / Coding Buddies | Tech & Dev-Mindset / Big Software Fails #6 - Wenn Bugs tödlich enden

Transcript

Big Software Fails #6 - Wenn Bugs tödlich enden · Coding Buddies | Tech & Dev-Mindset

0:00
Und man heute davon ausgeht, dass es auch eine stärkere oder
0:05
eine höhere Dosis war als bei Tschernobyl damals.
0:08
Und das finde ich halt völlig. Krass, das ist auch echt heftig,
0:11
ja. Coding Buddies Dein Podcast rund
0:14
um Softwareentwicklung und aktueller Tech News.
0:17
Herzlich Willkommen. Willkommen.
0:29
Halli Hallo und schön, dass du wieder eingeschaltet hast.
0:32
Herzlich Willkommen zur neuen Folge des Cody Bodys Podcast.
0:35
Deine Gastgeber und wie soll es auch anders sein, meine
0:39
Wenigkeit, der Tino und mir gegenübersitzend natürlich auch
0:42
heute wieder dabei, der fantastische Fabi Fabi Moin
0:46
Moin, grüß dich und was geht ab. Moin Moin und herzlich
0:50
Willkommen an alle ich. Ich denke mir jedes mal so,
0:55
stell dir aber vor. Du sagst irgendwie, du
0:57
versprichst dich und nennst auf einmal n anderen Namen so.
1:00
Und dann meldet sich irgendjemand aus dem Off so
1:03
genau, das wär geil. Ich weiß nicht warum, aber
1:07
irgendwie muss ich da immer dran denken, ja, aber ich glaube es
1:10
ist mir noch nicht passiert, ich hab dich glaub ich immer sehr
1:12
sorgfältig angekündigt, sehr gut, ja, wie geht es dir?
1:18
Shit ja schon n bisschen besser. Ich hatte ja jetzt, ich glaub in
1:21
der letzten Folge hat man es auch so n bisschen gehört,
1:23
leicht n Schnupfen gehabt, so hab ich mir die 100.
1:25
Folge nicht vorgestellt, aber jetzt in der 100 dann war es
1:28
quasi durchgezogen. Genau muss, ja, muss ja, aber es
1:31
geht ja quasi jetzt in die nächste Runde.
1:32
Ne so, Staffel 2. Ist das so OK?
1:36
Das ist krass. Ja, sagt man, so sagt man nee,
1:39
aber auf. Jeden Fall geht es schon wieder
1:41
n bisschen besser. Das ist natürlich gut und ich
1:43
hoffe natürlich auch, dass Liebe Zürer lieber Zürer das auch.
1:46
Wohlauf und gesund bist und jetzt schön zuhören kannst bei
1:50
dieser Folge. Es gibt nämlich ne ganz
1:52
interessante Folge, nicht wahr, Tino?
1:54
Genau, denn viagrammen heute mal wieder ein älteres Format aus,
1:59
was leider so n bisschen untergegangen ist in letzter
2:01
Zeit, obwohl ich es persönlich sehr Feier und deswegen freue
2:03
ich mich sehr auf diese Folge und zwar ist es mal wieder eine
2:07
Big Fails Folge, das heißt wir gucken uns heute mal wieder
2:10
einen krassen Fall in der Softwareentwicklungsgeschichte
2:12
an. Welcher genau, möchte ich noch
2:15
nicht verraten, aber es wird auf jeden Fall spannend und auch
2:18
sehr dramatisch, denn wir haben uns heute einen Fall ausgesucht,
2:23
deren Konsequenzen sehr, sehr krass waren und das möchte ich
2:28
halt gerne mal beleuchten, weil das auch so ein bisschen, also
2:31
ich will nicht sagen so ein Mythos da drum ist, aber
2:34
irgendwie so richtig klar ist nicht, was da passiert ist, gibt
2:37
unterschiedliche Ansichten. Viele haben damals drüber
2:41
berichtet oder es ist auch heute noch n Paradebeispiel für Bugs
2:45
in der Softwareentwicklung und das würde ich halt gerne einfach
2:48
mit dir aufarbeiten und deswegen würde ich sagen, starten wir mal
2:53
rein von der Geschichte her und gehen mal zurück in das Jahr
2:56
1985. Genau da war es nämlich der
3:02
Juni. Und eine Frau, nämlich Katie
3:06
Yarboro ich hoffe, ich habe das richtig ausgesprochen.
3:09
Klang gut, ja. Die war auf dem Weg zu ihrer 12.
3:13
Krebstherapie. Das ist natürlich eine wichtige
3:18
Sache, wenn man denn leider an so einer Krankheit leidet, und
3:24
da war es dann so, dass sie, ich sag mal, mit einem neuen.
3:30
Gerät in Berührung kam das zwar schon, einige 1000 Menschen
3:34
sozusagen behandelt hat, also es geht um Strahlentherapie, und da
3:41
ist es halt so, dass du im Endeffekt ja Krebs sozusagen
3:44
bestrahlen kannst, ohne da irgendwie einen chirurgischen
3:46
Eingriff zu machen, um halt eben diese Krankheit dann zu heilen.
3:50
Und genau das war dann bei Katie Halt eben der Fall, war wie
3:54
gesagt die 12. Therapie schon, das heißt sie
3:57
hatte schon ein Paar hinter sich.
3:59
Und es sah auch gut aus und da sollte Katie dann wieder eine
4:04
Therapie bekommen und mit so einem Röntgenstrahl, ich nenn es
4:08
mal beschossen werden ne und da ist es so, dass ich glaube
4:13
früher gab es mal die Einheit Rat beziehungsweise Röntgen, das
4:17
ist jetzt mittlerweile ist die Einheit n bisschen anders, die
4:20
heißen Sievert glaube ich aber wir gehen mal von diesem Jahr
4:24
aus und nehmen trotzdem die Einheit Rat.
4:27
Die ist auch n bisschen krasser, weil die ist n bisschen höher
4:31
und da sollte Katie Halt eben mit so 200 Rad beschossen werden
4:35
sozusagen, und zwar im linken Brustbereich.
4:38
Ich glaub da ging es auch um Lymphknotenkrebs und im
4:44
Normalfall ist es so, dass bei so einer Behandlung der Patient
4:48
oder die Patientin gar nicht merkt, dass so ne Behandlung
4:51
stattfindet. Das ist eine schmerzlose
4:52
Behandlung. Genau, genau.
4:54
Also du merkst es eigentlich jedenfalls akut erstmal nicht.
4:57
Und da ist dann aber irgendwie was schief gegangen bei dieser
5:01
Behandlung. Das heißt, sie hat diese
5:03
Röntgenbestrahlung bekommen, hat aber ein sehr, sehr starkes
5:08
Brennen verspürt, also sozusagen wirklich irgendwas schief
5:11
gegangen, weil eigentlich dürfte man das gar nicht merken und hat
5:15
dann sozusagen dem Techniker da vor Ort im Krankenhaus eine
5:19
Georgia, wo das war, hatte sie dann vorgeworfen, dass er sie
5:23
verbrannt hätte. Und der Techniker meinte aber
5:26
dann, Oh tut mir leid, aber das geht eigentlich gar nicht ne
5:30
also der hat dann versichert ich weiß nicht was sie da empfunden
5:34
haben, aber dieses Gerät mit dem wir das hier machen kann ihnen
5:39
sowas nicht zufügen, kann ihnen nicht wehtun.
5:41
Sozusagen genau, denn es handelt sich ja um ein neues Gerät, was
5:45
komplett ausgereift und sicher ist.
5:46
Und deswegen konnte man sich das einfach nicht vorstellen, dass
5:48
es am Gerät lag und hat quasi. Das Ganze wieder umgedreht nach
5:54
dem Motto Ja Katie, Du übertreibst oder das, das kann
5:58
gar nicht sein, halt ne, deswegen lass uns mal über diese
6:02
neue Technik sprechen. Und zwar wurde 1976 der Telrac
6:08
25 durch die AECL entwickelt, das wird dargestellt ne genau
6:14
das ist Topic Canada Canada genau.
6:19
Jetzt fortan in dieser Folge AECL genannt, also noch mal
6:21
Atomic Energy of Canada Limited. So viel Ordnung muss sein, hast
6:26
du recht und genau, also im Prinzip hatte das komplett neue
6:31
Eigenschaften, es war ne Weiterentwicklung, es gab halt
6:35
schon glaube ich ein oder 2 Vorläufer, auf jeden Fall den
6:38
Terrak 20 vorher, der als äußerst sicher galt und keine
6:42
Probleme gemacht hatte und der die 25 hat halt darauf
6:45
aufgebaut. Genau also das funktionierte
6:50
dann halt mit Elektromagneten, um die Strahlung doppelt durch
6:54
das Ziel zuschicken, sage ich mal, es war ein ganzer fancy
6:57
Aufbau, sage ich mal. Ich bin jetzt kein Physiker, der
6:59
das genau erklären kann, aber es soll auch um die Software
7:01
dahinter gehen, was nämlich dabei wichtig war, weil ich ja
7:06
gerade meine, es soll um die Software gehen, das ganze war
7:08
halt wesentlich mehr Software driven das heißt man hat auf.
7:13
Hardwarekomponenten verzichtet und auch gerade so
7:17
Absicherungsmechanismen rein Softwaretechnisch gelöst.
7:21
Das war halt so diese große Weiterentwicklung, da dass so n
7:25
Boom war damals zu sagen ja OK, die Software ist sicher, wir
7:28
machen das alles über Software, das ist jetzt so der neue heiße
7:30
Scheiß, ja und? Da muss man aber dazu ja noch
7:34
sagen, dass zum Beispiel vorher gab es ja in dem Vorgängermodell
7:38
gab es ja Hardware. Die eben dafür gesorgt hat, dass
7:43
zum Beispiel ein nicht eine zu hohe Strahlung.
7:47
Genau, es waren halt quasi so Sicherheitsmechanismen rein
7:52
bauteiltechnisch oder Hardwaretechnisch umgesetzt und
7:55
das hat man jetzt Softwaretechnisch gelöst.
7:57
Mit dem neuen Modell. Das ist halt so die große
8:00
Änderung und da ist es halt so komplex geworden, dass man so
8:03
von ungefähr 100000 Zeilen Code ausging, wenn ich mich richtig
8:08
erinner, war das in. Pd 11 Assembly oder so heißt die
8:12
Sprache entwickelt, das heißt, es war jetzt nicht so eine
8:16
Hochsprache, wie man das heutzutage kennt, sondern halt
8:19
schon sehr spezifisch, sage ich mal, interessanterweise so, mal
8:23
als Side Note. Ich habe mal gegoogelt, ob das
8:26
immer noch im Einsatz ist und habe gelesen, dass auch in
8:30
Kernkraftwerken aktuell noch diese Sprache verwendet wird,
8:35
das fand ich halt irgendwie ziemlich interessant, zeigt aber
8:37
auch, welche Historie dahinter steckt.
8:40
Und wahrscheinlich auf welcher, auf welchem Level man da codet.
8:44
Wer macht denn sowas? Ich habe irgendwann mal im
8:46
Studium Assembler programmiert und ich fand es schrecklich.
8:49
Ja, das das muss man wollen, das muss man auf jeden Fall wollen,
8:52
kein. Wunder, warum es hier um
8:54
Software Bugs geht in der Folge. Was aber interessant war bei der
8:59
Entwicklung, dass die Hardware zwar geprüft wurde, also den den
9:03
Aufbau der Maschine, die Software dabei aber so ein
9:06
bisschen. Na ja, ich würde mal sagen,
9:09
untergegangen ist. Also man hat halt die Software
9:12
aus dem Terrac 20 übernommen, da sie ja da einwandfrei lief und
9:17
hat dann quasi um diese Neuerung erweitert.
9:22
Ja, also wir hatten ja gerade gesagt, man hat dann zum
9:24
Beispiel auf so Hardware Interlogs, also diese Facesafe
9:28
sein sollten verzichtet und das ganze im Terrac 25
9:31
softwareseitig umgesetzt. Und aus heutiger Erkenntnis ist
9:38
das im Prinzip durch so ne Art. Ich will es nicht böse
9:41
ausdrücken, aber ich nenn es mal Hobbycoder entstanden, das heißt
9:44
so n Mitarbeiter aus dem Unternehmen der gesagt hat ey
9:46
ich ja ich code ich hab Bock Software zu entwickeln, ich mach
9:49
das ne und das find ich halt irgendwie spannend.
9:53
Also man hätte ja jetzt irgendwie sich gedacht OK da ist
9:57
jetzt n Team von 1015 Leuten oder so dran scheinbar.
10:01
Ist das von einer aus heutiger Sicht unbekannten Person
10:04
entwickelt worden? Und das meine ich auch immer mit
10:06
diesem oder was ich anfangs meinte mit diesem Mystischen
10:09
dahinter, das ist halt alles irgendwie so was ging da ab.
10:12
Ne, ja ja genau, also das habe ich auch gelesen und das finde
10:16
ich auch krass. Ich meine der Typ wie gesagt wie
10:18
du schon meintest, der kam aus dem Unternehmen, hat aber
10:21
eigentlich sozusagen nur aus Spaß programmiert und dann wurde
10:25
er wahrscheinlich gefragt Ey, hast du Lust für den Terrak 20
10:29
die Software zu entwickeln und das hat er dann gemacht und.
10:32
Und die wurde dann übernommen. Ich find das halt immer sehr
10:35
interessant, weil man ich weiß nicht warum, aber irgendwie ist
10:41
es doch intuitiv. Keine gute Idee zu sagen, Ey,
10:45
lass mal Software von einem anderen Gerät benutzen und für
10:49
ein neues einfach so wiederverwenden.
10:50
Gut, die haben noch ein bisschen was drumherum gebaut, aber
10:52
irgendwie denke ich mir immer so hm weiß ich nicht und dazu kommt
10:56
ja auch noch, dass halt auch zum Beispiel während der Entwicklung
10:59
und so auch keine Regressionstests gelaufen sind
11:02
und so weiter also die Software war quasi ungetestet, also keine
11:05
automatisierten Tests und sie wurde halt auch nicht.
11:09
Durch ne Sicherheitsprüfung geschickt.
11:10
Wie du schon meintest, nur die Hardware wurde
11:12
Sicherheitsgeprüft und da war ja auch alles in Ordnung und nach
11:15
so einer erfolgreichen Sicherheitsprüfung wurde der
11:17
Terrak 25 dann stolz verkauft an die Krankenhäuser und dann ging
11:22
es los. Ne als super neues gerät ne was
11:25
alles mögliche jetzt kann und besser macht, das finde ich halt
11:28
auch spannend. Also die Software an sich wurde
11:31
halt nicht auf Herz und Nieren geprüft, sondern.
11:36
Man hat halt quasi am Ende das fertige Gerät und hat es
11:39
getestet als Sicherheitsüberprüfung.
11:41
So mal in Anführungsstrichen und hat gesagt gut das Ding
11:44
funktioniert, es macht was es soll, das wird richtig geil und
11:47
jetzt ist, da können wir da das Marketing Anschmeißen und das
11:50
Ding an alle Krankenhäuser verkaufen finde ich halt auch
11:54
spannend. Ich mein klar es hat
11:56
funktioniert. Aber irgendwie hätte man doch zu
11:59
dem Zeitpunkt sich denken müssen.
12:00
Ja, ist ganz schön sicherheitskritisch hier das
12:02
Ding, vielleicht hätten wir da mal n bisschen genauer sein
12:05
sollen, aber es lief ja alles gut, das Ding funktionierte, es
12:08
hat sich super verkauft. Es ist ja auch eigentlich zu bei
12:12
sehr, sehr wenigen Fällen zu Problemen gekommen.
12:15
Nur ich denke mir halt auch wieder so, hier wird mit
12:17
Röntgenstrahlen gearbeitet, ne, also wirklich mit einer
12:20
Bestrahlung die echt. Auch wirklich
12:24
gesundheitsschädlich sein kann. Und da denke ich mir so, ich
12:28
weiß nicht, ich meine, man versteht ja, dass zum Beispiel
12:30
Hardware weggelassen wurde, um Kosten zu sparen, man nimmt dann
12:34
zum Beispiel möglichst noch die alte Software und dann hast du
12:37
eigentlich vielleicht weniger kosten, alles ein bisschen
12:40
günstiger, alle finden es cool bis halt eben dann zum Beispiel
12:45
katies Fall aufgetreten ist. Ne.
12:47
Genau, obwohl man da ja gesagt hat, okay, das kann ja einfach
12:50
nicht sein. Also das war so ein Fall.
12:52
Dachte man sich so. Nee, da, das muss irgendwie
12:55
andere Gründe haben, das kann nicht am Terrak 25 gelegen
12:58
haben, der Techniker hat das ja auch quasi direkt von sich
13:00
gewiesen, dass da das kann einfach nicht sein, um ne, also
13:04
quasi um so ne Verbrennung zu erzeugen, brauchst du so eine
13:07
hohe Bestrahlung, das geht mit dem Gerät sozusagen nicht.
13:09
Ne, das war ja so die offizielle Aussage nur und da würde ich
13:14
jetzt gern mal mit dir drauf eingehen, gab es ja dann diese
13:17
ersten Anzeichen, dass was nicht stimmt.
13:20
Immer in Bezug auf die Behandlung mit dem Terrak 25.
13:24
Und die haben sich immer mehr gehäuft.
13:27
Lass uns doch da noch mal ein paar Fälle.
13:29
Raussuchen auf jeden Fall. Also ich wollte noch mal ganz
13:32
kurz noch mal auf katies Fall zurückgehen, weil nämlich sie
13:37
zum Beispiel, also sie hatte sich ja beklagt, wie du meintest
13:40
und ist dann auch 2 Wochen später nach der Behandlung hatte
13:44
sie dann. Relativ große rote Flecken, ne,
13:47
also quasi vorne auf der linken Brust und hinten dann auch ne
13:50
und? Auf dem Rücken sogar ne.
13:52
Genau also wie wirklich so n so n so n Laser Beam, der so durch
13:56
einen Durchgeschossen hat und da hat dann im Endeffekt auch so n
14:01
medizinischer Physiker, der dann auch dort vor Ort war, hat sich
14:04
das auch angeguckt und meinte Halt eben auch OK 200 Rad können
14:09
das eigentlich nicht an. Richten eigentlich ne und später
14:13
hat haben auch n paar Berechnungen dann ergeben, dass
14:16
es ungefähr eher 20000 Rad gewesen sein müssen, also die
14:20
hundertfache Dosis und das ist halt schon richtig krass, weil
14:24
das ist ne Strahlen n Strahlenbeschuss, der ist nicht
14:26
mehr lustig und das blöde war aber, dass der Physiker, der
14:32
sich das auch angeguckt hatte, dieser medizinische Physiker,
14:35
der hat. Das leider nicht reproduzieren
14:38
können, hat den Vorfall aber an die IAECL, also an das an den
14:42
Hersteller auf jeden Fall gemeldet.
14:45
Und die haben aber erstmal auch gesagt, so nee, kann ja nicht
14:47
sein, also wir haben das Ding ja geprüft, alles gut, das ist mit
14:51
dem Terrac 25 unmöglich, nur das bescheuerte war nämlich, dass
14:57
man kann sich ja hinstellen und sagen, das war alles so nicht,
15:00
aber nichtsdestotrotz musste dann bei Katie ihre krebsfreie
15:05
Brust. Die linke halt trotzdem komplett
15:08
entfernt werden. Also die Behandlung war erstmal
15:10
bis dahin gut, dann kam dieser Vorfall und hier musste die
15:13
komplette Brust abgenommen werden, plus noch, dass ihr
15:16
linker Arm seitdem halt komplett gelähmt war und da denke ich
15:21
mir, wie krass das eigentlich ist, dass man sich trotzdem
15:24
hinstellt und sagt, kann nicht von uns kommen.
15:29
Ja, vor allem wenn du quasi. Die Auswirkung wirklich siehst
15:32
am Körper ne wie diese roten Flecken zum Beispiel und dann
15:36
halt auch wissenschaftlich, ich sag mal belegt wurde, dass die
15:40
Strahlung niemals so gering gewesen sein kann dafür, also da
15:44
musst du ja eigentlich nur 1 und 1 zusammenzählen, aber wieso?
15:47
Oft wurde das natürlich, denn wie du ja schon meintest, die
15:50
Anschuldigung zurückgewiesen von dem Unternehmen.
15:52
Ja wie gesagt, wir haben das geprüft, das Ding ist sicher,
15:55
das kann nicht sein, so jetzt haben wir aber folgenden Fall,
15:58
dass immer mehr Fälle aufgetreten sind.
16:01
Zum Beispiel könnten wir da mal über den Fall von Francis Hill
16:07
sprechen. Sagen wir mal, Francis Hill
16:09
kommt in diesen Behandlungsraum rein, legt sich dann sozusagen
16:13
auf so n Tisch ne und dann hast du so n riesen gerät was so über
16:17
dich drüber fährt. Das wird dann richtig
16:18
positioniert, es wird dann eingestellt mit den
16:21
entsprechenden Parametern was da sozusagen passieren soll, wie
16:23
zum Beispiel auch wieviel Rad dann im Endeffekt bestrahlt
16:26
werden soll und so weiter und sofort ne ich glaub da gab es
16:29
sogar die Möglichkeit 2 verschiedene.
16:31
Beams zu nutzen, also einmal wirklich röntgen und einmal
16:34
Elektronenstrahlen nennt sich das Ganze.
16:37
Elektronenstrahl ist zum Beispiel n bisschen geringer und
16:39
für die obere Schicht sozusagen gedacht und Röntgenstrahlen dann
16:43
halt n bisschen für tiefere Schichten auch im Körper drin
16:46
und dann kann man sich das so vorstellen, dass der der Patient
16:49
oder die Patientin, wie zum Beispiel im Fall von Francis
16:51
Hill, sie geht da rein, legt sich hin, der Techniker oder die
16:53
Technikerin geht raus und stellt dann im Normalfall alles ein.
16:58
So von außen und startet dann die Behandlung und gleichzeitig
17:01
hat sie die Möglichkeit oder er, also der Techniker und die
17:04
Technikerin von außen das Ganze über eine Kamera zu beobachten
17:07
und sie hört auch was da drin passiert.
17:10
Im Normalfall so damit man sich einmal vorstellen kann wieso was
17:12
ungefähr abläuft. So und dann kam halt wie gesagt
17:18
Francis Hill genau das gleiche und sie hatte glaube ich
17:22
Gebärmutterhalskrebs und hatte halt eben auch wieder eine
17:26
Behandlung. Genau wurde dann halt auch mit
17:29
dem Terrak 25 behandelt, der weiterhin als sicher galt und
17:32
erfolgreich eingesetzt wurde, verspürte dann aber in der
17:37
Behandlung Elektroschocks an der Hüfte und man ging dann im
17:42
Nachhinein davon aus, dass sie halt mit einer Dosis von 17000
17:47
Rad beschossen wurde, statt wieder im hunderter Bereich, was
17:51
wahrscheinlich angesetzt war. Und das ist halt.
17:55
Schon ziemlich krass, ne. Also da hat sie dann halt.
17:58
Im Prinzip hat man dann auch festgestellt, dass die Hüfte
18:02
vollständig zerstört, weil die hätte so gesehen komplett
18:05
ersetzt werden müssen und das finde ich halt auch richtig
18:08
krass. Also das Ganze hat man halt auch
18:10
erst in ihrer Autopsie festgestellt, also die Frau ist
18:13
auch Friends, es ist ne Frau, ja kann ja auch männername sein,
18:18
dass ich nur kurz gegenchecken. Das hat man leider erst in der
18:22
Autopsie festgestellt, weil sie daran auch verstorben ist und
18:27
die AECL also wieder das Unternehmen hinter dem Terrac
18:30
25, hat das natürlich untersucht, weil das ist jetzt n
18:33
Fall, das kannst du nicht unter den Tisch kehren.
18:36
Ja und man hat dann im Prinzip das Ganze zurückgeführt auf
18:43
einen defekten Mikroschalter, den man gefunden hatte, was im
18:48
Prinzip. Wie du ja meintest, das ganze
18:51
Gerät wird positioniert, da gibt es so ne Art Drehteller, der
18:56
dann im Prinzip die richtige Konfiguration einstellt um halt
19:00
zum Beispiel die Bestrahlung auch abzumildern.
19:03
Ne und? Man hat halt denn das darauf
19:08
zurückgeführt, dass dieser Mikroschalter defekt war, es
19:10
nicht richtig eingestellt wurde, aber grundsätzlich es nicht am
19:14
Gerät lag, sondern dass es so gesehen ein ein technisches
19:17
Hardwareproblem war. Also n defekt.
19:20
Ja. Aber vielleicht, also ich kann
19:21
mir vorstellen, dass der Defekt auch sozusagen hardwaretechnisch
19:24
zusammengespielt hat mit der Software am Ende aber sei mal
19:29
hingestellt, auf jeden Fall haben die genau die ausgetauscht
19:31
und der Dreh, dieser Drehteller den du meintest ne um das noch
19:34
mal kurz n bisschen genauer zu erklären, du kannst, du hast ja
19:37
diese 2 verschiedenen Beam Arten einmal elektronisch strahlen und
19:41
einmal x Ray und für die verschiedenen Strahlungsarten
19:46
konnte man verschiedene Filter einstellen mit diesem
19:49
Drehteller. So Weise musste man genau,
19:52
sollte man, weil im Endeffekt, wenn du zum Beispiel diesen
19:55
Filter für die für den Elektronenstrahl hattest, der
19:58
war ja deutlich geringer, demzufolge ist da halt auch mehr
20:02
durchgekommen und wurde weniger sozusagen gefiltert.
20:05
Und wenn du jetzt aber beispielsweise den Röntgenstrahl
20:08
Anmachst, aber gleichzeitig den Elektronenfilter nutzt, dann
20:12
hast du natürlich eine viel viel zu starke Dosis für das, was du
20:16
eigentlich haben möchtest. Nur mal als Beispiel genau.
20:19
Genau, und das ist nämlich der Punkt, das soll schiefgelaufen
20:22
sein und man hat dann diesen Mikroschalter quasi ausgetauscht
20:26
und auch ein Software Update ausgeliefert, was quasi diesen
20:32
Drehtisch oder diesen Drehteller besser überwacht.
20:34
Da hat man gesagt, OK, wir müssen sozusagen, wir patchen
20:37
das nach, damit das nicht noch mal passiert im Falle eines
20:40
defekten Mikroschalters. Ich glaub sogar, dass das AECL
20:44
dann meinte, dass sich quasi um nen Faktor von 5 oder so die
20:48
Sicherheit von dem Terrac sogar noch mal erhöht hat.
20:51
Ja, danach war super sicher. Genau.
20:53
Also vorher war sicher, danach war super, super sicher nur,
20:56
dass dann zum Beispiel, es gab halt auch so vereinzelte Fälle,
21:00
wo dann halt zum Beispiel einfach die Haut leicht vernarbt
21:03
war, also quasi kein schlimmer Fall in dem Sinne, aber schlimm
21:06
genug, dass sich dann am Ende auch Ärzte und Techniker.
21:10
Von unterschiedlichen Krankenhäusern noch
21:11
ausgetauscht, haben ne und haben dann zum Beispiel auch das
21:15
wiederum dem Unternehmen gemeldet, dem Hersteller und die
21:20
haben dann aber auch gesagt, so Leute das das funktioniert, das
21:22
geht nicht so, also da irgendwas ist da, das ist was komisches,
21:25
da haben die vielleicht irgendwie Probleme mit der Haut
21:28
oder so, aber das kann halt nicht von uns kommen, ne?
21:31
Ja. Genau.
21:34
Aber, und das ist ja auch noch n Punkt, die beiden Patienten, von
21:38
denen wir vorher jetzt gesprochen haben, die sind.
21:40
Ja, nicht explizit wegen dieser Bestrahlung gestorben.
21:47
Ne, die hat natürlich starke ein Beeinträchtigungen dadurch.
21:54
Aber dadurch, dass sie halt nicht gestorben sind, sage ich
21:57
jetzt mal, war es dann wahrscheinlich auch alles
21:59
erstmal noch nicht so schlimm. Mal ein bisschen salopp und
22:02
satirisch gesagt, für die das Unternehmen, aber es sollten ja
22:06
tatsächlich auch noch Leute wirklich akut davon sterben.
22:11
Genau da würde ich gerne noch einen Fall gleich mal anführen,
22:15
weil das Spannende ist nach diesen ersten Fällen.
22:19
Gab es ja auch. Irgendwie ne Reaktion von den
22:21
Behörden, ne, also beispielsweise die Canadian
22:24
Radiation Protection Boro forderte weitere
22:27
Sicherheitsmaßnahmen, weil die haben halt gesagt OK Leute das
22:29
kann es nicht sein. Ey hier ist jetzt echt zu viel
22:31
schon passiert. Da muss einfach mehr kommen.
22:35
Ihr müsst die Sicherheitsmaßnahmen erhöhen und
22:37
auch darauf hat die AECL halt nicht reagiert, was ich halt
22:41
auch sehr spannend finde, also im negativen Sinne spannend,
22:43
dass man sich so denkt, Leute, ihr könnt ja nicht sagen, wir
22:46
hauen jetzt n Sicherheitsupdate n Software Patch raus und jetzt
22:49
ist noch mal 5 mal so sicher. Ihr müsst einfach nachweisen,
22:53
dass das alles nicht mehr passieren kann, so ne, weil dann
22:57
gab es ja auch den Fall von Warn Ray Corx in Texas ja.
23:04
Der auch für ich glaube, das war seine achte oder neunte
23:07
Krebsbehandlung unter dem Terrak 25, das heißt, es ist schon n
23:11
paar mal gut gegangen, das heißt, er wird sich ja
23:13
wahrscheinlich auch sicher gefühlt haben.
23:15
Ne, wie gesagt, allgemein galt das Gerät ja als sicher.
23:20
Da ist aber was ganz Spannendes passiert und das lässt einen so
23:23
n bisschen aufhorchen. Und zwar der Techniker, der das
23:25
Gerät einstellt auf seine Behandlungsmethode, bemerkte
23:29
einen eingabefehler, er hat halt beispielsweise einfach den
23:33
falschen Modus ausgewählt. Wir hatten ja gesagt, es gab 2
23:35
Betriebsmodi ne und hat dann halt nach der Eingabe das
23:41
bemerkt. Und dachte sich, ah nee, Moment,
23:43
das ist n verdammt Patient Warren Ray Cox ist ja ne andere
23:47
strahlenart und wollt das umändern und dann ist auf dem
23:51
man kann sich vorstellen es gab halt so n kleinen Monitor mit so
23:53
einer kleinen Oberfläche UI technisch alles zur damaligen
23:58
Zeit ohne Maus nur Tastatur ne so MS dos Style sag ich mal und
24:04
da stand auf einmal malfunction Fifty Four auf dem Bildschirm
24:09
und. Die Möglichkeit, Proced zu
24:12
drücken, so nach dem Motto OK, es ist irgendwas gerade schief
24:14
gegangen, aber ich kann fortfahren und der Techniker
24:18
dachte sich halt ja OK es ist ich werd wahrscheinlich drauf
24:21
hingewiesen, dass ich hier irgendwie die Eingabe noch mal
24:24
geändert hab oder so, aber ich möchte ja wirklich die Eingabe
24:27
ändern und ne andere Strahlenart nehmen, also drück ich da drauf
24:31
ne weil der Punkt war, es gab gar keine Dokumentation, die
24:35
Techniker waren gar nicht geschult.
24:38
Im Sinne von was bedeutet malfunction Fifty Four
24:42
eigentlich? Da möchte ich ganz kurz
24:43
einhaken, weil und also ich, man kann sich ja jetzt überlegen,
24:48
ey, pass auf, da ist n Fehler, der aufpoppt ne so, da würde man
24:52
sich doch im Normalfall jedenfalls als ich mir das so
24:55
auch bei der Recherche angeguckt hab, denk ich mir doch wenn da n
24:58
Fehler aufpoppt ne wieso denkt sich denn jemand ey da ist n
25:02
Fehler ich mach einfach weiter so ne so und.
25:06
Das was du meintest ist natürlich n wichtiger.es war
25:09
nirgendswo dokumentiert. Es wurde auch in der Oberfläche
25:11
nicht angezeigt was eigentlich dieser Fehler bedeutet.
25:14
Das heißt eigentlich weiß darum keiner und jetzt kommt halt das
25:18
interessante, also es gab ungefähr also die Fehler 1 bis
25:23
64 so und die sind teilweise. Viermal am Tag, wenn nicht sogar
25:30
häufiger aufgetreten bei Behandlung, das heißt, es sind
25:33
dann irgendwie Fehler zwischen 1 und 64 sind aufgepoppt und dann
25:37
haben die Leute halt gesagt, OK, ich weiß jetzt nicht, vielleicht
25:40
irgendwas hab ich falsch gemacht, ich mach mal weiter so
25:43
und durch, aber zum Beispiel auch Erfolge bei der
25:45
Strahlentherapie war es halt so, dass sich die Leute dann oder
25:50
die Techniker oder Ärzte dachten, na ja, OK,
25:52
wahrscheinlich ist es alles zu ignorieren, das ist, es kann
25:56
nicht so. Wichtig sein, weil es
25:58
funktioniert ja trotzdem alles, weißt du, und demzufolge gab es
26:02
so eine Art Routine bei den Leuten, die das bedient haben,
26:06
die sich gesagt haben, ey, wenn ein Fehler kommt, mach einfach
26:09
possid, das geht schon, das passt schon so und was ich mich
26:14
halt Frage ist was also klar, wenn du diese Routine hast.
26:17
OK was ich aber wirklich interessant finde ist, du musst
26:21
ja irgendwann dieses Ding das erste Mal bedient haben als
26:24
Techniker oder Technikerin beispielsweise.
26:26
Und muss dir ja irgendwann sagen, Ey, hier ist gerade der
26:30
erste Fehler, der kommt. Was mache ich denn jetzt, weil
26:33
das finde ich, ist wirklich ein interessantes
26:35
Gedankenexperiment, weil was machst du in diesem Fall?
26:38
Sagst du einfach possid da wird jemand mit Röntgenstrahlung
26:41
beschossen, also das ist schon eine krasse Sache, also ich
26:46
denke mir so, bei dieser Routine verstehe ich es, aber bei diesem
26:49
ersten Auftreten finde ich es richtig krass.
26:52
Dass man sich einfach sagt, lass mal Proced machen.
26:55
Und witzigerweise waren ja eigentlich alle Fehler
26:58
tatsächlich vernachlässigbar, nur es ist halt.
27:02
Auch ein.in dem Moment, wenn ich wie jetzt von einem guten
27:08
Software Design ausgehe. Aus meiner Sicht ne, dann können
27:12
das Fehlermeldungen sein, die vielleicht nicht kritisch sind,
27:17
ne, dass halt vielleicht einfach ein Eingabefehler da ist oder
27:21
irgendwas. Wie du ja meintest, die meisten
27:23
konnte man vernachlässigen und wenn ich die Möglichkeit habe
27:26
Proced zu drücken und fortzufahren, würde ich mir auch
27:30
denken, die haben ja die Software sicher entwickelt und
27:33
es ist okay fortzufahren. Es ist eigentlich eher so eine
27:36
Art Warnung oder ein Hinweis, ich finde es darf gar nicht
27:39
möglich sein Proced zu drücken, wenn es doch so ein
27:43
schwerwiegender Fehler ist. Also als Anwender denke ich mir
27:46
nicht so okay ich kann jetzt drücken.
27:49
Weitermachen und dann passiert was ganz Schlimmes, weißt du,
27:52
sondern man würde ja eigentlich denken, ich hab gar nicht die
27:56
Chance weiterzumachen, wenn es jetzt gerade so schwerwiegend
27:59
ist. Und wenn die anderen Fälle
28:00
einfach vernachlässigbar sind oder waren, kann ich mir halt
28:03
vorstellen, dass man sich auch dachte, vielleicht hast du auch
28:05
Stress, da sind noch mehr, heute mehr Behandlung.
28:08
Und dann ey, ja, komm hier mach, wir müssen ne man.
28:11
Kann das ganze auch weiter nicht.
28:12
Richtig, man kann das Ganze auch weiter Spinnen und sagen, gut,
28:14
vielleicht haben die auch den Terrak 20 schon bedient und
28:17
wissen, dass es bestimmte Mechanismen gibt, die dafür
28:20
sorgen, dass es keine zu hohe Strahlung sozusagen also
28:24
losgefeuert wird auf den Patienten oder die Patientin.
28:26
Das kann natürlich auch sein, ne weiß man alles nicht genau,
28:29
aber. Dass da einfach Fail safe denn
28:32
hardwaretechnisch ist, also da nichts passieren kann,
28:34
sozusagen. Aber trotzdem das was du sagst
28:36
hab ich noch nicht so drüber nachgedacht, aber im ersten
28:38
Moment dachte ich mir, so wie wie kann man denn einfach proced
28:42
machen bei einem Fehler? Aber es stimmt schon, rein
28:45
theoretisch würde ich auch irgendwo erwarten, dass du bei
28:47
so einem schwerwiegenden Fehler gar nicht proced machen darfst.
28:49
Das stimmt. Ja, ist auf jeden Fall ne super
28:52
spannende Sache, was da passiert ist.
28:53
Und das ist halt auch echt irgendwie unvorstellbar und
28:57
leider Gottes muss man auch sagen.
29:00
Hat man Proced gedrückt? Wie gesagt, man war es so
29:03
gewohnt und Mail function 54 war dann am Ende doch was
29:09
schwerwiegendes wie wir es schon angeteasert haben, denn darauf
29:13
folgten 2 nahezu tödliche Schocks, die Warren Ray Cox
29:19
durchführen und. Traurigerweise, weil du
29:24
meintest, wie ist so einer, wie läuft so eine Behandlung ab und
29:26
wie ist die aufgebaut, war der Raumlautsprecher defekt, das
29:29
heißt der Techniker oder die Technikerin, die quasi die
29:33
Eingaben gemacht hatte und sozusagen im Nebenraum saß,
29:37
konnte seine Schreie nicht hören, also er hat halt
29:40
geschrien vor Schmerzen, weil die Schocks so extrem waren und
29:44
man hat es einfach nicht wahrgenommen und das Gerät hat
29:46
Halt fortgeführt. Fuhren fort, fuhr fort und
29:50
weiter, geht weiter und deutsch ist manchmal schwierig.
29:55
Er ist dann. Glaub ich auch.
29:56
Das Gestalten und hat gegen die Tür geklopft, weil du kannst
29:59
halt einfach aufstehen, rein theoretisch ne und dann wurde es
30:02
halt bemerkt. Aber ja und das ist halt völlig
30:05
krass, die Folgen davon sind auf jeden Fall, dass er Wochen
30:09
später aus dem Mund geblutet hat und.
30:13
An akuten Strahlenvergiftungen verstarb einfach und das find
30:17
ich halt. Ich glaub 5 Monate später oder
30:19
so ist er dann halt einfach gestorben.
30:21
Ja OK, ja gut, dann ist ist noch n Zeitraum aber gut kennt man ja
30:25
auch aus der Vergangenheit, dass es ne Weile dauert, aber der
30:28
Körper quasi in dem Moment akut verstrahlt wurde und man heute
30:32
davon ausgeht, dass es auch ne stärkere.
30:36
Oder eine höhere Dosis war als bei Tschernobyl damals.
30:40
Und das finde ich halt völlig krass.
30:41
Das ist auch echt heftig. Ja, muss man sich mal
30:44
reinziehen. Also da ist ja, das ist ja ein
30:45
Gerät was was das, dass es das überhaupt erzeugen kann, also
30:49
dass es möglich ist. Das ist ja eigentlich schon echt
30:52
Wahnsinn, aber es gab da noch einen anderen Fall, das war dann
30:58
der sogenannte Vernan Kit, das war auch noch einer, der
31:04
ebenfalls genau diesen Fehler auch bei.
31:06
Vor seiner Behandlung sozusagen. Also der Techniker oder die
31:09
Technikerin hat ebenfalls genau diesen Fehler 54 vor der
31:12
Behandlung gehabt und da war es dann so, dass er eigentlich
31:18
wegen wie heißt das Hautkrebs im Gesicht behandelt worden werden
31:23
sollte und dann hat er halt auf sein Gehirn im Endeffekt ne viel
31:28
zu hohe Strahlung bekommen und ist halt sogar noch vor Ray Cox,
31:32
der ja sozusagen vor ihm dran war.
31:34
Bisschen ist er trotzdem noch vor dem Ray Cox gestorben, weil
31:38
er halt einfach Strahlenschäden am Gehirn und am Hirnstamm hatte
31:42
und damit dann war es tatsächlich auch dieser Burn and
31:46
Kid, der als erster tödlicher Unfall in der Geschichte der
31:50
Medizin durch Strahlentherapie. Wie sagt man also, der
31:54
aufgezeichnet wurde? Und das ist halt wirklich krass.
31:59
Und die Gemeinsamkeit ist halt diese malfunction Fifty Four,
32:02
die in beiden Behandlungen aufgetreten ist im Vorfeld und
32:06
man sich das aber nicht richtig erklären konnte.
32:08
Wann tritt das denn auf, sodass dann halt auch nach diesen
32:12
fatalen Ereignissen man nach Erklärung gesucht hatte und
32:17
dieser Fehler untersucht wurde, dass man dann erstmalig gesagt
32:20
hat, OK. Was, was geht hier ab?
32:23
Ja, also was hat das mit diesem Fehler 54 zu tun?
32:26
Wir müssen das jetzt untersuchen und da gab es den Doktor Fritz
32:31
Hager, ich hoffe man spricht ihn so aus, n Physiker der sich das
32:35
Ganze angeschaut hat und untersucht hatte und im Prinzip
32:42
festgestellt hatte, dass der Terrak 25 aus verschiedenen
32:47
asynchronen. Routinen besteht also Prozessen
32:52
und hat darin im Prinzip eine Race condition festgestellt.
32:59
Zwischen diesen asynchronen Prozessen der Eingabe, also der
33:03
Techniker stellt ja die Daten ein und der Justierung des
33:07
Geräts, was du vorhin erklärt hattest mit dem Drehteller
33:11
beispielsweise, dass die richtigen Filter eingestellt
33:13
werden, um die Strahlung beispielsweise zu mindern, und
33:16
das sind 2. Asynchrone Abläufe.
33:20
Ja. Und da drin haben wir jetzt ne
33:22
Race condition. Magst du vielleicht mal erklären
33:25
für die für die liebe Zuhörer und Zuhörerinnen was Race
33:29
condition bedeutet, falls das kein Begriff ist?
33:33
Also man muss sich das ungefähr so vorstellen, dass du 2
33:37
theoretisch 2 Prozesse hast, die etwas rechnen.
33:40
Du möchtest aber zum Beispiel das Prozess 1, die als erstes
33:44
das Ergebnis liefert und dann? Prozess 2, das sozusagen Prozess
33:48
2 vom Prozess 1 abhängt. So, und es kann aber bei einer
33:51
Race condition sein, dass zum Beispiel Prozess 2
33:54
beispielsweise schneller ist als Prozess 1, und das ist dann
33:58
sozusagen eine Sache. Die du eigentlich gar nicht so
34:00
haben möchtest. Genau, also du hast im Prinzip
34:05
eine feste Reihenfolge, die du erwartest, damit du sagen
34:08
kannst, mein Programm läuft richtig.
34:10
Genau. Durch diese Race condition hast
34:12
du aber ne zufällige Reihenfolge.
34:14
Das kann 80% der Fälle gut gehen und dann hast du aber nach
34:17
gewissen Ereignissen sag ich mal oder Zufällen die Chance, dass
34:23
sie umgedreht zum Beispiel abgearbeitet werden oder der
34:26
eine wie du meintest, noch nicht fertig ist.
34:27
Und das ist halt sehr sehr gefährlich, gerade wenn sie
34:30
voneinander abhängig sind und darauf die Funktionalität oder
34:33
die korrekte Funktionalität der Software basieren.
34:36
Also es gibt zum Beispiel, man muss sich das ungefähr so
34:38
vorstellen. Also zum Beispiel wurde ne
34:40
häufige Eingaben, also ne sehr häufige Eingabe war, dass man am
34:45
Anfang eingestellt hat x Ray, also Röntgenstrahlung und nicht
34:49
zum Beispiel Elektronenstrahlung, das heißt
34:51
die Techniker oder die Technikerinnen hatten.
34:54
Intuitiv eine Einstellung, weil du musstest immer einmal durch
34:57
die Maske durchgehen und hast immer alles eingestellt und die
34:58
waren da wahrscheinlich sehr routiniert drin, haben es
35:00
relativ schnell gemacht. So haben dann die Einstellungen
35:02
eingegeben und haben dann zum Beispiel am Ende gemerkt, Oh
35:06
warte mal kurz, ich habe ja x Ray eingestellt, hier soll es
35:10
aber zum Beispiel Elektronenstrahl sein, weil
35:12
beispielsweise im Fall von Burn and Kit der Hautkrebs hatte,
35:16
musst du nur oberflächlich bestrahlen, das heißt es reicht
35:18
dieser Elektronenstrahl so und dann wurde das umgeändert.
35:22
Und diese Änderung konnte aber nicht mehr durchgeführt werden,
35:27
weil sozusagen die Positionierung von diesem Gerät
35:30
noch in Gange war. Ja, und das ist ein sehr
35:36
spannender Punkt. Weil wenn wir jetzt noch mal die
35:38
Fälle uns anschauen, wie du auch gerade bei worn Kid meintest,
35:42
waren das Fälle, wo die Techniker eingabefehler gemacht
35:45
hatten und diese dann noch schnell korrigierten.
35:49
Genau ne. Und dann ist halt diese
35:50
malfunction Fifty Four aufgetreten und das finde ich
35:55
halt spannend. Und dann hat man halt geschaut,
35:57
OK was was passiert da also dieser Doktor Fritz Hager hat
36:01
festgestellt, OK wir haben diese Race condition und die führt
36:04
dazu, dass wir ungefilterte Elektronenstrahlen, also
36:07
wirklich hochkonzentriert auf den Patienten abfeuern, was ja
36:12
zu diesen ja tödlichen Ereignissen führte am Ende und.
36:17
Wir haben ja gerade schon gesagt, es gibt halt 2 parallele
36:20
Prozesse, oder gab es in dieser Software, die asynchron liefen.
36:23
Einmal hast du diese Eingabe, die jetzt zum Beispiel noch mal
36:26
korrigiert wurde und der zweite Prozess ist im Prinzip die
36:29
Bewegung der Drehscheibe und der Magneten, damit alles richtig
36:32
eingestellt wird. Genau.
36:34
Jetzt hast du da drin diese schnelle Änderung.
36:38
Das heißt, du, du tippst ein dein Setting.
36:42
Der asynchrone Task der Justierung startet, sagt Okay.
36:46
Ich habe jetzt alle eingabedaten.
36:49
Ich fange jetzt an, mich zu justieren.
36:51
Ja. Und jetzt ändert ändere ich noch
36:54
was und die Oberfläche zeigt an okay pass auf, du hast die
36:58
Strahlenart geändert, kein Thema passt.
37:01
Klingt ja erstmal genau klingt, klingt ja erstmal okay ich kann
37:06
habe halt die Chance noch was. Einzustellen, zu ändern und die
37:11
Justierung adaptiert sich dann auf mein neues Setting.
37:14
Problem dabei war, genau das ist nicht passiert.
37:17
Richtig. Und der dieser Fritz Hager,
37:21
dieser Physiker, der das auch untersucht hat, der hat sich ja
37:24
im Endeffekt, er konnte es nicht auf sich sitzen lassen, er hat
37:26
gesagt, ich setze mich jetzt ein ganzes Wochenende dran und
37:28
versuche so lange diesen Fehler zu reproduzieren, bis das halt
37:31
auch funktioniert, und das hat er dann auch geschafft, hat das
37:35
dann sozusagen. Dokumentiert, wie er das gemacht
37:38
hat und hat das dann wieder an den Hersteller AECL geschickt
37:42
und die haben dann witzigerweise auch noch mal n Patch gemacht
37:48
und also beziehungsweise einmal gesagt, das und das Bitte nicht
37:52
mehr machen. Ne, also haben dann beschrieben
37:54
was man nicht tun darf damit also diese diese nachträglichen
37:57
Korrekturen und so weiter damit halt eben das nicht auftritt bis
38:01
zu diesem Software Update was Sie noch reingespielt haben, die
38:04
haben nämlich irgendwann auch gesagt ja pass auf, du kannst
38:08
mit diesem, du kannst ja mit diesem Cursor, also eigentlich
38:11
war diese Maske so ausgelegt, dass du einmal von oben links
38:13
nach unten rechts sozusagen alles eingibst.
38:15
So, und wenn du damit einmal durch warst, dann ist fertig,
38:17
nicht noch mal zurückgehen, irgendwas ändern, sonst was.
38:20
Und da haben wir nicht vorgesehen, genau, war nicht
38:22
vorgesehen, auch eigentlich krass ne, dass du sagst, so,
38:24
also das muss man ja auch erst mal wissen als jemand der das
38:28
bedient, ne also finde ich eigentlich auch Wahnsinn und
38:31
dann wurde das Halt rausgepatcht, dass du wieder
38:34
zurückgehen kannst, so dass du halt sagen kannst okay ich kann
38:36
halt immer weiter gehen, aber ich kann nicht noch mal
38:40
zurückgehen. So, sonst musst du halt das noch
38:41
mal neu starten, sozusagen das diese dieses Programm nenn ich
38:45
jetzt mal ne, dass du halt noch mal das von vorne diese Maske
38:47
eingibst. Was ich dabei spannend finde
38:50
ist, man hat quasi gesagt, OK, ihr könnt Mel function 54 quasi
38:56
verhindern, indem ihr nicht noch mal die Eingaben korrigiert oder
39:00
anpasst. Hat dann gepatcht, dass die
39:02
Cursor tasten, also die Pfeiltasten nicht mehr
39:04
funktionieren um zurückzugehen. Hat aber eigentlich dieses
39:08
Kernproblem gar nicht adressiert.
39:10
Der Software, weil die Software hat im Prinzip so funktioniert
39:13
wie du meintest. Du gibst von oben links nach
39:15
unten rechts alles ein, deine ganze Maske füllst du aus und in
39:19
dem Moment, wenn im Prinzip du ganz unten rechts angekommen
39:23
bist, hat die Software gesagt, OK, ich validier jetzt die
39:26
Eingaben, es sind alle da, weil der Cursor steht ja jetzt da
39:29
unten. Validiert die und sagt OK,
39:33
vollständig los geht es, wir justieren und dieses Justieren
39:37
hat ungefähr 8 Sekunden gedauert, das war halt so n
39:41
eingebautes Delay, weil das wurde halt sehr fein justiert
39:44
und langsam, damit das halt auch alles ordnungsgemäß ist, spricht
39:48
ja nichts dagegen. Spannenderweise gab es intern
39:52
einen Fleck, was quasi gesetzt war, so nach dem Motto.
39:57
Hab ich vollständige Eingaben oder nicht?
40:00
Muss ich jetzt schon die Magnete beispielsweise justieren oder
40:03
nicht? Und das wurde zu, also quasi in
40:06
dem Moment, wenn ich unten rechts war in der Eingabe und
40:09
vollständig laut Happy Path nenn ich es mal alles eingegeben
40:14
hatte, wurde dieses Flag gelöscht und dann wurde justiert
40:17
und dann wurde gar nicht mehr geprüft ob die Eingaben da sind
40:21
oder geändert wurden, das find ich halt so absolut abgefahren.
40:25
Obwohl, du konntest nicht angezeigt wurde.
40:28
Genau. Du konntest ja aber trotzdem die
40:30
Eingabe ändern und in der Oberfläche wurde es angezeigt,
40:32
aber intern dadurch, dass dieses Fleck fehlte, wurde diese
40:36
Änderung nicht übernommen und er hat quasi deine erste
40:39
vollständige Eingabe. Demnach das alles justiert und
40:43
egal was du danach eingetragen hast, das wurde einfach komplett
40:45
ignoriert, da gab es keinen Sicherheitscheck mehr oder
40:47
irgendwas und was ich auch richtig spannend finde ist wie
40:51
du ja meintest, die haben den Patch gemacht, dass du nicht
40:54
mehr zurückspringen kannst. Was aber auch Quatsch ist.
40:57
Wenn du aber alle anderen Editiermöglichkeiten drin lässt,
41:01
weil du konntest auch einfach die Cleartaste also entfernen,
41:04
zum Beispiel drücken und ne neue Eingabe reinschreiben für das
41:06
Feld, auf dem du gerade warst. Genau das heißt, die Techniker
41:11
haben am Ende trotzdem wieder N-Weg gefunden, die waren
41:13
wahrscheinlich nur angepisst. So Mann, ich kann jetzt nicht
41:15
pfeiltaste nairobe oder so drücken, das nervt ja aber ach
41:18
ja gut, warte so kann ich es noch korrigieren und im
41:21
Endeffekt hattest du dann das gleiche Verhalten wieder am
41:24
Ende. Definitiv.
41:26
Du hattest eben auch noch von Magneten gesprochen, da würde
41:29
ich auch noch mal ganz kurz, dass man sich das vorstellen
41:31
kann. Die Magneten sind also du hast
41:32
ja den Drehteller, den hatten wir ja beschrieben, es gibt
41:34
zusätzlich noch Magneten, die dafür da sind, um wenn je
41:38
nachdem wie du sie einstellst, die.
41:40
Bündelung des Strahls sozusagen einzustellen, weil das sind ja
41:44
elektromagnetische Strahlen. Das heißt, du kannst sie
41:46
ablenken mit Elektro, also mit Elektromagneten, und demzufolge
41:50
kannst du halt sozusagen sagen okay sehr auf einen Punkt
41:54
beschränkt oder auf eine gewisse Fläche, so konntest du ja quasi
41:57
diesen Strahl einstellen. Also sozusagen die Intensität
42:01
dieses Strahls plus dann natürlich noch den Drehteller,
42:03
dass du, dass der Drehteller natürlich auch zusammenpassen
42:07
sollte, wenn du röntgenstrahl nimmst, dass du auch den
42:09
Röntgenstrahl Filter nimmst und so weiter und sofort ne, das
42:11
sind ja so n paar Kleinigkeiten und um das jetzt noch mal kurz
42:15
zusammenzufassen, also es gab verschiedene Probleme, einmal
42:19
gab es das Problem, dass wenn du etwas eingestellt hattest, was
42:22
sozusagen ne mechanische Veränderung zur Auswirkung hat,
42:26
ne dann. War es ja so, dass du in dieser
42:30
Zeit, wo diese mechanische Veränderung stattgefunden hat,
42:32
also wirklich physikalisch am Gerät, konntest du keine
42:35
Eingaben mehr machen beziehungsweise konntest du
42:37
schon, aber die wurden nicht übernommen und es gab noch den
42:40
zweiten Punkt oder diesen zweiten Bug, dass wenn du einmal
42:43
unten an der Maske angekommen bist, dann hat das Gerät gesagt,
42:46
OK, wir sind fertig, du willst ja wohl diese Einstellungen so
42:49
haben. Genau, dass das quasi Instant
42:53
getriggert wurde, so nach dem Motto Du bist jetzt da unten.
42:57
Du hast alles eingegeben, es gab nicht noch mal sowas wie
43:00
bestätigen oder sowas, was man vielleicht noch erwarten würde.
43:03
So soll ich jetzt justieren. Ja Nein weißt du, so war
43:06
vereinfacht gesagt das find ich halt auch spannend, dass es
43:08
einfach so getriggert wurde und diese Routinen dann angestoßen
43:12
wurden, was auf jeden Fall spannend ist, dass das, was wir
43:17
gerade beschrieben haben als Texas Bug in die Geschichte dann
43:20
einging, weil ja beide Vorfälle von Cox und Kid in Texas.
43:26
Quasi auftraten oder stattgefunden haben.
43:29
Genau, und das jetzt als Texas Bug bekannt ist auch.
43:34
Interessant muss man natürlich immer Namen geben, den ganzen
43:37
Sachen, was ich auf jeden Fall interessant finde ist, dass
43:40
natürlich solche Ereignisse, ne, also diese.
43:46
Probleme, die aufgetreten sind. Patienten sind sogar gestorben.
43:50
Das erregt natürlich Aufmerksamkeit, sowohl bei dem
43:53
Personal. Also du verlierst ja irgendwann
43:57
auch das Vertrauen in dieses Gerät als Arzt, Ärztin,
44:01
Techniker, Technikerin, so, das ist ja das eine und das andere
44:05
ist, dass natürlich auch der. Hersteller irgendwo im Zugzwang
44:10
ist und sagen muss, ey, Pass auf, wir müssen hier wirklich
44:12
noch mal was nachbessern, da sind jetzt wirklich nachweislich
44:16
Leute gestorben und da wurden dann auch noch mal ein paar
44:19
Software Fail safe Mechanismen eingebaut, es wurde sogar noch
44:24
auch es wurde sogar glaube ich auch noch hardwaretechnisch ein
44:26
bisschen nachgerüstet, dass man halt wirklich sagt OK Leute, wir
44:29
hatten jetzt hier Todesfälle, das ist nicht cool, wir müssen
44:34
das irgendwie unterbinden. Und da wurde ja wirklich noch
44:37
was gemacht. Und dann kam es ja dazu, dass
44:41
dann sicherlich noch Krankenhäuser gesagt haben, gut,
44:43
OK, alles klar, das Ding ist funktioniert, man muss sich das
44:47
ja auch im Endeffekt wieder so vorstellen, es ist ja nicht so,
44:50
als würde jetzt quasi ein Patient rankommen, es passiert,
44:53
was der nächste gleich wieder, sondern es ist ja so, dass es
44:56
natürlich sehr, sehr vereinzelte Fälle sind.
44:58
Dann muss man sich mal vor Augen halten.
44:59
Das heißt wahrscheinlich, nach diesen Änderungen lief das
45:03
erstmal alles wieder gut. Alle Strahlenbehandlungen vom
45:06
Terrak 25 haben wieder super funktioniert, also alles in
45:10
Ordnung, ne so, nur dass dann blöderweise oder tragischerweise
45:17
es zu noch einem Opfer kam und das war Glenn Dot, das war dann
45:21
später nur ein Jahr später, also 1987 befinden wir uns jetzt
45:26
ungefähr. Und der hat dann eben auch
45:29
wieder eine Überdosis bekommen und ist leider auch daran wieder
45:32
verstorben. Und da kann man sich natürlich
45:35
jetzt fragen, OK, wir haben doch aber die entsprechenden Fehler
45:40
herausgefunden, die wurden ja quasi ne herauskristallisiert
45:45
und wohlbehoben. Genau diese Mailfunction 54 ist
45:50
ja eigentlich vom Tisch gewesen. Ne, man hat.
45:52
Das Personal geschult, man hat dagegen gepatcht und das
45:55
versucht zu verhindern, was heißt versucht.
45:57
Man hat halt quasi Fixes eingebaut, was übrigens noch ne
46:02
kleine Site Note ne der fix für diesen Bug ist im Endeffekt nur
46:07
dieses Flag da was ich meinte nicht zu löschen, das muss man
46:10
sich mal vorstellen was für ne kleine Softwareänderung dann
46:13
bewirkt hätte und das ist halt immer das krasse was was für
46:17
mich so mind blowing ist ne so. Ist wahrscheinlich eine Zeile,
46:21
die du änderst. Ja, auf jeden Fall.
46:25
Glenn Dot ist dann im Prinzip auch an einer akuten
46:30
Strahlenvergiftung gestorben wieder und man fragt sich, wie
46:34
zur Hölle ey das Thema war vom Tisch, wie konnte das passieren,
46:37
wieder eine viel zu hohe Strahlung auf die Brust war es
46:41
glaube ich was sein komplettes Gewebe verbrannte und innere
46:44
Organe zerstörte, also wieder n völlig krasser Fall und.
46:49
Man dann wieder anfing. Wo ist denn jetzt noch was
46:51
kaputt in der Software? Ne richtig und dann kam es zum
46:56
bekannten Washington Bug, weil das Ganze in Washington
47:00
stattgefunden hat oder sich ereignete und diesen Washington
47:04
Bug möchte ich mit dir auch noch mal behandeln, weil der ist
47:07
finde ich noch krasser wie das alles zusammenspielt.
47:12
Und zwar geht es dabei um diesen Mechanismus der Justierung, der
47:16
zum Beispiel der Magnete, was wir angesprochen haben, also vor
47:19
auch von diesem Drehteller, ne, das war, da müssen wir mal kurz
47:25
eintauchen, wie das Softwaretechnisch umgesetzt
47:27
wurde, weil wir hatten ja gesagt, es gab keine facesafe
47:30
Mechanismen, also so Logs hardwareseitig, sondern es wurde
47:34
rein softwaretechnisch überwacht, und dafür gab es.
47:39
Im Prinzip ein Zähler in der Software, der die Schritte, das
47:43
war halt so ein Schrittmotor dran, das war halt so eine ganz
47:46
langsame Bewegung, der die Schritte gezählt hat, im
47:50
Prinzip, jede Bewegung hat den Zähler um 1 hoch gezählt, also
47:56
das heißt der Motor dreht 1 weiter, es wird wieder ein
47:59
bisschen justiert, der Zähler sagt Plus 1 und so konntest du
48:03
quasi die Schritte zählen, die es gebraucht hatte.
48:07
Um bis es final eingestellt war, sozusagen, so die Erklärung
48:13
dahinter. Und da denkt man sich so, OK,
48:15
man zählt die Schritte, aber muss man nicht irgendwie die
48:19
Positionierung sich merken, was heißt merken, irgendwie
48:23
ermitteln? Also ich will ja wissen, ob es
48:25
richtig positioniert ist und nicht wieviel Schritte es dauert
48:28
um die richtige Position zu erreichen, das ist halt schon
48:30
mal so n Ding, denkst du dir so OK, spannenderweise war es so,
48:36
dass es. Eine Überprüfungsfunktion gab
48:40
die Halt auch diese Fehlercodes gesetzt hat.
48:43
Ne, also diese Malfunction diese Routine hieß Setup Test genau
48:49
die Setup Test war im Prinzip die nach jedem Schritt der
48:53
Bewegung aufgerufen wurde die Routine ne also die hat sich so
48:56
quasi selbst rescadued und immer ständig geprüft ist.
49:02
Die Justierung abgeschlossen bin ich an der finalen Position
49:04
genau oder welche Fehlerzustand sozusagen ne genau das heißt es
49:09
war immer n fehlerzustand wenn ich nicht die richtige Position
49:12
hatte. Das.
49:13
Heißt, man kann sich das so vorstellen vom Ablauf dieser
49:16
Zähler zählt plus 1, weil eine Bewegung stattgefunden hatte.
49:20
Dieser Zähler ist ungleich 0, weil wir uns ja in einer
49:23
Bewegung befinden, sozusagen ne, also 123 wirklich inkrementiert
49:28
so. Das heißt, wir sind noch in der
49:31
Bewegung. Ich muss prüfen, habe ich einen
49:33
Fehlerzustand oder bin ich in der richtigen Position, dann
49:36
wurde diese Überprüfung durchgeführt und es wurde
49:39
festgestellt, hey, du bist richtig, oder nee, passt noch
49:42
nicht und das wurde ausgewertet und dementsprechend dieses Setup
49:47
sage ich mal abgeschlossen oder fortgeführt.
49:51
Das heißt, der Zähler wurde auf 0 zurückgesetzt.
49:53
Wenn es richtig war, und es wurde die nächste Routine
49:56
angestoßen. Im Prinzip die Behandlung am
49:58
Ende ne, weil man sagt das Gerät ist richtig eingestellt, die
50:01
Behandlung kann starten so. Weit so gut, bisschen wild mit
50:05
dem Zähler da, aber OK interessanterweise
50:08
softwaretechnisch. Wenn wir also wenn man sich das
50:10
so ein bisschen vereinfacht vorstellen will, war dieser
50:14
Zähler. Im Endeffekt synchron mit.
50:18
Wie oft wurde eigentlich schon die Setup Test Methode oder
50:21
diese Routine aufgerufen so das heißt im Endeffekt wurde einfach
50:25
nur gesagt Okay nächster Setup test wird gemacht, es wird halt
50:28
immer wieder geguckt ist der Drehteller richtig eingestellt
50:30
und dafür wurde sozusagen wurde auf auf Fehlercodes überprüft
50:35
und gesagt Okay gibt es denn Fehler gerade oder ist denn der
50:38
Zustand meiner Justierung korrekt und diese Variable hat
50:44
zum Beispiel gesagt. Wenn das 0 ist, dann ist alles
50:48
gut. Das heißt, es gab quasi die
50:50
Fehlervariable, die entweder n wert hatte oder 0 war und es gab
50:54
diese Zählervariable, also Fehlervariable und
50:57
Zählervariable und die Zählervariable war eigentlich.
51:01
Einfach nur ein Zähler wie oft Setup Test aufgerufen wurde und
51:04
wurde, eigentlich aber immer dafür genutzt um zu sagen ey wir
51:08
sind ungleich 0 weil wir ja quasi gerade in der Routine
51:12
sind, also überprüfen wir die Variable ob ein Fehler vorliegt
51:16
so. Genau, also im Prinzip war es
51:19
eigentlich, es war ein Zähler, aber eigentlich sollte es nur
51:23
Aussagen, befinden wir uns in der Justierung oder nicht genau.
51:28
Das ist halt das spannende dabei, warum es ein Zähler ist,
51:30
weiß wahrscheinlich nur der eine Hobbycoder, aber es ist halt im
51:34
Prinzip die Aussage dahinter ist befinden wir uns noch in der
51:37
Justierung. Ja, ich überprüfe ob die
51:40
Position stimmt und wenn ich kriege ich einen Fehler wenn ich
51:43
einen Fehler kriege befinde ich mich immer noch in der
51:45
Justierung, das heißt das ist dann halt dieses Rescaduling und
51:48
zyklische zu sagen ich prüfe das so lange bis wir in der finalen
51:53
Position sind, ansonsten hat die Maschine einen Fehler, was ja
51:56
richtig ist und. Und das hat ja auch so
51:59
funktioniert. Und jetzt ist aber spannend,
52:03
dass halt dieser Fall von Glenn dort aufgetreten ist und auf
52:06
einmal wieder eine viel zu hohe Bestrahlung zustande kam, die
52:09
tödlich endete. Wie zur Hölle konnte das
52:11
passieren und wenn man sich das Ganze quasi noch mal vor Augen
52:17
führt, wie dieser Ablauf ist? Du hast es ja anfangs erklärt,
52:22
ne, man legt sich da auf den Behandlungstisch.
52:25
Dann wird das Gerät positioniert und so weiter der Ablauf vom
52:29
Techniker war, dass er eigentlich erst in diesem
52:32
benachbarten Raum ist, diese Grundsettings einstellt.
52:35
Sowas wie Patientenname, Strahlungsart und so weiter dann
52:41
in den Behandlungsraum geht zum Patienten.
52:44
Dafür sorgt, dass korrekt positioniert ist, also der
52:48
Strahlungspunkt ne, dass das genau da ist, wo es hingehen
52:51
sollte. Das ist ja auch glaub ich mit so
52:53
einer Lichttechnik gewesen, ne, dass du halt wirklich so n Punkt
52:56
gesehen hast. Wo ist das Ziel und hat dann an
53:00
der an der Maschine selbst in einem Terminal die finalen
53:03
Eingaben gemacht, die musste er mit Press Set Button bestätigen,
53:09
dann hat er das gemacht, hat den Raum wieder verlassen und die
53:11
Behandlung. Ging los beziehungsweise das
53:14
Gerät hat sich justiert und dann ging es los, wie wir ja gerade
53:18
erklärt hatten. So was ist jetzt passiert und da
53:23
muss ich sagen, ist leider Gottes so ein richtig
53:26
klassischer Bug drin in der Software den man einfach 1000
53:29
mal schon gehört hat und man sich immer wieder denkt warum
53:32
zur Hölle passiert das weil diese Zählvariable über die wir
53:36
gesprochen hatten war. Aber wahrscheinlich auch aus
53:41
Speichergründen eine 1 Byte, also 8 bit variable.
53:44
Das heißt, sie konnte einen Zahlenwert von 0 bis 255
53:48
annehmen. Ganz klassisch.
53:51
Jetzt haben wir aber das Thema, dass wir gesagt haben, diese
53:55
Test Setup skeduals sich ja immer wieder selbst.
53:59
Das heißt 100 Hunderte genau, es sind halt Hunderte Durchläufe.
54:05
Die diese Überprüfung ausführen, das heißt, der Zähler zählt
54:08
locker über diese 255 und hat dann nen arithmetischen
54:13
Überlauf. Ganz klassisch heißt springt
54:15
wieder auf 0 und zählt von vorne, das sollten ich glaube
54:19
das ist so gut wie jeden ein Begriff und warum ist das kein
54:24
Problem allgemein gewesen, weil die das hat ja funktioniert,
54:27
also der Entwickler muss sich ja gedacht haben OK funktioniert
54:30
doch, also wir wir haben es doch getestet läuft.
54:34
Und da ist halt ne ganz krasse Verkettung an Ereignissen
54:38
passiert. Magst du das mal erklären, was
54:41
im Prinzip bei glatt dort passiert sein muss?
54:43
Genau, also ganz kurz noch eine Sache wie du hast es ja gerade
54:47
erklärt der Techniker oder Technikerin muss ja dann oder
54:51
muss nicht unbedingt, aber es gab die Möglichkeit, diese
54:54
explizite Positionierung mit diesem Laser noch durchzuführen,
54:57
so, das heißt es war auch ne Sache, die nicht jedes Mal
54:59
passiert ist. Aber du konntest es so tun.
55:02
Das heißt, der Techniker ist jetzt reingegangen.
55:05
Zu Glen Dot hat diese Positionierung aus also
55:08
durchgeführt, das heißt, er hat dann noch mal quasi mit diesem
55:11
Laser das Ganze, also zum Beispiel seine, seine, sein
55:14
Brustbereich, richtig ausgerichtet, nachdem er das
55:17
eingestellt hat, war er im Raum, hat an der Maschine dann zum
55:21
Beispiel gesagt, Okay, jetzt möchte ich gerne die
55:25
Einstellungen so setzen und hat den Set Button quasi gedrückt,
55:29
so und. Und in dem Moment, wo du den Set
55:32
Button drückst, kann es wenn keine Fehler da sind, werden
55:39
diese Einstellungen auch so übernommen.
55:40
Genauso wie Sie sind. Das heißt, die Justierung
55:42
startet dann. Genau so.
55:44
Und das Problem ist jetzt aber, dass und jetzt kommen diese 2
55:48
Variablen wieder. Wir haben gesagt, diese
55:50
Zählervariable und die Fehlervariable so wenn diese
55:54
Justierung aber noch nicht ganz abgeschlossen ist, gibt es ja
55:57
einen Fehler in dieser Fehlervariable.
55:59
Die, sagt Ey, Wir sind noch nicht so weit.
56:02
Diese wird aber nur überprüft, wenn die Zähler variable
56:06
ungleich 0 ist. Das bedeutet, wenn du in dem
56:10
Moment, wo du einen arithmetischen Überlauf von 255
56:15
auf 0 wieder hast, genau in diesem Moment super krasser
56:18
Zufall den Set Button drückst, dann wird sozusagen diese
56:23
Einstellung, so wie sie es übernommen und die.
56:27
Behandlung kann dann losgehen, so wie sie ist.
56:29
Bedeutet also, dass es durchaus möglich ist, dass du zum
56:32
Beispiel den falschen Filter für den falschen Strahlungsmodus
56:38
verwendest. Weil es nicht richtig
56:40
eingestellt ist, weil in der Software halt 0 als korrekt
56:44
positioniert galt, weil der Zähler einfach so aufgebaut war.
56:47
Ungleich. 0 ist nicht korrekt und 0 ist korrekt, aber erzählt
56:51
halt und erzeugt halt diesen Überlauf und das spannende Ich
56:54
habe mich halt gefragt, warum das?
56:57
Ist der Zähler schon übergelaufen?
56:58
Bevor ich Set drücke? Das war so n Klemmer als ich das
57:02
so n bisschen recherchiert hatte, weil ich mir dachte was
57:06
ist das für ne Softwarearchitektur, warum
57:07
passiert das und das lag daran, dass er wie gesagt draußen im
57:12
Nachbarraum die ersten Eingaben gemacht hatte und dann diese
57:16
Testroutine einfach startet und asynchron läuft und quasi sich
57:20
ganze Zeit rescadued und sagt. Ja nee, Fehler Fehler, Fehler,
57:26
Fehler, Fehler weiter testen, testen und der Zähler zählt und
57:28
zählt und läuft über und läuft über und das ist halt ich sag
57:32
mal mit einer Wahrscheinlichkeit von was ist das 1 zu 255
57:36
Roundabout hast du halt dann die Chance genau dann Set zu drücken
57:41
ja wenn der in dem nächsten Schritt quasi genau dann diese
57:46
Task sagt ich hab n Überlauf und der Zähler ist 0.
57:50
Du setzt die neuen Einstellungen, die Software sagt
57:53
Hey, alles korrekt positioniert und dann schaltet quasi diese
57:57
sag ich mal statemachine intern direkt auf Test done Behandlung
58:01
geht los und dann wird. Halt wird halt diese Bestrahlung
58:05
abgefeuert und dann halt eben auch bei fehlerhaften oder noch
58:10
nicht. Fertig eingestellten beim noch
58:14
nicht fertig eingestellten Gerät, das ist schon krass, das
58:17
ist ein sehr, sehr heftiges Ding, auch sehr, sehr viele
58:21
Zufälle, die da eintreten müssen, logischerweise.
58:23
Deswegen war es natürlich auch ja ein Einzelfall, mehr oder
58:28
weniger das Ding ist, und das finde ich halt auch sehr
58:32
interessant, im Endeffekt war es ja so, dass dass man eigentlich
58:35
anstatt dieser Zähler variable am besten eine Variable hätte
58:39
nehmen müssen, die ungleich 0 wäre in der Zeit während diese
58:44
Setup Routine läuft. Dieser Setup Test und ich hatte
58:50
beiläufig gelesen, ich bin mir jetzt nicht hundertprozentig
58:52
sicher, aber es ist so ein Assembler Ding, dass du dadurch,
58:56
dass du zum Beispiel diesen Zähler verwendest, nur ein Byte
59:00
rein theoretisch brauchst, anstatt.
59:03
Mehrere ne, also wie du meintest Speicher hat hat halt einfach
59:07
was auch gerade damals ne je weniger Speicher man benötigt
59:12
hast desto besser war es halt einfach weil das war damals auch
59:15
noch mal ne andere Nummer als heute und das fand ich halt
59:19
einfach krass, dass es deshalb aus diesem Grund wohl eine
59:24
Zählervariable genutzt wurde und daran her halt eben nicht
59:27
gedacht wurde, dass das noch möglich ist.
59:28
Was wir gerade beschrieben. Haben.
59:31
Was halt auch noch ne coole Side Note ist.
59:34
Also oder interessant ist, dass sie das natürlich gefixt haben,
59:38
die haben ja irgendwann das herausgefunden und der fix war
59:41
aus diesem Zähler einfach ne feste Zahl, ungleich 0 zu
59:45
machen, wie wir ja auch meinten. Ja genau, also das ist auch
59:49
wirklich der Fix am Ende gewesen und das finde ich halt so krass
59:53
und jetzt fragt man sich oder haben sich viele Leute glaube
59:56
ich gefragt? Wieso zur Hölle hat er da ne
59:58
Zählervariable draus gemacht? Es spielt gar keine Rolle
1:00:01
wieviel Steps das braucht, ne weil es geht ja um die wie ich
1:00:05
eingangs meinte um diese endposition und nicht wieviel
1:00:08
Schritte, also wie oft quasi diese Routine durchlaufen wird
1:00:12
das das spielt gar keine Rolle, es wurde ja eigentlich genutzt
1:00:15
um festzustellen bin ich noch in der Bewegung oder nicht.
1:00:18
Ich glaube, man dachte sich einfach, ist doch ganz cool,
1:00:20
wenn sich da an der Variable zählt und hat diesen Überlauf
1:00:23
halt nicht beachtet oder sich nicht war sich nicht im Klaren,
1:00:26
dass diese Verkettung an Ereignisse passieren kann.
1:00:28
Also ich würde ja auch niemanden irgendwie was böswilliges
1:00:31
unterstellen, aber es ist halt krass und es zeigt wieder, wie
1:00:34
Ereignisse zufällig aufeinandertreffen können und
1:00:37
dann so eine krasse Auswirkung haben und Gott sei Dank war es
1:00:40
sehr unwahrscheinlich, dass es passiert, aber es sind trotzdem.
1:00:45
Todesfälle zu viel, sagen wir es mal so, ne, die man hätte
1:00:47
vermeiden können und deswegen wir sind auch schon ziemlich
1:00:50
fortgeschritten in der Zeit. Lass uns mal kurz noch
1:00:53
schlussfolgern und lernen draus ziehen, weil unsere Big Fails
1:00:56
folgen sollen ja nicht immer nur beleuchten was schief lief,
1:00:58
sondern man soll ja versuchen da auch was draus zu lernen, auch
1:01:01
für dich liebe Zuhörer liebe Zuhörer, deswegen hau doch mal
1:01:04
raus fabi, was sind für dich so Learnings die du daraus ziehen
1:01:08
kannst? Also wichtig ist natürlich, dass
1:01:10
die, sag ich mal softwareseitige Eingabe.
1:01:15
Auf jeden Fall immer synchron mit der Hardware läuft.
1:01:18
Das heißt, du könntest ja rein. Theoretisch ist natürlich ne
1:01:21
nervige Sache, aber nur um das sich ganz einfach vorzustellen,
1:01:24
du könntest ja sagen, wenn ich etwas einstelle und dadurch dann
1:01:27
ein mechanisches, ein mechanischer Mechanismus
1:01:30
ausgelöst wird, der irgendwas einstellt, dann.
1:01:33
Könntest du ja im einfachsten Fall sagen, OK ich warte n paar
1:01:36
Sekunden, du kannst in der Oberfläche jetzt nichts
1:01:38
eingeben, dass du halt wirklich synchronisierst.
1:01:40
Deine Eingabe mit dem was halt da passiert ist natürlich ne
1:01:44
sehr sehr einfache dargestellte Sache.
1:01:45
Im optimalen Fall kannst du das trotzdem asynchron parallel
1:01:49
machen und es wird halt eingestellt, aber so, dass es am
1:01:53
Ende immer dazu kommt, dass du einen synchronen Zustand hast
1:01:56
zwischen deiner UI und zwischen der echten Hardware ne und das
1:02:00
ist auf jeden Fall. Designfehler der Software selber
1:02:04
gewesen, was man auf jeden Fall definitiv immer im Auge behalten
1:02:10
sollte. Bei sowas genauso wie zum
1:02:13
Beispiel einfach diese failed safe Mechanismen.
1:02:17
Also es gibt ja zu. Ich denke mir so, wieso konnte
1:02:20
dieses Gerät überhaupt so eine extrem hohe Strahlung abfeuern,
1:02:23
weil halt eben die Hardware dafür möglich, dass es war
1:02:26
möglich, das war ja vorher beim Terrak 20 eben nicht möglich,
1:02:30
aber genau solche Sachen sind wahrscheinlich einfach, gerade
1:02:34
wenn es um Menschenleben geht durchaus sinnvoll sowas noch zu
1:02:38
verwenden. Ja.
1:02:40
Oder halt softwareseitig doppelt abzusichern.
1:02:43
Und was ich auch eingangs mal gesagt hatte, Softwaretests
1:02:47
haben gefehlt, die. Wahrscheinlich, weil es halt
1:02:50
einfach Hobby Coding mäßig dahin gewurstelt wurde.
1:02:54
Und gerade damals war mit Softwaretests vielleicht auch
1:02:58
noch nicht ganz so. Populär wie heute aber das sind
1:03:01
zum Beispiel Sachen, die mir da direkt einfallen, was man besser
1:03:05
machen müsste oder worauf man achten sollte.
1:03:08
Dann kommt da auf jeden Fall noch hinzu, dass man diese, wenn
1:03:12
man schon so Fehlercodes hat, die auch klar dokumentieren
1:03:14
sollte und das Personal dahingehend schulen sollte.
1:03:18
Weil, wie zum Beispiel diese Malfunction Fifty Four, wo quasi
1:03:22
keiner wusste, was dahinter steckt, aber eigentlich die
1:03:25
Aussage war, EY, die ist ne fehlerhafte Positionierung, so
1:03:29
ne drückt. Nicht proced also auf keinen
1:03:32
Fall Proced erlauben. Sozusagen.
1:03:34
Du kannst das ganze ja weiterführen und sagen, diese
1:03:36
fehlerhafte Positionierung führt entweder, und das fand ich auch
1:03:39
interessant, zu einer zu hohen oder zu einer zu niedrigen
1:03:42
Strahlung, was auf jeden Fall zur falschen Behandlung, ne zur
1:03:44
falschen Behandlung, also entweder akute.
1:03:47
Möglicher akuter Tod sag ich jetzt mal ne, also relativ
1:03:51
schnell oder halt Tod durch die Krankheit, weil sie eben halt
1:03:56
nicht richtig behandelt werden. Hätte ne.
1:04:00
Ja, ja, also. Ja, das sind eigentlich die
1:04:04
wichtigsten Punkte. Ne.
1:04:05
Immer versuchen diese Race conditions zu verhindern, wenn
1:04:08
ich halt mit so asynchronen Routinen arbeite.
1:04:10
Es muss Failsafe sein, du brauchst Redundanzen einfach bei
1:04:13
so sicherheitskritischen Sachen ne gute Dokumentation, ne gute
1:04:16
Abtestung das sind einfach wirklich extrem essentielle
1:04:20
Punkte und ich finde dieser terrac 25.
1:04:24
Ist und wird auch bleiben. Das wird ja auch in Unis
1:04:26
behandelt und so, wenn es da halt um sicherheitsrelevante
1:04:30
Systeme geht, zum Beispiel immer so ne Art Mahnmal bleiben, dass
1:04:34
man sich wirklich vor Augen führt, welche Verantwortung auch
1:04:39
ethisch gesehen man in der Softwareentwicklung tragen kann,
1:04:42
gerade im zum Beispiel medizinischen Bereich.
1:04:45
Definitiv. Also würde ich sagen.
1:04:48
Tino, Erstmal danke für diesen interessanten Fall hier, den wir
1:04:51
besprochen haben und auch recherchiert haben.
1:04:54
Und liebe zürin lieber zürer, ich würde auch sagen, denkt
1:04:59
bitte auch wenn ihr Software entwickelt, immer daran was für
1:05:02
Auswirkungen eure Software haben kann.
1:05:05
Es ist sehr sehr wichtig, dass man da auch wirklich da im Bilde
1:05:09
ist und. Sich so was vor Augen führt, was
1:05:11
da theoretisch passieren kann und immer mit der gewissen
1:05:15
Verantwortung dahinter. Auch diese Software entwickeln.
1:05:18
In dem Sinne würde ich sagen, schreibt uns doch gerne auf
1:05:22
unserer Podcast Mail oder auf unseren Plattformen.
1:05:24
Das ist übrigens alles in den Show Notes verlinkt, wie euch
1:05:27
die Folge gefallen hat, bewertet gerne auch den Podcast.
1:05:30
Das würde uns natürlich mega freuen und wenn ihr sagt, Ey
1:05:34
Calling Body ist ein cool, die mag ich, die möchte ich ein
1:05:36
bisschen unterstützen, gibt es auch einen kleinen Spenden Link
1:05:38
in. Den Shownotes und in dem Sinne
1:05:41
würde ich sagen, habt alle noch einen wunderschönen Tag und wir
1:05:46
hören uns beim nächsten Mal wieder eure Calling Buddies
1:05:48
gemeinsam. Besser.