Latest / Coding Buddies | Tech & Dev-Mindset / #154 AI Kontrollverlust - Wo muss die rote Linie gezogen werden?

Transcript

#154 AI Kontrollverlust - Wo muss die rote Linie gezogen werden? · Coding Buddies | Tech & Dev-Mindset

0:00
Ki Agenten Sie werden immer komplexer und immer mehr
0:03
Menschen können sie einfach so verwenden.
0:05
Die Frage ist, wo müssen wir bei Ai eine rote Linie ziehen?
0:09
Coding Buddies Dein Podcast rund um Softwareentwicklung und
0:13
aktueller Tech News herzlich Willkommen.
0:27
Hallöchen, Hallöchen und Willkommen zur neuen Folge des
0:30
Coding Bodys Podcasts. Schön, dass du wieder
0:32
eingeschaltet hast, deine Gastgeber, wie soll's auch
0:36
anders sein, meine Wenigkeit, der Tino und an meiner Seite der
0:40
fantastische Fabi Fabi Grüße dich was geht ab, Hey Tino, was
0:46
geht ab, was geht down habe ich gelernt was kann.
0:48
Denn auch mal her, ich wusste, dass es kommt.
0:50
Ich wusste es. Ja, haben wir jetzt gelernt im
0:53
Twitch Livestream. Ja, also was geht ab, was geht
0:55
down? Ja, das ist Old School, aber
0:58
scheinbar kann man immer noch sagen, ja oder vielleicht kommt
1:00
es wieder, ja man hat ja manchmal es kommt alles wieder,
1:03
weißt du deswegen, ich sag ja auch die die Mode ja von von
1:08
unseren Eltern, die ist ja glaub ich, die ist ja fast schon
1:11
wieder out glaub ich ja also es kommt alles wieder genauso wie
1:15
dieser Spruch. Ja.
1:18
Apropos Mode und so alte Sachen. Ich find es auch erstaunlich,
1:21
dass so diese ganze, ich sag mal diese Skater Mode von früher
1:26
auch wieder voll im Trend ist. Also baggy pants und sowas.
1:31
Ja stimmt, stimmt, das war so n Ding früher bei uns wollte man
1:34
unbedingt haben, so als Kit. Ja und jetzt ist es einfach
1:37
wieder ist es also hätte man die Klamotten noch wärst du wieder
1:41
voll am Start. Wird vielleicht n bisschen zu
1:44
alt aussehen. So reingequetscht.
1:49
Aber eine Sache muss ich sagen, also ja, baggy pants OK, aber
1:53
manche haben es halt auch übertrieben, also manche hatten
1:55
ihre Hose ja wirklich den Gürtel um die Knie geschnallt, so
1:57
gefühlt und also klar, da war ich raus.
2:00
Also nee, die ganze Boxershorts musst du nicht unbedingt
2:04
rauskriegen. Ja, das ist n bisschen zu krass.
2:08
Aber weißt du, der Vorteil ist ja auch eigentlich, man kann ja
2:11
gar nicht rauswachsen, weil die waren ja so riesig die Klamotten
2:13
jetzt einfach. Könntest du also sie sind
2:15
einfach nur n Stück weniger riesig, wären sie jetzt quasi im
2:18
Vergleich zu früher das. Stimmt, kannst du immer noch n
2:20
Zelt draus bauen, aber bisschen weniger.
2:24
Riesig so kleine nette Side Story.
2:28
Ich war nämlich auf einer 90er Party ist schon ne Weile wieder
2:31
her, aber jetzt wo ich gerade an.
2:34
An die Klamotten denke. Und dann mussten natürlich alle
2:37
wieder diesen Look rausholen und ich natürlich auch.
2:39
Und dann hab ich mir auf Vintage glaub ich ja vintage so ne alte
2:45
Baggy Pants bestellt und dann hatte ich mal wieder so ne
2:48
richtige South Paul von früher es das ist schon geil, das ist
2:52
schon geil und manche denn so n alten eastpack Rucksack von
2:54
früher weißt du das war das geil das war ne.
2:58
Coole Party, wenn alle dann wieder so aussehen wie damals.
3:01
Ich hab dich seitdem aber noch nie mit der Hose gesehen.
3:04
Nee, ich hab es ja auch nur da angehabt.
3:06
Also wenn du möchtest, kann ich es auch gerne mal.
3:07
Dann renn ich draußen so rum, das ist so, ist in Ordnung für
3:10
dich mach ich das. Ist doch jetzt wieder am Start.
3:11
Hast du doch. Gesagt, Ja, müssen wir auch
3:13
wieder Skateboards holen. Ah, ich hab 1, hol dich raus,
3:17
alles klar, OK gut, dann lass schnell die Folge machen und
3:19
dann treffen wir uns sehr. Gut.
3:22
Aber wir haben heute n ganz cooles Thema und das hat dreht
3:25
sich nicht um die Vergangenheit, sondern eher um die Gegenwart
3:28
bis Zukunft. Und zwar geht es heute mal
3:32
wieder. Geiler Übergang, oder?
3:34
Deswegen geht es heute mal wieder n bisschen um das globale
3:37
Thema AI. Ja, manche sagen jetzt
3:40
vielleicht so, na schon wieder AI überall AI, ich kann es nicht
3:44
mehr hören können wir verstehen, geht uns teilweise auch so, aber
3:48
heute wirklich n spannendes Thema, weil heute ist es auch n
3:51
bisschen so ne ethische Frage dahinter und da hab ich richtig
3:56
Bock mit dir drüber zu quatschen fabi.
3:57
Ja, definitiv. Es ist ja also man.
4:02
Es nervt manchmal dieses Thema, weil es halt so omnipräsent ist.
4:05
Aber auf der anderen Seite kann man es halt auch einfach nicht
4:07
wegdrücken. Also bei mir ist es auch
4:09
persönlich so, dass ich öfter mal mir denke, so, ah, schon
4:12
wieder dieses Thema, aber gleichzeitig denk ich mir auch
4:14
so, ich muss es irgendwie, also irgendwie muss man ja auch da
4:17
ich sag mal to date sein find ich und es geht so n bisschen
4:23
darum ja, dass man sich ja jetzt irgendwie fragen kann.
4:29
Was passiert eigentlich, wenn so KI Systeme so selbst
4:33
Entscheidungen treffen, weil so mittlerweile ja durch so Agenten
4:38
kommt das ja jetzt schon irgendwo mehr oder weniger, dass
4:44
sowas ich sag mal auftreten kann.
4:46
Ja. Oder Auftritt.
4:48
Und die Frage ist aber, es ist ja jetzt nicht mega die.
4:52
Ich sag mal das das neue Thema so ne es ist jetzt nicht so
4:55
jetzt auf einmal denkt man Oh warte mal Agenten können eigene
4:59
Entscheidung treffen, es ist nicht neu aber die Frage ist
5:03
warum ist es so brisant und wenn das sozusagen der Fall ist ne
5:08
muss man sich da vielleicht überlegen gibt es irgendwie ne
5:11
ne Linie oder so ne rote Linie die ne KI nicht überschreiten
5:15
darf und das können wir einfach mal so n bisschen ja heute
5:19
beleuchten mal gucken. Im kleinen Talk auch machen,
5:23
unsere Meinung dazu geben und so weiter ja.
5:28
Ist halt wirklich ein spannendes Thema, weil die letzten Monate
5:32
oder mittlerweile auch schon Jahre standen ja voll im Zeichen
5:35
des Fortschritts und da fließen Gelder, das kann man sich nicht
5:39
vorstellen und immer weiter, höher, schneller und
5:43
Fortschritt, Fortschritt, Fortschritt, die Modelle kommen
5:46
halt einfach nur so quartalsweise raus von
5:48
sämtlichen Anbietern und immer besser.
5:51
Und spannend ist, wenn man sich das Ganze anschaut.
5:56
Wo ist da jetzt der Punkt, das Ganze auch kontrolliert zu
6:01
gestalten? Ne, weil es wird heute auch viel
6:04
um Kontrollverlust gehen, um das schon mal vorweg zu nehmen so,
6:08
weil die Frage ist natürlich oder eine Kernfrage dabei ist,
6:13
wenn ich so viel Tempo aufnehme, komm ich irgendwann ins Stolpern
6:17
oder ist das ein kontrolliertes? Ein kontrollierter Fortschritt,
6:20
ne. Also ich beschleunige so hart
6:22
diese Entwicklung, kann ich das noch kontrollieren oder stolper
6:26
ich irgendwann und warum das momentan so brisant ist, ist ja
6:31
eigentlich nur es ist so n bisschen mediengetrieben ne,
6:34
aber ein Kernpunkt ist auch, dass das Ganze natürlich immer
6:38
zugänglicher wird ne so Agents ja hatten wir ja auch Boah das
6:43
ist ja jetzt auch schon. N halbes Jahr mindestens her
6:46
würde ich sagen. Ich glaub letztes Jahr so im
6:48
Juni, Juli war ja die Microsoft Build und da hat ja github auch
6:52
viel über die Agents, also den Copilot Agent sozusagen
6:58
berichtet und vorgestellt und da ging es ja auch schon um eigene
7:02
Entscheidung, ne dass Features übernommen werden, implementiert
7:05
werden, dann wird n Pull request gestellt und da hast du ja auch
7:08
keine. Direkte Kontrolle sozusagen wie
7:11
was codet er jetzt, der arbeitet ja schon im Hintergrund.
7:14
Ne, das ist ja auch schon so n erster Step, jetzt sind wir aber
7:17
an dem Punkt wo es beispielsweise Open Source
7:21
Implementierung gibt und man lokal so Agents einfach laufen
7:25
lassen kann, kommen wir noch auf n.
7:26
Sehr prominentes Beispiel später denk ich mal was halt in aller
7:30
Munde ist momentan. Und das Spannende ist, dass du
7:34
jetzt einfach beobachten kannst, dass diese Entwicklung immer
7:38
zügiger wird und gleichzeitig jetzt aber auch immer mehr
7:41
kritische Stimmen aufkommen, bis hinzu, und daraus ist ja auch
7:46
das Thema so n bisschen entsprungen, dass du das
7:48
mitgebracht hast. Das ist ja, sag ich mal, jetzt
7:51
auch Gipfeltreffen, nenn ich es mal, ist immer so n toller
7:54
Begriff. Gibt von Leuten, die dem ganzen
7:59
sehr sehr kritisch gegenüberstehen, und das sind
8:02
jetzt nicht Laien, sondern sag ich mal auch irgendwo Experten
8:05
auf ihr Fachgebiet. Ja, also das sind jetzt, das ist
8:08
jetzt nicht Tante Emma von nebenan, die sagt, NÖ, also
8:11
hier, Computer, Internet und so, das ist nicht meins, nein, es
8:14
geht darum, dass Leute, die auch teilweise an den Entwicklungen
8:17
mitgemacht haben und das getrieben haben, jetzt sagen
8:19
Leute, wir müssen auf die Bremse treten, und das ist ja
8:21
eigentlich der spannende Punkt dabei, ne, ja.
8:23
Grüße gehen erstmal raus an Tante Emma.
8:25
Ja, lustig, nee, aber genau das ist nämlich der Punkt und da war
8:30
es nämlich, glaub ich jetzt. Vor Kurzem gab es den gab es so
8:33
n Gipfel auch so NAI Gipfel wie du es schon genannt hast.
8:35
Der Gipfel ist immer ist mal sehr wichtig ganz oben.
8:39
Ist ganz oben, ja. Der stattgefunden hat in Neu
8:42
Delhi. Und da ging es halt genau um
8:45
diese Gefahren, die entstehen können, wenn Agenten solche KI
8:50
Agenten halt eben autonom irgendwie arbeiten können.
8:53
Ne, also von alleine irgendwie Entscheidungen treffen können
8:56
und ich fand das super interessant, weil da ging es
8:59
los, dass der Moderator in die Runde gefragt hat und gesagt
9:02
hat, wer denn also mal, dass Leute Handzeichen geben sollten,
9:06
die vor Ort waren. Wer glaubt, dass es ne
9:09
mindestens 10 prozentige Chance gibt, dass die Menschheit die
9:13
Kontrolle über die KI verlieren kann, ja, und da haben
9:17
eigentlich einfach fast fast jeder da hat die Hand gehoben,
9:20
ne und das find ich irgendwie. Also es ist schon krass ne und
9:24
es ist ja immer so, man muss das mal n bisschen abwägen, ne weil
9:26
auf der einen Seite denkt man sich so ja komm entspann dich
9:29
mal, mach mal nicht so n Hehl draus ja und übertreib jetzt
9:33
nicht. Und auf der anderen Seite ist es
9:35
halt aber auch trotzdem so, dass man sagt, ja, es ist aber
9:38
irgendwo ne gewisse, Ich sag mal ne gewisse Möglichkeit und die
9:43
sollte man einfach in Betracht ziehen.
9:45
Ja, also klar kann man sich hinstellen und sagen es ist echt
9:47
n bisschen übertrieben und es sind ja mindestens 10%, ist ja
9:52
aber trotzdem sagen wir mal einer von 10 ja, wenn du das so
9:56
n Personen siehst oder mehr ja so von der Chance her also.
10:01
Ja, jetzt einfach hier das. Ausschalten super.
10:04
Ja ja ja klar. Also jeder 10.
10:06
Verliert die Kontrolle so ich find es halt spannend das also
10:14
es ist n spannendes Gedankenspiel weil würde hättest
10:17
du die Hand gehoben frag ich dich mal so ich glaub.
10:20
Schon. Also ich bin ehrlich, ich glaube
10:23
schon, ja. Ja, ich, ich nehm mich auch.
10:27
Ist natürlich n bisschen 10% sag ich mal.
10:31
Also der Moderator hat das natürlich geschickt gemacht, ne
10:34
und das Framing ist halt gut, weil ich mein dieses
10:37
Gipfeltreffen hat dieses Thema als Kern ne sowas zu
10:43
kontrollieren und ist natürlich n guter Einstieg einfach mal
10:45
direkt. Den Leuten aufzuzeigen, dass
10:48
viele Angst davor nicht Angst davor aber denken, dass es gar
10:50
nicht so unwahrscheinlich ist. Und gleichzeitig wählt er
10:53
natürlich n sehr cleveren Prozentsatz, der irgendwie noch
10:56
viel klingt, aber gleichzeitig im Kopfweh auch suggeriert, so,
11:00
na ja, komm also, es ist nicht wirklich wahrscheinlich, aber
11:03
das so wahrscheinlich ist es schon.
11:05
Ja, also das kann schon sein, hätte er jetzt gesagt, 50% oder
11:09
so, weißt du also das wesentlich höher angesetzt wär natürlich
11:12
die Reaktion ganz anders gewesen.
11:14
Aber das ist auch das Erste, was es bei mir ausgelöst hat. 10%,
11:17
das kann sein, ja, na klar, es ist ja auch viel Medienwirksamer
11:21
am Ende ne, wenn wirklich die Leute dir die Hand heben, das
11:23
stimmt schon, ich find es was ich halt spannend finde ist,
11:26
dass es solche Gipfel wie ich ja auch schon meinte, es ist ja
11:29
halt kein neues Thema ne und es ist ja auch nicht so, dass man
11:31
sich so denkt, so ja Boah krass, jetzt könnte es passieren, so,
11:35
man hat sich damit glaub ich schon immer wieder
11:37
auseinandergesetzt, auch gerade als so LLMS rauskamen, ne, gab
11:41
es auch so. Gipfeltreffen, die dann
11:44
irgendwie so hießen wie AI Safety oder so ne.
11:47
Witzigerweise ja, wurde aber relativ schnell das Ganze auch
11:51
mal so zu einer AI zu einem AI Action Gipfel umgewandelt, ne so
11:55
n naming n bisschen verändert kommt natürlich auch n bisschen
11:59
geiler rüber wenn man das dann also wenn man ich sag mal die
12:04
Interesse oder das Interesse hat das auch so mehr oder weniger
12:06
also zu vermarkten ja. Dann willst du ja jetzt nicht
12:10
großartig auf die Gefahren eingehen, sondern du willst
12:12
sagen, wie geil das ist. Ne so, da kann man natürlich
12:14
dann auch immer gucken, wo legt man jetzt den Fokus drauf und
12:18
trotzdem kommt man halt irgendwann dann wieder drauf
12:20
zurück auf diese Safety Nummer, einfach aus dem Grund, weil du
12:25
es jetzt auch schon mal Anfang der Folge so n bisschen
12:27
angeschnitten hattest, weil es so n Auslöser gab.
12:30
Ja und der Auslöser war halt eben n relativ populäres System,
12:34
was jetzt so auch in den Medien war Openclaw ne.
12:39
Und das war so n bisschen so auch für diesen, für diesen, für
12:46
diese Frage im Gipfel der Auslöser dafür, dass das Mal so
12:49
angesprochen wurde, dass es vielleicht auch wieder mehr
12:51
thematisiert wird, ne, aber damit wir jetzt auch wirklich
12:55
jeden abholen, kannst du mal so bisschen erzählen, was openclaw
13:01
eigentlich ist. Ja, kann ich machen.
13:06
Also erstmal vorweg, ich hab es selbst nicht verwendet aus gutem
13:09
Grund, ich denke da werden wir auch drauf kommen, also erstmal
13:13
kurz die Warnung, also wenn du Liebe zuhören, Liebe zuhören,
13:17
Bock hast Open Cloud zu verwenden, dann mach es bitte
13:19
mit bedacht, wir werden es auch glaub ich belegen warum man das
13:22
mit Bedacht machen sollte was ist es genau?
13:26
Also Open Cloud unterscheidet sich insofern von Chatbots, dass
13:29
es halt wirklich. NAI Agent ist der erstens Open
13:34
Source ist. Das heißt, du kannst ihn halt
13:37
einfach verwenden. Ja, also es ist kein Payment
13:41
Modell so zwangsläufig dahinter, sondern du kannst es halt
13:44
einfach ausprobieren und das ist halt schon mal der erste
13:46
Schritt, er ist sehr sehr zugänglich und ich hab das nur
13:51
so am Rande anfangs mitbekommen, also in dem Moment wo das quasi
13:55
so aufkam ist das ja völlig durch die Decke gegangen.
13:58
Ja also. Unfassbar, wie die Reaktion war
14:02
und im Endeffekt ist es ja glaub ich von einer Person entwickelt
14:06
worden, gleichzeitig nicht vollendet.
14:11
Also es ist sozusagen ne Art MVP, der schon ganz gut läuft
14:16
und vieles zeigt was möglich ist.
14:19
Aber mit dem klaren Statement, dass der Code dahinter.
14:24
Zum großen Teil Vipe Gecoded ist, was ich gelesen hatte.
14:27
Ja, also nage mich nicht drauf fest, aber das hab ich dazu
14:30
gelesen und da dachte ich mir schon wow krass, also erstmal
14:33
krass, dass der Entwickler es ist ja open Source, er sagt Pass
14:37
auf, das ist der Stand, es ist nicht fertig, ich leg nicht
14:40
meine Hand dafür ins Feuer, ich hab wirklich viel gevipe coded
14:42
und ich glaub da waren auch so Aussagen drin wieso mindestens
14:46
die Hälfte des Codes hab ich nicht wirklich durchgeguckt weil
14:48
das funktioniert halt, das ist halt so n richtiges.
14:51
Experiment gewesen würd ich es mal fast nennen ne zu sagen ich
14:55
weibcode das durch und will sowas mal bauen.
14:58
Ja so und das ist halt voll durch die Decke gegangen und
15:01
warum? Es ist halt also open Claw der
15:05
Agent dahinter ne kann halt sag ich mal sehr autonom arbeiten
15:10
und hier wirklich Arbeit abnehmen und hat wirklich.
15:14
Krasse Anbindung an Systeme ja, also hinzu, er kann deine Mails
15:19
bearbeiten, beantworten, er kann Termine für dich festlegen, er
15:23
kann dir Benachrichtigung schicken für Termine, er kann,
15:27
er hat halt Zugriff auf deine Dateien, beispielsweise bis
15:32
hinzu Messenger wie Telegram oder whatsapp, was ich halt sehr
15:36
bedenklich finde. Ja, du musst.
15:38
Also du musst Opencloud den Zugriff schon aktiv geben.
15:42
Na ja klar, also bei bei bei den Messengern zum Beispiel, ja, bei
15:45
whatsapp beispielsweise, und das find ich halt krass, dass manche
15:48
Leute das machen, das funktioniert, also es hat keine
15:51
native Anbindung, so wie ich das verstanden hab, deswegen musst
15:53
du quasi komplett freigeben, auch deine ganzen Chats und
15:57
alles ne das heißt er kann zwar den Nachrichten beantworten für
16:02
dich, aber du weißt nicht wann wie wo was zumindest in der
16:06
Version was ich mir angeguckt hatte, ja wer weiß wie jetzt der
16:09
Stand ist. Aber er hat halt einfach
16:12
komplett den Zugriff und liest alle Chats die du da drin hast.
16:17
Und kann auch. Und da.
16:18
Frage ich mich, für wen ist das wirklich OK?
16:22
Jetzt kann man sagen, ja gut, das ist ja mein Agent und hier
16:25
und da und wo, was soll er denn schon damit machen?
16:28
Ja aber jetzt stell dir mal vor keine Ahnung, du hast da.
16:33
Ich muss mir jetzt irgendwas ausdenken.
16:35
Firmeninterne Chats ja, mit Kollegen oder oder vielleicht
16:38
auch wirklich richtig sensible Daten in Chats, dass du sagst ja
16:43
keine Ahnung, irgendwas in der Firma und der Haut das einfach
16:46
raus so ja beantworteten Chats so nach dem Motto Ja Tino kann
16:52
da leider nicht, weil der hat da in der Firma das und das Treffen
16:55
ist richtig geheim, weil da ging es da und da drum, so weißt du
16:59
nur mal so ist jetzt so n bisschen.
17:01
Humorvoll dargestellt aber dass diese Gefahr ist ja dann da.
17:04
Weißt du, wie ich das meine? Ey, mir wird es ja schon
17:06
reichen, wenn du irgendwann keine Ahnung weißt du dich,
17:10
sagen wir mal du hast n Tag wo du dich wo du wirklich mal dich
17:13
entspannst ne und einfach das Handy weglegst und irgendwie gar
17:15
nicht so verwendest. Ne und dann nach dem Tag merkst
17:19
du, dass du auf der einen Seite 2 neue beste Freunde hast und
17:23
übrigens dich mit deinen Eltern übelst verstritten hast.
17:27
Ja, schon ausreichend und der denkt so.
17:30
OK, warte mal, warte mal. Was ist denn hier passiert?
17:32
Weil ne Opeclaw kann ja dann in dem Fall der Agent auch autonom
17:36
antworten, wie du ja meintest. Ja und dann auch so Sachen wie
17:42
er entscheidet selbst was er für gewisse Task braucht an
17:48
Fähigkeiten und es gibt sozusagen Plugins und auch
17:51
Marketplace dafür, dass er, und das fand ich auch richtig krass,
17:55
zum Beispiel also. Noch mal ganz kurz dazu.
17:58
Du kannst vieles konfigurieren und blockieren, ja, aber es geht
18:02
ja darum, wie er initial auch funktioniert und viele ihn
18:05
verwenden, was ich so bedenklich finde ne klar kannst du auch
18:08
Sachen wie da sehr. Restriktiv behandeln am Ende ne,
18:12
aber grundsätzlich ist er in der Lage in den Scheiß Marketplace
18:16
zu gucken und zu sagen, Ey, das Plugin klingt richtig gut für
18:19
meinen Task, das installier ich einfach mal.
18:21
Also hat es natürlich auch nur n paar Tage gedauert bis richtig
18:25
viele Plugins mit Schadsoftware in Marketplace gelandet sind,
18:29
ohne Validierung, weil es halt alles unter dem Deckmantel Open
18:32
Source am Ende ist. Ja, und da haben wir jetzt die
18:35
Sicherheitslücken. Ja, man kann sagen, Na ja, aber
18:37
nur ich verwende ihn doch so, ist doch OK, er weiß das alles
18:40
OK, aber auch nur ich arbeite ja mit ihm, andere haben ja keinen
18:45
Zugriff so und jetzt installiert er sich aber n Plugin und andere
18:48
haben auf einmal Zugriff und können die Daten auslesen et
18:51
cetera und da wird es halt meiner Meinung nach übelst
18:54
gefährlich, ja. Es ist ja auch irgendwo n
18:56
Service ne und der ist ja auch irgendwo gehostet und die.
19:01
Ich hab steck jetzt nicht hundertprozentig im Detail drin,
19:04
aber wenn du n Service hast der gehostet ist, sind irgendwo
19:07
deine sind irgendwo Daten und wenn du zugriffsdaten zu
19:12
bestimmten Messengern Systemen hinterlegst damit der Agent das
19:17
benutzen kann, dann ist es natürlich auch nicht weit
19:20
hergeholt, dass man eventuell bei einer ich sag mal bei einem
19:24
gehackten Server auch irgendwie an bestimmte Daten rankommt und
19:27
nicht an wenig. Unbedingt ne.
19:30
Und wir wissen alle, wieso n ich ich nenn es mal wie der Mensch
19:34
ist. Ne der Mensch denkt sich och
19:36
Mensch ist ja ganz nett ja da hilft mir so n Ding so und dann
19:43
denkt man sich so OK es funktioniert ja ganz gut ja
19:45
funktioniert ne Woche gut funktioniert n Monat gut und
19:49
dann sagt man OK gib ihm mal richtig so ja und dann.
19:53
Hast du da was weiß ich für Daten drin, dann passieren da
19:56
Dinge. Also das ist ja so n hohes Maß
19:59
an Autonomität oder wie man das nennen mag, dass du vielleicht
20:03
auf der einen Seite sehr bequem bist und auf der anderen Seite
20:05
aber ja, und jetzt sind wir bei dem Punkt die Kontrolle halt
20:07
verlieren kannst. Du weißt nicht mehr genau was da
20:09
passiert, ja du weißt nicht mehr genau was da los ist.
20:13
Also um das noch mal zu sagen, Kontrollverlust der hier gemeint
20:17
ist, der ist. Es geht hier nicht darum, dass
20:19
wir sagen, es gibt jetzt hier direkt so n Science Fiction,
20:22
Terminator ne. Darum geht es jetzt nicht,
20:25
sondern es geht wirklich darum, dass der Mensch einfach
20:27
irgendwann nicht mehr nach nicht mehr vollständig versteht oder
20:30
nachvollziehen kann, was ein Agent tut und warum so.
20:34
Und wenn dann Dinge passieren, wo du vielleicht erstmal
20:40
zurückverfolgen musst, Ewigkeiten, warum hat er das
20:42
jetzt gemacht? Ich versteh das gar nicht, wieso
20:44
hab ich jetzt auf einmal 9 Elfer in der Auffahrt stehen und bin
20:48
Hochverschaltet. Ne, also das muss man dann
20:53
erstmal herausfinden. Ganz erlaubt gesagt, es ist halt
20:58
also ich find es halt auch die Vorstellung, dass er zum
21:01
Beispiel auch wirklich so Mails beantwortet, Termine legt und
21:04
alles. Ich hoffe du kriegst das gar
21:07
nicht mit, wenn ihr jetzt zum Beispiel 2 Agents vom also.
21:10
Du und ein Geschäftspartner beispielsweise mal jetzt fiktiv
21:13
ne und die machen da hin und her die Agents.
21:16
Ja ne hier ne der Preis ne ja gut ne weißt du und klären das
21:20
unter sich und du weißt gar nicht mehr was da abgeht.
21:24
Übrigens wir haben jetzt Firma XY als Geschäftspartner
21:27
verloren, es droht vielleicht eine Klage aber kein Problem
21:30
ich. Kümmere mich drum sind das meist
21:34
die Deals zwischen Vidia und zum Beispiel Open Eye.
21:38
Gab mal wieder n. Milliardendeal ja, also die
21:41
wurden ausgehandelt von den. Tinchern kannst du nicht nur
21:44
hinstellen. Und sagen, ja, ja, war echt
21:46
toll, ja. Wenn du klärst, wo die Kohle
21:49
herkommt, alles gut und das ist halt wirklich genau das ist der
21:54
Kontrollverlust. Das ist jetzt nicht mal
21:56
wirklich, dass man irgendwie vom Leben ausgesperrt wird, es gibt
21:59
ja auch wirklich Szenarien, die manche sich vorstellen, da sind
22:02
wir ja gar nicht, ne. Dass du jetzt irgendwie komplett
22:04
kontrolliert wirst oder so. Aber es geht einfach schon im
22:07
ersten Schritt und da stehen wir so ein bisschen davor, darum zu
22:12
sagen, habe ich noch wirklich eine Kontrolle darüber, was im
22:16
Hintergrund passiert, oder sehe ich nur noch Auswirkungen, also
22:21
so Input, Output, aber die Verarbeitung ist halt für mich
22:25
nicht mehr verständlich, was da passiert, warum kommen diese
22:28
Ergebnisse wie sie kommen, ja. Klar hast du das beim bei so
22:32
einem Chatbot wie wir, wie ich ja anfangs meinte, was ja
22:36
wirklich auch schon viele verwenden, Chat GPT zum
22:38
Beispiel. Klar weißt du ja auch nicht was
22:41
unter der Haube passiert, aber das ist so.
22:44
Ich geb dir was und ich bekomm was und da ist nichts mehr
22:46
irgendwie was aus dem Ruder laufen kann.
22:50
In dem Moment weißt du wie ich das mein.
22:52
Es ist nicht so, dass Churchill PT nebenbei sagt, ja warte,
22:55
antworte ich dir gleich, aber interessanter Chatverlauf hier,
22:58
was ist denn da los? Weißt du, das ist es.
23:01
Halt nicht, aber an dem Punkt stehen wir jetzt ja vielleicht
23:06
bis hinzu, und das ist jetzt schon n bisschen weiter
23:08
gesponnen, dass du sagst, so, na ja, ich hätt gern das und das
23:11
mach das mal für mich, nee, tut mir leid, das kann ich nicht
23:14
machen, wieso nicht? Na aber ich denke das ist nicht
23:16
gut für dich, wenn ich jetzt diesen Termin mache, ja.
23:19
Zu deinem Wohl werde ich das jetzt nicht tun, oder?
23:22
Zu deinem Wohl habe ich übrigens jetzt mit Person XY die
23:26
Freundschaft gekündigt, wieso? Na ich hab die Chats analysiert
23:31
und da sind viele Beleidigungen drin na ja, aber das ist immer
23:34
so n bisschen spaßeshalber zwischen uns na da da da.
23:37
Na Tim, der tut dir nicht gut, ich, ich muss dir ja noch was
23:40
erzählen. Also ja, das mit uns ey, er hat
23:45
gesagt wir dürfen nicht mehr miteinander reden.
23:48
Das ist übrigens die letzte Podcast Folge.
23:49
Danach dürfen wir uns nicht mehr hören, aber ich stell mir das so
23:54
n bisschen. Also ich find das ja auf jeden.
23:55
Fall ist n interessantes Gedankenspiel.
23:58
Weil also so wie man ja zum Beispiel damals irgendwie so n
24:02
wieso n Smartphone aufkam. Ja und man wo ich mir zum
24:05
Beispiel auch noch dachte, so, ja ja klar, Smartphone OK,
24:08
funktioniert doch erstmal noch so.
24:12
Also man kommt ja wahrscheinlich irgendwann in diesen Modus, dass
24:15
du halt vielleicht kein Smartphone mehr unbedingt hast.
24:17
Also vielleicht schon noch, aber dass der essentielle Part, den
24:21
du hast, einfach persönlicher Agent ist.
24:24
Ne, also wenn. Es mag ja noch nicht so weit
24:28
sein, aber ich kann mir schon durchaus vorstellen, einfach aus
24:30
dem Grund, was ich meinte, so n Mensch ist ja irgendwie faul,
24:33
der denkt sich ja so, je mehr mir abgenommen wird, desto
24:35
besser ist es ja, ist ja eigentlich ganz ganz lässig, bis
24:38
man halt irgendwann an den Punkt kommt, wo man sich so denkt.
24:40
So Gott, ich kann ja, ich hab ja völlig die Kontrolle verloren,
24:42
so ne wie du meintest so ne, dann darfst du das und das nicht
24:45
mehr so oder das wäre vielleicht nicht so gut.
24:48
Aber ich stell also so kann ich mir aber vorstellen, ne, dass du
24:50
dann, dass du nur noch irgendwie so deinen Agenten hast, mit dem
24:53
du am besten nur noch immer so kurz so sprichst und sagst so,
24:56
ja hier mach mal bitte das und das.
24:57
Ja das und das mach mal bitte dies und jenes und das und das
24:59
Termin für das bla bla bla und dann vielleicht auch gar nicht
25:02
mehr an so viel Anweisung geben musst, weil er das ja irgendwann
25:04
einfach gelernt hat. Ne ich glaube dieser dieses Open
25:08
Claw, dieser Open Claw Agent, der erstellt ja auch so ne Soul
25:11
Datei ja von einem die analysiert wie du bist.
25:16
Wer du bist, was du, was du für ne Persönlichkeit hast.
25:19
Na ja, also die ja, ja genau, also die Soul Datei ist quasi
25:24
seine Seele und über seinen Anwender legt er auch eine an.
25:27
Genau also es gibt halt quasi so 2 Files die ihn definieren und
25:32
dich beschreiben sozusagen. Ja genau, aber im Endeffekt soll
25:35
es ja schon wahrscheinlich so sein, dass diese, also dass er
25:39
so agiert wie du, weil sonst macht es ja irgendwie nicht so
25:41
viel Sinn. Wenn zum Beispiel.
25:43
Ja, du sagst ihm genau, du sagst ihm ja das, das macht man ja bei
25:46
Chat GPT zum Beispiel auch, dass du sagst und bitte.
25:49
Also wie oft liest man irgendwelche Prompts wie ja du
25:52
musst ihm sagen, verhalte dich wie ein Marketingexperte oder
25:56
und so weiter ne, da sind ja so diese Prompts, die Geistern ja
25:59
auch durch Social Media einfach überall umher so ne und
26:03
natürlich funktioniert das insofern, dass du ihm sag ich
26:06
mal ne Seele gibst und das ist dann wie du meinst ja nichts
26:08
anderes zu sagen, sei bitte so und so oder?
26:12
Wenn er was macht, ja oder wenn er was macht, dass du sagst,
26:16
nee, aber antworte bitte so und so oder wenn ich dich sowas
26:20
frage, dann antworte bitte in dem und dem Format, oder weißt
26:24
du also, dass du ihn so n bisschen längst und formst und
26:29
sowas quasi hinterlegt, der sich dann sozusagen um darauf wieder
26:34
zuzugreifen zu können und gleichzeitig, und das ist für
26:37
mich halt so, neu an der Stelle, dass er das Halt für dich auch
26:40
macht, ne, dass er quasi wieso n Tagebuch über dich führt, klingt
26:46
n bisschen witzig, aber im Endeffekt ist es nichts anderes
26:49
so nach dem Motto, Oh heute hat er aber n schlechten Tag gehabt,
26:52
der Fabi. Ich hab ihm was gegeben, der war
26:54
völlig angepisst. Das war nicht richtig.
26:55
Oh mein Gott, nie wieder erwähne nie wieder diesen Punkt.
26:59
So weißt du aber, das ist ja, finde ich, ja genau der Punkt.
27:02
Weil also diese Datei über einen wird ja angelegt, damit eben das
27:06
Modell weiß wie man ist und vielleicht sich auch selber so
27:09
verhalten kann, also gerade wenn wenn du jetzt zum Beispiel
27:11
irgendwelche Chats hast und er also der Agent schreibt die
27:15
Chats für dich oder antwortet für dich, dann wäre es ja schon,
27:18
ich sag mal zumindest aus meiner Sicht, wenn er das Macht, wäre
27:21
es schon schön. Wenn er es so macht, wie dass es
27:24
auch nach mir klingt, weil sonst ja, denkt man ja, ich würd es,
27:28
kommt halt drauf, kommt halt drauf an bei so so schreiben, ja
27:31
versteh ich, dann soll es natürlich in deinem Namen sein,
27:34
bei anderen Aktivitäten nimmt der ja schon ne eigene Rolle
27:37
ein, dann sozusagen ne wie ich ja gerade meinte mit sowas wie
27:40
sei ein Marketingexperte ja, dass wenn du selbst einer wärst,
27:43
bräuchtest du ihn nicht fragen, so mal überspitzt gesagt weißt
27:47
du aber. Ich sag mal im großen und ganzen
27:50
ne. Selbst wenn du also ne wo es wo
27:52
es hingehen kann, also es ist es sind ja es sind ja meistens, es
27:56
sind ja es startet so ne, es sind diese Kleinigkeiten mit
27:59
denen es losgeht ne und wir wissen ja es kann sich noch
28:02
verändern und es wird sich sicherlich auch verändern, aber
28:05
ich finde es ist immer so n guter Anhaltspunkt wo kann die
28:07
Reise hingehen? Es muss nicht unbedingt sein,
28:09
dass sie da hingeht, aber wo kann die Reise hingehen?
28:11
Und gerade bei solchen Dingen glaub ich, dass es auch ne
28:15
gewisse Richtung gibt, in die das Ganze geht.
28:19
Einfach aus der Erfahrung heraus ne und ich würd mittlerweile nie
28:21
sagen, das glaub ich nicht weil ganz ehrlich, also sind wir mal
28:25
wirklich legen wir mal die Hand aufs Herz ich weiß nicht wie es
28:28
bei dir ist. Was hast du denn zum Beispiel 3
28:31
Jahre bevor es JGPT gab gedacht wie sich die ganze Sache
28:35
entwickelt das ist würdest du hättest.
28:37
Du gedacht, dass das, wie es heute ist, so wäre oder nicht?
28:41
Ja, natürlich nicht, also wie gesagt, das ist so schnelllebig
28:44
die. Die Entwicklung ist so rasant,
28:47
ja, dass man kaum hinterherkommt, sich Sachen
28:50
vorzustellen, wie sie werden könnten.
28:52
Das, finde ich, kann man ruhig mal so sagen, ja, also vor einem
28:54
Jahr dachte man noch, na ja, das auf keinen Fall und jetzt denkt
28:57
man sich so, ja OK, krass, aber das auf keinen Fall und so geht
29:00
es ja gefühlt seit 23 Jahren ja genau, also das ist halt so
29:03
rasant vorwärts schreitet und das ist halt auch irgendwie das
29:06
gefährliche und zur Frage wie ich das heutzutage sehe, na ja,
29:11
zu 10% hat man ja vorhin geklärt, ne?
29:13
Ja. Ich find es von 0% in der
29:17
letzten Zeit auf 10. Ja mal gucken wo wo wir in 3
29:20
Monaten stehen. Ja gut, gut sollten sollten wir
29:23
mal dann noch mal drauf zurückkommen, dann in 3 Monaten.
29:26
Aber ich find halt so. Also was ich interessant finde
29:29
ist, dass es halt die einen gibt, es gibt ja immer mehrere
29:31
Lager ne und nehmen wir mal so 2 ganz krasse Lager ne die einen
29:36
sagen Boah Kontrollverlust und die anderen sagen chill uns kann
29:39
nichts passieren. Ich find es halt interessant,
29:41
dass da wo die einen sagen, ey, das ist jetzt irgendwie ein
29:44
Schockmoment, der Open Claw, krass was da abgeht.
29:46
Das ist auf jeden Fall schon eigentlich schon der Start von
29:48
einem Kontrollverlust, den wir hier erleben, gibt es halt auch
29:52
andere ne so das ein oder andere Unternehmen, dass das ganze halt
29:55
wie ich meinte ne die andere Seite, die es nicht ganz so
29:58
kritisch sieht, ne kann man sich jetzt fragen warum wie kann es
30:01
sein, dass so ein Unternehmen sich denkt EY ist doch gar nicht
30:03
so schlimm? Na ja, ich find es also erstmal
30:07
sinnbildlich schon ziemlich krass, dass dieses Gipfeltreffen
30:10
da in Neu Delhi im Prinzip nicht nur 1 war, sondern 2, die so
30:15
gefühlt parallel nebeneinander stattgefunden haben.
30:18
Einmal die Kritiker und einmal die absoluten Befürworter, die
30:22
es immer weiter treiben wollen und das zeigt halt schon genau
30:24
das, was du meinst. Du hast 2 Lager und.
30:28
Die bilden natürlich ihre Bubbles und pushen das ne.
30:33
Und da wo liegt jetzt die Wahrheit und bekanntlich ja
30:35
immer in der Mitte. Also ich glaube, dass der
30:37
Fortschritt gute Seiten mit sich bringt und die Kritik angebracht
30:40
ist. Ja, und du hast jetzt aber 2
30:42
Gipfeltreffen, wo einmal die totalen Kritiker sind und auf
30:47
der anderen Seite die, die sich keine Platte machen und einfach
30:50
nur immer höher, schneller, weiter wollen.
30:52
Ja und das? Ich find beide bringen so ihre
30:55
Argumente mit sich. Das ist halt das Spannende
30:58
dabei, ne und definitiv, aber du hast halt einen Punkt.
31:02
Also ich find da ist halt da, schwingt halt auch viel Politik
31:05
mit, reden wir ja nicht so viel drüber, ist ja auch nicht so
31:09
Thema unseres Podcasts, aber an der Stelle muss man es ja auch
31:11
mal erwähnen, dass natürlich dieser Wettbewerb auch sehr
31:16
politisch getrieben ist. An manchen Stellen ne, dass zum
31:19
Beispiel die aktuelle. US Regierung sich hinstellt und
31:24
sagt, na ja, nee, wir wollen da keine Regulierung und
31:27
Limitierung, weil wir wollen diesen weltweiten Wettbewerb
31:31
nicht verlieren und wir haben hier starke US Unternehmen die
31:34
das richtig pushen und deswegen werden wir da jetzt keine Steine
31:39
entwickeln. Ja und dann immer so dieses.
31:42
Ja, dieser Klassiker, so wir können gegenüber China nicht
31:45
verlieren, weil China hat natürlich auch ihre Firmen, die
31:48
krasse Produkte da oder Weiterentwicklungen auf den
31:51
Markt bringen. Ne ja richtig, jetzt ist die
31:55
Frage, wer soll jetzt die Rolle einnehmen und sagen Hey Stopp
31:59
mal Leute ja Wettbewerb hin oder her, jeder will Erster sein OK
32:02
aber wir müssen ja auch mal n bisschen dran denken, wie können
32:06
wir das Ganze noch kontrolliert gestalten weil sonst gucken wir
32:08
am Ende alle in die Röhre ne egal wer erster ist.
32:12
Also es gibt ja zum Beispiel Forschung.
32:13
Wie? Spannend, ja.
32:14
Gibt ja zum Beispiel so Forschungseinrichtungen und halt
32:16
eben regierungsunabhängige Einrichtungen.
32:19
Ne die halt auch sagen Ey Leute, es wäre wirklich schön.
32:23
Ja gerade bei diesem, bei diesem Ausblick, den wir hier mit Open
32:26
Claw zum Beispiel sehen, dass man bis Ende des Jahres sich
32:29
irgendwie auf ne rote Linie einigt, wo man sagt KI darf
32:33
diese Linie nicht überschreiten, ja, also zum Beispiel sowas wie
32:36
ich denk mir jetzt was aus, ne KI soll keine.
32:40
Oder darf keine hochsensiblen Daten haben.
32:44
Mal als Beispiel ne oder man muss bestimmte Dinge immer
32:47
freigeben. Ich weiß es nicht, aber
32:48
irgendwie, dass man sagt Ey Leute, also das ne, also es ist
32:51
jetzt nur Beispiel die ich mir gerade ausgedacht hab, nicht die
32:53
irgendwo gefordert werden aber ich find es halt interessant,
32:57
dass es halt einfach diese Leute gibt und ich manchmal trau.
33:01
Also ich trau so Forschungseinrichtungen die
33:03
unabhängig sind, schon würd ich sagen in einem Gewissen im
33:07
gewissen Rahmen. Und das finde ich dann halt
33:11
krass. Ne und was ich interessant finde
33:14
ist, dass ich glaub auch auf dieser Neu Delhi Konferenz war
33:16
dann auch jemand der meinte ja aber wir sollten das ganze jetzt
33:20
nicht so krass als superwaffe sehen, ne, weil da wurde dann
33:25
irgendwie gesagt so wenn du irgendwie sagst ey, wenn du AI
33:29
zu krass vorantreibst, dann hast du irgendwann den Star Wars
33:31
Todesstern ja. Und wenn du das als Todesstern
33:36
Betitelst, dann will jeder diesen Todesstern haben.
33:38
Wie zum Beispiel war so Vergleich mit Atombombe ne so?
33:41
Ja Atombombe ist super superkrass und alle so OK, die
33:45
ist Superkrass die brauchen wir baut alle diese Bomben so ne und
33:50
ich versteh das ja, dass man vielleicht sagt so OK ja mach es
33:54
nicht zu diesem Todesstern ja metaphorisch, aber wenn du das
33:59
nicht tust, dann verharmlost du es total.
34:01
Ja, und da muss man dann halt, finde ich, auch wieder n
34:03
bisschen aufpassen, gerade wo zum Beispiel auch Personen aus
34:06
dem Silicon Valley, die halt eben in dieser Technologie
34:08
arbeiten und diese Technologie vorantreiben, aber halt
34:11
Angestellte sind, da gibt es auch Menschen, die sagen, die
34:16
würden es lieber gerne, diese ganze Entwicklung langsamer
34:19
machen, die also langsamer beziehungsweise vorsichtiger an
34:21
diese ganze Sache rangehen, aber wenn, wenn sie das machen
34:24
würden, ja dann haben die auch selber gesagt, dann würden die
34:27
gefeuert werden, weil es quasi heißt so ey.
34:31
Gib mal Gas, wir müssen hier sozusagen dieses Rennen, was du
34:34
meintest, um die bessere KI müssen wir gewinnen.
34:37
Ja ja, also erstmal krass, dass sie ne Star Wars Metapher da
34:43
bringen oder Analogie, das find ich schon mal cool, sehr
34:45
sympathisch aber ja also die Parallele ist krass mit zur
34:50
Atombombe das zu ziehen. Aber ich kann in gewisser Weise
34:54
verstehen, dass sich Leute hinstellen und sagen, ja, dem
34:56
Oppenheimer hat man auch nicht gesagt, du mach mal nicht.
34:59
Das ist ziemlich krass, was wir hier vorhaben, sondern der
35:02
technologische Fortschritt in dem Moment und der Wettbewerb
35:05
auf der Welt stand im Vordergrund und man wollte der
35:08
Erste sein, und diese Parallele kann man ziehen, ist halt ne
35:14
krasse parallele, ne, also da möchte halt niemand drüber
35:17
nachdenken, versteh ich, ist halt auch heftig, aber es hat
35:20
halt gewisse. Wie soll ich sagen, mehr
35:23
Parallelen einfach ne und das zeigt aber auch, dass sie auf
35:28
dieser Konferenz natürlich sich die Leute versammeln, die das so
35:34
sehen, sehr drastisch und sagen Leute, letzte Ausfahrt, jetzt
35:39
müssen wir das machen, am besten bis Ende des Jahres, weil sie
35:42
wissen natürlich auch, wie schnell das voranschreitet,
35:45
deswegen die Deadlines, ja. Ich fand es ja auch krass, dass
35:49
einer sogar gesagt hat, ja, wenn wir das nicht machen, ist das
35:52
das Ende der Menschheit. So so ne Aussagen wurden da ja
35:55
auch berichtet, ja, dass das und das sind keine Leute.
35:58
Die wie gesagt bei Tante Emma eben an Einkaufen noch mal
36:01
schöne Grüße, sondern zum Beispiel gab es da ja auch ich.
36:06
Ich hab die Namen leider nicht am Start, falls es da Bedarf
36:09
gibt, können wir es gerne nachliefern, aber zum Beispiel
36:12
somit die ersten Bildgeneratoren AI basiert quasi entwickelt
36:17
haben ja und dann irgendwelche COS waren in Firmen und jetzt
36:20
gesagt haben. Du, ich muss jetzt auf die
36:22
andere Seite und ich muss das Ganze verhindern, dass das
36:26
Unreguliert bleibt. Von solchen Leuten reden wir ja
36:29
an der Stelle, die technisch wissen, was da abgeht und das
36:33
find ich halt spannend an der Stelle ne.
36:35
Was ich witzig finde, Tino noch mal ganz kurz, ich hab ja auch
36:39
AI mal gefragt, ja was AI dazu sagt zu dem Thema und ich hab
36:43
gefragt ob also wohlbemerkt chipity.
36:52
Und hab gefragt, was sozusagen der Version 5.2 sagt, ob die
36:58
Menschheit die Kontrolle verliert.
37:00
Ja, mich hat das mal interessiert.
37:01
Ja, was sagt denn EY selber dazu?
37:04
Ne und die Antwort war fand ich ganz interessant.
37:10
Ja Menschheit kann es schaffen, kein Problem, weil es ist von
37:13
Menschen gemacht. Dieses Thema haben wir unter
37:15
Kontrolle. Hardware, Algorithmen,
37:17
Infrastrukturen, alles unter unserer Kontrolle, das heißt
37:20
dadurch, dass wir es erschaffen haben, haben wir auch die
37:22
Kontrolle oder die Möglichkeit der Kontrolle darüber, es gibt
37:25
aber Risiken, ja, wie zum Beispiel ja, und die Risiken
37:29
sind ganz interessant, wenn man jetzt, wenn KI immer autonomer
37:35
wird, könnten Risiko sein, zu schnelle Entwicklung der KI
37:38
könnten Risiko sein. Ne schwache globale
37:43
Kommunikation könnte auch n Risiko sein.
37:45
Heißt also im Fazit Ja, die Menschen kann es kontrollieren,
37:48
wenn wir kollektiv frühzeitig entschlossen handeln, ja und
37:54
sagen, dass wir uns, also dass wir, dass das ne Einigung gibt,
38:00
ne, also dass man wirklich sagt, wir achten darauf, dass die
38:07
Sicherheitsmechanismen Schritt halten bei diesen.
38:10
KI Modellen und dass der wirtschaftliche Druck halt nicht
38:15
zu groß wird im Verhältnis zu einer globalen Abstimmung.
38:21
Ja und? Ja gut, das sind ja im Prinzip
38:24
genau die Punkte oder die wir angesprochen haben und die auch
38:28
die Konferenz im Prinzip ankreidet und bedenklich findet.
38:32
Heißt netto recherche. Ich finde nette recherche, was
38:39
ich halt lustig finde ist halt dieser Punkt, dass es das also
38:42
was kleiner Side Note Cha Chip, die hat immer wir gesagt.
38:46
Mhm. Ja, die die, die ist dabei
38:49
unter. Uns.
38:50
Sie ist bei wir der Menschheit dabei interessant.
38:52
Es gibt dir ein Gefühl von Sicherheit, auf jeden Fall so,
38:56
aber das interessante dabei finde ich immer so nach dem
39:00
Motto Ja geht falsche Sicherheit, ja.
39:03
Aber das interessante dabei find ich immer, dass es heißt, so,
39:05
ja, wir können das schaffen, ja, aber und das wichtige ist, dass
39:11
man sozusagen es schafft, sich global abzustimmen, und da denk
39:16
ich mir, so kann ja jeder mal selber überlegen, wie gut das
39:21
momentan so auf der Welt funktioniert.
39:23
Ja, ja, das halt. Das bleibt, ist und bleibt n
39:27
Kernproblem. Einigung zu finden da, und das
39:30
nicht nur, wie n Wettbewerb zu sehen, aber da es unfassbar
39:33
wirtschaftlich ist zur Zeit viele ja auch von so einer AI
39:36
Bubble sprechen. Ja.
39:39
Wird halt immer weiter gerannt und immer noch mal der erste
39:41
sein und die Cash Cow melken sag ich mal.
39:45
Und das kann halt noch richtig böse auf die Füße fallen.
39:50
Vielleicht auch so ne Art. Ja was heißt reset nicht aber.
39:55
Wirklich noch mal n Rückschritt geben zu sagen, nee, so können
39:58
wir es nicht machen. Und jetzt noch mal kontrolliert,
40:00
also hoffentlich ne besser als immer weiter und gar keine
40:03
Kontrolle mehr drüber zu haben und ich glaube das kann halt
40:07
auch so n bisschen das Fazit sein am Ende ja wer hat jetzt
40:12
recht von beiden Seiten beide irgendwie und das ist immer so
40:16
ne Antwort die sehr unbefriedigend ist.
40:18
Aber es ist so ist der Fortschritt gut, ja kann er uns
40:21
helfen in gewissen Punkten? Auf jeden Fall ist es.
40:25
Gerechtfertigt, so enthusiastisch zu sein dabei ja,
40:30
es ist ne geile Sache, es ist ne Neuheit und kann auch so n neues
40:33
Tech Zeitalter einleiten gehe ich mit bin ich nicht mal anti
40:37
ja dass ich das Gefühl hab er ist alles Quatsch bringt nichts
40:41
beim Coden haben wir auch schon viel drüber gesprochen kommt
40:45
viel Müll raus, kann dir aber an gewissen Punkten schon sehr gut
40:48
helfen so und das innerhalb von paar Monaten gefühlt
40:52
Entwicklung. Ist es schon zu dem Punkt
40:55
gekommen, dass man sagt, Ey, es kann mir helfen und noch n paar
40:57
Monate weiter, kann es dir wahrscheinlich noch besser
40:59
helfen und ersetzen ist dann wieder so n Thema.
41:03
Nee glaube ich nicht und dann gehst du auch wieder, dann kommt
41:07
man halt schon auf die andere Seite zu sagen, ja wer
41:09
kontrolliert das denn am Ende noch, ja.
41:12
Und es gibt ja auch Berichte von großen Unternehmen, die viele
41:15
rausgeschmissen haben, gesagt haben, wir gehen Ey i driven ran
41:18
an die Sache und am Ende haben Sie gesagt, das war der größte
41:22
Fehler, den wir gemacht haben, so n paar Monate später, weil
41:24
alles die Qualität abgenommen hat und alles gibt es ja auch
41:27
Berichte, ja braucht man nur mal googeln und das zeigt halt, dass
41:32
irgendwie beide Lager recht haben und man sich irgendwie in
41:34
der Mitte treffen muss und das ist so finde ich auch die
41:36
Kernbotschaft dahinter. Es muss Austausch geben, es muss
41:40
globalen Austausch geben und es muss kontrolliert sein.
41:44
Ja, also damit mein ich nicht Leute ausgrenzen, also
41:48
ausgrenzen im Sinne von ihr dürft es nicht verwenden und ihr
41:50
dürft es verwenden, sondern auch so n gewisses Monitoring, ja
41:53
dass es gewisse Vorgaben gibt, wie das Ganze zu entwickeln ist,
42:00
welche Anforderungen eingehalten werden müssen, ja und openclaw
42:04
ist n gutes Beispiel für. Total zugänglich und wirklich
42:09
mit Sicherheitslücken bestückt sozusagen.
42:12
Ja, ich finde, wir sagen ja immer, man sollte nicht auf
42:16
Tests verzichten und ich finde, gerade dabei sollte man
42:20
bestimmte Sicherheitsmechanismen einbauen, die so als Art ne
42:24
Rückhalt, wieso Tests halt auch dienen und die auf gar keinen
42:27
Fall weglassen, ne, also dass man irgendwie halt eben sich wie
42:30
du meintest, sich auf bestimmte Dinge auch einigt und sagt.
42:34
Was kann man denn tun, damit es eben nicht irgendwie aus dem
42:38
Ruder läuft? Ne und wie gesagt, es heißt ja
42:41
nicht, dass das jetzt bis Ende des Jahres passiert, wenn man da
42:44
sich nicht drauf einigt, es gibt ja auch wirklich noch Probleme,
42:49
die KI hat die noch ungelöst sind, ne, was vielleicht auch in
42:52
Ordnung ist. Ja alle mal ganz entspannt
42:55
bleiben, es muss nicht alles morgen fertig sein, ja.
43:00
Ich finde man, man kann sich auch n bisschen Zeit lassen bei
43:02
manchen Dingen ja einfach mal auch Dinge genießen und nicht
43:06
immer nur durchrushen. Ja weißt du.
43:09
Ist so. Ist so.
43:10
Einfach auch mal bei einem Spaziergang sich auf ne Bank
43:12
setzen und sich einfach mal angucken wie schön alles ist.
43:15
Ja, ich find das muss man auch mal machen im metaphorischen
43:19
Sinne, auch in der Softwareentwicklung.
43:21
Ja Mhm, gönnt euch doch mal wieder ne richtig schöne
43:25
Funktion die ihr schreibt und nicht weit.
43:29
Schön schön gesagt, schön gesagt.
43:33
Ja, ich find halt was man so abschließend noch sagen kann,
43:38
ne, das klingt immer alles sehr aufgeblasen im Sinne von
43:43
vielleicht dramatischer dargestellt als es eigentlich
43:46
ist. Und wenn man auch so Artikel zu
43:50
dem Bereich liest, klingen die immer schon.
43:53
Wieso der Weltuntergang oder auf der anderen Seite wie die
43:56
absolute Revolution und morgen muss niemand mehr arbeiten und
43:59
alle werden in absoluten Reichtum leben.
44:01
Du findest ja alles dazu, was man an der Stelle sagen muss und
44:05
da hatten wir auch n ganz coolen Beitrag gesehen und der ist auch
44:09
so n bisschen Augen öffnend, man darf nicht vergessen, dass man
44:14
als Softwareentwickler oder Entwicklerin.
44:17
Oder als interessierte Person dafür natürlich voll in der
44:22
Bubble drinsteckt. In der AI Bubble, wie ich
44:28
glaube. Wir sind so die ersten mit
44:30
gewesen, die dieses Ausmaß festgestellt haben, die
44:33
Entwicklung, die einfach vorne dabei sind in Sachen sich mit
44:38
dem Thema zu beschäftigen und es wirkt alles so allgegenwärtig
44:43
und so kurz vor wichtigen Entscheidungen.
44:47
Weißt du, wie ich das meine? Weil zum Beispiel angenommen ja,
44:53
nehmen wir doch nur das Beispiel, Liebe Zuhörerin,
44:55
lieber Zuhörer, du bist jetzt mein Beispiel.
44:57
Du hörst den Coding Buddies Podcast und findest das cool?
45:00
Dann vielen Dank dafür und hörst halt öfter was über AI und bist
45:04
natürlich dadurch auch Teil dieser Bubble.
45:07
Wir sind Teil der Bubble, weil wir es zum Coden nutzen, weil
45:10
wir uns natürlich auch viel mit dem Thema auch für n Podcast mit
45:13
Beschäftigen und heißt für uns ist es allgegenwärtig, aber
45:17
jetzt auf diesen Beitrag gekommen.
45:20
Da wurden Zahlen genannt, dass im Prinzip gerade mal ungefähr
45:24
10% der Weltbevölkerung sich überhaupt mal mit so kostenlosen
45:28
Chat Modellen wie Chat GPT beschäftigt haben.
45:30
Ja, dass weniger oder ungefähr 3% überhaupt sagen, ich bezahle
45:38
Geld für den erweiterten Service dahinter, für bessere Modelle
45:43
und alles. Ja.
45:44
So also wir sind so Early, ja. Viel, viel Early geht es nicht,
45:52
das ist schön. Das Denglisch aber weißt du,
45:54
also reden wir jetzt davon, die Menschheit steht vorm Abgrund,
45:58
wie die einen sagen, oder ab morgen ist alles komplett
46:01
anders, wenn wir doch eigentlich bei dieser, sag ich mal Adaption
46:06
gerade sind. Ja, richtig, definitiv.
46:10
Also das ist ja, das ist NNN guter Punkt und das muss man
46:14
sich auch vor Augen halten, dass.
46:16
Ich glaube, du kannst irgendwie zu einem zu einem Menschen in
46:19
deinem Umkreis gehen, der vielleicht nicht so in dieser
46:23
Bubble drin steckt. Ja, aber zum Beispiel halt
46:26
Freund, Familie ist und sagt, Kennst du eigentlich Openclaw?
46:30
Hab ich gemacht, da hieß es, nee, keine Ahnung was ist das ne
46:33
also das ist ja mal so n so n kleines Beispiel davon, weil wir
46:37
sagen Boah krass haben wir auf jeden Fall mitgekriegt, gar
46:39
kein, gar kein Thema natürlich was du hast davon nicht gehört,
46:42
was ist mit dir los ne aber andere denken sich so keine
46:45
Ahnung hab ich nur nee weiß nicht was ist das und wenn du
46:48
dann erzählst was es ist ist so. Alter, das ist ja.
46:50
Krass, weißt du? Also klar, man kann ja jetzt
46:55
sagen, dass viele Unternehmen natürlich so Chatbots einsetzen
46:58
für ihre Websites und alles, und da hat man natürlich
47:00
Berührungspunkte, was wir natürlich an der Stelle meinen,
47:03
ist dieses Aktive selbst verwenden sozusagen zu sagen,
47:08
ich möchte das jetzt verwenden, von mir aus ne und ich krieg das
47:13
ja auch im Umfeld mit, was nicht so Tech getrieben ist.
47:16
Ja klar wird JGPT verwendet, auch nicht von jedem regelmäßig,
47:21
aber die ist. Es etabliert sich, sag ich mal.
47:24
Aber wir sind halt einfach an einem Punkt, wo es noch locker
47:28
kontrollierbar ist mit guten Regulatorien.
47:32
So weißt du wie ich das mach. Ja.
47:34
Also das ist n. Der Zug ist nicht abgefahren,
47:36
der ist noch lange nicht abgefahren und ich find es gut,
47:38
dass man jetzt anfängt schon was heißt schon ja hätt man auch n
47:42
bisschen früher wär es OK gewesen.
47:44
Aber dass man sagt, wir müssen uns, wir müssen uns mit diesem
47:47
Thema beschäftigen und es ist n guter Zeitpunkt, immer noch,
47:51
sich damit zu beschäftigen und das noch in gute Bahn zu lenken.
47:54
Ich glaube also, ab morgen ist nicht Terminator 1 und 2
47:57
angesagt, weißt du? Richtig also dann erst nächstes
48:00
Jahr, oder? Nee, auf jeden Fall.
48:02
Nächste Jahr dann auf jeden Fall nee.
48:05
Aber ich stell jetzt einfach noch mal ne Frage in Raum, die
48:08
sich ja jeder mal kurz beantworten kann.
48:10
Einfach mal ne Frage, die kann man mit nach Hause nehmen, ja.
48:12
Wenn AI irgendwann mal komplett übernimmt, übertreibt jetzt, wie
48:16
nehmen dann und das ist ne Frage, die hab ich mir auch
48:17
gestellt, wie nehmen dann Staaten die Steuern ein und das
48:22
nehm ich jetzt lass ich es einfach mal so stehen ja kann ja
48:24
jeder mal drüber nachdenken und dann nenn uns die Antwort auf
48:29
diese Frage genau nee aber wir können da gerne mal auf Discord
48:34
drüber diskutieren weil und da kommen wir nämlich dahin wenn du
48:38
Bock hast. Noch n bisschen intensiver über
48:41
das Thema zu quatschen, dann komm auf jeden Fall auf unseren
48:43
Discord. Der Link ist in den Shownotes
48:45
und uns wird es auch mega interessieren, dass du generell
48:48
zu diesem Thema sagst, wie siehst du die Entwicklung von KI
48:51
Agenten, Fluch oder Segen und wie geht für dich das ganze
48:56
weiter? Also das wird uns mega
48:57
interessieren, das ist auf jeden Fall mega spannend und ansonsten
49:01
würde ich einfach mal sagen, wenn dir der Podcast gefällt.
49:05
Den wir hier machen. Dann empfiehl uns gerne weiter.
49:09
Bewerte diesen Podcast auch sehr sehr gerne, falls du es noch
49:12
nicht gemacht hast. Ansonsten vielen vielen Dank
49:14
dafür und wenn Du sagst ey die beiden das ist es, da kann ich
49:20
noch n bisschen mehr unterstützen, dann gibt es auch
49:22
n kleinen Spendenlink unten in den Shownotes guck da gerne mal
49:26
rein und ja ich würd sagen Tino vielen Dank fürs Gespräch, hat
49:31
Spaß gemacht sehr brisantes Thema ich könnt glaub ich noch n
49:33
ganzen Tag mit dir darüber quatschen.
49:35
Ja, ist wirklich spannend. Und in diesem Sinne würde ich
49:38
einfach mal sagen, wir hören uns in der nächsten Folge wieder
49:41
deine Coding Buddies. Gemeinsam besser.
49:50
Und jetzt? Schnappt ihr das Geld vor
49:51
weiter? Wir haben.
49:52
Noch besser zu tun.