Latest / LautFunk / Die Abschweifung 77 Wenn KI die Grafikkarten frisst

Transcript

Die Abschweifung 77 Wenn KI die Grafikkarten frisst · LautFunk

0:00
*Musik*
0:02
[Musik]
0:31
Hallo und willkommen zu einer neuen Ausgabe der Abspeilfunk. Ich bin Sascha Markmann und ich sage
0:39
Hallo. Eins vorweg, bitte entschuldige meine etwas beschlangene Stimme, aber ich habe die
0:47
letzten Tage so ein bisschen mit Erkältungssymptomen zu tun gehabt oder so was ähnliches. Man weiß es
0:56
nicht. Ja, das heutige Thema, ja, das ist initialisiert durch Grafikkarten. Ich habe
1:09
im November das letzte Mal für mich persönlich eine Grafikkarte für meinen Rechner geholt und
1:17
da habe ich halt, sagen wir mal so 440 Euro bezahlt. Und wenn ich die gleiche Karte jetzt kaufen würde,
1:25
würde ich weit über 600 oder fast 700 Euro dafür bezahlen. Das ist der aktuellen Speicherkrise zu
1:36
verdanken. Genauso gut ist es mit Arbeitsspeicher, der bis zu 800 Prozent teurer geworden ist,
1:41
vor allem wenn es schneller Arbeitsspeicher sein soll. Oder SSDs, also diese elektronischen
1:49
Festplatten. Die sind auch alle teurer geworden. Selbst drehende Festplatten sind teurer geworden.
1:56
Und alles weil fast eine Million von den guten Euros weltweit in KI-Rechenzentren gesteckt wird.
2:08
Der Markt ist quasi leer gekauft. Ich hatte jetzt gelesen, dass Samsung, ich glaube, für das Jahr
2:15
26 die gesamte Jahresproduktion verkauft ist. Das haben sie gemeldet und manche haben sogar
2:24
schon für 27 die gesamte Jahresherstellung verkauft gehabt. Da kann man sich mal vorstellen,
2:31
wie das für die armen kleinen Endverbraucher aussieht und nicht für du irgendwelche KI
2:37
Hardware für, wo eine Grafikkarte jenseits der 10.000 Euro kostet. Ich hätte gerne eine Nvidia
2:44
H100. Hätte ich echt gerne. Das wird meinen Projekten einen gewaltigen Boost bringen,
2:53
aber nicht die Stromkosten. Oh mein Gott. Naja, kleiner Diskurs zur aktuellen Situation. Das
3:04
Ganze brachte mich dann jetzt so mal zu überlegen. Ich habe zu meinem ersten Computer,
3:09
also ich hatte schon vorher welche, also Schneider PCP oder CPC, CPC 464, so hieß der. Eine fantastische
3:25
Maschine mit einem tollen Prozessor Z80, da konnte man echt viel mehr mitmachen als nur
3:30
die Spiele zu spielen. Hat nur keiner. Dann hatte ich auch einen C64 von Commodore, der war dann
3:39
hauptsächlich zu spielen. Auf den anderen habe ich tatsächlich programmiert und da habe ich verdammt
3:43
viel gelernt. Und das war so mit, ja ich habe so mit zehn angefangen und das war 87. Ich bin Jahrgang
3:52
77 und damit ist der Bogen geschlagen. Die 77 Folge, die Abschweifung, Geburtsjahr 77. Hey,
4:00
toll. Kleiner Side-Fact für die Datensammler unter uns allen. Auf jeden Fall habe ich dann,
4:08
das war gewesen, Weihnachten 92, also kurz bevor ich 15 wurde, habe ich von meinen Eltern,
4:20
von meinen Tanten und allen anderen Verwandten zu Weihnachten und zum Geburtstag, den ich später
4:26
habe, einen PC bekommen. Einen 386er SX25 megahertz mit zwei Megabyte Arbeitsspeicher,
4:36
einer 100 Megabyte Festplatte und jetzt kommt es eine 512 Kilobyte großen Grafikkarte. Also ein
4:45
halbes Megabyte. Nicht Gigabyte, Megabyte. Also 1024 Megabyte sind ein Gigabyte. Das ist so winzig
5:00
winzig klein im Vergleich zu den 8 Gigabyte und 16 Gigabyte Monster von heute. Oder halt wenn es
5:09
halt eine 80er oder 90er ist mit 24 und noch mehr Gigabyte Arbeitsspeicher. Ja und das Ding war toll.
5:20
Das muss man sagen, es gab ja damals SX und DX. DX war halt 32-Bit Prozessor mit 32-Bit Bus. Der SX
5:33
hatte halt intern 32 bit aber halt nach extern ein 16 bit bus das hat ein bisschen langsamer gemacht
5:40
aber die hardware billiger. Trotzdem hat das ganze damals so 1300 DM kostet und war natürlich ein
5:50
verdammt großes geschenk. Deswegen weihnachten und geburtstag und ich war so happy so happy
6:00
Natürlich bestand das Set aus einer Tastatur, einer Maus und einem Monitor samt diesem schönen
6:09
Midi-Tower-Gehäuse in Grau, wie so damals üblich. Und damit habe ich dann halt weitergemacht. Diese
6:20
100 Megabyte Festplatte, die da drin war, die war unglaublich riesig. Selbst meine Tante und
6:27
Mein Onkel, die halt an der Uni waren und zu dem Zeitpunkt an ihren Doktorarbeiten geschrieben
6:34
haben, die hatten 40 oder 80 Megabyte und die waren alle neidisch.
6:39
Und da hörte man auch so Sprüche wie "Das wird niemals voll werden, da wirst du Ewigkeiten
6:45
mit klarkommen."
6:46
Hast du schon mal einen jungen Teenager gesehen, der halt einen Rechner hat, Zugriff auf alle
6:57
möglichen Programme, abgesehen jetzt von Works und damals Harvard Graphics oder so,
7:04
die er installiert hat, Nebenspiele, auch Programmierumgebungen, so C++ und sowas.
7:12
Habt ihr das schon mal gesehen? Das Ding war ständig voll und ich habe da einfach nur mit
7:19
Spaß gehabt. Und wenn ich das jetzt so in Relation setze zu dem, was ich heute habe,
7:24
einen Intel i9 13900K, 64 gigabyte Arbeitsspeicher, 8 terabyte an SSD, wobei drei Stück MVMEs sind
7:39
und eine SATA, so als Datengrab. Da muss man sich mal überlegen, dass der Prozessor zwischen 10.000
7:49
und 40.000 mal schneller ist und 32.000 mal mehr Arbeitsspeicher oder das ist auch so unglaublich
8:00
84.000 mal mehr Festplatten Kapazität. Das muss man sich mal überlegen und wenn man so überlegt,
8:09
dass halt von einer Festplatte zu einer anderen Festplatte in diesen 386er es bis zu 14 Minuten
8:15
gedauert hat ein gigabyte zu kopieren und zwei sekunden bei der sata ssd oder 0,15
8:26
sekunden bei meinen samsung mvm ssd das ist mindblowing das ist 5800 mal
8:37
schneller scheiße und das alles in diesen paar jahren
8:44
Kannste mal sehen, was 30 Jahre in so einer technologischen Entwicklung ausmachen.
8:48
Und das ist, der Prozessor, den ich jetzt habe, der ist ja auch schon ein bisschen älter.
8:52
Es gibt ja schon neuere Generationen.
8:54
Ich glaube zwei.
8:56
Ich meine, ich beschäftige mich mit Prozessoren und Mainboard immer nur, wenn ich die neu brauche.
9:02
Ich meine, ich kaufe mir öfters neue Grafikkarten, weil ich die Leistung da brauche, aber bei den Prozessoren nicht so.
9:08
Natürlich habe ich ja damals auch angefangen zu programmieren mit GW Basic. Das ist jetzt egal,
9:14
das ist eine ganz einfache Programmiersprache. Basic gab es schon auf dem C64 und auf dem Schneider,
9:20
deswegen kannte ich das ja auch. Und da habe ich mir ein Mandelbrot, das ist so das bekannteste
9:26
Fraktal überhaupt, damals gemacht. Und ich hatte damals halt den SX gehabt und da hat das bis zu
9:34
90 Minuten gedauert, bildschirmfüllend. Dann, weil mir das einfach immer zu lange
9:39
gedauert hat, habe ich mir halt einen mathematischen Co-Prozessor geholt, weil
9:44
der Prozessor damals hatte, das hatten alle bis zum 486er,
9:51
hatten sie alle halt nicht höhere mathematische Funktionen installiert im
9:57
Prozessor. Also ein Prozessor kann ja normalerweise nur Plusrechner, also
10:03
Addition. Und dann gibt es so verschiedene Tricks und Zwischenschritte, womit man halt durch die
10:09
Addition des einer Komplements, hahaha, Nerdwissen, eine Subtration, eine Division machen kann. Weil
10:19
eine Multiplikation ist ja einfach nur halt Addition und dann halt so und so viele Schritte.
10:25
Aber es geht halt über dieses einer Komplement, das ist also, indem man halt die kleinstmöglichste
10:31
Einheit, die man recht am Hand drauf und dann macht man noch so einen Zwischenschritt und
10:36
dann kann man halt daraus eine Subtration machen. Das geht aber nur bei binären Zahlen. Wohlgemerkt,
10:44
nur bei binären Zahlen, nicht mit unseren Zahlen, also mit einem Dezimalsystem. Lange Rede,
10:53
kurzer Sinn. Nach dem Einbau dieses mathematischen Co-Prozessors brauchte das Ganze keine 90 Minuten
11:03
mehr, sondern maximal noch zwölf. Und das war mind-blowing. Oh mein Gott, das ging so schnell.
11:11
Man konnte quasi zuschauen, wie Zeile für Zeile gemalt wurde und nicht so Bildpunkt für Bildpunkt.
11:18
boah krass! Ja, so war das damals. Und wenn man dann jetzt überlegt, heute so, die Hardware ist im
11:29
Vergleich zu damals dann doch günstiger geworden und wesentlich leistungsfähiger bei gesunkenen
11:40
Stromverbrauch. Und selbst wenn ich mir solche Einplatinencomputer wie einen Raspberry Pi oder
11:45
so hole. Die haben ein so vielfaches mehr an Leistung wie damals mein erster Computer. Ich
11:55
muss aber auch sagen, dass ich mir damals immer, auch immer wenn ich den Co-Prozessor dazu gekauft
12:03
habe, zwar jetzt nicht sofort, aber wenn ich jetzt mal hingegangen bin und ich habe mir halt ein Update
12:07
geholt, also von einem 386er SX auf ein 386er 40 DX. Dann habe ich mir dann dafür auch den
12:16
mathematischen Co-Prozessor geholt, um einfach diese Berechnungen schneller machen zu können.
12:21
Denn ich war damals schon halt ein sehr merkwürdiger junger Mann, der neben dem ganzen
12:29
lesen und neben dem ganzen Programmieren und neben dem Musik machen und sich mit Freunden treffen.
12:37
Ja, das sogar noch draußen halt auch hardcore programmiert habe. Und das sogar mit einem
12:46
Kumpel zusammen. Da haben wir dann gelegen, gesessen, manchmal auf dem Fußboden gesessen.
12:54
der eine hat die Listings vorgelesen, also 10, go to, da und dahin, Adresse sowieso 20,
13:04
go sub 10, if und so weiter. So total die krassen Anweisungen. Ich weiß das noch,
13:09
wir das da wieder gesessen haben und dann die Sache reingehackt haben, da lief das Programm nicht und
13:14
da musste man wieder Zeile für Zeile durchgehen, gucken wo der Code ist, weil es damals ja noch
13:19
noch keinen Debugging-Routine gab, sondern erst bei den höheren Sprachen zum Programmieren. Und
13:27
das war so eine geile Welt gewesen damals. Und man muss ja gerade sagen, es gibt diese
13:34
Zwischengeneration. Also es gibt nicht nur die Babyboomer und dann kommt Generation X,
13:38
sondern man sagt, dass am Ende der Babyboomer und am Anfang der Generation X, es eine Zwischengeneration
13:46
gibt so von 76 bis 83 und das wären die Sennials. Und da bin ich genau drin, weil ich hatte tatsächlich
13:59
diese analoge Kindheit und die digitale Jugend und ich habe das alles mitgekriegt. Ich weiß noch,
14:05
wie geil das war, als ich mir mein erstes Modem gekauft habe auf so einer Computerbörse. Da
14:13
Da konntest du nicht immer die neuste Hardware, aber sie extrem günstig kaufen.
14:19
Und das war ein Modem, darüber darf man heutzutage gar nicht nachdenken.
14:23
Da krieg ich über mein Amateurfunkgerät mit einem Modem eine höhere Datenrate durch
14:28
als damals.
14:29
2.400 Bit pro Sekunde.
14:33
Da konntest du, wenn du dich in eine Mailbox eingefüllt hast, konntest du zugucken wie
14:39
diesen ganzen Filmen aus den 80ern, wenn da so Zeichen für Zeichen auf dem Monitor erscheinen.
14:45
Genauso war das gewesen.
14:49
Und wie ich mich das erste Mal in eine Mailbox eingewählt habe, die halt einen Ort weiter war,
14:55
weil damals gab es ja noch hier City Call und Region Call und da musste man echt aufpassen,
15:01
dass man da nicht die Telefonrechnung in eine explosiv hohe Richtung drängt.
15:07
Wäre das geil gewesen, wie damals die Leute mir erzählt haben, dass man für ein Ortsgespräch
15:13
nur eine Einheit verbraucht hat.
15:15
In diesen Genuss bin ich nicht gekommen.
15:18
Nein, nein, ich musste richtig bezahlen.
15:20
Und als ich dann meine Eltern endlich dazu bewegt hatte, eine zweite Telefonleitung schalten
15:25
zu lassen mit einer eigenen Nummer, nur für meinen Computer, boah, ich war so stolz.
15:32
Ja, ja, das kann man sich heutzutage gar nicht mal vorstellen.
15:36
Ich meine heutzutage mit einem Internetanschluss hast du mindestens drei Leitungen.
15:43
Also du kannst zwei Gespräche rausführen und eins rein.
15:46
Das ist so bei den meisten Anbietern.
15:48
Aber du kannst bis zu zehn Telefonnummern haben.
15:51
Und das ist kein Vergleich mehr zu damals.
15:56
Auf jeden Fall durfte ich eine Telefonrechnung plus die Anschlussgebühren von zwei D-Mark
16:01
im Monat produzieren.
16:02
und alles darüber haben sie mir halt von mein Taschengeld abgezogen.
16:06
Ja, ja. Eine harte Zeit.
16:10
Aber dennoch, wenn man das abends gemacht hat,
16:13
konnte man doch schon einiges erreichen.
16:16
Und das erste Mal in eine Mailbox einwählen.
16:19
Mein Gott, was war das toll.
16:22
Diese Weiten. Und dann konnte man sogar so in BBS,
16:27
BDS, also Battling Board Services, konnte man hingehen und da mit anderen diskutieren und
16:35
schreiben und sogar private Nachrichten bekommen.
16:38
Und das war alles so Leute auf deinem Niveau, deinem Level, mit deinen Interessen.
16:43
Und ich habe da mich so drin wiedergefunden, was dazu auch geführt hat, dass ich dann halt
16:54
mich sehr extrem weiter für Informatik und so weiter interessiert habe, weil da gibt es noch
16:59
so viele andere Sachen zu entdecken und heutzutage hat man ja wirklich Probleme,
17:05
da hinterher zu kommen bei den ganzen Entwicklungen. Ja, so war das damals,
17:10
aber nochmal um den Bogen jetzt zurückzuschlagen zur Grafikkarte.
17:15
KI-Anwendungen laufen auf Grafikkarten, also auf diesen Chips. Warum? Weil das nicht so hochkomplexe
17:26
Prozessoren sind wie halt der Prozessor, der den Computer antreibt, egal ob das jetzt ein Intel-
17:34
oder ein AMD-Prozessor ist, sondern da sind ganz viele ganz einfache Recheneinheiten drin,
17:40
die wenige Instruktionen verstehen, also Anweisungen, aber diese extrem schnell
17:48
verarbeiten können, weil das alles so reduziert ist. Und die sind einfach gut da drin in Zahlen
17:55
hin und her schieben, weil im Endeffekt bei den Berechnungen für die Grafiken, egal für ein Spiel
18:02
oder für eine 3D-Anwendung müssen Zahlengruppen mit x Stellen hinterm Komma müssen halt hin und
18:12
her geschoben, hin und berechnet werden, verändert werden und das können diese, bei Nvidia sind das
18:18
CUDA-Kerne, extrem gut, sehr schnell. Da kommt ein Prozessor hier, so wie mein Intel, überhaupt
18:28
hinterher. So schnell ist das. Und gerade die machen das ja auch so interessant, dass man
18:35
anstatt nur Gaming damit macht, auch seine Videos da drauf rendert, weil das dann verdammt schnell
18:42
und effizient geht. Also wenn ich überlege, auf meinem Prozessor dauert so ein Stundenvideo,
18:48
ja sagen wir mal so 30 Minuten, dann ist das auf den Prozessor gerechnet. Auf meiner Grafikkarte
18:57
sind das acht Minuten und das ist ein riesen Unterschied oder wenn ich das Transkript mache,
19:04
was bei weitem besser ist wie das von YouTube zum Beispiel, dann habe ich ungefähr zehnfache
19:11
Geschwindigkeit. Das heißt, wenn ich da eine Minute rein tue, sagen wir mal zehn Minuten,
19:16
ist einfacher zu rechnen, zehn Minuten, dann ist das in einer Minute fertig und dabei lächelt
19:22
dann auch noch die Grafikkarte an, weil dann nämlich nicht die Berechnung das
19:27
eigentliche Problem ist, sondern der Datenbus, das das Problem ist, weil meine
19:31
Grafikkarte ist halt mit acht Lanes angeschlossen, also mit acht
19:36
Datenspuren, wobei 16 Spuren theoretisch möglich wären, aber der Anschluss der
19:41
Grafikkarte das nicht zulässt, weil ich halt kein Premium-Modell habe, weil ich
19:45
halt keine Lust habe, mir nur eine Grafikkarte für 2000 Euro zu kaufen,
19:50
Weil dafür kann ich mir drei Stück kaufen oder fast vier Stück
19:54
und kann mir davon halt einen KI-Rack bauen,
19:57
wo ich dann halt verschiedene Prozesse gleichzeitig laufen lassen kann.
20:01
Natürlich hätten die teuren mehr Grafikspeicher
20:05
und dann könnte ich größere Modelle laufen lassen.
20:08
Aber seitdem halt Nvidia dieses MV-Link abgeschafft hat,
20:13
kann man halt nicht Grafikkarten richtig zusammenschalten
20:17
und so halt noch größere Modelle laden.
20:22
Außerdem wird der Stromverbrauch ja auch irgendwann mal eine astronomische Einheit,
20:28
wenn man das da die ganze Zeit mal laufen lässt und dann halt die Grafikkarte am Limit laufen lässt,
20:34
was halt bei manchen Anwendungen der Fall ist.
20:38
Deswegen habe ich jetzt auch nicht unbedingt so ein fettes Grafikmonster zu Hause, sondern halt mehrere kleine Grafikkarten, die halt günstiger sind.
20:52
Vor allen Dingen, wenn die so zwei Jahre durchgerechnet haben, dann sind die fertig.
20:57
Deswegen kriegt man ja auch so günstig Grafikkarten bei ebay aus dem asiatischen Raum, weil die
21:04
Grafikkarten fertig sind.
21:06
Die sind so durchgenudelt, nicht der Prozessor, aber die elektronischen Komponenten drum herum.
21:14
Ich meine, der Prozessor und der Speicher ist da scheißegal, aber die Kondensatoren und
21:19
die Vorwiderstände und manche Schaltregler für bestimmte Spannungen herstellen, die
21:24
unter dieser extremen Last. Vor allen Dingen, weil es ja Handelsbeschränkungen gibt mit China,
21:33
werden dann die Grafikkarten auch noch übertaktet und so bis quasi ans absolute Limit getrieben für
21:41
die Rechenzentren und dann leidet die Hardware noch, wenn die nicht perfekt gekühlt wird. Das
21:46
muss man sich mal vorstellen, wenn da so zehn Grafikkarten in einen so Rack stecken,
21:51
dass da die Belüftung nicht unbedingt die beste ist.
21:54
Und so kauft man quasi in Zeitraffer gealterte Hardware
22:02
für immer noch teures Geld
22:04
und wundert sich, warum dann halt die Grafikkarte
22:08
bei anspruchsvollen Anwendungen, vor allem Gaming,
22:12
irgendwann mal schlapp macht
22:14
und dann die Bildwiederholungsrate, die FPS, einfach eindorappen.
22:20
Tja, das muss man auch überlegen. Die nächste Überlegung, die ich halt so hatte, war, du holst dir einen Raspberry Pi, 16 GB Arbeitsspeicher, hängst da eine SSD dran, aber jetzt nicht per Schnittstelle, sondern per USB, das ist immer noch schnell genug,
22:40
und machst oben drauf an den Pins für den GPIO, das ist so ein spezieller Datenbus,
22:49
Technik Nerd, Technik Kram, einfach Technik Kram. Dann machst du den oben drauf, dann halt so ein
22:56
AI-Head, das ist halt eine Zusatzkarte, die man oben drauf steckt und da gibt es halt eine neue,
23:03
die jetzt glaube ich in April rauskommt, die hat 40 Terra Operationen. Also Terra, kann man sich
23:12
ja erschließen, sind eine Million. Mega sind eine Milliarde, Entschuldigung, eine Milliarde Operationen.
23:21
Und dann sind das halt 40 Milliarden Operationen. Da kann man schon einfache kleine Sprachmodelle
23:26
drauf laufen lassen. Und für so bestimmte Aufgaben, da mal Texte zusammenfassen,
23:33
kleine Suchanalysen, Auffälligkeiten in Datensätze zu suchen, würde halt so ein kleines Modell gut
23:45
passen, wenn man jetzt halt auf die 8 Gigabyte, die jetzt dieses Zusatzmodul, dieser
23:53
AI-Head plus 2, so heißt das Ding, halt mit sich bringt. Wenn man den kauft, kostet der ungefähr
24:03
so 180 Euro, hat sogar einen Kühlkörper dabei, weil das Ding wird dann natürlich dementsprechend
24:08
Schweine heißt und hat ein Stromverbrauch, das ist das Besondere, so von zwei bis drei Watt unter
24:15
Volllast. Das ist natürlich extrem wenig im Vergleich zu einer fetten Grafikkarte. Und wenn
24:23
ich dann noch überlege, die 300 Watt mindestens, wenn nicht sogar eher 400 Watt mit einer mittleren
24:29
Grafikkarte und einem ganzen PC dazu und die ist dann noch energieoptimiert und den mindestens
24:38
800 bis 900 Watt, wenn ich halt ein Server Hardware nehme, dann ist das ein riesen Unterschied zu den
24:47
sagen wir mal 45 Watt maximal die halt der Raspberry Pi und dieses Zusatzboard verwenden. Aber da kann
24:56
man das halt schon machen. Also alles was in diesen 8 Gigabyte passt, kannst du da drauf laufen lassen.
25:02
Natürlich ist jetzt im Vergleich zu einer modernen, die man sehr günstig bekommen kann, 30, 60, die so ungefähr 20 Torken schaffen würde.
25:15
Ja, was ist denn jetzt ein Torken?
25:17
Ein Torken ist ungefähr eine Silbe eines Wortes, um das jetzt nochmal zu veranschaulichen.
25:25
Also schafft die so ungefähr so 20 Torken, 15 bis 20. Das andere Ding würde so maximal
25:34
8 Torken bringen, eher so 6. Jetzt kann man sagen, okay, aber das sind ja unter Umständen
25:40
gerade mal ein Wort pro Minute. Ja, aber wenn ich doch Zeit habe und das ist jetzt nämlich
25:49
der entscheidende Punkt. Der Prozessor würde hingehend den Text halt an das Ding packen,
25:55
der würde dann halt das Modell und den Text in den Speicher von diesen Zusatzdingen packen. Dann
26:02
hätte der Prozessor wieder nichts zu tun, er würde dann halt nur noch ein paar Steueraufgaben übernehmen
26:06
und weil da ja auch kein Desktop drauf läuft, also keine grafische Benutzeroberfläche oder so,
26:13
kann der komplett sich quasi so hinlegen und schön so ein bisschen schlummern und dann würde halt
26:20
dieses zusatzmodul das machen und dann würde es rapide wenig strom verbrauchen im vergleich zur
26:25
grafik hat aber natürlich würde dann sage ich mal so eine auswertung oder die zusammenfassung
26:31
mehrere stunden oder wenn nicht sogar den ganzen tag dauern aber das ist doch scheiß egal die
26:37
Aufgabe würde halt gemacht werden. Und der andere Vorteil ist, da kommt keine scheiß
26:42
heiße Luft raus. Wenn ich mir mal angucke, wenn mein Rechner unter Volllast, Grafikkarte
26:47
volle Power, dann der Prozessor volle Power am Arbeiten ist, was da hinten für eine warme
26:52
Luft rauskommt aus dem Netzteil, aus den Gehäuse-Lüftern, dann weiß ich schon, wo meine, ja gut 800
27:01
bis fast 1000 Watt hingehen, die der Computer pro Stunde braucht. Und bei den aktuellen
27:06
Strompreisen. Das muss man nämlich auch noch überlegen und da reden wir jetzt mal so von
27:11
durchschnittlich 35 Cent. Dann läuft das Ding eine Stunde und dann sind 35 Cent weg. Deswegen
27:19
habe ich ja auch mein PC, wenn ich jetzt nicht irgendwie Videos am rendern bin oder Podcasts
27:23
am rendern oder die Transkripte mache, halt immer einen Strom Sparmodus, weil das Ding
27:29
erstens dann leiser ist und zweitens viel weniger Strom verbraucht und die Leistung auf meinen
27:35
was hat das Ding denn eigentlich? 32 Kern. Vollkommen ausreichend ist und ich brauche
27:44
wesentlich weniger Strom, weil der quasi nur noch halb so hoch taktet. Und das ist immer noch schnell
27:50
genug, um flüssig zu arbeiten. Hier sind keine Hänger, keine Rucklack, nix. Selbst so kann ich
27:55
streamen, weil ich genügend Kerne habe, auf die die Prozesse halt verteilt werden können. Und wenn
28:02
ich dann noch ein effizienteres Betriebssystem nehmen würde, so was wie Linux, wo die Aufgaben
28:07
noch besser verteilt werden wie unter Windows, dann gibt es da noch weniger Probleme. Aber das
28:14
sind ganz andere Themen und ganz andere Bereiche. Ja, das waren so meine Gedanken und meine Erfahrung
28:23
und auch ein paar Geschichten aus der Vergangenheit von einem viel, viel jüngeren Sascha, der sich
28:30
so mit 14, 15 tierisch darüber gefreut hat, dass er zu Weihnachten einen IBM-kompatiblen
28:39
Computer bekommen hat. Und mein Gott, was hat das mein Leben verändert? Unglaublich,
28:48
unglaublich. Ich hätte nie gedacht gehabt, dass ich so wie heute eigene KI-Agenten habe,
28:56
die halt bei mir auf verschiedenen Geräten hausen.
29:00
Es Kommunikationskanäle gibt, wo Informationen hin und her
29:05
gestochen, schoben werden,
29:08
die sich aktuelle Artikel und Hashtags beobachten,
29:13
bei Videos sich die Kommentare anschauen
29:17
und da halt eine Bewertung machen.
29:20
Meine E-Mails vorsortieren.
29:25
Natürlich nicht von meinem Hauptaccount, sondern für einen Extra-Account.
29:29
Und so viele andere Sachen. Das hätte ich nie für möglich gehalten.
29:33
Dass ich selbst hingehen kann und mit meinem Handy und dann sagen kann
29:37
"Hey, mach mal das und das und schick mir dann das Ergebnis als E-Mail."
29:43
Und dass das verstanden wird, weil ein Whisper-Modell läuft
29:51
und dann halt die Sprachnachricht in Text übersetzt wird.
29:55
Und dann gibt es halt die Verarbeitung.
29:58
Und dann gibt es noch eine Antwort.
30:00
Und die kann ich mir selbst dann wieder von Text-to-Speech als Sprache ausgeben lassen.
30:05
Ich kann das so einrichten, dass ich halt jemanden anrufen lassen kann
30:11
und dann halt eine Nachricht vortragen.
30:13
Derjenige kann dann antworten.
30:15
Und ich kriege das dann als E-Mail
30:17
oder halt als Direktnachricht in den Kommunikationskanälen, die ich eingerichtet habe, als Nachricht.
30:24
So, hier, Peter hat gesagt, der Termin ist okay.
30:28
Und das hätte ich mir nie vorstellen lassen können, dass ein Mensch, der sich dafür interessiert,
30:39
dass alles zu Hause selber sich aufbauen und einrichten kann
30:43
und eigentlich nur ein paar Euro in Strom investieren muss
30:48
und ein bisschen Zeit und hat dann halt solche Automatisationen.
30:54
Das ist unglaublich, unglaublich.
30:57
Und wenn man bedenkt, wie voll YouTube und auch andere Kanäle zurzeit sind
31:02
und selbst in der Podcastwelt. Das Thema Open Cloud vor Moldbot und Cloudbot ist das Thema,
31:15
natürlich riesengroß, sich da halt irgendwelche KI-Agenten zusammenzubasteln. Ja, wollen wir mal
31:27
schauen was die Zukunft bringt und ob ich in Zukunft meine Wohnung mit Gas oder mit Strom heize,
31:35
weil hier so viel Hardware rumsteht und ihr am rechnen ist. Ja dann bedanke ich mich für's
31:40
zuhören und wenn euch das gefallen hat, dann würde ich mich über einen Kommentar freuen und das war
31:47
heute mal wieder eine ruhigere Ausgabe ohne irgendwelches Beef-Gehabe. Ich hoffe es hat euch
31:54
dennoch gefallen und ich sage tschüss bis zum nächsten mal euer sascha
32:01
[Musik]
32:04
[Musik]
32:10
[Musik]
32:16
[Musik]
32:22
[Musik]
32:28
[Musik]
32:31
[Musik]
32:37
[Musik]
32:43
[Musik]
32:49
[Musik]
32:56
[Musik]
32:59
[Musik]
33:05
[Musik]
33:11
[Musik]
33:17
[Musik]
33:23
[Musik]
33:26
[Musik]
33:32
[Musik]
33:38
[Musik]
33:44
[Musik]
33:50
[Musik]
33:53
[Musik]
33:59
[Musik]
34:05
[Musik]
34:11
[Musik]
34:17
[Musik]
34:20
[Musik]
34:26
[Musik]
34:32
[Musik]
34:38
[Musik]
34:44
[Musik]
34:47
[Musik]
34:54
[Musik]
35:00
[Musik]
35:12
[Musik]
35:15
[Musik]
35:21
[Musik]
35:27
[Musik]
35:33
[Musik]
35:40
[Musik]
35:43
[Musik]
35:49
[Musik]
35:55
[Musik]
36:01
[Musik]
36:07
[Musik]
36:19
[Musik]