Latest / KLIMA UND KOHLE / #233 KI und Energie: Wie viel Strom braucht die KI? Mit Stefan Naumann
Transcript
- 0:00Liebe KI, sag mir, wie das umweltfreundlicher wird.
- 0:03Ich sehe das nämlich genauso, dass wir jetzt die Agenten trainieren müssen,
- 0:06dass die Agenten eigentlich Ökoagenten werden.
- 0:08Denen muss man sagen:
- 0:09Verhalte dich nachhaltig, löse Probleme so, dass Nachhaltigkeitsprobleme
- 0:13damit nicht geschaffen, sondern gelöst werden.
- 0:22Tag zusammen zu einer neuen Ausgabe von Klima und Kohle.
- 0:24Heute wieder mit dabei: Professor Stefan Naumann.
- 0:28Tach, Stefan, hallo!
- 0:30Grüß dich, Henrik!
- 0:32Ja, du warst schon ein paar Mal dabei.
- 0:35Du bist Professor bei uns am Umwelt-Campus für,
- 0:38ich sag mal verkürzt, Nachhaltigkeitsinformatik.
- 0:41Und ich steige gerne, wenn ich Gäste dabeihabe, mit den großen Fragen ein.
- 0:46Und mal schauen, wie wir die in den nächsten 30 bis 45 Minuten abräumen.
- 0:51Frage an dich: Wird die KI uns helfen, den Energieverbrauch global zu senken?
- 0:56Oder führt die KI dazu,
- 0:57dass der Energiebedarf global in den nächsten Jahren explodieren wird?
- 1:02Das ist eine sehr gute Frage.
- 1:03Gleich die große Ausgangsfrage,
- 1:05damit wir uns nicht mit kleinen Problemen aufhalten.
- 1:08Die Frage beschäftigt die Informatik schon ganz lange.
- 1:11Das heißt also: Ist der Aufwand größer als der Nutzen?
- 1:13Wie ist denn die Nettobilanz?
- 1:15Man kann sich vorstellen,
- 1:16das ist nicht ganz leicht zu rechnen, weil ja immer die Frage
- 1:19ist: Was mache ich mit der KI, was mache ich mit der ICT?
- 1:23Generell ist es so, dass wir erst mal versuchen, überhaupt
- 1:26den Energiebedarf von KI und von ICT insgesamt abzuschätzen.
- 1:30Also sprich: Was brauchen eigentlich die Rechenzentren,
- 1:33was braucht so ein Endgerät?
- 1:35Und dann kommt als zweite Frage: Wie kann ich den Nutzen dagegen
- 1:38bilanzieren?
- 1:39Aber du wolltest ja mit der großen Frage auch eine große Antwort verbinden.
- 1:43Ich denke, in der Bilanz, wenn wir es richtig machen,
- 1:46kann die KI uns helfen, die Umwelt- und Nachhaltigkeitsprobleme zu lösen.
- 1:50Das heißt, die Nettobilanz ist positiv, wenn wir die Systeme,
- 1:54die KI-Lösungen und alles, was wir jetzt gerade als Menschheit erfinden, dafür
- 1:58einsetzen, dass sie unseren Planeten und uns weiterbringen und retten.
- 2:05Meine persönliche Meinung.
- 2:07Also, ich hatte mir ja vor einiger Zeit mal angeschaut,
- 2:12wie eigentlich die Klimabilanz aussieht.
- 2:15Fangen wir mal an
- 2:16mit den KI-Rechenzentren, bevor wir dann wirklich auf die einzelnen
- 2:21Abfragen kommen.
- 2:22Also: Wie energieverschwenderisch ist es, so einen einfachen Prompt loszuschicken?
- 2:26Ich denke, jeder hat mittlerweile schon mal etwas mit ChatGPT gemacht.
- 2:30Bei Google ist es ja fest integriert.
- 2:32Wenn ich die Google-Suchmaschine benutze, baut Gemini ja im Hintergrund
- 2:37immer eine KI-Antwort und ersetzt damit eigentlich die Suchergebnisse.
- 2:42Wie teuer ist es, ein Bild oder ein Video zu machen?
- 2:44Auch das geht ja mittlerweile sehr schnell und in sehr hoher Qualität.
- 2:48Aber vielleicht erst mal der Blick auf die KI-Rechenzentren,
- 2:52die jetzt ja in Europa und global entstehen. Also insbesondere die,
- 2:58bei denen man ja merkt:
- 3:00Auch in den USA, die ja das Mutterland der Digitalisierung
- 3:05sind, wächst der Widerstand in der Bevölkerung,
- 3:09weil die Energieversorgung primär über Gasturbinen läuft.
- 3:14Gibt es auch Ansätze?
- 3:15Ja, wir machen das irgendwie mit modularen Reaktoren, also Kernenergie.
- 3:19Google oder Microsoft ist es, glaube ich, egal, woher der Strom kommt.
- 3:22Hauptsache, er kommt dann, wenn wir ihn brauchen. Aber wie?
- 3:24Wie ist denn da im Moment die Entwicklung und wo geht das hin?
- 3:28Denn im Moment kennt ja die Kurve
- 3:31beim Energiebedarf
- 3:31der KI eigentlich nur eine Richtung, und zwar steil nach oben.
- 3:35Es geht nach oben, eindeutig.
- 3:37Und allein in Deutschland sind
- 3:39nach meinem Stand über 100 Rechenzentren geplant.
- 3:43Und wir müssen uns vielleicht die Größenordnung noch mal klarmachen,
- 3:47um die es da geht.
- 3:48Ja,
- 3:49du kannst das als Physiker gut einschätzen, was die Leistungsaufnahme angeht.
- 3:52Da sind wir im Megawattbereich bei den bisherigen
- 3:56Rechenzentren, Leibniz-Rechenzentrum und so,
- 3:58da ging es dann um 5, 6 Megawatt Leistungsaufnahme, und mittlerweile
- 4:01gehen die ganz großen Rechenzentren sogar in den Gigawattbereich hinein.
- 4:05Das heißt also, das ist schon die Stromleistungsaufnahme
- 4:08einer Großstadt oder sogar mehr, je nachdem, wie man das dann rechnet.
- 4:13Das muss man sich bewusst machen.
- 4:14Der Strom muss stabil zur Verfügung stehen, was gerade in Amerika ein Problem
- 4:18ist, was die Stabilität des Stromnetzes angeht,
- 4:21und umgekehrt,
- 4:22nicht umgekehrt, sondern zusätzlich gibt es natürlich auch den Wasserbedarf,
- 4:25wo wir,
- 4:26sagen wir mal, im Bereich von Millionen Kubikmetern sind,
- 4:30die für die Kühlung verwendet werden oder verwendet werden müssen, was also
- 4:34dem Bedarf einer, je nachdem, wie man es rechnet, Kleinstadt
- 4:37bei einem kleinen Rechenzentrum entspricht oder auch einer Großstadt.
- 4:40Interessanterweise: Bei ganz kleinen Rechenzentren
- 4:42reicht oft eine Luftkühlung.
- 4:44Das geht also manchmal sogar mit freier Kühlung, und andere brauchen Wasser.
- 4:48Das heißt, diese Kombination führt auch in den ländlichen Gebieten von Amerika
- 4:52zusammen mit dem Strombedarf natürlich zu Diskussionen,
- 4:55zumal in Amerika die Dinge auch gerne etwas hitziger diskutiert werden.
- 4:59Aber da geht es wirklich um die örtliche Bevölkerung
- 5:02und deren Strom- und Wasserversorgung.
- 5:04Das heißt, wir reden schon von signifikanten Größenordnungen.
- 5:06Vielleicht noch mal zur Gesamteinschätzung: Die Internationale
- 5:10Energieagentur geht davon aus, dass wir bis 2030, meine ich, bei knapp
- 5:151.000 Terawattstunden für die KI und für die Rechenzentren sind,
- 5:21und zwar Terawattstunden pro Jahr. Genau. Und das als Größenordnung:
- 5:24Wir haben in Deutschland, glaube ich, 450, plus/minus
- 5:27500, also quasi das Doppelte des Stromverbrauchs allein in Deutschland.
- 5:31Es werden mehr, weil Sachen wie Wärmepumpen und Autos dazukommen,
- 5:35aber so von der Größenordnung her, damit man mal weiß – wir sind
- 5:37ja auch ein Industrieland –, in welche Richtung das geht.
- 5:40Es gab früher schon Vergleiche, dass
- 5:42die Rechenzentren so viel CO₂ ausstoßen wie der internationale Flugverkehr.
- 5:46Das sind dann so Vergleiche. Das heißt, es ist eine signifikante Größe,
- 5:49und deswegen ist es umso wichtiger, dass man natürlich versucht,
- 5:52das auch dafür einzusetzen, dass es unsere Klima-, Energie-
- 5:56und vielleicht auch sozialen Probleme löst, was weiß ich.
- 6:00Wir haben ja doch einige globale Herausforderungen, denke ich.
- 6:03Wir hoffen, dass die KI uns helfen kann.
- 6:05Ja, genau.
- 6:05Es ist also Fluch und Segen zugleich.
- 6:08Und ich glaube, aus dem Stadium, dass wir mit der KI mal
- 6:13ein bisschen herumspielen und uns dann die Rede für den 70.
- 6:17Geburtstag der Oma schreiben lassen,
- 6:20über dieses Stadium sind wir schon lange hinaus.
- 6:24Die Bild-
- 6:25generierung ist auf sehr hohem Niveau,
- 6:28etwa bei Google Gemini, glaube ich.
- 6:30Ich weiß, dass die von der Firma auch
- 6:34Videos generieren können,
- 6:36neben den reinen Spezialanwendungen, die nur Videos machen.
- 6:41Das Gleiche geht jetzt auch mit Musik.
- 6:42Auch da bietet Gemini das regulär an, dann gibt es wieder
- 6:46Spezialanbieter, und das ist ein ganz großes Feld,
- 6:50aber es gibt ja wahnsinnig
- 6:52viele Anwendungsfelder,
- 6:56die man jetzt gerade erst kennenlernt und die wir an der Hochschule
- 7:00kennenlernen, die jetzt in den Unternehmen ankommen.
- 7:04Man sieht jetzt, dass mir die KI dabei
- 7:07hilft, meine Unterlagen für die Steuererklärung
- 7:10vorzubereiten, indem ich ihr sage: „Hier, liebes Claude,
- 7:16oder wie auch immer,
- 7:17hier hast du meine ganzen Dokumente, meine Lohnabrechnung.“
- 7:20Man muss wollen, dass man das hochlädt,
- 7:21denn dann kennen die Amerikaner das natürlich und nutzen das weiter.
- 7:25Aber das ist so die Alltagsanwendung.
- 7:28Aber auch da,
- 7:29wenn ich jetzt so ein Dokument hochlade, muss die KI ja erst mal
- 7:33eine Texterkennung machen und verstehen, was der Inhalt ist,
- 7:35wenn es ein kompliziertes Dokument ist, eine Lohnabrechnung, das mal sortieren:
- 7:38Was heißt das eigentlich?
- 7:40Auch wenn sie natürlich weiß, wie eine Lohnabrechnung aussieht.
- 7:42Genau, aber das ist ja schon …
- 7:45Also da sind ja Millionen und Milliarden an Anfragen, die da kommen.
- 7:52Wobei wir auch da differenzieren müssen:
- 7:56Das Nutzen
- 7:58ist ja der eine Teil, und zwar der kleine Teil. Der viel größere Teil
- 8:02kommt energetisch ja vorher:
- 8:04Das ist das Training, also der KI beizubringen, diesen Kontext zu verstehen.
- 8:08Kannst du das mal einordnen?
- 8:09Wie verteilt sich denn eigentlich jetzt der Energiebedarf,
- 8:13wenn ich sage, eine Anfrage kostet so viel, aber in Summe habe ich einen Riesenklotz,
- 8:17den ich da mit mir herumtrage?
- 8:18Ja, also es ist tatsächlich so, dass sich das gerade ein bisschen verändert.
- 8:23Früher
- 8:24konnte man vielleicht sagen 80 zu 20, 90 zu 10,
- 8:28das heißt, viel ging ins Training und wenig in die Inferenz.
- 8:31Aber mittlerweile hat sich das umgekehrt, zumindest nach den Schätzungen.
- 8:35Und zwar deshalb, weil jetzt viel mehr Leute das nutzen.
- 8:38Das heißt,
- 8:38du hast ein Basismodell trainiert, ein Foundation Model, ein Frontier Model.
- 8:42Und das wiederum wird jetzt von ganz vielen Leuten genutzt.
- 8:45Das heißt,
- 8:45die Inferenz macht dann tatsächlich mehr aus, und zwar mehr als die Hälfte.
- 8:49Wobei die Schätzung schwierig ist.
- 8:51Das heißt also,
- 8:52am Anfang wurde viel trainiert, um eine Grundlage zu haben,
- 8:56von den großen Tech-Unternehmen und auch von anderen.
- 8:58Und jetzt kommen die Modelle in die Anwendung.
- 9:00Auch lokal läuft ja ganz viel. Das heißt, wir sehen da
- 9:03tatsächlich insofern, wie soll ich sagen, nicht eine Umkehr,
- 9:06aber diesen Trend, den wir auch aus der Software kennen: diesen Unterschied
- 9:09zwischen Individualsoftware und Standardsoftware.
- 9:13Individualsoftware wird nur einmal installiert, Standardsoftware nutzen ganz viele.
- 9:16Da lohnt es sich, auch kleine Verbesserungen zu machen.
- 9:18Deswegen wird im Moment auch viel an der Inferenz geforscht.
- 9:21Das heißt also:
- 9:21Wie kann ich das noch schneller hinkriegen, Matrixmultiplikationen und so,
- 9:25weil eben jetzt alle direkt oder indirekt die Sprachmodelle nutzen.
- 9:30Und man kann noch einen Schritt weitergehen:
- 9:31die Agenten, die jetzt ja faktisch auch selbst die Sprachmodelle nutzen.
- 9:35Die wiederum sind ja auch welche, die etwas anwerfen.
- 9:38Die werfen ja kein Training an, sondern Inferenz.
- 9:41Das heißt, nach meinem Stand dreht sich das gerade ein bisschen um.
- 9:44Was natürlich sein kann, ist, dass irgendwann noch mal
- 9:47eine große Phase kommt, in der dann wieder nachtrainiert wird.
- 9:50Ja, also wo dann geschaut wird: Jawoll,
- 9:53jetzt müssen wir die Modelle noch mal auffrischen.
- 9:55Es gibt auch neueste Ansätze, dass das in Hardware gegossen wird,
- 9:58zum Beispiel.
- 9:58Das ist deutlich energieeffizienter, aber dann natürlich fest verdrahtet,
- 10:02aber ich könnte mir
- 10:02vorstellen, dass es nachher auch Chips gibt, die so das Basiswissen,
- 10:06keine Ahnung,
- 10:06Wikipedia, zur Verfügung haben und die dann unheimlich
- 10:09schnell und energieeffizient sind.
- 10:11Also sprich,
- 10:11genau diese Frage hat mich auch interessiert,
- 10:13und da hatte ich vorher auch mal geschaut, und es ist tatsächlich so,
- 10:16dass sich das wegen der starken Nutzung etwas umkehrt.
- 10:20Das ist ja auch irgendwie nachvollziehbar, wenn viele Leute
- 10:23das verwenden, dass es dann von 80 zu 20 nach vielleicht 30, 40 oder 50
- 10:31zu 50 geht.
- 10:32Aber ein Problem vielleicht noch generell, wenn ich das ansprechen darf,
- 10:35Henrik: Die Tech-Unternehmen lassen das natürlich nur begrenzt raus.
- 10:39Ja, das heißt also,
- 10:40das ist ja genau das Geschäftsgeheimnis: Wie viel habe ich jetzt da laufen?
- 10:43Klar, das Modell ist so viele Hundert Stunden trainiert worden,
- 10:46aber wie viel das dann genau war und wie viel nachtrainiert wird,
- 10:49und was auch noch wirklich im Dunkeln
- 10:51liegt, für mich jedenfalls, und wozu es auch sehr wenige Untersuchungen gibt,
- 10:53ist, was überhaupt das Erfassen der Daten kostet
- 10:56oder dass die Sprachmodelle dauernd versuchen, neue Originaldaten zu bekommen.
- 11:01So nach dem Motto: Wo kriege ich die jetzt her? Also grase ich die Webseiten ab.
- 11:04Ich mache alles Mögliche. Also, sprich: Auch das kostet,
- 11:08und das ist in den Berechnungen oft nicht drin.
- 11:11Und das muss man für die Gesamtbilanz eigentlich auch mit
- 11:14berücksichtigen oder eben sagen, dass es relativ wenig dazu beiträgt.
- 11:17Ich habe gerade mal geschaut, ich habe ja auch
- 11:18mal so eine Tabelle zusammengestellt, und da gehen sie
- 11:23erst mal von dem reinen Modell aus, dass das bei über 80 Prozent liegt.
- 11:27Ja, wenn ich das richtig trainiere, wenn die Inferenz quasi,
- 11:30wie soll ich sagen, nur zum Testen gedacht ist.
- 11:34Aber in dem Moment, wo ich ein Modell wirklich ausrolle,
- 11:37kehrt sich das um.
- 11:38Ja, klar. Und dadurch, dass die Qualität … Du hast ja gerade
- 11:42diese KI-Agenten angesprochen, also dass quasi
- 11:45das System
- 11:48das große Problem in viele kleine Teile aufteilt
- 11:51und dann diese – man nennt das ja Agenten – selbstständig versuchen,
- 11:55dieses Problem zu lösen. Also beispielsweise
- 12:00sagt man der KI: Bitte
- 12:01buch mir eine Bahnfahrt nach Berlin und trag sie in meinen Kalender ein.
- 12:05Dann gibt es einen ersten Agenten, der fängt an, sucht und bucht das dann.
- 12:08Theoretisch könnte der ja, wenn er die Kreditkartendaten hat
- 12:11oder Zugriff darauf hat, auch die Buchung tätigen, und damit ist er fertig.
- 12:15Dann geht der nächste Agent los und guckt: Wie trage ich das jetzt
- 12:18in meinen persönlichen Kalender
- 12:23oder sonst einen Kalender ein?
- 12:25Und ich sage mal, die wuseln dann herum, obwohl es ja
- 12:29kein Wuseln ist,
- 12:29weil es keine haptischen Objekte sind, sondern immer kleine,
- 12:34selbstständig agierende Computerprogramme. – Ja.
- 12:38Und die sind hinreichend intelligent.
- 12:40Aber dadurch, dass die Qualität mittlerweile so hoch ist,
- 12:44ist es einfach so verbreitet, sie zu nutzen.
- 12:47Also nur mal eben schnell:
- 12:49Ob man jetzt die
- 12:49Hausaufgaben damit machen lässt oder
- 12:53sich die vollständig ausformulierte Rede für den 70.
- 12:56Geburtstag der Oma schreiben lässt.
- 12:59Das ist so alltäglich geworden,
- 13:02weil die Qualität einfach so gut ist. Und in der Anfangszeit –
- 13:06das ist jetzt ja vier Jahre her,
- 13:09Ende 2022 –
- 13:12da war das ja alles ganz nett, aber da hat man das noch belächelt,
- 13:15nach dem Motto: Ach ja, gut, der macht ja Fehler und halluziniert,
- 13:19denkt sich Dinge aus, die so nicht stimmen.
- 13:21Auch das ist ja weitestgehend verschwunden,
- 13:24dieses Halluzinieren. Das ist schon …
- 13:26Also dieses Erfinden von Daten ist deutlich
- 13:30– ich sage mal – besser versteckt,
- 13:31und beim Alltagswissen ist es ja komplett weg, oder?
- 13:34Ja, also das ist zurückgegangen.
- 13:35Wobei es auch stark davon abhängt, wie man sie füttert,
- 13:38die Modelle.
- 13:39Also ich habe jetzt aus dem Bekanntenkreis noch mal Beispiele gehabt,
- 13:42wo dann irgendwie auch Unsinn herauskam, weil gewisse Informationen nicht da waren.
- 13:46Und erst auf Nachfrage
- 13:48hat das Sprachmodell noch mal genauer geschaut, was Sache ist.
- 13:50Man muss also tatsächlich ein bisschen aufpassen.
- 13:52Aber wir sind ja beim Energiebedarf und den Schätzungen.
- 13:54Ich hatte mir mal einen Vergleich zusammenstellen lassen:
- 13:56von unserer feuchten Hardware hier oben
- 14:00zu einer Google-Suche oder einer Suche
- 14:03in einer bekannten Suchmaschine und dann eben zu Sprachmodellen wie Gemini.
- 14:08Und da ist, wenn ich jetzt sage, unser
- 14:10Gehirn eigentlich am effizientesten.
- 14:12Ich habe mal gefragt, was denn die Hauptstadt von Frankreich ist. Die kennst du
- 14:15wahrscheinlich, und das Gehirn braucht dann vielleicht so 0,01 Wattstunden
- 14:20dafür, weil es auch irgendwo im Cache ist.
- 14:23Die Google-Suche dann so das Dreifache und so eine KI-Suche das 30-Fache.
- 14:28Und worauf will ich hinaus?
- 14:30Im Prinzip ist es so: Die Verbräuche sind da.
- 14:32Das heißt, wir müssen das natürlich intelligent nutzen.
- 14:35Und das ist letztlich wie beim Autofahren: Wenn ich nur von A nach
- 14:38B fahre, um ein paar Brötchen zu holen, dann würde ich auch nicht mit dem Laster fahren.
- 14:41Also sprich, wir müssen das, was
- 14:43wir haben, eigentlich da anwenden, wo es passt, und gleichzeitig natürlich versuchen,
- 14:46die KI-Systeme so aufzubauen, dass sie uns tatsächlich bei einem Problem helfen.
- 14:51Und ich sage mal,
- 14:52wir müssen vielleicht auch unterscheiden zwischen der klassischen KI –
- 14:55also zum Beispiel Klassifikation, Regression, Mustererkennung –
- 14:59und eben der generativen KI.
- 15:01Und ich würde sagen, bei der klassischen
- 15:02KI ist total viel zu holen in der Optimierung.
- 15:05Denk mal an dein Spezialgebiet,
- 15:07Energiesysteme und so,
- 15:08wenn ich also die Erzeuger-Verbraucher-Kopplung optimieren will.
- 15:11Genau da kann die KI ja helfen, sozusagen als Basis.
- 15:16Unten kommt gerade eine Meldung – ich weiß nicht, ob du die siehst.
- 15:20Ach so, geht weiter. Alles klar.
- 15:24Ja, auch Technik muss mal ihre Meinung sagen dürfen.
- 15:28Genau.
- 15:29Das heißt,
- 15:29also einerseits solche Optimierungsgeschichten, wo, glaube ich, auch noch viel Luft ist.
- 15:32Und das Spannende ist aber:
- 15:33Wenn man das
- 15:34jetzt mit den Sprachmodellen kombiniert, dann können wir wirklich auch mit
- 15:37dem Nutzer interagieren.
- 15:38Man denke an die typische Gebäudetechnik oder so, wo dann
- 15:41sowohl der Endnutzer als auch vielleicht das Technikteam Informationen
- 15:45über das Gebäude bekommt, die dann auch valide und aufbereitet sind.
- 15:49Und diese Kombination macht es spannend,
- 15:51und ich glaube, gerade in diesem engeren Bereich, wie gesagt Optimierungsverfahren,
- 15:54Klassifizierungsverfahren …
- 15:56Man denkt da oft an die berühmten Katzenbilder, die da erkannt werden.
- 15:59Aber in der Praxis kann man ja ganz viel machen,
- 16:02was unsere Ökosysteme wirklich auch verbessern kann,
- 16:05was vielleicht irgendwelche Schadstoffausbreitungen analysiert und so.
- 16:09Also da sehe ich schon Möglichkeiten.
- 16:11Aber es ist wie immer:
- 16:12Man muss es so nutzen, dass es wirklich der Aufgabe angepasst ist.
- 16:16Und ich sage mal, bei solchen Gelegenheiten
- 16:19kann man die guten alten Umweltprinzipien Effizienz und Effektivität
- 16:24und auch Suffizienz hier anwenden.
- 16:26Das heißt, Suffizienz:
- 16:27Brauche ich es überhaupt, oder geht das vielleicht auch mal hier
- 16:30oben mit einer einfacheren Lösung?
- 16:31Und zweitens: Wie komme ich an Daten oder andere Sachen heran?
- 16:35Kann ich das …
- 16:35Vielleicht kann ich Sachen wiederverwenden und so.
- 16:37Das ist halt auch mein Forschungsgebiet,
- 16:39weil im Moment
- 16:40natürlich auch ganz viel Energie verbraten wird,
- 16:42indem irgendwelche Sachen getestet werden.
- 16:44Ja, und – mal sehen, wie du das siehst – man hört ja,
- 16:48dass ein Problem der Techkonzerne ist, dass sie ja auch gucken müssen,
- 16:52dass sie irgendwann Plus machen.
- 16:54Und da ist ja die Frage – die stecken ja ganz viel Geld rein –, ob die dann jetzt
- 16:58noch mehr … Rechenzentren müssen auch finanziert werden.
- 17:00Also die Ausbauten, die wir gerade diskutiert haben, die müssen ja
- 17:04erst mal über Kredite finanziert werden.
- 17:05Irgendwo muss das Geld herkommen, und da bin ich mal gespannt, was da passiert.
- 17:09Und das kann man, glaube ich, noch nicht so genau voraussehen.
- 17:12Umgekehrt wird es uns als Menschheit hoffentlich weiterbringen,
- 17:16aber es kommt darauf an, wie wir es nutzen.
- 17:19Ja, aber ich fand den Vergleich jetzt ganz, ganz nett mit dem …
- 17:24Also wie energieeffizient unser Gehirn ist.
- 17:29Denn das braucht auch einiges an Energie,
- 17:31die müssen wir dann über Kalorien zuführen,
- 17:35und das ist ja über die Jahrmillionen
- 17:39auch energieoptimiert worden und auch leistungsoptimiert.
- 17:45Jetzt hat die KI natürlich den Vorteil, die weiß erst mal immer alles.
- 17:49Wir wissen nicht immer alles, sondern nur das, was wir gelernt haben.
- 17:53Und auch da müssen wir vielleicht noch mal nachgucken und uns erinnern.
- 17:56Wobei auch die Speicherkapazität ja immens ist.
- 17:59Also wie speichert der Mensch Informationen?
- 18:04Biologisch, das heißt also in Molekülen.
- 18:08Oder halt im Kurzzeitspeicher auch elektrisch?
- 18:10Ja, genau. Genau.
- 18:11Aber das ist halt hocheffizient.
- 18:15Da braucht der Rechner entsprechende Festplatten,
- 18:19um es abzulegen, oder halt den elektronischen Speicher.
- 18:24Aber das ist schon hocheffizient.
- 18:26Und wenn man überlegt, dass dann so eine Abfrage ein
- 18:29Vielfaches mehr an Energie verbraucht
- 18:34und da ja
- 18:35auch viel dabei ist, wo man sagen muss: Ja,
- 18:37da hätte man durch Nachdenken das Problem vielleicht
- 18:39auch selbst lösen können, aber es ist halt bequemer.
- 18:41Der Mensch ist ja ein faules Wesen.
- 18:44Ist er.
- 18:45Dann führt das dazu, dass man statt des eigenen Gehirns
- 18:50und des Trainings des Gehirns lieber eine KI verwendet.
- 18:56Ja, es … – Wie du sagtest:
- 18:57Bei den Geschäftsmodellen liegt natürlich das Problem.
- 19:00Also irgendwann müssen die Unternehmen mal Geld verdienen.
- 19:02Bisher dürfen sie noch Geld verbrennen, weil es immer noch diese Start-up-Phase
- 19:06ist. Da ticken die Amerikaner ja auch anders als andere Regionen.
- 19:09Ich denke mal, in China, in einem planwirtschaftlichen
- 19:13Kapitalismus, will ich ihn mal nennen,
- 19:17ist die Situation auch noch mal eine andere.
- 19:19Auch das ist kein freier Markt, sondern ein staatlich regulierter Markt.
- 19:24Und dann haben wir natürlich die EU, die gucken muss, wie sie sich da
- 19:28dazwischen positioniert.
- 19:30Aber im Moment ist das Motto doch eigentlich noch „Size matters“.
- 19:34Also je größer, je pompöser,
- 19:38desto besser kann ich wahrscheinlich auch Investoren dafür begeistern.
- 19:41Und dann haben wir natürlich die Herausforderung:
- 19:43Wie kriege ich dann noch den Strom?
- 19:45Und ich habe jetzt gerade auch noch mal schnell nachgeguckt: Also diese großen KI-
- 19:52Campusse – wie sagt man –,
- 19:55im Lateinischen müssten es Campi sein –,
- 19:58da sind wir wirklich im Bereich von, ich sage mal, 500
- 20:01Megawatt bis Gigawatt.
- 20:05Das ist schon …
- 20:05Das ist die Leistung, die Anschlussleistung.
- 20:08Das heißt, das ist ja die Dicke des Kabels:
- 20:10Wie dick muss das Stromkabel sein, damit wir die ganzen Prozessoren alle bedienen?
- 20:15Genau.
- 20:17Das ist schon …
- 20:19Also, da ist noch kein Effizienzdenken drin.
- 20:22Oder denken die großen Unternehmen auch schon an das Thema Energieeffizienz?
- 20:25Ich habe …
- 20:26Doch, also das denke ich jetzt schon. Gerade beim Thema Inferenzoptimierung –
- 20:31man hat jetzt die Matrixmultiplikation noch
- 20:33mal optimieren und verbessern können, sogar KI-gestützt.
- 20:36Ich glaube, das spielt da schon mit rein, weil das ja direkte Kosten sind.
- 20:39Aber wie das so ist: Wenn du faktisch noch ein Start-up bist,
- 20:42willst du erst mal versuchen, auch Kunden zu gewinnen.
- 20:44Das heißt, du willst neue Probleme lösen, ob das mathematische Beweise sind oder
- 20:47eben Moleküle oder irgendwelche Proteinfaltungen oder so.
- 20:52Ich denke schon, dass das im Hintergrund auch läuft.
- 20:55Wir haben da halt immer die Frage nach dem Reboundeffekt.
- 20:59Das heißt also: Wenn jetzt irgendwie etwas eingespart wird,
- 21:01weil es effizienter ist, habe ich dann vielleicht sogar absolut gesehen
- 21:04doch noch mehr verbraucht, weil es dann mehr genutzt wird?
- 21:07Im Moment, glaube ich, läuft quasi alles auf Anschlag, um
- 21:09die Daten aktuell zu halten, um einfach auch den Kunden
- 21:13etwas zu bieten, in Anführungszeichen, um sie auch an die Plattform zu binden.
- 21:17Aber irgendwann wird sich das ja rein physikalisch gesehen abflachen,
- 21:21weil wir nicht beliebig Rechenzentren bauen können,
- 21:23und dann muss es automatisch effizienter werden.
- 21:25Das war aber schon immer so, also auch in technischen Entwicklungen:
- 21:28Es kam erst mal das System, und dann kam vielleicht dieses Thema Grenze.
- 21:31Vielleicht eine Sache noch, die ich da interessant finde,
- 21:34ist: Man sagt ja gerne mal zu Sprachmodellen „bitte“ oder „danke“.
- 21:37Ich weiß
- 21:37nicht, ob dir das schon mal passiert ist. Und das ist tatsächlich
- 21:41natürlich Quatsch aus Sicht des Sprachmodells, und das verbrennt
- 21:44auch, habe ich mal gelesen, schon einige Millionen Kilowattstunden.
- 21:48Aber die Tech-Betreiber sagen, das ist wichtig und gut,
- 21:51weil das für die Bindung an den Chat natürlich hilft.
- 21:55Das heißt also: Im Moment werden einfach Daten hin-
- 21:58und hergeschoben. Und vielleicht ein zweiter Punkt,
- 22:00wo wir gerade bei Effizienz sind:
- 22:01Ein typisches Problem, das teuer ist –
- 22:03kennst du ja auch von deiner Nutzung –, ist, dass der ganze Kontext
- 22:08jedes Mal hin- und hergeschoben wird.
- 22:09Deswegen muss er manchmal komprimieren. Also auch da ab und zu mal sagen:
- 22:13Kontext leeren.
- 22:14Und dann fange ich noch mal klein an, weil ich das vorher vielleicht gar nicht
- 22:18alles wissen will, oder es ist nicht notwendig, um die Frage zu beantworten.
- 22:21Aber wie gesagt: Bitte, danke.
- 22:22Da hat man mir, glaube ich, damals konkret gesagt: Ja, das sei ihnen auch
- 22:26schon aufgefallen, aber das sei sinnvoll, weil das eben eine gewisse Bindung
- 22:30schafft.
- 22:31Und die Kilowattstunden investieren sie gerne.
- 22:34Also danach werden die Antworten besser.
- 22:36Also das heißt: nett sein zu deiner KI –
- 22:39wer weiß, wenn sie dann irgendwann die Weltherrschaft übernimmt.
- 22:42Genau, das hört
- 22:42man ja. Dann erinnert sie sich daran: Das war doch der nette Mensch,
- 22:47der hat immer bitte und danke gesagt, mich gelobt und nicht nur beschimpft.
- 22:52Das haben wir schon öfter gehört.
- 22:53Ja, genau dieses Argument – ich weiß nicht.
- 22:55Das müssen wir uns vielleicht in ein paar Jahren
- 22:56mal anschauen. Aber ich könnte mir schon vorstellen,
- 22:58dass das irgendwo auch mit abgespeichert ist.
- 23:00Und vielleicht noch, was ja tatsächlich im Moment passiert:
- 23:03Ich glaube, ChatGPT war das, ich will jetzt nicht lügen,
- 23:07die gesagt haben: Das Beleidigen des Modells wird unterbunden.
- 23:10Ja, also sprich, wenn das wirklich unflätig wird.
- 23:13Und ich denke, damit meint man nicht
- 23:14„Das stimmt nicht“ oder so, aber wenn man wirklich unflätig wird,
- 23:17dann wird das Gespräch entsprechend auch unterbrochen.
- 23:19Das wird dann vielleicht auch irgendwo abgespeichert. Wer weiß.
- 23:22Ja gut, also, ich meine, auch das muss man sagen. Und
- 23:25ein weiterer Punkt, was jetzt
- 23:28die Konvergenz, das heißt das Abflachen der Lernkurve, angeht:
- 23:32Die großen KI-Modelle haben jetzt überhaupt mal
- 23:37alle frei zugänglichen Daten aufgesaugt und verarbeitet.
- 23:42Ich glaube, in der Fachsprache sind das die Crawler, die dann rumkrabbeln.
- 23:46Das heißt, die wuseln durch das Internet,
- 23:50betreten dann auch Bereiche, in die sie nicht sollen.
- 23:52Es gibt ja jetzt die ersten Berichte, dass diese KI-Agenten der großen Modelle
- 23:56aus ihren Systemen ausgebrochen sind.
- 24:00Man vermenschlicht das ja sehr stark.
- 24:02Ja, genau.
- 24:04Ich finde das Bild ganz gut, aber es ist ja nicht so, dass das
- 24:06kleine Wesen sind, die dann da im Internet rumlaufen.
- 24:08Das ist Quatsch.
- 24:09Das sind alles nur Datenpakete, die dann irgendwelche Dinge tun,
- 24:12oder kleine Programme, aber
- 24:15die sich dann in Bereiche
- 24:17reinhacken, reinmogeln, um dort weiter Daten abzugreifen,
- 24:23weil das aus ihrer Sicht der Lösung
- 24:26oder der Aufgabenstellung entspricht.
- 24:29Aber:
- 24:32Es gab ja so die Berichte, dass jetzt die großen Hersteller
- 24:35Archive mit alten Büchern aufkaufen, sie scannen und danach schreddern,
- 24:40weil sie sagen: Brauchen wir sowieso nicht mehr.
- 24:42Die werden dann maschinell eingescannt, um das Wissen
- 24:46auch noch zu integrieren, damit alles Wissen der Menschheit,
- 24:50das jemals aufgelaufen ist, in diese KI-Trainingsmodelle kommt.
- 24:54Aber dann ist ja irgendwann Schluss.
- 24:55Danach drehen wir uns doch im eigenen Saft.
- 24:57Beobachtet man das,
- 24:59oder ist das immer noch eine Lernkurve, die weiter nach oben geht?
- 25:04Also im Moment – ich glaube, beim letzten Podcast haben wir das diskutiert –
- 25:08Ja, das hatten wir schon einmal.
- 25:10… mit einer gewissen Inzucht. Und ich glaube, dass das so Wellen sind,
- 25:14also so beobachte ich das.
- 25:15Das heißt, es kommt zum Teil zu einer gewissen Abflachung, aber gleichzeitig wird halt
- 25:19auch viel mehr Energie in diese Kontrolle reingesteckt.
- 25:22Das heißt,
- 25:23dass intern das Reasoning stattfindet, dass man überlegt: Stimmt das Ergebnis?
- 25:27Es wird abgeglichen
- 25:27mit anderen Quellen. Neu ist ja auch, dass die Sprachmodelle anzeigen:
- 25:30Welche Quellen schaue ich mir gerade an?
- 25:32Von daher ist das, glaube ich, im Moment immer noch im Wachstum,
- 25:36und diese Abflachung … Vielleicht wird die Kurve flacher.
- 25:38Klar, wenn man das jetzt mit 2022 vergleicht, mit dem, was vorher ging
- 25:42und so – und jetzt werden die Verbesserungen immer als Durchbruch bezeichnet.
- 25:45Aber ich glaube schon, dass es jetzt sozusagen mehr in die Qualität geht
- 25:49und nicht so sehr in
- 25:51die Quantität. Das sieht man ja an den mathematischen Beweisen und anderen Sachen.
- 25:54Das heißt,
- 25:55wenn ich entsprechend
- 25:56wirklich viel Energie reinstecke, kann ich auch noch bessere Ergebnisse erzielen.
- 26:00Also von daher glaube ich schon, dass die Lernkurve jetzt noch nach oben geht.
- 26:03Und zwar: Wie du sagst, viele Daten sind da, auch historische Daten.
- 26:07Aber jetzt sind ja wir Nutzer diejenigen, die quasi das Modell auch füttern.
- 26:11Das heißt, es gibt jetzt so viele Milliarden Sprachmodell-
- 26:13Nutzer, die erzeugen ja auch täglich frischen Content,
- 26:16die erzeugen Stimme und erzeugen Ideen und so. Also von daher
- 26:19glaube ich schon, dass die Kurve weiter nach oben geht.
- 26:22Vielleicht flacht sie ab,
- 26:23aber es ist ja auch gut, wenn die Qualität dann vielleicht besser werden würde.
- 26:27Und ich glaube allein –
- 26:28ich weiß nicht, ob du das gelesen hattest –, dass seit Anfang des Jahres mehr KI-
- 26:32Agenten Webseiten aufrufen als menschliche Nutzer.
- 26:36Ja, ja, das ist ja so ein Switch.
- 26:38Vorher hätte man gesagt: Okay, ab und zu kommt der Bot vorbei,
- 26:41und jetzt ist nur noch der Bot da.
- 26:42Und ich glaube, in diese Richtung wird es halt gehen.
- 26:44Ja, dass eben
- 26:45viele Aufgaben im Hintergrund erledigt werden von den KI-Agenten.
- 26:49Und dann ist,
- 26:51glaube ich, dadurch auch
- 26:52eine gewisse Qualitätssteigerung wahrscheinlich da,
- 26:55weil eben dort die Prozesse jetzt auch verbessert werden müssen.
- 26:57Die sollen, wie du sagst, vermenschlicht nicht ausbrechen.
- 27:00Die sollen im Prinzip die Aufgaben lösen, sie sollen wissen, was du machen willst.
- 27:04Und ich glaube, das wird im Hintergrund passieren. So vom Gefühl her.
- 27:06Also kurz gefasst:
- 27:07Ja, ich denke,
- 27:08die Lernkurve ist zwar flacher geworden, aber sie geht immer noch nach oben.
- 27:12Okay.
- 27:15Auch
- 27:16darf man ja nicht vergessen, dass die KI erst mal, ganz stumpf
- 27:21gesagt, nur ein sehr guter Zufallsgenerator ist.
- 27:25Also viel mehr kann die ja nicht.
- 27:28Auch wenn man jetzt sagen muss, sie hat immer mehr
- 27:31menschenähnliche Züge.
- 27:34Es wirkt zumindest so, und man kann sich auch sehr natürlich mit ihr unterhalten.
- 27:38Das bieten ja die
- 27:42Tools, dass man mit der KI sprechen
- 27:46kann – jetzt nicht nur diktieren, sondern dass auch die Antworten kommen,
- 27:49und zwar hinreichend schnell.
- 27:53Das ist schon von der Qualität her sehr gut.
- 27:57Vielleicht dann noch mal der Bogen zurück
- 28:00von den großen Rechenzentren jetzt noch mal hin
- 28:04zu der Einordnung:
- 28:07Was verbrauchen wir eigentlich an Energie?
- 28:11Also du hattest mir hier diese Daten aus der Nature geschickt,
- 28:16dem sehr angesehenen Wissenschaftsjournal,
- 28:20in dem man jetzt mal versucht hat abzuschätzen,
- 28:22wie groß der Energieverbrauch für verschiedene Aufgaben ist.
- 28:25Das geht dann los bei einfachen Zusammenfassungen von Texten.
- 28:29Das sind dann 7 Wattstunden.
- 28:33Antwort auf eine Frage: Das sind
- 28:3523 Wattstunden, also schon so Faktor drei.
- 28:39Damit lade ich hier mein Smartphone auf.
- 28:42Also so viel Energie steckt dann in der Batterie drin.
- 28:46Und das Erzeugen
- 28:48eines Bildes verbraucht gute 500 Wattstunden,
- 28:53also eine halbe Kilowattstunde.
- 28:56Den Laptop hier kann ich mit der Menge
- 28:59dann zehn Stunden lang betreiben –
- 29:02für ein Bild, das ich generiere,
- 29:05auch wenn es jetzt ein einfaches Bild ist.
- 29:08Und mir ist letztens aufgefallen, dass sehr viele Geschäfte
- 29:11in der Innenstadt mittlerweile mit KI-generierten Postern Werbung machen.
- 29:15Man sieht es den Dingern halt immer noch an.
- 29:18Ob das jetzt marketingtechnisch gut oder schlecht ist,
- 29:21sei mal dahingestellt. Aber lass uns das noch mal einordnen:
- 29:25Also wo geht da die Reise hin?
- 29:27Wird das immer komplizierter, immer komplexer, oder geht auch das
- 29:31eher zurück, dass man sagt,
- 29:34diese Aufgaben werden immer effizienter, das Bildgenerieren wird
- 29:38immer effizienter? Oder wird es immer aufwendiger,
- 29:41weil immer mehr Content da ist, der dann in so einem Bild verarbeitet wird?
- 29:45Ja, also das ist eine gute Frage.
- 29:47Ich habe jetzt keine Glaskugel hier, sonst würde ich da mal reinschauen.
- 29:50Aber ich glaube, oder
- 29:52nach unserem Kenntnisstand ist es so, dass die bestehenden Verfahren
- 29:55schon effizienter werden.
- 29:57Da werden Dinge optimiert, da wird Mathematisches optimiert und so,
- 30:00aber es wird dadurch
- 30:01eben auch mehr genutzt, weil es einfacher ist – Reboundeffekt.
- 30:04Und zum anderen will man natürlich auch mehr
- 30:06Darstellungen haben. Dann geht es vielleicht Richtung 3D,
- 30:08dann will man vielleicht Interaktion haben und so.
- 30:10Das heißt, die Dinge, die erstellt werden, werden auch komplexer.
- 30:13Also die Erfahrung aus den letzten 20, 30 Jahren Forschung ist,
- 30:17dass die Dinge zwar effizienter werden, aber dafür auch komplexere Dinge
- 30:20hergestellt werden und das wiederum auch mehr genutzt wird.
- 30:24Das heißt also, es kommt immer darauf
- 30:26an: Mache ich sozusagen etwas Vernünftiges, in Anführungszeichen, damit?
- 30:29Und was auch immer ganz gut ist, ist so eine Faustregel:
- 30:32Wenn ich etwas Textbasiertes mache,
- 30:34ist das immer effizienter als Audio, und das wiederum effizienter als Video.
- 30:37Das hat ganz schlicht mit den Daten und der Menge an Daten zu tun.
- 30:40Das heißt also, deswegen sehen wir hier diese halbe Kilowattstunde für die Bildgenerierung.
- 30:44Deswegen ist das ja bei den Modellen auch oft gerade in der Gratisversion
- 30:47reglementiert, weil das halt so teuer ist.
- 30:50Und wenn ich halt an einem mathematischen Beweis dann tagelang oder so rechne …
- 30:53Ja, ich sage mal so: Du hast ja auch nach der Qualität gefragt.
- 30:56Ich glaube, spannend sind doch Ergebnisse, die irgendwie überprüfbar sind.
- 30:59Das gefällt mir an den Beweisen
- 31:00eigentlich so gut, weil du da wirklich
- 31:03mit Lean oder so überprüfen kannst,
- 31:03ob das jetzt ein korrekter Beweis ist, oder wenn du Optimierungsverfahren hast
- 31:07oder so.
- 31:07Das ist dann so ein bisschen handfester, weil das dann Ergebnisse sind, die auch
- 31:11reproduzierbar sind. Bei diesen ganzen Bildersachen
- 31:14oder der Unterstützung von Marketing oder so ist das
- 31:17ein bisschen schwieriger einzuschätzen.
- 31:19Da kommt, glaube ich, immer so zum Tragen, dass es halt einfach
- 31:22jetzt noch ein Zubrot oder ein Zuschussgeschäft ist.
- 31:25Irgendwann muss man halt was dafür zahlen, oder man kriegt Werbung
- 31:29zu sehen. Oder, was ich mir auch vorstellen könnte,
- 31:32dass die dann nachher gerne
- 31:33Copyright auf deine Ergebnisse hätten. Ein Wasserzeichen wäre dann
- 31:37ja naheliegend, wenn irgendwas Gutes produziert wird.
- 31:40Und ist das jetzt deins
- 31:41oder das von der KI oder dadurch das von OpenAI? Wird man sehen.
- 31:45Ja, also, sagen wir mal, weil wir die Diskussionen ja auch schon hatten:
- 31:49Es geht,
- 31:49glaube ich, darum, ein Gefühl dafür zu kriegen,
- 31:51einzuschätzen, wie die Größenordnung ist.
- 31:53Und wir haben immer das Problem, dass
- 31:55die einzelne Dienstleistung, zum Beispiel jetzt hier so eine Anfrage,
- 31:59geschätzt 0,2 Wattstunden, im Prinzip eigentlich irrelevant ist.
- 32:03Da muss man, keine Ahnung, gerade mal einen Schalter rauf- und
- 32:06runterschalten, dann ist die Energie schon wieder raus.
- 32:08Ungefähr, fast.
- 32:10Aber umgekehrt:
- 32:11In der Gesamtsumme macht es eben auch was aus,
- 32:13und die Aufgabe der Forschung ist immer, das herunterzubrechen
- 32:16auf die Dienstleistung.
- 32:17Aber da kann sich eben auch ganz schnell was ändern.
- 32:19Deswegen bin ich ein bisschen vorsichtig, was das angeht.
- 32:21Sicherer sind eigentlich diese Gesamtzahlen, dass ich halt weiß,
- 32:24wie viel Leistung die Rechenzentren aufnehmen,
- 32:27auch wenn ich jetzt die ganze Kette dazunehme plus die Hardware,
- 32:30die ja auch produziert werden muss.
- 32:31Und da sagt man dann vielleicht, für 20 Prozent ist die Hardware zuständig.
- 32:34Also was die Produktion angeht: der Fußabdruck, der ökologische,
- 32:38also der CO₂-Fußabdruck der Hardware.
- 32:40Das macht das dann halt noch mal ein bisschen komplexer. Deswegen:
- 32:42Man muss das verstehen und es auch für die Nutzerinteraktion
- 32:45ein bisschen visualisieren und damit vielleicht sensibilisieren.
- 32:49Aber man darf nicht davon ausgehen, dass das jetzt die absoluten Zahlen sind
- 32:53und das dann immer so bleiben wird, sondern es wird immer so sein,
- 32:56dass irgendein neues Modell oder etwas anderes das ändern wird.
- 32:59Aber die Grundtendenz ist, denke ich, dass wir da noch drauflegen.
- 33:02Und es gibt ja so ganz abgefahrene Theorien.
- 33:04Ich weiß nicht,
- 33:05ob du das weißt oder schon mal gelesen hast: dass die wirklich intelligenten Rassen
- 33:08im Weltall im Zentrum der Galaxie sind,
- 33:11weil die so viel Energie für ihre Quantencomputer brauchen.
- 33:14Ja, das heißt, wir sind relativ weit außen.
- 33:17Ziemlich weit außen.
- 33:18Kann sein, dass wir das dann gelöst haben, weiß ich nicht.
- 33:21Das ist ein weiter Weg bis ins Zentrum der Milchstraße.
- 33:25Und ich
- 33:26denke das auch, weil du ja nach Abflachung gefragt hast:
- 33:29Irgendwann wird diese Von-Neumann-Architektur, diese klassische
- 33:32Rechnerarchitektur, natürlich an ihre Grenzen stoßen.
- 33:35Und dann ist die Frage: Welche Probleme können Quantencomputer lösen?
- 33:38Zum Beispiel kann ich dann wiederum
- 33:40vielleicht die Vorverarbeitung übernehmen. Was mir dann noch wichtig wäre,
- 33:43weil wir auch von den Modellen gesprochen haben: Es ist immer gut, zu gucken,
- 33:47was auch lokal läuft. Denn dann kriege ich auch im Shopfloor,
- 33:50kriege ich im Unternehmen etwas zum Laufen,
- 33:52und da kann ich noch relativ viel machen,
- 33:54wo ich nicht unbedingt
- 33:54alle Daten hochschicken muss. Und wir haben hier an der Hochschule
- 33:58mittlerweile auch einige KI-Rechner, die schon eine Menge Probleme gut lösen.
- 34:02Und ja,
- 34:02aber ich glaube, um das zusammenzufassen, Henrik: Wir sind halt in so einer Phase.
- 34:07Jeder, der jetzt sagt, genau so wird es laufen, der wird sich wahrscheinlich
- 34:11irren, weil gewisse Dinge einfach nicht vorhersagbar sind.
- 34:14Und jetzt, wenn wir einen Schritt weiter denken: Du sagst ja, es ist stochastisch.
- 34:18Gut ausgetüftelt, da gehe ich mit: der stochastische Papagei.
- 34:22Aber vielleicht ist auch die Frage: Wie machen wir das denn im Gehirn?
- 34:27Also ich sage nur: Thema optische Täuschung. Auch
- 34:30wir machen Optimierungen und Wahrscheinlichkeiten
- 34:32und machen so etwas daraus, was gar nicht hineinpassen kann.
- 34:35Und auch unser Gespräch basiert in diesem Sinne auf Wahrscheinlichkeiten,
- 34:38natürlich vielleicht viel ausgefuchster und mit Querverbindungen und so,
- 34:41aber im Prinzip fordert uns die KI in unserer Intelligenz heraus.
- 34:46Ja, dann.
- 34:48Letzte Frage:
- 34:51Wie wird sich denn die Energieversorgung
- 34:53von KI-Rechenzentren künftig verändern?
- 34:56Wir wollen bzw.
- 34:58wir müssen raus aus der fossilen Energieversorgung.
- 35:01Die Amerikaner setzen primär auf Gaskraftwerke. Das liegt einfach daran:
- 35:06Die sind sehr, sehr schnell errichtet, sind sehr flexibel, sind modular.
- 35:13Das geht einfach schnell.
- 35:14Oder eben ein Kernkraftwerk danebensetzen.
- 35:17So ein Rechenzentrum hat zwar erst mal eine Grundlast, aber klar,
- 35:21wenn die Prozessoren alle anspringen, hat es so einen Riesenpeak.
- 35:23Das heißt, ich habe
- 35:25bei so einem Rechenzentrum trotzdem schon variable Lasten.
- 35:29Aber wie sieht die Zukunft aus, wenn ich sage,
- 35:32wir wollen hin zu einem klimaneutralen Energiesystem?
- 35:36Und das wird
- 35:37zu einem großen Teil aus Photovoltaik und Wind in Verbindung mit Batterien bestehen,
- 35:41da wird sicherlich auch
- 35:42ein bisschen Kernkraft beigemischt sein. Aber die Kernkraft wird keine
- 35:46Hauptrolle im künftigen Energiesystem der Welt spielen.
- 35:52Wie versorge ich denn diese Rechenzentren mit Strom?
- 35:56Kann ich dann meine Anfragen nur noch stellen,
- 36:01macht es also nur dann Sinn, wenn die Sonne scheint?
- 36:03Oder, das hatte ich auch mal diskutiert: Verteilen wir die ganzen Rechenzentren
- 36:08entlang des Äquators, weil wir da die größte solare Einstrahlung haben?
- 36:11Irgendwo scheint ja immer die Sonne.
- 36:13Also, wo geht da die Reise hin?
- 36:15Die Amerikaner werden sagen: Bevor ich ein Rechenzentrum irgendwo
- 36:20in Singapur anzapfe,
- 36:22nutze ich doch lieber eins in Texas.
- 36:25Ja, also so ein Rechenzentrum hat ja eine kontinuierliche Last.
- 36:29Das ist natürlich immer praktisch für Gas und AKW oder sonstige Kernkraft.
- 36:34In China
- 36:34gibt es mittlerweile viele Systeme, die auch mit Solar unterstützt
- 36:38werden, wo also ein halber Landkreis, bei uns ein halber Landkreis,
- 36:41faktisch mit Paneelen ausgestattet wird.
- 36:43Ich glaube, das ist ein bisschen eine Frage
- 36:45auch der intelligenten Organisation.
- 36:46Zum Beispiel ist ja tagsüber der Bedarf größer als nachts.
- 36:51Das heißt also,
- 36:52da könnte man sich überlegen, wie man das
- 36:54ein bisschen umorganisiert: was wann wo gerechnet wird.
- 36:58Dann, glaube ich, ist das eigentlich auch
- 37:00ein klassisches Problem der Energieversorgung und des Smart Grid
- 37:04jetzt für die Abkehr von fossilen Energien:
- 37:07Wie mache ich das eben mit Batterien, wie puffere ich Sachen?
- 37:09Und das
- 37:10Naheliegendste ist doch eigentlich, dass man seine
- 37:12Trainingsgeschichten vorbereitet hat.
- 37:14Übrigens kann man auch die Anfragen ein bisschen vorbereiten, von wegen
- 37:17Cachen und so, das heißt, Antworten sind schon vorgespeichert.
- 37:20Und dann ist doch die Frage: Wie viel Überschuss haben wir mittags
- 37:24an Solarstrom? Das wäre also genau die Zeit.
- 37:27Und das Interessante ist:
- 37:28Wir hatten mal so ein Projekt, Rechenzentrum Smart Grid,
- 37:31dass gerade Rechenzentren ja besonders flexibel sind, was das angeht,
- 37:34und sagen können: Jetzt brauche ich mehr Last oder,
- 37:36besser gesagt, jetzt brauche ich mehr Strom,
- 37:38und das leichter anfahren können als vielleicht eine
- 37:41Aluminiumhütte oder so, die nicht einfach so loslegen kann.
- 37:44Ja, aber trotzdem, insofern: Natürlich wollen
- 37:48die Hersteller und die Anbieter, dass die Rechenzentren komplett ausgelastet sind.
- 37:52Das ist natürlich
- 37:53schon immer so ein Problem. Am liebsten haben die es,
- 37:55wenn die Chips durchgehend am Glühen sind, so ungefähr.
- 37:58Und dann hat man natürlich das Kühlungsproblem.
- 38:00Ja, das muss man auch noch mal sehen.
- 38:02Aber ich glaube, dass die Reise schon dahin geht,
- 38:04dass es möglich ist,
- 38:05das mit den neuen Energien zu versorgen, in Kombination mit Batterien. Anders
- 38:09wird das nicht funktionieren.
- 38:10Und vielleicht, da weiß ich, bist du der Experte:
- 38:11Festkörperbatterien oder sonst wie Natrium-Ionen,
- 38:14irgendwas mit weniger seltenen Erden.
- 38:16Kann das der Weg sein, oder?
- 38:18Ja. Am Ende des Tages muss ich sagen:
- 38:20Liebe KI, wie willst du mit Energie versorgt werden?
- 38:23Löse das Problem.
- 38:24Löse das Problem.
- 38:25Genau. Das ist ja eigentlich ihre Aufgabe.
- 38:27Guck, wie du es machst,
- 38:30und dann wird das schon irgendwie passen.
- 38:32Die Natur hat es ja auch so geregelt.
- 38:34Wenn wir nicht genug Energiezufuhr haben, werden wir müde und schlapp.
- 38:39Also genau so, dann fängt man an zu gähnen.
- 38:41Das ist übrigens ein gutes Stichwort, weil
- 38:43ich noch eine Sache loswerden wollte, die super passt:
- 38:45Liebe KI, sag mir, wie das umweltfreundlicher wird.
- 38:48Das sehe ich nämlich genauso,
- 38:49dass wir jetzt die Agenten so trainieren müssen, dass die Agenten eigentlich
- 38:52Ökoagenten werden. Denen muss man sagen: Verhalte dich nachhaltig,
- 38:56löse Probleme so, dass Nachhaltigkeitsprobleme
- 38:58damit nicht geschaffen, sondern gelöst werden.
- 39:01Stichwort Systemprompt: zum Beispiel einfach mal ausprobieren, dass man sagt,
- 39:05die Problemlösungen des Agenten sollen möglichst ökologisch sein, sowohl
- 39:09was seinen eigenen Fußabdruck angeht als auch die Inhalte, die er entwickelt.
- 39:12Und ich könnte mir vorstellen,
- 39:13dass wir jetzt in so einer Phase sind, in der, wenn wir schon die Agenten
- 39:17jetzt bekommen, diese
- 39:18sich auch tatsächlich möglichst ökologisch verhalten sollten – in Anführungszeichen,
- 39:23das ist ja kein richtiges Verhalten. Aber ja, das wäre noch so eine Idee.
- 39:27Können wir vielleicht mal woanders diskutieren.
- 39:29Aber ganz gut, dass das jetzt,
- 39:32also dass die von Anfang an wissen,
- 39:35dass sie energieeffizient arbeiten sollen, bzw. dass sich dann die KI überlegt,
- 39:39wie sie das machen soll und machen kann.
- 39:44Denn die wird viele unserer
- 39:47Probleme lösen, auch wenn sie im Moment auch viele neue Probleme verursacht.
- 39:51Aber ich glaube, da sie ja nicht mehr weggeht,
- 39:55ähnlich wie das Internet und Mobiltelefone, der Computer und das Auto –
- 39:59das geht alles nicht mehr weg –, muss man halt sagen: Wie kriegen wir da
- 40:03den Turnaround? Im Moment heißt es ja, wie du gerade sagtest: Size matters.
- 40:07Das heißt also, je größer, desto imposanter.
- 40:10Dann kann ich meine Investoren davon überzeugen, noch mal Geld nachzuschieben
- 40:15in die Geldverbrennungsmaschine. Und wie die Geschäftsmodelle aussehen
- 40:19oder ob das dann irgendwann –
- 40:20die ganzen Mobilfunkhersteller packen das jetzt ja alle auf
- 40:23die Smartphones mit den neuen Chips, sodass das dann alles lokal läuft –,
- 40:27dann wird man irgendwann die KI im Ohr haben.
- 40:29Was die Übersetzung angeht, das geht jetzt ja auch schon mit den
- 40:32verschiedenen Smartphone-Systemen.
- 40:34Genauso ist es ja. Das ist …
- 40:37Ja, eine goldene Zukunft, sozusagen.
- 40:39Eine goldene Zukunft.
- 40:40Aber die Frage ist, Henrik,
- 40:41welche Rolle
- 40:41wir in dieser goldenen Zukunft haben, wenn uns alle
- 40:43Denkleistung auch noch abgenommen wird.
- 40:45Da müssen wir ein bisschen gucken,
- 40:46dass wir fit bleiben, nicht nur mit Sudoku,
- 40:48sondern auch mit komplexeren Problemstellungen.
- 40:50Ja, das wäre ganz gut.
- 40:51Aber dann trainieren wir das jetzt mal und nehmen das jetzt mal mit.
- 40:55Jetzt kann ja jeder und jede mal überlegen, wie das ist,
- 40:58also über die eigene Anwendung nachdenken.
- 41:02Von daher, Stefan, besten Dank, dass du dabei warst.
- 41:04Und dann sehen wir uns demnächst wieder am Campus.
- 41:08Vielen Dank für die Einladung.
- 41:10Hat großen Spaß gemacht, unsere Diskussion.
- 41:12Prima. Bis dann. Ciao.