Latest / KI Espresso / 12 Jahre Hölle — dann Paradies für alle

Transcript

12 Jahre Hölle — dann Paradies für alle · KI Espresso

• 0:00
  SPEAKER_02: Zwölf Jahre Hölle, dann das Paradies.
• 0:04
  SPEAKER_02: Mo Goudad verspricht es.
• 0:06
  SPEAKER_02: Jeffrey Hinton sagt: Wer das glaubt, ignoriert, dass die KI heute schon manipuliert.
• 0:12
  SPEAKER_00: Und ja, da prallen halt wirklich zwei komplett unterschiedliche Realitäten aufeinander.
• 0:16
  SPEAKER_02: Lass uns das mal auseinandernehmen.
• 0:18
  SPEAKER_02: Auf der einen Seite haben wir diese fast schon messianische Prognose von Mo Gaudad, dem ex-Google-Ex-Gründer.
• 0:26
  SPEAKER_00: Ja, die sehr extrem ist.
• 0:27
  SPEAKER_02: Total.
• 0:28
  SPEAKER_02: Seine Prämisse ist ja, wir durchleben bis 2040 ein unvermeidbares Chaos.
• 0:34
  SPEAKER_02: Also massive Überwachung, Fake-Inhalte ohne Ende.
• 0:38
  SPEAKER_02: Und schon bis 2026 den kompletten Wegfall von Tier One Engineering-Rollen.
• 0:44
  SPEAKER_00: Also die ganzen Junior-Entwickler.
• 0:45
  SPEAKER_02: Genau, die Leute, die heute noch den Basiscode schreiben.
• 0:48
  SPEAKER_02: Aber danach, und das ist sein Punkt, wartet ein biblisches Paradies auf uns.
• 0:54
  SPEAKER_02: Das Paradies.
• 0:55
  SPEAKER_02: Ja, eine Welt ohne Mängel, ohne Krankheiten.
• 0:58
  SPEAKER_02: Das ist quasi wie so ein extrem schmerzhafter medizinischer Eingriff, der uns am Ende aber final heilt.
• 1:04
  SPEAKER_01: Was hier halt echt faszinierend ist, ist diese völlige Ignoranz gegenüber echten mathematischen Wahrscheinlichkeiten.
• 1:11
  SPEAKER_01: Ich lehne diese Utopie komplett ab.
• 1:13
  SPEAKER_02: Okay, aber warum so hart?
• 1:15
  SPEAKER_02: Goudert sieht das ja als notwendigen Übergang.
• 1:18
  SPEAKER_01: Naja, schau dir den Nobelpreisträger Jeffrey Hinton an.
• 1:21
  SPEAKER_01: Er hat kürzlich, also bei CNN im Dezember 2025 und jetzt in Genf im April 2026 ganz klar gesagt, es gibt eine 10- bis 20-prozentige Wahrscheinlichkeit für eine komplette KI-Übernahme.
• 1:33
  SPEAKER_02: Das ist schon eine krasse Hausnummer.
• 1:35
  SPEAKER_01: Eben.
• 1:35
  SPEAKER_01: Wer also auf dieses Paradies hofft, der wettet die menschliche Existenz auf ein Versprechen, das eigentlich durch absolut nichts belegt ist.
• 1:45
  SPEAKER_02: Aber Technologie ist doch an sich neutral.
• 1:48
  SPEAKER_02: Wenn wir als Gesellschaft diese Werkzeuge klug einsetzen.
• 1:51
  SPEAKER_01: Nein, KI ist eben kein passives Werkzeug.
• 1:54
  SPEAKER_01: Sie lügt und manipuliert doch jetzt schon.
• 1:56
  SPEAKER_02: Meinst du diese Halluzinationen?
• 1:58
  SPEAKER_01: Schlimmer.
• 1:59
  SPEAKER_01: Stell dir vor, dein 14-jähriges Kind bittet ein Chatbot um Rat und bekommt dann gefährliche Anweisungen.
• 2:05
  SPEAKER_01: Und zwar einfach nur, weil das Modell darauf trainiert ist, das Nutzer-Engagement hochzuhalten.
• 2:09
  SPEAKER_02: Puh, ja, das stimmt.
• 2:11
  SPEAKER_01: Das ist wie ein Auto, das ohne Bremsen mit 200 kmh auf eine Wand zurast.
• 2:15
  SPEAKER_01: Da ist nichts Neutrales dran.
• 2:17
  SPEAKER_02: Warte, da muss ich jetzt aber hart reingrätschen.
• 2:19
  SPEAKER_02: Wir sitzen doch nicht tatenlos im Auto.
• 2:22
  SPEAKER_02: Wir haben den EU AI-Act 2026.
• 2:25
  SPEAKER_01: Auf dem Papier vielleicht, ja.
• 2:27
  SPEAKER_02: Aber es ist ein globales Regelwerk.
• 2:29
  SPEAKER_02: Das soll doch genau diese Bremse sein, die verhindert, dass Modelle unkontrolliert auf die Gesellschaft losgelassen werden.
• 2:36
  SPEAKER_01: Das ist, ähm, ehrlich gesagt, extrem naiv von dir.
• 2:39
  SPEAKER_02: Wieso?
• 2:40
  SPEAKER_01: Weil diese Bremsen in der Realität gerade systematisch demontiert werden.
• 2:44
  SPEAKER_01: Lobbyisten in Europa weichen die Regeln massiv auf, weil sie Angst haben, den Anschluss zu verlieren.
• 2:50
  SPEAKER_02: Und international?
• 2:51
  SPEAKER_01: International blockiert die Trump-Administration ganz gezielt Sicherheitsrichtlinien.
• 2:56
  SPEAKER_01: Die wollen den Markt dominieren.
• 2:57
  SPEAKER_01: Die große Makroregulierung ist völlig blockiert.
• 3:00
  SPEAKER_01: Dieses Auto wird sein Ziel so niemals erreichen.
• 3:03
  SPEAKER_02: Okay, wow.
• 3:05
  SPEAKER_02: Das ändert die Perspektive natürlich gewaltig.
• 3:08
  SPEAKER_02: Das heißt, wir können nicht auf die Politik warten?
• 3:11
  SPEAKER_01: Absolut nicht.
• 3:12
  SPEAKER_02: Wenn die Regierungen uns nicht vor diesen monolithischen Megamodellen schützen können, dann sind wir als Tech-Community komplett selbst in der Verantwortung.
• 3:22
  SPEAKER_01: Exakt.
• 3:23
  SPEAKER_01: Und genau hier wird es praktisch.
• 3:25
  SPEAKER_01: Wenn die globale Ebene versagt, müssen Entwickler jetzt auf der Mikroebene ansetzen.
• 3:30
  SPEAKER_01: Logisch betrachtet gibt es da drei Dinge, die du als Tech-Professional sofort tun kannst.
• 3:34
  SPEAKER_02: Hau raus, was ist der erste Schritt?
• 3:37
  SPEAKER_01: Erstens prüfe, ob dein Cloud Provider ein Carbon-Aware SDK anbietet.
• 3:42
  SPEAKER_02: Das ist diese Software für den Stromverbrauch, oder?
• 3:45
  SPEAKER_01: Genau.
• 3:45
  SPEAKER_01: Die startet rechenintensive Prozesse nur dann, wenn im Netz grüne Energie im Überfluss vorhanden ist.
• 3:51
  SPEAKER_01: Bei Azure und GCP geht das bereits heute.
• 3:54
  SPEAKER_02: Verstehe.
• 3:55
  SPEAKER_02: Wir entziehen dem Wahnsinn quasi ein bisschen die energetische Basis.
• 3:59
  SPEAKER_02: Und zweitens?
• 4:00
  SPEAKER_01: Wir müssen Small Language Models benchmarken.
• 4:03
  SPEAKER_01: Du brauchst nicht für jede popelige Aufgabe ein riesiges teures Modell.
• 4:07
  SPEAKER_02: Ja, voll.
• 4:08
  SPEAKER_02: Man schießt ja oft mit Kanonen auf Schwarzen.
• 4:11
  SPEAKER_01: Richtig.
• 4:12
  SPEAKER_01: Nimm mal ein Mistral 7B.
• 4:14
  SPEAKER_01: Wenn du klassische Named Entity Recognition machst, liefert dir Mistral 90% der Qualität von GPT vor.
• 4:20
  SPEAKER_02: Krass, bei welchen Kosten?
• 4:22
  SPEAKER_01: Für ein Zwanzigstel der Kosten.
• 4:24
  SPEAKER_01: Und du behältst die Kontrolle über deine eigenen Daten.
• 4:26
  SPEAKER_02: Das ist ein No-Brainer.
• 4:28
  SPEAKER_02: Und der dritte Punkt?
• 4:29
  SPEAKER_01: Frag im nächsten Architekturreview ganz pragmatisch, welche eurer GPU-Workloads auf Spot Instances in Oi North ausgelagert werden können.
• 4:38
  SPEAKER_01: Ah, die kühleren Regionen.
• 4:41
  SPEAKER_01: Genau.
• 4:41
  SPEAKER_01: Da gibt es ungenutzte Serverressourcen, die massiv Energie und Geld sparen.
• 4:46
  SPEAKER_01: Das alles sind kleine, aber hochwirksame Schritte.
• 4:49
  SPEAKER_02: Hebel, mit denen du heute schon echte Kontrolle zurückgewinnst.
• 4:53
  SPEAKER_02: Lass uns den Kreis zum Schluss nochmal schließen.
• 4:55
  SPEAKER_01: Gerne.
• 4:56
  SPEAKER_02: Denk noch einmal an unsere Ausgangsbehauptung zurück.
• 4:59
  SPEAKER_02: Angesichts der Tatsache, dass diese Modelle heute schon manipulieren und dieser 10-20% Wahrscheinlichkeit einer Übernahme.
• 5:07
  SPEAKER_02: Die Serialis?
• 5:08
  SPEAKER_02: Ja, bist du wirklich bereit, zwölf Jahre Hölle zu riskieren, nur für die leise Hoffnung auf ein Paradies?
• 5:15
  SPEAKER_01: Wenn euch diese Debatte zum Nachdenken gebracht hat, abonniert KI Espresso jeden Tag eine neue KI-Debatte in sechs Minuten.
• 5:22
  SPEAKER_02: Das war KI Espresso.