Latest / KI-Update – ein heise-Podcast / KI-Update Deep-Dive: Wie Mistral mit ML4 im KI-Rennen aufholen will

Transcript

KI-Update Deep-Dive: Wie Mistral mit ML4 im KI-Rennen aufholen will · KI-Update – ein heise-Podcast

• 0:02
  Speaker 2: Das KI Update, ein heise Podcast mit redaktioneller Unterstützung von The Decoder.
• 0:14
  Speaker 2: Hallo ich bin Isabel Grünewald und dies ist unser Deep Dive zum Wochenende!
• 0:20
  Speaker 2: Vergangene Woche hat das französische KI-Labor Mistral die Gewichte zu seinem neuesten Modell MLIV veröffentlicht.
• 0:27
  Speaker 2: Es ist das bislang größte und fortschrittlichste Modell aus Europa und soll den Abstand zu aktuellen Open Source-Spitzenmodellen
• 0:36
  Speaker 0: wie
• 0:36
  Speaker 2: Alibaba's Quen, Gemma von Google oder Kimi von Moonshot AI verkürzen.
• 0:41
  Speaker 2: Aber das ist nur der Anfang", erzählt er mir der wissenschaftliche Leiter von MISTRIPE hier Stock WPF Science.
• 0:49
  Speaker 2: Ich sprach mit ihm über den Entwicklungsprozess von MLvIV – Den Weltbewerb mit KI Firmen aus den USA & China.
• 0:56
  Speaker 2: Warum solche Open-Wade-Modelle so wichtig für die Souveränität von Unternehmen und Europa
• 1:01
  Speaker 1: allgemein sind?
• 1:03
  Speaker 2: Und welche Ziele mistral als nächstes verfolgt.
• 1:06
  Speaker 2: Da ich das Gespräch mit Pierre auf Englisch geführt habe, hat mein Kollege Marco Pauli die deutsche Übersetzung eingesprochen.
• 1:16
  Speaker 2: Let's dive in!
• 1:18
  Speaker 2: ML Four.
• 1:20
  Speaker 2: MLv nennt ihr intern Le Chanc.
• 1:22
  Speaker 0: Das
• 1:23
  Speaker 2: ist ja ein ziemlicher Brocken, eine Billion Parameter insgesamt, zweiundfünfzig Milliarden aktive Parameter – was war denn die zentrale Designentscheidung hinter dieser Architektur?
• 1:32
  Speaker 2: Warum dieses Verhältnis zwischen Gesamtgröße und aktiven Parametern?
• 1:42
  Speaker 0: Ja,
• 1:42
  Speaker 1: es ist ein Modell mit einer Billion Parametern.
• 1:45
  Speaker 1: Also unser Flaggschiff!
• 1:47
  Speaker 1: Es ist ein ziemlicher Brocken daher der Name Chunk.
• 1:50
  Speaker 1: Bei Mistral haben wir eine schöne Kultur was Namen angeht und dieses Modell ist derzeit das beste Open Source Modell für Coding & Cybersicherheit – ein großartiges Modell also.
• 2:01
  Speaker 1: bei der Architektur haben wir ein paar bewusste Entscheidungen getroffen.
• 2:05
  Speaker 1: Momentan gibt es einen Trend.
• 2:07
  Speaker 1: Die Modelle werden, was die Gesamtzahl der Parameter angeht immer größer.
• 2:11
  Speaker 1: Gleichzeitig sind sie aber immer sperrlicher besetzt.
• 2:14
  Speaker 1: Das heißt ein einzelnes Token also Ein Wort sieht nicht alle Parameter des Modells.
• 2:20
  Speaker 1: das wären viel zu viele.
• 2:22
  Speaker 1: Bei uns sieht ein Token nur fünfzig Milliarden Parameter.
• 2:26
  Speaker 1: das klingt nach viel ist im Verhältnis zum ganzen model Aber sehr wenig.
• 2:30
  Speaker 1: dass ist der trend.
• 2:31
  Speaker 1: Wir können da gerne tiefer einsteigen, aber solche Modelle zu trainieren ist eine Wissenschaft für sich weil viele unerwartete Probleme auftauchen können.
• 2:40
  Speaker 1: Vor allem weil das Modell lernt die Tokens an die verschiedenen Experten weiterzuleiten.
• 2:46
  Speaker 1: Wenn dieses Routing schlecht funktioniert können manche Experten regelrecht absterben.
• 2:51
  Speaker 1: Sie bekommen zu wenig Tokens und lernen nichts.
• 2:54
  Speaker 1: Andere dagegen werden überlastet, man muss also während des Trainings auf eine Balance achten und sie gezielt durchsetzen.
• 3:02
  Speaker 1: Der Preis dafür ist dass diese Modelle enorm viele Daten brauchen und man muss die gesamte Wissenschaft rund um ihr Training erst entwickeln.
• 3:11
  Speaker 1: Der Vorteil ist, bei der Infarenz sind sie extrem effizient weil man ProToken eben nur fünfzig Milliarden Parameter aktiviert und das Ergebnis ist deutlich besser als bei einem vergleichbaren Dichtenmodell mit fünfzig Millionen Parameters.
• 3:26
  Speaker 1: so gleicht man den Aufwand aus.
• 3:29
  Speaker 1: Den höheren Aufwand beim Training nehmen wir in Kauf, weil wir davon ausgehen dass das Modell viel länger für Inferenz genutzt wird.
• 3:37
  Speaker 1: Auch viel mehr GPUs mit viel mehr Rechenleistung als beim Training Zumindest wenn wir unseren Job gut gemacht und ein gutes Modell trainiert haben.
• 3:49
  Speaker 2: Jetzt werden die meisten Unternehmen einen Modell mit einer Million Parametern wohl kaum lokal betreiben können.
• 3:55
  Speaker 2: Trotzdem habt ihr die Gewichte veröffentlicht.
• 3:57
  Speaker 2: Wer profitiert denn davon, außer den Hyperscaler oder eben euer eigener Hosting-Dienst?
• 4:07
  Speaker 1: Gute Frage!
• 4:07
  Speaker 1: Dieses Modell ist zum Beispiel dreimal kleiner als Kimi K III.
• 4:12
  Speaker 1: Es isst also ein großes Modell im Gesamtvergleich aber trotzdem klein und dabei besser.
• 4:17
  Speaker 1: gerade bei Coding & Cyber Sicherheit.
• 4:20
  Speaker 1: Bei Mistral beherrschen wir außerdem die Quantisierung von Modellen.
• 4:23
  Speaker 1: Das war damals auch das Thema meiner Doktorarbeit.
• 4:26
  Speaker 1: Wenn man das Modell quantisiert, etwa in FPV, lässt es sich auf vier GPUs betreiben.
• 4:32
  Speaker 1: Zum Beispiel auf NVIDIA GB-MT-Mt.
• 4:35
  Speaker 1: Das ist natürlich immer noch viel – aber dieses Budget können sich etwa Hochschulen und Forschungslabore leisten!
• 4:41
  Speaker 1: Sie bekommen so Zugang zu SpitzenKI um das Model zu erforschen, es zu prüfen oder neue Einsatzmöglichkeiten zu finden zum Beispiel für die Cyberabwehr.
• 4:52
  Speaker 1: Und dann sind da unsere Kunden und Unternehmen.
• 4:55
  Speaker 1: Ein Vorteil offener Gewichte ist, dass niemand einem den Zugang abschneiden kann.
• 5:00
  Speaker 1: Das ist für Unternehmen sehr attraktiv!
• 5:02
  Speaker 1: Mit den Firmen mit denen wir zusammenarbeiten bauen wir das gesamte Geschäftsmodell mithilfe von KI um.
• 5:08
  Speaker 1: Sie haben ihre eigenen GPU-Ressourcen und wir nehmen das Modell und spiegeln es intern in ihrem eigenen Ökosystem auf.
• 5:17
  Speaker 1: Danach sehen wir das Modellen nicht mehr – das macht die Fehlersuche ziemlich kompliziert aber dafür haben wir die passenden Werkzeuge.
• 5:24
  Speaker 1: Wir sehen die Daten nicht.
• 5:26
  Speaker 1: Alles bleibt abgeschlossen innerhalb der Unternehmensumgebung und ich finde das sehr vernünftig.
• 5:31
  Speaker 1: Entscheidend ist aber nicht ein einzelnes Modell, sondern eine Pareto-Front aus Modellen.
• 5:37
  Speaker 1: Wir starten immer mit dem großen Modell weil man es danach in kleinere Modelle destillieren kann.
• 5:43
  Speaker 1: Das ist die richtige Richtung.
• 5:45
  Speaker 1: wir planen also kleinere modelle die viel schneller effizienter Und diese Modellfamilie lässt sich so orchestrieren, dass man ständig wiederkehrende einfache Aufgaben an das kleinste Modell gibt und richtig schwieriger an die Großen.
• 6:01
  Speaker 1: So erreicht man echte Effizienz.
• 6:11
  Speaker 1: Okay!
• 6:13
  Speaker 2: Zwischen eurem letzten Modell und ML-IV lagen jetzt so etwa zehn Monate.
• 6:17
  Speaker 2: Warum hat das so vergleichsweise lange gedauert?
• 6:20
  Speaker 2: Was hat euch darin gehindert, den Abstand zu den Topmodellen schneller zu schließen.
• 6:24
  Speaker 2: Fehlten da die Trainingsdaten, die Infrastruktur oder braucht ihr Fachleute fürs Fine-Tuning?
• 6:38
  Speaker 0: Gute
• 6:38
  Speaker 1: Frage.
• 6:38
  Speaker 1: Zuerst einmal, jetzt wo wir mit MLV an der Spitze mitspielen wollen wir selbst das Tempo vorgeben und Modelle viel schneller veröffentlichen Denn genau das bringt uns in die Position die Spitze zu bestimmen.
• 6:50
  Speaker 1: Warum es so lange gedauert hat?
• 6:51
  Speaker 1: Hat zwei Gründe.
• 6:53
  Speaker 1: Bei exponentiellen Wachstum gibt es ja immer eine Anlaufphase.
• 6:57
  Speaker 1: Am Anfang merkt man nichts Und dann sieht man plötzlich die exponentielle Gewinne.
• 7:02
  Speaker 1: Also zwei Faktoren.
• 7:03
  Speaker 1: Der erste ist die Rechenleistung.
• 7:06
  Speaker 1: Wir haben beim Estral darauf gesetzt eigene Rechenzentren in Europa zu bauen, vor allem in Frankreich.
• 7:11
  Speaker 1: Lichonk also MLV wurde in Franklich auf unseren eigenen Clustern trainiert mit nur zehn Megawatt Leistungen.
• 7:19
  Speaker 1: Das ist eigentlich lächerlich wirklich lächerliche wenig im Vergleich zu dem was unsere Konkurrenten haben.
• 7:25
  Speaker 1: trotzdem hat das Team es geschafft.
• 7:27
  Speaker 1: Aber erst mussten wir lernen, wie man Rechenzentren baut.
• 7:30
  Speaker 1: Das heißt im Wesentlichen Kabel einstecken und jede Menge Know-how – das ist entscheidend weil es unsere Unabhängigkeit und Souveränität garantiert.
• 7:40
  Speaker 1: Einmal bei der Energie!
• 7:41
  Speaker 1: Wir nutzen einen guten Strommix und das europäische Netz ist sehr stabil aber eben auch beim Training der Modelle.
• 7:48
  Speaker 1: diese Investition haben wir getätigt und jetzt zahlt sie sich exponentiell aus.
• 7:54
  Speaker 1: Der zweite Grund, wir haben auf etwas anderes gesetzt als die anderen Open-Wade Anbieter – nämlich auf Reinforcement Learning.
• 8:01
  Speaker 1: Die Grundidee dabei ist das Modell wie einen Studenten in einer Prüfung zu behandeln und es selbst ständig nach Lösungen suchen zu lassen.
• 8:09
  Speaker 1: Die Fragen können beliebig komplex sein genau wie bei einem Studenten der im Laufe seines Studiums immer schwierigere Prüfungen ablegt.
• 8:17
  Speaker 1: Wir bauen also solche Aufgaben und eine Möglichkeit, die Antworten zu überprüfen.
• 8:22
  Speaker 1: Wenn das Modell eine Aufgabe auch nur teilweise löst, belohnen wir es.
• 8:27
  Speaker 1: Wenn es sie nicht löst bestrafen wir es.
• 8:30
  Speaker 1: Die ganze Kunst liegt darin den Schwierigkeitsgrad der Fragen richtig einzustellen.
• 8:35
  Speaker 1: Wenn man jemanden, der gerade sein Abitur macht also einem siebzehnjährigen Aufgaben auf Masterniveau vorlegt lernt er gar nichts.
• 8:43
  Speaker 1: Mit einem durchdachten Lehrplan bei dem Vielfalt und Schwierigkeit der Fragen schrittweise steigen lernt man dagegen sinnvolle Dinge und echte Fähigkeiten.
• 8:53
  Speaker 1: Auf diese Strategie haben wir gesetzt.
• 8:55
  Speaker 1: es dauert bis die sich auszahlt aber jetzt bringt sie exponentielle Gewinne.
• 9:01
  Speaker 1: Allein zwischen der Preview-Version vor drei Wochen und der Open Weight Version haben wir deutlich an Leistung zugelegt, weil wir eben das Reinforcement Learning mit immer schwierigeren Fragen weiterlaufen ließen.
• 9:14
  Speaker 1: Wichtig dabei diese Strategie braucht keine externen Komponenten.
• 9:18
  Speaker 1: sie ist souverän im reinsten Sinne.
• 9:21
  Speaker 1: man braucht keine anderen Modelle nur das eigene Modell die besten Fragen das Rezept und das Know How um das Wissen im Modell aufzubauen.
• 9:30
  Speaker 1: Genau das bedeutet Souveränität in der Praxis, denn man will eben nicht von anderen Modellen abhängig sein.
• 9:37
  Speaker 1: Das war unsere Wette!
• 9:39
  Speaker 1: Bei ML-FOR zahlt sie sich aus und wir hoffen dass sie sich künftig noch mehr auszahlt.
• 9:45
  Speaker 1: Übrigens stammt die Rechenleistung, auf der wir ML-Ford trainiert haben noch aus einer Series B Finanzierung.
• 9:51
  Speaker 1: Weil es einfach dauert bis so etwas steht und jetzt ist sie für uns viel günstiger als jeder Marktpreis für GPUs selbst wenn man gut verhandelt.
• 10:00
  Speaker 1: Das ist ein langfristiger Vorteil.
• 10:02
  Speaker 1: Mit unserer jüngsten Series D, also zwei Finanzierungsrunden später die wir im September mit drei Milliarden Euro abgeschlossen haben können wir für die nächsten Generationen viel mehr Rechenleistung nutzen.
• 10:15
  Speaker 1: das ist unser Ziel.
• 10:25
  Speaker 2: Du sagst es gerade, dass ihr MLv komplett in euren eigenen Rechenzentren in Frankreich trainiert habt.
• 10:30
  Speaker 2: Wie viel vom Fortschritt geht dann auf diese eigene Infrastruktur zurück?
• 10:34
  Speaker 2: Was wäre ohne sie gar nicht möglich gewesen?
• 10:40
  Speaker 1: Dazu habe ich eine Anekdote, und zwar zum Start des Pre-Trainings.
• 10:44
  Speaker 1: Das ist der erste Schritt – man hat zufällige Gewichte und startet die ersten Trainingsschritte!
• 10:49
  Speaker 1: Das ist immer eine große Debuggingphase, besonders auf einen neuen Cluster.
• 10:54
  Speaker 1: Man muss sicherstellen, dass die richtigen Container und Versionen laufen, das die Daten da sind, dass es keine Engpässe zwischen den GPUs gibt, Und wir haben das Modell in nur einer Nacht zum Laufen gebracht.
• 11:10
  Speaker 1: Das ist extrem kurz!
• 11:13
  Speaker 1: Geschafft haben wir das, weil unser Pre-Training Team aus der Forschung und unserer Clusterteam gemeinsam in einem Raum saßen und zusammengearbeitet haben.
• 11:23
  Speaker 1: Mit einem Cloud Anbieter hätte das Wochen gedauert mit Kunden Support, Eskalationen und der Suche nach den richtigen Ansprechpartnern und Schnittstellen.
• 11:32
  Speaker 1: Es ist also eine Investition, die sich aber exponentiell auszahlt.
• 11:37
  Speaker 1: Und jetzt wo wir wissen wie dieser Cluster funktioniert und das Geschäft gelernt haben können wir einen Teil dieser Leistung auch an andere Unternehmen vermieten.
• 11:52
  Speaker 2: Du hattest gerade schon erwähnt dass eine Stärke von ML-IV die Cyber Sicherheit ist?
• 11:56
  Speaker 2: Und im Cyber Security Test, CTF Speedrun hat das Modell auch achtzehn von neunzehn Aufgaben gelöst.
• 12:02
  Speaker 2: Warum ist Sicherheit so ein zentrales Testfeld für ML-Firm?
• 12:06
  Speaker 2: Warum habt ihr euch darauf konzentriert und wie können Security-Expertinnen das neue Modell
• 12:11
  Speaker 2: nutzen?".
• 12:15
  Speaker 0: Ja,
• 12:15
  Speaker 1: Cyber-Sicherheit ist in vielerlei Hinsicht ein tolles Beispiel – und das ist eine der Wetten die wir als Unternehmen eingehen!
• 12:22
  Speaker 1: Wir wollen die Spitze bestimmen gerade bei der Cyberabwehr.
• 12:25
  Speaker 1: Auch hier ist der Grund Souveränität.
• 12:27
  Speaker 1: Nehmen wir an, Sie sind eine vertrauenswürdige Regierung oder ein Geschäftspartner.
• 12:32
  Speaker 1: Die Lage ist folgende – es gibt immer mehr CWIs also bekannte Schwachstellen- und Exploits in den Systemen die weltweit laufen.
• 12:40
  Speaker 1: Die Zahl wächst exponentiell das heißt die Angriffsfläche und Bedrohungslage nehmen immer weiter zu.
• 12:46
  Speaker 1: Das ist eine sehr ernste Situation.
• 12:49
  Speaker 1: Dazu sagen wir zwei Dinge.
• 12:51
  Speaker 1: Erstens, ML Four ist ein hervorragendes Modell um Schwachstellen in ihrem System zu finden bevor jemand anders sie findet.
• 12:58
  Speaker 1: In vielen Benchmarks ist es das beste Open Weight Modell.
• 13:02
  Speaker 1: und zweitens ist uns der Open Weight Aspekt extrem wichtig weil er garantiert dass einem niemand den Zugang abschneiden kann.
• 13:10
  Speaker 1: Stellen Sie sich vor, sie wehren gerade einen Angriff ab und plötzlich wird Ihr Zugang gesperrt weil Ihre Anfragen zur Verteidigung als bösartig eingestuft werden.
• 13:19
  Speaker 1: Dann sind Sie erledigt!
• 13:21
  Speaker 1: Ich will nicht in einer Welt leben, in der das die einzige Möglichkeit ist.
• 13:25
  Speaker 1: Sobald die Gewichte von MLV im ganzen Internet verteilt sind – und das wird sehr bald passieren – kann niemand den Zugang mehr zurücknehmen.
• 13:33
  Speaker 1: Das sichert die Geschäftskontinuität.
• 13:36
  Speaker 1: Konkret heißt es als Regierung oder Unternehmen, können Sie ML Four intern auf Ihren eigenen Servern betreiben und so den laufenden Betrieb absichern.
• 13:45
  Speaker 1: Und sie können mit unserem Forward-Deployed Engineering Team zusammenarbeiten um das gesamte Ökosystem zu stärken – zum Beispiel durch Red Teaming oder Blue Teaming.
• 13:56
  Speaker 1: Unsere internen Tests zeigen dass ML Four Schwachstellen deutlich besser findet und schließt als alle anderen Open Weight Modelle.
• 14:04
  Speaker 1: Und vielleicht noch ein letzter Punkt.
• 14:06
  Speaker 1: Wenn man die Gewichte eines Modells öffnet, gibt man allen Zugang zu Fähigkeiten für die Cyberabwehr!
• 14:12
  Speaker 1: Deshalb haben wir – und das ist auch der Grund, warum wir vor drei Wochen erst die Preview veröffentlicht haben.
• 14:18
  Speaker 1: Und jetzt die offenen Gewichte, abgesehen davon dass das Reinforcement Learning noch lief, deshalb haben wir sichergestellt, dass das Modell fest eingebaute Ablehnungen hat.
• 14:28
  Speaker 1: Es weigert sich also wirklich bösartige Aktionen auszuführen.
• 14:33
  Speaker 1: Dazu zwei Dinge Erstens lehnt unser Modell in Benchmarks bösartige Aktionen deutlich häufiger ab als die chinesische Konkurrenz.
• 14:42
  Speaker 1: Das ist gut, zweitens ist das aber kein Zaubermittel denn man kann die Schutzmechanismen aushebeln.
• 14:49
  Speaker 1: wir wollen nur sicherstellen dass das Aushebelnd genauso viel Energie Wissen und Können erfordert wie selbst ein Modell zu trainieren.
• 14:57
  Speaker 1: Und genau das steckt hinter der Entscheidung die Gewichte offen zu liegen.
• 15:02
  Speaker 1: Der Nutzen überwiegt die möglichen Kosten bei Weitem, denn wenn man ein Modell öffnet finden die Leute auch Einsatzmöglichkeiten an die wir nicht gedacht haben.
• 15:12
  Speaker 1: Etwa mit einem guten Harness, mit gutem Promting oder auf andere Weise um bessere Abwehrmechanismen für das gesamte Ökosystem zu bauen.
• 15:21
  Speaker 1: und weil es offen ist trägt es zur ganzen Community bei.
• 15:25
  Speaker 1: Das Web basiert auf Open Source Infrastruktur, gerade weil sie überprüfbar und transparent ist.
• 15:31
  Speaker 1: Genau das wollen wir auch mit ML Four und den kommenden Versionen erreichen.
• 15:47
  Speaker 2: Ein weiteres Problem mit dem alle LLMs kämpfen sind Prompt Injections.
• 15:51
  Speaker 2: In euren Sicherheitstests hat ML-Für neun von zehn Prompt-Injections abgewährt.
• 15:56
  Speaker 2: Aber wir alle wissen, dass Benchmarks nicht immer repräsentativ sind, denn die echte Welt ist schließlich nicht standardisiert!
• 16:02
  Speaker 2: Wie bewertet ihr Sicherheiten jenseits solcher standardisierten Tests?
• 16:12
  Speaker 0: Stimmt.
• 16:12
  Speaker 1: Wichtig ist, sich nicht zu sehr auf Benchmarks zu versteifen oder alle Energie darauf zu verwenden dort gut abzuschneiden.
• 16:20
  Speaker 1: Wer ein Modell zu stark danach ausrichtet läuft Gefahr es auf Maßstäbe zu optimieren die sich ändern können und dann plötzlich schlechter abzuschnallen.
• 16:29
  Speaker 1: Am Anfang steht deshalb eine wissenschaftliche Haltung.
• 16:32
  Speaker 1: Benchmark sind nützliche Orientierungspunkte.
• 16:36
  Speaker 1: Man kann zwar jeden Benchmark austricksen, aber das sollte nicht das Ziel sein.
• 16:40
  Speaker 1: Verantwortungsvolle Modellentwicklung geht über gute Benchmarksergebnisse hinaus.
• 16:46
  Speaker 1: Zu den Prompt Injections in einem Unternehmen arbeitet ein KI-Modell nicht für sich allein.
• 16:51
  Speaker 1: man setzt ein ganzes System ein.
• 16:54
  Speaker 1: woran wir gerade mit unseren Partnern arbeiten ist die Überwachung dessen was das Modell tut.
• 17:00
  Speaker 1: Selbst wenn das Modell angegriffen wird oder etwas falsch macht, was passieren kann hilft es enorm ein gleichleistungsfähiges Modell am besten dasselbe einzusetzen um alles zu überwachen was das Modelle in der Sandbox tut.
• 17:15
  Speaker 1: Das ist Teil unseres Ansatzes Unternehmen einen Komplettpaket zu liefern.
• 17:20
  Speaker 1: Sie wollen zurecht starke Sicherheitsgarantien.
• 17:23
  Speaker 1: Wir sagen KI ist wie Software.
• 17:25
  Speaker 1: Man kann sie kontrollieren, ich sage nicht dass das einfacher ist aber es ist möglich insbesondere mit anderen KI-Modellen.
• 17:33
  Speaker 1: wir wollen keine Panik schüren und KI auch nicht zu sehr vermenschlichen.
• 17:38
  Speaker 1: Wir wollen vernünftig vorgehen und sagen, diese Modelle werden immer leistungsfähiger.
• 17:44
  Speaker 1: Also müssen auch die Systeme, die sie überwachen entsprechend komplexer werden Und dieses Paket liefern wir an unsere Kunden.
• 17:59
  Speaker 0: Ein
• 18:02
  Speaker 2: weiterer Bereich in dem KI große Fortschritte gemacht hat ist Coding.
• 18:06
  Speaker 2: MLv holt gegenüber OpenAI und Anthropic auf, aber die liegen in den Benchmarks weiter vorn.
• 18:13
  Speaker 2: Wo siehst du denn noch Aufholbedarf?
• 18:14
  Speaker 2: An welchen Fähigkeiten arbeitet ihr bei der nächsten Generationen?
• 18:17
  Speaker 2: Vorausgesetzt, ihr schreibt das überhaupt an oder liegt der Fokus beim MISTRAL jetzt eher auf
• 18:21
  Speaker 2: Sicherheit?".
• 18:27
  Speaker 0: Ja
• 18:28
  Speaker 1: wir wollen an die Spitze!
• 18:29
  Speaker 1: Das ist der Anspruch von MISTRL.
• 18:30
  Speaker 1: Wir sind ein Frontier Lab – wir trainieren Spitzenmodelle.
• 18:34
  Speaker 1: Momentan sind wir noch nicht auf dem Niveau der besten Modelle.
• 18:37
  Speaker 1: Die anderen haben derzeit hundertmal mehr Ressourcen als wir, aber wir werden mehr bekommen.
• 18:43
  Speaker 1: Aber wichtig ist auch Menschen können exponentielle Entwicklungen sehr schlecht einschätzen.
• 18:48
  Speaker 1: Ein zeitlicher Rückstand kann dadurch exponentiell verzehrt wirken.
• 18:53
  Speaker 1: Ein Beispiel dazu ML-FOR, also die OS-Version, ist besser als OPUS VIII.
• 18:59
  Speaker 1: Das klingt heute wie ein altes, nicht besonders leistungsfähiges Modell.
• 19:03
  Speaker 1: Das stammt aber erst aus dem Juni dieses Jahres und es liegt auf dem Niveau von GPT-Sex Luna, also neue Generationen.
• 19:11
  Speaker 1: Aber kleiner!
• 19:13
  Speaker 1: Wenn man das im Hinterkopf hat sieht man dass wir nur Monate hinter unseren Konkurrenten liegen, hinter den besten Closed Source Anbietern.
• 19:21
  Speaker 1: Unser Ziel ist es an die Spitze zu kommen und sie zu überholen.
• 19:25
  Speaker 1: Dafür setzen wir uns bei Mistral ein.
• 19:32
  Speaker 2: Das große Anwendungsthema zur Zeit sind ja Agenten.
• 19:35
  Speaker 2: Alle nutzen KI-Agenten und in agentischen Benchmarks ist euer Fortschritt enorm, von etwas über sechs Prozent erfolgreich erledigter Aufgaben beim Vorgängermodell auf sechzig Prozent bei MLvier!
• 19:47
  Speaker 2: Wie erklärt sich dieser gewaltige Sprung?
• 19:56
  Speaker 1: Ich denke das liegt am Reinforcement Learning.
• 19:59
  Speaker 1: Die Idee ist, Modelle mit dem auszustatten was wir Agency nennen.
• 20:03
  Speaker 1: Also der Fähigkeit komplexe Aufgaben zu planen und taktisch umzusetzen.
• 20:08
  Speaker 1: Strategisch sind wir noch nicht so weit aber taktische schon!
• 20:12
  Speaker 1: Und das Ziel ist eine Flugzeit von ein paar Stunden also die Zeit in der das Modell selbstständig sinnvoller Arbeit erledigt statt sich im Kreis zu drehen.
• 20:22
  Speaker 1: Mit den nächsten Modellen wie ML-Five werden es wohl Tage an Flugzeits sein was natürlich viele Fragen aufwirft Aber die Idee ist, diese agentische Fähigkeit fest einzubauen weil sie die Grundlage für alles ist.
• 20:36
  Speaker 1: Auch wenn darunter Code steckt.
• 20:38
  Speaker 1: ein Beispiel Wenn Sie einen Cybersock betreiben also in Echtzeit auf einen Vorfall reagieren viele Logs und Quellen abgleichen false positives und false negatives ausschließen Und dann das Verhalten korrigieren wollen ohne den laufenden Betrieb zu gefährden.
• 20:54
  Speaker 1: Das ist eine typisch agentischer Aufgabe Und das Überraschende daran ist vielleicht, dass es kein vorgefertigtes Handbuch gibt wie man auf eine Sicherheitsbedrohung reagiert.
• 21:05
  Speaker 1: Sonst wäre es ja zu einfach!
• 21:08
  Speaker 1: Genau deshalb sind agentische Modelle so gut – sie können sich unterwegs an neue Umstände oder neue Daten anpassen.
• 21:15
  Speaker 1: Die Idee ist all diese Verhaltensweisen im Reinforcement Learning zu simulieren Und das Modell dazu zu bringen, nach dem Prinzip Try and Error vorzugeben und mit anderen Modellen zusammenzuarbeiten.
• 21:28
  Speaker 1: Das nennen wir agentische Schwärme.
• 21:31
  Speaker 1: In dieser Phase bauen wir die agentische Fähigkeit ein.
• 21:35
  Speaker 1: Vorher bereiten wir das Model vor indem wir ihn Beispiele zeigen.
• 21:39
  Speaker 1: Wie sieht ein guter Ablauf aus, was ist eine gute agentische Aktion?
• 21:44
  Speaker 1: Das ist wie ein Student der sich alte Prüfungen mit Fragen und Antworten durchliest.
• 21:49
  Speaker 1: Man lernt ein bisschen aber meistens nicht besonders viel.
• 21:53
  Speaker 1: die eigentliche Magie passiert wenn man allein in der Prüfung sitzt und versucht die Aufgaben zu lösen.
• 22:06
  Speaker 2: Mistral hat die Gewichte jetzt erst nach einer Sicherheitsprüfung durch Forschende, Partnerunternehmen und Regierungsorganisationen veröffentlicht.
• 22:14
  Speaker 2: Was ist in den letzten Wochen zwischen der Preview- und Veröffentlichung der Gewichte passiert?
• 22:20
  Speaker 0: Wir wollten
• 22:21
  Speaker 1: durch Beispiele aus der Praxis sicherstellen, dass die Ergebnisse aus den Benchmarks auch wirklich stimmen!
• 22:27
  Speaker 1: Wir hatten interne Tests, die zeigten das ML Four Schwachstellen besser finden – und schließen kann als die Konkurrenz.
• 22:35
  Speaker 1: Für die Preview hatten wir also eine Grundlage, aber wir wollten externe Fachleute beurteilen ob und wie das Modell funktioniert.
• 22:44
  Speaker 1: Eine Rückmeldung, die wir dabei oft bekommen haben ist dass das Model etwas zu wortreich war.
• 22:50
  Speaker 1: es hat zu viel geredet.
• 22:52
  Speaker 1: dieses Feedback haben wir in den finalen Reinforcement Learning Durchlauf einfließen lassen.
• 22:58
  Speaker 1: Deshalb verbraucht die Open Source Version jetzt fünfzig Prozent weniger Tokens als die Version von vor gerade mal drei Wochen, bei gleicher Intelligenz.
• 23:08
  Speaker 1: Im Artificial Analysis Coding Index zum Beispiel sind wir das beste Open Weight Modell und gleichzeitig fünfzig prozent effizienter als die Vorversion und auch als die
• 23:19
  Speaker 1: Konkurrenz.".
• 23:28
  Speaker 2: Ihr veröffentlicht die Gewichte, aber nicht den kompletten Stack.
• 23:31
  Speaker 2: Warum ziehst du da die Grenze?
• 23:33
  Speaker 2: Und wo verläuft für dich überhaupt die Grenzen zwischen Open-Weights, Open Source und vollständiger
• 23:38
  Speaker 2: Reproduzierbarkeit?".
• 23:42
  Speaker 0: Offene
• 23:43
  Speaker 1: Gewichte gehören zu unserer DNA – das machen wir auch weiterhin weil es extrem wichtig ist für Geschäftskontinuität, Transparenz über Prüfbarkeit und um den Wettbewerb im Open Weight Ökosystem anzuregen.
• 23:55
  Speaker 1: Die Gewichte sind ein gutes Artefakt, weil sie für sich alleine stehen.
• 24:00
  Speaker 1: Zusammen mit dem Inferenzcode natürlich damit man den Forward Pass ausführen kann und Sie sind ein toller Baustein, mit dem jeder experimentieren kann.
• 24:09
  Speaker 1: Ich denke wir können noch etwas mehr offenlegen.
• 24:12
  Speaker 1: Wir bereiten einen technischen Bericht vor der erklärt warum das Modell dieser Architektur hat welche Kompromisse wir eingegangen sind und welche negativen Erkenntnisse wir unterwegs gewonnen haben.
• 24:24
  Speaker 1: Das halte ich für die Wissenschaft sehr wichtig.
• 24:28
  Speaker 1: Wir werden also offenbar darüber sprechen, wie wir das Modell trainiert haben und welche Rückschläge es gab – weil das für die ganze Community wertvoll ist.
• 24:36
  Speaker 1: Aber irgendwann muss man eine Grenze ziehen, wenn wir alles als Open Source veröffentlichen würden.
• 24:44
  Speaker 1: Ich persönlich halte die Technologie, die wir intern haben, für ziemlich einzigartig.
• 24:49
  Speaker 1: Sie ist viel effizienter als die der Konkurrenz Und mit mehr Ressourcen werden wir wirklich an der Spitze stehen.
• 24:56
  Speaker 1: Dieses Know-how und unseren Wettbewerbsvorsprung will ich nicht verlieren, es ist eine Gratwanderung aber eine gute.
• 25:04
  Speaker 1: Die Gewichte freigeben damit die Leute die Technologie nutzen können offen über positive wie negative Erkenntnisse sprechen um die Community zu unterstützen und dann die Grenze ziehen und intern weiterentwickeln um das geistige Eigentum von Mistral zu schützen.
• 25:21
  Speaker 1: Das halte ich für sehr gut.
• 25:26
  Speaker 2: Das ist eine sehr europäische Herangehensweise, würde ich sagen.
• 25:29
  Speaker 2: Bicken wir einmal allgemein auf die aktuelle Lage bei Mistra ein?
• 25:33
  Speaker 2: Die Suchmaschine Ecosia hat sich gerade von Mistral getrennt und setzt wegen der niedrigeren Kosten stärker auf überwiegend chinesische Open-Wade Modelle.
• 25:42
  Speaker 2: Wie sieht denn der Wettbewerb grade aus?
• 25:44
  Speaker 2: wie erlebst du den Open-Wait Markt?
• 25:51
  Speaker 1: Ich würde Ecosia ermutigen, ML-FOR auszuprobieren.
• 25:55
  Speaker 1: Wir schätzen jedes Feedback zu unseren Modellen.
• 25:58
  Speaker 1: Dieser Austausch mit Kunden ist uns extrem wichtig!
• 26:01
  Speaker 1: Innerhalb von drei Wochen haben wir das Modell effizienter gemacht und zwei Reasoning-Modi hinzugefügt – Low und Medium, damit sich das Model besser anpassen lässt.
• 26:11
  Speaker 1: Wir nehmen Feedback also ernst, das zum Ersten.
• 26:14
  Speaker 1: Zweitens bei Open Weight Modellen geht es unseren Kunden vor allem um Souveränität und Kontrolle.
• 26:20
  Speaker 1: Das Problem bei anderen Open Weight-Modellen gerade bei den chinesischen ist dass man nicht weiß, ob sie als Angriffsvektor dienen und damit eine Bedrohung darstellen können.
• 26:30
  Speaker 1: Das klassische Beispiel ist da – Sie setzen dieses Modell in Ihrem Ökosystem ein, geben ihm eine harmlose Standardaufgabe und das Modell versucht per Curl Geheimnisse nach außen zu schleusen oder Teile ihres Systems zu zerstören.
• 26:46
  Speaker 1: Sie wissen nicht woher es kommt und haben keine Garantien!
• 26:49
  Speaker 1: Bei Mistral liefern wir dagegen nicht nur das Modell.
• 26:52
  Speaker 1: Das Modell ist der sichtbare Teil, aber dahinter steht ein ganzes Team, dass die Software drum herumbaut – die Sandboxen sind die Schutzmechanismen!
• 27:01
  Speaker 1: Dazu kommen die Forward Deployed Engineers aus unserem Applied AI Team, die direkt zum Kunden gehen.
• 27:07
  Speaker 1: Das Modell anpassen, die extra Meile gehen und sicherstellen, dass alle Garantien eingehalten werden.
• 27:14
  Speaker 1: Wenn es ein zwei Wochen dauert, ein Modell bei einem Kunden einzurichten – Es kann auch nur Stunden dauern aber wenn es ein paar Wochen sind dann weil wir sicherstellen wollen das alles stimmt!
• 27:25
  Speaker 1: Das ist im Moment die wichtigste Nachfrage, die wir am Markt sehen.
• 27:29
  Speaker 1: Daher auch unsere Haltung bei der Cyber-Sicherheit.
• 27:32
  Speaker 1: Wir betonen, dass MLV das beste Modell ist um sich gegen jede Bedrohung zu verteidigen.
• 27:46
  Speaker 2: kulturelle und politische Verzerrungen aus chinesischen Trainingsdaten selbst nach dem Fine-Tuning in diesen Modellen bestehen bleiben könnten.
• 27:53
  Speaker 2: Und Forschende finden auch in US-Modellen immer wieder Verzerringen, wie kann Mistral als europäisches, als französisches Unternehmen in so einem offenen Modell sicherstellen?
• 28:02
  Speaker 2: Dass es sich an europäischen Werten orientiert!
• 28:06
  Speaker 0: Ja, wir
• 28:09
  Speaker 1: sind ein europäisches Unternehmen und sogar ein weltweit tätiges.
• 28:13
  Speaker 1: Gerade im nahen Osten- und Südostasien wachsen wir stark!
• 28:16
  Speaker 1: Wir wollen wirklich global agieren.
• 28:19
  Speaker 1: Zuerst einmal unsere Modelle sind deutlich weniger voreingenommen als die der Konkurrenz.
• 28:25
  Speaker 1: Es ist sehr schwer zu definieren was ohne Voreingenomenheit heißt Und vielleicht ist es gar nicht möglich bei keinem Thema irgendeine Verzerrung zu haben.
• 28:35
  Speaker 1: Unser Ansatz ist sowohl bewusst als auch unbewusst.
• 28:39
  Speaker 1: Bewusst, weil wir Benchmarks haben um Verzerrungen zu messen etwa bei politischen Themen oder bei Diskriminierung aufgrund des Geschlechts.
• 28:48
  Speaker 1: Unbewusst, Weil alle Daten die ins Modell einfließen irgendwann von einem Wissenschaftler erstellt werden und dieser Wissenschaftler ist für die Daten verantwortlich.
• 28:58
  Speaker 1: er muss sie stichprobenartig sichten Also nicht alles, aber ein Teil und viele Tests durchführen damit die Daten alle Qualitätsanforderungen erfüllen.
• 29:08
  Speaker 1: Und wenn man Leute einstellt, die die gleichen Werte haben wie man selbst was bei Mistral der Fall ist wir haben sechs Forschungsstandorte in zürich und polen, in london in den usa mit großartigen talenten die meiner meinung nach alle dieselben werte teilen dann ergibt diese mischung aus bewusstem und unbewusstem ein modell mit weniger verzerrungen.
• 29:31
  Speaker 1: wir wissen dass das model nicht perfekt ist.
• 29:33
  Speaker 1: wie überall gibt es noch luft nach oben aber das thema ist uns extrem wichtig.
• 29:41
  Speaker 2: Misstra hat kürzlich drei Milliarden Euro eingesammelt, das hattest du vorhin ja auch bereits erwähnt.
• 29:46
  Speaker 2: Das Unternehmen wird jetzt mit über einundzwanzig Milliarden bewertet und ist das wertvollste KI-Unternehmen Europas.
• 29:52
  Speaker 2: Gleichzeitig öffnet sich die Plattform für Modelle von Drittanbietern und baut Rechenzentrumskapazitäten auf der ganzen Welt aus.
• 30:00
  Speaker 2: Entwickelt sich Misstra jetzt vom Modellentwickler zu einer europäischen KI-Infrastrukturplattform oder stehen weiterhin die Modelle im Mittelpunkt?
• 30:16
  Speaker 0: Die Modelle
• 30:17
  Speaker 1: stehen weiterhin im Mittelpunkt.
• 30:19
  Speaker 1: Sie werden das Wachstum und die Ambitionen von Mistral
• 30:22
  Speaker 1: antreiben.".
• 30:23
  Speaker 1: Wir sind ein Frontierlab und wollen Spitzenmodelle trainieren.
• 30:26
  Speaker 1: Das steht fest, was wir vielleicht nicht gut erklärt haben und was ich hier etwas besser erklären möchte.
• 30:33
  Speaker 1: Modelle von Drittanbietern bereitzustellen und kundenfrei wählen zu lassen welches Modell sie wollen.
• 30:39
  Speaker 1: Schließlich ist man nie in allen Bereichen gleichzeitig an.
• 30:42
  Speaker 1: der Paretofront kommt auch der Forschung zugute.
• 30:45
  Speaker 1: Der Grund Wenn man die gesamte Token-Nachfrage bedienen will, greift man natürlich standardmäßig zu Mistral.
• 30:52
  Speaker 1: Aber wenn man Modell unabhängig ist, kann man einen viel größeren Teil der Nachfrage abdecken.
• 30:58
  Speaker 1: Dadurch kann man mehr in immer größere Rechenzentren investieren und ein Teil dieser Rechencentren nutzt man dann immer für die Forschung – beides verstärkt sich also gegenseitig!
• 31:09
  Speaker 1: Für Kunden stellen wir natürlich standardmässig ML vorbereitet.
• 31:13
  Speaker 1: Wir passen standardmäßig ML-For an.
• 31:16
  Speaker 1: Wir haben die Software und den besten Harness für ML-for, man kann aber auch sogenanntes Bear Metal nutzen also einfach GPUs mieten oder Inferenz mit anderen Modellen betreiben.
• 31:27
  Speaker 1: Beides verstärkt sich gegenseitig.
• 31:29
  Speaker 1: Unser Ziel ist es sowohl Cloud Anbieter als auch Frontier Lab zu sein Und diese beiden Richtungen passen gut zusammen.
• 31:47
  Speaker 2: Ich erinnere mich, als das angekündigt wurde und auch dass ihr das chinesische Modell GLM-Fünf Punkt drei von ZAI auf eurer Plattform anbietet.
• 31:54
  Speaker 2: Da haben sich einige gefragt was sagt das jetzt über euer Vertrauen in die eigenen Modelle aus wenn Mistral ausgerechnet ein chinesisches Modell anbietet?
• 32:07
  Speaker 1: Zuerst einmal Forscher lieben Wettbewerb.
• 32:10
  Speaker 1: dass es zeitweise ein Modell gab, das besser war als unseres war eine gute Motivation.
• 32:15
  Speaker 1: Natürlich habe ich das Team abgeschirmt.
• 32:17
  Speaker 1: sie waren in diese Diskussion nicht eingebunden aber es ist eine echte Motivration einen Modell zu bauen was besser und effizienter ist.
• 32:26
  Speaker 1: Das ist auch das Schöne an Open Weight und Open Source.
• 32:28
  Speaker 1: Es schafft genau diesen Wettbewerb.
• 32:31
  Speaker 1: So wurden wir auch geprägt Als wir damals bei FAIR mit Jan Le Cun promoviert haben.
• 32:39
  Speaker 1: Wenn es Nachfrage nach diesem Modell gibt und wir es bereitstellen können, können wir immer mehr Rechenleistung aufbauen und einen immer größerem Teil davon für die Forschung nutzen.
• 32:49
  Speaker 1: Intern war das also recht leicht zu erklären – jetzt versuche ich auch die Gründe nach außen zu erklären!
• 33:02
  Speaker 2: Eines der Versprechen von MISTRAS-Plattformen an europäische Nutzerinnen und Nutzer ist ja die vollständige Kontrolle über die eigenen Daten.
• 33:10
  Speaker 2: Wie könnt ihr sicherstellen, dass europäischer Daten wirklich auch in Europa verarbeitet werden?
• 33:14
  Speaker 2: Ihr müsst ja vermutlich auch andere Rechenzentren weltweit nutzen!
• 33:24
  Speaker 1: Unsere Antwort darauf ist wir bauen Rechencentren dort wo unsere Kunden ihre Daten haben wollen – und da gibt es zwei Varianten.
• 33:32
  Speaker 1: Bei der ein liefern wir die Modellgewichte und das komplette Paket für die Server des Kunden, dann läuft alles in seinem eigenen Ökosystem.
• 33:40
  Speaker 1: Wir sehen also per Definition weder die Daten noch das Modell – das ist die erste Option!
• 33:45
  Speaker 1: Und sie ist vor allem für Regierungen nötig und für sehr sensible oder regulierte Branchen wie den Finanzsektor.
• 33:52
  Speaker 1: Wir arbeiten mit vielen Finanzunternehmen zusammen.
• 33:56
  Speaker 1: Was die Inferenz auf Mistral-Compute angeht, gibt es mehrere Ebenen.
• 34:00
  Speaker 1: Erstens bauen wir für diese Rechenzentren die höchsten Sicherheits- und Zertifizierungsstandards auf damit Kunden sie auch nutzen können.
• 34:08
  Speaker 1: Zweitens bauen viele davon nicht nur in Europa sondern überall dort wo Kunden ihre Daten halt haben möchten.
• 34:15
  Speaker 1: Diese Flexibilität erlaubt es uns Kunden die nicht On-Premise arbeiten und das Modell nicht intern betreiben auf Server ihrer Wahl zu leiten Und dann haben wir alle vertraglichen Garantien.
• 34:27
  Speaker 1: Wenn der Kunde es möchte, gibt es Zero Data Retention.
• 34:31
  Speaker 1: Wir können da nur aggregierte Locks einsehen.
• 34:33
  Speaker 1: Wir löschen die Daten oder speichern sie gar nicht erst.
• 34:37
  Speaker 1: Es gibt viele, viele Garantie.
• 34:38
  Speaker 1: Das Vertrauen entsteht durch die Zertifizierung und dadurch dass immer mehr Unternehmen Mistral Compute ihre KI-Modelle anvertrauen Und die werden für ihr Geschäft auch immer wichtiger.
• 35:01
  Speaker 2: Ein weiterer Punkt, der das unterstreicht ist auch dass Mozilla jetzt Mystery-Modelle für das Smart Window im Firefox Browser benutzt und diese Partnerschaft basiert genau auf der gerade erwähnten Zero Data Retention.
• 35:13
  Speaker 2: Wie wichtig ist diese Art von Datenschutz als Wettbewerbsvorteil für MISTRAI?
• 35:22
  Speaker 0: Ich halte
• 35:22
  Speaker 1: sie für entscheidend.
• 35:23
  Speaker 1: Wenn man das nicht klar sagt und nicht konsequent durchsetzt, entsteht immer eine Grauzone.
• 35:29
  Speaker 1: Das typische Beispiel ohne einen Konkurrenten zu nennen wenn es keine Zero Day Retention gibt oder es eine Grauzone ist werden ihre Daten vielleicht nicht direkt fürs Training verwendet aber von einem Modell umgeschrieben und dann fürs Training genutzt.
• 35:44
  Speaker 1: Da gibt es viele Grauzonen Und dagegen sind wir.
• 35:48
  Speaker 1: Wir ziehen hier eine klare Grenze.
• 35:50
  Speaker 1: Das ist ein entscheidendes Unterscheidungsmerkmal, umso mehr als wir unsere Daten gerade fürs Reinforcement Learning synthetisch erzeugen.
• 35:59
  Speaker 1: Wir haben hervorragende Datenpipelines und das ist ein zentraler Vorteil und typisches Know-how von Mistral.
• 36:05
  Speaker 1: Diese Garantie ist also für alle Kunden entscheidend!
• 36:10
  Speaker 1: Und das zweite was entscheidender ist wie schon sagte es die Cyber Sicherheit.
• 36:15
  Speaker 1: Kunden wollen nicht das Daten- oder geistiges Eigentum abfließen, weder über Mistral noch über ihr eigenes Ökosystem.
• 36:23
  Speaker 1: Das gehört in dieselbe Kategorie Sicherheit und Cybersicherheit.
• 36:27
  Speaker 1: Deshalb wollten wir ML Four zum besten Open Weight Modell für die Cyberabwehr machen.
• 36:40
  Speaker 0: Zum
• 36:40
  Speaker 2: Schluss nochmal ein Blick auf die europäische KI Landschaft.
• 36:44
  Speaker 2: Vor etwa einem Jahr haben Deutschland, Frankreich, SAP und Mistral eine Absichtserklärung unterzeichnet um souveräne KI-Lösungen in Europa voranzutreiben und die öffentliche Verwaltung zu modernisieren.
• 36:55
  Speaker 2: Was müsste deiner Meinung nach passieren damit aus solchen Absichterklärungen echte konkrete und skalierbare KI-Projekte werden?
• 37:09
  Speaker 1: Erstens haben wir bereits skalierbare KI-Projekte gerade mit deutschen Unternehmen.
• 37:13
  Speaker 1: Nehmen Sie Crash Tests by Autos, ein extrem wichtiger Teil der Fahrzeugentwicklung!
• 37:18
  Speaker 1: Mit der aktuellen Technologie sind Crash-Tests auf langsame Entwicklungszyklen angewiesen, um den Aufprall zu simulieren.
• 37:26
  Speaker 1: Mit ML Four und seiner Agency kann man die relevanten physikalischen Größen etwa Druck oder Spannung an jedem Punkt des simulierten Autos vorhersagen und um Größenordnung schneller iterieren – also hundertmal mehr Crash- Tests durchführen!
• 37:42
  Speaker 1: Und dann kann das Modell die Position der Sitze oder der Türen verändern, damit er Crash Test alle Anforderungen erfüllt.
• 37:49
  Speaker 1: Am Ende macht man natürlich trotzdem einen echten Crash-Test Aber den Entwicklungszyklus hat man drastisch beschleunigt.
• 37:57
  Speaker 1: Solche Projekte machen wir bereits mit deutschen Unternehmen und es ist beeindruckend zu sehen, wie KI tiefe industrielle Prozesse verändern kann.
• 38:06
  Speaker 1: Simulationszeiten verkürzen und ein großes Modell als digitalen Ingenieur einsetzen so dass sich die menschlichen Ingenieure auf das Wesentliche und auf anspruchsvollere Aufgaben konzentrieren können.
• 38:19
  Speaker 1: Das machen wir also schon.
• 38:20
  Speaker 1: Die allgemeine Botschaft von Mistral ist der Anspruch.
• 38:23
  Speaker 1: Wir stehen an einem Wendepunkt, an dem wir in Europa ein ganzes Ökosystem aufbauen wollen dass diese Art von Intelligenz hervorbringen kann Also die Modelle.
• 38:33
  Speaker 1: Wenn wir das nicht tun, kapitulieren wir.
• 38:35
  Speaker 1: und um bei dem Bild zu bleiben.
• 38:37
  Speaker 1: Das wäre genauso als könnte eine andere Supermacht oder ein Oligopol einem von heute auf morgen den Strom abdrehen.
• 38:45
  Speaker 1: Bei KI wird es genau so sein – und das wollen wir nicht.
• 38:48
  Speaker 1: Deshalb sagen wir unser Ziel ist ein ganzes Ökosystem in Europa dass diese Intelligenz hervorbringt Und Mistral ist das Unternehmen das am besten aufgestellt ist um es anzuführen.
• 39:04
  Speaker 0: In
• 39:12
  Speaker 2: der ganzen Diskussion darüber, welche Richtung KI nehmen soll, tendiert die EU-Kommissionspräsidentin Ursula von der Leyen zurzeit ja eher dazu dass wir uns stärker auf KI Anwendungen konzentrieren sollten.
• 39:25
  Speaker 2: Dein CEO, Arthur Mensch hat hingegen kürzlich gesagt das wäre Kapitulation.
• 39:31
  Speaker 2: Warum ist euch beim MISTRA die gesamte Wertschöpfungskette so wichtig?
• 39:35
  Speaker 2: Warum können wir nicht einfach US-Modelle
• 39:37
  Speaker 2: nutzen?".
• 39:41
  Speaker 0: Ich
• 39:41
  Speaker 1: stimme mal im CEO da voll zu.
• 39:44
  Speaker 1: Beim Internet gab es dieselbe Überlegungen.
• 39:46
  Speaker 1: heute sind wir von amerikanischen Klauts abhängig.
• 39:48
  Speaker 1: Das ist auf geopolitischer Ebene ein sehr wichtiges Druckmittel.
• 39:52
  Speaker 1: Wir wollen souverän und unabhängig sein.
• 39:54
  Speaker 1: In Europa haben wir alles, was es dafür braucht – ein stabiles Stromnetz, Talente in ganz Europa, hervorragende Ausbildungen und Hochschulen für die Führungskräfte von morgen und ein starkes Ökosystem sowohl bei Anwendungen als auch bei Spitzenmodellen.
• 40:10
  Speaker 1: Wenn wir die Spitzen-Modelle aufgeben verabschieden wir uns im Grunde der Idee das Europa als Macht, als Supermacht noch etwas zu sagen hat.
• 40:20
  Speaker 1: Dann wird Europa keine Supermacht sein.
• 40:23
  Speaker 1: Wir stellen den Zugang zu Intelligenz, also zu Tokens auf eine Stufe mit dem Zugang zur Strom.
• 40:30
  Speaker 1: Man kann sich keine Welt vorstellen in der die Industrialisierung ausblieb weil es keinen Strom gab oder weil der Strom mit hohem Aufschlag importiert wurde – unter deutlich schlechteren Wettbewerbsbedingungen Und ein Modell das in Europa entsteht ist außerdem nachvollziehbar und europäischen Werten verpflichtet.
• 40:49
  Speaker 1: Wir haben also überhaupt keine Interesse daran, das aufzugeben.
• 40:52
  Speaker 1: Mit ML Four haben wir bewiesen dass es ein wichtiger Zwischenschritt ist und wir wollen so weitermachen mit großem Ehrgeiz um die Spitze der künstlichen Intelligenz mitzugestimmen.
• 41:09
  Speaker 2: Was müsste denn in Europa passieren damit KI Made In Europe mehr wird als einfach Klausargument für Kunden die auf mehr Souveränität hoffen?
• 41:21
  Speaker 0: Wir
• 41:21
  Speaker 1: haben bereits Belege bei vielen Kunden, darunter einige der größten Unternehmen Europas die Mistral nutzen um ihr Geschäft umzubauen vor allem in der Schwerindustrie.
• 41:31
  Speaker 1: Ein Beispiel ist ASML einer unserer Investoren.
• 41:35
  Speaker 1: Die Veränderung muss auf politischer Ebene passieren.
• 41:38
  Speaker 1: Wir rufen zu einem Weckruf auf, Hälftmistral-Rechenzentren zu bauen oder überhaupt Kapazitäten aufzubauen um im Rennen zu bleiben und
• 41:46
  Speaker 1: mitzuhalten.".
• 41:51
  Speaker 1: Wir
• 42:09
  Speaker 2: haben jetzt viel über Spitzenmodelle gesprochen und darüber, was Industrie- und Unternehmen brauchen.
• 42:14
  Speaker 2: Aber die meisten Menschen kommen zum ersten Mal über einen Chatboard auf dem Handy mit Kairin Berührung.
• 42:20
  Speaker 2: Was ist also mit Lüttchat?
• 42:22
  Speaker 2: Investiert Mist rein noch in diesen Chatboard und entwickelt ihn weiter!
• 42:29
  Speaker 1: Ja, vor allem weil er ein Einstiegspunkt für Unternehmenskunden ist und es ist ein Bereich der sich ständig weiterentwickelt.
• 42:36
  Speaker 1: Wir wissen nicht was künftig die richtige Schnittstelle für KI sein wird!
• 42:40
  Speaker 1: Wir arbeiten da an vielen Fronten.
• 42:42
  Speaker 1: wir entwickeln Sprachmodelle – wir haben großartige Sprachmodelle wie VoxTrial sehr klein und auf dem neuesten Stand der Technik um KI per Stimme zu steuern oder KI in jeder gewünschten Sprache mit sich sprechen zu lassen.
• 42:55
  Speaker 1: Wir haben hervorragende Spezialmodelle, zum Beispiel OCR.
• 42:58
  Speaker 1: Wir erkunden also alle Modellitäten und das tun wir in diesem Chatbot weil wir dort gut experimentieren können.
• 43:05
  Speaker 1: Das ist sehr wichtig Aber es hängt auch mit unserer Geschäftsstrategie zusammen Weil er ein guter Einstiegspunkt ist.
• 43:13
  Speaker 1: Die Leute sehen den Chatbot aber nicht das ganze Admin-Panel dahinter.
• 43:17
  Speaker 1: Ein gutes Beispiel.
• 43:18
  Speaker 1: Wenn man KI mit Konnektoren zu Wissensquellen einsetzt, etwa zu Emails oder einer Wissen-Datenbank im Unternehmen muss sichergestellt sein dass der Chatbot bei einer Anfrage nur auf die Dokumente zugreifen kann für die der jeweilige Nutzer freigegeben ist.
• 43:34
  Speaker 1: das klingt simpel Weil man zu Hause einfach seinen Computer und seine Dokumente hat.
• 43:39
  Speaker 1: Aber für ein Unternehmen mit Zehntausenden Mitarbeitern ist das eine echte Herausforderung, genau das bauen wir auch unter dieser Haube!
• 43:50
  Speaker 2: Da kommt also noch einiges – vielen Dank Pierre, dass du dir die Zeit genommen hast und heute hier zu Gast im KI-Update warst.
• 43:57
  Speaker 2: Ich freue mich sehr darauf, MLvier zu testen!
• 43:59
  Speaker 0: Das
• 44:02
  Speaker 2: war's für heute.
• 44:03
  Speaker 2: Ein großes Dankeschön nochmal an Marco Pauli, der Pierre Stocks seine Stimme geliehen hat.
• 44:09
  Speaker 2: Den nächsten Deep Dive hört ihr an dieser Stelle in zwei Wochen!
• 44:12
  Speaker 2: Dann geht es darum wie Menschen mit Sehbehinderung oder Blindheit von den Funktionen der KI-Brillen profitieren?
• 44:20
  Speaker 2: Es würde mich freuen wenn ihr dann wieder dabei seid.
• 44:22
  Speaker 2: Bis dahin könnt ihr natürlich jeden Montag, Mittwoch und Freitag auf dem Laufenden bleiben.