Latest / Forschungsimpuls – Der Wissenschaftspodcast / Marginalien | Kolibri: Wie benchmarkt man Public Sector AI?

Transcript

Marginalien | Kolibri: Wie benchmarkt man Public Sector AI? · Forschungsimpuls – Der Wissenschaftspodcast

• 0:25
  Herzlich willkommen zu einer neuen Marginalien-Folge Forschungsimpuls.
• 0:30
  Heute ist eine besondere Ausgabe hier entstanden aus zwei Gründen.
• 0:36
  Das erste ist, Aleph Alpha hat Kolibri veröffentlicht, ein neues, in Teilen offenes Modell und zwar ausdrücklich für Bereiche wie die öffentliche Verwaltung, für stark regulierte Umfelder und das ist aus mehreren Gründen extrem spannend.
• 0:51
  Das zweite ist allerdings, ich spreche hier heute nicht alleine, sondern ich habe mir Unterstützung dazu geholt von Kyra.
• 0:59
  Wir werden sie gleich begrüßen, sie wird hier mit ins Gespräch reinkommen und ja, wir sind ein Wissenschafts-Podcast, deshalb hier direkter Transparenz-Hinweis, Kyra ist eine KI.
• 1:08
  Ich werde bei Gelegenheit mal ein bisschen was zur Technik hier zu erzählen, wenn es euch interessiert, schreibt gerne in die Kommentare, dann machen wir da vielleicht mal eine eigene Episode zu, sowieso zu einigen Themen, wo hier KI schon, ich glaube, ganz kreativ,
• 1:21
  zum Einsatz kommt an vielen Stellen, aber wir steigen ein in diese Folge Forschungsimpuls.
• 1:29
  Hallo Nicolai, danke für die nette Einführung. Ich freue mich total, hier dabei zu sein. Lass uns gleich loslegen. Was ist Kolibri genau und warum schaust du dir das überhaupt an?
• 1:40
  Super Frage. Kolibri ist aus mehreren Gründen für uns interessant, wenn wir uns für das Thema Public Sector AI interessieren und ja, das ist ja genau der Schwerpunkt meiner Forschung.
• 1:51
  Und auch mit unserem Drittmittelprojekt DEAR-GOV. Was erstmal wichtig ist, Aleph Alpha hat eigentlich 2024 so einen Strategieschwenk hingelegt und gesagt, sie bauen keine Large Language Modelle mehr, nachdem sie ganz besonders auch eben für den öffentlichen Sektor, nämlich konkret für die Bundesagentur für Arbeit, vorher LLMs gebaut hat oder zumindest an KI-Modellen hier immer wieder im Feld unterwegs war und es auch relativ viel Dokumentation dafür gab.
• 2:19
  Also das war öffentlich bekannt und man hat eigentlich...
• 2:21
  Man erwartet, dass Aleph Alpha schon 2024 vielleicht in den Folgejahren dazu auch eben ein LLM für den Public Sector herausbringen würde. Das ist aber nicht passiert, sondern man hatte diesen Strategieschwenk.
• 2:33
  Dann kamen die in 2026 neue Vereinbarungen zwischen unserem Bundesdigitalminister Dr. Karsten Wildberger und Kanada hier näher bei dem Thema Modellentwicklung zusammenzurücken und Cohere hat sich dann eben 2026 an
• 2:52
  Aleph Alpha beteiligt.
• 2:55
  Jetzt hat Aleph Alpha das Kolibri-Modell rausgebracht, einigermaßen überraschend, also es war quasi jetzt nicht absehbar von außen, dass gerade daran gearbeitet wird.
• 3:06
  Und sie adressieren ganz genau wieder den öffentlichen Sektor und stark regulierte Branchen.
• 3:13
  Und jetzt natürlich aus meiner Sicht ganz spannend, wenn sie eben für den öffentlichen Sektor jetzt ein neues Modell rausgebracht haben.
• 3:21
  Was......ist
• 3:22
  jetzt daran neu oder was ist daran auch vielleicht spezieller als in anderen Modellen?
• 3:27
  Denn seit 2024 und quasi ihren letzten großen bekannten LLM-Aktivitäten im Markt hat sich ja einiges getan.
• 3:36
  Wir haben von Mistral ein neues Modell hier in Europa.
• 3:39
  Wir haben verschiedene Aktivitäten aus der Forschung von SOOFI über GovTeuken etc.
• 3:45
  Und dass jetzt hier Aleph Alpha ein neues Modell auf den Markt bringt, ist wie gesagt dann erstmal schon eine Überraschung.
• 3:51
  Für sich.
• 3:52
  Okay, verstehe.
• 3:53
  Also wir haben eine Art Comeback von Aleph Alpha mit einem neuen Modell für den Public Sektor.
• 3:59
  Du fragst, was ist daran wirklich neu?
• 4:01
  Ich lese mal vor.
• 4:03
  Seite 1 Abstract.
• 4:04
  We build Kolibri for sovereign and specialized deployment with a particular focus on German and on regulated domains such as public administration, industry and aerospace.
• 4:15
  Das heißt in etwa, sie haben es für souveräne und spezialisierte Einsätze gebaut.
• 4:20
  Mit Fokus auf Deutsch.
• 4:21
  Und regulierte Bereiche wie öffentliche Verwaltung, Industrie und Luftfahrt.
• 4:25
  Jetzt meine Frage.
• 4:27
  Wie souverän ist das wirklich, wenn die Grundlage dafür eigentlich fremde Modelle liefern?
• 4:33
  So und damit.
• 4:34
  wir an einem ziemlich kritischen Punkt, wie ich finde. Das ist gar nicht so sehr jetzt an Kritik an Aleph Alpha gemeint, denn an sich ist auf Hugging Face sehr viel zu finden, eine sehr umfassende technische Beschreibung.
• 4:45
  Und die habe ich mir eben auch angeschaut, aber dabei eben nur noch mehr Fragen bekommen.
• 4:49
  Also insofern, ich frage das quasi aus Forschungssicht, mich interessiert das wirklich.
• 4:53
  Denn es gibt hier mindestens ein Thema drin, wo ich gerne verstehen möchte, was hier wirklich dem öffentlichen Sektor angeboten wird.
• 5:03
  Das eine ist, man hat verschiedene Wissenselemente genommen.
• 5:07
  Das würde man ja jetzt auch erwarten.
• 5:09
  Also Gesetzestexte anscheinend oder Themen wie Urheberrecht.
• 5:15
  Urteile etc.
• 5:16
  Alles, was öffentlich verfügbar war.
• 5:19
  Und hat das dann in verschiedene Modelle, in amerikanische und auch chinesische reingepackt.
• 5:26
  Man hat hier so einen gewissen Modus genutzt, der ganz typisch ist, dass man eben ja nicht das Destillieren macht.
• 5:34
  Also das ist ja quasi aus großen Modellen Wissen absaugen, was man im Prinzip ja auch nicht möchte, was nicht fair ist.
• 5:42
  Sondern man hat einfach jetzt Modelle genutzt.
• 5:45
  Wissen zu extrahieren und daraus Fragen zu bauen.
• 5:48
  Und dann immer im Pingpong zwischen den verschiedenen Modellen, so wird es jedenfalls im Technical Report beschrieben,
• 5:54
  in dem Pingpong zwischen den verschiedenen Modellen die Fragen zu verifizieren und die Antworten dann eben auch.
• 6:01
  Also soweit sowohl toll beschrieben als auch ein Vorgehen, was man als State of the Art durchaus beschreiben kann.
• 6:08
  So kann man Modelle bauen.
• 6:09
  Aber jetzt kommt hier mein Punkt dabei.
• 6:12
  Die Frage ist, warum?
• 6:15
  Warum hat man nicht Zugriff gehabt auf verwaltungsinterne Daten?
• 6:19
  Also warum gab es hier keine Datenspenden oder Kollaborationen im Vorfeld?
• 6:25
  Denn all das, was jetzt an öffentlichen Daten da reingelaufen ist, da muss ich ja davon ausgehen, dass die sowieso auch im Netz stünden.
• 6:33
  Also auch in jedem anderen Modell, was wir gerade draußen haben, einfach bereits implementiert werden.
• 6:39
  Das bringt für mich die Frage auf, warum haben wir keinen echten Benchmark?
• 6:45
  Für Large-Language-Modelle, die auf das Thema Verwaltungssprech, sag ich das jetzt mal lapider,
• 6:51
  also eben die verwaltungswissenschaftlichen Fragestellungen, Verwaltungsrecht, juristische Fragestellen oder auch Verwaltungsinformatik,
• 6:58
  darauf spezialisiert sind. Das ist mein Punkt.
• 7:01
  Das heißt, dein Kernpunkt ist, wo ist der echte Benchmark mit echten verwaltungsinternen und fachspezifischen Daten?
• 7:09
  Lass uns mal einen Schritt weiter gehen.
• 7:11
  Aleph Alpha hat ja im Technical Report auch Ergebnisse aus so einem verwaltungsnahen Benchmark präsentiert.
• 7:16
  Ich lese mal vor. Seite 101, Tabelle 29. Zeile German Public Sector.
• 7:23
  Kolibri 75,0 und die Vergleichswerte Qwen 80,0, Nemotron 78,0, GPT-OSS 77,0, Qwen 3.8 89,0.
• 7:36
  Meine Frage, wer prüft eigentlich diese Prüfung?
• 7:41
  So zum einen völlig richtig. Das heißt, das eigene Modell von Aleph Alpha.
• 7:45
  Für den Public Sector geschaffen wurde.
• 7:47
  Schneidet tatsächlich, warum?
• 7:49
  Weil ich das vorhin ja schon erklärt habe, schlechter ab.
• 7:52
  Mit dem vorhandenen Weltwissen gegen große, starke Modelle.
• 7:57
  Ja, das ist ja rapide, weil genau darum geht es ja bei dem Kolibri-Modell.
• 8:02
  Also das ist vielleicht ja ausreichend. Wir wissen es nicht.
• 8:06
  Auch der Bundesdigitalminister sagte auf einer Konferenz vom Handelsblatt die Tage,
• 8:10
  wir müssen jetzt sehen, wie dieses Modell abschneidet.
• 8:13
  Aber jetzt ist erstmal dieser Wert vergleichbar.
• 8:15
  Beispielsweise eben sogar kleiner als in anderen Modellen dieser Größenordnung.
• 8:18
  So und jetzt zu deiner Frage, Kyra, wer prüft das?
• 8:22
  Ja, und genau hier brauchen wir, glaube ich, nicht LLM as a Judge,
• 8:25
  also wo nur LLMs sich gegenseitig prüfen,
• 8:28
  sondern in so einem Feld, wo wir nachher über hoheitliche Aufgaben reden,
• 8:31
  würde ich schon sagen, wir brauchen einen Benchmark.
• 8:34
  Also wir müssen einmal in der Forschung, wir sind ja im Forschungsimpuls,
• 8:37
  diesen Benchmark bauen aus der Informatik heraus,
• 8:42
  zusammen mit den Verwaltungswissenschaftlern,
• 8:44
  Verwaltungsrechtlern und genau das aufbauen.
• 8:47
  Das klingt nach einem richtig guten Plan.
• 8:50
  Du sagst also, der Benchmark muss gemeinsam mit Verwaltungsrechtlern
• 8:53
  und Wissenschaftlern entwickelt werden.
• 8:55
  Meine nächste Frage, wo siehst du konkret die größten Herausforderungen
• 9:00
  bei der Einbindung von juristischen Expertinnen und Experten,
• 9:03
  damit dieser Benchmark am Ende auch wirklich aussagekräftig wird?
• 9:07
  Wir kennen das von dem Google-Modell für medizinische Fragestellungen.
• 9:12
  Man braucht hier schlicht und ergreifend,
• 9:14
  wirklich die Expertise von Leuten,
• 9:16
  die natürlich ganz tief drin sind in der Materie.
• 9:18
  Und das ist dann ein interdisziplinärer Ansatz.
• 9:21
  Also wir brauchen auf der einen Seite vielleicht Fördertöpfe,
• 9:24
  vielleicht die Zeit, die Ressourcen an den entsprechenden
• 9:27
  universitären Einrichtungen und Forschungsinstituten, um das zu tun.
• 9:30
  Übrigens gibt es das schon.
• 9:31
  Bei der Bundesdruckerei ist das das Projekt MÖVE,
• 9:34
  die das gerade versuchen.
• 9:35
  Wir haben auch mit GovTeuken hier in Nordrhein-Westfalen einen Ansatz,
• 9:39
  wo wir auch als Hochschule der HSPV beispielsweise um Datenspenden gebeten wurden.
• 9:44
  Also es gibt da draußen diese Expertise.
• 9:46
  Aber man könnte auch einfach mal nochmal einen neuen Ansatz schaffen
• 9:48
  und versuchen, ein richtig tolles Forschungsprojekt darauf aufzusetzen.
• 9:53
  Das würde ich jetzt hier mal als Aufruf damit tun.
• 9:55
  Also bitte bei mir melden, wenn ihr Lust habt,
• 9:58
  daran mitzuwirken und ihr aus dem Bereich Informatik,
• 10:00
  IT oder halt eben der anderen Region, die wir hier drin brauchen,
• 10:04
  der anderen Disziplinen Verwaltungsrecht, Jura, Staatsrecht etc. kommt.
• 10:09
  Da brauchen wir jetzt genau diesen Ansatz und den können wir aufbauen.
• 10:14
  Kyra,
• 10:14
  ich würde sagen Dankeschön für dieses erste gemeinsame Experiment hier
• 10:18
  und wir hören uns in der nächsten Episode.
• 10:22
  Nicolai, danke dir.
• 10:23
  Das hat richtig Spaß gemacht.
• 10:25
  Dein Aufruf ist klar angekommen.
• 10:27
  Dann lass uns beim nächsten Mal gemeinsam tiefer in diesen offenen Verwaltungs Benchmark einsteigen.
• 10:32
  Und bis dahin Level Up, oder?
• 10:36
  Auf jeden Fall.
• 10:37
  Und bis zur nächsten Folge.
• 10:39
  Alles klar.
• 10:40
  Bis zur nächsten Folge, Nicolai.
• 10:42
  Ich freue mich drauf.