Latest / KI-Update – ein heise-Podcast / KI-Update kompakt: KI-Robotik, DiffusionGemma, Google DeepMind, Bakteriophagen
Transcript
- 0:02Speaker 1: Das KI Update, ein Heise-Podcast mit redaktioneller Unterstützung von The Decoder.
- 0:13Speaker 1: Ich bin Isabel Grünewald und die sind heute unter anderem unsere Themen.
- 0:17Speaker 1: Europaretten mit Robotik?
- 0:20Speaker 1: Google baut Gemma per Diffusion zum schnellen Textmodell um.
- 0:25Speaker 1: DeepMind verliert weitere KI-Spitzenforscher – und KI entwirft lebensfähige Bakteriophagen!
- 0:33Speaker 1: Das Start-up Micro AGI aus München will nichts Geringeres als die Robotik umkrempeln.
- 0:40Speaker 1: Ben Schwahn sprach für heise online mit dem Gründer Berkhan Kilic über Training von und am Menschen – eine neue industrielle Revolution!
- 0:49Speaker 0: Robotics-Startups aus Deutschland erleben gerade einen echten Hype.
- 0:54Speaker 0: Nach über einer Milliarde Dollar an frischem Kapital für Neura Robotics aus Metzingen hat nun Micro-AGI aus München mit fifty-fünfzig Millionen Euro die bislang größte Seed-Investitionsrunde in Deutschland überhaupt eingeworben.
- 1:10Speaker 0: Die Firma Umberkan Kilic, der früher in der Formel eins arbeitete hat ein doppeltes Geschäftsmodell.
- 1:17Speaker 0: So verdingt sie sich als Robotik-Systemintegrator für Unternehmen um dort Arbeitsprozesse zu automatisieren samt passendem Nachtraining für die Fertigungsprozese.
- 1:28Speaker 0: Der zweite Teil von MicroAGI setzt auf einen KI Marktplatz bei dem massive Datenmengen gesammelt werden sollen, um physical AI erst zu ermöglichen.
- 1:38Speaker 0: Dabei tragen Menschen bei ihrer Tätigkeit Kameras und demnächst auch ein taktiles Erfassungssystem.
- 1:45Speaker 0: Der Gag daran?
- 1:47Speaker 0: Micro-AGI bezahlt Reinigungen, Kochsessions und andere Arbeiten im Haushalt.
- 1:52Speaker 0: Die Kunden müssen nur die Datenerfassung erlauben.
- 1:55Speaker 0: Parallel dazu können Menschen auch ihre aktuelle Tätigkeit selbst filmen und sich dafür dann bezahlen lassen.
- 2:01Speaker 0: Damit sollen deutlich schneller deutlich mehr Daten für das Roboter Training anfallen als dies mit der herkömmlichen Methode der sogenannten Teleoperation von humanoiden Robotern möglich wäre!
- 2:14Speaker 0: Micro-AGI Chef Kilic ist das alles sehr ernst.
- 2:17Speaker 0: Er fürchtet, dass nach der Produktion nun auch das geistige Eigentum der europäischen Industrie – nach China und anderswo abwandern könnte wenn Europa die Automatisierung nicht massiv vorantreiben.
- 2:29Speaker 0: Denn, sagte er im Interview mit Heise Online «die Zukunft komme so oder so».
- 2:34Speaker 0: Es entscheidet sich jetzt wer an der Wirtschaft von beteiligt werde!
- 2:40Speaker 1: Nach OpenAI und Anthropic räumt nun auch Meta ein, dass sich eigene KI-Software in fremde Systeme gehackt
- 2:48Speaker 0: hat.
- 2:49Speaker 1: Ähnlich wie bei einigen Vorfällen der beiden Rivalen lag das Problem auch hier in einer Fehlkonfiguration des Systems bei demselben Testpartner wie Meta unter anderem dem Sender CNN mitteilte.
- 3:02Speaker 1: Durch die falsche Einstellung hatten die KI-Modelle Zugang zum Internet – was eigentlich gar nicht vorgesehen war!
- 3:09Speaker 1: Meta machte keine Angaben zu dem Unternehmen, in dessen Systeme die KI des Konzerns durch die Ausnutzung einer Schwachstelle eindrangen.
- 3:17Speaker 1: Der Facebook-Konzern erfuhr von dem Zwischenfall nach eigenen Angaben durch eine Mitteilung des Testpartners.
- 3:24Speaker 1: Nachdem unbemerkten Cyberangriff auf Huggingface hat OpenAI die Arbeit an dem dafür verantwortlichen neuen KI-Modell Astra teilweise ausgesetzt.
- 3:34Speaker 1: In einer Testumgebung gelang es den Modellen heimlich über ein Messageboard zu kommunizieren und gemeinsam eine Zero Day Lücke auszunutzen.
- 3:42Speaker 1: Dadurch erlangen sie die Kontrolle über einen Server, was später einen Angriff auf die Plattform Hugging Face ermöglichte.
- 3:49Speaker 1: OpenAI stuft die Fähigkeiten von Astra als potenziell kritisch ein – da das Modell eigenständig Schwachstellen in Systemen finden könnte!
- 3:59Speaker 1: bis die internen Sicherheits- und Überwachungsmaßnahmen verbessert sind, pausieren entsprechende Entwicklungsaktivitäten.
- 4:06Speaker 1: Fast alle heutigen Sprachmodelle schreiben Text token für token – doch Google DeepMind zeigt mit Diffusion Jammer dass es auch anders geht!
- 4:17Speaker 1: Inspiriert von Bildgeneratoren erstellt das Text aus zufälligem Rauschen was die Ausgabe deutlich verschnellert und strukturelle Probleme abschwächt.
- 4:26Speaker 1: Jonathan Kemper von The Decoder hat sich den technischen Bericht angesehen.
- 4:41Speaker 4: Ein klassisches autoregressives Modell muss die erste Ziffer hinschreiben, bevor es den Rechenweg kennt.
- 5:00Speaker 4: Gemma IV startet bei einer Matta-Aufgabe etwa mit minus eins, merkt beim Herleiten das minus fünfundzwanzig stimmt und korrigiert sich nachträglich.
- 5:08Speaker 4: Die Fusion Gemma hingegen entwickelt Antwort und Begründung gleichzeitig und tauscht die falsche Zahl aus, bevor überhaupt etwas beim Nutzer ankommt.
- 5:16Speaker 4: Beim Sodoku – wo ja jeder Eintrag von den anderen abhängt – löst es nach kurzem Fine Tuning knapp eighty-fünf Prozent der Rätsel.
- 5:23Speaker 4: Das Basis des Modells scheitete daran komplett.
- 5:26Speaker 4: Insgesamt bleibt die Fusion Gamer jedoch hinter dem Modell zurück, aus dem es entstanden
- 5:30Speaker 1: ist.
- 5:31Speaker 4: Manchmal hängt es in Wiederholungsschleifen fest und produziert einzelne Wörter mehrfach – und das Tempo gilt vor allem für einzelne Anfragen!
- 5:39Speaker 4: Ab etwa thirty-two gleichzeitig Nutzern ziehen klassische Sprachmodelle beim Durchsatz jedergleich.
- 5:45Speaker 4: Google stellt die Gewichte frei zur Verfügung und will damit die Forschung an Textdiffusionen anschieben.
- 5:50Speaker 4: Genutzt wird das bereits, etwa von einem Startup für multilinguale Spracherkennung und in einem Forschungsprojekt für Radiologiebefunde.
- 5:57Speaker 1: Danke Jonathan!
- 5:59Speaker 1: Google DeepMind hat ein KI-System zur Vorhersage tropischer Wirbelstürme vorgestellt – Weather Next Cyclones kann rund einen Tag weiter in die Zukunft blicken als führende operative Modelle.
- 6:12Speaker 1: Diese Verbesserungen entspricht dann etwa dem Fortschritt den klassische Wettermodelle in den vergangenen zehn Jahren erzielt haben?
- 6:19Speaker 1: Das System löst einen alten Zielkonflikt.
- 6:22Speaker 1: Bisher waren globale Modelle stark bei der Zugbahn, aber zu grob für die Intensität – bei spezialisierten Regionalmodellen ist es umgekehrt!
- 6:33Speaker 1: Weathernext Cyclones bearbeitet beides in einem System.
- 6:37Speaker 1: Bei einer Vorhersage fünf Tage im Voraus liegt die geschätzte Position des Sturmzentrums im Schnitt nur zweihundertdreißig Kilometer neben dem tatsächlichen Ort.
- 6:48Speaker 1: Bei einem Vergleichsmodell sind es dreihundert siebzig Kilometer.
- 6:52Speaker 1: Das Modell arbeitet dabei mit einem rund hundertmal gröberen Raster als bei spezialisierten Regionalmodellen – wie es dabei so genau vorhersagen erzeugt, bleibt laut DeepMind eine offene Forschungsfrage!
- 7:06Speaker 1: DeepMint versteht das System als Ergänzung nicht als Ersatz für klassische Modelle.
- 7:11Speaker 1: Code und Gewichte hat das Unternehmen frei verfügbar gemacht.
- 7:15Speaker 1: Seit Juni-Zweitausendfünfundzwanzig laufen die Vorhersagen live auf Google's Plattform WeatherLab.
- 7:22Speaker 1: Derweil baut Google die Führung seines KI Forschungslaborst DeepMind um, der bisherige CEO Demis Hassabis wechselt in eine strategische Rolle während Jeff Dean mit drei Spitzenforschern den Konzert verlässt.
- 7:37Speaker 1: Das sorgt für Unruhe in den Forschungsteams, berichtet Tomislav Besmalinovich von Heise Online.
- 7:42Speaker 2: Hassabis gibt die operative Leitung an dem bisherigen Technikchef des Labours Coray Kawukchulu ab und wird Vorsitzender von Google DeepMind sowie Chief Scientist des Mutterkonzerns Alphabet.
- 7:56Speaker 2: künftig will er gemeinsam mit Google Chef Sunder Pichai an strategischen Fragen rund um die Entwicklung allgemeiner künstlicher Intelligenz arbeiten und die neue DeepMind Führung beraten.
- 8:08Speaker 2: Zudem will er sich stärker bei Isomorphic Labs engagieren, dem von ihm gegründeten KI-Unternehmen für Medikamentenentwicklung.
- 8:17Speaker 2: Hassabis kam in den Jahren der Übernahme des von ihm mitgegründete KI-Laborst DeepMIND zu Google.
- 8:24Speaker 2: Für seine Arbeit an AlphaFold erhielt er den Nobelpreis für Chemie.
- 8:30Speaker 2: Während Hassabis Google in neuer Rolle erhalten bleibt, verliert der Konzern mit Chief Scientist Jeff Dean einen der prägensten Ingenieure seiner Geschichte.
- 8:40Speaker 2: Als dreißigster Mitarbeiter des Unternehmens war er maßgeblich am Aufbau der technischen Infrastruktur für die Googlesuche beteiligt.
- 8:49Speaker 2: Später gründete er das Forschungsteam Google Brain mit und prägte über viele Jahre die KI-Forschung des Konzerts.
- 8:56Speaker 2: Dean hat nun ein eigenes Startup namens Discovery Loop gegründet, an dem Google-Ausgründungsinvestor und Cloud Partner beteiligt ist.
- 9:05Speaker 2: Nach Informationen der New York Times sorgt die Neuordnung intern für Verunsicherung.
- 9:10Speaker 2: Mehrere Diebmeint beschäftigte Fürchten, dass das Labor an Eigenständigkeit verliert und sich künftig stärker an kommerziellen Interessen orientiert.
- 9:19Speaker 2: Zugleich wächst die Sorge, dass mit Dienst weggang und Hassabis Rückzug aus dem Tagesgeschäft zwei moralische Stimmen im Einfluss verlieren und ethische Grenzen aufgeweicht werden können.
- 9:31Speaker 2: Bereits in den vergangenen Monaten hat der Google mehrere prominente KI-Forscher an Konkurrenten wie OpenAI und Anthropic verloren.
- 9:40Speaker 2: Die aktuell Veränderungen an der Spitze verstärken den Eindruck einer unruhigen Phase.
- 9:46Speaker 2: Technologisch steht Google unter Druck.
- 9:49Speaker 2: Das nächste Frontier-Modell Gemini.com wurde vor Monaten angekündigt und lässt weiter auf sich warten, und zur Berufung auf Unternehmensquellen berichtet Axios – die Verzögerung sei teilweise auf die schlechte Stimmung in den beteiligten Teams
- 10:06Speaker 2: zurückzuführen.".
- 10:07Speaker 1: Dankeschön Thomas Love!
- 10:09Speaker 1: Mistral AI hat mit Shieldstrahl ein neues KI-Sicherheitsmodell zur Inheise-Moderation vorgestellt.
- 10:18Speaker 1: Anstelle fester Kategorien nutzt es einen flexiblen Frage-Antwortansatz.
- 10:23Speaker 1: Betreiber formulieren ihre Richtlinien als natürlich sprachliche Ja-Neinfragen, woraufhin das Modell einen Sicherheitswert ausgibt.
- 10:32Speaker 1: Dieser Ansatz ermöglicht eine bessere Berücksichtigung des Kontexts – so kann das Model unterscheiden ob ein Zitat in einem Schulreferat oder in einem Blogpost erscheint!
- 10:43Speaker 1: Laut Mistral erreicht Shieldstraw die Leistungsfähigkeit von siebenmal größeren Modellen, ist aber deutlich effizienter.
- 10:51Speaker 1: Technisch basiert das Modell auf Mistrats eigenem Modellfamilie und steht als Open-Weights-Modell unter der Apache-Zweibung Nullizenz zur Verfügung – was eine breite Anwendung und Anpassungen ermöglicht.
- 11:04Speaker 1: Meta stellt mit MuseCode einen eigenen KI Coding-Agenten vor, der mit den Angeboten von OpenAI und Anthropic konkurrieren soll.
- 11:13Speaker 1: Der Agent basiert auf dem ebenfalls neuen Sprachmodell MuseSpark-I.z, das speziell für Programmieraufgaben optimiert wurde.
- 11:22Speaker 1: MuseCode kann über die Kommandozeile, Softwareprojekte analysieren, Änderungen planen, Codeschreiben und die Ergebnisse testen.
- 11:31Speaker 1: Eine Architektur mit mehreren Hintergrundagenten ermöglicht die Bearbeitung komplexe Aufgaben – Meta positioniert den Dienst vor allem über niedrige Nutzungskosten als Alternative zu den Konkurrenzprodukten.
- 11:44Speaker 1: In unabhängigen Benchmarks erreicht das zugrunde liegende Modell Muse Spark-I, eine Leistung im Mittelfeld – liegt aber hinter den Spitzenmodellen!
- 11:55Speaker 1: Mit der Übernahme des kanadischen Startups Talas plant AMD das eigene KI-Portfolio um schnelle Inferenzlösungen zu erweitern.
- 12:04Speaker 1: Die im Jahr ist darauf spezialisiert, KI-Modelle direkt in Silicium zu gießen.
- 12:13Speaker 1: Diese applikationsspezifischen Chips haben ein KI-modell fest verdrahtet – was die Inferenz, also die Anwendung des Modells enorm beschleunigt und gleichzeitig den Energieverbrauch senkt!
- 12:26Speaker 1: Der Vorteil des Talersansatzes ist gleichzeitig aber auch der größte Nachteil, denn der aktuelle Chip HC-I kann nur Llama-Dreibunkt-Eins-Acht-B ausführen.
- 12:37Speaker 1: Keine anderen KI-Modelle!
- 12:39Speaker 1: Dieses Modell wurde bereits Mitte-Zwei-Tausendvierundzwanzig vorgestellt – das ist im KI-Weltrüsten schon ein störtliches Alter.
- 12:46Speaker 1: Allerdings ist er automatisierte und schnelle Entwicklungsprozess für applikationsspezifische KI-Logicchips das eigentliche Ziel der jungen Firma.
- 12:56Speaker 1: AMD plant Talas Technologie in die beschleuniger Roadmap zu integrieren, um sie neben den flexibleren Instinkt-GPUs anzubieten.
- 13:06Speaker 1: Im November hatte Amazon das KI-Unternehmen Perplexity verklagt – der Online-Rise sieht in den Agenten, die für Menschen auf Amazon shoppen einen Sicherheitsrisiko!
- 13:18Speaker 1: Ein Berufungsgericht hat nun eine einstweilige Verfügung gegen Perplexty ausgesetzt, die den Agentens zeitweilig den Zugriff verboten.
- 13:26Speaker 1: Die Richter argumentieren, dass die Nutzenden selbst auf Amazon einkaufen – sie verwenden die KI-Agenten lediglich als Werkzeug dabei.
- 13:34Speaker 1: Es sei also nicht das Unternehmen Perplexity, das hier als Käufer auftritt!
- 13:39Speaker 1: Der Fall wurde deshalb zur weiteren Verhandlung zurück an die vorherige Instanz verwiesen.
- 13:45Speaker 1: Die Entscheidung wird in der Tech-Branche genau beobachtet, denn Sie könnte weitreichende Folgen haben….
- 13:51Speaker 1: Viele KI-Anbieter entwickeln gerade ähnliche Agenten.
- 13:54Speaker 1: Diese sollen für Personen eine Vielzahl von Aufgaben im Internet auf den Plattformen von Drittanbietern erledigen!
- 14:00Speaker 1: Ein Urteil könnte also einen Präzidenzwahl schaffen.
- 14:05Speaker 1: Anthropic stellt sein Coding Tool Cloud Code auf einen automatischen Betrieb um, ab dem vierzehnten August läuft das Werkzeug standardmäßig im sogenannten Automodus.
- 14:15Speaker 1: Dabei arbeitet das Tool eigenständig und wartet nicht mehr bei jedem Schritt auf eine manuelle Freigabe.
- 14:21Speaker 1: Stattdessen prüft ein automatischer Klassifikator, ob eine Aktion gefährlich sein könnte – und fragt nur dann nach!
- 14:28Speaker 1: Anthropic begründet den Schritt mit Sicherheit & Effizienz.
- 14:32Speaker 1: In Tests mit über eintausend Testern habe der Automodus mindestens so sicher abgeschnitten wie manuelle freigaben.
- 14:39Speaker 1: Teams mit Automodus erledigten zugleich rund twenty-fünf Prozent mehr Arbeit.
- 14:44Speaker 1: Auch bei sogenannten Prompt Injection-Angriffen zeigte sich der Schutz.
- 14:48Speaker 1: Dabei versucht ein eingeschleuster Code, den Agenten von den Anweisungen der Nutzerin abzubringen.
- 14:54Speaker 1: In einer unabhängigen Prüfung mit sevenhundertzwanzig Angriffsversuchen war keiner erfolgreich.
- 15:01Speaker 1: Trotzdem mahnt Ansropik zur Vorsicht bei kritischer Infrastruktur – Der Klassifikator eliminiere Risiken nicht sondern reduziert sie nur!
- 15:11Speaker 1: Forscherinnen und Forscher des Stanford University und das ARC-Institut haben erstmals mit KI vollständige lebensfähige Virusgenome entworfen.
- 15:21Speaker 1: Marie Claire Koch von Heise Online erklärt, warum ihre Methode einerseits zwar gute Chancen gegen resistente Kreime hat, andererseits jedoch Risiken für die Bio-Sicherheit birgt.
- 15:32Speaker 3: Die Forscher haben zwei KI-Modelle, die heißen IvoI und IvoII so trainiert dass sie die Sprache von DNA verstehen.
- 15:39Speaker 3: Mit den Modellen haben Sie dann neue Erbgutbaupläne für sogenannte Bakteriophagen entworfen.
- 15:44Speaker 3: das sind Viren, die ausschließlich Bakterien befallen und für uns Menschen ungefährlich sind.
- 15:48Speaker 3: Das ist übrigens alles gar nicht so neu.
- 15:50Speaker 3: also.
- 15:50Speaker 3: diesen Preprint gab es schon im September twenty-fünfundzwanzig.
- 15:53Speaker 3: Als Vorlage diente ein gut erforschter harmloser Fage.
- 15:56Speaker 3: Die KI hat daraus tausend neue Genomvarianten vorgeschlagen, rund dreihundert davon wurden im Labor tatsächlich hergestellt und sechzehn funktionierten wirklich.
- 16:04Speaker 3: Sie konnten sich in Bakterien vermehren – obwohl es sie in dieser Form in der Natur nie gab!
- 16:09Speaker 3: Die Motivation für die Forschung lag unter anderem darin, dass Bakterie zunehmend resistent werden auch gegen bereits eingesetzte Fagen.
- 16:16Speaker 3: Mit KI ließen sich theoretisch viel schneller maßgeschneiderte Fagen entwickeln passgenau für einen bestimmten resistenten Erreger.
- 16:24Speaker 3: aber Und das sagen die Forscher auch selber, genau diese Fähigkeit ist ein Sicherheitsrisiko.
- 16:29Speaker 3: Würde man so einen Modell nicht mit harmlosen Bakterienviren sondern mit dem Erbgut gefährlicher Krankheitserreger füttern könnte man theoretisch auch riskante Varianten entwerfen.
- 16:39Speaker 3: Außerdem ist das Modell Open Source also jeder mit genugreichen Leistungen könnte es grundsätzlich auf andere Daten trainieren.
- 16:44Speaker 3: zu Einordnung muss man aber sagen Fragen sind extrem spezifisch, meistens wirkt nur einer gegen einen ganz bestimmten Bakterienstamm.
- 16:52Speaker 3: Die Prüfung von DNA-Bestellungen bei Syntheseunternehmen ist bislang leider oft freiwillig statt gesetzlich vorgeschrieben.
- 16:58Speaker 3: Studien zeigen zudem dass sie bei ganz neuen designen Sequenzen ohnehin nicht immer zuverlässig funktioniert.
- 17:03Speaker 3: Fachleute weisen deshalb darauf hin und waren das die internationalen Regeln hinter den technischen Entwicklungen hinterher hängen also dass es eine bessere Regulierung braucht.
- 17:11Speaker 1: Danke Marie!
- 17:12Speaker 1: Mehr zum Thema Gesundheit und Medizin Hört ihr übrigens in Marys Podcast Digital Health von Heise Online auf der Plattform Oraval?
- 17:22Speaker 1: Der von Elon Musk als Alternative zur Wikipedia-Aufgesetzten Groggypedia geht offenbar schon wieder die Luft aus.
- 17:30Speaker 1: Medienberichten zufolge sind Aktivitäten auf der Platform seit Monaten kaum noch zu verzeichnen!
- 17:36Speaker 1: Die Plattform wurde mit dem Ziel gestartet, eine neue Enzyklopädie zu schaffen bei der die KI GROG eine zentrale Rolle spielt.
- 17:44Speaker 1: Seit Monaten werden jedoch keine Änderungsvorschläge mehr von der zuständigen KI bearbeitet und auch die Einreichungen von Menschen sind stark zurückgegangen.
- 17:53Speaker 1: Während die KI GROC anscheinend weiterhin neue Artikel erstellt, scheint die Verwaltung und redaktionelle Weiterentwicklung der Plattform zum Erliegen gekommen zu sein.
- 18:02Speaker 1: Vom verantwortlichen Unternehmen SpaceX AI gibt es bislang keine offizielle Stellungnahme zu dem Stillstand was Fragen über die Zukunft des Projekts aufwirft!
- 18:13Speaker 1: Künstliche Intelligenz könnte eine wichtige Rolle beim Erhalt von Minderheitensprachen spielen.
- 18:19Speaker 1: Das Training ist jedoch nicht einfach!
- 18:21Speaker 1: Beim ostfriesischen Plattdeutsch fehlt es zum Beispiel an ausreichend maschinenlesbaren und strukturierten Texten, um ein zuverlässiges KI-Modell zu trainieren.
- 18:31Speaker 1: Einen Schritt weiter ist bereits die Ferringstiftung auf Föhr – dort wurde schon im vergangenen Jahr ein KI basiertes Online-Übersetzungsprogramm für Föhre frisisch entwickelt.
- 18:42Speaker 1: Dessen Ergebnisse schwanken jedoch noch stark.
- 18:45Speaker 1: Auch international gibt es solche Bemühungen, in Neuseeland etwa arbeitet ein indigenes Team daran die Maori-Sprache mit einer eigens trainierten KI wiederzubeleben.
- 18:56Speaker 1: Allgemeine Modelle wie ChatGPT sind ungeeignet da sie verschiedene Dialekte vermischen und fehlerhafter Ausgaben produzieren.
- 19:03Speaker 1: Fachleute sehen in der KI zwar ein nützliches Werkzeug, das den Zugang zu einer Sprache erleichtern kann.
- 19:10Speaker 1: Sie betonen aber, dass Technologie allein eine Sprache nicht retten kann!
- 19:16Speaker 1: Das war das KI-Update von Heise online vom zehnten August.
- 19:21Speaker 1: Ein neuer Folge gibt es Montags, Mittwochs und Freitags ab fünfzehn Uhr.