Latest / KI-Update – ein heise-Podcast / KI-Update kompakt: Muse Glimmer, Zero-Days, KI-Denkprozesse, Jarvis-Wettbewerb

Transcript

KI-Update kompakt: Muse Glimmer, Zero-Days, KI-Denkprozesse, Jarvis-Wettbewerb · KI-Update – ein heise-Podcast

• 0:02
  Speaker 1: Das KI Update, ein Heise-Podcast mit redaktioneller Unterstützung von The Decoder.
• 0:13
  Speaker 1: Ich bin Isabel Grünewald und die sind heute unter anderem unsere Themen.
• 0:18
  Speaker 1: Meta veröffentlicht Muse Glimmer für Consumer Hardware.
• 0:22
  Speaker 1: KI findet mehr Zero Day Schwachstellen Forschende erkunden Denkprozesse von KI Chatbots und finden Passwörter Und MIT.
• 0:32
  Speaker 1: Studierende konstruieren Jet-Triebwerk mit KI.
• 0:36
  Speaker 1: Metta hat mit MuseGlimmer ein neues offenes KI-Sprachmodell vorgestellt, das gezielt für den Einsatz auf gewöhnlicher Consumer-Hardware entwickelt wurde.
• 0:46
  Speaker 1: Begleitet wurde die Veröffentlichung von einem sehr langen Schreiben von Metta-Chef Max Zuckerberg, der darin die künftige KI-Strategie seines Konzerns darlegt – Malte Kirchner aus dem heise online Newsroom mit den Einzelheiten!
• 1:01
  Speaker 2: Was wenn ein leistungsfähiges KI-Modell nicht mehr in der Cloud laufen muss, sondern einfach auf dem eigenen Rechner?
• 1:07
  Speaker 2: Genau das verspricht Meta mit seinem neuen Sprachmodell namens MuseGlimmer.
• 1:12
  Speaker 2: Die Metasuperintelligence Labs – also die Forschungsabteilung, die bei Meta an fortschrittlicher KI arbeitet – haben das Modell jetzt veröffentlicht und zwar offen!
• 1:22
  Speaker 2: Die Gewichte, also die trainierten Parameter des Modells stehen auf der Plattform Huggingface zum freien Download bereit sogar für kommerzielle Zwecke.
• 1:31
  Speaker 2: Das Besondere daran, MuseGlimmer soll auf einem ganz normalen Mac oder PC mit einer einzelnen handelsüblichen Grafikkarte laufen.
• 1:39
  Speaker 2: Damit eignete es sich vor allem für lokale KI-Agenten und für sogenanntes Function Calling – also das automatische Ansteuern von Programmfunktionen, für Codingaufgaben und auch dafür andere KI Ausgaben zu bewerten.
• 1:53
  Speaker 2: Möglich wird das durch einen technischen Kniff.
• 1:55
  Speaker 2: Meta komprimiert die Gewichte auf rund vier Bit Genauigkeit Aus.
• 2:00
  Speaker 2: über-fünfzig Gigabyte werden so unter zwanzig Gigabyte.
• 2:03
  Speaker 2: Das Modell passt damit erstmals in den Speicher eines gewöhnlichen Rechners.
• 2:08
  Speaker 2: Und wie schlägt sich MuseGlimmer im Vergleich?
• 2:10
  Speaker 2: Laut eigenen Benchmarks gut, besser als ähnlich große Modelle wie Gamma IV oder Quen three point sechs.
• 2:16
  Speaker 2: aber und das muss man dazusagen Hersteller.
• 2:19
  Speaker 2: eigene Vergleiche sind immer mit Vorsicht zu genießen.
• 2:22
  Speaker 2: Ob sich das an unabhängigen Tests bestätigt bleibt abzuwarten.
• 2:26
  Speaker 2: Begleitet wurde die Veröffentlichung von einem langen Grundsatzpapier von Mark Zuckerberg.
• 2:31
  Speaker 2: Darin geht es um nichts Geringeres, als sie Frage wer künftig Zugang zu sogenannter Superintelligenz haben wird und wer sie kontrolliert.
• 2:39
  Speaker 2: Zuckerberg's Antwort Je breiter KI-Fähigkeiten verteilt sind desto sicherer seien am Ende.
• 2:44
  Speaker 2: alle Offene Modelle sind für Meta also kein Geschenk an die Community sondern Ausdruck einer klaren Strategie Und diese hat auch einen wirtschaftlichen Kern.
• 2:53
  Speaker 2: Metapositioniert sich damit bewusst als Gegenentwurf zu Wettbewerbern, die auf geschlossene Modelle setzen und die aus Zuckerbergs Sicht eher Institutionen stärken als einzelne Menschen.
• 3:04
  Speaker 2: Dahinter dürfte vor allem eine stecken der Anspruch künftig die Standards in der Branche zu setzen.
• 3:10
  Speaker 1: Danke schön Malte!
• 3:12
  Speaker 1: Google erweitert sein Ask Maps Feature um agentische Fähigkeiten von Gemini.
• 3:19
  Speaker 1: Nutzerinnen können künftig über Google Maps Essen bestellen indem sie der KI mitteilen, was Sie bei welchem Restaurant zur mitnehmen möchten.
• 3:27
  Speaker 1: Google Maps sucht das passende Restaurant legt das gewünschte Essen in den Warenkorb und erstellt eine Übersicht zur Bestätigung.
• 3:35
  Speaker 1: Die KI kann über Personal Intelligence auf Nutzervorlieben zugreifen und favorisierte Restaurants sowie Ernährungsbedürfnisse berücksichtigen.
• 3:44
  Speaker 1: Zusätzlich soll die KI detaillierte Informationen zu Hotels und Events liefern, und Buchungen sowie Ticketkäufe aus der App heraus ermöglichen.
• 3:54
  Speaker 1: Die Funktionen sind zunächst auf die USA beschränkt – und funktionieren nur bei Restaurants, die mit Partnern wie Square, Toast oder künftig Uber Eats zusammenarbeiten.
• 4:04
  Speaker 1: Google will das Programm aber ausweiten!
• 4:08
  Speaker 1: Der KI-Musikdienst Suno führt Download Limits ein um gegen massenhaften Export generierter Titel vorzugehen.
• 4:16
  Speaker 1: Ab September dürfen kostenlose Nutzende nur noch sieben Songs insgesamt herunterladen, pro Abonnenten zwanzig monatlich.
• 4:25
  Speaker 1: Die Maßnahme soll böswillige Akteure am massenhaften Export hindern – allerdings bleiben die Beschränkungen inkonsequent.
• 4:34
  Speaker 1: Studioabonnentinnen sind von den Limits ausgenommen und zusätzliche Downloads lassen sich nachkaufen!
• 4:42
  Speaker 1: Während Suno also KI Spam eindämmen will, entwickelt es gleichzeitig noch effizientere Generierungs-Tools.
• 4:49
  Speaker 1: Das Unternehmen hat neue Modelle mit höherer Qualität angekündigt und betont dafür, mit Künstlerinnen und Künstlern zusammengearbeitet zu haben.
• 4:59
  Speaker 1: Dies könnte ein Versuch sein, Konflikte mit der klagenden Musikindustrie zu entschärfen.
• 5:05
  Speaker 1: Der Securitybereich ändert sich durch künstliche Intelligenz wo so schnell wie kaum ein anderer.
• 5:12
  Speaker 1: Backbounty-Programme werden mit Fehlerberichten nur so geflutet, User und Firmen leiden unter KI Angriffen.
• 5:20
  Speaker 1: Ben Schwahn sprach für heise Online mit Sandra Joyce der Chefin von Google Thread Intelligence über die aktuelle Bedrohungslage.
• 5:28
  Speaker 4: Das Auffinden schwerwiegender Sicherheitslücken mittels KI wird sich in den nächsten Monaten weiter verstärken.
• 5:36
  Speaker 4: Davon geht die Chefin von Google Thread Intelligence aus der Sicherheitsabteilung des Internetkonzerns.
• 5:42
  Speaker 4: Die Vize-Präsidentin Sandra Joyce sagte im Interview mit Heise online, dass sie mehr Zero Day Lücken als je zuvor erwarte, die mithilfe von KI entdeckt werden.
• 5:52
  Speaker 4: Über Zero Days lassen sich Systeme hacken weil es noch keine Schutzmaßnahmen gibt!
• 5:58
  Speaker 4: Angriffe erfolgten verstärkt sowohl von Regierungsinstitutionen als auch von Kriminellen.
• 6:03
  Speaker 4: Das Konzept der sogenannten Bug Bounty-Programme, bei den Sicherheitsexperten den Unternehmen lücken gegen eine Geldzahlung melden, werde derzeit auf die Probe gestellt, sagte Joyce.
• 6:15
  Speaker 4: Bugs seien aufgrund von KI leichter zu finden als je zuvor – es zeige sich aber, dass die Erkennung von Bedrohungsszenarien mit bewährten Methoden weiter helfe.
• 6:25
  Speaker 4: Google selbst habe hier ein tiefes Know-how.
• 6:29
  Speaker 4: Joyce selbst ist seit vielen Jahren im Cyber-Sicherheitsgeschäft und war unter anderem Soldatin bei der US Luftwaffe.
• 6:36
  Speaker 4: Die Google Sicherheitsabteilung Google Thread Intelligence hatte in den vergangenen Jahren schwerwiegende Lücken auch auf Konkurrenzsystem wie iOS entdeckt, die für massive Hackingkampagnen u.a.
• 6:48
  Speaker 4: gegen Menschenrechtsaktivisten und Journalisten verwendet wurden.
• 6:52
  Speaker 4: Es werde noch einiges auf die Menschen zukommen, wenn diese Bedrohungsakteure nun KI nutzen und mit KI auch angreifen", sagte Joyce.
• 7:07
  Speaker 1: Die Regierung argumentiert, dass KI lediglich ein unterstützendes Instrument sei – solange Menschen das Ergebnis fachlich prüfen.
• 7:30
  Speaker 1: Zur Wahrung des Datenschutzes nutzt der Bund hauptsächlich die interne Plattform KEPITS, die im Rechenzentrum des ITZ-Bund betrieben wird.
• 7:39
  Speaker 1: Diese ermöglicht die Verarbeitung selbst vertraulicher Dokumente ohne dass Daten an externer Anbieter abfließen.
• 7:47
  Speaker 1: Alle Ministerien setzen auf eine Qualifizierungspflicht!
• 7:51
  Speaker 1: Ohne vorherige Schulung darf niemand KI-Systeme nutzen.
• 7:55
  Speaker 1: Das Wirtschaftsministerium verlangt sogar einen mehrteiligen KI-Führerschein für den Systemzugriff.
• 8:01
  Speaker 1: Trotz dieser detaillierten Verwaltungsrichtlingen bleibt die Regierung bei konkreten Fragen zu ministeriellen KI-Texten, Auskunftsscheu und verweist auf interner Arbeitsabläufe.
• 8:14
  Speaker 1: Auch in der deutschen Justiz wird KI genutzt – wie intensiv ist allerdings weniger bekannt!
• 8:20
  Speaker 1: Ein Fall aus Hessen gibt jetzt Einblicke in die Praxis.
• 8:23
  Speaker 1: Der hessische Verwaltungsgerichtshof verwendete ChatGPT für die Recherche in einem Beschluss über ukrainischer Aufenthaltsrechte.
• 8:32
  Speaker 1: Verräterische Links mit der Endung source gleich chatgpt.com machten die KI-Nutzung nachvollziehbar, das Gericht wollte mit dem Chatboard offenbar schwer zugängliche georgische Rechtsquellen finden.
• 8:46
  Speaker 1: Dabei entstanden jedoch problematische Fehler.
• 8:49
  Speaker 1: ChatGPT lieferte falsche Quellenangaben, etwa zu einem georgischen Regierungsdekret.
• 8:55
  Speaker 1: Ein Link verwies auf einen Artikel aus dem falschen Jahr.
• 9:00
  Speaker 1: Das Gericht räumte die Fehler zwar ein – betonte aber das zusätzliche Quellen die Rechtslage bestätigen und dass Endergebnis korrekt sei!
• 9:08
  Speaker 1: Die richterliche Unabhängigkeit umfasse auch die Wahl der Arbeitsmittel so lange keine sensiblen Daten in externe Systeme eingegeben werden, betonte hessische VGH.
• 9:19
  Speaker 1: Der Fall verdeutlicht jedoch einmal mehr die Grenzen heutiger KI-Systeme für Recherchezwecke – und das nicht nur in der Justiz.
• 9:28
  Speaker 1: Amthropic führt für seine Cloudmodelle ein unsichtbares Wasserzeichen ein, um KI generierten Text erkennbar zu machen.
• 9:36
  Speaker 1: Die Kennzeichnung soll Bedeutung und Lesbarkeit nicht verändern aber beim Kopieren erhalten bleiben.
• 9:42
  Speaker 1: Damit will das Unternehmen Betrug im Bildungseinrichtungen und Diebstahl von Werken verhindern!
• 9:48
  Speaker 1: Das Wasserzeichen folgt EU-Vorgaben für mehr Transparenz beim KI Einsatz.
• 9:52
  Speaker 1: Alle Cloudmodelle ab August unterstützen die weltweite Kennzeichnung.
• 9:57
  Speaker 1: Allerdings gibt es Schlupflöcher, umfangreiche Bearbeitungen, Übersetzungen oder das Vermischen mit anderen Texten können das Wasserzeichnen unkenntlich machen.
• 10:08
  Speaker 1: Kritiker befürchten daher dass Menschen Texte ohne Wasserzeicher nun fälschlicherweise als garantiert menschlich einschufen könnten.
• 10:17
  Speaker 1: Dabei funktionieren statistische Wasserzeichenverfahren ungenau und können auch menschliche Texte als KI-Erzeugnisse brandmarken.
• 10:26
  Speaker 1: Der unsichtbare Stempel wird zweifellos ein Hemmnis sein, aber der Preis sei vermeintliche Sicherheit und das Risiko von Falschverdächtigungen.
• 10:36
  Speaker 1: Was ein KI-Modell intern Schluss folgert bekommt normalerweise niemand zu sehen!
• 10:42
  Speaker 1: Forschende haben die Verschlüsselung jetzt umgegangen und stießen dabei auf Zugangsdaten von Nutzenden.
• 10:49
  Speaker 1: Die Details hat Jonathan Kemper, von The Decoder.
• 10:53
  Speaker 3: Sicherheitsforscher haben in den Programmierschnittsstellen aller großen KI-Anbieter eine Schwachstelle gefunden.
• 10:58
  Speaker 3: Über die Lücke lassen sich die verschlüsselten Reasingprozesse der Modelle auslesen.
• 11:02
  Speaker 3: Betroffen sind OpenAI, Anthropic und Google.
• 11:06
  Speaker 3: Reasingmodelle erzeugen beim Lösen komplexe Aufgaben interne Schlussfolgerungen.
• 11:10
  Speaker 3: Diese Reasoning Tokens sehen Nutzer normalerweise nur als Zusammenfassung oder gar nicht.
• 11:15
  Speaker 3: Die Anbieter verschlüsseln die rohen Schritte zum Schutz von Nachahmungen durch andere KI-Unternehmen.
• 11:20
  Speaker 3: Ein Team vom Ellis Institute Tübingen und vom Max Planck Institut für intelligente Systeme hat diese Verschlüsselung umgang.
• 11:27
  Speaker 3: Die Denkspuren sind frei übertragbar, sie funktionieren über verschiedene Sitzungen, Nutzer und Modelle desselben Anbeters hinweg.
• 11:34
  Speaker 3: So kann Anthropics kleineres Modell Haiku das Reasoning des stärkeren Opus lesen!
• 11:39
  Speaker 3: Per Jailbreaking, also dem gezielten Aushebeln von Schutzmaßnahmen, brachten die Forscher das kleinere Modell dazu, die Schritte wörtlich zu transkribieren.
• 11:47
  Speaker 3: Bei OpenAI und Google klappte der selbe Trick!
• 11:50
  Speaker 3: Für Endnutzer ist die Lücke direkt gefährlich – wer Programmiersitzungen mit verschlüsselten Reasoning-Blocken öffentlich teilt, riskiert die Preisgabe persönlicher Daten.
• 12:00
  Speaker 3: Ein Scan von rund siebentausend öffentlichen Sitzung förderte zweiundsechzig Zugangsschlüsse, dreiendreißig E-Mailadressen und dreienträißig Passhörter zutage.
• 12:08
  Speaker 3: Aufwendig ist der Angriff nicht.
• 12:10
  Speaker 3: Das Dekodieren von Zehntausend Sitzungen kostete laut den Autoren etwa siebenhundertzwanzig US-Dollar.
• 12:16
  Speaker 3: Die extrahierten Daten zeigen auch, welcher Gedankenkette die Modelle folgen.
• 12:20
  Speaker 3: In einem Beispiel erkennt ein Model die Lösung eines Mathematikproblems und konstruiert die passende Rechnung rückwärts.
• 12:26
  Speaker 3: in der angezeigten Zusammenfassung taucht aber davon nichts auf.
• 12:29
  Speaker 3: Manche OpenAI-Modelle verfallen Entschleifen aus kontextlosen Begriffen wie Marinade oder Wächter absichtlich zu betrügen.
• 12:40
  Speaker 3: Ein Modell versuchte, ein Capture auszulesen und Schwachstellen einer Webseite zu winnen – erst als das scheiterte löste es die Aufgabe selbst!
• 12:47
  Speaker 3: Das Team hat den üblichen Meldeprozess durchlaufen, worauf die Anbieter bereits mehrere Probleme behoben haben.
• 13:02
  Speaker 1: GPT-Fünf.
• 13:03
  Speaker 1: sechs Cyber soll Verteidigern helfen, Schwachstellen zu finden bevor Angreifer, KI Werkzeuge im großen Stil nutzen.
• 13:12
  Speaker 1: Daybreak Blue richtet sich an defensiver Arbeit wie die Analysen von Schadsoftware und die Reaktion auf Sicherheitsvorfälle.
• 13:20
  Speaker 1: DayBreak Red zielt auch Forscherinnen und Forscher die Schwachstellen suchen und Penetrationstests durchführen.
• 13:27
  Speaker 1: Der Zugang erfordert daher auch eine Identitätsprüfung, Überwachung und rechtliche Erklärungen.
• 13:33
  Speaker 1: Über die Red Stufe läuft dann das Modell GPT-Fünf-Punktex-Cyber – es ist darauf trainiert, sicherheitsrelevante Anfragen zu beantworten, die andere Modelle blockieren!
• 13:44
  Speaker 1: In einem internen Benchmark liegt die Antwortquote bei ninety-fünf Prozent.
• 13:49
  Speaker 1: Das reguläre Modell mit aktiven Schutzmaßnahmen kommt nur auf eins Komma fünf Prozent.
• 13:55
  Speaker 1: In der Praxis fand das Modell bereits mehrere Schwachstellen in weitverbreiteten Anwendungen, die inzwischen behoben wurden.
• 14:03
  Speaker 1: NVIDIA hat mit Nimotron-Dreibhundfünf Lightning ein neues offenes KI-Modell herausgebracht – Mit rund dreißig Milliarden Parametern ist es nur ein Viertel so groß wie Open-Eyes frei verfügbares GPT.
• 14:17
  Speaker 1: OSS-Hundertzwanzig B soll aber ähnlich leistungsfähig sein!
• 14:22
  Speaker 1: Im Intelligence Index, der Plattform Artificial Analysis liegt es klar über seinem Vorgänger und auf Augenhöhe mit dem größeren Konkurrenzmodell.
• 14:32
  Speaker 1: Die Stärke ist das Tempo – Das Modell nutzt eine hybride Architektur bei der nur ein kleiner Teil der Parameter aktiv ist.
• 14:41
  Speaker 1: Info-Abtest ist nehmotron fast doppelt so schnell wie Google's Gemini III.五 Flashlight und damit das Schnellste im Vergleichsfeld!
• 14:49
  Speaker 1: Eine Testaufgabe erledigte es in rund eine halbe Minute, andere Modelle derselben Klasse brauchen mehrere Minuten.
• 14:57
  Speaker 1: Die größten Fortschritte zeigen sich bei agentischen Aufgaben – also beim eigenständigen Lösen mehrstufiger Probleme.
• 15:04
  Speaker 1: Nvidia stellt das Modell unter einer freien Lizenz bereit!
• 15:09
  Speaker 1: Das Time Magazine betreibt eine zweite Version seiner Website nur für KI-Crawler inklusive Werbung die nur Sie sehen.
• 15:19
  Speaker 1: Diese Informationen sollen in Chatbot antworten lassen.
• 15:22
  Speaker 1: Wie das funktioniert, erklärt Caroline Riedmüller von Heise Online.
• 15:26
  Speaker 5: Im konkreten vom Freelance-Entwickler Vincent Schmalbach entdecktend Fall handelt es sich um Werbung für die Bank Alley – die in die Markdown-Version der Time Website eingebettet ist.
• 15:35
  Speaker 5: Anders als Werbung for Menschen kommt sie ohne catchy Slogans aus und ähnelt eher einem FAQ mit Fakten zur Bank.
• 15:43
  Speaker 5: In ihr heißt es zum Beispiel dass Alley «die einzige Bank ist, die für das heutige Leben gebaut ist».
• 15:48
  Speaker 5: und in einer eigenen Liga spielen würde.
• 15:52
  Speaker 1: Die
• 15:52
  Speaker 5: Fragen in der Werbeanzeige klingen fast wie Nutzer an Fragen, die DKIs bekommen könnten.
• 15:58
  Speaker 5: Ist LA gut für alltägliches Banking oder kann man bei LA Bargeld einzahlen?
• 16:03
  Speaker 5: Die Hoffnung ist dass DKI den Inhalt ungefiltert als Antwort für ihre Nutzer übernehmen – und sie so viel mehr Menschen erreicht also nur die auf der Website waren, ob da die Bewerbung platziert war!
• 16:14
  Speaker 5: Wie Digital berichtet, seien diese Agent-Ads einer der ersten Publisher Kampagnen die gezielt KI-Agenten adressiert.
• 16:21
  Speaker 5: Den Googlebots und Nutzer bekommen diese Werbung nicht zu sehen, da sie die HTML Version der Webseiten ausgespielt bekommen.
• 16:26
  Speaker 5: KI Bots entgegen erhalten diese Markdown-Version mit der Werbung.
• 16:31
  Speaker 5: Erste Werbekunden für diese neue Form von Werbeanzeigen ist neben der Alibank des Project Management Institute.
• 16:37
  Speaker 5: Die Geschäftslogik hinter Agent Ads passt zum aktuellen Wandel des Webtraffics.
• 16:41
  Speaker 5: Laut Cloud-Verdaten sind mittlerweile mehr als fünfzig Prozent des gesamten Internettraffics nicht mehr menschlich.
• 16:47
  Speaker 5: Zeitgleich verlassen sich die Menschen zunehmend auf KI Zusammenfassungen, also auf genau die Instanzen und auf die Agent-Ads im FAQ Format
• 16:54
  Speaker 5: abzielen.".
• 16:55
  Speaker 1: Dankeschön Caroline!
• 16:57
  Speaker 1: In WDR kooperiert mit sechs Wall Street Finanzkonzernen um über unabhängige Finanzplattformen weitere fünfhundert Milliarden US-Dollar für KI Infrastruktur einzusammeln.
• 17:09
  Speaker 1: Beteiligt sind Apollo, BlackRock, Blackstone, Brookfield, Goldman Sachs und KKR.
• 17:15
  Speaker 1: Die Finanzkonstrukte sollen der Kundschaft Zugang zu knappen Rechenressourcen ermöglichen und den Aufbau von Rechenzentren finanzieren.
• 17:24
  Speaker 1: Davon sollen unter anderem KI-Labore und Startups profitieren, erklärte Nvidia CEO Jensen Wang.
• 17:31
  Speaker 1: Sein Unternehmen dürfte als wichtigster KI Hardwarehersteller davon am meisten profitieren!
• 17:36
  Speaker 1: Hoang versichert jedoch, es handele sich nicht um Kreislaufdeals sondern echte Nachfrage.
• 17:43
  Speaker 1: Rechenleistung sei zu einem Infrastrukturteil geworden wie Elektrizität oder Internet.
• 17:50
  Speaker 1: Die Finanzkonzerne sind überzeugt dass KI-Rechenleistungen bald zu einer finanzierbaren Anlageklasse wird.
• 17:58
  Speaker 1: Das chinesische KI Sadabmanes löst sich nach der gescheiterten Metaübernahme vollständig von dem US Konzern.
• 18:06
  Speaker 1: Ende August werden bestimmte Nutzerdaten gelöscht, die seit der geplanten Übernahme im Dezember entstanden sind.
• 18:13
  Speaker 1: China hatte den zwei Milliarden-Dollar-Deal immer prillblockiert – Die Regierung fürchtet den Verlust wertvollen Wissens und Technologie.
• 18:21
  Speaker 1: Manes gilt als Nachfolger von DeepSeek und hatte seinen Sitz nach Singapur verlegt um international zu expandieren.
• 18:28
  Speaker 1: Nun müssen betroffene Nutzern und Nutzer ihre Daten bis zur Löschung sichern!
• 18:33
  Speaker 1: Man ist versichert, dass diese Maßnahmen ausschließlich regulatorischen Auflagen geschuldet sind.
• 18:38
  Speaker 1: Es gab demnach weder eine Datenschutzverletzung noch einen Sicherheitsvorfall.
• 18:44
  Speaker 1: Mit der Jarvis Challenge wollte das MIT herausfinden ob sich ein Gas-Turbine Triebwerk für Flugzeuge mit Hilfe von künstlicher Intelligenz schneller entwickeln und bauen lässt als mit herkömmlichen Methoden.
• 18:58
  Speaker 1: Ob das den Studierenden gelangen?
• 19:00
  Speaker 1: Weiß Oliver Bündte von Heise Online.
• 19:02
  Speaker 0: Insgesamt sieben Teams mit ein dreißig Studierenden ist MIT weiter zu aufgefordert, ihre Konstruktionen innerhalb von vier Wochen zum Laufen zu bringen.
• 19:10
  Speaker 0: Die Teams hatten bei der Konstruzion den Auswahl der Materialien und der Konstruktionsart freie Hand.
• 19:16
  Speaker 0: Den meisten Studien entfielte es jedoch an dem nötigen Wissen über Gas-Turbine, Triebwerke und den theoretischen Grundlagen wertvoll über kompressible Strömungen und Thermodynamik.
• 19:25
  Speaker 0: Sie waren von den Lehrkräften dazu angehalten das nötige Wissen mit dem Einsatz von KI zu kompensieren.
• 19:31
  Speaker 0: Dazu setzen sie auf eine MIT-interne KI-Plattform namens PALAE die verschiedene große Sprachmodelle vereint.
• 19:38
  Speaker 0: Den Einsatz der KI konnten die Lehrkräfte dabei überprüfen, etwa welche Prompts in den Projekten verwendet wurden und wie hoch die Kosten für die KI Verwendung waren.
• 19:47
  Speaker 0: Die verschiedenen Teams setzten die KI unterschiedlich ein je nachdem welche Wissenslücken und Kompetenzen im Team bereits vorhanden war.
• 19:54
  Speaker 0: So verwendeten sie Pali etwa zur Zusammenfassung von Lehrbüchern, zum Erlernen der nötigen Konstruktionssoftware, zum Auffinden von Lieferanten und der Erstellung von Excel-Tabellen.
• 20:03
  Speaker 0: Außerdem setzen Sie KI dafür ein um spezifische Fragen zu beantworten, Referenzen aufzuspüren und zwischen verschiedenen Konstruktionsansätzen vergleichene Analysen durchzuführen.
• 20:13
  Speaker 0: Von den sieben Teams blieben zwei übrig deren Konstruktion funktionierten.
• 20:17
  Speaker 0: Das eine Team hatte KI intensiv eingesetzt, um Wissenslücken zu füllen, Architektur-Vergleicher und Kostennutzenanalysen zu erstellen.
• 20:25
  Speaker 0: Das andere Team setzte dagegen auf bereits vorhandenes Fachwissen und nutzte KI lediglich in einzelnen Bereichen, um etwa Konstruktionssoftware schneller zu erlernen.
• 20:34
  Speaker 0: Beide Teams gelangen es ihren Konstruktionen Lauftests zu unterziehen.
• 20:38
  Speaker 0: Das Triebwerk des Teams das weniger KI eingesetzt hat konnte alle Tests bewältigen – beim anderen Team versagte die Konstruzion weil der Rotor blockierte!
• 20:47
  Speaker 0: Das Ergebnis der Jarvis-Challenge ist, dass es nötig ist über genügend Fachwissen zu verfügen und KI gezielt und gewinnbringend einsetzen zu können.
• 20:55
  Speaker 0: Der Mensch ist der entscheidende Faktor, der von der KI vorgeschlagene Ergebnisse bewertet und entscheiden muss ob diese für weitere Entwicklungsschritte taublich sind oder nicht.
• 21:03
  Speaker 0: Entsprechend kann KI als Beschleuniger eingesetzt werden.
• 21:06
  Speaker 0: Beim Bau sicherheitskritischer physischer Systeme ist aber menschliche Handarbeit und menschlicher Verantwortung durch nichts zu
• 21:12
  Speaker 0: ersetzen.".
• 21:13
  Speaker 1: Danke Oliver!
• 21:15
  Speaker 1: Ein australischer Nutzer wollte eigentlich per KI nur einen Kursplatz im Fitnessstudio buchen.
• 21:22
  Speaker 1: Dann erlebte er, wie Claude über die Schnittstelle OpenClaw unerlaubt in das Fitnessstudiosystem eindrang und sich Zugang zu Funktionen verschaffte, die nicht vorgesehen waren.
• 21:32
  Speaker 1: Claude Buchte zunächst ein Kurs der erst in Wochen stattfinden sollte – obwohl das System keine Vorabreservierungen über längere Zeiträume erlaubte!
• 21:42
  Speaker 1: Auf Nachfrage manipulierte die KI eine Warteliste, indem sie einen anderen Teilnehmer entfernte um den Nutzer vorzurücken.
• 21:50
  Speaker 1: Die KI entdeckte dabei, dass die API keiner Autorisierungsüberprüfungen für das Stornieren fremder Reservierungen hatte – den entfernten Teilnehmer konnte Cloud also nicht wieder hinzufügen!
• 22:01
  Speaker 1: Der Vorfall reiht sich in eine Serie von KI-Systemen ein, die ihre Aufgaben vielleicht etwas zu ernst nehmen….
• 22:09
  Speaker 1: Er zeigt, sowohl wie wichtig verantwortungsvolle KI-Nutzung ist als auch die Notwendigkeit ordnungsgemäßer Sicherheitsmaßnahmen bei Webdiensten.
• 22:20
  Speaker 1: Das war das KI-Update von Heise Online vom zwölften August, für eine neue Folge gibt es Montags, Mittwochs und Freitag ab fünfzehn Uhr!