Latest / KI-Update – ein heise-Podcast / KI-Update kompakt: Claude Mythos und die NSA, Umfrage: Was bringt KI?, Meta-KI-Agenten

Transcript

KI-Update kompakt: Claude Mythos und die NSA, Umfrage: Was bringt KI?, Meta-KI-Agenten · KI-Update – ein heise-Podcast

• 0:02
  Speaker 0: Das KI Update, ein Heise-Podcast
• 0:05
  Speaker 1: mit redaktioneller
• 0:06
  Speaker 0: Unterstützung
• 0:07
  Speaker 1: von
• 0:07
  Speaker 0: The Decoder.
• 0:14
  Speaker 0: Ich bin Marco Pauli und dies sind heute unter anderem unsere Themen – Anthropic, Cloth Mythos und die NSA.
• 0:22
  Speaker 0: DEU plant mehr digitale Unabhängigkeit.
• 0:25
  Speaker 0: Umfrage unter Unternehmen was bringt KI?
• 0:29
  Speaker 0: Und Meta hofft auf Geld durch KI-Agenten!
• 0:33
  Speaker 0: Mehrere Angestellte von Anthropic helfen dem US-Geheimdienst NSA offenbar dabei, das neue KI-Modell Claude Mithers Preview für offensives Cyberaktivitäten zu nutzen.
• 0:44
  Speaker 0: Mehr Informationen dazu jetzt von Martin Holland.
• 0:48
  Speaker 1: Obwohl der Konflikt zwischen Anthropic und den US-Verteidigungsministerium noch gar nicht gelöst ist hat das KI Unternehmen laut einem Zeitungsbericht inzwischen mehrere Angestellte dazu abgestellt bei der NSA, dem Auslandsnachrichtendienst der USA dabei zu helfen die mächtige neue KI Mythos für offensive Operationen einsatzbereit zu machen.
• 1:16
  Speaker 1: Das berichtet zumindest die Financial Times.
• 1:18
  Speaker 1: Unterberufung auf zwei Quellen, die damit vertraut sind.
• 1:22
  Speaker 1: von ein Topic selbst gibt es dazu kein Statement und es ist auch unklar was genau gemacht wird.
• 1:29
  Speaker 1: Also laut dem Bericht geht es darum, dass die KI dafür angepasst wird für diese Operation.
• 1:36
  Speaker 1: ob jetzt ihren Topic angestellten direkt bei den Operation helfen steht da nicht.
• 1:41
  Speaker 1: das muss ja dann auch nicht sein sondern Es erweckt den Eindruck, als würden Sie eben vor allem dabei helfen die anzupassen.
• 1:48
  Speaker 1: Muthers ist die neue KI, die bislang immer noch nicht öffentlich gemacht wurde von Anthropic weil sie angeblich so gut darin sei Sicherheitslücken zu finden und daraus Angriffswege zu bauen das es zu gefährlich sei sie öffentlich zu machen.
• 2:05
  Speaker 1: deswegen haben da eigentlich offiziell immer nur Unternehmen drauf Zugriff.
• 2:10
  Speaker 1: die kritische Software und die sollen sie damit prüfen und absichern, bevor zwangsläufig entweder Mythos veröffentlicht wird oder andere KI's genauso leistungsfähig sind.
• 2:25
  Speaker 1: Dass Mythos nun von der NSE eingesetzt wird ist nicht ganz überraschend.
• 2:28
  Speaker 1: eine Quelle von den Financial Times sagt dass diese KI sehr gut dazu in der Lage ist Fremde Netzwerke einzudringen von gegnerischen Staaten, als Beispiel wird China und Iran genannt.
• 2:41
  Speaker 1: Und dass man das natürlich machen wolle bevor die wiederum das gleiche gegen den USA machen.
• 2:49
  Speaker 1: Was das Ganze jetzt für die Auseinandersetzung zwischen der US-Regierung und Anthropik bedeutet ist unklar.
• 2:55
  Speaker 1: Die NSA gehört in den Verantwortungsbereich des Verteidigungsministeriums und eigentlich hieß es da ja, dass alle KI Technik von Anthropic entfernt werden muss.
• 3:07
  Speaker 0: Die EU-Kommission will die Abhängigkeit Europas von außereuropäischen Technologiekonzernen verringern.
• 3:13
  Speaker 0: Dazu hat sie jetzt Maßnahmen für technologische Souveränität vorgestellt, künftig will Brüssel stärker in die IT-Strukturen und die Softwarebeschaffung der Mitgliedstaaten eingreifen.
• 3:25
  Speaker 0: Im Mittelpunkt steht der sogenannte Cloud & AI Development Act.
• 3:29
  Speaker 0: Er ist Teil eines übergeordneten Plans, mit dem Europa zu einem führenden Standort für KI werden möchte.
• 3:36
  Speaker 0: Die Verordnung verpflichtet, die Mitgliedsstaaten ihre Verwaltungssoftware nach Sicherheits- und Souveränitätsrisiken zu bewerten.
• 3:44
  Speaker 0: In besonders sensiblen Bereichen könnten Behörden auch dazu gezwungen sein ausschließlich europäische Soft und Hardware zu nutzen.
• 3:52
  Speaker 0: Außerdem sollen quelloffene Lösungen bei der Beschaffung bevorzugt werden.
• 3:57
  Speaker 0: Parallel plant die Kommission eine Neuauflage ihres Halbleiterprogramms, damit will sie einen stabilen Markt für europäische KI-Chips schaffen.
• 4:06
  Speaker 0: Zudem soll ein eigenes auf europäischen Daten trainiertes KI-Modell für den Energiesektor entstehen.
• 4:13
  Speaker 0: Diese Vorhaben erfordern enorme Investitionen, die die EU-Staaten alleine nicht werden tragen können – die EU hofft deshalb auch auf zusätzliches privates Kapital!
• 4:25
  Speaker 0: Bevor die neuen Regeln gelten, müssen Parlament und Ministerrat noch zustimmen.
• 4:31
  Speaker 0: Doch werden sich die großen Investitionen in KI auch irgendwann und irgendwie lohnen?
• 4:36
  Speaker 0: Unternehmen weltweit investieren immer mehr in künstliche Intelligenz doch die damit erhofften Einsparungen bleiben bisher oft aus!
• 4:44
  Speaker 0: Das ist das Ergebnis einer aktuellen Umfrage der US-Unternehmensberatung Bain unter fast ein tausend Firmen weltweit – Kim Scheurenbrand mit Einzelheiten.
• 4:55
  Speaker 3: Die Zahlen sind heute noch ernüchternd.
• 4:56
  Speaker 3: thirty-seven Prozent der befragten Unternehmen streben Kostensenkungen zwischen elf und zwanzig Prozent an, doch fast vierzig Prozent erreichten weniger als zehn Prozent Einsparungen.
• 5:08
  Speaker 3: Immerhin schafften vierzehn Prozent der Führen Einsparung von mehr als einundzwanzig prozent.
• 5:13
  Speaker 3: Trotzdem bleiben viele Unternehmen hinter ihren Erwartungen zurück.
• 5:17
  Speaker 3: Die Studie liefert auch eine Erklärung für die Lücke zwischen Erwartung und Realität.
• 5:21
  Speaker 3: Ein zentrales Problem ist die menschliche Beteiligung.
• 5:24
  Speaker 3: Die Investitionsrechnungen vieler Unternehmen basieren auf dem Einsatz vollautonomer KI-Agenten.
• 5:30
  Speaker 3: Das sind Systeme, die Aufgaben eigenständig und ohne menschliches Zutun erledigen.
• 5:35
  Speaker 3: In der Praxis setzen aber nur sieben Prozent der Firmen solche Systeme tatsächlich ein – zweiunddreißig Prozent verwenden immerhin Systeme ,die Menschen nur bei Bedarf anbeziehen.
• 5:44
  Speaker 3: Am weitesten verbreitet ist mit achtunddreißig Prozent einen Ansatz, bei dem jede einzelne Aktion eine menschliche Freigabe erfordert.
• 5:51
  Speaker 3: Das reduziert natürlich die tatsächlich erzielten Einsparungen deutlich.
• 5:55
  Speaker 3: Trotz der eher noch enttäuschenden Ergebnisse wollen neun von zehn Unternehmen ihre Investitionen in Karriagenten weiter erhöhen.
• 6:02
  Speaker 3: Die größte Hürde bleibt laut der Studie der Zugang zu den richtigen Daten, einvierzig Prozent der Befragten nennen diesen Punkt als größter Hindernis.
• 6:11
  Speaker 3: Bain-Raid unternehmen das Datenproblem nicht als reine IT Aufgabe zu behandeln sondern zur Chefsache zu machen.
• 6:18
  Speaker 3: Außerdem sollten Firmen ihre Prozesse grundlegend überarbeiten, bevor sie KI einführen.
• 6:47
  Speaker 2: Damit drückt Meta stärker in einen Markt vor, indem auch Anbieter wie OpenAI, Anthropic und Google um zahlende Kunden konkurrieren.
• 6:56
  Speaker 2: Im Mittelpunkt steht zunächst der Metabusiness Agent für Unternehmen die ihre Kundenkommunikation über WhatsApp Messenger und Instagram abwickeln.
• 7:06
  Speaker 2: Bislang wurde der KI-Agent in ausgewählten Märkten getestet.
• 7:10
  Speaker 2: nun wird er weltweit verfügbar gemacht.
• 7:13
  Speaker 2: Der Meta Business Agent kann Kundenanfragen automatisch beantworten, Produkte empfehlen, Termine buchen und Verkäufe abschließen.
• 7:21
  Speaker 2: Der Dienst ist derzeit noch kostenlos.
• 7:24
  Speaker 2: in den kommenden Monaten will Metta jedoch kostenpflichtige Tarife einführen.
• 7:29
  Speaker 2: Für Firmen mit höheren Bedarf sollen die Gebühren von der Nutzung abhängen.
• 7:33
  Speaker 2: Die potenzielle Zielgruppe ist jedenfalls groß.
• 7:37
  Speaker 2: Laut Meta wird allein WhatsApp von mehr als zweihundert Millionen kleinen Unternehmen zur Kundenkommunikation genutzt.
• 7:44
  Speaker 2: Zusätzlich arbeitet Meta laut einem neuen Bericht an einem KI-Agenten für Privatnutzer, der intern Hatch genannt wird.
• 7:53
  Speaker 2: Diese soll Termine planen, E-Mails verschicken und per Texteingabe einfache Software Werkzeuge erstellen können.
• 8:01
  Speaker 2: Für eine Premium-Version erweckt Meta demnach einen Preis von bis zu Zweihundert US Dollar im Monat.
• 8:08
  Speaker 2: Mit diesen Diensten muss Metta zeigen, dass sich seine Milliarden schweren KI Ausgaben auch in eigenständige Bezahlprodukte übersetzen lassen.
• 8:17
  Speaker 2: Der Druck ist hoch – die KI Investitionen des Konzerns könnten in diesem Jahr lag Meta bis zu Einhundertfünfundvierzig Milliarden US Dollar
• 8:26
  Speaker 2: erreichen.".
• 8:28
  Speaker 0: Der Chiphersteller TSMC kann die hohen Nachfrage nach seinen KI-Chips derzeit nur teilweise bedienen.
• 8:35
  Speaker 0: Concernchef Ji Jia Wei sagte, dass es womöglich lange dauern könnte bis das Unternehmen allen Kundenwünschen nachkommen wird.
• 8:44
  Speaker 0: Um die Produktion zu steigern investiert TSM C in neuer Anlagen.
• 8:49
  Speaker 0: Der Konzern lastet zudem bestehende Werke möglichst stark aus.
• 8:53
  Speaker 0: Dadurch ist die Produktionsmenge zuletzt auch deutlich gestiegen, dennoch reicht die Kapazität nicht aus.
• 9:00
  Speaker 0: TSMC produziert im Auftrag vieler Kunden – lange war Apple der größte Abnehmer.
• 9:04
  Speaker 0: doch in diesem Jahr dürfte der KI-Chiphersteller Nvidia an die Spitze rücken.
• 9:09
  Speaker 0: Auch der Konkurrent AMD lässt seine KI Chips bei TSM C fertigen!
• 9:15
  Speaker 0: Ein internationales Forschungsteam wollte herausfinden, ob KI eigentlich bereits eine reale Sicherheitsbedrohung darstellt.
• 9:23
  Speaker 0: Zu diesem Zweck entwickelte das Team einen neuartigen Computerwurm, der mithilfe von KI weitgehend selbstständig agieren kann.
• 9:31
  Speaker 0: Der Wurm bewegt sich vom Computer zu Computer und entwickelt für jedes Gerät einen maßgeschneiderten Angriff.
• 9:38
  Speaker 0: Damit übernimmt er dann den Computer, springt von dort aus weiter.
• 9:44
  Speaker 0: Bekannte Wurmer nutzen meist nur eine einzelne Sicherheitslöcke aus.
• 9:48
  Speaker 0: Dieser Wurm aber führt auf infizierten Rechnern offene große Sprachmodelle aus, mit deren Hilfe analysiert er jedes befallende Gerät, erkennt dessen Schwachstellen und programmiert in Echtzeit einen passenden Schadcode.
• 10:02
  Speaker 0: Weil die Sprachmodelle auf gekaperten Geräten laufen entstehen für die Angreifer auch keine Kosten.
• 10:08
  Speaker 0: Außerdem umgeht der Wurm zentrale Sicherheitskontrollen kommerzieller KI-Dienste.
• 10:13
  Speaker 0: Bisher schützen regelmäßige Updates vor bekannten Würmern.
• 10:17
  Speaker 0: Ein anpassungsfähiger KI-Wurm aber kann auch frische Lücken ausnutzen, bevor ein Patch bereitsteht!
• 10:24
  Speaker 0: Ein anderes Forschungsteam aus den USA hat mehrere bekannte KI Sprachmodelle darunter GPT V, Claude und Gemini einem klassischen psychologischen Test unterzogen.
• 10:35
  Speaker 0: Beim sogenannten Strooptest werden Farbwörter in einer abweichenden Schriftfarbe gezeigt.
• 10:41
  Speaker 0: Das Wort rot also erscheint dann zum Beispiel in blauer Schrift.
• 10:45
  Speaker 0: Die Aufgabe beim Test besteht an darin, ausschließlich die Farbe der Schrift zu benennen und die Wortbedeutung zu ignorieren.
• 10:52
  Speaker 0: Im genannten Beispiel würde die richtige Antwort also Blaulauten – denn die Schrift des Wortes Rot war ja Blau.
• 11:00
  Speaker 0: Eigentlich keine schwierige Aufgabe könnte man denken!
• 11:03
  Speaker 0: Und Menschen lösen das auch bei langen Listen zuverlässig.
• 11:06
  Speaker 0: Die KI-Modelle dagegen machten viele Fehler….
• 11:10
  Speaker 0: Je mehr Wörter sie verarbeiten mussten, desto schlechter wurde das Ergebnis zudem.
• 11:15
  Speaker 0: Der Test zeigt, dass KI-Modelle eben nicht zuverlässig erkennen welche Informationen wichtig sind und welche nicht – Sie sind auch eher darauf trainiert Wörtern zu lesen als Farben zu benennen weshalb sie automatisch den Inhalt eines Wortes zuerst verarbeiten.
• 11:31
  Speaker 0: Anders als Menschen können sie diesen Vorgang nicht unterdrücken.
• 11:35
  Speaker 0: Eine angestrebte, allgemeine künstliche Intelligenz soll flexibel und menschenähnlich denken.
• 11:42
  Speaker 0: Dazu muss sie solche automatische Reaktionen unterdrücken und sich auf das Wesentliche konzentrieren können.
• 11:49
  Speaker 0: Genau diese Fähigkeit fehlt den Modellen bislang.
• 11:53
  Speaker 0: Gelänges ihnen unwichtige Informationen auszublenden ließe sich zudem sehr viel Rechenleistung sparen!
• 12:01
  Speaker 0: Eine Untersuchung der KI-Plattform ITENXAI zeigt, dass KI Chatbots Bewerbungsunterlagen sehr unterschiedlich beurteilen.
• 12:09
  Speaker 0: Die Modelle bevorzugen oder benachteiligen bestimmte Stile von Lebensläufen selbst wenn der Inhalt identisch ist.
• 12:17
  Speaker 0: Für die Studie wurden zahlreiche fiktive Bewerbungsprofile erstellt.
• 12:21
  Speaker 0: Mehrere KI-Modelle verfassten dann dazu Lebensläufe und bewerteten anschließend alle Versionen nach demselben Schema.
• 12:30
  Speaker 0: Dabei zeigten sich aber auffällige Unterschiede.
• 12:33
  Speaker 0: Einige Modelle bewerteten ihre eigenen Lebensläufe deutlich besser als die der Konkurrenz.
• 12:39
  Speaker 0: Auffällig war zudem, dass sie vom Model Gemini verfassten Lebensläue bei fast allen Bewertungen am besten abschnitten.
• 12:47
  Speaker 0: Allein deren Schreibstil verschaffte den Bewerbungen also einen Vorteil.
• 12:52
  Speaker 0: Besonders kritisch ist das dieselbe Person mit denselben Qualifikationen je nach Modell ganz unterschiedlich beurteilt wurde.
• 13:00
  Speaker 0: Abschließend dreht, die Plattformunternehmen mehrere Modelle zu kombinieren und auf Verzerrungen zu prüfen.
• 13:07
  Speaker 0: Außerdem sollten sie den Bewerben denn offenlegen welche KI Sie bei Ihren Bewerbungsprozessen verwenden?
• 13:14
  Speaker 0: Das Unternehmen Perplexity bringt mit dem Personal Computer einen KI-Agenten auf den Markt.
• 13:21
  Speaker 0: Nach dem bereits erfolgten Start auf Mac Rechnern ist er nun auch Windows verfügbar.
• 13:26
  Speaker 0: Der Agent läuft direkt auf dem Computer und verbindet lokale Dateien, installierte Programme und Webdienste in einem System.
• 13:34
  Speaker 0: Statt einzelne Anfragen zu beantworten arbeitet er wie ein dauerhafter digitaler Mitarbeiter.
• 13:41
  Speaker 0: Er kann Aufgaben über längere Zeit erledigen etwa Datenaufbereiten oder Ordner sortieren.
• 13:47
  Speaker 0: Über das kostenpflichtige Abo bündelt Perplexity dabei den Zugriff auf über zwanzig KI-Modelle.
• 13:54
  Speaker 0: Im Hintergrund wählt der Agent dann automatisch das passende Modell für die jeweilige Aufgabe aus.
• 14:01
  Speaker 0: Ein lokales Modell entscheidet zudem, welche Aufgaben auf dem Gerät bleiben und welche in die Cloud gehen.
• 14:07
  Speaker 0: Damit positioniert sich Perplexity als Alternative zum Microsoft's Copilot – anders als dieser ist Personal Computer nicht auf die Programme eines einzelnen Anbieters nämlich bei Copilot Microsoft festgelegt!
• 14:22
  Speaker 0: Für Unternehmen und Privatpersonen wirft der Einsatz allerdings auch hier Datenschutzfragen auf.
• 14:28
  Speaker 0: Der Agent kann auf sensible lokale Dateien zugreifen, um Daten in die Cloud zu senden.
• 14:34
  Speaker 0: Diese verlassen dann also den eigenen Rechner und werden auf externen Servern verarbeitet.
• 14:40
  Speaker 0: OpenAI hat das Gedächtnissystem von ChatchiPT überarbeitet.
• 14:44
  Speaker 0: Statt einzelter Stichpunkte legt ChatchipT nun einen Zusammenhängnis-Nutzerprofil im Fließtext an.
• 14:51
  Speaker 0: Dieses ist in Kategorien wie Arbeit, Hobbys oder Reisen unterteilt.
• 14:55
  Speaker 0: Das System leitet die Inhalte selbst ständig aus Gesprächen ab und aktualisiert sie auch im Hintergrund So zum Beispiel überholte Angaben, kehrt jemand von einer Reise zurück, passt GPPT den Kontext entsprechend an und gibt keine Empfehlung mehr für den alten Aufenthaltsort.
• 15:13
  Speaker 0: Auch personalisierte Empfehlungen sollen davon profitieren.
• 15:17
  Speaker 0: Bei Vorlieben für Tierfotografie oder ruhige Restaurants liefert das System einen passenden Plan.
• 15:25
  Speaker 0: Bei technischen Fragen kann es auf frühere Gespräche zurückgreifen.
• 15:29
  Speaker 0: Über eine neue Zusammenfassungsseite lassen sich Erinnerungen einsehen, korrigieren oder löschen.
• 15:35
  Speaker 0: Das Update ist zunächst für zahlende Nutzer in den USA verfügbar – kostenlose Kunden sollen aber in den kommenden Wochen folgen.
• 15:45
  Speaker 0: Google's KI-Forschungsabteilung DeepMind hat ein neues offenes KI-Modell veröffentlicht.
• 15:50
  Speaker 0: Gemma four twelve B verarbeitet Textbilder und Audio in einem einzigen Modell.
• 15:56
  Speaker 0: Es läuft lokal auf handelsüblichen Laptops und mit nur sechzehn Gigabyte Arbeitsspeicher.
• 16:03
  Speaker 0: Bisherige multimodale Modelle benötigen oft separate Verarbeitungseinheiten für Bilder oder Audio.
• 16:10
  Speaker 0: Gemma vier zwölf b speist diese Daten direkt in das Sprachmodell ein, das spart Speicher-und verkürzt die Verarbeitungszeit.
• 16:19
  Speaker 0: In Benchmarks erreicht das Modell zumindest laut Google fast die Leistung des doppelt so großen XXXB Modells.
• 16:28
  Speaker 0: Das Modell beherrscht unter anderem Spracherkennung, Code-Generierung und Videoanalyse.
• 16:33
  Speaker 0: In einem Beispiel wertete es einen fünfminütigen Ausschnitt einer Google Io Keynote aus in dem es dreihundertdreizehn Einzelbilder und die Audiospur gemeinsam analysierte.
• 16:46
  Speaker 0: Gemma IV-XIIB steht auf verschiedenen Plattformen zum Download bereit.
• 16:51
  Speaker 0: Die Lizenz erlaubt auch die kommerzielle Nutzung.
• 16:55
  Speaker 0: Der Robotik-Experte Steven Cheng hat ein KI gestütztes Lasersystem entwickelt, das Mücken in Innenräumen bekämpfen soll.
• 17:04
  Speaker 0: Nach Cengs Angaben habe das System nach einer Nacht alle Mücken in seiner Wohnung beseitigt.
• 17:10
  Speaker 0: Die Idee von Lasern gegen Mücken ist nicht neu, frühere Prototypen hatten damit allerdings nur einen geringen Erfolg.
• 17:17
  Speaker 0: Das neue System nutzt Computer Vision, also sogenanntes Maschinelles Sehen.
• 17:22
  Speaker 0: Dabei wertet eine KI-Kamera Bilder aus und erkennt darauf die Insekten.
• 17:28
  Speaker 0: Anschließend schießt das System die Mücken gezielt ab.
• 17:31
  Speaker 0: Dafür sucht eine Kamera mit Zoom objektiv die Umgebung ab – und mit derselben Kamera hat Cheng zahlreiche Bilder gesammelt um die KI zu trainieren.
• 17:41
  Speaker 0: Dabei zog er sich nach eigenen Angaben viele viele Mückenstiche zu.
• 17:46
  Speaker 0: Insgesamt dauerten Entwicklungen, Aufbau der Bilddatenbank und Training rund vier Monate.
• 17:52
  Speaker 0: Am Ende erkannte das Modell dann die Mücken sehr zuverlässig.
• 17:55
  Speaker 0: Damit der Laser keine Menschen oder brennbaren Gegenstände trifft kommt eine zweite Kamera zum Einsatz.
• 18:02
  Speaker 0: Sobald eine Person dann im Sichtfeld erscheint wird der Laser automatisch abgeschaltet.
• 18:09
  Speaker 0: Und die Mucken?
• 18:10
  Speaker 0: Ist es eigentlich selbstverständlich dass man die per Lasertöten darf?
• 18:15
  Speaker 0: Zum einen übertragen sie natürlich gefährliche Krankheiten, zum anderen dienen sie aber auch als Nahrung für Vögel oder Fische.
• 18:23
  Speaker 0: Ein System allerdings das nur Mücken in Innenräumen bekämpft greift kaum in die Natur ein – anders als beispielsweise großflächig eingesetzte Insektizide.
• 18:35
  Speaker 0: Das war das KI-Update von Heise Online vom fünften Juni, zwanzig zwei.
• 18:41
  Speaker 0: Eine neue Folge gibt es Montags Mittwochs und Freitags ab fünfzehn Uhr.
• 18:45
  Speaker 0: Untertitel im Auftrag des ZB.