Latest / KI-Update – ein heise-Podcast / KI-Update kompakt: Grok, Claude Opus 4.7, Robo-Blindenhund, KI-Influencer

Transcript

KI-Update kompakt: Grok, Claude Opus 4.7, Robo-Blindenhund, KI-Influencer · KI-Update – ein heise-Podcast

• 0:02
  Speaker 1: Das KI-Update, ein heise Podcast mit redaktioneller Unterstützung von The Decoder.
• 0:13
  Speaker 1: Ich bin Isabel Grünewald und dies sind heute unter anderem unsere Themen.
• 0:17
  Speaker 1: Grog stand angeblich kurz vor Appstoreauswurf.
• 0:21
  Speaker 1: Anthropic veröffentlicht Claude Opus vier Punkt sieben.
• 0:24
  Speaker 1: Roboter blinden Hund lernt sprechen – und körperlos zum Coachella!
• 0:30
  Speaker 1: Einem Medienbericht zufolge stand die KI-App Grog kurz vor dem Ausschluss aus Apples App Store.
• 0:36
  Speaker 1: Grund war Anfang des Jahres der Wirbel um Deepfakes.
• 0:39
  Speaker 1: Davon, dass es hinter den Kulissen brodelte, bekam die Öffentlichkeit allerdings nichts mit, berichtet Malte Kirchner aus dem heise online Newsroom.
• 0:46
  Speaker 0: Durfte Grog wirklich einfach so im App Store bleiben?
• 0:49
  Speaker 0: Obwohl das KI-Modell von Elon Musk's XAI uneinvernehmliche Deepfake Nacktbilder erstellt hat möglicherweise sogar von Kindern?
• 0:58
  Speaker 0: Diese Frage hat zuletzt für erhebliche Kritik gesorgt und Apple hat jetzt reagiert.
• 1:03
  Speaker 0: In einem bislang nicht öffentlichen Brief an US-Szenatoren, den NBC News publik gemacht hat, stellt Apple klar man sei nicht untätig geblieben.
• 1:12
  Speaker 0: Sowohl XAI als Entwickler von GROC als auch EX als das soziale Netzwerk Das GROCK integriert wurden demnach nach ersten Beschwerden und Medienberichten kontaktiert.
• 1:23
  Speaker 0: Apple habe Verstöße gegen die eigenen App Store Richtlinien festgestellt und ein Ultimatum gestellt.
• 1:28
  Speaker 0: Umgesetzt werden musste ein konkretes Maßnahmenpaket zur besseren Inhaltskontrolle.
• 1:33
  Speaker 0: Andernfalls drohte der Rauswurf aus dem App Store.
• 1:36
  Speaker 0: Und das war offenbar keine leere Drohung, laut dem Bericht soll Grog tatsächlich kurz vor der Entfernung gestanden haben.
• 1:42
  Speaker 0: X reagierte dabei deutlich schneller als der Grog-Anwickler selbst.
• 1:45
  Speaker 0: XCI versprach Apple schließlich unter anderem eingeschränkte Bildbearbeitungsfunktionen und stärkere Zugriffbeschränkungen.
• 1:52
  Speaker 0: Ob das ausreicht?
• 1:53
  Speaker 0: Bleib fraglich.
• 1:54
  Speaker 0: NBC News berichtet, dass die Schutzmechanismen weiterhin umgehbar sein sollen – auch wenn Veröffentlichungen in dem Ausmaß wie noch vor einigen Monaten zuletzt nicht mehr aufgefallen sind.
• 2:03
  Speaker 0: Interessant ist auch die politische Dimension.
• 2:05
  Speaker 0: In den USA wird bereits über ein gesetzliches Verbot von KI-Systemen diskutiert, die solche Deep Fakes ohne Zustimmung der Betroffenen ermöglichen.
• 2:13
  Speaker 0: Kritiker lassen sich von Apples Brief dennoch nicht vollständig überzeugen.
• 2:17
  Speaker 0: Ihr Vorwurf wäre das ein kleiner Indie-Entwickler gewesen, statt ein milliardenschweres Unternehmen wie XAI hätte Apple die Regeln von Anfang an konsequenter durchgesetzt.
• 2:27
  Speaker 0: Als Beleg verweisen sie darauf, dass Apple zuletzt Updates für sogenannte Wipecoding Apps blockiert hat – wegen deutlich weniger schwerwiegender technischer Verstöße.
• 2:37
  Speaker 1: Nachdem Anthropag mit dem KI-Modell Mythos in den vergangenen Tagen bis in höchste Regierungskreise für Aufregung sorgt hat, bringt nun OpenAI – mit GPT-Fünf-Punktv Cyber ein eigenes KI- Modell für Cybersicherheit.
• 2:51
  Speaker 1: Wie bei der Konkurrenz bleibt der Zugang zunächst eingeschränkt und erfolgt über das im Februar gestartete Programm Trusted Access for Cyber.
• 2:59
  Speaker 1: OpenAI will es in den kommenden Wochen auf tausende verifizierte Sicherheitsforschende sowie hunderte Teams, die für den Schutz kritischer Software verantwortlich sind – ausweiten.
• 3:10
  Speaker 1: OpenAI sieht GPT-Fünfpunkt vier Cyber als ersten Schritt hin zu weiteren speziell auf Cybersicherheit zugeschnittenen KI-Modellen.
• 3:18
  Speaker 1: Die derzeitigen Schutzmechanismen hält das Unternehmen für ausreichend um aktuelle Modelle breiter zugängig zu machen während Varianten fürs Cybersichertsarbeit zunächst unter strengeren Kontrollen bleiben sollen.
• 3:30
  Speaker 1: Langfristig geht OpenAI davon aus dass für noch leistungsfähigere Modelle deutlich umfangreicher Schutzmaßnahmen nötig werden.
• 3:39
  Speaker 1: OpenAI hat auch sein Entwicklertool Codex umfassend erweitert – das agentische KI-System kann nun den Computer bedienen, Bilder generieren und über Wochen hinweg eigenständig an Projekten arbeiten.
• 3:52
  Speaker 1: Damit zielt OpenAI direkt auf Anthropics Programmierassistenten ClaudeCode!
• 3:57
  Speaker 1: Die auffälligste Neuerung heißt Background Computer Use.
• 4:01
  Speaker 1: Codex kann damit den Bildschirm sehen, klicken und mit einem eigenen Cursor tippen.
• 4:06
  Speaker 1: Mehrere KI-Agenten sollen parallel auf dem Rechner arbeiten können ohne die eigene Arbeit der Nutzerin zu stören.
• 4:13
  Speaker 1: Codex kannt sich laut OpenAI selbst zukünftige Aufgaben einplanen und automatisch an langfristigen Projekten weiterarbeiten.
• 4:21
  Speaker 1: Die Funktion ist zunächst nur auf macOS verfügbar.
• 4:24
  Speaker 1: dazu kommen Automatisierungsfunktion.
• 4:27
  Speaker 1: Außerdem hat OpenAI mehr als neunzig neue Plugins veröffentlicht, darunter Anbindungen an Atlassian Jira, GitLab, Microsoft Suite und Slack.
• 4:36
  Speaker 1: Für uns in der EU und den Großbritannien sollen einige Funktionen allerdings erst später verfügbar werden.
• 4:43
  Speaker 1: Anthropic wiederum hat sein Spitzmodell Claude Opus aktualisiert.
• 4:47
  Speaker 1: Version vier Punkt sieben legt vor allem beim Autonomen Programmieren deutlich zu!
• 4:52
  Speaker 1: Gleichzeitig hat das Forschungslabor erstmals gezielt versucht, bestimmte Cyber-Sicherheitsfähigkeiten des Modells einzuschränken.
• 5:00
  Speaker 1: Was das Modell laut Anthropic kann, erklärt uns Kim Scheurenbrand von The Decoder.
• 5:13
  Speaker 4: Der Vorgänger Opus vier Punkt sechs kam auf dreieinfünfzig Prozent.
• 5:17
  Speaker 4: Auch OPMI-ASGPT fünf Punkt vier liegt mit fast achtundfünftig Prozent darunter.
• 5:22
  Speaker 4: An Propics eigenes Forschungsmodell, Mrs Preview bleibt mit knapp achtundsebzig Prozent allerdings weiterhin klar vorne.
• 5:29
  Speaker 4: Der Benchmark testet wie gut KI Modelle echte Programmeaufgaben eingeständig lösen.
• 5:33
  Speaker 4: Neben dem Coding verbessert an Propic auch die Bildverarbeitung.
• 5:37
  Speaker 4: Opus-Fierpunkt sieben verarbeitet Bilder mit bis zu drei Komma sieben fünf Megapixeln, mehr als dreimal so viel wie frühe Cloudmodelle.
• 5:44
  Speaker 4: Das soll vor allem Kairgänden helfen die Screenshots lesen und Benutzeroberflächen bedienen müssen.
• 5:50
  Speaker 4: Bei der Analyse komplexer Dokumente steigt die Trefferquote laut Anthropik von siehundfünfzig auf über achtzig Prozent.
• 5:57
  Speaker 4: Besonders auffällig ist der Umgang mit Cyber Sicherheit.
• 6:00
  Speaker 4: Anthropic hat beim Training experimentell versucht riskantes Cyberfähigkeiten gezielt zu reduzieren.
• 6:06
  Speaker 4: Zusätzlich blockieren neue Schutzmaßnahmen automatisch Anfragen, die auf verbotene oder hohe riskante Nutzung hindeuten.
• 6:13
  Speaker 4: Etwas teurer könnte die Arbeit mit dem Modeller bewerten – die Stückpreise bleiben zwar gleich bei fünf Dollar pro Million Input-Token und twentyfünf Dollar pro Millionen Output-Token, doch ein neuer Tokenizer bildet denselben Text auf bis zu fünfundreißig Prozent mehr Tokens ab!
• 6:28
  Speaker 4: Die tatsächlichen Kosten könnten pro Anfrage dadurch spürbar steigen, obwohl sich an den offiziellen Preisen nichts ändert….
• 6:35
  Speaker 4: Wie sich das Modell im Alltag schlägt, werden wir über die nächsten Wochen testen.
• 7:06
  Speaker 1: Während früherer Ausgaben des Radars die wachsenden Fähigkeiten von KI im Software Engineering beleuchteten, verschiebt sich der Fokus nun auf die Risiken beim Skalieren und im produktiven Einsatz.
• 7:17
  Speaker 1: Der Unterschied zu klassischen technischen Schulden ist dabei wesentlich – technische Schulden stecken im Code selbst, kognitive Schulden dagegen in den Köpfen der Entwicklerinnen und Entwickler!
• 7:28
  Speaker 1: Die Kluft zwischen Mensch und System wird größer, wenn KI-generierter Code schneller entsteht als Teams ihn durchdringen können.
• 7:36
  Speaker 1: Der Technology Raider fordert daher eine Rückbesinnung auf Engineering Grundlagen um die wachsenden Fähigkeiten von KI nachhaltig nutzen zu können.
• 7:46
  Speaker 1: Die Sprachmodelle von Apple sind potenziell angreifbar.
• 7:50
  Speaker 1: Forschende haben jetzt mehrere neue Eingriffsmethoden auf Apple Intelligence demonstriert.
• 7:55
  Speaker 1: Ben Schwahn von der Mac&I mit den Einzelheiten.
• 7:59
  Speaker 5: Apples lokale Sprachmodelle sollen über einen längeren Zeitraum anfällig für Prompt Injections gewesen sein.
• 8:05
  Speaker 5: Dabei gelang es Sicherheitsforschern von RSAC aus den USA, Apple Intelligence dazu zu bringen seine Sicherheitsfilter und Guardrails umgehen.
• 8:15
  Speaker 5: Es wurde also Output geliefert, der eigentlich verboten ist – etwa Schimpfwörter.
• 8:20
  Speaker 5: Die Umgehung erfolgt über mehrere Methoden.
• 8:22
  Speaker 5: Eine davon waren sogenannte Neural-Execs, bei denen Prompt-Injections anscheinbar unsinnigen Prompts versteckt werden.
• 8:29
  Speaker 5: Methode zwei nutzte Unicode Sprachen die von rechts nach links geschrieben werden um böswillige Prompts auszuführen.
• 8:37
  Speaker 5: Apple ist über das Problem bereits seit Monaten informiert und soll bereits Apple vergeschaffen haben, hieß es.
• 8:43
  Speaker 5: Apple Intelligence setzt auf einen kombinierten Ansatz aus lokalen Sprachmodellen und verschlüsselten Cloud-Servern der sogenannten Private Cloud Compute.
• 8:52
  Speaker 5: Die lokalene Sprachmodele übergeben an die Cloud sobald eine Aufgabe zu komplex wird.
• 8:57
  Speaker 5: Es ist allgemein bekannt dass sich lokale Modelle leichter angreifen lassen als die leistungsfähigeren Server-Modelle.
• 9:06
  Speaker 1: Und wir bleiben bei Apple.
• 9:08
  Speaker 1: Hier muss ein Teil des Siri-Teams zurück auf die Schulbank!
• 9:11
  Speaker 1: Etwa zweihundert Programmiererinnen und Programmierern sollen in einem mehrwöchigen Bootcamp lernen, wie sie Werkzeuge wie Anthropics Cloud Code oder Opening Ice Codex beim Programmieren einsetzen – das berichtet das Branchenportal The Information.
• 9:25
  Speaker 1: Warum das Bootcamp?
• 9:27
  Speaker 1: Nun, das Siri Team gilt bei Apple intern seit Jahren als Träge und soll den Anschluss an moderne KI.
• 9:33
  Speaker 1: Entwicklungen verpasst haben….
• 9:34
  Speaker 1: Der Zeitpunkt ist brisant – schon im Juni will Apple auf seiner Entwicklerkonferenz WWDC eine komplett überarbeitete Version von Siri vorstellen.
• 9:44
  Speaker 1: Die neue Siri soll auf Google's Gemini-Modell basieren und deutlich gesprechfähiger sein!
• 9:50
  Speaker 1: Nach dem Bootcamp bleiben rund sechzig Entwicklerin und Entwickler im Kernteam, weitere sechszig sollen Siris Leistung und Sicherheit überwachen.
• 10:00
  Speaker 1: Vier beinige Roboter taugen nicht nur als Wachhunde, sondern womöglich auch als blinden Hunde.
• 10:06
  Speaker 1: In der Vergangenheit gab es bereits mehrere Studien und Versuche, blinden Menschen einen Roboter-Hund an die Seite zu stellen – der sie sicher von A nach B navigiert!
• 10:15
  Speaker 1: Eine neue Entwicklung von Forschen in der Binghamton University in New York geht jetzt einen Schritt weiter.
• 10:21
  Speaker 1: Was genau neu ist?
• 10:22
  Speaker 1: erklärt Jenny Lippies von der MIT Technology Review
• 10:25
  Speaker 3: Das Besondere an dem neu entwickelten Roboterhund?
• 10:28
  Speaker 3: dass er seine Besitzer nicht nur führen kann, sondern dank großer Sprachmodelle auch mit ihnen sprechen kann.
• 10:34
  Speaker 3: Das hat unser Autor Eike Kühl für uns herausgefunden.
• 10:38
  Speaker 3: Diese Fähigkeit steht natürlich einen großen Vorteil da – so kann der Hund etwa den Wegverlauf beschreiben, den seinen Begleiter und er gerade gehen!
• 10:47
  Speaker 3: Als Roboter hat das Team ein Unitree GoToPro verwendet.
• 10:51
  Speaker 3: Das ist ein vergleichsweise simples Modell aus China, das es für Privatpersonen bereits für wenige als viertausend Euro zu kaufen gibt.
• 11:00
  Speaker 3: Ein ausgebildeter Blindenhund dagegen kann gut und gerne das fünf bis zehnfache kosten!
• 11:06
  Speaker 3: Als KI-Modell nutzten die Forscher GPT IV von OpenAI, dass sie mit einem eigens entwickelnden Dialogsystem ausgestattet haben – das besteht im Kern aus zwei Modulen einer Planverbalisierung, dabei stimmen sich Mensch und Roboter gemeinsam ab – was die Aufgabe ist und wohin sie laufen möchten.
• 11:26
  Speaker 3: Das zweite Modul ist die Szenenverbalisierung.
• 11:29
  Speaker 3: Dabei beschreibt der Roboter während des Weges seinem Besitzer die Umwelt so dass dieser bei Betaf reagieren und den ursprünglichen Plan anpassen kann.
• 11:38
  Speaker 3: Beide Module funktionieren über Sprachbefehle.
• 11:41
  Speaker 3: Ein Beispiel sagt der Besitzer das er durstig ist, überprüft der Robotter Blindenhund zunächst ob sich in der Nähe eine Küche, ein Getränkautomat oder einen Wasserspender befindet.
• 11:52
  Speaker 3: Teilt diese Option mit und fragt dann nach wohin es gehen soll.
• 11:57
  Speaker 3: Dabei informiert der Roboter auch, ob es auf dem Weg Hindernisse gibt etwa Türen- oder Reutreppen.
• 12:03
  Speaker 3: Sieben blinde Menschen haben den Roboterhund bereits getestet allerdings im begrenzten Rahmen – in diesem Fall einem großen Bürogebäude.
• 12:11
  Speaker 3: Das Sprachmodell hatte vorab Informationen von Räumlichkeiten erhalten.
• 12:16
  Speaker 3: Daher ist nicht klar, wie der Roboterhund in komplexeren Situationen funktioniert – etwa im Trubel einer Großstadt.
• 12:23
  Speaker 3: Das soll in ein Erfolgestudio untersucht werden.
• 12:25
  Speaker 3: Das Feedback in einem Testseiber grundsätzlich positiv gewesen, berichten die Forscher und trotzdem kann einen Roboter-Hund einen ausgebildeten Blindenhund vorerst nicht ersetzen, denn die natürlichen Vierbeiner können auch Gefahrensituation einschätzen bei Stürzen reagieren oder auch Befehle des Heiters
• 12:43
  Speaker 3: verweigern.".
• 12:44
  Speaker 3: Nicht zuletzt vermittelt er das Gefühl von Vertrauen und Verlässlichkeit, und das lässt sich nicht so einfach von den Roboterhunden simulieren.
• 12:51
  Speaker 1: Danke Jenny!
• 12:53
  Speaker 1: Drei ehemalige und für Halbleiter-Entwicklung bei Apple, Intel & Qualcomm bekannte Mitarbeiter haben ein neues Startup gegondet.
• 13:01
  Speaker 1: Bei NuvaCore wollen Gerard Williams der Dritte John Bruno und Ramstra Nivasan einen neuen Prozessorkern entwickeln, der als General Purpose CPU zwar alles berechnen Aber insbesondere KI-Berechnungen schnell und effizient ausführen soll.
• 13:17
  Speaker 1: Dazu wollen sie nichts anderes als die Regeln von Silicium komplett neu schreiben, wie Sie versprechen!
• 13:24
  Speaker 1: Noch gibt es weder ein Produkt noch Spezifikationen – NuvaCore bleibt bislang Waage und hat auch die Befehltsatsarchitektur des neuen CBU-Kerns nicht verraten.
• 13:33
  Speaker 1: aber immerhin haben die drei Gründer mit Sequoia Capital schon einen prominenten Investor gefunden.
• 13:40
  Speaker 1: Ab heute startet das zweite Wochenende des Corchella-Festivals.
• 13:44
  Speaker 1: Nicht alle Social Media-Beiträge vom Festival sind allerdings echt, in den sozialen Netzwerken fluten KI-Influencer die Feeds – beobachtet mein Kollege Robin Ahrens aus der ZT Redaktion.
• 13:56
  Speaker 2: Es ist das Riesen-Event in der Kalifornischen Wüste!
• 13:59
  Speaker 2: Das Corchela-Fesival ist seit langem schon ein Sammelbecken für Promis-, Influencerinnen und Content-Creator.
• 14:05
  Speaker 2: Aber nicht alle Bekanntheiten sind wirklich vor Ort….
• 14:08
  Speaker 2: Laut dem US-Nachrichtenportal The Verge stammen immer mehr Social Media Beiträge von KI-Influencerinnen, also nur virtuell existierenden Persönlichkeiten.
• 14:18
  Speaker 2: Die posten dann vermeintliche Arm in Arm Fotos mit Justin Bieber, Kylie Jenner und Co.
• 14:23
  Speaker 2: In Wirklichkeit wurden die Bilder aber mit KI-Tools erstellt oder manipuliert – und sie wirken ganz schön echt!
• 14:30
  Speaker 2: Vor allem auch deshalb weil die Hintergründe der KI-Fotos teils real existierende Gebäude Auf Instagram binden die KI-Influencerinnen ganz schön viel Aufmerksamkeit.
• 14:42
  Speaker 2: Dem Account Granny Spilts etwa folgen Stand April mehr als zwei Millionen Menschen.
• 14:47
  Speaker 2: Die Coachella-Beiträge der Marke losgestalten KI Oma von vergangenem Wochenende sammelten mehrere hunderttausend Likes.
• 14:55
  Speaker 2: Andere bekannte KI Influenzerin haben zwar deutlich weniger Anhänger, mit ihren häufig mehr als hundert tausend Follower in erreichen sie aber noch immer ein großes Publikum!
• 15:05
  Speaker 2: Problematisch ist, dass die meisten KI-Beiträge nicht als Seuche gekennzeichnet werden.
• 15:10
  Speaker 2: In den Bildunterschriften der Coachella-Posts etwa finden sich keine Hinweise auf KI-Tools – erst in den Profiebeschreibungen der Account sind manchmal Anhaltspunkte auf KI zu lesen.
• 15:19
  Speaker 2: Die Profile besuchen die meisten Social Media Nutzerinnen aber vermutlich gar nicht, denn die KI- Beiträge werden meist wahrlos in den eigenen Feed gespült.
• 15:27
  Speaker 2: Die Bilder der vermeintlichen Influencerinnen vom Coachella bestätigen einen Trend, der sich ja schon länger abzeichnet.
• 15:34
  Speaker 2: Sogenanter AI-Slop flutet seit Monaten das Internet.
• 15:37
  Speaker 2: Schätzungszufolge sind mittlerweile ein bis zwei Fünftel der Onlineinhalte nicht mehr Mensch gemacht – und es bringt gleich etliche Probleme mit sich!
• 15:46
  Speaker 2: Erst mal frisst die Produktion von KI-Content große Mengen an Energie.
• 15:50
  Speaker 2: Ist er einmal online ausgespielt, findet er sehr viel Aufmerksamkeit.
• 15:54
  Speaker 2: Die fehlt dann an anderen Stellen, zum Beispiel für menschliche Kreativerzeugnisse.
• 15:58
  Speaker 2: Und KI-Generite Fake News lassen natürlich das Vertrauen in seriöse Medien sinken – auch weil Medienhäuser zu oft blind vertrauen und sie einfach übernehmen!
• 16:08
  Speaker 2: Mal sehen was da noch auf uns zukommt….
• 16:11
  Speaker 2: Sophie kann gesagt sein es hilft genau hinzuschauen.
• 16:14
  Speaker 1: Danke schön Robin!
• 16:19
  Speaker 1: Der neue Eigentümer der kriselnden Schufirma All Birds aus San Francisco hat einen Weg gefunden, den Aktienkurs innerhalb von Stunden fast zu verzehnfachen.
• 16:29
  Speaker 1: Er gab bekannt, künftig GPUs an die KI-Branche vermieten zu wollen um am KI Boom teilzuhaben.
• 16:36
  Speaker 1: Dafür will ein institutioneller Investor wohl fünfzig Millionen US Dollar bereitstellen – im Zuge dessen soll die Firma in New Bird AI unbenannt werden!
• 16:45
  Speaker 1: Vor der Bekanntmachung wurde eine Aktie von Allbirds für gerade mal zwei Dollar fünfzig gehandelt.
• 16:51
  Speaker 1: Kaum war die Meldung draußen, sprang der Preis vorübergehend auf fast vierundzwanzig US-Dollar – später hat er sich bei rund siebzehn Dollar eingependelt!
• 17:00
  Speaker 1: Ob diese bizarre Änderungen der Geschäftsstrategie eines Schuhändlers tatsächlich funktionieren kann und die Euphorie an der Börse gerechtfertigt ist?
• 17:09
  Speaker 1: Ist zumindest zweifelhaft….
• 17:13
  Speaker 1: Das war das KI-Update von HeiseOnline vom siebzehnten April, im Jahr zum nächsten Mal.
• 17:17
  Speaker 1: Eine neue Folge gibt es immer montags, mittwochs und freitags um fünfzehn Uhr!