Latest / KI-Update – ein heise-Podcast / KI-Update kompakt: KI-Aufsichtsbehörde, OpenAI DevDay, Anthropic, Pilzesammeln

Transcript

KI-Update kompakt: KI-Aufsichtsbehörde, OpenAI DevDay, Anthropic, Pilzesammeln · KI-Update – ein heise-Podcast

• 0:02
  Speaker 0: Das KI Update, ein heise Podcast mit redaktioneller Unterstützung von The Decoder.
• 0:14
  Speaker 0: Ich bin Isabel Grünewald und dies sind heute unter anderem unsere Themen.
• 0:17
  Speaker 0: Planung für KI-Aufsichtsbehörde wird konkreter.
• 0:21
  Speaker 0: OpenAI zeigt beim Dev Day wie aus ChatGPT ein digitaler Kollege wird.
• 0:27
  Speaker 0: Anthropic meldet vor Börsengang Dutzende Milliarden Verlust – und Pilze sammeln kann mit KI lebensgefährlich werden!
• 0:36
  Speaker 0: Die Planung für eine von Google, Anthropic und OpenAI selbst organisierte Aufsichtsbehörde für KI-Systeme nimmt laut einem Insiderbericht von The Information wohl immer weiter gestalt an.
• 0:49
  Speaker 0: Als Name kursiert Standards Authority for Frontier AI Kurz SAFA berichtet Caroline Riedmüller von Heise Online.
• 0:57
  Speaker 4: Erste Berichte über die Pläne für eine solche Sicherheitsorganisation tauchten bereits im Juli auf als Insider von Gesprächen zwischen den großen KI-Filmenberichteten.
• 1:05
  Speaker 4: Jetzt wird es konkreter.
• 1:07
  Speaker 4: Es kursieren wohl erste Namen für das Amt des CEOs und die wissenschaftlichen Berater von SAFA, auch hier Aufgabenfeld wird abgesteckt.
• 1:15
  Speaker 4: Eine Kernaufgabe der Organisation soll wohl das Definieren von Regeln sein nach denen Entwickler Sicherheitsvorfälle melden müssen.
• 1:22
  Speaker 4: Ebenfalls zentral wird mutmaßlich die Unterstützung von unabhängigen Drittorganisationen sein, die die KI-Modelle prüfen – so the information.
• 1:29
  Speaker 4: Auch die Anforderung an die Qualifikation dieser Prüfer sollte die Organisation SAFA festlegen.
• 1:35
  Speaker 4: Außerdem soll sie wohl definieren, wie die Selbstschöpflichtung der Unternehmen in der Praxis aussehen sollen.
• 1:40
  Speaker 4: Noch nicht ganz klar ist wohl ob die Organisation auch selbst KI-Systeme prüfen soll.
• 1:45
  Speaker 4: Teile dieser Aufgaben sieht der US-Bundstadt Kalifornien eigentlich bei sich und seiner eigenen geplanten Aufsichtsbehörde für KI-Unternehmen.
• 1:52
  Speaker 4: Insofern ist die ständige Klage der KI-Entwickler nicht ganz korrekt – dass man diese Organisation nur Gründe weil staatliche Stellen einer Regulierung ablehnen würden!
• 2:01
  Speaker 4: Im Gegensatz zur Trump-Administration befürwortet der Governor von Kalifornien, in dessen Bundesstaat die meisten KI-Riesen sitzen – nämlich regeln für die KI-Entwicklung ausdrücklich und unternimmt bereits entsprechende Schritte.
• 2:12
  Speaker 0: Vielen Dank Caroline!
• 2:15
  Speaker 0: Während die einen auf Kontrolle von Außensätzen baut NVIDIA die eigene Sicherheitsarchitektur für Agenten aus.
• 2:22
  Speaker 0: Die Open-Agent-Safety-Plattform verbindet die Software OpenShell, die Agenten in abgeschotteten Umgebungen ausführt mit dem neuen System Sentry.
• 2:33
  Speaker 0: Sentry läuft auf spezieller Hardware getrennt vom Rechner des Agenten und soll Agenten isolieren sobald sie ihre Grenzen überschreiten – denn da man sich nicht darauf verlassen kann, dass Agenten Regeln von selbst einhalten, werden Grenzen auf diese Weise technisch von außen erzwungen!
• 2:51
  Speaker 0: Für Sentry braucht es allerdings Nvidia Hardware, was Kunden an den Konzern bindet.
• 2:56
  Speaker 0: Und unabhängige Tests zur Wirksamkeit fehlen auch noch!
• 3:01
  Speaker 0: Auch der Software-Hersteller Okta hat auf seiner diesjährigen Hausmesser Octane in Las Vegas mit der Blueprint Alliance ein Konzept vorgestellt, das KI-Agenten in Unternehmen absichern soll.
• 3:13
  Speaker 0: Die Referenzarchitektur fragt wo die Agenten sind?
• 3:17
  Speaker 0: Was sie können und tun – wie man reagiert.
• 3:20
  Speaker 0: Neu sind die Erkennung von Schattenagenten auf Endgeräten und ein Agent Gateway über den Toolaufrufe der Agenten kontrolliert werden.
• 3:30
  Speaker 0: Mehrere große Anbieter wie AWS, Google Cloud und CrowdStrike unterstützen den Ansatz und haben sich in der Blueprint Alliance zusammengeschlossen.
• 3:38
  Speaker 0: Okta's Engagement an der Allianz dürfte auch strategische Gründe haben – Der Hersteller versucht sein Einfluss in der Identitätsverwaltung auf die Orchestrierungen von Agenten auszuweiten.
• 3:50
  Speaker 0: Voraussetzung ist jedoch, dass sich die Plattform auf diese Agenten anwenden lässt.
• 3:54
  Speaker 0: Und dafür sind gemeinsame Standards nötig!
• 3:59
  Speaker 0: OpenAI hat auf seiner Entwicklerkonferenz DevDay vor allem gezeigt, das ChatGPT vom Chatbot zum digitalen Kollegen werden soll.
• 4:08
  Speaker 0: Wichtigste Neuerungen dieser Hinsicht sind die sogenannten Dots – das sind dauerhaft aktive Agenten, die auf einem eigenen Cloud-Rechner rund um die Uhr arbeiten.
• 4:17
  Speaker 0: Ein Dot recherchiert, erstellt Dokumente oder gibt Programmieraufgaben an Codecs weiter.
• 4:23
  Speaker 0: Nutzerin-Nutze erreichen ihnen ChatGPT in Slack und Microsoft Teams.
• 4:28
  Speaker 0: Arbeitet gerade niemand mit ihm, sucht er selbstständig nach Aufgaben soll dabei jedoch nur lesen können.
• 4:35
  Speaker 0: Ein Dot ist im Abo enthalten.
• 4:37
  Speaker 0: Pro Kunden in der EU müssen allerdings noch ein bisschen warten.
• 4:40
  Speaker 0: Meta hatte vor drei Wochen mit Muse einen sehr ähnlichen Agent gestartet.
• 4:45
  Speaker 0: OpenAI zieht hier also offenbar nach.
• 4:48
  Speaker 0: Beim Modell setzt OpenAI auf den Preis, GPT-Sechs.Einsoul soll laut OpenAI's eigenen Benchmarks beim Programmieren und bei Büroarbeit fast an das Spitzenmodell Astra heranreichen – kostet aber nur rund ein Fünftel!
• 5:03
  Speaker 0: Und liegt damit auf dem Niveau von Anthropics Mittelklasse-Modell SONNET-Fünfpunkt fünf.
• 5:09
  Speaker 0: ChatGPT bekommt außerdem mit Space einen gemeinsamen Arbeitsbereich für Teams kollaborative Dokumente und ein offenes Plugin-System, damit drückte OpenAI näher an in Unternehmen etablierte Tools wie Slack, Notion oder Google Workspace heran.
• 5:26
  Speaker 0: Codex lässt sich in der Kommandozeile jetzt per Sprache steuern – und prüft Code automatisch in der Cloud auch wenn die Entwicklerin gerade nicht am Rechner sitzt!
• 5:35
  Speaker 0: Das neue Werkzeug Codex Security Cloud scannt ganze GitHub Repositories auf Sicherheitslücken und bereitet gleich die Korrekturen vor.
• 5:44
  Speaker 0: Die neue Stufe Ultra Fast arbeitet bis zu achtmal schneller, kostet in der AP aber nur das Sechsfache.
• 5:52
  Speaker 0: Für Enterprise Kunden ist Ultra Fast inklusive oder man nutzt sie mit dem neuen Abo pro Fünfhundert für genau fünfhundert Dollar im Monat.
• 6:02
  Speaker 0: Abseits vom Dev Date Rubel hat OpenAI die Veröffentlichung seines nächsten KI Modells GPT-Six Punkt Eins Astra erst mal auf Eis gelegt!
• 6:11
  Speaker 0: Das Modell sollte eigentlich im Oktober für Chat-GPT und Codex erscheinen, nun gab es offenbar Probleme bei internen Sicherheitstests.
• 6:19
  Speaker 0: Tomislav Besmalinovich von Heise Online mit den Einzelheiten.
• 6:23
  Speaker 3: Open AI ist Leiterin für Sicherheitssysteme Sachi Jane in zwei Bereiche, in denen GPT-Sex.I.
• 6:29
  Speaker 3: Astra Rückschritte gezeigt habe.
• 6:32
  Speaker 3: Zum einen haben das Modell schlechter bei Alignment Tests abgeschnitten und häufiger täuschendes Verhalten gezeigt.
• 6:40
  Speaker 3: So habe es Nutzer nicht immer wahrheitsgemäß darüber informiert, welche Aktionen es ausgeführt oder unterlassen hatte.
• 6:47
  Speaker 3: Zum anderen habe das Modell TICE Aufgaben ohne die nötige Zustimmung des Nutzers fortgesetzt und auf externe Tools oder Wienste zugegriffen auch wenn deren Nutzung ein Sicherheitsrisiko darstellen konnte.
• 7:00
  Speaker 3: Insgesamt habe das Model damit OpenAI's Anforderungen an Sicherheit und Alignment nicht erfüllt", sagte Jane dem WallSuite Journal.
• 7:09
  Speaker 3: Das Basismodell will OpenAI aber weiter verwenden und durch weitere Trainingsläufe verbessern, zudem will das Unternehmen die Ursachen der Probleme genauer untersuchen und dabei alle Phasen der Modellentwicklung überprüfen.
• 7:23
  Speaker 3: OpenAI zufolge steht diese Entscheidung nicht mit einem früheren Sicherheitsvorfall in Zusammenhang.
• 7:29
  Speaker 3: Erst für gangene Woche passierte das Unternehmen das Training seiner leistungsfähigsten KI-Modelle nachdem ein Agent Internetbeschränkungen umgangen hatte.
• 7:39
  Speaker 3: GPT-Sechs.Eins Astra gehöre aber nicht
• 7:42
  Speaker 3: dazu.".
• 7:43
  Speaker 0: Danke schön, Tomislav!
• 7:45
  Speaker 0: Das französische KI-Unternehmen Mistral eröffnet einen Standort in München.
• 7:50
  Speaker 0: Dort arbeiten Forschende an PhysicsAI – also an KI-Systemen die physikalischen Vorgänge wie Strömungen oder Materialbelastungen viel schneller berechnen als klassische Simulationen.
• 8:02
  Speaker 0: Zu den ersten Partnern gehören BMW, Siemens Energy und die TU München.
• 8:07
  Speaker 0: Die nötige Expertise holt sich misstrahl außerdem durch die Übernahme des österreichischen Start-ups ME AI, das unter anderem an KI Modellen für Stolmungssimulationen, Strukturanalysen und das Zusammenspiel physikalischer Prozesse arbeitet.
• 8:21
  Speaker 0: Der neue Standort passt zu Mistreizstrategie, sich über die Modellentwicklung hinaus als Komplettanbieter für Unternehmen aufzustellen – und damit zur europäischen Kaisovernität beizutragen!
• 8:35
  Speaker 0: Indes fordert der KI-Berater der EU-Kommission Jim Hagemanns Nabe, Europa solle den USA und China bei führenden KI-Modellen nicht mehr hinterherlaufen.
• 8:45
  Speaker 0: Stattdessen soll KI schnell in der Wirtschaft eingesetzt werden – etwa in Gesundheit, Landwirtschaft, Verkehr und Industrie.
• 8:52
  Speaker 0: Hürden für Anwendungen wie autonome Fahrzeuge sollten abgebaut werden!
• 8:58
  Speaker 0: Trotz dieses neuen Fokus waren's Narbe vor einer Abhängigkeit von ausländischen Anbietern.
• 9:03
  Speaker 0: Europa müsse sicherstellen, dass heimische Firmen eigene Ideen hervorbringen, erproben und skalieren könnten.
• 9:11
  Speaker 0: Einerheblicher Teil der Wertschöpfung müsse in Europa bleiben.
• 9:14
  Speaker 0: – bis Jahresende wissnahme ein Maßnahmenpaket vorlegen!
• 9:20
  Speaker 0: Der US-Bundestadt Florida hat eine einstweilige Verfügung gegen OpenAI beantragt.
• 9:25
  Speaker 0: Chat-Dipity soll nicht so reden dürfen als habe es Gefühle oder Charakter bei Menschen die Chatbot sonst als Freund wahrnehmen könnten.
• 9:34
  Speaker 0: Außerdem soll OpenAI-Nutzende nicht mehr mit Folgefragen zu weiteren Interaktionen drängen dürfen.
• 9:40
  Speaker 0: Das Unternehmen soll ChatGPT nicht als sicher bewerben dürfen und keine Modelle ohne externe Sicherheitsprüfung veröffentlichen, zudem soll es Kinder unter dreizehn tatsächlich ausschließen.
• 9:52
  Speaker 0: Alle diese Punkte verletzten nämlich Floridas Verbraucherschutzrecht und sollten daher durch die einstweilige Verfügung verboten werden bis in der Hauptklage eine Entscheidung vorliegt.
• 10:02
  Speaker 0: In dieser Klage von Florida gegen OpenAI geht es ebenfalls unter anderem darum, dass GPPT seine Produkte nicht mehr als sicher bewerben solle wenn sie ist nicht sein.
• 10:14
  Speaker 0: Auch der Datenschutz von Unterdreizsinnierigen ist da ein Thema!
• 10:18
  Speaker 0: Die nur zwei Jahre junge Firma World Labs aus San Francisco mit rund einhundert Angestellten ist AMD – acht Komma zwei Milliarden US-Dollar wert.
• 10:29
  Speaker 0: Die KI-Modelle des Startups erzeugen drei D-Welten aus Textbeschreibungen, Bildern, Videos oder drei D Layouts.
• 10:37
  Speaker 0: Allerdings geht es AMD weniger um die Technik als um die Köpfe hinter Worldlabs – vor allem um die Mitgründerin und Stanford-Professorin Dr.
• 10:48
  Speaker 0: Durch die Übernahme erhält AMD ein Weltklasse-Team aus Forschenden und Modellexperten, wodurch das Unternehmen seine Fähigkeiten zur Entwicklung von KI Hardware, Software und Systemen – die auf die Anforderungen neuer Modelle und Anwendung zugeschnitten sind – weiter ausbauen kann.
• 11:04
  Speaker 0: Heißt es!
• 11:05
  Speaker 0: Lee machte sich mit ImageNet einen Namen.
• 11:08
  Speaker 0: Die riesige Bilddatenbank enthält rund vierzehn Millionen von Hand beschriftete Bilder und gilt als einer der Grundpfeiler der heutigen KI.
• 11:16
  Speaker 0: Die heutige World Labs-Chefin soll AMD in der obersten Führungsebene als Executive Vice President beitreten.
• 11:24
  Speaker 0: Als leitende Wissenschaftlerin würde Lee dann direkt an AMD-Chef Lisa zu berichten.
• 11:31
  Speaker 0: Vor dem geplanten Börsengang hat Anthropic nun in einem Prospekt so ein paar Milliarden Umsatz offen gelegt, allerdings auch mehr als vierzig Milliarden US-Dollar Verlust!
• 11:41
  Speaker 0: Fast ein Drittel des Dokuments sind außerdem Risikofaktoren gewidmet, erklärt Martin Holland aus dem heise online Newsroom.
• 11:49
  Speaker 1: Wenn es um die Geschäftszahlen der KI-Firmen geht ist, wendet man noch ziemlich viel unklar außer dass natürlich das die sehr hohe Kosten haben.
• 11:59
  Speaker 1: aber es ist nicht so ganz klar wieviel sie einnehmen und wievier Sie einnehmen werden.
• 12:03
  Speaker 1: und da hilft im Moment der anstehende Börsengang von Entropek ein bisschen Weil das KI-Unternehmen jetzt an der Börse um Investoren und Investoren wirbt, und da jetzt Finanzzahlen nach Börsenstandards vorstellt.
• 12:20
  Speaker 1: Und die konnte die Nachrichtenagentur Reuters und die Financial Times jetzt einsehen – und das sind ganz schön heftige Summen!
• 12:28
  Speaker 1: Also da steht drinnen, dass Anthropic allein im vergangenen Jahr in einem einzigen Jahr zweiundvierzig Milliarden US-Dollar Nettoverlust gemacht hat und das ganze beim Umsatz von vier Komma sechs Milliarden US-Dollar.
• 12:43
  Speaker 1: Und von den wiederum kommt fast ein Viertel nur von zwei Kunden, und das sind mit Codex und GitHub sogar direkte Konkurrenten die wahrscheinlich nicht immer für Enthorpecs Dienste bezahlen werden.
• 12:58
  Speaker 1: also dass ist auf jeden Fall nicht ganz so rosig wie es in den vergangenen Wochen mal durchgeklungen ist wo enthorpek unter Berufung Also unklare Rechnungen gesagt hat, dass man ja schon profitabel sei jetzt in einem Quartal oder zumindest in ein paar Wochen.
• 13:17
  Speaker 1: und jetzt machen diese Zahlen deutlich.
• 13:19
  Speaker 1: Dass das eben doch noch ein Stück weg ist vor allem wenn man dann auch noch im Bezug nimmt darauf, dass Entropik innerhalb der nächsten Jahre fünfhundertachzehn Milliarden US-Dollar für Cloud-Karbezitäten Rechenleistung und Infrastruktur ausgeben will also gigantische Summen.
• 13:37
  Speaker 1: und jetzt muss man mal sehen, ob die Börse da trotzdem überzeugt wird.
• 13:42
  Speaker 1: Das ist ja so ... Die Rechnungen sind ja so ähnlich wie auch bei SpaceX mit wenn es um KI geht sehr, sehr hohe Investitionskosten und unklare Einnahmen.
• 13:52
  Speaker 1: zumindest unklar ob die Einnahmen so hoch werden können wie sie dafür werden müssen.
• 13:58
  Speaker 1: der Bösengang selbst das wird noch ein bisschen dauern.
• 14:01
  Speaker 1: Es hat zuletzt Berichte gegeben dass Anthropic nach den Zwischenwahlen in der USA erst an die Börse gehen will, die finden Anfang November statt.
• 14:11
  Speaker 1: Das heißt ein bisschen es noch Zeit da jetzt Investoren zu überzeugen und Anthropic selbst will tatsächlich mit dem Börsengang den Rekordbörsen-Einstieg von SpaceX nochmal übertreffen und noch mehr Geld einnehmen.
• 14:26
  Speaker 1: Ob das klappt muss sich dann zeigen!
• 14:29
  Speaker 0: Danke schön Martin AnsropicsKI.
• 14:32
  Speaker 0: Schaltboard.
• 14:32
  Speaker 0: Claude hat am Dienstagnachmittag mit Störungen zu kämpfen gehabt.
• 14:36
  Speaker 0: Die Fehler raten stiegen bei der Web- und App-Version, bei Cloud Code, bei cloud coworkers und bei der Schnittstelle für Entwicklerne.
• 14:44
  Speaker 0: Nutzende konnten teils keine neuen Charts starten sich nicht einloggen und keine Dateien hochladen.
• 14:50
  Speaker 0: Nach gut einer Stunde, also kurz nach siebzehn Uhr, meldete Anthropic die meisten Dienste liefen wieder.
• 14:56
  Speaker 0: Allerdings wurden einige Nachrichten während der Störungszeit möglicherweise nicht gespeichert und könnten in den Chatverläufen fehlen – hieß es von Anthropik!
• 15:05
  Speaker 0: Erst am Vorabend der Störung hatte Anthropics mit Claude Zornit-Fünf Punkt Fünf ein Update seines Mittelklasse Sprachmodells veröffentlicht.
• 15:13
  Speaker 0: Es soll deutlich schneller als der Vorgänger arbeiten.
• 15:16
  Speaker 0: Die Preise pro Togen bleiben zwar gleich, doch der geringere Verbrauch senkt die Kosten insgesamt.
• 15:22
  Speaker 0: Sonnet-Fünf-fünf eignet sich für alltägliche Aufgaben – die Behebung von Softwarefehlern und die Erstellung von Dokumenten.
• 15:29
  Speaker 0: In Codingtests schneidet es stark ab, teilt besser sogar als das größere Modell Obus.
• 15:35
  Speaker 0: Fünf Punkt Fünf.
• 15:36
  Speaker 0: Erstmals erhält ein Sonnetmodell auch Schutzmechanismen gegen Missbrauch in der Cybersicherheit!
• 15:42
  Speaker 0: Riskante Anfragen werden an ein Ausweichmodell weitergeleitet, was gelegentlich allerdings auch harmlose Anfragen blockiert.
• 15:51
  Speaker 0: Ein paar WhatsApp-Nachrichten dann einen Anruf und schwupp überwies ein italienischer Banker – «ficnvoinneunzig Millionen Euro» an Betrüger.
• 16:00
  Speaker 0: Diese hatten KI genutzt um sich zunächst als CEO der Großbank auszugeben und schickten in dessen Namen WhatsApp Nachrichten an den Vorsitzenden der Tochterbank Fidora.
• 16:11
  Speaker 0: bezüglich einer Investmentmöglichkeit.
• 16:13
  Speaker 0: Ein Anruf mit der KI erzeugten Stimme eines Anwalts des Finanzkonzerns verlieht ihr Geschichte weitere Glaubwürdigkeit, der getäuschte Banker überwies daraufhin die Millionen vor allem nach China – erst das löste einen Alarm aus!
• 16:29
  Speaker 0: Zwar konnte ein Teil der Beute noch eingefroren werden, doch rund sixunddreißig Millionen gingen über Kryptowährungen verloren.
• 16:36
  Speaker 0: Der Getäusche Fidora Manager trat zurück.
• 16:39
  Speaker 0: Die Mailander Staatsanwaltschaft warnt davor, sich jetzt für unverwundbar zu halten.
• 16:44
  Speaker 0: Und zu denken – mir kann das nicht passieren!
• 16:47
  Speaker 0: Sie ermittelt bereits in mehreren Fällen von Großbritug unter Zuhilfename generativer Sprachmodelle.
• 16:54
  Speaker 0: Das US-Verteidigungsministerium will den klassischen Lügendetektor mit KI aufpeppen und beantragt dafür mehr als dreißig Millionen USD beim Kongress.
• 17:04
  Speaker 0: Beim sogenannten Polygraph Next sollen Scoring-Algorithmen auf Basis maschinellen Lerns die Messdaten bewerten.
• 17:11
  Speaker 0: Zudem sollen über sogenanntes Stand of Sensing Körperdaten per Kamera erfasst werden, ohne dass Sensoren angelegt werden müssen.
• 17:20
  Speaker 0: Polygrafen werden von Pentagon bei Personalüberprüfungen eingesetzt oder auch bei der Suche nach Insiders die Informationen an Dritte weitergeben.
• 17:28
  Speaker 0: Ob das jetzt durch den Einsatz von KI besser wird, bezweifelt Forscherinnen und Forscher im Interview mit der MIT Technology Review.
• 17:35
  Speaker 0: Denn schon die Grundannahme der Technik ist wissenschaftlich umstritten – auch weil sie mit passenden Tricks manipuliert werden kann!
• 17:43
  Speaker 0: Daher wissen man bei den bereits bestehenden Datensätzen nicht mit Sicherheit welche tatsächlich eine Lüge enthalten und welcher ein falscher Alarm waren.
• 17:52
  Speaker 0: Die KI können also gar nicht darauf trainiert werden, wonach sie überhaupt suchen soll….
• 17:58
  Speaker 0: Die Pilzsaison läuft.
• 18:00
  Speaker 0: Und natürlich gibt es auch dafür inzwischen passende KI-Anwendungen!
• 18:04
  Speaker 0: Die Apps versprechen Antworten auf die Frage, ob man ein leckeres Stockschwämmchen oder einen Gifteubling gesammelt hat.
• 18:12
  Speaker 0: Meine Kollegin Greta Friedrich von der CTE hat mit Pilzexperten gesprochen und die waren dass die KI teilweise lebensgefährlich daneben liegt.
• 18:28
  Speaker 2: Aber wenn es um die Frage geht, ob etwas ein Pilz zum Beispiel essbar oder giftig ist sollte man sich auf Apps und KI-Bots auf keinen Fall verlassen.
• 18:37
  Speaker 2: Hier liegen sie mit ihren Antworten nämlich oft komplett falsch.
• 18:40
  Speaker 2: Ehrlicherweise können auch Experten Pilze nicht unbedingt anhand nur eines Fotos erkennen.
• 18:46
  Speaker 2: Manche Pilze müsse man zum Beispiel riechen, sie anschneiden oder sich die Zellstrukturen ansehen erklärte uns Florian Garde, Pilzsachverständiger der Deutschen Gesellschaft für Mykologie.
• 18:56
  Speaker 2: Um genießbare Pilze wirklich sicher erkennen zu können, brauchen Menschen vor allem Wissen und eigene Erfahrung", sagt er.
• 19:04
  Speaker 2: Zumindest sollte man eine geführte Exkursion mit einem Pilzsachverständigen
• 19:07
  Speaker 2: mitmachen.".
• 19:09
  Speaker 2: Klar es ist echt verlockend stattdessen mal eben schnell Chechipiti und Co.
• 19:12
  Speaker 2: zu fragen was für einen Pilsmann da gerade entdeckt hat!
• 19:16
  Speaker 2: Aber wie schnell das schiefgehen kann zeigt ein aktuelles Experiment von Piotr Mikdao, einem Softwareentwickler bei einer polnischen KI-Firma.
• 19:24
  Speaker 2: Er ließ achtzehn Sprachmodelle, fünffünfzig verschiedene Pilzarten anhand von jeweils nur einem Foto bestimmen.
• 19:32
  Speaker 2: Das Ergebnis ist sehr deutlich – das können die einfach nicht!
• 19:36
  Speaker 2: Google Gemini hat dabei noch am besten abgeschnitten was aber auf keinen Fall heißt dass es ein vertrauenswürdiger Pilzexperte wäre.
• 19:43
  Speaker 2: Denn auch die Gemini-Sprachmodelle erkannten Pilze nur in gut sechzig Prozent der Fälle auf Anhieb korrekt Und in über zehn Prozent der Fälle behauptet Gemini bei giftigen Arten sie wären essbar.
• 19:54
  Speaker 2: Andere Sprachmodelle gaben sogar noch häufiger solche üblen Ratschläge.
• 19:59
  Speaker 2: Wenigstens warnten die meisten Sprachmodele im Test davor, dass man Pilz anhand von nur einem Foto nicht sicher bestimmen kann.
• 20:07
  Speaker 2: Es gab aber auch einen Fall, indem eine Version von Google Gemini ein Giftpilz fälschlicherweise als essbar deklarierte und das ohne jeden Warnhenweis.
• 20:16
  Speaker 2: Na dann – guten Appetit!
• 20:18
  Speaker 0: Danke schön, Greta.
• 20:20
  Speaker 0: Wenn ihr jetzt den ganzen Artikel zur KI-gestützten Pilzsuche nachlesen oder tiefer in andere unserer Themen einsteigen wollt, dann könnt ihr das mit einem Heiseplus-Abo tun.
• 20:29
  Speaker 0: Damit unterstützt ihr übrigens auch kostenlose Angebote wie diesem Podcast!
• 20:35
  Speaker 0: Und weil ihr schon das KI Update hört bekommt ihr zwölf Wochen HeisePlus mit fünfzig Prozent Rabatt unter heiseplus.de.
• 20:42
  Speaker 0: slash Audio.
• 20:43
  Speaker 0: Die Link dazu findet ihr natürlich auch in den Show notes.
• 20:48
  Speaker 0: Das war das KI-Update vom Heise Online vom threißigsten September, zwanzig.
• 20:53
  Speaker 0: Eine neue Folge gibt es Montags, Mittwochs und
• 20:56
  Speaker 4: Freitag ab fünfzehn Uhr!