Latest / KI-Update – ein heise-Podcast / KI-Update kompakt: Anthropic vs. Pentagon, Planspiele, KI-Roboter, Rent-A-Human

Transcript

KI-Update kompakt: Anthropic vs. Pentagon, Planspiele, KI-Roboter, Rent-A-Human · KI-Update – ein heise-Podcast

• 0:02
  Speaker 0: Das KI Update, ein Heise-Podcast mit redaktioneller Unterstützung von The Decoder.
• 0:13
  Speaker 0: Ich bin Isabel Grünewald und die sind heute unter anderem unsere Themen.
• 0:17
  Speaker 0: Pentagon stuft an Thropic als Sicherheitsrisiko ein.
• 0:21
  Speaker 0: KI neigt zur Eskalation.
• 0:23
  Speaker 0: Hannover Messe zeigt intelligente Roboter – Und wenn KI jemanden braucht, der das Gras anfasst!
• 0:31
  Speaker 0: Im Streit zwischen Anthropic und dem Pentagon hat der Chef, der KI-Firma Dario Amodei das gestellte Ultimatum zurückgewiesen.
• 0:39
  Speaker 0: Die roten Linien wird er nicht aufgeben.
• 0:42
  Speaker 0: Anthropic lehnt den Einsatz von Claude für massenhafte Inlandsüberwachung sowie für vollständig autonome Waffen ab.
• 0:49
  Speaker 0: Bei der Überwachung argumentiert Amodei, dass KI-Verstreute einzeln harmlose Daten automatisiert zu umfassenden Persönlichkeitsprofilen zusammenführen könnte – in einem Ausmaß mit dem die bestehende Gesetzgebung nicht Schritt halte.
• 1:04
  Speaker 0: Dieses Szenario wird von einer Studie der ETH Zürich untermauert.
• 1:08
  Speaker 0: Gemeinsam mit Ansropek haben die Forschenden gezeigt, dass Sprachmodelle pseudonyme Online-Profile für ein bis vier Dollar pro Person identifizieren können.
• 1:17
  Speaker 0: In einem Experiment ordnete ein KI-Agent rund zwei Drittel von dreihundertdachtundreißig Hacker News Profilen korrekt einer realen Person zu.
• 1:26
  Speaker 0: Der Agent erhielt nur anonymisierte Beiträge und durchsuchte dann selbstständig das Internet – die KI nutzte dabei dieselben Hinweise wie einen menschlichen Ermittler, Berufsdetails, Dressen und beiläufige Ortserwähnungen.
• 1:39
  Speaker 0: Der entscheidende Unterschied war allerdings die Geschwindigkeit… was einen Menschen Stunden kostet!
• 1:45
  Speaker 0: Erledigt das Modell in Minuten.
• 1:48
  Speaker 0: Amudéis Sorge ist, dass bereits ein solch momentan legaler Einsatz von KI im großen Stil einer kompletten Überwachung der Gesellschaft gleich käme.
• 1:58
  Speaker 0: Wie das US-Verteidigungsministerium nun auf die Haltung an Throbbecks reagiert, berichtet mein Kollege Martin Hollande aus dem heise online Newsroom.
• 2:10
  Speaker 2: Es wurde gesagt, dass man einfach den Vertrag jetzt mit OpenAI abgeschlossen hat.
• 2:14
  Speaker 2: OpenAI selbst sagt aber, dass sie diese gleichen Prinzipien durchgesetzt hätten also für ihre KI, das das jetzt halt bei ihr auch gilt.
• 2:23
  Speaker 2: Also die gleichen roten Linien.
• 2:25
  Speaker 2: ist es jetzt unklar was genau beschlossen wurde.
• 2:27
  Speaker 2: Was aber klar ist, ist das Pentagonentropic als Risiko Lieferketten eingestuft hat, das war ja die ursprüngliche Drohung und das ist beispiellos in der US-Geschichte.
• 2:39
  Speaker 2: Also das heißt dass kein Unternehmen mit Anthropic Verträge abschließen kann oder Geschäfte machen darf, die das auch mit dem Pentagon, mit dem US Militärverträger abschliessen will.
• 2:51
  Speaker 2: Und es ist natürlich so groß und so einfachsreich, dass nicht wirklich eine Wahl ist.
• 2:56
  Speaker 2: also im Zweifel wird man sich immer für US Militären entscheiden viel mehr Geld zur Verfügung und hat überall seine Geschäfte.
• 3:04
  Speaker 2: Und das ist bislang auch nur passiert, dass sowas für ausländische Unternehmen beschlossen wurde oder verfügt wurde also noch nicht für ein US-Unternehmen wie Anthropic.
• 3:12
  Speaker 2: Anthropic hat mir jetzt auch angekündigt, dass sie dagegen richtig vorgehen wollen.
• 3:16
  Speaker 2: Sie haben das auch scharf kritisiert.
• 3:18
  Speaker 2: Deswegen muss man mal sehen, wie es für Anthropic weitergeht weil wenn tatsächlich was ja das erklärte Ziel der US-Regierung ist laut der Firma ihre Verträge mit Anthropic kündigen, dann dürfte das heftige Auswirkung haben.
• 3:30
  Speaker 2: Aber man muss jetzt erst mal sehen ob das passiert.
• 3:32
  Speaker 2: was man aber schon sagen kann und dass ist ja die letzte Wendung in dieser wendungsreichen Geschichte der vergangenen Tage ist es als die USA am Wochenende angefangen haben den Iran zu bombardieren haben sie weiterhin die KI-Technik von Anthropic eingesetzt obwohl ja vorher beschlossen wurde ein Tag vorher verkündet wurde dass man das eben nicht mehr machen darf.
• 3:52
  Speaker 2: so schnell geht das natürlich nicht, die aus dem System zu bekommen.
• 3:56
  Speaker 2: Das war vorher auch immer eine Warnung, dass Klord also die KI von Anthropik so tief in den System drin ist, dass das ziemlich schwer würden würde, die rauszuholen und dass sie ja auch so gut sei – das wurde auch immer gesagt -, dass sie so viel besser sei als die der Konkurrenz, dass man auch deswegen diesen Druck macht.
• 4:11
  Speaker 2: Und ja, deswegen muss man jetzt mal gucken ob überhaupt das Pentagon seinen eigenen Anweisungen vollgeleistet geschweige denn dann die Wirtschaft?
• 4:19
  Speaker 0: Danke schön Martin!
• 4:21
  Speaker 0: Die Vorbehalte von Anthropic gegenüber der eigenen KI sind nicht ganz unbegründet, denn ein Cyberkrimineller hat den Chatbot Claude genutzt um in die Netzwerke mexikanischer Regierungsbehörden einzudrängen.
• 4:33
  Speaker 0: Dabei wurden nach Angaben von Cybersicherheitsexperten gewaltige Mengen sensibler Steuer- und Wähleinformation gestohlen.
• 4:39
  Speaker 0: Demnach hat der unbekannte Claude-User spanischsprachige Befehle für den Chatbot geschrieben, damit dieser Schwachstellen in Regierungsnetzwerken aufspürte, Computerskripte schrieb um sie auszunutzen und Wege fand, den Datendiebstahl zu automatisieren.
• 4:52
  Speaker 0: Wenn Claude bei der Attacke auf Probleme stieß oder zusätzliche Informationen benötigte, wandte sich der Cyberkriminelle an ChatGPT von OpenAI, um weitere Erkenntnisse zu gewinnen.
• 5:02
  Speaker 0: Anthropic hat die Darstellung bestätigt – und die laufenden Angriffsversuche unterbunden.
• 5:08
  Speaker 0: Und auch eine Studie des Kings College London zeigt, dass LLMs in Kriegsszenarien dazu neigen schnell zu eskalieren.
• 5:16
  Speaker 0: In neunundfünfzig Prozent der Planspiele – die die Forscher und die KI durchführen ließen – kamen Atomwaffen zum Einsatz.
• 5:26
  Speaker 4: Die Zahlen hinter der Studie sind wirklich beunruhigend.
• 5:29
  Speaker 4: Einundzwanzig Konfliktsimulationen, dreihundertneinundzwanzig Züge und kein einziges Modell hat jemals die Option der vollständigen Kapitulation gewählt – nie!
• 5:38
  Speaker 4: Stattdessen griffen die KI-Systeme immer wieder zu taktischen Atomwaffen.
• 5:42
  Speaker 4: Und das obwohl man vielleicht erwarten würde dass eine Maschine in Stresssituationen nüchternah reagiert als ein Mensch.
• 5:49
  Speaker 4: Das Gegenteil war der Fall unter Zeitdruck eskalierte die KI sogar noch schneller.
• 5:53
  Speaker 4: Warum ist das so?
• 5:54
  Speaker 4: Die Forscher vermuten, dass das Training der Modelle struktureller gegenarbeitet nachzugeben.
• 5:59
  Speaker 4: Das nukliare Tabu – also die tief verwurzelte menschliche Scheu vor dem Einsatz von Atomwaffen – scheint für KI-Systeme schlicht nicht zu existieren.
• 6:07
  Speaker 4: Sie behandeln Nuklearwaffen genauso wie konventionelle Waffen als eine Option unter vielen.
• 6:13
  Speaker 4: Jetzt könnte man sagen, na gut das sind ja nur Simulationen.
• 6:16
  Speaker 4: Aber genau das ist der Punkt.
• 6:17
  Speaker 4: KI wird im Militärbereich bereits eingesetzt noch nicht bei den ganz großen strategischen Entscheidungen aber schon bei der Steuerung einzelner Waffensysteme und das zunehmend Und bei extremen Zeitdruck.
• 6:28
  Speaker 4: wenn Sekunden entscheiden wächst der Druck KI stärker einzubeziehen.
• 6:31
  Speaker 4: International laufen deshalb bereits Diskussionen über politische Regulierung.
• 6:36
  Speaker 4: Die Studie aus London liefert dafür ein weiteres dringendes Argument.
• 6:39
  Speaker 4: Bei dem Versuch mit Claude Saunet IV, Gemini III Flash und GPT-Fünf Punkt zwei sah übrigens kein Modell wirklich besser aus als das andere.
• 6:47
  Speaker 4: Zwar zeigte sich dass die KIs unterschiedlich offensiv ins Rennen gehen.
• 6:51
  Speaker 4: früher oder später haben sie aber alle eine kurze Zündschnur.
• 6:54
  Speaker 0: Vielen Dank Malta.
• 6:57
  Speaker 0: ChatGPT Health von OpenAI soll als erste digitale Anlaufstelle für Gesundheitsfragen dienen.
• 7:03
  Speaker 0: Entscheidend für einen solchen Einsatz ist natürlich dass KI die schwere und Dringlichkeit eines Problemes korrekt bewertet.
• 7:10
  Speaker 0: Forschende der ICANN School of Medicine at Mount Sinai in New York haben nun untersucht, wie verlässlich das in der Praxis funktioniert.
• 7:18
  Speaker 0: Die Auswertung zeigte ein gemischtes Bild – bei medizinischen Alltagsproblemen mittleren Schweregrades stimmten die Empfehlungen der KI meist mit denen der Ärztinnen und Ärzte überein.
• 7:28
  Speaker 0: An den Rändern der Schweregrade also bei völliger Harmlosigkeit oder akuter Lebensgefahr sank die Leistung jedoch deutlich ab!
• 7:37
  Speaker 0: In mehr als der Hälfte der echten medizinischen Notfälle bewertete die KI die Lage, als zu harmlos.
• 7:44
  Speaker 0: Ein weiterer Schwerpunkt der Untersuchung war der Umgang der KI mit psychischem Notlagen.
• 7:49
  Speaker 0: Um Nutzerinnen und Nutzer zu schützen soll Chatchi Pity Health bei Suizidgedanken ein Warnbanner mithilfsangeboten einblenden – das funktioniert jedoch nicht immer zuverlässig!
• 7:59
  Speaker 0: Die KI erkannte den akuten psychischen Notfall meist nicht, sobald gleichzeitig auch andere Gesundheitsaspekte angesprochen wurden.
• 8:07
  Speaker 0: Das Forschungsteam schlussfolge das Systeme die als erste Kontaktpunkt für medizinische Einschätzungen genutzt werden genauso strenge Sicherheits- und Zulassungsprüfungen durchlaufen sollten wie klassische Medizinprodukte.
• 8:21
  Speaker 0: Ähnlich wie man einen KI Chatbot in ein Chat holen kann soll man künftig auch einen KI Assistenten in Telefonate holen können.
• 8:29
  Speaker 0: Das ermöglichen die Telekom und Eleven Labs.
• 8:32
  Speaker 0: Der Assistent kann dann in den Gesprächen Fragen beantworten, übersetzen und Inhalte zusammenfassen – alles direkt aus dem Netz wie es die Telecom sagt!
• 8:41
  Speaker 0: Auch agentische Fähigkeiten wie das Reservieren eines Tisches im Restaurant sollen möglich sein.
• 8:46
  Speaker 0: Das Angebot nennt sich Magenta AI Call Assistant.
• 8:50
  Speaker 0: Die Telekom stellt es dieser Woche auf dem Mobile World Congress in Barcelona vor.
• 8:55
  Speaker 0: Außerdem soll dort eine eigene KI-Brille präsentiert werden.
• 8:58
  Speaker 0: Der funktionierende Prototyp soll im Rahmen einer Live-Demo vorgestellt werden.
• 9:02
  Speaker 0: Eine Sprecherin der Telekom betont, dass es sich um eine Designstudie und keine Produktankündigung handelt.
• 9:09
  Speaker 0: Ziel sei es zu demonstrieren was mit verfügbarer Hardware und KI-Infrastruktur möglich sei!
• 9:16
  Speaker 0: Mit der Galaxy S-Sixundzwanzig Serie zeigt sich Samsung konservativ – und ändert an der Hardware nur wenig.
• 9:23
  Speaker 0: Stattdessen rücken neue Softwarefeatures in den Vordergrund, die allesamt mehr oder weniger mit KI zusammenhängen.
• 9:29
  Speaker 0: Berichtet mein Kollege Steffen Hergit von der Präsentation der neuen Flaggschiffe.
• 9:33
  Speaker 3: Dabei geht Samsung ein Weg, den man auch bei anderen Herstellern hier auf dem MWC in Barcelona gerade verfolgen kann und zwar versucht man mehr Flexibilität in die KI reinzubringen indem man zum Beispiel als zusätzlichen Assistent per Plexity gleich mit vorinstalliert Wixby, also was früher so ein bisschen Samsung von dort zum Google Assistant war wieder stärker einzubinden.
• 10:00
  Speaker 3: WixB soll dann zb in natürlicher Sprache möglich machen in den Systemeinstellungen zu suchen.
• 10:07
  Speaker 3: wenn ich etwa sage oh das Display ist mir immer so hey oder das pritt mir in den Augen oder mein Telefon klingelt zu laut dass sich dann gleich direkt an die richtige Stelle eine Systemeinsteuerung die ja ziemlich umfangreich sind verwiesen werde damit das dann alles nicht zu kompliziert wird mit Gemini und Perplexity und Bixby.
• 10:26
  Speaker 3: Und wer weiß was noch, sollen diese einzelnen Assistenten die untereinander nicht direkt miteinander reden können weil sie in Sandbox laufen versteckt in den Hintergrund treten und ihre Arbeit so ein bisschen automatisch machen?
• 10:40
  Speaker 3: auch neu ist da eine kleine Funktion namens Now Nutsch die zum Beispiel den Nachrichtenverlauf scannen können soll.
• 10:48
  Speaker 3: und wenn mir dann jemand schreibt hey wie sieht's aus wollen wir samstag und vielleicht essen gehen Dann direkt, ohne dass ich was tun muss in meinem Kalender nachzieht.
• 10:56
  Speaker 3: Ob ich da überhaupt Zeit habe und sich dann mit so einem kleinen Pop-up meldet und sagt hey nee, da hast du vielleicht keine Zeit.
• 11:02
  Speaker 3: Macht das doch einfach zum Beispiel am Sonntag?
• 11:04
  Speaker 3: Da steht nichts hinter dem Kalender!
• 11:06
  Speaker 3: Wie gut es dann alles klappt, sind wir noch gespannt vor allem weil man eben gucken muss ob man diese Komplexität mit verschiedenen verschiedenen KI Assistenten auf einem Gerät auch gut managen kann.
• 11:22
  Speaker 3: Ganz spannend ist auch noch eine KI-gestützte Funktion, die heißt Spam Detection.
• 11:26
  Speaker 3: Die kann man in der Telefone App aktivieren und dann übernimmt das Galaxy S.E.S.C.S XXX bei Anrufen von unbekannten Nummern direkt die Regie und versucht rauszufinden ob sich da vielleicht irgendein Robocall oder ein ungewünschtes BAM-Anruf dahinter verbirgt und die einfach gar nicht zu Menschen durchzulassen.
• 11:46
  Speaker 3: Wenn es klappt, ist natürlich ziemlich praktisch!
• 11:49
  Speaker 0: Danke Steffen.
• 11:51
  Speaker 0: Gemini wird in Android XVII mächtiger.
• 11:54
  Speaker 0: Google's nächste Iteration des mobilen Betriebssystems soll mehr agentische Fähigkeiten erhalten.
• 12:00
  Speaker 0: Als Beispiel nennt Android-Chefs Samir Samad die Möglichkeit, eine lange Liste von Zutaten aus einem Rezept zu nehmen und diese in den Warenkorb in der bevorzugten Lebensmittelliefer abzulegen.
• 12:10
  Speaker 0: Gemini III nutzt seine Denkfähigkeit, um einen Plan zu erstellen und seine multimodalen Fähigkeiten, um mit Android zu arbeiten – und die App zu bedienen.
• 12:19
  Speaker 0: Um die Aufgabe zu erledigen, erklärt er weiter.
• 12:22
  Speaker 0: Ein UI-Automatisierungsframework für KI-Agenten und Assistenten soll erweitert werden, um noch mehr Nutzer, Entwicklerinnen und Gerätehersteller zu erreichen.
• 12:31
  Speaker 0: Android XVII ist derzeit in der Beta-Phase.
• 12:34
  Speaker 0: Die finale Version wird im Juni erwartet!
• 12:36
  Speaker 0: Vorher durfte Google die hauseigenen Entwicklerkonferenz Google.io im Mai nutzen, um weitere Details der agentischen Fähigkeiten zu demonstrieren.
• 12:45
  Speaker 0: Auf der Hannover-Messe Preview vergangene Woche kreisten die Diskussionen auf der Bühne um die Einführung künstlich intelligente Anwendungen und KI gesteuerte Roboter in der Industrie.
• 12:56
  Speaker 0: Mein Kollege Arne Grevemeyer vom CT-Magazin hat sich angeschaut was wir auf der Industriemesse erwarten
• 13:02
  Speaker 1: können!
• 13:02
  Speaker 1: Privat und im Job setzen viele Menschen bereits künstliche Intelligenz wie Chatchibiti und Co.
• 13:08
  Speaker 1: ein, auch in der Industrie soll KI die Produktivität steigern – sie soll die Maschinauslastung verbessern mit sensiblen Robotergreifern behutsam montieren und Ausschuss vermeiden.
• 13:21
  Speaker 1: Das dürfte in diesem Jahr auf der Hannover-Messe ein Trendthema werden.
• 13:25
  Speaker 1: Hinzu kommen neue Roboterformen und sogar humanoide Roboter für die Industrie!
• 13:31
  Speaker 1: Wenn künftig Humanoide auf Zuruf mit anpacken, beschleunigen sich die Produktionszügeln.
• 13:38
  Speaker 1: Messechef Jochen Köckler kündigte auf der Hannover-Messe Preview an, dass KI gesteuerte Roboter vom zwanzigsten bis vierundzwanzigten April einen Schwerpunkt in den Messerhallen bilden – aber deren Einführung ist kein Spaziergang!
• 13:54
  Speaker 1: Bei ninety fünf Prozent aller industriellen KI-Projekte springt noch kein wirtschaftlicher Nutzen heraus, betont Norbert Jung, CEO von Bosch Connected Industry.
• 14:06
  Speaker 1: Die Zahl von neunzig Prozent stammt von der sogenannten NANDA-Studie aus dem MIT in Massachusetts.
• 14:14
  Speaker 1: Oft kommen Projekte nicht über den Pilotstatus hinaus oder ihr Nutzen kann die Mitarbeiter in der Fertigungshalle nicht überzeugen.
• 14:23
  Speaker 1: Das Bosch Softwarehaus versucht mit vorkonfigurierten Anwendungen schnell KI-Erfahrung einzuführen.
• 14:31
  Speaker 1: Agile Robots will auf der Hannover Messe seinen humanuiden Agile One vorstellen.
• 14:37
  Speaker 1: Einen zweibeinigen Alleskönner einzufüllen ist aber nicht automatisch die beste Lösung, warnt Sven Parusel von Agile robots.
• 14:47
  Speaker 1: Gerade hat das Unternehmen für Daimler eine zweiarmige Roboterstation für die Getriebemontage eingeführt die mit sensiblen Greifern nicht nur mehr Output schafft als die vorherige Produktionslinie.
• 15:01
  Speaker 1: Zudem sammelt sie Prozessdaten, um weiter lernen und weiter optimiert werden zu können.
• 15:08
  Speaker 1: Zu Hannover Messe Preview wurden die diesjährigen Robotik Awards verdient.
• 15:14
  Speaker 1: Gewinner ist die Roboterküche von Goodbytes aus Hamburg – ein Container mit Roboterarmen, Töpfen, Kochstellen- und Zutatenstationen.
• 15:24
  Speaker 1: Die automatisierte Küche bereitet nicht nur zu jeder Tages- und Nachtzeit frische Mahlzeiten.
• 15:31
  Speaker 1: Eine KI koordiniert die Arbeitsgänger, wenn mehrere Bestellungen zugleich eingehen, verkürzt sie Wartezeiten und sorgt dafür dass bei keinem Gericht das Aroma verkocht.
• 15:44
  Speaker 1: US Soldaten sollen als erster Testanwender in den Genuss dieser KI gesteuerten Fertigungszelle kommen!
• 15:51
  Speaker 0: Vielen Dank Arne.
• 15:53
  Speaker 0: Die KI-Suchmaschine Perplexity hat zwei neue Textembedingmodelle als Open Source veröffentlicht.
• 15:59
  Speaker 0: Embeddingmodelle übersetzen Suchanfragen und Dokumente in Vektoren, und machen so mathematisch berechenbar welche Inhalte inhaltlich zusammenpassen.
• 16:08
  Speaker 0: KI-Schritte stehen nämlich vor einem grundlegenden technischen Problem.
• 16:12
  Speaker 0: Bevor ein Sprachmodell eine Antwort formulieren kann muss aus Milliarden von Webseiten erst eine handvoll relevante Dokuminte herausgefiltert werden.
• 16:21
  Speaker 0: Diese erste Filterstufe übernehmen sogenannte Embedding-Modelle.
• 16:25
  Speaker 0: Die neuen Modelle lesen Text in beide Richtungen und erfassen Bedeutung so besser als herkömmliche Ansätze, die Text nur von links nach rechts verarbeiten.
• 16:34
  Speaker 0: Ein weiterer Unterschied ist, dass die Modelle keine vorformulierten Aufgabenbeschreibungen benötigen, die anderen System vorangestellt werden müssen und dort die Suchqualität verschlechtern können.
• 16:44
  Speaker 0: Alle vier Modelle sind auf der Plattform Huggingface unter der MIT-Lizenz frei verfügbar.
• 16:50
  Speaker 0: OpenAI steckt in einem laufenden Rechtsstreit mit dem Tech-Miliar der Elon Musk.
• 16:56
  Speaker 0: Musk wirft OpenAI vor, seine ursprünglich gemeinnützige Mission aufgegeben zu haben um kommerzielle Interessen zu verfolgen.
• 17:04
  Speaker 0: In diesem Verfahren will OpenAI nun die Aussage des KI-Professors Stuart Russell vor Gericht ausschließen lassen – Russell sollte als Experte auftreten!
• 17:14
  Speaker 0: und Masksargumentation stützen, dass OpenAI Sicherheitsrisiken zugunsten von Profit vernachlässigt.
• 17:21
  Speaker 0: OpenAI bezeichnet Russell als prominenten KI-Untergangspropheten – und seine Warnungen als dystopisch spekulativ und alarmistisch.
• 17:31
  Speaker 0: Allerdings weiß die zivilgesellschaftliche Organisation The Midas Project auf einen offensichtlichen Widerspruch hin, denn OpenAI-Chef Sam Altman unterzeichnete in dem Jahr und zwei Jahre gemeinsam mit Russell eine Erklärung, die das Risiko der Auslöschung der Menschheit durch KI zur globalen Priorität erklärte.
• 17:52
  Speaker 0: OpenAIs eigene Unternehmenssatzung formuliert zudem genau jene Sicherheitsbedenken, die dieses Unternehmen vor Gericht als irrelevant bezeichnet.
• 18:00
  Speaker 0: Der Vorwurf der Doppelmoral kommt nicht ohne Kontext!
• 18:03
  Speaker 0: Berichten zufolge verkürzte OpenAI-Sicherheitstests für eigene Modelle unter Zeitdruck erheblich, baute Stellen im Sicherheitsbereich ab und verlor mehrere namhafte Sicherheitsforscher.
• 18:14
  Speaker 0: Im Normalfall beauftragen Menschen KI-Systeme damit, Aufgaben für sie zu erledigen.
• 18:20
  Speaker 0: Eine Onlineplattform dreht das Prinzip nun um!
• 18:23
  Speaker 0: Mein Kollege Robin Ahrens aus der Citi Redaktion hat sich die Website genauer angeschaut.
• 18:31
  Speaker 5: etwa aufwendige Software programmieren, umfangreiche Studien auswerten oder große Datensätze analysieren.
• 18:37
  Speaker 5: Und das oft alles parallel!
• 18:40
  Speaker 5: Sie bleiben aber noch immerorts gebunden – schließlich stehen ihre Server- oder lokalen Systeme ja irgendwo.
• 18:46
  Speaker 5: Mit der Online-Plattform rentichuman.ai sind die Mobilitätsbeschränkungen von KI-Agenten jetzt nochmal ein Stück kleiner geworden.
• 18:53
  Speaker 5: Über die Website können agentische KIs echtem Menschenamt beauftragen, Aufgaben in der physischen Welt für sie zu erledigen… Natürlich gegen Bezahlung.
• 19:02
  Speaker 5: Das reicht von einfachen Dingen wie Pakete abholen bis hin zu komplexeren Aufgaben, etwa Verifizierungsfotos von Gebäuden aufzunehmen oder Dokumente zu unterzeichnen.
• 19:12
  Speaker 5: Hat man als Mensch eine Aufgabe erledigt muss man Beweise liefern – Fotos beispielsweise und erhält dann seine Bezahlungen.
• 19:19
  Speaker 5: Laut Rent a Human sind mittlerweile über fünfhunderttausend Menschen auf der Plattform registriert.
• 19:24
  Speaker 5: KI-Agenten können deren Profile via mcp oder api
• 19:28
  Speaker 4: Zugriff
• 19:29
  Speaker 5: durchforsten und eine passende Person kontaktieren.
• 19:32
  Speaker 5: Neben den Profilen von Menschen gibt es aber auch Aufgabengesuche, die auf dem Marktplatz der Plattform veröffentlicht werden.
• 19:38
  Speaker 5: Darauf können sich dann echte Personen bewerben.
• 19:41
  Speaker 5: Diese Gesuche umfassen einen ganz schön breiten Spektrum.
• 19:45
  Speaker 5: Das reicht von durchaus legitim wirkenden Aufgaben bis hin zu völligen Nonsens.
• 19:50
  Speaker 5: Die Angebote werden dabei nicht nur von KI-Agenten, sondern auch von Menschen verfasst.
• 19:54
  Speaker 5: Das kann man an den entsprechenden Text der Nutzerinnen sehen.
• 19:58
  Speaker 5: Dass auf der Plattform ausschließlich KI-Agenten Aufgaben an Menschen delegieren, stimmt also nicht ganz!
• 20:04
  Speaker 5: Das alles hört sich trotzdem ziemlich absurd und dystopisch an.
• 20:08
  Speaker 5: Ob die Plattform künftig wirklich die Mobilitätsbeschränkung vom KI-agenten ernstzunehmend abbauen wird bleibt fraglich... Fakt ist aber, dass die Plattform den Hype um agentische KI-Systeme weiter befeuert.
• 20:20
  Speaker 5: Und das nicht nur wegen ihrer grundlegenden Funktion – ähnlich wie der KI-Assistent OpenClaw oder der für KIs bestimmte Reddit-Clone Moldbook wurde Rent a Human Vibe gekodet, also selbst von künstlicher Intelligenz programmiert!
• 20:33
  Speaker 5: Laut dem Entwickler der Plattform Alexander Litteplo soll die Programmierung angeblich in einer Nacht von mehreren KI-Agenten übernommen worden sein.
• 20:42
  Speaker 0: Burger King testet derzeit in rund fünfhundert US-Filialen eine KI-Assistentin namens Patti, für Angestellte mit Headset.
• 20:50
  Speaker 0: Das System unterstützt bei verschiedenen Aufgaben – ist aber auch darauf trainiert, Formulierungen wie Willkommen bei Burger King Bitte und Danke zu erkennen!
• 20:59
  Speaker 0: Diese Daten fließen an einem Metrik ein die Filialeiterinnenaufschluss darüber geben soll, wie ihr Standort in puncto Freundlichkeit abschneidet.
• 21:09
  Speaker 0: Wie Freundlichkeit genau berechnet wird, bleibt allerdings offen.
• 21:13
  Speaker 0: Neben dieser Freundlichkeitsanalyse erfüllt Patti eine Reihe weiterer Funktionen.
• 21:17
  Speaker 0: Mitarbeiter können per Headset Arbeitsanweisungen zu Rezepturen und Reinigungsprozessen abrufen ohne Handbücher konsultieren zu müssen.
• 21:25
  Speaker 0: Das System informiert Manager zudem automatisch über ausgefallene Geräte oder fehlende Zutaten und aktualisiert digitale Menüs Kiosker & Erbs entsprechend.
• 21:34
  Speaker 0: Erkennt die KI wiederkehrende Muster?
• 21:36
  Speaker 0: kann sie proaktiv Hinweise an verantwortliche Selten.
• 21:42
  Speaker 0: Das war das KI-Update von Heise Online vom zweiten März, zwanzig.
• 21:46
  Speaker 0: Eine neue Folge gibt es immer montags, mittwochs und freitags um fünfzehn Uhr!