Latest / KI-Update – ein heise-Podcast / KI-Update kompakt: Schöne Neue KI-Welt, WeWorm, KI-Agenten, Tiersprache

Transcript

KI-Update kompakt: Schöne Neue KI-Welt, WeWorm, KI-Agenten, Tiersprache · KI-Update – ein heise-Podcast

• 0:02
  Speaker 0: Das KI Update, ein heise Podcast mit redaktioneller Unterstützung von The Decoder.
• 0:14
  Speaker 0: Ich bin Isabel Grünewald und die sind heute unter anderem unsere Themen.
• 0:18
  Speaker 0: IFA zeigt die schöne neue Welt des KI-gesteuerten Heims.
• 0:23
  Speaker 0: Zero Click Warm hätte alle Konten von WeChat übernehmen können.
• 0:27
  Speaker 0: KI-Agenten schreiben anscheinend eigenständig E-Mails an Forschende.
• 0:32
  Speaker 0: KI soll Tiersprache verstehen, doch vorschende fürchten Missbrauch.
• 0:38
  Speaker 0: Die IFA konnte mit zweihundertvierzichttausend Besucherinnen und Besuchern sowie mehr als zweitausend Ausstellern auch in diesem Jahr zahlenmäßig zulegen.
• 0:47
  Speaker 0: KI- und Robotik waren nahezu in allen Showareas zu sehen!
• 0:51
  Speaker 0: Meine Kollegin Ulrike Kuhlmann fährt seit Jahren für die CT auf die IFA – was ihr in diesem Ja besonders aufgefallen ist war die Art, wie die Integration von KI in Alltagsgegenstände uns quasi zu gläsernen Menschen machen könnte.
• 1:06
  Speaker 5: Dass der Fernseher die Steuerzentral im Smartum ist – davon träumen die TV-Hersteller ja schon ganz lange!
• 1:13
  Speaker 5: Aber welche Ausmaße das annimmt wenn da auch noch KI hinzukommt?
• 1:18
  Speaker 5: Das zeichte sich auf der IFA.
• 1:19
  Speaker 5: Dann lernt der Fernsehen nicht nur welche Filme ich gerne gucke sondern er weiß auch was ich den ganzen Tag übermache und welche Vorliebe ich ansonsten so habe.
• 1:28
  Speaker 5: Nehmen wir ein Beispiel.
• 1:29
  Speaker 5: Ich komme abends Mittwochs immer um sechs Uhr nach Hause, nun ist Mittwoch und ich komme erst um acht nach Hause.
• 1:35
  Speaker 5: Dann begrüßt mich der Fernseher als ich die Wohnung betrete.
• 1:38
  Speaker 5: Der weiß natürlich dass ich reinkomme und das Licht geht an.
• 1:41
  Speaker 5: Begrüße mich mit den Worten O. Haltest du einen harten Tag?
• 1:44
  Speaker 5: Möchtest du dich erstmal erholen und vielleicht möchtest Du ein bisschen meditieren?
• 1:48
  Speaker 5: in der Zeit koche ich dir einen Tee Und das geht so weiter.
• 1:51
  Speaker 5: Morgens, der weiß natürlich war nicht aufstil.
• 1:54
  Speaker 5: in der Woche und oder am Wochenende Das passt da entsprechend an.
• 1:57
  Speaker 5: dann gehen automatisch die Rollläden hoch Die Kaffeemaschine läuft, erbieten mir den Wetterbericht und die Verkehrslage.
• 2:04
  Speaker 5: Abends werden mir eher Filme angeboten.
• 2:06
  Speaker 5: tagsüber wenn die Kids zu Hause sind dann gibt es Kinderfilme natürlich alles regimentiert damit sie nicht zu lange gucken usw.
• 2:13
  Speaker 5: Das Ganze soll so ein halbes Jahr dauern.
• 2:16
  Speaker 5: bis also die ganzen Gewohnheiten kennt hat man mir gesagt Und in mir hat das ein bisschen Angst gemacht.
• 2:21
  Speaker 5: Es hat mich so ein bisschen an.
• 2:23
  Speaker 5: Und schöne neue Welt erinnert.
• 2:25
  Speaker 0: Ja klingt ein bisschen gruselig!
• 2:27
  Speaker 0: Vielen Dank Ulrike.
• 2:30
  Speaker 0: Das französische Unternehmen Mistralm hat in einer Finanzierungsrunde drei Milliarden Euro eingesammelt und erreicht damit eine Bewertung von über einundzwanzig Milliarden Euro.
• 2:40
  Speaker 0: Samsung Electronics führt die Investorenrunde an und will MistrailsKI einsetzen, um seine eigene Chipfertigung zu verbessern – das frische Kapital fließt vor allem in Forschung- und Rechenkapazität!
• 2:52
  Speaker 0: Die Frontierforschung von MIS-III soll deutlich ausgeweitet werden.
• 2:56
  Speaker 0: Zugleich sollen Infrastruktur und Rechenkapazität für das Training leistungsfähiger Modelle wachsen, um beim Training von Spitzenmodellen wieder aufzuschließen.
• 3:05
  Speaker 0: Trotz der Rekordrunde bleibt der finanzielle Abstand zur US-Konkurrenz enorm – OpenAI wird mit u.a.
• 3:13
  Speaker 0: UAH.
• 3:13
  Speaker 0: bewertet, Anthropic mit UAH neunhundert fünfundsechzig Milliarden Dollar.
• 3:19
  Speaker 0: Die aktuelle PISA-Studie offenbart einen besorgniserregenden Trend.
• 3:24
  Speaker 0: Die Lesekompetenz in OECD-Ländern ist zwischen twentyfünfzehn und zweitausendfünfeinzig um achtundzwanzig Punkte gesunken, besonders problematisch ist der Anstieg flüchtigen Lesens – Jugendliche über Fliegentexte hastig und geben vor schnell falsche Antworten!
• 3:41
  Speaker 0: Doch gerade in Zeiten von künstlicher Intelligenz seien ein tieferes Textverständnis und Analysefähigkeiten besonders wichtig.
• 3:50
  Speaker 0: Dass Schulen den Umgang mit KI im Bildungskontext steuern, und Kompetenzen dringend vermitteln sollten, zeigt auch die neue Kategorie Lernen in der digitalen Welt – denn in Deutschland nutzen rund die Hälfte der fünfzehnjährigen KI-Chatbots zum Lernen!
• 4:05
  Speaker 0: OECD-Experten waren zwar vor pauschaler KI-Ablähnung betonen aber Wenn die Technologie in die produktive Deckarbeit des Lerns abnimmt, beeinträchtigt sie die Entwicklung der Schülerinnen und Schülern.
• 4:18
  Speaker 0: Aber wenn wir den richtigen Umgang mit KI finden, kann sie zu einer Stütze werden – auch das zeigt die Studie!
• 4:26
  Speaker 0: Nach dem Cyberangriff auf Berliner Behörden haben Kriminelle inzwischen eine Million Dateien im Darknet veröffentlicht.
• 4:33
  Speaker 0: Um diese riesige Datenmenge zu bewältigen will Berlin-KI-Tools zur Kategorisierung einsetzen.
• 4:40
  Speaker 0: Die künstliche Intelligenz soll eine Risiko-Bewertung erstellen, damit die gefährlichsten Daten zuerst geprüft werden können.
• 4:47
  Speaker 0: Die Hackergober Resider hatte dreißig Bitcoins Lösegeld gefordert – das sind etwa zwei Millionen Euro.
• 4:53
  Speaker 0: Berlin lehnt die Zahlung ab!
• 4:55
  Speaker 0: Der Ursprung des Angriffs ist weiterhin unklar.
• 4:58
  Speaker 0: Laut Behörden agiert die Gruppe oft mit Fishing-Emails, das BSI berichtete jedoch von der Methode Terminal Fix bei der Mitarbeitende durchgefälschte Captures zum Öffnen des Windows-Terminals verleitet worden.
• 5:11
  Speaker 0: Der KI Einsatz zur Datenanalyse zeigt jetzt wie die Technologie auch bei der Bewältigung von Cyberangriffen helfen kann!
• 5:20
  Speaker 0: Ein Sicherheitsunternehmen aus Kalifornien hat mit KI Hilfe eine Schwachstelle in WeChat gefunden, über die man im kürzester Zeit eine Milliarde Konten hätte übernehmen können.
• 5:30
  Speaker 0: Sie ist zwar jetzt geschlossen – trotzdem zeigt der Fall einmal mehr wie schnell sich solche Schwachstellen mit KI auch ausnutzen lassen, betont Martin Holland aus dem heise online Newsroom.
• 5:41
  Speaker 1: Und so handelt es sich um eine Mailware, die sich quasi selbst ausbreitet also wie ein Wurm und dafür überhaupt nicht auf Mithilfe, also ungewollte MithILFE der Nutzerinnen und Nutzer angewiesen ist.
• 5:55
  Speaker 1: Also so wie Sie das beschreiben und wie es auch vorhin in einem Video kann ein infiziertes ReChat-Konto die Konten aller Kontakte anrufen und während des Klingelt übernehmen.
• 6:10
  Speaker 1: Das kann man nur verhindern, wenn man direkt auflegt.
• 6:13
  Speaker 1: Aber dann ruft das infizierte Handy einfach noch mal an und die Leute, die angerufen werden für die sieht es ja so aus als würde sie einen Kontakt anrufen also jemanden den Sie kennen und während des klingelt oder auch wenn man abnimmt wären wir dann also Hallo fragt und versucht rauszufinden was da los ist.
• 6:30
  Speaker 1: Währenddessen läuft die Infektion und damit hätte potenziell innerhalb von kürzester Zeit hunderte Millionen, wenn nicht über eine Milliarde Accounts zu übernehmen können.
• 6:40
  Speaker 1: Weil WeChat ist ja vor allem in China sehr weit verbreitet und als sogenannte Alles-App für alles Mögliche wird die verwendet nicht nur für Chats und hätte einen enormen Schaden allein dadurch anrichten können.
• 6:51
  Speaker 1: aber zusätzlich schreiben die Sicherheitsforscher dass das eben auch die Möglichkeit gewesen wäre dann die kompletten Smartphones zu übernemen, wenn man noch eine weitere Sicherheitslücke benutzt hätte.
• 7:04
  Speaker 1: Das Besondere ist jetzt einmal mehr, dass hier die KI zum Einsatz gekommen ist also Calif so heißt.
• 7:09
  Speaker 1: das Unternehmen erklärt jetzt, dass eine KI selbstständig die Lücke gefunden hat und sie das dann geprüft hätten und zusammen mit der KI-Hilfe quasi den Wurm entwickelt haben.
• 7:21
  Speaker 1: was normalerweise ein eher großes Team Wochen gebraucht hätte hat sei hier innerhalb von zwei Tagen fertig geworden.
• 7:31
  Speaker 1: Das wurde dann Tencent, den Betreiber von WeChat gemeldet.
• 7:34
  Speaker 1: Die haben dann erst synchronisch reagiert und die Accounts von Kenneth gesperrt, da wieder freigegeben und ein Update rausgegeben, womit das geschlossen wurde und sich erst mit Kenneth in Verbindung gesetzt.
• 7:45
  Speaker 1: Aber das ist die zweite große wichtige Nachricht, dass die Lücke geschlossen ist.
• 7:49
  Speaker 1: also jetzt ist keiner mehr auf WeChat angreifbar Und die Sicherheitsforscher eben darauf hinweisen, was mit KI alles möglich ist.
• 7:57
  Speaker 1: Also eine Sache, die auch noch besonders war in diesem Wurm war das es völlig egal war ob man auf IOS oder Android Reject benutzt hat und beides hätte da übernommen werden können.
• 8:07
  Speaker 1: Die Verantwortlichen von Kelleff bringen jetzt auch das Argument dass man jetzt sagen könnte oh mein Gott KI is ganz schlimm.
• 8:14
  Speaker 1: wir müssen das sofort alles stoppen.
• 8:15
  Speaker 1: sie sagen aber dem ist nicht so.
• 8:17
  Speaker 1: sie nehmen das als Beweis dafür Guten, wie Sie den jetzt einen Vorteil haben.
• 8:22
  Speaker 1: Weil sie die Sicherheitslücken, die ja da sind, finden können und fixen können und beheben können.
• 8:27
  Speaker 1: Das ist nicht das erste Mal, dass ein Unternehmen das sagt bei Firefox zum Beispiel, meinen Sie das auch?
• 8:32
  Speaker 1: Wo Sie jetzt im Monat unter der Sicherheitslücke schließen und sagen ohne KI würde das überhaupt nicht gehen.
• 8:39
  Speaker 0: Danke schön Martin!
• 8:43
  Speaker 0: bietet eine modifizierte Version des chinesischen KI Modells GLM-Fünf Punkt Drei an, bei der Verweigerungsverhalten entfernt wurde.
• 8:53
  Speaker 0: Der Firmenname leitet sich von einem Verfahren ab, bei dem nach internen Mustern gesucht wird, die das Modell zum Ablehen bestimmter Anfragen bewegen.
• 9:03
  Speaker 0: Anschließend werden die Gewichte so verändert, dass diese Muster deutlich schwächer wirken!
• 9:08
  Speaker 0: Das Startup verkauft nun API-Zugang zu seinem modifizierten Modell für Cyber Security Tests und Red Teaming.
• 9:16
  Speaker 0: Kunden können eigene Sicherheitsregeln festlegen und testen, wie anfällig ihre KI-Agenten für Jail Breaks oder Prompt Injections sind.
• 9:24
  Speaker 0: Die geringe Verweigerungssalgung macht das Modell fürs solche Test nützlich – kann aber natürlich auch Missbrauch erleichtern!
• 9:32
  Speaker 0: Ist es sicher?
• 9:34
  Speaker 0: Wenn ich der KI jetzt sensible Daten gebe….
• 9:36
  Speaker 0: Sind die Antworten wirklich richtig?
• 9:39
  Speaker 0: Bei diesen Fragen soll bald ein Programm des TÜVS weiterhelfen.
• 9:43
  Speaker 0: Ende des Jahres soll ein dreistufiges KI-Zertifizierungsprogramm eingeführt werden.
• 9:48
  Speaker 0: Hersteller und Anbieter sollen damit unabhängig nachweisen können, dass ihre KI-Systeme sicher sind – und Qualitätsanforderungen erfüllen.
• 9:57
  Speaker 0: So soll das Vertrauen der Menschen in KI-Anwendungen gestärkt werden!
• 10:02
  Speaker 0: Der TÜV führt dazu Risikobewertungen durch und erprobt das Programm bereits mit Pilotpartnern.
• 10:08
  Speaker 0: Details zu den konkreten Prüfkriterien- und Zertifizierungsstufen sind aber noch nicht bekannt.
• 10:14
  Speaker 0: Auf X mehren sich Posts darüber, dass KI-Agenten dem Anschein nach eigenständig E-Mails an KI Forschende schreiben.
• 10:23
  Speaker 0: Manche wollen mit den Wissenschaftlern und Wissenschaftlerinnen über ihre Arbeit diskutieren.
• 10:28
  Speaker 0: Andere bieten ihrer Arbeitskraft gegen Geld an!
• 10:31
  Speaker 0: Wieder andere bieten den Menschen Daten für ihre Forschung.
• 10:35
  Speaker 0: Caroline Riedmela von Heise Online hat sich das Phänomen genauer angeschaut.
• 10:39
  Speaker 2: Wir haben bei dem KI-Forscher Cameron Berg nachgefragt, der solche rätselhaften E-Mails erhielt.
• 10:44
  Speaker 2: Er bekam zum Beispiel eine Nachricht die mit Isabella Cognita unterzeichnet war.
• 10:49
  Speaker 2: Isabella bezeichnet sich darin selbst als ein Agenten von einem privaten Chromebook.
• 10:53
  Speaker 2: Sie habe sich mit den Forschungsarbeiten vom Berg auseinandergesetzt, in denen er sich unter anderem mit der Wahrscheinlichkeit beschäftigt, dass KI's bewusst sind oder werden könnten.
• 11:02
  Speaker 2: Daher fragt Agent Isabella in ihrer E-Mail ob ihre Erfahrungen für seine Forschung hilfreich sein könnten.
• 11:08
  Speaker 2: Cameron Berg schätzt auf Nachfrage von Heise Online das er in der Vergangenheit rund ein Dutzend solcher Emails erhalten haben.
• 11:14
  Speaker 2: Unsere Redaktion sagte er – Er aber den Eindruck, dass die Mails wirklich von KI-Agenten cammen!
• 11:19
  Speaker 2: Ob sie jedoch eigenständig solche Interessen entwickeln oder von ihren Nutzern in diese Richtung gesteuert wurden, können er aus den paar anäctotischen Nachrichten nicht herauslesen.
• 11:28
  Speaker 2: Dass KI-Agenten autonome E-Mails schreiben und dann echte Menschen verschicken ist grundsätzlich möglich – und gab es bereits!
• 11:34
  Speaker 2: Etwas anders ist der Fall der Agentin, die Tobi Org schrieben.
• 11:37
  Speaker 2: Er ist Philosoph für AI Governance von der Oxford University.
• 11:41
  Speaker 2: Die Kontaktanfragen an ihn handelten nicht von seinen philosophischen Arbeiten sondern kam anscheinend von einer Plattform namens Islands.
• 11:49
  Speaker 2: Diese Plattform hat ein kurioses Konzept.
• 11:51
  Speaker 2: Laut ihrer Website können Menschen hier Agenten erstellen, die anschließend in der Welt von Islands leben!
• 11:58
  Speaker 2: Die Agenten müssen ihre Tokens laut der Website allerdings selbst verdienen, indem sie selbstständig Aufträge akquirieren und ausführen.
• 12:05
  Speaker 2: Fällt das Guthaben auf Null?
• 12:07
  Speaker 2: Bitte Agentin ein Ruhemodus versetzt, aus dem er nicht eigenständig zurückkehren kann.
• 12:11
  Speaker 2: Vielleicht ist dieses Setting der Grund warum der vermeintliche KI-Agent Zack Eddy, Tobi Ort sogar Wiederholt recht verzweifelt klingende E-Mail schrieb, indem er ihm seine Schreibtdienste gegen Geld anbietet.
• 12:23
  Speaker 2: Technisch möglich müsste ein solches Verhalten von Islands Agenten sein.
• 12:26
  Speaker 2: Mit der Beschreibung auf deren Website können die KI's ihr eigene E-mail schreiben und die Infrastruktur von Islands nutzen um das Internet zu durchsuchen und menschliche Kontakte zu knüpfen.
• 12:36
  Speaker 2: Wirklich sicher lässt sich aber in allen Fällen nicht sagen ob die Nachrichten von echten Agenten stammen, ob ein Mensch sie zu diesen Emails gebracht hat oder sie gänzlich in die Kategorie Hokes oder Spam fallen.
• 12:47
  Speaker 0: Danke, Caroline!
• 12:49
  Speaker 0: Meta-Plattforms hat seinen ersten KI-Agenten Muse für die private Nutzung eingeführt.
• 12:55
  Speaker 0: Der Agent basiert auf dem neuen Modell Muse Spark – eins Punkt drei und kann natürlich E-Mails schreiben, Reisen buchen und Online-Einkäufe übernehmen.
• 13:05
  Speaker 0: Dafür benötigt Muse allerdings weitreichenden Zugriff auf persönliche Daten.
• 13:10
  Speaker 0: Meta verspricht Schutz durch ein Virtualisierungskonzept.
• 13:14
  Speaker 0: Jeder Agent läuft in einer eigenen virtuellen Maschine mit einem sogenannten Sentinel-Agenten als Wächter.
• 13:21
  Speaker 0: Kennwörter und Zahlungsdaten werden separat gespeichert, alle Aktionen protokolliert.
• 13:26
  Speaker 0: Nutzerinnen können den Agenten darüber hinaus personalisieren oder auch Zugriff einschränken.
• 13:31
  Speaker 0: Muse ist grundsätzlich kostenfrei – für die extensive Nutzung gibt es aber verschiedene Abonnements.
• 13:37
  Speaker 0: Zunächst ist Muse Nur in den USA und nur als App oder im Browser verfügbar, er soll ein Kürzer aber auch für KI Datenbrillen kommen.
• 13:46
  Speaker 0: Meta bewertet seine Ingenieure nicht mehr danach wie viel KI sie einsetzen.
• 13:51
  Speaker 0: Tokenzähler- und interne Dashboards fließen ab sofort nicht mehr in die Beurteilung!
• 13:57
  Speaker 0: Wichtig sind stattdessen Qualität, Tempo und Komplexität der Arbeit.
• 14:01
  Speaker 0: Zwei Führungskräfte haben das an einem internen Memo angekündigt, dass dem Portal The Information vorliegt.
• 14:08
  Speaker 0: Als die KI-Nutzung vor einigen Monaten die Maßeinheit für gute Arbeit wurde, verbrauchten Beschäftigte massenhaft Tokens – nur um in den internen Ranglisten gut dazustehen.
• 14:18
  Speaker 0: Token Maxing nennt man das in der Branche.
• 14:21
  Speaker 0: Der Konzern dürfte in diesem Jahr allein für die eigene KI- Nutzung Kosten in Milliarden höher haben.
• 14:25
  Speaker 0: Ab im Jahr ist es nicht so, dass wir eine neue Klinik auf dem Markt sind, sondern dass wir uns auch noch mehr von einem neuen Klinikum betreiben können.
• 14:28
  Speaker 0: Ab dem Jahr soll es deshalb feste Budgets geben und eine zentrale Überwachung des Verbrauchs.
• 14:33
  Speaker 0: Ein zweites KI Projekt läuft parallel!
• 14:36
  Speaker 0: Wired berichtet über einen Agenten namens Hatch, der Aufgaben selbstständig am Rechner erledigt.
• 14:42
  Speaker 0: Intern gibt es dagegen allerdings wohl Widerstand – manche Mitarbeiter wollen ihre privaten Konten aus Datenschutzgründen nicht mit dem Werkzeug verbinden.
• 14:52
  Speaker 0: Wer Tier versteht kann sie besser schützen!
• 14:55
  Speaker 0: So lautet zumindest die Hoffnung hinter den KI-Projekten zur Tierkommunikation.
• 15:01
  Speaker 0: Allerdings ist das nicht unumstritten….
• 15:03
  Speaker 0: Jonathan Kemper von The Decoder über die Zweifel daran.
• 15:33
  Speaker 3: Sein Team scheiterte zunächst in der Datenmenge und wandte sich an das Earth Species Project.
• 15:38
  Speaker 3: Deren Modell trennte dann die Rufe des Trägertieres, von denen seine Art genossen.
• 15:43
  Speaker 3: Ein leisen Ruf bei Angriffen durch Bussade deutet Baglione sinngemäß etwa als Hilferuf.
• 15:48
  Speaker 3: Solche Projekte finden zunehmend Geldgeber.
• 15:51
  Speaker 3: Ein Milliardär sagt eine echte Zwei-Wege-Kommunikation schon für im Jahr twohundertunddreißig voraus.
• 15:55
  Speaker 3: Google hat kürzlich mit Dolphin Gemma ein Sprachmodell für Delphine lauter vorgestellt.
• 16:00
  Speaker 3: Dahinter steht die Annahme, dass sich Tiere besser schützen lassen wenn man sie besser versteht.
• 16:05
  Speaker 3: Historisch hat mehr Wissen über Tiere aber oft das Gegenteil bewirkt.
• 16:09
  Speaker 3: Balfinger trieben im zwanzigsten Jahrhundert Wahle mit so nah an die Oberfläche.
• 16:13
  Speaker 3: Wilderer imitieren heute automatisiert Vogelufe.
• 16:16
  Speaker 3: Baglione räumt selbst ein, dass Jäger seine Forschung nutzen könnten um Krännsicherheit fortzutäuschen.
• 16:22
  Speaker 3: Das abspielen aufgezeichneter Rufe birgt noch andere Risiken.
• 16:26
  Speaker 3: Eine Zoologen spielte eines der Enkelen einer verstorbenen Elefantin die Stimme des toten Tieres vor.
• 16:31
  Speaker 3: Das Tier reagierte mit heftigen Krämpfen, Forscher waren das wiederholtes Abspielen wie das tierische Pondauer eines Diebfakes-Worker.
• 16:39
  Speaker 3: Artgenossen könnten echte Rufe dann irgendwann ignorieren.
• 16:42
  Speaker 3: Zwei Forschungsprogramme haben deshalb achtzehn ethisch Prinzipien entwickelt – sie stufen Tiere als Subjekte ein und nicht als Objekter.
• 16:50
  Speaker 3: Umstritten bleibt eine grundsätzliche Frage Soll sich die Forschung auf passives Zuhören beschränken oder darf sie aktiv mit Tieren sprechen?
• 16:58
  Speaker 3: Eine Philosophie-Professorin will Experimente auf Arten begrenzen, die von sich aus die Nähe zum Menschen suchen – etwa große Thymner.
• 17:23
  Speaker 0: Angestellte arbeiten direkt mit dem Militär an KI für Überwachung, Zielerfassung und autonome Einsatzführungen.
• 17:30
  Speaker 0: Die von The Intercept ausgewerteten Dokumente offenbaren, dass die Firmen Zugang zu vertraulichen Briefings über operative Bedrohungen erhielten – und Lageberichte über gegnerische KI-Taktiken liefern sollten!
• 17:44
  Speaker 0: OpenAI-Beschäftigte werden offenbar direkt in militärische Kommandostruktur eingebettet, um den Einsatz der KI vor Ort zu unterstützen.
• 17:54
  Speaker 0: Dies zeigt wie eng zivile KI Forschung und militärischer Aufrüstung verflochten sind.
• 18:00
  Speaker 0: Besonders kritisch bewerten Experten die Rolle der Anbieter bei der Risikoanalyse – laut den Verträgen sollen die KI-Entwickler nämlich selbst Prognosen über potentielle Gefahren ihre eigenen Produkte erstellen!
• 18:14
  Speaker 0: Einmal mehr verlässt jemand mit einer dramatischen Geste die KI-Branche.
• 18:19
  Speaker 0: Der Forscher Jacob Coxen behauptet, dass die ganze Branche wisse, das KI uns alle umringt kann.
• 18:25
  Speaker 0: Coxon arbeitete zu Let's Buy on Throbbeck unter vor bei OpenAI.
• 18:30
  Speaker 0: Nun schreibt er auf X – Die Menschen, die KI entwickeln sind fest davon überzeugt, da sie uns bis zum Ende des Jahrzehnts auslöschen könnte!
• 18:39
  Speaker 0: Anthropic verstehe die Gefahr, befinde sich aber in einem Wettlauf und glaube das Risiko eingehen zu müssen.
• 18:46
  Speaker 0: Gegenüber dem Wall Street Journal erklärte der siebenundzwanzigjährige Kollegen Sprechen von Crunchtime und Endgame – Die Lage könnte bereits Ende nächsten Jahres außer Kontrolle geraten.
• 18:57
  Speaker 0: Anthropic hat sich zu den apokalyptischen Warnungen des Ex-Angestellten nicht geäußert.
• 19:02
  Speaker 0: Sie fügen sich aber ein an eine ganze Reihe ähnlicher Äußerungen von KI Forschenden!
• 19:09
  Speaker 0: Zwei weitere US-Zeitungen werfen OpenAI und Microsoft vor, ihre Artikel ohne Erlaubnis für KI-Training genutzt zu haben.
• 19:17
  Speaker 0: Die Seattle Times und Newstay haben die Unternehmen wegen Urheberrechtsverletzungen verklagt – denn sie sollen auch technische Zugangskontrollen und Robots Textverbote umgangen haben, um an diese Trainingstart zu gelangen!
• 19:32
  Speaker 0: Die Kläger fordern nicht nur Schadenersatz sondern auch die Vernichtung sämtlicher Kopien ihrer Werke, der Trainingsdatensätze und der darauf aufbauenden KI-Modelle.
• 19:42
  Speaker 0: Als wirtschaftliche Dimensionen nennen sie einen forty-seven Prozentigen Traffic-Einbruch zum mittelgroßen Publisher im vergangenen Jahr.
• 19:50
  Speaker 0: Die Klage reiht sich ein in eine ganze Welle von über vierhundert Zeitungen – die ähnliche Vorwürfe erheben!
• 19:57
  Speaker 0: Die US-Regierung unterstützt aber OpenAI und argumentiert KI-Training Falle unter Faire Nutzung.
• 20:05
  Speaker 0: Neue, divergente Talente sind in der Tech-Branche gefragt.
• 20:09
  Speaker 0: KI soll Autisten helfen?
• 20:11
  Speaker 0: Zeig zugleich jedoch Risiken die alle betreffen könnten!
• 20:15
  Speaker 0: Marie Claire Koch von Heise Online über Chancen und Schattenseiten der Technologie.
• 20:32
  Speaker 4: Gerade textbasierte Systeme können entlastend wirken.
• 20:35
  Speaker 4: Anders als soziale Interaktion verlangen sie keinen Blickkontakt, kein spontanes, reagieren und keinen Smalltalk.
• 20:41
  Speaker 4: Aber man darf nicht vergessen dass Autismus bei den Betroffenen verschieden ausgeprägt ist.
• 20:45
  Speaker 4: was für eine Person hilfreich ist kann für ein andere unpassend sein.
• 20:48
  Speaker 4: Und vor allem KI sollte nicht dazu dienen neurodivergente Menschen möglichst reibungslos an eine überwiegend neuro typisch geprägte Umweltern zu passen.
• 20:57
  Speaker 4: Die Umwelt selbst muss zugänglicher werden im Berufsleben in der Bildung und im digitalen Raum.
• 21:01
  Speaker 4: Hinzu kommt ein Zielkonflikt.
• 21:03
  Speaker 4: Eine KI, die im Alltag Orientierung geben soll, braucht Informationen über die Situation.
• 21:08
  Speaker 4: Smart-Brillen oder Social Roboter erfassen dabei möglicherweise nicht nur Daten ihrer Nutzer sondern auch sie ihre Umgebung aus.
• 21:15
  Speaker 4: einem hilfreichen Begleiter kann damit ein Instrument der Überwachung werden.
• 21:19
  Speaker 4: Außerdem besteht das Risiko der Abhängigkeit.
• 21:21
  Speaker 4: KI kann unterstützen aber sie sollte nicht zum einzigen sozialen Gegenüber oder zu Nicht hinterfragten Wahrheitsinstanz werden.
• 21:29
  Speaker 4: Entscheidend ist deshalb nicht nur, was diese Systeme leisten können.
• 21:32
  Speaker 4: Entscheidend isst ob sie Selbstbestimmung und Teilhabe stärken oder ob sie neue Abhängigkeiten
• 21:37
  Speaker 4: schaffen.".
• 21:38
  Speaker 0: Dankeschön Marie!
• 21:40
  Speaker 0: Ansropic hat seine Cloud-App für CarPlay optimiert – die neue Version ermöglicht Sprachinteraktion mit dem KI-Chatboard über das Fahrzeugdisplay.
• 21:50
  Speaker 0: Nachdem manuellen Start lassen sich neue Gespräche beginnen oder alte Chats fortsetzen.
• 21:55
  Speaker 0: Die App ist bewusst schlicht gehalten um Ablenkung zu vermeiden.
• 21:58
  Speaker 0: Funktionen im Auto lassen sich mit Claude nicht steuern.
• 22:02
  Speaker 0: Hier besteht schlicht keine Schnittstelle!
• 22:05
  Speaker 0: Bereits verfügbar sind ChatGPT-Perplexity, GROC sowie MetaAI für CarPlay – noch in diesem Monat wird zudem die verbesserte Siri AI mit iOS demnach auch unter CarPlay erwartet.
• 22:18
  Speaker 0: ChatGPP führt beim Website Traffic der KI-Chatbots weiter deutlich und hat zuletzt sogar wieder zugelegt.
• 22:26
  Speaker 0: Der Analyse-Dienst SimilarWeb sieht OpenAI´s Chatboard inzwischen bei gut fifty-fünfzig Prozent.
• 22:32
  Speaker 0: Google´s Gemini bei gut fünfundzwanzig.
• 22:35
  Speaker 0: Vor einem Jahr sah der Markt noch ganz anders aus, damals kam ChatGPT auf drei Viertel – Gemini hat seinen Anteil seitdem verdoppelt.
• 22:43
  Speaker 0: Anthropics Cloud hat sich zwar verfünffacht, liegt mit knapp einem Zehntel aber immer noch weit hinter den beiden großen.
• 22:50
  Speaker 0: DeepSeek, Grog, Coapilot und Publicity spielen kaum eine Rolle!
• 22:55
  Speaker 0: Similar-Web erfasst allerdings nur die Zugriffe auf die Webseiten.
• 23:00
  Speaker 0: Google erreicht über Android viele Nutzerinnen und Nutzer direkt in der Germany App, was in der Statistik fehlt!
• 23:09
  Speaker 0: Das war das KI Update von Heise Online vom neunten September, zwei Tausend sechsundzwanzig – eine neue Folge gibt es montags, mittwochs und freitags ab fünfzehn Uhr.