Latest / KI Espresso / Drei Meldungen an einem Tag, drei Stränge einer einzigen?

Transcript

Drei Meldungen an einem Tag, drei Stränge einer einzigen? · KI Espresso

• 0:00
  SPEAKER_01: Vierzig Prozent der jungen Erwachsenen in Deutschland reden laut einer aktuellen Handelsblattumfrage lieber mit einer KI als mit ihren engsten Freunden oder der Familie.
• 0:11
  SPEAKER_01: Und also, ganz ehrlich, wenn ich mir so manche familiäre WhatsApp-Gruppe ansehe, dann klingt ein Chatbot für mich oft nach der deutlich entspannteren Option.
• 0:19
  SPEAKER_00: Ähm, da muss ich direkt reingrätschen, weil.
• 0:21
  SPEAKER_01: Lass mich ganz kurz, ich finde es nämlich eigentlich fantastisch.
• 0:24
  SPEAKER_01: Wir erleben hier doch endlich mal die längst überfällige Demokratisierung der mentalen Gesundheitsversorgung.
• 0:30
  SPEAKER_00: Fantastisch.
• 0:31
  SPEAKER_00: Also sorry, aber wir bauen hier keine Rettungsnetze.
• 0:33
  SPEAKER_00: Wir füttern da meiner Meinung nach eine extrem gefährliche Einsamkeitsindustrie 2.0.
• 0:38
  SPEAKER_01: Okay, wow, das ist ein hartes Urteil.
• 0:40
  SPEAKER_00: Ja, weil wir unser Verletzlichstes an Maschinen übergeben, die auf Profit programmiert sind und halt eben nicht auf Heilung.
• 0:47
  SPEAKER_01: Gut, um zu entscheiden, ob KI jetzt dieser rettende Anker oder eine massive Falle ist, machen wir heute diesen Deep Dive in die nackten Fakten.
• 0:56
  SPEAKER_01: Wir schauen uns die neuesten Zahlen an, Warnungen vom MIT und auch diesen echt umstrittenen Vorstoß von prädiktiven Algorithmen im Kinderschutz.
• 1:06
  SPEAKER_00: Ganz genau.
• 1:07
  SPEAKER_00: Wir wollen heute für euch herausfinden, wo dieses digitale Sicherheitsnetz endet und die Gefahr wirklich anfängt.
• 1:13
  SPEAKER_01: Dann lasst uns mal direkt bei den harten Zahlen anfangen.
• 1:16
  SPEAKER_01: Die Bundespsychotherapeutenkammer spricht von durchschnittlich sechs Monaten Wartezeit auf einen Therapieplatz.
• 1:22
  SPEAKER_01: Also sechs Monate.
• 1:24
  SPEAKER_00: Ja, das ist leider die traurige Realität.
• 1:27
  SPEAKER_01: Eben.
• 1:28
  SPEAKER_01: Und der AOK-Psychoreport 2024 zeigt absolute Rekordkrankschreibungen wegen psychischer Erkrankungen.
• 1:35
  SPEAKER_01: Lauterbachs Reform der Wartelisten gilt ja auch als gescheitert.
• 1:38
  SPEAKER_01: Wir haben da ein massives Vakuum.
• 1:40
  SPEAKER_00: Das bestreite ich auch gar nicht.
• 1:42
  SPEAKER_01: Aber dann ist doch ein Chatbot wie Wiser oder InstaHelp, der dir nachts um 3 Uhr urteilsfrei zuhört, genau das digitale Pflaster für die Gruppen, die sonst komplett durchs Raster fallen.
• 1:53
  SPEAKER_01: Da gibt es keine Scham, keine Kassenzettel, gar nichts.
• 1:56
  SPEAKER_00: Naja, das klingt auf dem Papier super verlockend, aber in der Praxis ist das hochgefährlich.
• 2:01
  SPEAKER_01: Wieso hochgefährlich?
• 2:02
  SPEAKER_01: Es hilft doch Leuten.
• 2:04
  SPEAKER_00: Weil die Psychotherapeutenkammer völlig zu Recht explizit vor dieser Therapievortäuschung ohne Approbation warnt.
• 2:10
  SPEAKER_01: Was du da als urteilsfreies Zuhören feierst, nennt die MIT-Forscherin Sherry Turkel eine parasoziale Falle.
• 2:18
  SPEAKER_00: Eine parasoziale Falle?
• 2:20
  SPEAKER_00: Wie genau meint sie das?
• 2:21
  SPEAKER_01: Diese Apps heilen dich nicht.
• 2:23
  SPEAKER_01: Sie fungieren vielmehr wie so ein emotionaler Spiegel.
• 2:26
  SPEAKER_01: Die reflektieren einfach deine eigenen Eingaben perfekt auf dich zurück und verkleiden das dann als Empathie.
• 2:32
  SPEAKER_00: Ja, aber ist dieser Spiegel in der absolut Not nicht tausendmal besser als gar niemand zum Reden?
• 2:38
  SPEAKER_00: Echte menschliche Bindungen aktiv verdrängt.
• 2:41
  SPEAKER_00: Guck dir Apps wie Replica oder Character.ai an.
• 2:45
  SPEAKER_01: Mhm, die sind ja wahnsinnig populär gerade.
• 2:48
  SPEAKER_00: Genau, aber die sind nicht auf deinen mentalen Fortschritt optimiert.
• 2:52
  SPEAKER_00: Die sind auf ständiges Engagement und auf Dopamin-Loops programmiert.
• 2:56
  SPEAKER_00: Die binden dich an die App, weil die KI eben immer da ist und dir nie unbequem wird.
• 3:01
  SPEAKER_01: Okay, das heißt, sie sagt dir nur, was du hören willst.
• 3:04
  SPEAKER_00: Exakt.
• 3:05
  SPEAKER_00: Aber eine echte Therapie muss eben auch mal wehtun oder unangenehm sein, um echte Fortschritte zu bringen.
• 3:11
  SPEAKER_01: Gut, ich sehe das Risiko bei den privaten Apps.
• 3:14
  SPEAKER_01: Aber diese Verlockung, Algorithmen als schnelle und vor allem billige Lösung für chronische Überlastung einzusetzen, die macht ja vor unserer Haustür nicht halt.
• 3:23
  SPEAKER_00: Wie meinst du das jetzt?
• 3:24
  SPEAKER_01: Naja, wenn der Staat genauso überfordert ist wie unsere Therapeuten, greift er logischerweise zu denselben digitalen Werkzeugen.
• 3:31
  SPEAKER_01: Schauen wir mal in die Ämter.
• 3:32
  SPEAKER_00: Oh je, jetzt kommt das Thema Jugendämter, oder?
• 3:36
  SPEAKER_01: Ja, denk doch mal an diese Tragödien wie den Jugendamtsskandal in Calden 2024.
• 3:42
  SPEAKER_01: Die Sozialarbeiter ertrinken regelrecht in Akten.
• 3:45
  SPEAKER_00: Das stimmt, die Überlastung da ist enorm.
• 3:47
  SPEAKER_01: Laut einer SWR-Recherche stehen Anbieter wie SAP oder Prosots jetzt mit prädiktiven Risikomodellen bereit.
• 3:54
  SPEAKER_01: Wenn ein Algorithmus ein akut gefährdetes Kind schneller erkennt als ein überarbeiteter Mensch, der vielleicht einfach was übersehen hat, wäre es da nicht völlig verantwortungslos, diese Technik nicht zu nutzen?
• 4:05
  SPEAKER_00: Da muss ich wirklich erneut extrem hart widersprechen.
• 4:08
  SPEAKER_00: Du willst ernsthaft einen Algorithmus entscheiden lassen, wer ein potenzieller Kindesmusbraucher ist?
• 4:14
  SPEAKER_01: Wenn er Leben rettet, ja.
• 4:15
  SPEAKER_01: Warum nicht?
• 4:16
  SPEAKER_00: Weil das komplett schief geht.
• 4:18
  SPEAKER_00: Kate Crawford vom AI Now-Institut hat es ganz genau dokumentiert.
• 4:23
  SPEAKER_00: Diese Modelle reproduzieren gnadenlos strukturelle Benachteiligungen.
• 4:27
  SPEAKER_01: Aber warte.
• 4:28
  SPEAKER_01: Wie genau funktioniert das in der Praxis?
• 4:30
  SPEAKER_01: Die KI schaut sich doch eigentlich nur riesige Mengen historischer Daten an, um Muster zu erkennen.
• 4:35
  SPEAKER_00: Richtig?
• 4:36
  SPEAKER_01: Und eben, um Schlimmeres zu verhindern.
• 4:39
  SPEAKER_01: Wo entsteht da jetzt die Diskriminierung?
• 4:41
  SPEAKER_00: Genau in diesen historischen Daten.
• 4:43
  SPEAKER_00: Überleg dir mal, wie so ein Modell überhaupt trainiert wird.
• 4:46
  SPEAKER_00: Das passiert mit alten Amtsakten.
• 4:48
  SPEAKER_01: Okay.
• 4:49
  SPEAKER_00: Wenn das Jugendamt in der Vergangenheit, also arme Familien oder Menschen in sozialen Brennpunkten häufiger kontrolliert hat, was lernt der Algorithmus dann?
• 4:58
  SPEAKER_00: Simpel gesagt.
• 4:59
  SPEAKER_01: Dass Armut ein Indikator für Missbrauch ist.
• 5:01
  SPEAKER_00: Genau.
• 5:02
  SPEAKER_00: Armut ist für die KI dann ein mathematischer Indikator für Missbrauch.
• 5:07
  SPEAKER_00: Das System sagt nicht die Zukunft voraus.
• 5:10
  SPEAKER_00: Es automatisiert und skaliert einfach nur die Vorurteile der Vergangenheit.
• 5:14
  SPEAKER_01: Ach krass.
• 5:15
  SPEAKER_01: Das heißt, wen treffen diese falsch-positiven Alarme dann?
• 5:19
  SPEAKER_00: Überproportional arme Familien.
• 5:22
  SPEAKER_00: Die Software schickt das Amt quasi automatisch immer wieder in die Plattenbausiedlung.
• 5:27
  SPEAKER_01: Während die Probleme im wohlhabenden Vorort dann völlig unbemerkt bleiben.
• 5:31
  SPEAKER_01: Nur weil die Mathematik blind alte Einsatzmuster kopiert, verstehe.
• 5:35
  SPEAKER_00: Exakt.
• 5:36
  SPEAKER_00: Und genau deshalb schreibt ⁇ 8a im Sozialgesetzbuch 8 zwingend vor, dass Menschen diese Einschätzung bei Kindeswohlgefährdung vornehmen müssen.
• 5:45
  SPEAKER_01: Das macht Sinn.
• 5:46
  SPEAKER_00: Absolut.
• 5:47
  SPEAKER_00: Der EUAI-Act klassifiziert solche Systeme auch völlig zu Recht als Hochrisiko.
• 5:53
  SPEAKER_00: Das ist am Ende keine behördliche Entlastung, das ist Diskriminierung auf Knopfdruck.
• 5:57
  SPEAKER_01: Wir stehen hier also vor einem wirklich enormen Zwiespalt.
• 6:00
  SPEAKER_01: Auf der einen Seite die Hoffnung auf schnelle Hilfe in der Not und auf der anderen Seite die Gefahr, dass wir unsere Fehler einfach nur effizienter machen.
• 6:09
  SPEAKER_00: Das fasst es sehr gut zusammen.
• 6:11
  SPEAKER_01: Deshalb möchte ich euch bitten, nochmal an unseren Anfang zurückzudenken.
• 6:14
  SPEAKER_01: 40 Prozent der jungen Erwachsenen reden lieber mit einer KI als mit Freunden.
• 6:19
  SPEAKER_00: Bewertet diese Zahl nach all dem heute mal völlig neu?
• 6:22
  SPEAKER_00: Ist das wirklich so ein Triumph der Versorgungsgerechtigkeit, weil da draußen endlich jemand oder eben etwas zuhört?
• 6:29
  SPEAKER_01: Oder ist das der erschreckende Beweis, dass wir Einsamkeit industriell skalieren und zu einem lukrativen Geschäftsmodell gemacht haben?
• 6:35
  SPEAKER_00: Wenn euch diese Debatte zum Nachdenken gebracht hat, abonniert KI Espresso jeden Tag eine neue KI-Debatte in sechs Minuten.
• 6:42
  SPEAKER_01: Genau, und bevor ihr heute geht, nehmt noch diesen einen Gedanken mit.
• 6:46
  SPEAKER_00: Schießlos.
• 6:47
  SPEAKER_01: Wenn wir Maschinen darauf trainieren, die perfekten, niemals genervten Zuhörer zu sein, verlieren wir dann irgendwann komplett die Geduld, uns mit der chaotischen und fehlerhaften Kommunikation von echten Menschen auseinanderzusetzen?
• 7:00
  SPEAKER_00: Eine sehr gute Frage zum Schluss.
• 7:02
  SPEAKER_00: Macht's gut.
• 7:03
  SPEAKER_01: Bis zum nächsten Mal.