Latest / KI Espresso / 40% lassen KI mitentscheiden - wer setzt die Regeln?

Transcript

40% lassen KI mitentscheiden - wer setzt die Regeln? · KI Espresso

• 0:00
  Das Internet hat uns unendlich viele Optionen gegeben.
• 0:02
  KI verspricht jetzt, diese Optionen wieder für uns zu verengen.
• 0:06
  Und das klingt zuerst wie Erleichterung.
• 0:08
  Nicht noch ein Suchergebnis.
• 0:10
  Nicht noch 10 Tests.
• 0:11
  Nicht noch 50 Bewertungen.
• 0:13
  Sondern, sag mir, was ich wählen soll.
• 0:16
  Oder wenigstens, welche drei Optionen sinnvoll sind.
• 0:19
  Genau deshalb ist diese Folge keine einfache Warnung vor KI.
• 0:22
  Vielleicht ist KI tatsächlich eine Medizin gegen die digitale Wahlkrise.
• 0:26
  Wir haben zu viele Produkte, Tarife, Studien, Jobs, Tools, Nachrichten, Meinungen und Optimierungsratsschläge.
• 0:33
  Irgendwann ist Auswahl nicht mehr Freiheit, sondern Arbeit.
• 0:36
  Aber die Medizin hat eine Nebenwirkung.
• 0:38
  Wenn K nicht nur Optionen sortiert, sondern auch die Kriterien vorschlägt, dann entscheidet sie nicht erst am Ende.
• 0:44
  Dann sitzt sie schon am Anfang.
• 0:46
  Bei der Frage, was uns überhaupt wichtig sein soll.
• 0:49
  Choice Overload ist kein Naturgesetz, aber die Forschung zeigt, wenn Optionen komplex, ähnlich und schwer vergleichbar werden, wird Auswahl selbst zur Arbeit.
• 0:58
  Das ist wichtig, weil der berühmte Marmeladenversuch von Shena INGA und Marklepper oft zu breit erzählt wird.
• 1:04
  Ja, weniger Auswahl kann zum Kaufen oder Handeln motivieren.
• 1:07
  Aber spätere Meta-Analysen zeigen auch, zu viel Auswahl überfordert nicht immer.
• 1:12
  Der Kontext entscheidet.
• 1:14
  Und genau in diesem Kontext kommt KI, nicht als abstrakte Superintelligenz, sondern als praktischer Filter.
• 1:20
  Stell dir vor, du willst einen Laptop kaufen, eine Weiterbildung wählen, eine Reise planen, ein medizinisches Gespräch vorbereiten oder eine neue Software für dein Team finden.
• 1:29
  Früher hast du gesucht, heute fragst du, vergleiche das für mich.
• 1:32
  Der alte Empfehlungsalgorithmus sortierte Optionen.
• 1:36
  Der neue Key-Assistent formuliert die Kriterien, mit denen Optionen überhaupt sortiert werden.
• 1:41
  Das ist der Sprung.
• 1:42
  Netflix sagte, Menschen wie du haben diesen Film geklickt.
• 1:45
  Amazon sagte, Kunden kauften auch.
• 1:47
  TikTok sagte, bleib noch drei Sekunden länger.
• 1:50
  Aber ein KI-Assistent sagt, wenn dir Datenschutz wichtig ist, nimm A, wenn dir Preis wichtiger ist, nimm B, wenn du langfristig flexibel bleiben willst, nimm C.
• 1:59
  Und plötzlich klingt das nicht wie Werbung, sondern wie Vernunft.
• 2:02
  Die Antwort ist flüssig.
• 2:04
  Sie ordnet.
• 2:04
  Sie erklärt.
• 2:05
  Sie klingt neutral.
• 2:07
  Genau deshalb ist sie so stark.
• 2:09
  Für Deutschland ist das keine ferne Zukunft.
• 2:11
  Bitcom meldet für Deutschland.
• 2:13
  58% nutzen KI, 34% mindestens wöchentlich und 40% der KI Nutzenden lassen sich bereits bei Entscheidungen unterstützen.
• 2:22
  Noch interessanter, es geht nicht nur um Büroarbeit.
• 2:25
  Laut Bitcoin holen sich Menschen gerade zu persönlichen Fragen, zu Gesundheit und zu Finanzen.
• 2:30
  Also genau in Bereichen, in denen Kriterien nicht nur technisch sind.
• 2:34
  Da geht es um Risiko, Vertrauen, Angst, Geld, Körper, Familie.
• 2:39
  Man kann das positiv lesen.
• 2:40
  Endlich hat nicht nur der Experte Zugriff auf gute Struktur.
• 2:43
  Wenn KI einen komplizierten Vertrag erklärt, eine Lernstrategie baut oder eine Kaufentscheidung transparent macht, kann das Menschen stärker machen.
• 2:51
  Im NBER-Paper zu KAP kriegen praktische Hilfe, Informationssuche und Schreiben zusammen bei fast 80% der Gespräche.
• 2:59
  Das ist kein Spielzeugprofil.
• 3:01
  Menschen nutzen ChatGPT als Drageberg, Suchersatz, Formulierungshilfe und Entscheidungsvorbereitung.
• 3:06
  Und ehrlich, das ist oft sinnvoll, wir überschätzen manchmal, wie souverän Menschen vorher entschieden haben.
• 3:12
  Viele Entscheidungen waren auch früher schon müde, zufällig, sozial beeinflusst oder von Suchmaschinen gelenkt.
• 3:18
  Ja, die Frage ist nicht, ob Menschen vorher eine Freiheit halten.
• 3:22
  Halten sie nicht.
• 3:23
  Die Frage ist, wird Key ein Werkzeug, mit dem wir bessere Kriterien finden, oder ein System, das Kriterien für uns normalisiert.
• 3:31
  Die positive Evidenz ist real, neue und lang fanden in einer Studie zu Schreikaufgaben, die Bearbeitungszeit sank um 40%, die Qualität stieg um 18% und Quinnialson, Lee und Raimond zeigten im Kundenservice.
• 3:44
  Mit Key Assistent stieg die Produktivität im Schnitt um 14%.
• 3:48
  Besonders Starkprofit hielten weniger erfahrene Beschäftigte.
• 3:52
  Das ist der beste Fall.
• 3:53
  KI macht implizites Expertenwissen zugänglich.
• 3:56
  Sie zeigt Anfängern, wie ein Profi strukturiert.
• 3:59
  Sie reduziert leere Suchzeit.
• 4:01
  Sie zwingt sogar manchmal zu besseren Fragen.
• 4:04
  Was ist dein Budget?
• 4:05
  Was ist deine Frist?
• 4:06
  Was ist dein Risiko?
• 4:07
  Was wäre ein Rückweg.
• 4:08
  Aber jetzt kommt die Grenze.
• 4:10
  KI hilft am meisten dort, wo wir die Aufgabe noch kontrollieren können.
• 4:14
  Gefährlich wird es dort, wo wir nicht mehr merken, dass wir außerhalb ihrer Grenze sind.
• 4:19
  Das ist die Jagd-Frontier aus der Forschung von Del Aqua und Kollegen.
• 4:22
  Auf manchen Aufgaben hilft KI massiv.
• 4:25
  Auf anderen Aufgaben kann sie schaden, gerade weil sie so plausibel klingt.
• 4:29
  Das Problem ist nicht nur ein falsches Ergebnis, das Problem ist, dass Menschen nicht zuverlässig erkennen, wann der Assistent gerade außerhalb seiner Kompetenzzone arbeitet.
• 4:38
  Und bei Entscheidungen ist das besonders tückisch.
• 4:40
  Eine falsche Zahl kann man behöhen.
• 4:42
  Eine schlechte Priorität merkt man oft erst später.
• 4:45
  Wenn K sagt, nimm das günstigste Angebot, klingt das vernünftig.
• 4:50
  Aber vielleicht war für dich eigentlich Reversibilität wichtiger.
• 4:53
  Oder Datenschutz.
• 4:54
  Oder Stabilität.
• 4:55
  Oder die Frage wer haftet, wenn es schief geht.
• 4:58
  Das Problem beginnt nicht, wenn KI eine Option vorschlägt.
• 5:02
  Es beginnt, wenn sie die Frage formuliert, die wir selbst nicht mehr formulieren.
• 5:06
  Genau.
• 5:06
  Wer fragt, welches Produkt ist das beste, hat schon viel ausgelagert.
• 5:11
  Bestes Produkt für wen?
• 5:12
  Für welchen Zeitraum?
• 5:14
  Für welches Risiko?
• 5:15
  Für welches Budget?
• 5:16
  Für welchen Wechselaufwand?
• 5:18
  Für welchen moralischen Ausschuss?
• 5:20
  Man könnte sagen, dann muss der Nutzer eben besser prompten.
• 5:23
  Stimmt.
• 5:24
  Aber das ist keine Kleinigkeit.
• 5:26
  Prompten ist hier nicht Ethnikspielerei.
• 5:28
  Es ist die neue Form von Urteilskraft.
• 5:30
  Wer keine Kriterien setzen kann, bekommt fremde Kriterien, nur schöner formuliert.
• 5:35
  Die Microsoft Research-Studie beweist nicht, dass KI Menschen dumm macht.
• 5:39
  Sie zeigt vorsichtiger, je mehr Vertrauen in Genei, desto weniger berichtete kritische Prüfung, je mehr Selbstvertrauen, desto mehr Prüfung.
• 5:47
  Das ist genau die faire Formulierung.
• 5:49
  Nicht Key zerstört denken.
• 5:51
  Sondern, Vertrauen verschiebt Arbeit.
• 5:54
  Wer dem System stark vertraut, trifft weniger.
• 5:56
  Wer sich selbst fachlich sicher fühlt, nutzt Key eher als Sparensparner.
• 6:01
  Der Unterschied ist riesig.
• 6:02
  Das heißt, die Gefahr trifft nicht nur dumme oder faule Menschen.
• 6:06
  Sie trifft gerade normale Nutzer, die ein sehr gutes Werkzeug in einem sehr müden Moment verwenden, abends um 10, vor einer Entscheidung, mit zu vielen Tabs offen.
• 6:14
  Und dann wird aus Hilfegewohnheit.
• 6:16
  Heute lässt du key ein Geschenk auswählen.
• 6:19
  Morgen eine Antwort auf den Chef formulieren.
• 6:21
  Übermorgen eine Lernstrategie.
• 6:23
  Dann eine politische Position zusammenfassen.
• 6:26
  Dann eine Gesundheitsfrage vorbereiten.
• 6:28
  Nichts davon ist einzeln dramatisch.
• 6:30
  Aber zusammen entsteht ein Interface für Willensbildung.
• 6:33
  Ein persönlicher Assistent ist bequem.
• 6:35
  Aber wenn er Kalender, Einkauf, Reise, Text, Antwort und Argumente vorsortiert, wird er zur externen Version unserer Willensbildung.
• 6:43
  Und das muss nicht schlecht sein.
• 6:45
  Eine externe Version unserer Willensbildung kann auch ein Coach sein, ein guter Lehrer, ein guter Freund, ein Therapeut, ein Mentor.
• 6:52
  Menschen denken seit jeher mit anderen Menschen.
• 6:54
  Der Unterschied ist, der Key-Assistent ist immer da, immer flüssig, immer geduldig, und seine Kriterien kommen nicht aus einer neutralen Wolke.
• 7:02
  Sie kommen aus Trainingsdaten, Produkttäligen, Sicherheitsregeln, Geschäftsmodellen, Interface Efauls und dem, was der Nutzer bequem genug formuliert.
• 7:11
  Darum ist KI-Welt für dich nicht nur eine Konsumfrage, es ist eine Machtfrage.
• 7:15
  Wer den Rahmen setzt, kontrolliert nicht jede Entscheidung, aber er kontrolliert die Art, in der Entscheidungen erscheinen.
• 7:21
  Das sieht man schon bei Empfehlungen.
• 7:23
  Eine Plattform muss nicht zensieren, um Verhalten zu lenken.
• 7:27
  Es reicht, Optionen anders zu ordnen.
• 7:29
  Beim Key-Assistenten wird das noch tiefer.
• 7:31
  Er ordnet nicht nur die Liste, er schreibt die Begründung dazu.
• 7:35
  Und die Begründung ist gefährlich mächtig, weil sie uns das Gefühl gibt, selbst entschieden zu haben.
• 7:40
  Nicht, der Algorithmus hat mich gesteuert, sondern, ich habe die Argumente gesehen und gewählt.
• 7:45
  Vielleicht stimmt das, vielleicht auch nicht.
• 7:48
  Deshalb ist die praktische Frage nicht.
• 7:50
  Soll man Key für Entscheidungen nutzen?
• 7:52
  Natürlich soll man das können.
• 7:54
  Die bessere Frage ist, welche Entscheidungen darf Keh vorbereiten, ohne unsere Kriterien zu übernehmen.
• 8:00
  Bei einfachen Dingen ist Delegation fast immer sinnvoll, finde den billigsten Flug, fasse die Bewertungen zusammen, vergleiche die technischen Daten, sortiere die Optionen nach Lieferzeit.
• 8:09
  Bei mittleren Dingen braucht man Regeln.
• 8:12
  Zeig mir drei Optionen.
• 8:13
  Sag mir, welche Annahmen du machst.
• 8:16
  Nenne den richtigsten Nachteil.
• 8:17
  Gib mir einen Rückweg.
• 8:19
  Trenne Fakten, Bewertungen und Vermutungen.
• 8:22
  Und bei großen Dingen muss der Mensch zuerst den Rahmen setzen.
• 8:25
  Gesundheit, Karriere, Familie, Geld, Politik, Bildung.
• 8:29
  Da darf KI helfen, aber sie sollte nicht heimlich definieren, was gut bedeutet.
• 8:33
  Die knappe Ressource der Zukunft ist nicht Information.
• 8:36
  Es ist die Fähigkeit, gute Rahmen zu setzen.
• 8:39
  Gute Rahmen heißen, was ist mein Ziel, was schließe ich aus, welches Risiko akzeptiere ich, welche Quelle zählt, was kostet ein Fehler, wie komme ich zurück, wenn ich falsch liege, und welche Entscheidung will ich nicht auslagern, auch wenn es bequemer wäre.
• 8:54
  Vielleicht wäre das die neue Bildungskompetenz.
• 8:56
  Nicht.
• 8:57
  Wer findet Information?
• 8:58
  Sondern, wer kann eine Maschine so führen, dass sie die eigenen Werte nicht ersetzt, sondern sichtbar macht?
• 9:04
  Dann wäre KI tatsächlich Befreiung, nicht weil sie für uns wählt, sondern weil sie uns zwingt, besser zu sagen, was wir meinen.
• 9:11
  Und wenn wir das nicht tun, wird sie trotzdem wählen.
• 9:14
  Nicht böse, nicht verschwörisch.
• 9:16
  Einfach weil jedes System dir Faust braucht.
• 9:19
  Die entscheidende Frage ist nicht, wählt KI besser als wir, sondern, wer bestimmt die Kriterien, nach denen sie für uns wählt?
• 9:26
  Wenn euch diese Debatte zum Nachdenken gebracht hat, abonniert K-Espresso jeden Tag eine neue Key-Debatte in 6 Minuten.
• 9:32
  Heute etwas länger, weil die Frage größer ist.
• 9:35
  Das war KI Espresso.