Latest / KI Espresso / 208.500 Dollar Studiengebühr - wer beweist KI-Betrug?

Transcript

208.500 Dollar Studiengebühr - wer beweist KI-Betrug? · KI Espresso

• 0:00
  SPEAKER_00: 208.500 Dollar Studiengebühr.
• 0:03
  SPEAKER_01: Einen KI-Detektor schlugen an.
• 0:06
  SPEAKER_01: Aber vor Gericht geht es inzwischen vor allem um eine Datei, die monatelang nicht kam.
• 0:10
  SPEAKER_00: Thierry Rignoll bestreitet den KI-Einsatz, Yale widerspricht ihm, und entschieden ist der Fall bis heute nicht.
• 0:17
  SPEAKER_01: Auch Hochschulen in Deutschland, Österreich und der Schweiz brauchen dafür eine belastbare Beweiskette.
• 0:23
  SPEAKER_01: Welche Beweise benötigt eine Institution vor einer Bestrafung?
• 0:27
  SPEAKER_00: Ich vertrete hier den Standpunkt, dass Institutionen wie Yale in solchen Fällen absolut auf legitime Indizienketten zurückgreifen müssen, um ihre Integrität zu verteidigen, selbst wenn die Lage dann unübersichtlich wird.
• 0:40
  SPEAKER_01: Ja, und da sehe ich das halt völlig anders.
• 0:42
  SPEAKER_01: Für mich zeigt dieser Fall, wie fehlerhafte Wahrscheinlichkeitsrechnungen und naja, so eine gewisse institutionelle Voreingenommenheit einen Studenten in eine komplette Falle locken können.
• 0:54
  SPEAKER_00: Dann schauen wir uns doch zuerst mal an, was wirklich passiert ist.
• 0:57
  SPEAKER_00: Frühjahr 2024 eine vierstündige Abschlussprüfung.
• 1:02
  SPEAKER_00: Mit 72 Studierenden.
• 1:04
  SPEAKER_00: Richtig.
• 1:05
  SPEAKER_00: Und die Regeln waren glasklar.
• 1:06
  SPEAKER_00: Open Book, ja, aber eben kein Internet und ein striktes KI-Verbot.
• 1:11
  SPEAKER_00: Die Abgabe erfolgte als PDF von den eigenen Rechnern.
• 1:15
  SPEAKER_00: Und nur Regnolds Arbeit wurde markiert, nachdem ein Professor GPT-Zero eingesetzt hatte.
• 1:21
  SPEAKER_00: Aber das war ja erst der Anfang, oder?
• 1:23
  SPEAKER_00: Exakt.
• 1:24
  SPEAKER_00: Yale hat ihn nämlich nicht einfach blind wegen dieses Scores bestraft.
• 1:28
  SPEAKER_00: Die Fakultät hat weitergeschaut und fand inhaltliche Überschneidungen mit Chat-GPT-Antworten zu exakt derselben Frage.
• 1:35
  SPEAKER_00: Okay.
• 1:36
  SPEAKER_00: Dazu kam dann noch eine, naja, ziemlich auffällig schwache Leistung bei Frage 5, also ausgerechnet da, wo KI laut der Dozenten am wenigsten nützlich ist.
• 1:46
  SPEAKER_00: Und letztlich bezweifelte Yale schlichtweg, dass diese enorme Länge und sprachliche Perfektion in nur vier Stunden für einen Menschen überhaupt machbar sind.
• 1:57
  SPEAKER_01: Moment, da muss ich direkt einhaken.
• 2:00
  SPEAKER_01: Das klingt jetzt nach einer total sauberen Beweiskette, aber eigentlich sehen wir hier einen klassischen Anchoring-Bias in Aktion.
• 2:07
  SPEAKER_01: Wie meinst du das?
• 2:08
  SPEAKER_01: Und sobald dieser Detektor einmal ausgeschlagen hat, wirkte für die Fakultät plötzlich jedes Detail verdächtig.
• 2:14
  SPEAKER_00: Aber die Indizien waren ja da.
• 2:16
  SPEAKER_01: Ja, aber schau dir mal die Interpretation an.
• 2:19
  SPEAKER_01: Ein formeller Schreibstil.
• 2:21
  SPEAKER_01: Klar, das muss eine Maschine sein.
• 2:23
  SPEAKER_01: Eine lange Antwort, bestimmt KI.
• 2:26
  SPEAKER_01: Rignoll ist aber nicht Muttersprachler.
• 2:28
  SPEAKER_01: Sein Stil ist naturgemäß oft etwas formeller.
• 2:31
  SPEAKER_01: Die Uni hat eigentlich alltägliche Dinge sofort in Beweise für Schuld uminterpretiert.
• 2:37
  SPEAKER_00: Das ist ein interessanter Punkt.
• 2:38
  SPEAKER_00: Aber genau deshalb wollte Yale ja die Metadaten prüfen.
• 2:42
  SPEAKER_00: Die haben explizit die zugrunde liegende Microsoft Word-Datei angefordert.
• 2:46
  SPEAKER_00: Und hier wird es institutionell relevant.
• 2:49
  SPEAKER_00: Ja, und da wird es absurd.
• 2:51
  SPEAKER_00: Lass mich kurz ausreden.
• 2:52
  SPEAKER_00: Ringneu lieferte diese Datei monatelang nicht.
• 2:55
  SPEAKER_00: Erst am 8.
• 2:56
  SPEAKER_00: November, also direkt am Tag der Anhörung, reichte er sie ein.
• 3:00
  SPEAKER_00: Wer bei einem Betrugsverdacht nicht kooperiert und das Original wochenlang zurückhält, der untergräbt doch die Integritätsregeln der Universität.
• 3:07
  SPEAKER_00: Das ist kein Anchoring-Bias.
• 3:09
  SPEAKER_00: Das ist eine Bewertung seines konkreten Verhaltens nach dem Vorwurf.
• 3:12
  SPEAKER_01: Da machst du es dir aber wirklich zu einfach.
• 3:15
  SPEAKER_01: Du sagst, er hat die Datei zurückgehalten.
• 3:18
  SPEAKER_01: Die Realität ist aber, dass er schlichtweg gar keine Word-Datei besaß.
• 3:22
  SPEAKER_01: Echt nicht?
• 3:23
  SPEAKER_01: Nein.
• 3:24
  SPEAKER_01: Er hatte die Klausur in Apple Pages geschrieben.
• 3:27
  SPEAKER_01: Und als er die Pages-Datei dann lieferte, bestrafte ihn das Komitee zunächst wegen mangelnder Kooperation.
• 3:34
  SPEAKER_01: Oh wow.
• 3:34
  SPEAKER_01: Ja.
• 3:35
  SPEAKER_01: Absolut ohne faire Vorwarnung und ohne echte Gelegenheit, sich gegen diesen völlig separaten Vorwurf zu verteidigen.
• 3:43
  SPEAKER_00: Oh, okay.
• 3:46
  SPEAKER_00: Dennoch zeigen diese Eskalationen, warum eine Uni eben nicht nur auf den Detektor schauen darf.
• 3:52
  SPEAKER_00: Yale selbst gibt in den eigenen Richtlinien ja offen zu, dass diese Detektoren unzuverlässig sein können.
• 3:57
  SPEAKER_01: Unzuverlässig ist noch untertrieben.
• 4:00
  SPEAKER_01: Erinnerst du dich an die viel zitierte Studie von 2023?
• 4:03
  SPEAKER_01: Die mit den Tofeltexten, richtig?
• 4:06
  SPEAKER_01: Genau.
• 4:06
  SPEAKER_01: Da haben sie sieben Detektoren mit Tofel-Assays von Nicht-Muttersprachlern getestet.
• 4:11
  SPEAKER_01: Und die Falsch-Positivrate ragt bei unglaublichen 61,22 Prozent.
• 4:17
  SPEAKER_01: Das ist schon heftig, ja?
• 4:18
  SPEAKER_01: Bei US-8-Klässlern waren es im Vergleich dazu nur rund 5%.
• 4:22
  SPEAKER_01: Wenn ein System bei Nicht-Muttersprachlern derart extrem verzerrt, darf man daran einfach keine akademischen Karrieren aufhängen.
• 4:30
  SPEAKER_01: Die Folgen für Rignoll waren ja massiv, ein Jahr Suspendierung und die Note F, auch wenn er Lord Yale später seinen Abschluss machte.
• 4:36
  SPEAKER_00: Gut, aber diese 61% sind ein Extremwert aus der Vergangenheit.
• 4:40
  SPEAKER_00: Sie beweisen nicht automatisch, dass Ringnolls Klausur ein falsches Positiv war.
• 4:45
  SPEAKER_00: Eine neuere Studie von 2026, die hat im tschechischen Kontext gezeigt, dass es diesen systematischen Bias gegen Nicht-Mutterspachler gar nicht mehr gibt.
• 4:54
  SPEAKER_00: Die Technologie entwickelt sich ja weiter.
• 4:57
  SPEAKER_01: Aber natürlich, die juristische Lage ist extrem komplex.
• 5:00
  SPEAKER_01: Ringnoll klagt nun vor einem Bundesgericht und seine Klageschrift enthält 13 zivilrechtliche Punkte.
• 5:06
  SPEAKER_00: Und wie steht es um diese Klage?
• 5:08
  SPEAKER_00: Hat das Gericht schon bewertet, ob Yale im Recht war?
• 5:11
  SPEAKER_01: Nein, überhaupt nicht.
• 5:12
  SPEAKER_01: Es gab einen Abweisungsantrag von Yale vom 15.
• 5:15
  SPEAKER_01: Juli.
• 5:15
  SPEAKER_01: Aber dieser Vorgang vom 24.
• 5:17
  SPEAKER_01: Juli darf ausschließlich als aus einem Verfahrensgrund beendet, weil die vorgeschriebene Vorabkonferenz fehlte, bezeichnet werden.
• 5:23
  SPEAKER_00: Okay, wow, das heißt, inhaltlich ist absolut nichts entschieden.
• 5:27
  SPEAKER_00: Exakt.
• 5:28
  SPEAKER_00: Es war lediglich ein formaler Fehler im rechtlichen Ablauf.
• 5:31
  SPEAKER_00: Genau deshalb brauchen wir im Dachraum präzise Leitfäden.
• 5:35
  SPEAKER_00: Man klärt KI-Regeln im Vorfeld, man fordert von Anfang an formatneutrale Arbeitsdateien, um diesen, naja, Apple-Pages-Konflikt direkt zu vermeiden.
• 5:44
  SPEAKER_00: Und ein Detektor dient ausschließlich als Auslöser für ein Gespräch, niemals als Beweis.
• 5:50
  SPEAKER_00: Richtig.
• 5:51
  SPEAKER_00: Wenn Zweifel bestehen, setzt man mündliche Nachprüfungen an und dokumentiert glasklar, welcher Mensch am Ende die Entscheidung trifft.
• 5:59
  SPEAKER_01: Das klingt in der Theorie sehr strukturiert.
• 6:02
  SPEAKER_01: Aber die intellektuelle Kernfrage bleibt doch ungelöst.
• 6:07
  SPEAKER_01: Wir versuchen hier, die probabilistischen Wahrscheinlichkeiten einer Maschine mit der deterministischen Gewissheit eines fairen Urteils in Einklang zu bringen.
• 6:16
  SPEAKER_01: Wenn die Metadaten fehlen und die mündliche Leistung unsicher ist, wie schwer darf ein Detektor dann wiegen?
• 6:24
  SPEAKER_01: Niemand sollte jemals aufgrund einer simplen Wahrscheinlichkeit bestraft werden.
• 6:28
  SPEAKER_00: Die entscheidende Frage ist nicht, ob ein Detektor Verdacht erzeugt, sie lautet, welche Beweiskette muss eine Institution haben, bevor sie einen Menschen bestraft.
• 6:38
  SPEAKER_01: Wenn euch diese Debatte zum Nachdenken gebracht hat, abonniert KI Espresso jeden Tag eine neue KI-Debatte in sechs Minuten.
• 6:45
  SPEAKER_01: Das war KI Espresso.