Latest / Tech Update | BNR / OpenAI voegt watermerk toe aan AI-teksten in Europa

Transcript

OpenAI voegt watermerk toe aan AI-teksten in Europa · Tech Update | BNR

• 0:00
  Speaker 1: En daarvoor is Joe van Buurk aangeschoven met het laatste
• 0:04
  Speaker 1: tech-nieuws van de morgen. Joe, Maxime en Bas, hallo. En
• 0:07
  Speaker 1: dat gaat allereerst over OpenAI, de technisch nieuws... dat specifiek
• 0:11
  Speaker 1: voor ons werelddeel een stukje transparantie toevoegt... aan tools als ChatGPT. Vertel.
• 0:16
  Speaker 2: Ja, ze moeten wel als ze op de Europese markt
• 0:18
  Speaker 2: actief willen zijn... met ChatGPT en Codex, hun AI-programmeerhulpje. Als
• 0:23
  Speaker 2: die hier moeten kunnen blijven werken... moeten ze ook voldoen
• 0:26
  Speaker 2: aan de AI-wetgeving van de Europese Unie. En daartoe komt
• 0:29
  Speaker 2: er een... watermerk in teksten gegenereerd met AI, zodat beter
• 0:33
  Speaker 2: achterhaald kan worden of een tekst wel of niet gemaakt
• 0:35
  Speaker 2: is met AI dus. Ze weten dus over objecten en
• 0:38
  Speaker 2: zijn eigen teaser. Nou, dat is natuurlijk al ontdekt, maar
• 0:41
  Speaker 2: dat gaat dan nog beter lukken als het goed is.
• 0:43
  Speaker 2: Het is overigens dus niet een daadwerkelijk zichtbaar symbool, of
• 0:47
  Speaker 2: onzichtbaar symbool moet ik zeggen, dat je op een bepaald
• 0:49
  Speaker 2: niveau kan halen. Nee, het gaat om een Het patroon
• 0:51
  Speaker 2: dat verwerkt zit in de woordkeuzes... van wat een AI-model
• 0:55
  Speaker 2: uitspuugt als je daarom vraagt. Wij mensen zullen dat er
• 0:58
  Speaker 2: niet uit kunnen halen... maar we kennen allemaal dat soort
• 1:01
  Speaker 2: detectoren als Pangram... om een AI-tekst door te laten scannen...
• 1:05
  Speaker 2: en te laten herkennen of het met AI gemaakt is.
• 1:07
  Speaker 2: Dat watermerk moet daar dus bij helpen... Voor gebruikers in
• 1:11
  Speaker 2: de EU komt dat standaard aan te staan in de
• 1:13
  Speaker 2: komende weken. En ook alle anderen ter wereld die met
• 1:15
  Speaker 2: een koppeling met bijvoorbeeld ChatGPT werken, dan kunnen ze ervoor
• 1:18
  Speaker 2: kiezen om het in te schakelen. Dus het is voor
• 1:20
  Speaker 2: iedereen die niet
• 1:21
  Speaker 1: in
• 1:21
  Speaker 2: de
• 1:21
  Speaker 1: EU
• 1:21
  Speaker 2: zit een
• 1:22
  Speaker 1: soort opt-in versie. Maar het komt standaard aan te staan,
• 1:24
  Speaker 1: maar kun je het ook binnen de EU uitzetten? Of
• 1:27
  Speaker 1: is het niet zo'n feest?
• 1:29
  Speaker 2: Je kan het niet uitzetten, je kan het misschien wel omzeilen,
• 1:31
  Speaker 2: maar het hangt een beetje vanaf hoe je het benadert.
• 1:33
  Speaker 2: Het blijft namelijk in stand als je de tekst bijvoorbeeld
• 1:36
  Speaker 2: kopieert en plakt uit je LGBT. Het zit immers verwerkt
• 1:38
  Speaker 2: in de woordkeuzes. De methode heet trouwens Text Grain, daar
• 1:41
  Speaker 2: hebben ze ook een heel onderzoek over gedeeld, wat ze
• 1:43
  Speaker 2: met wat Amerikaanse universiteiten hebben uitgevoerd. Maar mede door wat
• 1:48
  Speaker 2: je kan doen, kun je het wel minder effectief maken.
• 1:51
  Speaker 2: Ze hebben zelf een testje gedaan. 10% van de woorden
• 1:54
  Speaker 2: zijn aangepast naar synonymen. En dan zegt de detector nog
• 1:58
  Speaker 2: maar voor 66%. Dit is een eeuwitext. In plaats
• 2:00
  Speaker 1: van 92%, wat het eerder was.
• 2:03
  Speaker 2: Dus even kijken hoe dat dan gaat binnenkort in de school,
• 2:08
  Speaker 2: bij opleidingen. Studenten gaan fanatiek in hun werkstukken de woorden
• 2:12
  Speaker 2: vervangen door
• 2:12
  Speaker 1: synoniemen. Dus je laat het genereren, dan ga je naar
• 2:15
  Speaker 1: synoniemen.net en dan ga je gewoon de helft intikken. Dat
• 2:18
  Speaker 1: is ook een prompt. Ja, maar dat is
• 2:20
  Speaker 2: weer AI, dus dan om zelf
• 2:21
  Speaker 1: je
• 2:21
  Speaker 2: watermerk niet. Dus dat moet je dan nog wel doen.
• 2:23
  Speaker 2: Maar goed, ik zou het niet aanraden, maar dat zullen
• 2:25
  Speaker 2: we gaan zien gebeuren. Kortere teksten, zegt OpenAI, vertaalde teksten...
• 2:29
  Speaker 2: en ook wiskundige antwoorden, daar is het minder effectief. Want ja,
• 2:32
  Speaker 2: kan je je voorstellen hoe meer woorden... hoe meer watermerken
• 2:34
  Speaker 2: er mogelijk uitgesmet kan worden. Ze zijn er trouwens wel
• 2:36
  Speaker 2: een beetje laat. Want deze specifieke Europese regelgeving rond transparantie
• 2:40
  Speaker 2: van AI-gebruik... werd in augustus al van kracht. En ja,
• 2:44
  Speaker 2: grote concurrent Entropic kwam er toen al mee. In augustus dus.
• 2:48
  Speaker 2: Die kregen toen ook nogal wat backlash trouwens. Van, oh, watermerken,
• 2:51
  Speaker 2: dat is helemaal niet de bedoeling. Moet ik ook zeggen,
• 2:53
  Speaker 2: OpenAI had dit twee jaar geleden al ontwikkeld... maar ze
• 2:56
  Speaker 2: wilden het niet uitbrengen vanwege angst voor negatieve reacties. Nou,
• 3:00
  Speaker 2: dat zagen we bij Anthropic, nu zullen we er minder
• 3:02
  Speaker 2: over vallen. Maar ja, ze moeten toch wel binnen de EU,
• 3:04
  Speaker 2: ook bedrijven als Google, Weta en Microsoft doen er trouwens
• 3:07
  Speaker 2: aan mee. Maar wel goed om te weten dat ze
• 3:09
  Speaker 2: zich gewoon aan de regels willen houden.
• 3:10
  Speaker 1: Nou, wat fijn. Dat is toch wel positief. Dan nog
• 3:12
  Speaker 1: even kort naar het telefoonbedrijf gelieerd aan Trump. Ja, alweer.
• 3:17
  Speaker 1: Want daar voltrekt zich de zoveelste ramp. Ja. Toesel is
• 3:19
  Speaker 1: er nog niet
• 3:20
  Speaker 2: hè? Ja, lastig. Dat is een verhaal op zich, maar
• 3:25
  Speaker 2: het is ook wel een soort treinongeluk in slow motion.
• 3:28
  Speaker 2: Trump Mobile, vanaf de initiële aankondiging tot het feit wat
• 3:31
  Speaker 2: jij net zei... dat de mensen nog steeds op hun
• 3:34
  Speaker 2: volledig Amerikaanse... maar niet heus apparaat zitten te wachten. Nu dan,
• 3:38
  Speaker 2: een hack bij Trump Mobile, meldt de Amerikaanse nieuwssite Straight Arrow.
• 3:42
  Speaker 2: Een groep die zich BYOD noemt, dus Bring Your Own Device...
• 3:46
  Speaker 2: staat dat meestal voor, helft telefoon of laptop meenemen naar
• 3:49
  Speaker 2: de meeting. Die heeft gegevens van ruim 3600 klanten buitgemaakt...
• 3:53
  Speaker 2: En dat hadden ze kunnen zien aankomen bij Trump Mobile...
• 3:55
  Speaker 2: wat overigens alleen maar een frontje is... voor een ander mediabedrijf,
• 3:58
  Speaker 2: Liberty Mobile. Want er was al een beveiligingsonderzoeker... die onlangs
• 4:02
  Speaker 2: had gezegd... hallo, er staan 27.000 klanten... wiens gegevens zomaar
• 4:07
  Speaker 2: buitgemaakt kunnen worden. Misschien moeten jullie daar iets mee doen.
• 4:09
  Speaker 2: Maar we weten ook waarom er niks mee gebeurd is.
• 4:11
  Speaker 2: Want die BYOD-groep heeft een reactie gehad van Trump Mobile. Namelijk,
• 4:15
  Speaker 2: we hebben geen mensen om deze situatie te adresseren. Doei.
• 4:18
  Speaker 2: Ze hebben letterlijk niemand om hiermee om te gaan. En
• 4:21
  Speaker 2: dat zeggen de hackers althans, dat moeten we verwijderen. aannemen.
• 4:24
  Speaker 2: De enige reactie die terugkwam vanuit Trump al, jullie mogen
• 4:26
  Speaker 2: ons niet hacken, jullie zijn terroristen. Nou
• 4:29
  Speaker 2: en zo. Opgelost. Zou je voor dat KPN of Vodafone
• 4:34
  Speaker 2: op die manier zou reageren? Olido. Olido. Ze zijn terroristen.
• 4:37
  Speaker 2: Nou ja, blijft. Veel plezier. Dank je. Joe van Buurik.