Latest / Tech Update | BNR / Italiaanse premier Meloni strijdt tegen AI-deepfakes door stem te registreren

Transcript

Italiaanse premier Meloni strijdt tegen AI-deepfakes door stem te registreren · Tech Update | BNR

• 0:01
  Speaker 1: Moet je en kun je je eigen stem vastleggen als
• 0:04
  Speaker 1: handelsmerk om misbruik met AI te voorkomen? Dat is wel
• 0:09
  Speaker 1: wat de Italiaanse premier Meloni heeft gedaan, zo blijkt vandaag.
• 0:11
  Speaker 1: Ze heeft een verzoek ingediend om patent eigenlijk op haar
• 0:15
  Speaker 1: eigen stem aangevraagd, Jo van Buurik. Hai, Niels, en is het?
• 0:18
  Speaker 2: Jazeker, ze heeft haar een fragment ingediend bij de EUIPO.
• 0:22
  Speaker 2: Dat staat voor European Union Intellectual Property Office. Dus niks
• 0:26
  Speaker 2: met een beursgang te maken. Geluidsclip van vier seconden waarin
• 0:29
  Speaker 2: ze twee keer zegt... Yo sono Giorgia Maloney. Oftewel, ik
• 0:32
  Speaker 2: ben Giorgia Maloney in het Italiaans dus. Interessant ook, de
• 0:35
  Speaker 2: eerste drie woorden van die zin... waren ook de titel
• 0:37
  Speaker 2: van haar biografie van vijf jaar geleden...
• 0:39
  Speaker 3: Ja, en die beroemde toespraak. Ik ben Georgia, ik ben
• 0:43
  Speaker 3: een vrouw, ik ben een moeder. Waar
• 0:44
  Speaker 2: ook nog eens een disco-remix van is gemaakt. Om het
• 0:46
  Speaker 2: een beetje gek
• 0:47
  Speaker 3: te maken. Maar dat
• 0:48
  Speaker 2: zal Niels Huithuis dan weer kunnen bekoren. Nee, hier is
• 0:50
  Speaker 2: het vooral bedoeld om zichzelf te beschermen. Misschien tegen misbruik
• 0:55
  Speaker 2: door AI. Schrijft Italiaanse krant La Repubblica. We kennen immers
• 0:59
  Speaker 2: Legio-voorbeeld tegenwoordig. Van het deepfakes. Gebruikt van AI om... met
• 1:04
  Speaker 2: name vrouwen en dan zeker ook nog bij uitstek in
• 1:06
  Speaker 2: de politiek... slachtoffer te maken door hun beeldtenis of geluid
• 1:09
  Speaker 2: daarin te laten terugkeren. Ondanks dat er ook nog een
• 1:11
  Speaker 2: groep Nederlandse vrouwelijke kamerleden... die daarvoor in actie kwamen om
• 1:15
  Speaker 2: te zeggen... onze gezichten worden notabene zelf misbruikt. De verwerking
• 1:18
  Speaker 2: in AI-porno. Meloni heeft daar ook regelmatig mee te schaften.
• 1:22
  Speaker 2: Heeft ook wel eens een schadevergoeding geëist. Is nog verwikkeld
• 1:25
  Speaker 2: in een zaak met iemand die haar beeldtenis misbruikt... seksueel
• 1:28
  Speaker 2: getint materiaal. De vraag is, gaat het registreren van je
• 1:32
  Speaker 2: stem hierbij helpen? Ja, technisch gezien helpt het niks, want
• 1:37
  Speaker 2: iemand kan het nog steeds gewoon. En op een niveau
• 1:40
  Speaker 2: Nederlands niveau hebben we goed geregeld portretrecht. Dus juridisch ben
• 1:43
  Speaker 2: je al in overtreding als je het zonder toestemming doet.
• 1:46
  Speaker 2: Ook
• 1:46
  Speaker 1: van de stem?
• 1:47
  Speaker 2: Ja, ook van de stem. Dus lijkt het vooral... en
• 1:49
  Speaker 2: dat is volgens mij wat Meloni ook al een beetje
• 1:51
  Speaker 2: heeft aangegeven... een signaal, ook naar anderen toe, van joh,
• 1:53
  Speaker 2: je kan iets doen. Word wakker, laat het niet over
• 1:56
  Speaker 2: je heen gaan. Voor alle mensen die minder machtig zijn
• 1:59
  Speaker 2: dan ik... want Meloni, premier van Italië, laat het er
• 2:02
  Speaker 2: niet bij zitten.
• 2:03
  Speaker 3: Maar dat zou toch eigenlijk iedereen zijn stem moeten laten vastleggen?
• 2:06
  Speaker 2: Ja, misschien wel.
• 2:08
  Speaker 3: Niet alleen premiers of bekende DJ's. Dat hoeft
• 2:11
  Speaker 2: niet. Dat hangt er vanaf. Of je bang bent voor
• 2:13
  Speaker 2: misbruik of ook gebruik van je stem. Want nou, nogmaals,
• 2:16
  Speaker 2: we hebben portretrecht. Maar de vraag is meer, zie je
• 2:19
  Speaker 2: het als een kans? Wij zijn hier als radio en
• 2:21
  Speaker 2: podcastmakers deze studio. Jullie ook nog een stuk langer al
• 2:24
  Speaker 2: on-air door de jaren heen. Ik pas een paar jaar.
• 2:26
  Speaker 2: Moet je daar iets mee? Want wij lenen onze stem
• 2:28
  Speaker 2: ook nog wel eens voor andere dingen. Net zoals heel
• 2:29
  Speaker 2: veel andere mensen. Toevallig hebben we onlangs in de grote techshow...
• 2:33
  Speaker 2: de CEO van Eleven Labs gesproken. Toch al bekend CI-bedrijf
• 2:36
  Speaker 2: waarmee je stemmen kan genereren. Met hun eigen model. Later
• 2:39
  Speaker 2: deze week komt het ook op BNR. En ik kan
• 2:40
  Speaker 3: je vast
• 2:41
  Speaker 2: verklappen. Hij zei, we hebben een databank waar tienduizenden professionele...
• 2:45
  Speaker 2: en vaak dus ook bekende stemmen in staan. Mensen die
• 2:47
  Speaker 2: hebben het gewoon ingediend. En die geven toestemming. En dan
• 2:50
  Speaker 2: zijn ze een soort tussenpartij. Dan kun je op bestelling
• 2:53
  Speaker 2: Niels Heithuis iets laten zeggen... als Niels Heithuis de voorgekozen
• 2:55
  Speaker 1: heeft. Wordt Niels Heithuis dan... daarvoor betaald? Ja, dat is
• 2:57
  Speaker 1: wel de bedoeling
• 2:58
  Speaker 2: Een soort overeenkomst met elkaar sluiten. Maar de vraag is inderdaad,
• 3:01
  Speaker 2: ga je dat doen? Zeker als je dat belangrijk
• 3:03
  Speaker 3: vindt. Als je het niet doet, dan wordt Niels opeens...
• 3:05
  Speaker 3: het is wel een prachtige klinkende stem... dan wordt hij
• 3:08
  Speaker 3: opeens gebruikt voor een of andere documentaire... waar hij nooit,
• 3:10
  Speaker 3: dat is dan nog een gunstig geval... Waar hij nooit
• 3:12
  Speaker 3: aan heeft meegewerkt
• 3:13
  Speaker 2: Dus je kan zeggen, ik wil dat niet. En dan
• 3:15
  Speaker 2: heb je juridisch al de nodige instrumenten in handen. Maar
• 3:17
  Speaker 2: als je zegt, het is een kans en anders pak
• 3:19
  Speaker 2: ik zijn stem. Die lijkt op die van Niels Heithuis.
• 3:20
  Speaker 2: We vullen allemaal AI-klussen voor jou in nu. Dan zou
• 3:24
  Speaker 2: je het ook op die manier kunnen maken. Het
• 3:25
  Speaker 1: zou voor de eerst zijn dat ik voor een documentaire-inspreker
• 3:26
  Speaker 1: word gevraagd. Ik zou
• 3:27
  Speaker 2: het je zo horen doen, Niels
• 3:30
  Speaker 1: Even nog naar ChatGPT, want OpenAI voert een aantal veranderingen
• 3:34
  Speaker 1: door in de advertenties op het platform.
• 3:37
  Speaker 2: Ja, advertenties die er zijn. Ik weet niet, zijn jullie
• 3:38
  Speaker 2: gratis ChatGPT-gebruiker toevallig?
• 3:40
  Speaker 1: Nee, maar chat
• 3:41
  Speaker 2: is uit, hè? Ja, dat hoor ik vaak. Maar er
• 3:44
  Speaker 2: zijn mensen die het wel doen en die geen betaald
• 3:46
  Speaker 2: abonnement hebben. Nou, dan krijg je advertenties te zien, ook
• 3:48
  Speaker 2: al sinds vorige maand in Nederland. Die advertenties gaan er
• 3:51
  Speaker 2: anders uitzien. Want daar heeft OpenAI net van aangekondigd... we
• 3:54
  Speaker 2: zijn aan het experimenteren met visuele advertenties. Dus niet een
• 3:57
  Speaker 2: tekstje en een linkje naar een leuk product... wat lijkt
• 3:59
  Speaker 2: op jouw zoekvraag. Nee, dus ook echt een plaatje. Nou,
• 4:03
  Speaker 2: dat is dus nog een test. Het is alleen aan
• 4:04
  Speaker 2: de VS. Het is vooral als je een plaatje laat
• 4:06
  Speaker 2: genereren door ChatGPT... Duidelijk label reclame, maar Liesbeth Niels... ik
• 4:10
  Speaker 2: voel de glijdende schaal weer van toen we bij social media...
• 4:13
  Speaker 2: gewend waren aan geen advertenties en toen waren we het opeens.
• 4:17
  Speaker 2: En streamingplatforms doen het. En zeker op Facebook, Instagram en
• 4:20
  Speaker 2: X is het zo'n heithanguizig worden... wat er met advertenties
• 4:23
  Speaker 2: op die platforms kan gebeuren... dat ik vrees dat AI-chatbots
• 4:26
  Speaker 2: met advertenties... simpelweg nooit een goed idee zijn
• 4:29
  Speaker 1: Dank je wel, Joe van Buurik.