Latest / Tech Update | BNR / Acht Amerikaanse staten klagen OpenAI aan om veiligheid ChatGPT voor kinderen

Transcript

Acht Amerikaanse staten klagen OpenAI aan om veiligheid ChatGPT voor kinderen · Tech Update | BNR

• 0:00
  Speaker 1: TV Gelderland 2021 We gaan naar Rosanne Peters van de
• 0:04
  Speaker 1: BNR Tech-redactie. Rosanne, goedemorgen. Goedemorgen. We beginnen bij OpenAI. Door
• 0:08
  Speaker 1: acht Amerikaanse staten aangeklaagd... vanwege de gebrekkige veiligheid van JetGPT.
• 0:13
  Speaker 1: Wat is het probleem?
• 0:14
  Speaker 2: Ja, zij vinden dus dat deze chatbot een onveilig product is...
• 0:18
  Speaker 2: dat kinderen schade toebrengt. Het is inmiddels wel een bekend verhaal.
• 0:22
  Speaker 2: Het gaat onder andere om de staten West Virginia, Arizona, Iowa...
• 0:27
  Speaker 2: die dus afzonderlijk een rechtszaak aanspannen tegen OpenAI... En die
• 0:31
  Speaker 2: procureur-generaal van Iowa zegt in een persbericht... dat OpenAI ligt
• 0:35
  Speaker 2: over de veiligheid van het platform... omdat ze eigenlijk wel
• 0:39
  Speaker 2: weten dat het niet veilig is... en daarmee wel gewoon
• 0:43
  Speaker 2: kinderen in gevaar brengt. En dan moet je dus bijvoorbeeld
• 0:45
  Speaker 2: denken aan het geven van gevaarlijk medisch advies... of dat
• 0:50
  Speaker 2: de chatbot iemand kan aanzetten om zichzelf of anderen pijn
• 0:52
  Speaker 2: te doen... of misschien zelfs wel zelfmoord kan gaan plegen.
• 0:57
  Speaker 1: Ja, we kennen inderdaad deze verhalen. Wat zegt OpenAI daarover nu?
• 1:01
  Speaker 1: Want er komen dus nu zaken van staten.
• 1:03
  Speaker 2: Ja, nou ja, zij zeggen dus dat ze eraan werken.
• 1:06
  Speaker 2: En mede daarom kwam een paar maanden geleden ook de
• 1:09
  Speaker 2: ChatGPT voor teens. Dus de versie voor jongeren tussen de
• 1:12
  Speaker 2: 13 en de 17 jaar. Dat zou een veiligere variant
• 1:16
  Speaker 2: moeten zijn. Met onder andere ook educatieve functies om bijvoorbeeld
• 1:18
  Speaker 2: te helpen met studeren. Maar tot nu toe zeggen experts, ja,
• 1:22
  Speaker 2: we zijn niet overtuigd van deze... betere ingebouwde veiligheidsmaatregelen. Uit
• 1:28
  Speaker 2: uitgebreide tests blijkt bijvoorbeeld ook... dat deze versie van de
• 1:33
  Speaker 2: chatbot dan wel weigert... om bepaalde seksuele rollenspellen te spelen.
• 1:37
  Speaker 2: Maar daar zit natuurlijk ook het grootste probleem niet. Dat
• 1:41
  Speaker 2: zit toch echt in de problemen die meer gaan om
• 1:44
  Speaker 2: mentale zaken.
• 1:45
  Speaker 1: Zondheid
• 1:46
  Speaker 2: ja. Ja, inderdaad. Zelfdoding, mensen kwaad doen. En daar zit
• 1:49
  Speaker 2: natuurlijk het probleem... En daarom zijn er ook al meerdere
• 1:52
  Speaker 2: zaken tegen OpenAI... die al een tijdje lopen, ook voor
• 1:55
  Speaker 2: bijvoorbeeld ouders... die hun kind aan zelfdoding hebben verloren. En
• 1:59
  Speaker 2: daarom hopen deze acht staten dan nu ook weer dat OpenAI...
• 2:03
  Speaker 2: voor deze bekende feiten ook wel gewoon verantwoordelijkheid gaat nemen.
• 2:07
  Speaker 2: Het
• 2:07
  Speaker 1: is natuurlijk niet het eerste techbedrijf dat onder z'n vloer ligt.
• 2:09
  Speaker 1: Ik denk nog even aan Zakeron in Meta en dergelijke.
• 2:11
  Speaker 1: Dus nu OpenAI aan de beurs. Dan naar YouTube Music & Deezer...
• 2:17
  Speaker 1: Niet de meest populaire muziekplatforms in ons land in ieder geval.
• 2:20
  Speaker 1: Maar wel aanwezig. Je kan er abonnement op nemen, je
• 2:22
  Speaker 1: kan er aan luisteren. Die gaan meer doen tegen AI-muziek
• 2:25
  Speaker 1: op hun platforms. Wat gaan ze doen
• 2:27
  Speaker 2: Ja, het gaat
• 2:28
  Speaker 1: er inderdaad... Is
• 2:28
  Speaker 2: dat
• 2:28
  Speaker 1: een zorg...
• 2:29
  Speaker 3: Ja, het is verschrikkelijk. Maar Rosanne
• 2:31
  Speaker 2: legt het wel uit. We gaan het er zeker over hebben,
• 2:33
  Speaker 2: want het is wel een dingetje. Deze platforms ervaren dus
• 2:37
  Speaker 2: een explosieve toename van AI-muziek... en dat wordt dus niet
• 2:42
  Speaker 2: gewaardeerd over het algemeen. Zo zegt YouTube Music hun AI-labelsysteem
• 2:47
  Speaker 2: verbeterd te hebben... waardoor je dus eigenlijk direct een AI-label ziet...
• 2:51
  Speaker 2: Als je daar een nummer luistert. En Deezer gaat dus
• 2:54
  Speaker 2: nog een stapje verder. Want die zegt, wij gaan werken
• 2:56
  Speaker 2: aan een functie... om AI-muziek helemaal te vermijden. Dus als
• 3:00
  Speaker 2: je die functie dan aanzet... dan krijg je dus echt
• 3:02
  Speaker 2: helemaal niks meer. Geen albums, geen artiesten meer die iets
• 3:04
  Speaker 2: met AI doen. En dat kan dus ook deels zijn,
• 3:07
  Speaker 2: bijvoorbeeld alleen de zang. Voor het einde van het jaar
• 3:10
  Speaker 2: moet die functie er komen. Want blijkbaar zegt ongeveer de
• 3:13
  Speaker 2: helft van de Deezer-gebruikers... dat ze dat ook willen. Dus
• 3:16
  Speaker 2: die willen dan al die AI... Ja, slop weg. Ik
• 3:20
  Speaker 2: ben wel benieuwd. Jij zei net ook al van... ik
• 3:23
  Speaker 2: vind het echt heel erg vervelend. Ben je dan blij
• 3:25
  Speaker 2: met zo'n label? Of wat maakt dat uit?
• 3:28
  Speaker 3: Ja, jawel. Je hebt ook op YouTube volgens mij al...
• 3:31
  Speaker 3: dat bij advertenties, dat als je een advertentie hebt... en
• 3:33
  Speaker 3: hij is met AI gemaakt, dan staat het licht. En
• 3:36
  Speaker 3: dat vind ik dan ook al wel prettig. Want ja...
• 3:38
  Speaker 3: Het is ook wel veel slop, zoals we dat dan noemen.
• 3:41
  Speaker 3: Maar ja, goed, iedereen heeft natuurlijk zijn eigen smaak. Maar
• 3:43
  Speaker 3: ik vind het helemaal niks.
• 3:44
  Speaker 1: Aan de andere kant, als jij YouTube Music luistert... heb
• 3:46
  Speaker 1: je waarschijnlijk je smartphone in je zak zitten, in je
• 3:49
  Speaker 1: oortjes in. Ja, dan staat er op je scherm dat
• 3:50
  Speaker 1: het AI is. Maar wat heb ik eraan als ik
• 3:51
  Speaker 1: dat aan het luisteren ben? Dan kan ik
• 3:52
  Speaker 3: toch nog, als ik denk, jeetje, wat is dit een
• 3:54
  Speaker 3: slecht nummer? Kijk, dan denk ik, oh, het is één.
• 3:55
  Speaker 3: Maar dan kan je het sowieso doorskippen als het een
• 3:56
  Speaker 3: slecht nummer is. Ja, dat is ook waar.
• 3:58
  Speaker 2: Maar we gaan even luisteren of je denkt dat je
• 4:00
  Speaker 2: dat hoort.
• 4:01
  Speaker 1: O jee, komt-ie
• 4:03
  Speaker 4: Why I love that, why I love that.
• 4:06
  Speaker 1: De vraag is, is dit AI of niet? Ik denk
• 4:08
  Speaker 1: het wel. Is dit een valstuk? Ik ga volledig voor
• 4:12
  Speaker 1: dit is sowieso AI. Zeg het maar.
• 4:19
  Speaker 2: Dit is inderdaad deels met AI gemaakt, want dit is
• 4:21
  Speaker 2: een Amerikaanse rapper, Fenix Flexin, waarbij mensen al dachten, het
• 4:25
  Speaker 2: is wel een beetje raar dat jij met een soort
• 4:27
  Speaker 2: Brits accent praat ineens. Toen zei hij, nou, hoezo kan
• 4:30
  Speaker 2: ik dat niet? Maar toen bleek uiteindelijk na maanden dat
• 4:32
  Speaker 2: hij dus toegaf dat het AI was. Ik heb er
• 4:34
  Speaker 2: nog eentje voor jullie.
• 4:35
  Speaker 4: Ja, ik denk dat dit echt is. Het lijkt ergens op,
• 4:40
  Speaker 4: ik herken het niet, maar... Red
• 4:48
  Speaker 2: and Bone Man of zo. Dit is helemaal met AI gemaakt.
• 4:54
  Speaker 2: Dit is ook echt een AI persona. Hij heet Breaking Rust.
• 4:58
  Speaker 2: En het is een soort cowboy die dus met zijn
• 5:01
  Speaker 2: hit Walk My Walk. En dat is dus wel grappig,
• 5:04
  Speaker 2: want we hebben er blijkbaar last van. We willen weten
• 5:06
  Speaker 2: of het AI is. Maar uit onderzoek van onder andere
• 5:09
  Speaker 2: Deezer en Ipsos... blijkt dus dat 97% van de luisteraars
• 5:13
  Speaker 2: helemaal geen onderscheid kan maken. Dus dan kun je je afvragen,
• 5:15
  Speaker 2: hebben we er dan echt zoveel?
• 5:17
  Speaker 3: Maar wedervraag, als jij een AI-liedje hoort en je weet
• 5:19
  Speaker 3: het eerst niet... en dan zeg ik tegen jou, dit
• 5:21
  Speaker 3: was AI, heb je dan een soort nare smaak... die
• 5:23
  Speaker 3: je denkt, nou oké, dan vind ik het toch minder,
• 5:24
  Speaker 3: of heb je dat niet?
• 5:25
  Speaker 2: Mensen houden er niet van om voor de gek gehouden
• 5:27
  Speaker 2: te worden. Ik denk, als het gewoon deels AI is
• 5:28
  Speaker 2: en ik vind het leuk... dan moet ik ook niet
• 5:30
  Speaker 2: stom doen en dan moet ik het gewoon leuk vinden.
• 5:31
  Speaker 1: Hoor je dat? Ja, oké. Leer het
• 5:33
  Speaker 2: persoonlijk
• 5:35
  Speaker 1: De BNR Tech Update wordt mede mogelijk gemaakt door Lenklen. Lenklen.
• 5:39
  Speaker 1: Betrokken expertise, gedreven innovaties.