Latest / Tech Update | BNR / Tweede Kamer wil generatieve AI verbieden op basisscholen

Transcript

Tweede Kamer wil generatieve AI verbieden op basisscholen · Tech Update | BNR

• 0:00
  Speaker 1: De
• 0:02
  Speaker 2: Tweede Kamer wil dat generatieve AI verboden wordt op basisscholen.
• 0:06
  Speaker 2: Dat komt voort uit een motie die net is aangenomen
• 0:09
  Speaker 2: door een meerderheid. Tegenredacteur Stijn Goossens, goed dat je bij
• 0:12
  Speaker 2: ons bent. Ja, goeiedag. Het is een voorstel geweest van
• 0:14
  Speaker 2: Volt en CDA en het krijgt
• 0:15
  Speaker 3: meerderheid. Ja, Kamermeerderheid stemde ermee in. Laurens Dassen van Volt
• 0:18
  Speaker 3: en Edkin Ermoed van CDA... kwamen met die motie tijdens
• 0:22
  Speaker 3: het debat... ook over de onderwijsbegroting voor komend jaar... Volgens
• 0:25
  Speaker 3: Dassen moet niet dezelfde fout gemaakt worden... als we bij
• 0:29
  Speaker 3: sociale media bijvoorbeeld hebben gehad. Waar we toch een beetje
• 0:31
  Speaker 3: achter de feiten aanlopen. Met een verbod op scholen waar
• 0:34
  Speaker 3: nu pas een debat over gevoerd wordt. En wat er
• 0:36
  Speaker 3: mogelijk aankomt, terwijl de problemen er al zijn
• 0:39
  Speaker 3: En bij generatieve AI, waar daar gaat het dan dus over...
• 0:42
  Speaker 3: denken we dan vooral over chatbots. Als ChatGPT, Copilot, maar
• 0:46
  Speaker 3: ook allemaal andere manieren... waarop je bijvoorbeeld muziek en plaatjes
• 0:49
  Speaker 3: ook kan genereren... Op dit moment is daar geen duidelijk
• 0:53
  Speaker 3: beleid over vanuit de overheid.
• 0:55
  Speaker 2: Weet je wat
• 0:56
  Speaker 3: voor reden ze erbij geven? De reden geven zij is...
• 1:01
  Speaker 3: als die kinderen allemaal generatieve AI, dus die chatbots, gaan gebruiken...
• 1:05
  Speaker 3: de ontwikkeling van creativiteit en kritisch denken... staat daarbij gewoon
• 1:09
  Speaker 3: in de weg. Dat moeten ze eerst doen. Op de
• 1:11
  Speaker 3: basisschool is dat een belangrijk moment. Ze moeten leren hoe
• 1:14
  Speaker 3: ze ook met AI om moeten gaan... voordat ze het
• 1:16
  Speaker 3: zelf gaan gebruiken. En zij zeggen, anders staat het gewoon
• 1:19
  Speaker 3: in de weg van... het zelf kritisch dadenken. Want als
• 1:22
  Speaker 3: je al je huiswerk in zo'n chatbot stopt... dan komt
• 1:25
  Speaker 3: het er natuurlijk niet. Zo'n verbod gaat alleen op scholen.
• 1:27
  Speaker 3: Dat gaat natuurlijk thuis minder lukken. Maar als de overheid
• 1:30
  Speaker 3: met zo'n verbod komt... dan
• 1:31
  Speaker 1: zou
• 1:31
  Speaker 3: dat wel veel kunnen uitmaken
• 1:32
  Speaker 1: Maar dat betekent dan ook dat docenten niet op het digibord...
• 1:37
  Speaker 1: Een beetje een armoedige plaats. Dat ligt natuurlijk aan hoe
• 1:39
  Speaker 1: die
• 1:39
  Speaker 3: wet in elkaar
• 1:40
  Speaker 1: zit.
• 1:40
  Speaker 3: Daar kan je natuurlijk over debatteren. En dat gaan ze
• 1:42
  Speaker 3: waarschijnlijk nog veel doen. Want dit is een motie. Dat
• 1:44
  Speaker 3: betekent niet dat dat verbod er ook meteen komt.
• 1:47
  Speaker 1: De
• 1:47
  Speaker 3: Tweede Kamer wil dat de kabinet hier aan gaat werken.
• 1:51
  Speaker 3: En wel interessant. Dit is dus een verbod dat ook
• 1:53
  Speaker 3: breed gesteund wordt. Een brede meerderheid in de Tweede Kamer.
• 1:56
  Speaker 3: Van pro tot ja 21 stemde hiermee in. Dus ik
• 1:59
  Speaker 3: ben benieuwd of de Tweede Kamer hier... of de kabinet
• 2:01
  Speaker 3: hier ook echt hiermee wat gaat doen.
• 2:03
  Speaker 2: Ja. En ondertussen komen er twee datacenters bij in Amsterdam...
• 2:08
  Speaker 2: van het Chinese Alibaba Cloud. Ja, een soort
• 2:11
  Speaker 3: Chinese Amazon Web Services is dat eigenlijk. Want dit is
• 2:15
  Speaker 3: dan Alibaba, dat kennen we vanuit China. Dat is een
• 2:18
  Speaker 3: groot techbedrijf uit China. Maar die hebben dus datacenters waar
• 2:21
  Speaker 3: ze hun eigen systemen hebben draaien. En die verhuren ze
• 2:24
  Speaker 3: weer aan websites en providers... aan bedrijven die daar hun
• 2:27
  Speaker 3: eigen rekenkracht vandaan willen halen. Hun AI willen draaien. Ja,
• 2:30
  Speaker 3: hartstikke leuk hoor. Maar is Amsterdam niet vol wat dat betreft? Ja.
• 2:32
  Speaker 3: En ze hebben dat heel slim aangepakt. Ze gaan geen
• 2:34
  Speaker 3: nieuwe datacenters bouwen. Ze gaan twee bestaande datacenters huren. En
• 2:39
  Speaker 3: dat dan weer doorverhuren aan de klanten. Dus ze zetten
• 2:42
  Speaker 3: hun eigen spullen erin. Het is gewoon een doos die
• 2:44
  Speaker 3: er al staat. Daar zetten ze hun eigen rekencapaciteit in.
• 2:48
  Speaker 3: En dat verhuren ze dan weer door aan klanten.
• 2:51
  Speaker 1: Want staat die nu leeg dan?
• 2:53
  Speaker 3: Nee, niet leeg. Maar dit is natuurlijk een proces dat
• 2:57
  Speaker 3: continu verbeterd wordt. Er gaat iemand een partij weg. Die
• 2:59
  Speaker 3: gaat dan naar Frankrijk bijvoorbeeld. Waar ze weer een groter
• 3:02
  Speaker 3: datacenter hebben neergezet. En zo verschuift het door. En dan
• 3:05
  Speaker 3: komt er natuurlijk plek. Alibaba heeft in Europa nog meer
• 3:09
  Speaker 3: van dit soort datacenters. Ze hebben ook in Frankfurt, Londen
• 3:11
  Speaker 3: en Parijs. Ook dat gaan ze verder uitbreiden. Dat hebben
• 3:13
  Speaker 3: ze allemaal bekendgemaakt vandaag in Amsterdam. In een eigen eventje
• 3:17
  Speaker 3: wat ze daar hadden. Hebben ze ook nog allemaal AI
• 3:19
  Speaker 3: agents en zo aangekondigd. En de reden die ze geven
• 3:22
  Speaker 3: waarom ze hier in Amsterdam aan zitten... is dat er
• 3:24
  Speaker 3: steeds meer vraag is naar een Nederlands plek... voor meer AI-infrastructuur.
• 3:29
  Speaker 3: En zoveel plek is er natuurlijk niet. Dit is dan
• 3:31
  Speaker 3: de snelle manier om toch een soort gat in de
• 3:32
  Speaker 3: markt te pakken. Om je
• 3:34
  Speaker 2: marktaandeel te pakken
• 3:36
  Speaker 1: En die vraag komt omdat wij geografisch zo handig liggen.
• 3:41
  Speaker 1: Wij zijn een digitaal knooppunt.
• 3:42
  Speaker 3: Dat is deels zo. Daarom is Amsterdam zo interessant daar
• 3:45
  Speaker 3: inderdaad voor. Maar het is ook zo, omdat we hier
• 3:48
  Speaker 3: in Nederland... steeds meer modellen AI gebruiken met z'n allen.
• 3:51
  Speaker 3: We willen ook steeds meer soevereine AI. Dus we kunnen
• 3:54
  Speaker 3: allemaal wel in Amerika en China onze datacenters neerzetten. Maar
• 3:57
  Speaker 3: dan verliezen ze hier in Nederland of in andere landen
• 3:59
  Speaker 3: heel veel klanten. Dus dit is voor hun een plek
• 4:02
  Speaker 3: om te gaan zitten... om soevereine zogenaamde AI te kunnen aanbieden.
• 4:06
  Speaker 3: In ieder geval infrastructuur hier in Nederland te hebben.
• 4:09
  Speaker 2: De Autoriteit Persoonsgegevens waarschuwt in casubureaus... over het gebruik van AI.
• 4:14
  Speaker 2: Zegt een AI-update dit? Dat is het tegenwoordig
• 4:16
  Speaker 3: bijna
• 4:17
  Speaker 2: altijd. Zitten we middenin in die ontwikkeling. En welke risico's
• 4:19
  Speaker 2: ziet de autoriteit?
• 4:20
  Speaker 3: De APDD een steekproef bij tientallen in casubureaus. De persoon
• 4:24
  Speaker 3: concludeert eruit dat... dat AI niet alleen het werk versnelt,
• 4:28
  Speaker 3: wat we natuurlijk overal zien... maar dat de bureaus ook
• 4:29
  Speaker 3: vaak AI gebruiken met gevoelige inhoud. En dat de bureaus
• 4:33
  Speaker 3: ook vaak niet goed weten... wat er precies de regels
• 4:36
  Speaker 3: dan zijn bij het gebruik van AI. Ze vermoeden zelfs
• 4:39
  Speaker 3: bij de AP dat er al situaties zijn... waarbij AI
• 4:41
  Speaker 3: volledig beslissingen neemt. En dat is verboden. En wat ze
• 4:46
  Speaker 3: dan bijvoorbeeld doen bij incassobureaus... ze gebruiken bijvoorbeeld bij het
• 4:49
  Speaker 3: inschatten van de kans... dat hun bureau schuld kan innen
• 4:53
  Speaker 3: bij een debiteur. Dus dan nemen ze bijvoorbeeld informatie mee
• 4:56
  Speaker 3: over waar iemand woont... betaalgeschiedenis, kredietscoren. En dan zeggen ze, oké,
• 5:03
  Speaker 3: daar kunnen we het makkelijkst... nu de schulden terughalen.
• 5:07
  Speaker 2: Ja, ja, ja. Waardoor je dus eigenlijk de meest notoren...
• 5:12
  Speaker 2: Want betalers misschien niet achterna gaan
• 5:14
  Speaker 3: Zo zou dat kunnen zijn inderdaad. Maar AI doet dus
• 5:17
  Speaker 3: ook een beetje mee met die beslissing. En wat de
• 5:19
  Speaker 3: AP dus zegt. Er moet altijd een incasso medewerker van
• 5:22
  Speaker 3: vlees en bloed zijn. Die de verantwoording kan afleggen. En
• 5:25
  Speaker 3: ze doen verder nog een aantal aanbevelingen. Ze zeggen breng
• 5:28
  Speaker 3: ook in kaart welke persoonsgegevens er gebruikt worden. En zorg
• 5:31
  Speaker 3: ook dat het AVG proof is. Daar staan ze natuurlijk voor.
• 5:34
  Speaker 3: En wees transparant dat je algoritmes gebruikt. Ook naar de
• 5:36
  Speaker 3: mensen bij wie je de schulden komt ophalen. Want dat
• 5:39
  Speaker 3: is wel zo eerlijk.
• 5:40
  Speaker 2: Stijn Goossens, de BNR Tech. TV Gelderland 2021