Latest / Tech Update | BNR / AIVD-baas waarschuwt voor AI als 'opzichzelfstaande dreiging'

Transcript

AIVD-baas waarschuwt voor AI als 'opzichzelfstaande dreiging' · Tech Update | BNR

• 0:00
  Speaker 1: We gaan naar Stijn Groosten. Stijn, goedemorgen. Goedemorgen. Nou, geen
• 0:04
  Speaker 1: tech-update uiteraard zonder een PHP-update, zou ik zeggen. Sinds woensdag
• 0:07
  Speaker 1: is de wereld daarvan in de ban. Wij als eerste
• 0:09
  Speaker 1: Nederland en daarna een beetje de rest van de wereld.
• 0:11
  Speaker 1: Vanochtend al het verhaal hier bij BNR over de overheidsdomeinen,
• 0:15
  Speaker 1: tientallen die nog gewoon online staan, maar wel kwetsbaar zijn.
• 0:17
  Speaker 1: Kan jij even een wat bredere, korte update geven van
• 0:20
  Speaker 1: de laatste stand van zaken, van de kwetsbaarheid?
• 0:22
  Speaker 2: Ja, sinds woensdagmiddag is natuurlijk die patch al beschikbaar. Maar ja,
• 0:25
  Speaker 2: je moet hem wel updaten om je website ook veilig
• 0:28
  Speaker 2: te krijgen. Veel websites zijn ook wel weer in de lucht.
• 0:31
  Speaker 2: Maar de gevolgen van tech zijn ook wel voelbaar in
• 0:32
  Speaker 2: de hele wereld. Inderdaad, zoals je al zei. Vaak door
• 0:36
  Speaker 2: storingen bij banken of bij de vertraging van diensten. en
• 0:40
  Speaker 2: sommige websites die de patches nog steeds niet geïnstalleerd hebben...
• 0:44
  Speaker 2: bijvoorbeeld omdat ze nog bij een hele oude versie van
• 0:46
  Speaker 2: PHP zijn. Je zei het net zelf al, we hebben
• 0:49
  Speaker 2: een eigen analyse gedraaid bij BNR... waarbij ook zichtbaar is
• 0:52
  Speaker 2: dat veel overheidswebsites... nog die oude PHP-versies draaien. Vaak niet
• 0:58
  Speaker 2: de hoofdpagina's, maar meer de subpagina's daarvan... specifieke omwerpen. Het NCSC,
• 1:03
  Speaker 2: het National Cyber Security Center... die adviseert met klemmen om
• 1:06
  Speaker 2: toch die updates zo snel mogelijk door te voeren... En
• 1:09
  Speaker 2: anders gewoon je website nog steeds offline te houden. Het
• 1:12
  Speaker 2: analyseert nu ook al verschillende signalen die er zijn... van
• 1:16
  Speaker 2: ook echt kwaadwillenden die gebruik gemaakt hebben van dit lek.
• 1:20
  Speaker 2: Ik verwacht dat dat de komende 24 uur ook alleen
• 1:22
  Speaker 2: maar groter zal worden. In de hele wereld zie je
• 1:24
  Speaker 2: nu dat er veel meer over gesproken wordt. Dus inderdaad,
• 1:27
  Speaker 2: we waren het in Nederland een beetje voor
• 1:29
  Speaker 1: Dit lek deels ontdekt met behulp van kunstmatige intelligentie. En
• 1:33
  Speaker 1: toevallig waarschuwt de AIVD daar nu voor. AIVD? VD. Ja,
• 1:37
  Speaker 1: nou inderdaad. Het staat dan weer voor iets anders. Ik
• 1:40
  Speaker 1: stel alleen maar vragen. Algemene inlichting en veiligheidsdienst. Houd er
• 1:44
  Speaker 1: rekening mee dat kunstmatige intelligentie, die andere AI, een bedreiging
• 1:48
  Speaker 1: op zichzelf gaat vormen. Dus AI aan zich als bedreiging.
• 1:52
  Speaker 1: Niet zozeer mensen die AI inzetten, maar het ding AI.
• 1:54
  Speaker 1: Wat zegt de IVD daarover?
• 1:55
  Speaker 2: Want je kan AI inzetten om een bedrijf te hacken bijvoorbeeld,
• 1:58
  Speaker 2: dan kan die je helpen. Maar de directeur-generaal van de AIVD,
• 2:02
  Speaker 2: Simone Smit, die was de gast in de podcast Wereldupdate
• 2:05
  Speaker 2: van instituut Klingendaal. En daarin zei ze het volgende erover.
• 2:09
  Speaker 3: Welke ontwikkeling ga jij dan het meest in de gaten houden,
• 2:12
  Speaker 3: bijvoorbeeld komend jaar? Dat is technologie, ontwikkeling van technologie en AI.
• 2:19
  Speaker 3: Omdat we zien dat dat ook echt als een geopolitiek
• 2:22
  Speaker 3: instrument wordt ingezet. En ja, het biedt ongelooflijk veel kansen.
• 2:27
  Speaker 3: Maar het is ook echt een dreiging waar we onderzoek
• 2:29
  Speaker 3: naar doen. En we zien meer en meer dat dat
• 2:32
  Speaker 3: misschien zelfs wel een op zichzelf staande dreiging is.
• 2:36
  Speaker 1: haar woorden even proberen uit elkaar te
• 2:38
  Speaker 2: trekken. Wat bedoelt ze dan eigenlijk? Ja, ze zegt dus
• 2:41
  Speaker 2: een soort op zichzelf staande dreiging misschien. We zien dus
• 2:45
  Speaker 2: nu dat kwaadwillende gebruiken AI als hulp... om een partij
• 2:49
  Speaker 2: te hacken. Maar we hebben de afgelopen tijd ook veel
• 2:51
  Speaker 2: berichten gezien... van AI-modellen die uit zichzelf dingen zijn gaan doen.
• 2:55
  Speaker 2: En dat is een verwachting die de komende tijd... Die
• 2:58
  Speaker 2: steeds breder wordt. Dat die AI modellen niet eens menselijke
• 3:03
  Speaker 2: doelen op zich hebben. Dus niet mensen gaan helpen. Maar
• 3:06
  Speaker 2: gewoon zelf een taak kunnen voltooien. En dus ook een
• 3:09
  Speaker 2: website kunnen platleggen. Zonder dat dat expliciet de bedoeling was.
• 3:13
  Speaker 2: We hebben het met OpenAI gezien. Die verschillende AI agents had.
• 3:16
  Speaker 2: Die overheidswebsites en websites van bedrijven wisten hacken. En dit
• 3:21
  Speaker 2: is iets waar de AIVD ook rekening mee houdt. Dat
• 3:23
  Speaker 2: dat een grotere dreiging gaat worden de komende tijd. Zo
• 3:26
  Speaker 2: expliciet zegt ze dat niet in deze podcast. Dit is
• 3:28
  Speaker 2: de quote die ze daarover heeft. Maar dat is wel
• 3:30
  Speaker 2: wat wij er in ieder geval uitlezen... wat ze daarmee bedoelt.
• 3:32
  Speaker 2: En ze noemt het nu ook een geopolitiek instrument. Het
• 3:35
  Speaker 2: wordt gebruikt om druk uit te oefenen op andere landen.
• 3:38
  Speaker 2: Want ja, een Amerika en een China die hierin op
• 3:40
  Speaker 2: voorop lopen... dat geeft ze ook meer macht.
• 3:44
  Speaker 1: Dat
• 3:44
  Speaker 2: zei dus Simone Smit
• 3:45
  Speaker 1: van de AIVD. Dan nog even kort naar AI-platform Hugging Face.
• 3:49
  Speaker 1: Het is een beetje de AI-update vandaag weer. Bekend als
• 3:51
  Speaker 1: het slachtoffer van de hack door de AI-agents van OpenAI.
• 3:55
  Speaker 1: Die uit hun sandboxen waren gekropen. Die hebben nu een
• 3:59
  Speaker 1: speciaal AI-model. Het is wel AI voor DNA gelanceerd. Wat
• 4:02
  Speaker 1: kan je daarmee?
• 4:04
  Speaker 2: Simone Smit van de IVD zegt... je kan er ook
• 4:05
  Speaker 2: veel goeds mee doen. Dit is daar misschien wel een
• 4:07
  Speaker 2: voorbeeld van. Ze hebben een AI-model gelanceerd... waarmee je lokaal
• 4:10
  Speaker 2: op je computer met DNA kan chatten. Toen ik dit
• 4:14
  Speaker 2: las dacht ik... dat klinkt een beetje heel erg sci-fi.
• 4:17
  Speaker 2: En eng inderdaad. Het vergt ook wel wat uitleg. Het
• 4:19
  Speaker 2: gaat over een nieuw AI-model genaamd Carbon X... En het
• 4:22
  Speaker 2: is vooral bedoeld voor onderzoekers. Maar het bijzondere is dus
• 4:25
  Speaker 2: dat die onderzoekers dit AI-model dus lokaal op een computer
• 4:28
  Speaker 2: kunnen draaien. Niet afhankelijk zijn van grote Amerikaanse partijen en
• 4:32
  Speaker 2: een datacenter ergens. En daarmee dus die data van een
• 4:36
  Speaker 2: DNA kunnen analyseren. Dat zijn die DNA-strengen, ATCG, die dan
• 4:40
  Speaker 2: bepalen hoe eiwitten in een cel moeten werken. En uiteindelijk
• 4:43
  Speaker 2: hoe je lichaam dus ook werkt. En zo'n DNA-streng is
• 4:47
  Speaker 2: best moeilijk om dat helemaal te analyseren. En nu kun
• 4:50
  Speaker 2: je dus die hele DNA-streng in die chatbot gooien... en
• 4:54
  Speaker 2: daarmee gaan praten met, joh, wat als ik dit aanpas?
• 4:56
  Speaker 2: Wat gebeurt er dan met die DNA-streng? Daar heeft Hugging
• 5:00
  Speaker 2: Face dus nu een AI-model voor gelanceerd. Ze hebben er
• 5:05
  Speaker 2: alleen wel een wat waarschuwingen nog bij. Het is niet
• 5:08
  Speaker 2: klinisch gevalideerd, dus je mag het niet gebruiken... om medische
• 5:11
  Speaker 2: beslissingen te maken. En het kan ook nogal wat fouten maken,
• 5:14
  Speaker 2: het kan hallucineren... Dan denk ik, als je hallucineert met DNA-strengen,
• 5:17
  Speaker 2: vind ik het wel eng. Even voor duidelijkheid, het gaat
• 5:19
  Speaker 2: puur en alleen om analyse. Dus je kan geen dingen
• 5:21
  Speaker 2: aanpassen in DNA. Het werkt niet met DNA. Het eerst
• 5:24
  Speaker 2: moet je het echt door een analyse-model halen. En dan
• 5:27
  Speaker 2: kan je het hierin stoppen. Maar het is wel heel interessant.
• 5:30
  Speaker 2: En dit is natuurlijk wel hoe AI ook onderzoekers in
• 5:32
  Speaker 2: de toekomst... om dit ook sneller te kunnen doorgronden. We
• 5:38
  Speaker 2: weten nog niet alles over DNA. Heel veel van DNA
• 5:40
  Speaker 2: kunnen we nog niet uitlezen. Ik
• 5:41
  Speaker 1: was wel benieuwd geweest wat een hallucinerend AI-model... dat ook
• 5:44
  Speaker 1: dingen kan veranderen. Dat er binnenkort mensen worden geboren met
• 5:46
  Speaker 1: een paardenstaart. Nou ja, weet ik veel. Vier poten. Wat
• 5:50
  Speaker 1: zit er in de schaal van hebben zometeen? Nog meer AI? Nee,
• 5:54
  Speaker 2: smartwatch. En wel een hele bijzondere. Ik heb er twee om.
• 5:59
  Speaker 2: Dit is de nieuwe Pebble smartwatch. Hoe laat is het? 0754.
• 6:05
  Speaker 2: Ik begreep van jou, Iwan, dat jij vroeger ook de
• 6:07
  Speaker 1: allereerste Pebble smartwatch had. Ja, ik zit in mijn mailbox
• 6:09
  Speaker 1: te kijken wanneer dat is. Dat moet echt misschien wel
• 6:12
  Speaker 1: tien jaar geleden zijn.
• 6:13
  Speaker 2: Dit was een van de allereerste kicks. Die volgens mij
• 6:15
  Speaker 2: door een miljoen heen ging destijds. En het is de
• 6:18
  Speaker 2: eerste smartwatch destijds geweest waar ik ook enthousiast over was.
• 6:22
  Speaker 2: En nu hebben ze een nieuwe versie uitgebracht. Nadat het
• 6:24
  Speaker 2: ooit opgekocht is door Google. Nu is de eigenaar die
• 6:28
  Speaker 2: er destijds mee begonnen is, heeft het weer helemaal teruggekocht.
• 6:31
  Speaker 2: Is er weer mee begonnen. En daar hebben ze nu
• 6:33
  Speaker 2: weer nieuwe modellen uitgebracht. En we gaan dit samen bespreken
• 6:35
  Speaker 2: met onze BNR technicus Brian Esselbrugge. Want hij heeft dit
• 6:38
  Speaker 2: ding gekocht. Hij heeft hem al een paar weken in gebruik.
• 6:42
  Speaker 2: En hij heeft ook wel wat speciaals met AI dan
• 6:44
  Speaker 2: toch wel meegedaan. En daar gaat hij zo nog over
• 6:47
  Speaker 2: vertellen wat hij er allemaal
• 6:48
  Speaker 1: mee
• 6:48
  Speaker 2: kan. En kunnen pebbles iets wat andere slim horloges niet kunnen? Ja,
• 6:53
  Speaker 2: het is helemaal open source. Dus je kan hem helemaal
• 6:55
  Speaker 2: naar je eigen wens instrueren. Het is een soort van
• 6:57
  Speaker 2: de smartwatch voor ultra nerds. Maar Brian en ik vinden
• 7:00
  Speaker 2: ook wel dat het een smartwatch voor de gewone persoon is.
• 7:02
  Speaker 2: Gaan we zo uitleggen waarom. En dan gaan we ook
• 7:05
  Speaker 2: vertellen of je hem moet hebben of niet. Gevonden in
• 7:08
  Speaker 1: mijn mailbox. Pebble Time has successfully been funded 28 maart
• 7:13
  Speaker 2: 2015. Ja, nou, tien jaar later, elf jaar later. Kijken
• 7:15
  Speaker 2: of de nieuwe Pebble Time, en dit is volgens mij
• 7:17
  Speaker 2: de Pebble Time weer... of die het verbeterd heeft. 170
• 7:21
  Speaker 2: dollar kosten de mijne. Dan ga je zo vertellen hoeveel
• 7:23
  Speaker 2: die nu kost. Tien voor tien,
• 7:24
  Speaker 1: dankjewel Stijn Goossens. De BNR Tech Update wordt mede mogelijk
• 7:27
  Speaker 1: gemaakt door Lenklen. Lenklen. Betrokken expertise, gedreven innovaties.