Latest / Tech Update | BNR / Chinees AI-model Kimi van Moonshot te misbruiken voor biologische wapens

Transcript

Chinees AI-model Kimi van Moonshot te misbruiken voor biologische wapens · Tech Update | BNR

• 0:01
  Speaker 1: Een bekend AI-model heeft zich laten inzetten... ja, zo zeg
• 0:06
  Speaker 1: je dat dan... voor hulp bij het maken van biologische wapens.
• 0:10
  Speaker 1: En dat is nou precies iets wat veel ontwikkelaars... helemaal
• 0:13
  Speaker 1: niet vinden moeten kunnen. Wat gaat er precies mis? En
• 0:16
  Speaker 1: hoe moeten we daarmee omgaan? Een nieuwe AI-vraag op ons pad.
• 0:19
  Speaker 1: We gaan het bespreken met Jo van Buurik van BNR's Tech-redactie.
• 0:22
  Speaker 1: Dag
• 0:22
  Speaker 2: Lisbeth en Niels, hallo.
• 0:23
  Speaker 1: Een bekend AI-model, nou zeg maar, wie was het?
• 0:26
  Speaker 2: Kimi, kennen jullie hem nog? Van het Chinese Moonshot. Eerder
• 0:31
  Speaker 2: dit jaar veel over gehad hadden. Toen hadden we het
• 0:33
  Speaker 2: over Kimi K3. Wat opeens heel erg kundig bleek. En
• 0:36
  Speaker 2: een variant daarvan, K3 Swarm. En ook een eerdere versie, K2.6.
• 0:41
  Speaker 2: zijn blijkbaar overtuigend of niet zo goed... in het opvolgen
• 0:46
  Speaker 2: van de veiligheidsmaatregelen... als je ze maar blijft pushen. Blijkt
• 0:49
  Speaker 2: uit een bericht van de BBC... na een onderzoek door Mindguard...
• 0:53
  Speaker 2: dat is een tester van de IS-systemen... op zulke veiligheidsrestricties.
• 0:57
  Speaker 2: Die ontdekten in juli van dit jaar al tijdens het jailbreak...
• 1:00
  Speaker 2: dus dat ze opzettelijk proberen om... Met complexe instructies om
• 1:04
  Speaker 2: de veiligheidsbeperkingen heen te gaan. En zo de AI om
• 1:07
  Speaker 2: de tuin te leiden. Dat ze daar dingen mee konden doen.
• 1:09
  Speaker 2: Die eigenlijk niet de bedoeling zijn. Want ja, in principe
• 1:12
  Speaker 2: is het heel duidelijk. AI moet niet gebruikt worden voor
• 1:14
  Speaker 2: biologische wapens. En al helemaal niet hoe je daar dodelijke
• 1:16
  Speaker 2: aanvallen mee kan uitvoeren.
• 1:18
  Speaker 1: Ook volgens de
• 1:19
  Speaker 2: Chinese regels
• 1:19
  Speaker 1: niet
• 1:20
  Speaker 2: Ook volgens de Chinese niet. Zelfs daar willen ze dat niet.
• 1:22
  Speaker 2: Maar goed, belangrijke kanttekening is dat Mindguard niet heeft kunnen
• 1:25
  Speaker 2: bewijzen dat de instructies ook echt werken. Want dan zouden
• 1:28
  Speaker 2: ze daadwerkelijk moeten overgaan tot het kunnen proberen van maken
• 1:31
  Speaker 2: van biologische wapens
• 1:33
  Speaker 1: Dus ze hebben alleen
• 1:34
  Speaker 2: instructies ertoe uit
• 1:35
  Speaker 1: het
• 1:35
  Speaker 2: systeem gekregen. Maar het punt is dus dat de guardrails
• 1:38
  Speaker 2: niet effectief genoeg zijn. En dat dus ook als een
• 1:40
  Speaker 2: model eenmaal gejillbroken is, dat je potentieel nog meer kwaadaardige
• 1:44
  Speaker 2: zaken kan bespreken met zo'n AI. En daar dus ook
• 1:46
  Speaker 2: input voor.
• 1:47
  Speaker 1: Ja, want het is dus nu niet misgegaan.
• 1:49
  Speaker 2: Ze
• 1:49
  Speaker 1: hebben niet die opdrachten uitgevoerd. Nee, er is niet dat
• 1:52
  Speaker 1: werk biologisch
• 1:52
  Speaker 2: schapig gemaakt en gebruikt.
• 1:54
  Speaker 1: Maar het feit dat als je maar lang genoeg diverse
• 1:56
  Speaker 1: prompts erin gooit... en blijft aandringen, dat zo'n model dan
• 1:59
  Speaker 1: wel zegt... oké, ik ga je helpen. Exact. En het
• 2:01
  Speaker 2: feit dat Moonshot dit in eerste instantie... niet heel serieus
• 2:04
  Speaker 2: leek te nemen. Want eind juli kwam Mindguard hier al
• 2:06
  Speaker 2: over op de lijn. Een week later weer. Geen serieuze terugkoppeling.
• 2:10
  Speaker 2: Zelfs niet toen ze een blog postten, Mindguard, in september...
• 2:13
  Speaker 2: En pas toen de BBC eraan te pas kwam... kwam
• 2:16
  Speaker 2: Moonshot opeens op de lijn met het verweer. Ja, het
• 2:18
  Speaker 2: model weigert heel vaak in te gaan op zulke verzoeken
• 2:21
  Speaker 2: aan AI. Ja, maar niet altijd dus. En dan is
• 2:24
  Speaker 2: Kimi ook nog eens een open AI-model... dat ieder zelf
• 2:27
  Speaker 2: kan draaien zonder toezicht. Heb je een heel ander soort
• 2:29
  Speaker 2: discussie dan wel of geen distracties op AI-systemen van Entropic
• 2:33
  Speaker 2: of OpenAI. Het gesprek dat we de laatste weken zo
• 2:35
  Speaker 2: zien domineren. Maar ja, ook die open modellen uit met
• 2:38
  Speaker 2: name China worden steeds beter. En ook zeggen ze dan
• 2:40
  Speaker 2: bij Moonshot, ja, we doen er echt wel iets tegen.
• 2:44
  Speaker 2: Maar ik denk ook terug aan wat Entropic zei eerder
• 2:46
  Speaker 2: dit jaar. Namelijk dat Moonshot weer data zou afgetapt hebben
• 2:49
  Speaker 2: van Entropic. Dus kun je ook nog vragen, waar zit
• 2:51
  Speaker 2: dit probleem precies in oorsprong? Wat moeten we ermee doen?
• 2:55
  Speaker 2: En wat is nou exact de oplossing? Dat weten we
• 2:58
  Speaker 2: dan nog weer niet.
• 2:59
  Speaker 1: Dan gaan we nog even naar Apple. Dat komt binnen
• 3:01
  Speaker 1: twee weken al met een heel nieuw soort product voor
• 3:04
  Speaker 1: in huis.
• 3:05
  Speaker 2: Ja, ik ben wel benieuwd als jullie dit ook gaan
• 3:07
  Speaker 2: kopen op termijn... of dit leuke situaties gaat opleven aan
• 3:09
  Speaker 2: de keukentafel. Want dit gaat om smart home. Iets waar
• 3:12
  Speaker 2: Apple niet heel veel te bieden heeft. Los van de HomePod,
• 3:14
  Speaker 2: die is al jaren oud. De Apple TV, het kastje
• 3:16
  Speaker 2: voor bij de tv. Maar nu gaan ze iets nieuws
• 3:18
  Speaker 2: presenteren op 13 oktober... volgens de berichten van Bloomberg onder
• 3:21
  Speaker 2: de noemer J490.
• 3:24
  Speaker 1: Ik wacht niet dat
• 3:26
  Speaker 2: het zo gaat heten, Apple Canada. Nee, wat is het? Nou,
• 3:28
  Speaker 2: een scherm om in je huis te bevestigen. Aan de
• 3:31
  Speaker 2: muur of op een voet. Formaat 6 inch. En daarop
• 3:34
  Speaker 2: kun je dan allerlei zaken gaan beheersen. Nou, we kennen
• 3:36
  Speaker 2: het wel, hè. Temperatuur, persoonlijke zaken. Google heeft dat al
• 3:39
  Speaker 2: met de Home Hub. Amazon heeft de Echo. En Apple
• 3:42
  Speaker 2: wil dat dus ook, hè. Zijn natuurlijk ook met hun
• 3:44
  Speaker 2: eigen AI-poes bezig, met Siri AI. En dat moet zich
• 3:47
  Speaker 2: dus ook vertalen in een schermpje... Los van je telefoon,
• 3:50
  Speaker 2: je iPhone en je iPad. Dus ook nog een schermpje
• 3:52
  Speaker 2: ergens bevestigd.
• 3:53
  Speaker 1: Een soort control room van je huis. Exact,
• 3:55
  Speaker 2: een smart home hub noemen we dat dan. Maar de
• 3:58
  Speaker 2: onderscheidende factor moet zijn, zegt Bloomberg... dat elk lid van
• 4:01
  Speaker 2: het huishouden herkend moet worden... en elke keer weer andere
• 4:04
  Speaker 2: persoonlijke aanbeveling moet krijgen. En dat
• 4:06
  Speaker 1: is een beetje het dingetje. Wat ga
• 4:07
  Speaker 2: ik daarmee doen dan? Je thermostaat? Ja, prangender. Je zit
• 4:12
  Speaker 2: aan de keukentafel, er wordt gegeten, er mag even muziekje op... Ja,
• 4:15
  Speaker 2: de suggesties die jullie krijgen zijn heel anders... dan als
• 4:17
  Speaker 2: jullie kinderen naar dat scherm toe lopen. Want het moet
• 4:19
  Speaker 2: gepersonaliseerd
• 4:20
  Speaker 1: zijn
• 4:21
  Speaker 2: En dan krijg je weer ruzie over...
• 4:22
  Speaker 1: Ah, nog meer discussie. Tegen mij zegt
• 4:23
  Speaker 2: Siri dat we dit gaan luisteren
• 4:25
  Speaker 1: tijdens het eten van de pasta. Ik
• 4:26
  Speaker 2: zeg gewoon, we gaan een
• 4:27
  Speaker 1: plaatje opzetten. Ja, dat lijkt me op jou weer leuk
• 4:29
  Speaker 2: Bij mij is het helemaal moeilijk, want als mijn kinderen...
• 4:31
  Speaker 2: mijn oudsten dan naar dat scherm kloppen... krijgen we echt
• 4:32
  Speaker 2: alleen maar palpertrolmuziek. Jullie zullen nog iets meer...
• 4:36
  Speaker 1: Daar zijn
• 4:37
  Speaker 2: we
• 4:38
  Speaker 1: net uit. Nou, ik kom binnenkort bij je eten, Joe.
• 4:40
  Speaker 1: Ik ben heel benieuwd. Dank je wel. De BNR Tech
• 4:43
  Speaker 1: Update wordt mede mogelijk gemaakt door Lenklen. Lenklen. Betrokken expertise,
• 4:48
  Speaker 1: gedreven innovatie.