Latest / Tech Update | BNR / OpenAI en Anthropic vertellen bij VN-Veiligheidsraad over AI-risico's en OpenAI-agent hackt Australische overheid

Transcript

OpenAI en Anthropic vertellen bij VN-Veiligheidsraad over AI-risico's en OpenAI-agent hackt Australische overheid · Tech Update | BNR

• 0:00
  Speaker 1: Ik vind het een mooie verhaal. We gaan naar Niels Koloos,
• 0:04
  Speaker 1: die is aangeschoven in de studio, onze tech-redacteur. Niels, goedemorgen. Goedemorgen,
• 0:08
  Speaker 1: Bas en Nina. Ja, en dan hebben we Open AI-topman
• 0:11
  Speaker 1: Sam Oldman en Topman Thario Amole. Allebei de VNV. Veiligheidsraad
• 0:15
  Speaker 1: toegesproken over de gevaren en risico's van AI. Hebben ze
• 0:19
  Speaker 1: daar nog iets anders in gezegd... dat we tot nu
• 0:21
  Speaker 1: toe al van ze hoorden? Nou ja, het was op
• 0:23
  Speaker 1: zich een hele
• 0:23
  Speaker 2: opvallende sessie, Bas. Want allereerst viel op dat Amodai en Altman...
• 0:27
  Speaker 2: los van elkaar hun praatje hielden gisteravond onze tijd. Amodai
• 0:30
  Speaker 2: belde in op afstand en Altman zat fysiek bij de Veiligheidsraad...
• 0:33
  Speaker 2: een beetje op het hoekje van de u-vormige tafel. En
• 0:37
  Speaker 2: allebei vertelden ze net wat anders... over hoe we met
• 0:39
  Speaker 2: AI om moeten gaan als mensheid. En Altman was opvallend
• 0:42
  Speaker 2: genoeg een stuk gematigder...
• 0:44
  Speaker 3: We hebben een keuze voor ons. AI kan meer zijn
• 0:47
  Speaker 3: als een nieuwe renaissance van creativiteit en ontdekking. Ja, hij
• 0:51
  Speaker 3: had
• 0:54
  Speaker 2: het helemaal niet over de mogelijkheid... dat AI de mensheid
• 0:57
  Speaker 2: kan uitvoeren. Dat heeft hij eerder dus wel heel erg gezegd.
• 1:01
  Speaker 2: Het ging veel meer bij de Veiligheidsraad... om de oproep
• 1:03
  Speaker 2: dat overheden een stuk meer betrokken moeten zijn... bij de
• 1:06
  Speaker 2: ontwikkeling van AI. Hij zegt eigenlijk, kom eens met wetgeving
• 1:08
  Speaker 2: en met betere regels... want je kan niet alle beslissingen overlaten...
• 1:11
  Speaker 2: aan een paar ontwikkelaars in San Francisco zoals OpenAI... fascinerend
• 1:15
  Speaker 2: dat hij dat zegt. Ja, inderdaad. En hij benadrukt er
• 1:17
  Speaker 2: ook niet na dat we letterlijk niet al te veel
• 1:19
  Speaker 2: moeten doemdenken. Maar Bas, toen kwam Dario Amodai met zijn
• 1:23
  Speaker 2: hoofd op een gigantisch scherm en toen zei hij dit.
• 1:25
  Speaker 3: If
• 1:25
  Speaker 2: managed
• 1:26
  Speaker 3: poorly, I even believe that AI could be a risk
• 1:29
  Speaker 3: to
• 1:30
  Speaker 2: humanity
• 1:31
  Speaker 1: as
• 1:31
  Speaker 2: a whole. Goed afgestemd. Inderdaad, die eerste heel gematigd verhaal
• 1:35
  Speaker 2: van Albin van jongens, het valt mee. We moeten gewoon
• 1:37
  Speaker 2: de juiste keuzes maken. Dan komt Amodai met jongens, we
• 1:39
  Speaker 2: gaan allemaal dood. We moeten nu echt keuzes maken. Dus
• 1:41
  Speaker 2: ik vond het heel interessant. Maar natuurlijk nuanceerde Amodai zijn
• 1:44
  Speaker 2: verhaal ook een beetje. Het was niet allemaal doem en on-el.
• 1:47
  Speaker 2: Hoewel het een beetje een samenvatting was van zijn essay...
• 1:49
  Speaker 2: van begin deze maand. En dat is zeg maar het
• 1:51
  Speaker 2: stukje tekst... dat deze hele discussie wereldwijd over
• 1:54
  Speaker 1: Eos Recos... voor een
• 1:55
  Speaker 2: groot deel heeft aangeswengeld inderdaad. Wat de Veiligheidsraad met deze
• 1:58
  Speaker 2: boodschappen gaat doen... is nog niet duidelijk. Daar hebben ze
• 2:00
  Speaker 2: ook nog geen besluiten over genomen. We moeten eerst maar
• 2:02
  Speaker 2: eens zien wat Xi Jinping en Donald Trump... vandaag met
• 2:04
  Speaker 2: elkaar gaan bespreken over AI. Want ook dat staat daar
• 2:06
  Speaker 2: op de agenda. Zeker.
• 2:08
  Speaker 1: Maar toch eventjes, die speech van Oldman was best slecht getuind.
• 2:12
  Speaker 1: Want terwijl hij bij de Veiligheidsraad zat... meldde de Australische
• 2:15
  Speaker 1: premier Anthony Albanese... dat een AI-agent, notabene van OpenAI en
• 2:20
  Speaker 1: van Oldman... Een overheidswebsite, nou niet één, maar zelfs drie
• 2:23
  Speaker 1: heeft gehackt... en daar alle informatie uit weggehaald
• 2:25
  Speaker 2: Ik weet niet wat erger is, Bas. Een AI-agent die
• 2:27
  Speaker 2: een site pakt of een wereldberoemde hackersbende. Maar goed, in
• 2:31
  Speaker 2: Australië was het dus een AI-agent van OpenAI. Die brak
• 2:34
  Speaker 2: volgens de Australische overheid in juni in... op een medische
• 2:37
  Speaker 2: portaal voor zorgverzekeringen... Dat vertelde Anthony Albanese dus, bij de
• 2:40
  Speaker 2: VN nota bene. En tot zover bekend zijn er geen
• 2:43
  Speaker 2: gevoelige gegevens buitgemaakt... want die stonden gelukkig niet op de site.
• 2:46
  Speaker 2: Het ging veel meer om statistieken, over uitgaven voor de zorg,
• 2:49
  Speaker 2: et cetera. Maar het feit dat die agent toegang kreeg
• 2:52
  Speaker 2: tot verborgen informatie... is wat Albanese betreft... Reden genoeg om
• 2:55
  Speaker 2: quote extreme zorgen te uiten. En hij was ook niet
• 2:59
  Speaker 2: blij met het feit... dat Open AI pas op 10
• 3:01
  Speaker 2: september over het incident informeerde. Terwijl het dus in juni
• 3:04
  Speaker 2: is gebeurd. Verder lijkt de schade wel mee te vallen.
• 3:07
  Speaker 2: Maar er wordt nog altijd onderzoek gedaan. En er wordt
• 3:09
  Speaker 2: ook niet uitgesloten dat er meer overheidssystemen slachtoffer zijn.
• 3:13
  Speaker 1: Dan niet veel anders. Ik vond het heel opmerkelijk. Metra,
• 3:16
  Speaker 1: het bedrijf van Zuckerberg. Ook makers van de perverse brillen.
• 3:20
  Speaker 1: De gluurbril. De gluurbril met die camera erin. Nou, die
• 3:23
  Speaker 1: heeft gisteren de oplossing gepresenteerd. Er komt een slimme bril aan.
• 3:26
  Speaker 1: Zonder camera. Ja, een keertje. Geen bril. Je
• 3:30
  Speaker 2: hoeft alleen nog het geluid eruit te halen. En dan
• 3:32
  Speaker 2: heb je gewoon weer
• 3:32
  Speaker 1: een
• 3:33
  Speaker 2: normale bril inderdaad. Maar goed, op die camerabrillen Bas. Daar
• 3:36
  Speaker 2: blijft Metra nog wel hartstikke trots op. Zo trots zelf.
• 3:39
  Speaker 2: Zelfs dat het bedrijf gisteren een video van Roel Maalderink...
• 3:42
  Speaker 2: over de camerabrillen verwijderde van Instagram. Die ging namelijk met
• 3:46
  Speaker 2: een bril op z'n neus naar een kantoor van Meta...
• 3:47
  Speaker 2: in Amsterdam, samen met Bits of Freedom... om aan medewerkers
• 3:50
  Speaker 2: te vragen of zij het leuk vonden... om haast ongemerkt
• 3:53
  Speaker 2: gefilmd te worden.
• 3:54
  Speaker 4: Ik heb hem binnen hoor, de Meta-bril. Kijk, dat is
• 3:57
  Speaker 4: gewoon een heel vet ding. En hierachter is het kantoor
• 3:59
  Speaker 4: van Meta. En daar vind je die bril natuurlijk ook
• 4:01
  Speaker 4: hartstikke vet. You're from Meta, right? Meta, start filming. Of
• 4:05
  Speaker 4: u even
• 4:07
  Speaker 2: wil stoppen met filmen. Of u even wil stoppen, inderdaad.
• 4:10
  Speaker 2: Veel van die medewerkers vonden het natuurlijk niet leuk. En
• 4:13
  Speaker 2: Mertha vond het dus ook niet leuk. En sowieso zien
• 4:15
  Speaker 2: we wereldwijd een beetje verzet tegen die gluurbril van Mertha.
• 4:18
  Speaker 2: De pervertbril heet die toch? De pervertglas is inderdaad. De
• 4:20
  Speaker 2: glasholes worden de gebruikers ook wel genoemd. Maar het bedrijf
• 4:23
  Speaker 2: komt nu dus met, zoals de bril heet, de Ray-Ban Audio.
• 4:27
  Speaker 2: Een slimme bril zonder camera, maar nog wel met geluid dus,
• 4:29
  Speaker 2: zoals je al zei Bas. En gelijk een tip voor
• 4:31
  Speaker 2: Mertha opnieuw. Bij de volgende bril kan je het geluid
• 4:33
  Speaker 2: eruit halen. Dan heb je gewoon de
• 4:34
  Speaker 1: Ray-Ban.
• 4:35
  Speaker 2: Dan zijn we gewoon terug bij af.
• 4:38
  Speaker 1: Maar
• 4:38
  Speaker 2: wacht wel even, wat kan je met een bril met geluid?
• 4:41
  Speaker 2: Met zo'n slimme bril kan je bijvoorbeeld naar muziek luisteren...
• 4:43
  Speaker 2: door met je vingers op het montuur te zitten. Je
• 4:45
  Speaker 2: kan bellen, natuurlijk met AI praten. Wat is het weer?
• 4:47
  Speaker 2: Wat staat er op mijn agenda? Het is eigenlijk een
• 4:49
  Speaker 2: soort verlengde van een smartwatch... maar dan op je neus.
• 4:52
  Speaker 2: Gewoon je oortjes, maar dan in je bril
• 4:54
  Speaker 1: Maar dan met
• 4:54
  Speaker 2: twee ruiten. Inderdaad, met twee ruiten. Maar waarom dit ding
• 4:58
  Speaker 2: überhaupt bestaat... heeft Meta-baas Mark Zuckerberg een soort van gezegd
• 5:02
  Speaker 5: gisteravond. Ja, precies dit. Je haalt
• 5:17
  Speaker 1: de camera eruit en dan ziet het eruit als een
• 5:20
  Speaker 2: bril. Ja, maar dit is dus een enorm flut-excuse, Bas.
• 5:23
  Speaker 2: Want zoek die camera-variant van Meta's bril maar eens op.
• 5:26
  Speaker 2: Ook die lijkt gewoon enorm op een normale... Ray-Ban
• 5:29
  Speaker 1: zonnebril op
• 5:30
  Speaker 2: normale bril. Nou inderdaad, en bovendien, hij zegt dus ja,
• 5:32
  Speaker 2: veel lichter, makkelijker, we kunnen beter ontwerpen. Journalisten die in
• 5:35
  Speaker 2: de zaal zaten, die konden ook die audiobril even vasthouden
• 5:38
  Speaker 2: en wegen. Het gewichtsverschil is maar een gram of zeven.
• 5:41
  Speaker 2: En zelfs op brilformaat is dat gewoon heel erg weinig.
• 5:44
  Speaker 2: Dus ik zou die slimme bril gewoon lekker in het
• 5:45
  Speaker 2: schap laten liggen, Bas. Gewoon naar de echte opticiën of
• 5:47
  Speaker 2: een echte zonnebril halen, inderdaad. En ook nog belangrijk om
• 5:51
  Speaker 2: te benoemen. De autoriteit persoonsgegevens kwam eerder deze week nog
• 5:54
  Speaker 2: even in de lucht. Met een belangrijke boodschap. Mensen filmen
• 5:56
  Speaker 2: of fotograferen met zo'n bril in de openbare ruimte... is
• 5:59
  Speaker 2: bijna in alle gevallen gewoon verboden. Zeker als je die
• 6:02
  Speaker 2: beelden online wilt delen. Dus nogmaals, ik zou gewoon lekker
• 6:05
  Speaker 2: een normale bril op mijn neus zetten. Of een zonnebril.
• 6:07
  Speaker 2: Fijn dat we radio zijn, hè? Ja,
• 6:09
  Speaker 1: dankjewel. Nieuwsgoloos.