Latest / Tech Update | BNR / VS en China willen 'AI-hotline' opzetten tussen supermachten

Transcript

VS en China willen 'AI-hotline' opzetten tussen supermachten · Tech Update | BNR

• 0:00
  Speaker 1: Joe van Beurik, goedemorgen. Goedemorgen voor al uw digitale zaken, Bas.
• 0:07
  Speaker 1: Het laatste technieuws. We beginnen bij Amerika en China. Dat
• 0:10
  Speaker 1: alvast een voorschot heeft genomen op topoverleg... tussen Trump en
• 0:12
  Speaker 1: Xi Jinping. Later deze week, want er is gesproken... Onder
• 0:19
  Speaker 1: meer over
• 0:20
  Speaker 2: AI. Ja, bij uitstek over AI. En dat verliep ook
• 0:23
  Speaker 2: nog eens zeer succesvol. Althans, als we de woorden van
• 0:26
  Speaker 2: Besant mogen geloven. Want zo leidde zijn reactie na gesprekken
• 0:29
  Speaker 2: van enkele uren in New York... afgelopen weekend, waar hij
• 0:32
  Speaker 2: dus die delegatie uit China alvast ontving. Ook het Chinese
• 0:35
  Speaker 2: staatspersbureau rept over... Open, diepgaande en constructieve gesprekken. Dat hebben
• 0:40
  Speaker 2: we wel eens anders gehoord als die twee partijen elkaar
• 0:42
  Speaker 2: ontmoeten de afgelopen jaren. Het ging overigens uiteraard ook over
• 0:45
  Speaker 2: handel en investeringen. Maar juist over AI, gezien de zorgen
• 0:49
  Speaker 2: die de afgelopen weken zo zijn uitgesproken. En gedeeld door iedereen. Zeker,
• 0:54
  Speaker 2: bij uitstek door sommige AI-ontwikkelaars zelf... vooral van Entropic en OpenAI...
• 0:58
  Speaker 2: maar ook van sommige andere hoogwaardigheidsbekleders. Trump zelf is, zoals
• 1:02
  Speaker 2: we weten, tegen elke vorm van regulering van AI. Maar goed,
• 1:05
  Speaker 2: toch gaat in ieder geval gesproken worden... over hoe nou
• 1:08
  Speaker 2: de veiligheid in de ontwikkeling... en ook inzet van AI
• 1:11
  Speaker 2: in de hand gehouden moet worden... We zijn nog heel
• 1:14
  Speaker 2: ver vandaan als het gaat om maar enig iets concreets
• 1:17
  Speaker 2: wat moet komen. Wat moet lijken op regulering of afspraken.
• 1:20
  Speaker 2: Maar er is wel over gesproken welke stoppen ze nu
• 1:24
  Speaker 2: gaan ondernemen. Een US-China AI-dialog heeft bestend over gesproken. Waarin
• 1:29
  Speaker 2: ze samen gaan praten over wat zijn onze doelen. Wat
• 1:32
  Speaker 2: willen we nou van AI. Wat zijn ook de eventuele
• 1:35
  Speaker 2: bedreigingen die kunnen ontstaan. En hoe gaan we dat samen
• 1:38
  Speaker 2: helder in kaart brengen?
• 1:39
  Speaker 1: Dat is hartstikke mooi. Heeft hij een concreet voorbeeld gegeven...
• 1:42
  Speaker 1: wat hij daar onder meer in wil zien gebeuren?
• 1:44
  Speaker 2: Jazeker. Hij wil een notificatiemechanisme. En dat moet er mede
• 1:49
  Speaker 2: voor zorgen dat er dus meer transparantie komt... tussen de
• 1:52
  Speaker 2: nummer 1 en 2 AI-krachten van de wereld. Dat vindt
• 1:55
  Speaker 2: hij belangrijk. Dan gaan we denk ik even terug naar 1963, Bas.
• 2:00
  Speaker 2: Want ik moet dan het meest denken aan de hotline...
• 2:02
  Speaker 2: die destijds tussen Moskou en Washington werd gelegd. Dat idee
• 2:05
  Speaker 2: was er al, maar die urgentie werd opeens sterk gevoeld
• 2:07
  Speaker 2: na de Cuba-crisis. Nou, zover zijn we nog niet met AI,
• 2:10
  Speaker 2: zou je zeggen. Althans, ook daar is nog niet echt
• 2:12
  Speaker 2: iets misgegaan. Maar er wordt in ieder geval een bepaalde
• 2:15
  Speaker 2: urgentie gevoeld. En juist wanneer er sprake zou zijn van
• 2:18
  Speaker 2: een incident... dat er gevaar kan zijn voor nationale veiligheid...
• 2:21
  Speaker 2: moet er dus direct geschakeld worden tussen de VS en China. Nou,
• 2:24
  Speaker 2: dat is fascinerend. Ook opvallend, Amerikaanse exportrestricties zijn dan weer
• 2:29
  Speaker 2: niet besproken. In ieder geval niet in het overleg afgelopen weekend...
• 2:32
  Speaker 2: We weten dat Nvidia tegenwoordig weer AI-chips mag verkopen in China.
• 2:36
  Speaker 2: Dat mocht al even van Trump, nu mag het ook
• 2:38
  Speaker 2: weer van China. Het enige wat niet is geadresseerd is
• 2:41
  Speaker 2: de verontwaardigheid... die we vaak horen in de VS. Als
• 2:44
  Speaker 2: we kijken naar AI-bedrijven en sommige overheidsfunctionarissen... die vaak Chinese
• 2:48
  Speaker 2: AI-ontwikkelaars beschuldigen van data-aftappen... en andere zaken als het gaat om...
• 2:53
  Speaker 2: jullie zijn alleen maar aan het kopiëren voor jullie eigen modellen...
• 2:56
  Speaker 2: Daar wordt dan vaak weer woedend op gereageerd vanuit China
• 2:58
  Speaker 2: voor ontkenning. Maar goed, dat is dus nog niet geadresseerd.
• 3:01
  Speaker 2: Misschien dat dat later deze week gaat gebeuren. Het wordt
• 3:04
  Speaker 2: in ieder geval interessant om te zien hoe dit dan
• 3:07
  Speaker 2: opvolging gaat krijgen... wanneer Trump en Xi elkaar dat werkelijk
• 3:10
  Speaker 2: treffen in Washington eind deze week.
• 3:11
  Speaker 1: Nog even naar de categorie AI. Want ook hier is
• 3:14
  Speaker 1: het zo van het geval van een hack door AI waargenomen.
• 3:17
  Speaker 1: Zelf gehackte agents
• 3:19
  Speaker 2: Bij Google, wat is er gebeurd? Ja, blijkbaar is ook
• 3:21
  Speaker 2: Gemini nu goed genoeg om dat te doen, Bas. En
• 3:23
  Speaker 2: dan heb ik het niet over hacken, dat besluit het
• 3:26
  Speaker 2: helemaal zelf. Nee, het identificeren van kwetsbaarheid in een digitaal systeem.
• 3:29
  Speaker 2: Een AI die daar dan wel binnen kan komen met
• 3:32
  Speaker 2: een beetje moeite. Autonoom is dat dus niet. Er zitten
• 3:34
  Speaker 2: gewoon mensen achter de knoppen die dat bedenken. Dat doet
• 3:37
  Speaker 2: de AI niet zelf. Maar goed, ook Google kan zich
• 3:39
  Speaker 2: nu dus in deze categorie schaden. Wel net ietsje anders.
• 3:42
  Speaker 2: Het is een iets ander verhaal dan wat we zagen...
• 3:44
  Speaker 2: met de hack bij Hugging Face door OpenAI's agent afgelopen zomer.
• 3:47
  Speaker 2: Dat maakte juist de tongen zo los de afgelopen week ook.
• 3:50
  Speaker 2: En we weten dat Mythos van Anthropic dat natuurlijk ook
• 3:52
  Speaker 2: al kan... Het voorval met Google deed zich trouwens in
• 3:56
  Speaker 2: mei al voor. Het gebeurde vanuit een derde partij, genaamd Irregular...
• 4:00
  Speaker 2: die cybersecurity-tests uitvoert voor verschillende AI-ontwikkelaars. De Wall Street Journal
• 4:05
  Speaker 2: schrijft erover. Alleen nu pas heeft Google het bevestigd. Ze
• 4:08
  Speaker 2: zeggen ook, het is niet een gevalletje misalignment. Dus AI
• 4:11
  Speaker 2: die iets doet wat wij mensen niet zouden doen... vanwege
• 4:13
  Speaker 2: ethische normen. Het was gewoon een kwestie van brute force
• 4:16
  Speaker 2: Het wachtwoord, vaak genoeg raden En toen waren ze binnen
• 4:19
  Speaker 2: En by the way, de partijen bij wie dit gebeurde
• 4:21
  Speaker 2: waren ook gewoon in de loop Dus het was eigenlijk
• 4:23
  Speaker 2: vooral procedureel Om de ontwikkeling goed te laten plaatsvinden Dankjewel,
• 4:27
  Speaker 2: Joe van Buurk
• 4:27
  Speaker 1: De BNR Tech Update wordt mede mogelijk gemaakt door Lenklen Lenklen,
• 4:32
  Speaker 1: betrokken expertise, gedreven innovaties