Latest / Tech Update | BNR / Australische premier eist internationale actie in VN-speech na hack door AI-agent

Transcript

Australische premier eist internationale actie in VN-speech na hack door AI-agent · Tech Update | BNR

• 0:00
  Speaker 1: Ja, die zit gewoon in de studio. Stijn Goossens, goedemorgen.
• 0:07
  Speaker 1: dat AI-agents van OpenAI ook in de digitale systemen... van
• 0:10
  Speaker 1: de Australische overheid binnenkwamen. En wat moet dat gewoon toch
• 0:14
  Speaker 1: een cadeau zijn geweest... voor Anthony Albanese, de premier van Australië...
• 0:18
  Speaker 1: die op dat moment gewoon bij de algemene verhaling... van
• 0:21
  Speaker 1: de Verenigde Naties stond. Sam
• 0:22
  Speaker 2: Elman,
• 0:23
  Speaker 1: die was er ook
• 0:25
  Speaker 2: Het was ook reden voor de Australische premier Anthony Albanese...
• 0:28
  Speaker 2: om toch in zijn speech er uitdrukkelijke aandacht aan te besteden.
• 0:32
  Speaker 3: Recentelijk werd een artificieel intelligente agent geïnfiltreerd... een Australische regering website.
• 0:40
  Speaker 3: Dit is onafhankelijk. En dat is waarom Australië de weg
• 0:44
  Speaker 3: leidt in het ontwikkelen van Australische standaarden voor AI. We
• 0:49
  Speaker 3: kunnen AI niet vergeten of het beperken. En dat is
• 0:53
  Speaker 3: waarom we deze week met andere landen gejoind zijn om
• 0:56
  Speaker 3: actie te kiezen om artificiële intelligentele ontwikkeling te vormen, in
• 1:02
  Speaker 3: plaats van passief te vormen. Ja, het was een prachtige
• 1:05
  Speaker 3: speech wat dat betreft
• 1:07
  Speaker 2: We can't ignore, prevent it. Ja, en toch nog even
• 1:11
  Speaker 2: over die Australische hack in Australië. Volgens onderzoekers die daarnaar
• 1:16
  Speaker 2: hebben gekeken... was dit ook nog eens onderdeel van een
• 1:18
  Speaker 2: grotere poging tot AI-hacks. Een nieuw rapport van die onderzoeksgroep Transluce...
• 1:22
  Speaker 2: die hiermee naar buiten kwamen... zou ook op drie andere
• 1:25
  Speaker 2: sites van onder andere overheid en universiteiten... een poging zijn
• 1:29
  Speaker 2: gedaan om data te verzamelen. En volgens de onderzoekers zou
• 1:33
  Speaker 2: dat ook dit keer geen gerichte hekaanval zijn... maar puur
• 1:36
  Speaker 2: uit doel om een taak te voltooien om data te verzamelen.
• 1:40
  Speaker 2: En als dat dan niet lukte, dat ze daardoor toch
• 1:42
  Speaker 2: zelf hektactieken zijn gaan bedenken... En in die data van
• 1:46
  Speaker 2: de onderzoekers staat dat het in maart al begonnen is...
• 1:49
  Speaker 2: en dat het tot vorige week doorging, in september dus nog.
• 1:52
  Speaker 2: En ze zeggen ook, het zou zomaar kunnen zijn... dat
• 1:54
  Speaker 2: het op dit moment nog steeds gebeurt. De AI-veiligheid staat
• 1:58
  Speaker 2: sowieso behoorlijk centraal... tijdens die VN-top van de afgelopen dagen.
• 2:02
  Speaker 2: Ook dus OpenAI-CEO Sam Elpen en Antropox-CEO Dario Amadei... hebben
• 2:07
  Speaker 2: hier speeches over gegeven, spraken daar over deze week. En Australië,
• 2:11
  Speaker 2: zoals je net hoorde, wil dus dat er echt actie komt...
• 2:14
  Speaker 2: En ik verwacht dat dat nu toch ook wel
• 2:16
  Speaker 1: gaat komen. Dat zei ik al. Het kwam op zo'n
• 2:18
  Speaker 1: mooi moment. En zo'n mooi... Die timing is bijna... Misschien
• 2:20
  Speaker 2: hadden
• 2:21
  Speaker 1: ze het wel gepland. Daar is het zo geworden. Elon
• 2:24
  Speaker 1: Musk krijgt bijval van de Amerikaanse overheid... in zijn rechtszaak
• 2:26
  Speaker 1: tegen een boete van de Europese Unie. Want dat is
• 2:28
  Speaker 1: allemaal onterecht.
• 2:29
  Speaker 2: Wat wij allemaal doen... Volgens Musk wel. Dit gaat om
• 2:32
  Speaker 2: een boete die in december is uitgedeeld door de EU...
• 2:34
  Speaker 2: aan Musk Online Platform X. 120 miljoen dollar. Omdat ik
• 2:37
  Speaker 2: zich niet zou houden aan de regels van het Digital
• 2:39
  Speaker 2: Services Act... Die stelt dat het online platform transparanter moet zijn...
• 2:43
  Speaker 2: over wat ze met gebruikersdata doen... en de klanten niet
• 2:46
  Speaker 2: zomaar mag misleiden... met bijvoorbeeld dat blauwe vinkje voor een
• 2:49
  Speaker 2: verified account. Musk vocht die boete dus aan met een rechtszaak...
• 2:53
  Speaker 2: en nu wil dus het Amerikaanse ministerie van Justitie... daarbij
• 2:56
  Speaker 2: springen om Musk bij te staan. Want volgens hen overschrijdt
• 2:59
  Speaker 2: de EU haar bevoegdheden... en mag het Amerikaanse bedrijven niet
• 3:01
  Speaker 2: zomaar aanpakken... als die niet in Europa ondernemen, actief zijn.
• 3:05
  Speaker 2: Dan zou je denken, X is toch actief... maar die
• 3:07
  Speaker 2: hebben dus geen hoofdkantoor vandaar. Ook zou volgens hen de
• 3:10
  Speaker 2: boete onredelijk hoog zijn... omdat gekeken wordt naar de inkomsten
• 3:14
  Speaker 2: uit alle bedrijven van Musk. En dan gaat het hier
• 3:16
  Speaker 2: over SpaceX AI, want X is onderdeel van SpaceX. Maar
• 3:19
  Speaker 2: volgens de VS moeten ze gewoon naar X-inkomsten kijken... van
• 3:22
  Speaker 2: het platform zelf. De EU heeft meer gedoe met Musk,
• 3:26
  Speaker 2: ook rond chatbot Grok. En ook Apple kreeg bijvoorbeeld nog
• 3:29
  Speaker 2: een boete binnen de Digital Markets Act. En Trump heeft
• 3:31
  Speaker 2: ook al vaker gezegd, dat soort boetes... zijn gewoon een
• 3:34
  Speaker 2: vorm van belasting, daar is hij niet blij mee. Nu
• 3:36
  Speaker 2: gaan ze zich dus ook echt mee bemoeien.
• 3:38
  Speaker 1: Nou, dag. Mocht je ooit benieuwd zijn naar je familiestamboom...
• 3:41
  Speaker 1: dan moet je geen AI gebruiken, zegt het Drents Archief.
• 3:44
  Speaker 1: En waarom weten die dat je dat niet moet doen
• 3:47
  Speaker 2: Ik denk dat jij het ook wel weet. Dat zorgt
• 3:49
  Speaker 2: voor fouten.
• 3:50
  Speaker 1: Hallucinaties. Volgens het
• 3:53
  Speaker 2: archief komt het al vaker voordat mensen AI gebruiken... om
• 3:56
  Speaker 2: onderzoek te doen naar de geschiedenis van hun familie.
• 3:58
  Speaker 1: Dan
• 3:59
  Speaker 2: kloppen ze aan bij het archief. En dan vragen ze
• 4:01
  Speaker 2: documenten op die niet bestaan.
• 4:03
  Speaker 1: Die zijn nooit geïnteresseerd. En dan komen ze met namen
• 4:05
  Speaker 1: van mensen die verzonden zijn. Die nooit bestaan hebben. Exact.
• 4:08
  Speaker 1: Goed zo
• 4:09
  Speaker 2: Was te verwachten natuurlijk. Volgens de RTV Drenthe hebben meer
• 4:12
  Speaker 2: archieven ook last van dit probleem. Bij circa 10% van
• 4:15
  Speaker 2: de aanvragen bij zo'n archief wordt ook AI gebruikt. En
• 4:18
  Speaker 2: de mensen die daar dan bij aankloppen zijn er zo
• 4:21
  Speaker 2: van overtuigd dat het klopt. Maar het kost zo'n archief
• 4:23
  Speaker 2: gewoon heel veel tijd om dat te gaan onderzoeken
• 4:25
  Speaker 1: Dat
• 4:25
  Speaker 2: het omzin is. Nee, dat komt met helemaal niks. Ze
• 4:29
  Speaker 2: zeggen wel, het Drentse archief... AI kan ook helpen. Bijvoorbeeld
• 4:33
  Speaker 2: bij het ontcijferen van oude handschriften. En het ordenen van data.
• 4:37
  Speaker 2: Maar wees kritisch. Check je bronnen. Geloof niet alles wat
• 4:41
  Speaker 2: er uit zo'n chatbot komt. En dan kan het archief
• 4:44
  Speaker 2: ook weer wat harder werken. Want uiteindelijk zitten daar gewoon
• 4:47
  Speaker 2: vrijwilligers te werken voor je.
• 4:48
  Speaker 1: Dus je
• 4:48
  Speaker 2: moet niet zomaar allemaal ontzettend naar ze toe gooien.
• 4:50
  Speaker 1: Heel fijn, wat een goede tip. Zometeen, schaal van hebben,
• 4:53
  Speaker 1: tien voor tien. Ja, ik mag er weer eens bij zijn,
• 4:55
  Speaker 1: hartstikke leuk. Gaan we doen. Speciaal voor jou, de iPhone
• 4:58
  Speaker 1: 18 Pro. Oh, ik heb net een
• 5:00
  Speaker 2: 17 Pro gekocht. Ja, potverdorie. Dan gaan we zo even
• 5:02
  Speaker 2: bespreken of dat
• 5:03
  Speaker 1: een goede proop
• 5:03
  Speaker 2: was of niet. Misschien kan ik je blij maken. Interessant
• 5:06
  Speaker 2: aan die 18 Pro, hij wordt een beetje overschaduwd door
• 5:09
  Speaker 2: die iPhone Duo die in oktober uitkomt. En die verklappert.
• 5:11
  Speaker 2: Dat is bling-bling en natuurlijk het meest interessante nieuwe iPhone.
• 5:16
  Speaker 2: Maar ja, misschien is deze iPhone 18 Pro toch nog
• 5:18
  Speaker 2: wel wat interessanter dan je denkt. Dat vind ik mooi
• 5:21
  Speaker 1: om te horen. En jij met
• 5:22
  Speaker 2: je 17 pro, ga ik je zo vertellen
• 5:23
  Speaker 1: Met je oude vieze ding. Ik hoorde je denken. Ja,
• 5:25
  Speaker 1: dank je wel. Stijn Roosens. De BNR Tech Update wordt
• 5:27
  Speaker 1: mede mogelijk gemaakt door Lenklen.