Latest / Tech Update | BNR / OpenAI doorzoekt 50 petabyte aan data na incidenten met agents

Transcript

OpenAI doorzoekt 50 petabyte aan data na incidenten met agents · Tech Update | BNR

• 0:02
  Speaker 1: Stijn Goossens, goedemorgen. Goedemorgen Bas. OpenAI zou meer dan 100
• 0:06
  Speaker 1: bedrijven geïnformeerd hebben over incidenten... waarbij hun AI-agents rogue gingen,
• 0:11
  Speaker 1: betrokken waren, zelf inbraken... of probeerden ergens omheen te komen.
• 0:15
  Speaker 1: Wat voor incidenten zijn dat precies? Ze noemen het
• 0:16
  Speaker 2: zelf ongeautoriseerd toegang hadden... En dat zou dus bij meer
• 0:20
  Speaker 2: dan 100 bedrijven het geval zijn geweest. De afgelopen tijd
• 0:23
  Speaker 2: heeft OpenAI actiever onderzoek gedaan... naar die activiteiten van die AI-agents.
• 0:27
  Speaker 2: Dat zal inbraken bij Hugging Face of op Amerikaanse universiteiten...
• 0:32
  Speaker 2: of van Australische overheidssites. Ze zouden uiteindelijk meer dan 50
• 0:37
  Speaker 2: petabytes aan data doorzocht hebben. Of daar zijn ze in
• 0:40
  Speaker 2: ieder geval nog mee bezig. Dat is 50 miljoen gigabyte...
• 0:44
  Speaker 2: Om te begrijpen wat al die AI agents dan gedaan
• 0:46
  Speaker 2: hebben tijdens hun training. Want dat is uiteindelijk waar het
• 0:49
  Speaker 2: voor bedoeld was. Trainen van AI agents. Soms kregen de
• 0:53
  Speaker 2: AI agents dus internet toegang. Terwijl dat niet de bedoeling was.
• 0:56
  Speaker 2: OpenAI zegt nu dat het onderzoek ook nog niet klaar is.
• 0:59
  Speaker 2: Het kan nog maanden duren. Dat is gewoon heel veel onderzoekswerk.
• 1:03
  Speaker 2: En tot die tijd hebben ze dus de ontwikkeling van
• 1:06
  Speaker 2: een nieuw AI model. Een groter AI model uitgesteld. stilgezet,
• 1:10
  Speaker 2: om de boel beter onder controle te
• 1:12
  Speaker 1: krijgen. En wat interessant is hier, is dat die AI-agent
• 1:15
  Speaker 1: dus zelf iets redt, waarvan ze nu op de achterste
• 1:18
  Speaker 1: benen zeggen, ja, ze doen maar wat, maar het gaat
• 1:21
  Speaker 1: erom dat je de prompt, de vraag aan een AI-agent
• 1:23
  Speaker 1: stelt van, ik wil die informatie hebben, en als die
• 1:26
  Speaker 1: AI-agent er niet op een legitieme wijze aan gaat komen,
• 1:29
  Speaker 1: dan gaat die dingen bedenken om er omheen te kunnen.
• 1:31
  Speaker 1: En daar zit natuurlijk het fundamentele En de guardrails daaromheen
• 1:35
  Speaker 2: moeten
• 1:35
  Speaker 1: gestrenger
• 1:36
  Speaker 2: En je moet zorgen dat ze überhaupt niet het internet
• 1:38
  Speaker 1: op kunnen. En wat er nu gebeurt, want er zijn
• 1:40
  Speaker 1: nu drie onderzoekers ontslagen bij OpenAI. Die hebben volgens mij
• 1:46
  Speaker 1: niet zo gek veel fouten gedaan
• 1:48
  Speaker 2: Of wel? Wat is er gebeurd? Of dit hier specifiek
• 1:51
  Speaker 2: mee te maken heeft, dat is nog maar de vraag.
• 1:53
  Speaker 2: Het zou wel te maken hebben met de veiligheid van AI-modellen...
• 1:56
  Speaker 2: Volgens OpenAI zijn er dus inderdaad drie onderzoekers ontslagen... omdat
• 1:59
  Speaker 2: ze onzorgvuldig omgingen met gevoelige informatie... en daarmee dus bedrijfsbeleid
• 2:04
  Speaker 2: geschonden hebben. Dat zegt ze in een verklaring aan de media.
• 2:07
  Speaker 2: Het zou onder meer gaan om werk waarbij AI-modellen beoordeeld werden.
• 2:11
  Speaker 2: Dat is toch wel een beetje vergelijkbaar. En daar zou
• 2:13
  Speaker 2: dan ook een extern bedrijf bij betrokken zijn. En ik vermoed,
• 2:16
  Speaker 2: dat kan ik niet met zekerheid zeggen... maar dat daar
• 2:19
  Speaker 2: dus onzorgvuldig met interne gegevens is omgegaan... Om die reden
• 2:22
  Speaker 2: zijn dus drie onderzoekers nu abrupt op straat gezet, is
• 2:25
  Speaker 2: het nieuws vanochtend.
• 2:27
  Speaker 1: Even naar het andere AI-bedrijf, Anthropic, want het gaat toch
• 2:29
  Speaker 1: weer sneller naar de beurs. Nog voor Thanksgiving, dat is
• 2:33
  Speaker 1: ergens begin november. 26 november volgens mij.
• 2:37
  Speaker 2: zelf verklaard. 26 november kan je niet naar de beurs,
• 2:39
  Speaker 2: want dan is die dichter in de VS, maar daarvoor
• 2:41
  Speaker 2: dus wel. Dat zeggen bronnen tegen Bloomberg. De beursgang zou
• 2:44
  Speaker 2: dus half november gepland zijn. We weten al langer dat
• 2:47
  Speaker 2: Entropic einde van het jaar naar de beurs zou willen gaan.
• 2:49
  Speaker 2: Maar ja, toch rond al die onzekerheid rond AI-veiligheid, gebrek
• 2:53
  Speaker 2: aan regulering in de VS, toename van AI-hacks, werd toch
• 2:56
  Speaker 2: ook een beetje onzeker of die beursgang überhaupt door zou gaan.
• 3:00
  Speaker 2: Concurrent opening En ja, hij heeft om die reden ook
• 3:02
  Speaker 2: de beursgang uitgesteld... naar in ieder geval volgend jaar. Maar
• 3:05
  Speaker 2: Entropic gaat dus door, zou gewaardeerd worden... op bijna 2
• 3:08
  Speaker 2: biljoen dollar, 1000 miljard dollar, 2000 miljard dollar. En daarmee
• 3:13
  Speaker 2: is het met SpaceX een van de grootste beursgangen ooit.
• 3:15
  Speaker 2: Ondertussen lezen we in de beursdocumenten... dat Entropic ook nog
• 3:18
  Speaker 2: een deal met chipmaker Broadcom heeft gemaakt... voor 42 miljard dollar,
• 3:23
  Speaker 2: dat is wel interessant... Dat geld, 42 miljoen dollar, gaat
• 3:26
  Speaker 2: Broadcom aan Entropic uitlenen... zodat Entropic daar weer chips mee
• 3:30
  Speaker 2: kan kopen bij Broadcom... voor hun eigen AI-infrastructuur. Dat is
• 3:34
  Speaker 2: een investering in het bedrijf... zodat het bedrijf weer geld
• 3:37
  Speaker 2: aan jou kan uitgeven. Dat zie je tegenwoordig veel vaker
• 3:42
  Speaker 2: in de AI-sector. Beide bedrijven hebben er ook al baat bij,
• 3:45
  Speaker 2: dit soort investeringen. Ze verwachten dat er uiteindelijk meer groei...
• 3:48
  Speaker 2: en dus ook meer inkomsten van komen... Maar ja, het
• 3:50
  Speaker 2: maakt zo'n beursgang van Entropic... ook een soort kaartenhuis dat
• 3:53
  Speaker 2: zichzelf een beetje in elkaar houdt... en op een gegeven
• 3:56
  Speaker 2: moment ook al in kan storten.
• 4:02
  Speaker 1: in Amerika aan het ontstaan, mensen die elkaar aardappelen sturen
• 4:06
  Speaker 1: per drone. Ja, dit is een mooi verhaal
• 4:08
  Speaker 2: Vertel. De dronebezorging in de VS is normaal, in Nederland
• 4:11
  Speaker 2: helaas nog niet. Amazon, Walmart, die bezorgen gewoon boodschappen zo
• 4:15
  Speaker 2: je tuin in. Er is dan een drone met vier
• 4:19
  Speaker 2: armen die dan gewoon komt landen... en dan iets naar
• 4:21
  Speaker 2: beneden komt laten zakken. En daar zit dan je boodschappen in.
• 4:25
  Speaker 2: Maar nu is er dus een groep vaders erachter gekomen...
• 4:28
  Speaker 2: dat dat ook gewoon met één aardappel kan... in plaats
• 4:31
  Speaker 2: van met boodschappen. Eén aardappel?
• 4:33
  Speaker 1: Ja, zo
• 4:33
  Speaker 2: schrijft The Verge. Eén van de redacteuren van The Verge,
• 4:35
  Speaker 2: van die techsite... die zit ook in die groepsapp. En
• 4:38
  Speaker 2: een groep vaders, hij kent ze niet eens allemaal... die
• 4:40
  Speaker 2: is drie weken geleden begonnen met... joh, wat kunnen we
• 4:43
  Speaker 2: eigenlijk allemaal naar elkaar versturen ook? Want blijkbaar, dat mag
• 4:47
  Speaker 2: officieel niet... kan je dus die drone ook naar een
• 4:49
  Speaker 2: andere tuin toesturen... dan naar jezelf. En toen is er
• 4:52
  Speaker 2: eentje begonnen met een aardappel sturen. Want ja, dat kostte
• 4:54
  Speaker 2: maar 80 cent om die aardappel te sturen.
• 4:56
  Speaker 1: Dit is super erg gesubsidieerd
• 4:58
  Speaker 2: Want alle bedrijven willen graag dat dit een ding wordt.
• 5:00
  Speaker 2: Dus super goedkoop om te laten doen. Dus voor 80
• 5:03
  Speaker 2: cent stuur je zo een aardappel per drone... naar de
• 5:05
  Speaker 2: tuin van een vriend van je of van de buren.
• 5:08
  Speaker 2: Het mag officieel niet. Er staat dus wel in de
• 5:10
  Speaker 2: richtlijnen dat het niet zomaar kan. Maar het kan dus wel.
• 5:13
  Speaker 2: Die groep vaders is dit dus al drie weken aan
• 5:15
  Speaker 2: het doen. Hebben hier ontzettend veel fun bij gedaan. En
• 5:17
  Speaker 2: ik ben benieuwd wat je dan nog wel meer kan
• 5:19
  Speaker 2: versturen naar elkaar.
• 5:20
  Speaker 1: En
• 5:20
  Speaker 2: hoe lang dit ook
• 5:22
  Speaker 1: blijft
• 5:22
  Speaker 2: doorgaan. Het is een mooie trend. Ik vind dat wel leuk.
• 5:25
  Speaker 2: Dat je tech ook een beetje uitdaagt. Van hoe ver
• 5:27
  Speaker 2: kunnen we gaan
• 5:29
  Speaker 1: Dat is lekker. Straks de 10 voor 10 schaal van hebben.
• 5:33
  Speaker 1: Wat heb je deze week erbij?
• 5:35
  Speaker 2: Ik heb mijn hele surround systeem uit mijn woonkamer getrokken.
• 5:38
  Speaker 2: Die gaan we hier zometeen installeren. Van het merk Sonos.
• 5:41
  Speaker 2: En dan denk je, Sonos, heb ik al een tijdje
• 5:43
  Speaker 2: niks van gehoord. Tenminste, twee jaar geleden was het nieuws.
• 5:46
  Speaker 2: Sonos moet je niet meer kopen, want hun app is
• 5:48
  Speaker 2: echt super slecht. Nou, ze hebben de afgelopen twee jaar
• 5:51
  Speaker 2: hun wonden gelikt. En zijn aan de slag gegaan. En
• 5:54
  Speaker 2: ze zeggen, we zijn terug. We hebben een verbeterde app.
• 5:57
  Speaker 2: Sonos 27 noemen ze het. Met een nieuwe soundbar en
• 6:00
  Speaker 2: een nieuwe koptelefoon. En dus vooral nieuwe software. Daar draait
• 6:04
  Speaker 2: het om. En gaan ze zo even bespreken of ze
• 6:05
  Speaker 2: dus echt terug zijn of dat het weer terug de
• 6:07
  Speaker 2: casting kan
• 6:08
  Speaker 1: Dankjewel, Stijn Roosens.