Latest / Tech Update | BNR / OpenAI stopt met trainen nieuwste AI-modellen na meerdere hacks

Transcript

OpenAI stopt met trainen nieuwste AI-modellen na meerdere hacks · Tech Update | BNR

• 0:00
  Speaker 1: Zeg update. En daarom in de studio aangeschoven Niels Koloos. Niels, goedemorgen.
• 0:04
  Speaker 1: Goedemorgen Bas en Nina. OpenAI van Sam Open stopt helemaal
• 0:08
  Speaker 1: met het trainen van nieuwe AI-modellen... omdat het de laatste
• 0:10
  Speaker 1: tijd toch een beetje te vaak voorkomt... dat hun agents
• 0:14
  Speaker 1: zelf hacken zonder dat ze er wat van weten. Weten
• 0:17
  Speaker 1: we inmiddels hoe vaak dat fout gaat?
• 0:19
  Speaker 2: Nou, niet precies, maar de lijst wordt nu wel heel
• 0:21
  Speaker 2: erg lang. Dus even om dit hele AI-hack-dossier samen te vatten.
• 0:25
  Speaker 2: Het begon natuurlijk in juli met het incident bij AI-platform
• 0:28
  Speaker 2: Hugging Face. Toen bleek dat er een zwerm AI-agents van
• 0:30
  Speaker 2: OpenAI achter zat... Kort daarna ging het ook mis bij
• 0:33
  Speaker 2: een drietal andere bedrijven... die OpenAI niet bij naam wilden noemen.
• 0:36
  Speaker 2: Afgelopen week nog bas hoorden we dat AI-agents... ook de
• 0:39
  Speaker 2: Australische overheid gehackt hadden. Daarna bleken ook websites van meerdere
• 0:42
  Speaker 2: Amerikaanse agentschappen... getroffen te zijn, waaronder ook de beurswakon, de SEC.
• 0:46
  Speaker 2: En zaterdag, als een soort kerst op deze gigantische hacktaart...
• 0:50
  Speaker 2: dat de website van de VN is getroffen door AI-zwermen
• 0:53
  Speaker 2: van OpenAI. Hoewel we dat dan niet hacken mogen noemen...
• 0:55
  Speaker 2: maar wel een soort enorme hoeveelheid verkeersaanvragen... echt duizenden agents
• 1:00
  Speaker 2: die dan de VN-website belasten. Dus heeft OpenAI nu gezegd...
• 1:03
  Speaker 2: we stoppen er voorlopig gewoon eventjes mee. De komende tijd
• 1:06
  Speaker 2: gaat het bedrijf geen nieuwe modellen meer trainen. Eerst wil
• 1:08
  Speaker 2: OpenAI namelijk zeker weten... dat er nieuwe veiligheidsmaatregelen ingevoerd zijn...
• 1:12
  Speaker 2: en dat ze ook een beetje werken. Maar zelfs daarna
• 1:15
  Speaker 2: verwacht OpenAI, dat zegt ze dan gelijk erbij... dat er
• 1:18
  Speaker 2: weer eens op de pauzeknop gedrukt gaat moeten worden... omdat
• 1:20
  Speaker 2: er nieuwe problemen kunnen ontstaan. Dus het is niet de
• 1:22
  Speaker 2: meest geruststellende boodschap. We werken aan een oplossing, maar we
• 1:25
  Speaker 2: verzekeren u nu al... het gaat niet helemaal werken. Ze
• 1:27
  Speaker 2: kunnen gewoon de hele tijd uit hun hokje breken, dat blijkt.
• 1:30
  Speaker 2: Dat verwacht OpenAI ook als de pauzeknop weer
• 1:33
  Speaker 1: niet ingedrukt is. Als ze weer
• 1:34
  Speaker 2: verder gaan.
• 1:36
  Speaker 1: Er wordt nu een soort toezicht georganiseerd. Zelf gezegd van
• 1:40
  Speaker 1: nou we stoppen even. Kunnen bedrijven als Open AI gewoon
• 1:42
  Speaker 1: zelf bepalen hoe ze met dit soort dingen omgaan? Daar
• 1:45
  Speaker 1: is de overheid toch ook voor? Er moet ook toezichthouder zijn.
• 1:47
  Speaker 1: Het
• 1:47
  Speaker 2: lijkt wel alsof ze het inderdaad voor het zeg hebben.
• 1:49
  Speaker 2: Maar Australië heeft inmiddels Open AI op het matje geroepen.
• 1:51
  Speaker 2: Evenals Entropic trouwens heen. een grote concurrent. De topman Sam
• 1:55
  Speaker 2: Altman en Entropic-topman Dario Amodai zijn opgeroepen om voor de
• 1:58
  Speaker 2: Australische Senaat te verschijnen. Die wil de heren niet alleen
• 2:01
  Speaker 2: verhoren over de cyberaanvallen op de Australische overheid, maar eigenlijk
• 2:04
  Speaker 2: helemaal snappen hoe het nou zit met AI die kan hacken.
• 2:07
  Speaker 2: En dat zou aanstaande donderdag al moeten gebeuren. Dus gisteren
• 2:10
  Speaker 2: zijn de uitnodigingen verstuurd en dan zeggen ze, nou, over
• 2:12
  Speaker 2: vier dagen willen we je graag zien. In Australië. In Australië,
• 2:14
  Speaker 2: inderdaad
• 2:14
  Speaker 1: Nou,
• 2:14
  Speaker 2: lekker dan. Daar zit druk achter, maar kijken we ondertussen
• 2:17
  Speaker 2: naar de VS... dan is alles heel erg ontspannen en relaxed.
• 2:20
  Speaker 2: Het lijkt allemaal mee te vallen, in ieder geval in
• 2:22
  Speaker 2: het Witte Huis. Want gisteravond zei president Trump nog... dat
• 2:25
  Speaker 2: hij eventjes een dinertje had gehad met Dario Amodai... en
• 2:27
  Speaker 2: zei hij nog een keer, er staan geen extra reguleringen
• 2:29
  Speaker 2: op het menu.
• 2:30
  Speaker 3: We are leading and we are building trillions of dollars
• 2:34
  Speaker 3: worth of places. And why should we give that up?
• 2:37
  Speaker 3: If something is bad, they have to fix it. And
• 2:40
  Speaker 3: if they don't fix it, that's why you have the
• 2:42
  Speaker 3: Department of Justice.
• 2:43
  Speaker 2: Ja, alleen heb je de Department of Justice pas als
• 2:45
  Speaker 2: het echt flink... Ja, inderdaad. Wetgeving juist bedoeld is om
• 2:49
  Speaker 2: dat soort situaties te voorkomen. Maar Trump zegt dus, ja,
• 2:51
  Speaker 2: ze lossen het zelf wel op. Weet je, een andere
• 2:53
  Speaker 2: straf
• 2:54
  Speaker 1: is er wel. Misschien
• 2:55
  Speaker 2: had hij al een wijntje op of zo, ik weet
• 2:57
  Speaker 2: het niet. Maar hij was in ieder geval heel erg
• 2:58
  Speaker 2: langs over.
• 2:59
  Speaker 1: Volgens mij is hij geen onthouder, net als George Bush.
• 3:02
  Speaker 1: Zou hij eens moeten doen, een wijntje? Ja, nou...
• 3:05
  Speaker 2: Misschien is het een stuk ontspannender dan
• 3:08
  Speaker 1: Nog even naar Nederland, want ziekenhuizen zijn gewaarschuwd... voor een
• 3:11
  Speaker 1: kritieke kwetsbaarheid in software genaamd Netscaler. Dat klinkt bekend. Daar
• 3:15
  Speaker 1: hoorden we afgelopen jaar ook wel iets over, toch? Sterker
• 3:18
  Speaker 2: nog, het is net iets meer dan een jaar geleden...
• 3:20
  Speaker 2: dat er kwetsbaarheden in Netscaler van het bedrijf Citrix werden ontdekt.
• 3:23
  Speaker 2: Dat is veelgebruikte software waarmee organisaties... en portalen op afstand
• 3:28
  Speaker 2: aan kunnen bieden. Dus met Citrix kan een ziekenhuispatiënt... zijn
• 3:31
  Speaker 2: gegevens online inzien vanuit huis. Maar vorig jaar werden er
• 3:34
  Speaker 2: kwetsbaarheden ontdekt in die software... en bleek dat er onbevoegden
• 3:37
  Speaker 2: mee konden kijken. Het gevolg was dat onder andere het
• 3:40
  Speaker 2: Openbaar Ministerie... werd getroffen door cyberaanvallen... Of dat nu weer
• 3:43
  Speaker 2: gaat gebeuren is trouwens nog lastig te zeggen. Maar ziekenhuizen
• 3:46
  Speaker 2: hebben nu uit voorzorg... dus weer hun systemen geblokkeerd afgelopen weekend.
• 3:49
  Speaker 2: Want er zijn dus opnieuw kwetsbaarheden ontdekt. En ook nu
• 3:52
  Speaker 2: kunnen er dus mensen op afstand meekijken... en commando's uitvoeren
• 3:55
  Speaker 2: met de kwetsbaarheden die ontdekt zijn. Nationaal Cyber Security Centrum
• 3:58
  Speaker 2: in Den Haag... waarschuwde zondag daarom al voor die kwetsbaarheden.
• 4:01
  Speaker 2: En Citrix heeft ondertussen ook updates uitgerold. Maar ja, dan
• 4:04
  Speaker 2: moet je als organisatie wel die updates uitvoeren... want anders
• 4:06
  Speaker 2: blijf je kwetsbaar. En ook de Rijksoverheid heeft daarom uit voorzorg...
• 4:10
  Speaker 2: eerst de Citrix-omgevingen... van het internet losgekoppeld. Dus alle ambtenaren
• 4:13
  Speaker 2: die vandaag dachten... ik ga even lekker thuiswerken en het
• 4:15
  Speaker 2: wordt drie dagen
• 4:16
  Speaker 1: weekend. Nee hoor, je
• 4:17
  Speaker 2: mag gewoon naar het ministerie
• 4:18
  Speaker 1: komen. Ik zou bijna zeggen 100 procent.
• 4:28
  Speaker 2: En de grote vraag is of die hacks dan ook
• 4:29
  Speaker 2: succesvol zijn geweest. Want het NCSC heeft namelijk gezegd... dat
• 4:33
  Speaker 2: er actief misbruik wordt gemaakt van de kwetsbaarheden. Of lees
• 4:35
  Speaker 2: maar gewoon, er wordt gehackt. Alleen is dus de vraag,
• 4:38
  Speaker 2: zijn die hacks ook succesvol? Dat is gewoon afwachten, we
• 4:40
  Speaker 2: moeten gaan zien hoe het gaat. Maar ik hoop dat
• 4:42
  Speaker 2: men van de geschiedenis geleerd heeft. Zeker omdat hij zich
• 4:44
  Speaker 2: nu vrij letterlijk herhaalt
• 4:47
  Speaker 1: Dankjewel, Niels Koloos.