Latest / M365.FM – Microsoft 365, Copilot & AI podcast in het Nederlands / De Azure AI Foundry-valkuil: RAG, agents en evaluators om geen hallucinaties meer in productie te leveren (AI-nasynchronisatie)

Transcript

De Azure AI Foundry-valkuil: RAG, agents en evaluators om geen hallucinaties meer in productie te leveren (AI-nasynchronisatie) · M365.FM – Microsoft 365, Copilot & AI podcast in het Nederlands

• 0:00
  Speaker 2: Je hebt geklikt omdat de podcast zei dat Azure AI
• 0:02
  Speaker 2: Foundry een valstrik is, toch? Goed, je bent hier op
• 0:05
  Speaker 2: de juiste plek. Hier is de belofte vooraf. Co-pilots storten
• 0:08
  Speaker 2: in zonder grounding, maar tot zoals Retrieval Augmented Generation, RAG,
• 0:12
  Speaker 2: met Azure ISE Arch Hybrid en semantische evaluatoren voor gefundeerdheid,
• 0:16
  Speaker 2: relevantie en coherentie zijn de echte oplossingen om te voorkomen
• 0:20
  Speaker 2: dat je hallucinaties als antwoorden verstuurt. We laten de marketingpraat
• 0:23
  Speaker 2: achterwege en tonen je het overlevingsplan met echte voorbeelden uit
• 0:26
  Speaker 2: de praktijk. Abonneer je op de M365 show nieuwsbrief en
• 0:30
  Speaker 2: volg de livestreams met MVP's. Daar vind je de littekens
• 0:33
  Speaker 2: en de oplossingen. En aangezien de eerste barsten meestal in
• 0:36
  Speaker 2: multimodale apps verschijnen, laten we daar beginnen. Waarom multimodale apps
• 0:40
  Speaker 2: falen in de echte wereld? Wanneer je een multimodale demo
• 0:42
  Speaker 2: op het podium ziet, lijkt het foutloos. De presentator geeft
• 0:45
  Speaker 2: een tekstprompt, een schone afbeelding, misschien zelfs een snelle spraakinvoer,
• 0:48
  Speaker 2: en het model levert een perfecte grafiek of een scherpe
• 0:50
  Speaker 2: samenvatting van een contract. Het voelt allemaal als magie, maar
• 0:52
  Speaker 2: zodra je hetzelfde probeert binnen een echt bedrijf, is de
• 0:55
  Speaker 2: glans er snel vanaf. Demos draaien op perfecte invoer, werkplekken
• 0:59
  Speaker 2: draaien op rommel. Dat is het echte verschil. In productie
• 1:01
  Speaker 2: geeft niemand je model zorgvuldig samengestelde screenshots of CSV's die
• 1:05
  Speaker 2: door een standaardcomité zijn opgemaakt. Hauer voert het onduidelijke identiteitsbewijzen
• 1:09
  Speaker 2: van de overheid. Inkoop sleept pdf's aan die al vijf
• 1:12
  Speaker 2: keer zijn gefakst. Iemand bij finance maakt een foto van
• 1:15
  Speaker 2: een factuur met een kapotte Android-camera. Multimodale modellen kunnen tekst, afbeeldingen,
• 1:19
  Speaker 2: spraak en video aan, maar ze hebben goed geïndexeerde data
• 1:22
  Speaker 2: en retrieval nodig om onder rommelige omstandigheden te presteren. Anders
• 1:25
  Speaker 2: vraag je het model simpelweg om te improviseren met rotzooi.
• 1:27
  Speaker 2: En geen enkel bedrag aan GPU kosten lost, garbage in,
• 1:30
  Speaker 2: garbage out. Dit is waar Retrieval Augmented Generation, RACH, je
• 1:34
  Speaker 2: moet redden. In begrijpelijke taal, het model kent jouw bedrijf niet,
• 1:37
  Speaker 2: dus koppel je het aan een kennisbron. Het haalt een
• 1:39
  Speaker 2: stukje data op en vormt het antwoord daaromheen. Wanneer de
• 1:42
  Speaker 2: match scherp is, krijg je nuttige, gefundeerde antwoorden. Wanneer het
• 1:45
  Speaker 2: slordig is, gaat het model freestylen en spuugt het zelfverzekerde
• 1:48
  Speaker 2: onzin uit. Zo eindig je met een chatbot die zweert
• 1:50
  Speaker 2: dat je bedrijf een nieuw Q3-kortingsbeleid heeft dat niet bestaat.
• 1:54
  Speaker 2: Het is niet bewust geworden, het heeft gewoon de verkeerde
• 1:56
  Speaker 2: data gepakt. Azure AI Studio en Azure AI Foundry leunen
• 1:59
  Speaker 2: beide op dit patroon en ze ondersteunen alle soorten modaliteiten, taal, beeld,
• 2:03
  Speaker 2: spraak en zelfs video retrieval. Maar de adder onder het
• 2:05
  Speaker 2: gras is dat RAG slechts zo goed is als de
• 2:07
  Speaker 2: data die het gebruikt. Hier is het belangrijkste punt dat
• 2:09
  Speaker 2: de meeste teams missen. Je kunt niet zomaar één retrieval
• 2:11
  Speaker 2: methode inpluggen en denken dat het klaar is. Als je
• 2:13
  Speaker 2: wilt dat resultaten consistent blijven, heb je hybride zoekopdrachten met
• 2:16
  Speaker 2: trefwoorden plus vectoren nodig, aangevuld met een semantische heranker die
• 2:18
  Speaker 2: in Azure Ice Arch is ingebouwd. Hiermee kan het systeem
• 2:20
  Speaker 2: letterlijke trefwoordresultaten in balans brengen met semantische betekenis... en de
• 2:23
  Speaker 2: resultaten opnieuw rangschikken zodat de juiste context bovenaan staat. Als
• 2:26
  Speaker 2: je dat in je multimodale opzet integreert, kan het model
• 2:29
  Speaker 2: plotseling scheve scans en wazige afbeeldingen aan, in plaats van
• 2:31
  Speaker 2: je compliancebeleid uit het niets te hallucineren. Laten we het
• 2:34
  Speaker 2: nu hebben over waarom zoveel uitholtrajecten mislukken. Ondernemingen verwachten vanaf
• 2:38
  Speaker 2: de eerste dag perfecte resultaten, maar reserveren geen budget voor evaluatierondes.
• 2:42
  Speaker 2: Zonder controles op basis van feiten, relevantie en samenhang op
• 2:45
  Speaker 2: de achtergrond, merk je afwijkingen pas op als gebruikers al
• 2:47
  Speaker 2: zijn afgehaakt. Veel vroege implementaties falen snel om precies deze reden.
• 2:51
  Speaker 2: De output klinkt correct, maar niemand heeft deze getoetst aan
• 2:54
  Speaker 2: de bron. Denk er maar eens over na. Je zou
• 2:56
  Speaker 2: nooit een nieuwe database implementeren zonder monitoring. Toch gooi je
• 2:58
  Speaker 2: leidinggevende multimodale AI in productie alsof het een plug-and-play magische
• 3:02
  Speaker 2: doos is. Het hoeft niet in een mislukking te eindigen.
• 3:05
  Speaker 2: Carvana is een van de Foundry-klantverhalen die dit punt bewijst.
• 3:08
  Speaker 2: Zij maakte Self Service AI daadwerkelijk nuttig door het ophalen
• 3:11
  Speaker 2: van gegevens te verfijnen, hun agents goed te baseren op
• 3:13
  Speaker 2: feiten en te investeren in observeerbaarheid. Dat veranderde wat een
• 3:16
  Speaker 2: simpele speelgoedbot had kunnen zijn in iets waar klanten op
• 3:19
  Speaker 2: konden vertrouwen. Kijk nu naar de bedrijven die een generieke
• 3:21
  Speaker 2: chatbot op hun ondersteuningspagina hebben geplakt zonder feitelijke basis of evaluatie.
• 3:25
  Speaker 2: Je hebt het resultaat gezien. Garantieclaims die worden aangezien voor verkoopkansen,
• 3:28
  Speaker 2: overvolle wachtrijen bij de support en een compleet aangetaste geloofwaardigheid.
• 3:31
  Speaker 2: Dezelfde Azure Stack, tegenovergestelde uitkomst. Dus, hier is de harde waarheid.
• 3:35
  Speaker 2: De multimodaal stort niet in omdat de AI niet slim
• 3:37
  Speaker 2: genoeg is. Het stort in omdat de data niet voorbereid,
• 3:40
  Speaker 2: geïndexeerd of gemonitord is. Voer rommel in het retrievalsysteem, sla
• 3:44
  Speaker 2: evaluaties over en zie hoe het vertrouwen verdampt. Maar met
• 3:46
  Speaker 2: hybride zoeken, semantische herranking en constante evaluaties kun je facturen, contracten,
• 3:51
  Speaker 2: foto's en zelfs ruwe audionoticies verwerken met antwoorden die in
• 3:54
  Speaker 2: de realiteit landen in plaats van in fantasie. En zodra
• 3:56
  Speaker 2: de basis op orde is, komt er een ander risico
• 3:59
  Speaker 2: in beeld. Want zelfs als de datapijplijnen schoon zijn, kan
• 4:02
  Speaker 2: het systeem dat ze aanstuurt nog steeds ontsporen. Dat is
• 4:04
  Speaker 2: waar de vraag verschuift. Helpt de agent die dit allemaal
• 4:07
  Speaker 2: coördineert je bedrijf echt? Of is hij stilletjes je IT-budget
• 4:11
  Speaker 2: aan het opstoken? Behulpzame agent of dure pressen papier? Een
• 4:14
  Speaker 2: agent coördineert modellen, data, triggers en acties. Zie het als
• 4:18
  Speaker 2: een verkeersagent voor je geautomatiseerde workflows. Soms regelt hij alles soepel,
• 4:23
  Speaker 2: soms laat hij drie vrachtwagens en een clown auto door
• 4:25
  Speaker 2: en gaat dan lunchen. Dat gat tussen de strakke definitie
• 4:28
  Speaker 2: en de rommelige realiteit is waar de meeste teams de
• 4:30
  Speaker 2: mist in gaan. Op papier ziet een agent er fantastisch uit.
• 4:33
  Speaker 2: Geef het instructies, wijs het naar je data en apps
• 4:35
  Speaker 2: en het hoort processen te draaien, antwoorden te vinden en
• 4:38
  Speaker 2: zelfs workflows te starten. Maar dit is geen perfecte collega.
• 4:41
  Speaker 2: Het lost net zo makkelijk om twee uur s'nachts een
• 4:43
  Speaker 2: terugkerend probleem op als dat het je wachtrij overspoelt met
• 4:45
  Speaker 2: honderd spooktickets omdat het een foute logboek verkeerd las. Stel
• 4:48
  Speaker 2: het je voor in ServiceNow. Wanneer strikt afgebakend, maakt de
• 4:51
  Speaker 2: AI alleen echte tickets aan voor werkelijke problemen en bespaart
• 4:54
  Speaker 2: het mensen urentijd. Wordt het losgelaten, dan kan het de
• 4:56
  Speaker 2: helpdesk bedelven onder een muur van valse meldingen over kritieke
• 4:58
  Speaker 2: printerstoringen op hardware die prima werkt. Probeer die productiviteitswinst maar
• 5:02
  Speaker 2: eens uit te leggen aan je CEO. Dit is het
• 5:03
  Speaker 2: onderscheid dat velen missen. Copilots en agents zijn niet hetzelfde.
• 5:06
  Speaker 2: Een copilot is in feite een assistent voor je prompts.
• 5:09
  Speaker 2: Jij vraagt, hij antwoordt, en jij blijft in controle. Agents
• 5:12
  Speaker 2: daarentegen beslissen dingen zonder op jou te wachten. Ze volgen
• 5:15
  Speaker 2: je vage instructies tot op de letter, zelfs als de
• 5:17
  Speaker 2: resultaten nergens opslaan. Dat is het moment waarop automatisering ofwel
• 5:20
  Speaker 2: echte tijd bespaart, ofwel ontaart in chaos waar je twee
• 5:22
  Speaker 2: keer zo lang bezig bent om het op te ruimen.
• 5:24
  Speaker 2: De waarheid is dat veel teams hun agent een functieomschrijving
• 5:27
  Speaker 2: geven die leest als een verkiezingsbelofte. Optimaliseer processen, lever inzichten,
• 5:31
  Speaker 2: help mensen. Gefeliciteerd, je hebt de bot in feite de
• 5:33
  Speaker 2: vrije hand gegeven. Agents zonder afbakening blijven niet beleefd op
• 5:36
  Speaker 2: hun eigen terrein. Ze gaan flippen. Ze verzinnen problemen om
• 5:39
  Speaker 2: op te lossen. Ze dupliceren records. Ze raken in een
• 5:41
  Speaker 2: oneindige lus. En dan vraagt de leiding zich af waarom
• 5:43
  Speaker 2: een glimmende demo veranderde in een nachtmerrie in productie. Laten
• 5:46
  Speaker 2: we nu de feiten op een rij zetten. Het is
• 5:47
  Speaker 2: niet zo dat de meeste organisaties falen in de eerste
• 5:49
  Speaker 2: twee maanden. Dat staat niet in het onderzoek. Wat wel
• 5:52
  Speaker 2: snel gebeurt, is dat veel organisaties vroeg tegen blokkades aanlopen
• 5:55
  Speaker 2: omdat ze hun agents nooit strikt afbakenden, nooit validatiestappen toevoegden
• 5:58
  Speaker 2: en nooit telemetrie implementeerden. Zonder die vangrails is je nieuwe,
• 6:02
  Speaker 2: glimmende tool gewoon een hoekeloze stagiair met beheerdersrechten. En hier
• 6:05
  Speaker 2: geeft de Microsoft-stekje daadwerkelijk de bouwstenen. Copilot Studio is de
• 6:09
  Speaker 2: low-code plek waar makers het gedrag van agents ontwerpen. Denk
• 6:12
  Speaker 2: aan flows, prompts en event triggers. En Azure iFoundries Agentservice
• 6:16
  Speaker 2: is de zakelijke structuur die die agents in productie brengt
• 6:19
  Speaker 2: met observeerbaarheid. Agent Service is waar je monitoring, lags en
• 6:22
  Speaker 2: statistieken toevoegt. Het is bewust afgebakend voor automatisering met ingebouwd
• 6:27
  Speaker 2: menselijk toezicht, omdat Microsoft weet wat er gebeurt als je
• 6:29
  Speaker 2: een ongeveer geteste agent in het wild vertrouwt. Dus hoe
• 6:32
  Speaker 2: weet je of je agent echt nuttig is? Leg het
• 6:35
  Speaker 2: langs een simpele meetlat. 1. Bespaart het menselijke uren of
• 6:38
  Speaker 2: sleept het je personeel mee in die bakklusjes? 2. Verzamel
• 6:41
  Speaker 2: je statistieken zoals onderbouwing, vloeiendheid en samenhang of staar je
• 6:45
  Speaker 2: alleen naar de mooie marketing-dashboards? 3. Heb je telemetrie ingesteld
• 6:49
  Speaker 2: zodat je afwijkingen kunt opvangen voordat gebruikers klachten gaan indienen?
• 6:52
  Speaker 2: Als je op een van deze vragen verkeerd antwoord, heb
• 6:54
  Speaker 2: je geen intelligente agent. Je hebt een dure screensaver. De
• 6:57
  Speaker 2: oplossing is het gebruik van de observeerbaarheidsfuncties en ingebouwde evaluatiemiddelen
• 7:01
  Speaker 2: van Azure AI Foundry. Dit zijn geen optionele extra's. Het
• 7:04
  Speaker 2: is de gedocumenteerde manier om onderbouwing, relevantie, samenhang en waarheidsgetrouwheid
• 7:08
  Speaker 2: te meten. Zonder deze gist je of je agent slim
• 7:10
  Speaker 2: is of gewoon dingen verzint op een beleefde toon. Met
• 7:13
  Speaker 2: deze tools kun je zelfverzekerd ingrijpen en bijsturen wanneer de
• 7:16
  Speaker 2: output afwijkt. Dus ja, agents kunnen baanbrekend zijn. Bij een
• 7:19
  Speaker 2: verkeerde scope worden het chaosversterkers die meer tijd kosten dan
• 7:22
  Speaker 2: ze besparen. Met de juiste scope, duidelijke taakafbakening, echte telemetrie
• 7:26
  Speaker 2: en onderbouwde antwoorden kunnen ze taken uitvoeren terwijl mensen zich
• 7:28
  Speaker 2: op waardevoller werk richten. En net als je denkt dat
• 7:30
  Speaker 2: je die balans op orde hebt, verandert het verhaal weer.
• 7:33
  Speaker 2: Microsoft pust al autonome agents bots die niet op jou
• 7:36
  Speaker 2: wachten voordat ze actie ondernemen. Dat brengt de belangen van
• 7:39
  Speaker 2: nuttig of nutteloos naar een heel andere categorie, want nu
• 7:43
  Speaker 2: praten we over systemen die draaien terwijl niemand meekijkt. De
• 7:46
  Speaker 2: valkuil van de autonome agent. Bij autonome agents wordt de
• 7:50
  Speaker 2: hype gevaarlijk. Op papier zijn ze de droom. Laat de
• 7:53
  Speaker 2: AI voor je werken, automatiseer het sleurwerk en stop met
• 7:55
  Speaker 2: jezelf om twee uur s'nachts uit bed te slepen voor ticketwachtrijen.
• 7:58
  Speaker 2: Klinkt geweldig in de bestuurskamer. De valkuil is simpel. Ze
• 8:02
  Speaker 2: wachten niet op toestemming. Co-pilots pauzeren voor jou. Autonome agents niet.
• 8:06
  Speaker 2: En als ze een verkeerde beslissing nemen, is de schade
• 8:07
  Speaker 2: direct en schaalt deze door je hele tenant. Het concept
• 8:10
  Speaker 2: is eenvoudig genoeg. Co-pilots zijn reactief. Agents zijn proactief. In
• 8:13
  Speaker 2: plaats van rustig te wachten tot iemand een prompt typt,
• 8:15
  Speaker 2: zet je agents in om de service status te bewaken,
• 8:17
  Speaker 2: beveiligingssignalen te verwerken of workflows automatisch uit te voeren. Microsoft
• 8:21
  Speaker 2: presenteert dit als efficiëntie, minder verspilling van menskracht, snellere detectie
• 8:24
  Speaker 2: en soepelere operaties. De belofte is echt, maar dit is
• 8:27
  Speaker 2: de belangrijke context. Autonome agents in Copilot Studio zijn momenteel
• 8:31
  Speaker 2: nog in preview. Preview betekent niet kapot, maar wel ongeveer
• 8:34
  Speaker 2: het test in de rommelige echte wereld. En zelfs Microsoft
• 8:37
  Speaker 2: zegt dat je lifecycle governance richtlijnen en het Copilot console
• 8:40
  Speaker 2: systeem op orde moet hebben voordat je ze breed uitrolt.
• 8:42
  Speaker 2: Denk eens aan een realistisch risico. Stel, je bouwt een
• 8:45
  Speaker 2: autonome helpdeskagent en geeft deze autoriteit om te reageren op inloganomalieën.
• 8:49
  Speaker 2: In een demo met vijf gebruikers werkt het perfect. Waarschuwingen gegenereerd,
• 8:52
  Speaker 2: accounts beheerd. Dan komen de ruis inputs binnen in de productieomgeving.
• 8:55
  Speaker 2: In plaats van te wachten, begint het honderden accounts massaal
• 8:58
  Speaker 2: te resetten op basis van foutieve meldingen. Het resultaat is
• 9:01
  Speaker 2: geen hypothetische storing. Het kan in werkelijkheid de maandafsluiting volledig platleggen.
• 9:05
  Speaker 2: Dat is geen science fiction. Het is het storingscenario waar
• 9:08
  Speaker 2: je voor tekent als je de scope niet bepaalt. De
• 9:09
  Speaker 2: oplossing is niet om de technologie te dumpen. Het is
• 9:11
  Speaker 2: om eerst een vangnet te bouwen. Dus, wat staat er
• 9:13
  Speaker 2: op de checklist voor overleving? Drie zaken zijn essentieel voor
• 9:16
  Speaker 2: elke flitsende automatisering. 1. Het bepalen van identiteit en toegangsrechten.
• 9:20
  Speaker 2: Geef je agent minimale rechten, geen algemene beheerdersrollen. 2. Logging
• 9:23
  Speaker 2: en rollback. Elke actie moet een spoor achterlaten dat je
• 9:26
  Speaker 2: kunt auditen. En elke ingrijpende actie heeft een terugdraaimogelijkheid nodig
• 9:29
  Speaker 2: als de agent fouten maakt. 3. Filters voor inhoud en gedrag.
• 9:32
  Speaker 2: Microsoft benadrukt dit met Azure AI Content Safety en configuratie
• 9:36
  Speaker 2: van kennisbronnen. De filters die voorkomen dat een enthousiaste bot
• 9:38
  Speaker 2: ongepaste antwoorden geeft of buiten de lijntjes kleurt. Doe dit eerst,
• 9:42
  Speaker 2: anders zal de slimheid van je agent je bedrijfsvoering eerder
• 9:44
  Speaker 2: begraven dan helpen. De ethische laag maakt dit nog urgenter.
• 9:47
  Speaker 2: Stel je een ouder agent voor die medewerkers automatisch als
• 9:49
  Speaker 2: risico volmarkeert, of een financiële agent die betalingen aan leveranciers
• 9:52
  Speaker 2: tegenhoudt omdat deze onterecht als fraude worden aangemerkt. Dit zijn
• 9:55
  Speaker 2: geen onschuldige eigenaardigheden, dit zijn fouten met menselijke gevolgen en
• 9:58
  Speaker 2: juridische of compliance risico's. Bias in trainingsdata of retrieval verdwijnt
• 10:02
  Speaker 2: niet zomaar omdat je nu in Enterprise Preview draait. Zonder filters,
• 10:05
  Speaker 2: controles en menselijke terugvalopties besteed je oordeelvorming uit aan een
• 10:08
  Speaker 2: algoritme zonder toezicht, iets wat je juristen absoluut niet willen.
• 10:11
  Speaker 2: Microsoft was op Ignite zelf zeer duidelijk hierover. Bar trails,
• 10:14
  Speaker 2: lifecycle management, monitoring en het co-pilot controle systeem zijn geen extraatjes,
• 10:18
  Speaker 2: ze zijn vereist. Preview draait vandaag de dag minder om
• 10:21
  Speaker 2: glimmende demo's en meer om testers die aantonen waar de
• 10:23
  Speaker 2: zwakke plekken zitten. Als je live gaat zonder stage testen,
• 10:26
  Speaker 2: goedkeuringsworkflows en audit, draai je geen agent, maar stresstest je
• 10:30
  Speaker 2: jouw tenant in productie. Daarom is observability geen optie. Je
• 10:33
  Speaker 2: hebt dashboards nodig die elke stap van een agent tonen
• 10:36
  Speaker 2: en controleren of de output gefundeerd, relevant en in lijn
• 10:39
  Speaker 2: met je beleid is. En je hebt opties nodig voor
• 10:41
  Speaker 2: human in filo. Microsoft steekt dit niet onder stoelen of banken.
• 10:44
  Speaker 2: Ze verwijzen naar patronen waarbij de mens de uiteindelijke veiligheidsfactor blijft.
• 10:47
  Speaker 2: Denk eraan als aan de automatische piloot in een vliegtuig,
• 10:50
  Speaker 2: ontzettend nuttig, maar altijd ontworpen met een handmatige overbrugging. Als
• 10:53
  Speaker 2: de bot denkt dat een landing in een meer optimaal is,
• 10:55
  Speaker 2: wil je de controle overnemen voor de plons. De juiste
• 10:58
  Speaker 2: analogie is een tiener leren autorijden. Het potentieel is er,
• 11:01
  Speaker 2: de snelheid is indrukwekkend, maar je geeft niet zomaar de sleutels,
• 11:04
  Speaker 2: verlaat de oprit en hoopt op het beste. Je zit
• 11:06
  Speaker 2: aan de passagierskant, je stelt grenzen en je installeert remmen
• 11:08
  Speaker 2: waar je zelf bij kunt. Dat is levenscyclusbeheer in de praktijk,
• 11:12
  Speaker 2: zijwieltjes totdat je zeker weet dat het systeem niet van
• 11:14
  Speaker 2: de weg afraakt. En dit brengt ons naar de grotere
• 11:16
  Speaker 2: fabrieksvloer waar agents, co-pilots en elke workflow die je hebt
• 11:19
  Speaker 2: getest samenkomen. Microsoft noemt dat Azure AI Foundry, een alles-in-één
• 11:23
  Speaker 2: bouwruimte voor AI met alle nodige tools. Of het een
• 11:26
  Speaker 2: productiekrachtpatser wordt of de plek waar je projecten zelf ontbranden,
• 11:29
  Speaker 2: hangt volledig af van hoe je het behandelt. Azure AI Foundry,
• 11:33
  Speaker 2: jouw fabriek of jouw mijnenveld. Azure AI Foundry is Microsofts
• 11:37
  Speaker 2: nieuwe paradepaardje, een zogeheten fabriek voor alles wat met AI
• 11:40
  Speaker 2: te maken heeft. Het probleem? Te veel teams lopen naar
• 11:43
  Speaker 2: binnen en behandelen het als een IKEA. Ze dwalen verblind
• 11:45
  Speaker 2: door de catalogie rond, pakken een paar glimmende grote taalmodellen,
• 11:49
  Speaker 2: voegen wat connectoren toe en schroeven dan iets in elkaar
• 11:51
  Speaker 2: zonder handleiding. Waar ze mee eindigen is geen enterprise AI systeem,
• 11:55
  Speaker 2: maar een speelgoeddemo die omvalt zodra een echte gebruiker er
• 11:57
  Speaker 2: een rommelige pdf in dropt. Dit is wat Foundry werkelijk biedt,
• 12:01
  Speaker 2: rechtstreeks uit het officiële draaiboek. Een modelcatalogus met Microsoft, OpenAI, Meta, Mistral,
• 12:06
  Speaker 2: DeepSeek en andere. Aanpassingsopties zoals Retrieval Augmented Generation, Fine Tuning
• 12:11
  Speaker 2: en Distillatie. Een agent service voor orkestratie, tools zoals Prompt
• 12:15
  Speaker 2: Flow voor evaluatie en debugging, beveiligingsfuncties. identiteits- en toegangsbeheer, inhoudsfilters
• 12:20
  Speaker 2: en observatiedashboards. Kortom, het bevat alle onderdelen die je nodig
• 12:24
  Speaker 2: hebt om co-pilots, agents en autonome flows te bouwen en
• 12:26
  Speaker 2: ze compliant te houden. Dat is de inventaris. Het probleem
• 12:29
  Speaker 2: is niet dat de gereedschapskist leeg is, maar dat de
• 12:31
  Speaker 2: veelbeheerders het behandelen alsof ze een GPT-4-turboschakelaar omzetten en het
• 12:35
  Speaker 2: productieklaar noemen. De waarheid is dat Foundry een fabrieksvloer is,
• 12:38
  Speaker 2: geen hekkaton speelgoeddoos. Dat betekent identiteitsgrenzen instellen, zodat alleen de
• 12:42
  Speaker 2: juiste mensen bij de juiste modellen kunnen. Het betekent inhoudsbeveiliging
• 12:45
  Speaker 2: toevoegen aan elke pipeline. Het betekent observatie gebruiken, zodat je
• 12:49
  Speaker 2: weet wanneer een antwoord gefundeerd is versus wanneer het model
• 12:52
  Speaker 2: bedrijfsbeleid uit de lucht grijpt. En het betekent de taak
• 12:55
  Speaker 2: matchen met het juiste model in plaats van zomaar de
• 12:57
  Speaker 2: grootste te kiezen omdat dat slim klinkt. Sla die stappen
• 13:00
  Speaker 2: over en de chaos komt via de achterdeur binnen. Ik
• 13:02
  Speaker 2: heb een team een Foundry co-pilot op SharePoint zien koppelen
• 13:05
  Speaker 2: die vrolijk beperkte hour data aan 20 stagiaires toonde. Het
• 13:07
  Speaker 2: was niet slim, het was een compliance ramp die voorkomen
• 13:10
  Speaker 2: had kunnen worden met ingebouwde toegangsregels. Laten we het hebben
• 13:13
  Speaker 2: over echte faalmodi. Een organisatie gebruikte ooit GPT-4 Turbo voor
• 13:16
  Speaker 2: het taggen van productfoto's. In het lab verpletterde het de demo.
• 13:19
  Speaker 2: Strakke studiofoto's, perfecte tags, iedereen applaudisseerde. In productie waren de
• 13:24
  Speaker 2: inputs geen glanzende JPEGS, maar wazige magazijnfoto's van een telefoon.
• 13:28
  Speaker 2: Plotseling labelde de AI-kinderwagens als bureaustoelen en verhaspelde UPC-codes tot
• 13:33
  Speaker 2: valse serienummers. Naast de vertrouwensbreuk begonnen de kosten op te lopen.
• 13:37
  Speaker 2: En dit is geen sprookje over vaste prijzen per bericht.
• 13:39
  Speaker 2: De prijzen van Foundry zijn gebaseerd op verbruik en gekoppeld
• 13:42
  Speaker 2: aan de specifieke services die je gebruikt. Elke connector, elke ophaalaanroep,
• 13:45
  Speaker 2: elke berichtenteller wordt gefactureerd aan jouw tenant. Elk onderdeel heeft
• 13:48
  Speaker 2: zijn eigen facturati-model. Die flexibiliteit is mooi, maar als je
• 13:51
  Speaker 2: niet rekent met de Azure-prijs kelp je later en het
• 13:54
  Speaker 2: verbruik niet volgt. zal je financiële team erg blij zijn
• 13:56
  Speaker 2: met je verassingsfactuur. Dat is de factuurvalstrik. Verbruiksgebaseerde prijzen werken
• 14:00
  Speaker 2: als je plant, monitort en optimaliseert. Als je dat niet doet,
• 14:03
  Speaker 2: lijkt het op een sportwagen gebruiken als pizza-courierscooter. Duur, luidruchtig
• 14:06
  Speaker 2: en zinloos. We hebben het allemaal wel eens meegemaakt met
• 14:08
  Speaker 2: tools als Powerbee, geweldige demo, door een hoge rekening. Laat
• 14:11
  Speaker 2: Foundry je niet in dezelfde positie brengen. Ontwikkelaars prototypen graag
• 14:14
  Speaker 2: in Foundry omdat de sandbox soepel aanvoelt. En in een
• 14:17
  Speaker 2: sandbox is het ook soepel. Schone demodata, geen gedoe, direct resultaat.
• 14:21
  Speaker 2: Maar dit is het addertje onder het gras. Teams pushen
• 14:23
  Speaker 2: dat prototype naar productie zonder evaluatiepijplijnen. Als je evaluaties voor feitelijkheid, vloeiendheid,
• 14:28
  Speaker 2: relevantie en samenhang overslaat, ga je blind live. En wat
• 14:30
  Speaker 2: gebeurt er dan? Gebruikers zien de afwijkingen in de output,
• 14:33
  Speaker 2: het vertrouwen daalt en leidinggevende trekken de financiering in. Dit
• 14:35
  Speaker 2: is niet Foundry dat faalt, dit zijn teams die het
• 14:37
  Speaker 2: beheer laten versloffen. Veel Foundry-prototypes stranden voor de productie om
• 14:40
  Speaker 2: precies deze reden. Geen observeerbaarheid, geen kwaliteitscontroles, geen telemetrie. Het
• 14:44
  Speaker 2: antwoord ligt gewoon in het platform besloten. Gebruik vanaf dag
• 14:47
  Speaker 2: 1 de observeerbaarheid van Azure AI Foundry. Integreer prompt flows.
• 14:50
  Speaker 2: Draai ingebouwde evaluatoren bij elke test. Veranker je systeem met
• 14:53
  Speaker 2: Azure ICR via hybride en semantischere ranking voordat je überhaupt
• 14:56
  Speaker 2: aan livegang denkt. Microsoft heeft deze tools niet verstopt in
• 14:59
  Speaker 2: een bijlage, ze zijn gedocumenteerd voor productieveiligheid. Maar al te
• 15:02
  Speaker 2: vaak bladeren bouwers er doorheen alsof het voetnoten zijn. Die
• 15:05
  Speaker 2: controle-mentaliteit is hoe je uit het mijnenveld blijft. Behandel Foundry
• 15:09
  Speaker 2: als een fabriek, beheer als stap 1, nalevingsbeleid ingebakken zoals
• 15:12
  Speaker 2: voor waardelijke toegang en observeerbaarheidspijplijnen direct operationeel. En ja, identiteitsbeheer
• 15:17
  Speaker 2: en contentbeveiliging moeten niet achteraf worden toegevoegd, ze horen bij
• 15:20
  Speaker 2: de basisbenodigdheden. Sla je beheer over, dan riskeer je meer
• 15:22
  Speaker 2: dan alleen slechte antwoorden. Zonder dat zou je multimodale bot
• 15:25
  Speaker 2: zomaar ouwe salarissen kunnen tonen aan externe gebruikers of facturen
• 15:28
  Speaker 2: kunnen labelen met fictieve polisnummers. Dat is niet alleen kapot AI,
• 15:31
  Speaker 2: dat is voor voor de krantenkoppen waar je compliance afdeling
• 15:33
  Speaker 2: liever niet op reageert. En daar verschuift de aandacht want
• 15:36
  Speaker 2: het volgende struikelblok is helemaal niet technisch. Het gaat erom
• 15:39
  Speaker 2: of je AI verantwoordelijk is. Iedereen strooit graag met die
• 15:42
  Speaker 2: woorden in een keynote-slide, maar in de praktijk gaat het
• 15:44
  Speaker 2: om audits, filters, compliance en de bergaankeuzes die je voor
• 15:47
  Speaker 2: de lancering maakt. En daar begint de hoofdpijn pas echt.
• 15:50
  Speaker 2: Abonneer je op de M365, show nieuwsbrief voor de directe
• 15:53
  Speaker 2: oplossingen en volg ons op M365. Volg onze LinkedIn pagina
• 15:57
  Speaker 2: voor livestreams met MVP's die Foundry in productie hebben getest
• 16:00
  Speaker 2: en hebben gezien wat er mis kan gaan. Verantwoorde AI
• 16:02
  Speaker 2: of verantwoorde hoofdpijn? Iedereen houdt ervan om verantwoorde AI in
• 16:06
  Speaker 2: een keynote te droppen. Het ziet er strak uit naast
• 16:08
  Speaker 2: modewoorden als eerlijkheid en transparantie, maar in de praktijk is
• 16:10
  Speaker 2: het geen inspirerende filosofie. Het is configuratie, audits, filters en
• 16:14
  Speaker 2: governance stappen die meer aanvoelen als serveronderhoud dan als innovatie.
• 16:17
  Speaker 2: Verantwoorde AI is de autogordel, niet de sportwagen. Sla het
• 16:21
  Speaker 2: één keer over en de crash volgt snel. Microsoft spreekt
• 16:24
  Speaker 2: vooraf over ethiek en beveiliging, maar voor beheerders die dit
• 16:26
  Speaker 2: live brengen, vertaalt het zich naar praktische vangrails. Je hebt
• 16:29
  Speaker 2: toegangsbeleid nodig dat niet bezwijkt onder druk. Filters die schadelijke
• 16:33
  Speaker 2: prompts daadwerkelijk blokkeren en logboeken die gedetailleerd genoeg zijn voor
• 16:36
  Speaker 2: een toezichthouder met een dagvaarding. Het is geen glamoureus werk,
• 16:39
  Speaker 2: het gaat om het isoleren van oude copilots van financiële gegevens,
• 16:42
  Speaker 2: het instellen van bereikregels zodat de embeds niet in SharePoint
• 16:44
  Speaker 2: geheimen snuffelen en het taggen van lak zodat je precies
• 16:47
  Speaker 2: kunt bewijzen hoe een antwoord tot stand is gekomen. Doe
• 16:49
  Speaker 2: je dat goed, dan is, verantwoord, geen bedrijfslogan, maar een overlevingsstrategie.
• 16:53
  Speaker 2: De lelijke kant van dit overslaan, een bot direct koppelen
• 16:55
  Speaker 2: aan je oude repository zonder tenant afbakening. Een gebruiker vraagt
• 17:00
  Speaker 2: naar verzekeringsvoordelen? De bot deelt behulpzaam de salarisschalen van medewerkers
• 17:04
  Speaker 2: in de chat. Nu heb je een privacy schending, een
• 17:07
  Speaker 2: morele nachtmerrie en mogelijk toezichthouders die in je nek hijgen.
• 17:10
  Speaker 2: De snelste manier om adoptie te doden is niet een
• 17:11
  Speaker 2: slecht uks, maar één datalek van gevoelige informatie. Dus, wat
• 17:14
  Speaker 2: houdt die ellende buiten de deur? Begin met Azure AI
• 17:16
  Speaker 2: Content Safety. Het is gebouwd om gewelddadigen op zenen en
• 17:19
  Speaker 2: beledigende prompts en antwoorden te filteren voordat ze bij gebruikers terechtkomen.
• 17:23
  Speaker 2: Maar dat is de basis. Foundry en Copilot Studio voegen
• 17:26
  Speaker 2: evaluatie pipelines toe die de volgende laag afhandelen. Controles op basisinformatie, relevantiescores, transparantie,
• 17:32
  Speaker 2: dashboards en verklaarbaarheid. In gewoon Nederlands, je kunt drempelwaarden aanpassen,
• 17:37
  Speaker 2: zowel invoer als uitvoer filteren en bots dwingen hun werkwijze
• 17:39
  Speaker 2: te tonen. Zonder dat gooi je met de dobbelstenen wat
• 17:42
  Speaker 2: betreft wat de AI uitspuugt. En dit is de realiteit
• 17:44
  Speaker 2: van de middelen. Microsoft zet hier zwaar op in. 34.000
• 17:48
  Speaker 2: fulltime engineers die zich volledig op beveiliging richten, plus 15.000
• 17:51
  Speaker 2: partners met diepgaande beveiligingsexpertise. Dat is een fort. Maar word
• 17:55
  Speaker 2: niet te comfortabel. Geen van die engineers zit in jouw
• 17:57
  Speaker 2: tenant om jouw toegangsregels te bepalen. Microsoft geeft je de vanrails,
• 18:00
  Speaker 2: maar het blijft jouw taak om identiteiten te beveiligen, data-isolatie
• 18:03
  Speaker 2: in te stellen, versleuteling toe te passen en beleid te configureren.
• 18:06
  Speaker 2: Als je scoping slordig is, ben jij nog steeds verantwoordelijk
• 18:09
  Speaker 2: voor het lek. De echte oplossing is Lifecycle Governance. Zie
• 18:12
  Speaker 2: het als het recept dat Microsoft zelf aanbeveelt. Testen, goedkeuren, releasen,
• 18:17
  Speaker 2: all the 10, itereren. Met checkpoints in elke cyclus zie
• 18:20
  Speaker 2: je afwijkingen voordat ze voorpagina nieuws worden. Teams die één
• 18:23
  Speaker 2: keer releasen en daarna niet meer omkijken, gaan altijd de
• 18:26
  Speaker 2: mist in. Modellen evolueren, prompts verschuiven en outputs dwalen af.
• 18:29
  Speaker 2: Governance is geen bureaucratische rompslong. Het voorkomt dat een interne
• 18:32
  Speaker 2: bot beleidsregels verzint in teams terwijl iedereen slaapt. Sommige beheerders
• 18:36
  Speaker 2: mopperen dat verantwoordelijk werken alleen maar trager is. Dat is
• 18:39
  Speaker 2: de verkeerde kijk. Verantwoordelijkheid remt snelheid niet, het voorkomt dat
• 18:42
  Speaker 2: snelheid jou remt. Goede governance betekent dat je audits overleeft
• 18:45
  Speaker 2: en projecten draaiende houdt. Sla je dit over, dan spring
• 18:48
  Speaker 2: je in het diepe. Snelheid zonder controle levert je slechts
• 18:51
  Speaker 2: één soort record op, de kortste tijd tot een postmortem.
• 18:53
  Speaker 2: Denk aan het rijden over haarspeldbochten in de bergen. Je
• 18:56
  Speaker 2: vervloekt de vangrails niet, je bedankt ze als de weg
• 18:58
  Speaker 2: 60 meter naar beneden stort. Verantwoorden AI is precies hetzelfde. Scopes, policies,
• 19:02
  Speaker 2: filters en locks stoppen je snelheid niet, ze houden je
• 19:04
  Speaker 2: uit het nieuws. Kortom, Microsoft heeft je serieuze krachtige tools gegeven.
• 19:08
  Speaker 2: Content safety, evaluatie pipelines, beveiligingskaders, SDK guard trails. Maar het
• 19:14
  Speaker 2: blijft jouw taak om tenants de scope open, toegang te
• 19:16
  Speaker 2: configureren en die lussen in je productiecyclus op te nemen.
• 19:19
  Speaker 2: Doe dat en je hebt AI die compliance overleeft in
• 19:21
  Speaker 2: plaats van eraan bezwijkt. Negeer het, en het is niet
• 19:24
  Speaker 2: alleen een risico op uitval, maar je carrière staat op
• 19:26
  Speaker 2: het spel. Verantwoorde AI is niet traag. Verantwoorde AI is houdbaar.
• 19:30
  Speaker 2: En houdbaarheid is de echte test, want wat volgt gaat
• 19:32
  Speaker 2: niet om functies, maar of je dit platform als plug-and-play
• 19:35
  Speaker 2: behandelt of respecteert als infrastructuur waar governance voorop staat. Dat
• 19:38
  Speaker 2: onderscheid bepaalt wie het volhoudt en wie opbrandt. Dit is
• 19:41
  Speaker 2: de essentie. De Valkuil is niet Foundry of Copilot Studio,
• 19:44
  Speaker 2: maar denken dat ze plug-and-play zijn. Het geheugensteuntje is simpel.
• 19:47
  Speaker 2: Governance eerst, experimenten daarna, productie. als laatste. Identiteit en observabiliteit
• 19:52
  Speaker 2: negeren is op eigen risico. De tools zijn er, maar
• 19:54
  Speaker 2: alleen governance maakt van prototypes echte productie. Dus, als je
• 19:57
  Speaker 2: de harde oplossingen wilt die je tenant echt in de
• 20:00
  Speaker 2: lucht houden, abonneer je dan op de podcast en laat
• 20:02
  Speaker 2: een review achter. Ik steek hier dagelijks uren in en
• 20:05
  Speaker 2: je steun helpt echt. Tools veranderen, overlevingstactieken blijven bestaan.