Latest / M365.FM – Microsoft 365, Copilot & AI podcast in het Nederlands / AI-hallucinaties stoppen: RAG goed verankeren met Azure AI Search (AI-nasynchronisatie)

Transcript

AI-hallucinaties stoppen: RAG goed verankeren met Azure AI Search (AI-nasynchronisatie) · M365.FM – Microsoft 365, Copilot & AI podcast in het Nederlands

0:00
Je hebt geklikt omdat de podcast zei dat Azure AI Foundry een valstrik is, toch?
0:04
Goed, je bent hier op de juiste plek.
0:06
Hier is de belofte vooraf.
0:07
Co-pilots storten in zonder grounding, maar tools zoals Retrieval Augmented Generation, of RAG,
0:12
met Azure ISR hybride en semantisch, plus evaluators voor gefundeerdheid, relevantie en coherentie,
0:18
zijn de echte oplossingen die voorkomen dat je hallucinaties als antwoorden verstuurt.
0:22
We laten de marketingpraatjes achterwegen en laten je het overlevingshandboek zien met voorbeelden uit de praktijk.
0:27
Abonneer je op de M365 Show Nieuwsbrief en volg de livestreams met MVP's.
0:32
Daar vind je de littekens en de oplossingen.
0:34
En aangezien de eerste barsten meestal in multimodale apps verschijnen, laten we daar beginnen.
0:38
Waarom multimodale apps falen in de echte wereld?
0:41
Wanneer je een multimodale demo op het podium ziet, ziet het er foutloos uit.
0:44
De presentator voert een tekstprompt in, een schone afbeelding, misschien zelfs een snelle spraakinvoer,
0:48
en het model levert een perfecte grafiek of een scherpe samenvatting van een contract.
0:51
Het voelt allemaal als magie, maar zodra je hetzelfde probeert binnen een echt bedrijf, is de glans er snel vanaf.
0:56
Demo's draaien op perfecte invoer, werkplekken draaien op rommel.
0:59
Dat is de werkelijke kloof.
1:01
In productie geeft niemand je model zorgvuldig geënsceneerde screenshots of CSV's die door een normencommissie zijn opgemaakt.
1:07
Ouer voert het wazige identiteitsbewijzen van de overheid.
1:10
Inkoop sleept er PDF's bij die al vijf keer zijn doorgevaxt.
1:13
Iemand bij Finance maakt een foto van een factuur met een gebarsten Android-camera.
1:17
Multimodale modellen kunnen tekst, afbeeldingen, spraak en video verwerken,
1:20
maar ze hebben goed geïndexeerde data en retrieval nodig om te presteren onder rommelige omstandigheden.
1:24
Anders vraag je het model simpelweg om te improviseren op basis van afval.
1:27
En hoeveel GPU-budget je ook uitgeeft, garbage in, garbage out, los je daarmee niet op.
1:31
Dit is waar retrieval augmented generation, of RAG, je moet redden.
1:35
In begrijpelijke taal, het model kent je bedrijf niet, dus koppel je het aan een kennisbron.
1:39
Het haalt een stukje data op en vormt het antwoord daaromheen.
1:41
Wanneer de match scherp is, krijg je bruikbare, gefundeerde antwoorden.
1:45
Wanneer het slordig is, gaat het model freestylen en spuugt het zelfverzekerde onzin uit.
1:48
En zo eindig je met een chatbot die zweert dat je bedrijf een nieuw Q3-kortingsbeleid heeft dat helemaal niet bestaat.
1:54
Het is niet bewust geworden, het heeft gewoon de verkeerde data opgehaald.
1:57
Azure AI Studio en Azure AI Foundry leunen beide op dit patroon en ze ondersteunen alle soorten modaliteiten,
2:02
taal, visie, spraak en zelfs video-retrieval.
2:05
Maar de adder onder het gras is dat RAG slecht zo goed is als de data die het gebruikt.
2:08
Dit is het addertje onder het gras dat de meeste teams missen.
2:10
Je kunt niet zomaar één retrieval methode implementeren en denken dat het klaar is.
2:13
Als je wilt dat resultaten consistent blijven, heb je hybride zoekopdrachten met trefwoorden en factoren nodig,
2:17
aangevuld met een semantische herrangschikker die in Azure AI's ARG is ingebouwd.
2:19
Hiermee balanceert het systeem letterlijke trefwoordresultaten met semantische betekenis
2:23
en worden de resultaten opnieuw gerangschikt zodat de juiste context bovenaan staat.
2:26
Integreer dat in je multimodale opzet en plotseling kan het model omgaan met scheve scans
2:30
en wazige afbeeldingen in plaats van je nalevingsbeleid uit het niets te verzinnen.
2:33
Laten we het nu hebben over waarom zoveel implementaties mislukken.
2:37
Ondernemingen verwachten vanaf de eerste dag perfecte resultaten, maar begroten niets voor evaluatierondes.
2:42
Zonder controles op betrouwbaarheid, relevantie en samenhang op de achtergrond
2:46
merk je afwijkingen pas op als gebruiker zal zijn afgehaakt.
2:48
Veel vroege implementaties falen snel om precies deze reden.
2:51
De output klinkt correct, maar niemand heeft het getoetst aan de bronwaarheid.
2:54
Denk er eens over na, je zou nooit een nieuwe database implementeren zonder monitoring.
2:58
Toch gooi je leidinggevende multimodale AI in productie alsof het een plug-and-play toverdoos is.
3:03
Het hoeft niet in een mislukking te eindigen.
3:05
Carvana is een van de Foundry klantverhalen die dit punt bewijst.
3:08
Zij maakt de self-service AI echt nuttig door retrieval te verfijnen, hun agents goed te funderen en te investeren in observabiliteit.
3:15
Dat veranderde wat een nutteloze chatbot had kunnen zijn in iets waar klanten op konden vertrouwen.
3:20
Kijk nu naar de bedrijven die een generieke chatbot op hun supportpagina plakten zonder fundering of evaluatie.
3:25
Je hebt het resultaat gezien.
3:27
Garantieclaims die als verkoopniets werden verwerkt, overvolle supportwachtrijen en een beschadigde geloofwaardigheid.
3:31
Dezelfde Azure Stack, het tegenovergestelde resultaat.
3:34
Dus, hier is de botte waarheid.
3:35
Multimodaal faalt niet omdat de AI niet slim genoeg is.
3:38
Het faalt omdat de data niet is voorbereid, geïndexeerd of gemonitord.
3:42
Voer rommel in het retrieval systeem, sla evaluaties over en zie het vertrouwen verdampen.
3:46
Maar met hybride zoeken, semantische herrangschikking en constante evaluaties kun je facturen, contracten, foto's en zelfs ruwe audionotices verwerken met antwoorden die in de realiteit blijven.
3:55
In plaats van in fantasie.
3:56
En zodra de fundering op orde is, komt er een ander risico in beeld.
3:59
Want zelfs als de datapijplijnen schoon zijn, kan het systeem dat ze aanstuurt nog steeds ontsporen.
4:04
Dat is waar de vraag verschuift.
4:06
Helpt de agent die dit allemaal coördineert je bedrijf echt, of is hij stilletjes je IT-budget aan het verbranden?
4:12
Behulpzame agent of dure pressen papier, een agent coördineert modellen, data, triggers en acties.
4:18
Zie het als een verkeersregelaar voor je geautomatiseerde workflows.
4:20
Soms regelt hij alles soepel, soms wuift hij drie keepwagens en een clownauto naar binnen en gaat dan lunchen.
4:26
Dat gat tussen de nette definitie en de rommelige realiteit is waar de meeste teams de mist in gaan.
4:30
Op papier ziet een agent er fantastisch uit.
4:33
Voer er instructies in, wijs het naar je data en apps en het hoort processen uit te voeren, antwoorden te vinden en zelfs workflows te starten.
4:39
Maar dit is geen perfecte collega.
4:40
Het lost net zo makkelijk om twee uur s'nachts een terugkerend probleem op, als dat het je wachtrij overspoelt met honderd spooktickets omdat het een foutlogboek verkeerd las.
4:48
Stel het je voor binnen ServiceNow.
4:49
Wanneer strikt afgebakend, maakt de AI alleen echte tickets aan voor werkelijke problemen en bespaart het mensen uren tijd.
4:55
Wordt het losgelaten, dan kan het de helpdesk begraven onder een muur van valse meldingen over kritieke printerstoringen op hardware die prima werkt.
5:00
Probeer die productiviteitswinst maar eens uit te leggen aan je CEO.
5:03
Hier is het onderscheid dat vele missen.
5:05
Copilots en agents zijn niet hetzelfde.
5:07
Een copilot is in feite een assistent voor je prompts.
5:09
Jij vraagt het antwoord en jij houdt de controle.
5:11
Agents daarentegen beslissen dingen zonder op jou te wachten.
5:14
Ze volgen je vage instructies tot op de letter, zelfs als de resultaten nergens op slaan.
5:18
Dat is het moment waarop automatisering ofwel echte tijd bespaart, ofwel leidt tot chaos die je twee keer zoveel tijd kost om op te ruimen.
5:24
De waarheid is dat veel teams hun agent een functieomschrijving geven die klinkt als een verkiezingsbelofte.
5:29
Optimaliseer processen, bied inzichten, help mensen.
5:32
Gefeliciteerd, je hebt de bot in feite verteld dat hij zijn gang mag gaan.
5:34
Agents zonder afbakening blijven niet beleefd binnen hun grenzen.
5:36
Ze gaan volledig los.
5:38
Ze verzinnen problemen om op te lossen.
5:39
Ze dupliceren records.
5:41
Ze raken in eindeloze lussen.
5:42
En dan vraagt het management zich af waarom een gelikte demo uitmondde in productieproblemen.
5:45
Laten we nu de feiten op een rij zetten.
5:47
Het is niet zo dat de meeste organisaties in de eerste twee maanden falen.
5:50
Dat staat niet in het onderzoek.
5:51
Wat wel gebeurt, en snel ook, is dat veel organisaties vroeg tegen barrières aanlopen omdat ze hun agents nooit strak hebben afgebakend,
5:57
geen validatiestappen hebben toegevoegd en nooit telemetrie hebben geïmplementeerd.
6:00
Zonder die vangrails is je glimmende nieuwe tool gewoon een hoekenloze stagiair met beheerdersrechten.
6:04
En hier geeft de Microsoft stack je daadwerkelijk de benodigde onderdelen.
6:08
Copilot Studio is de low-code plek waar makers het gedrag van agents ontwerpen.
6:12
Denk aan flows, prompts en event triggers.
6:14
En Azure Eye Foundries Agent Service is de bedrijfsmatige basis die die agents in productie brengt met observability.
6:20
Agent Service is waar je monitoring, logs en statistieken toevoegt.
6:23
Het is doelbewust afgebakend voor automatisering met ingebouwd menselijk toezicht,
6:28
omdat Microsoft weet wat er gebeurt als je een ongevere testenagent in het wild vertrouwt.
6:32
Dus, hoe weet je of je agent daadwerkelijk nuttig is?
6:34
Haal hem door een simpele checklist.
6:36
1. Vermindert het het aantal werkuren van mensen of sleept het je personeel mee in het oplossen van baks?
6:41
2. Meet je statistieken zoals onderbouwing, vloeiendheid en samenhang of staar je alleen naar die mooie marketing dashboards?
6:47
3. Heb je telemetrie ingesteld zodat je afwijkingen kunt opvangen voordat gebruikers gaan klagen?
6:52
Als je een van die vragen verkeerd hebt beantwoord, heb je geen intelligente agent.
6:55
Je hebt een dure screensaver.
6:57
De oplossing is het gebruik van de observability functies en ingebouwde evaluators van Azure AI Foundry.
7:02
Dit zijn geen optionele extra's.
7:04
Dit is de gedocumenteerde manier om onderbouwing, relevantie, samenhang en waarheidsgetrouwheid te meten.
7:08
Zonder deze tools gok je maar of je agent slim is of gewoon beleefd uit zijn nek kletst.
7:12
Met deze tools kun je vol vertrouwen ingrijpen en bijsturen wanneer de output afwijkt.
7:17
Dus ja, agents kunnen echt het verschil maken.
7:19
Verkeerd ingezet worden ze chaosversterkers die meer tijd kosten dan ze besparen.
7:23
Goed ingezet, met duidelijke taken, echte telemetrie en onderbouwde antwoorden kunnen ze taken afhandelen terwijl mensen zich op waardevoller werk richten.
7:29
En net wanneer je denkt dat je die balans gevonden hebt, verandert het verhaal weer.
7:33
Microsoft pust nu al autonome agentspots die niet op jou wachten voordat ze actie ondernemen.
7:38
Dat verplaatst de inzet van behulpzaam of nutteloos naar een heel ander niveau, want we hebben het nu over systemen die draaien terwijl niemand meekijkt.
7:45
De valkuil van de autonome agent. Autonome agents zijn waar de hype gevaarlijk wordt.
7:51
Op papier zijn ze de droom. Laat de AI voor je werken, automatiseer het saaie werk en stop met jezelf om twee uur s'nachts uit bed te slepen voor ticketwachtrijen.
7:58
Klinkt geweldig in de bestuurskamer.
8:00
De valkuil is simpel. Ze wachten niet op toestemming.
8:03
Copilots pauseren voor jou. Autonome agents doen dat niet.
8:06
En wanneer ze een verkeerde beslissing nemen, is de schade direct zichtbaar en schaal deze door je hele tenant heen.
8:09
Het concept is simpel genoeg. Copilots zijn reactief. Agents zijn proactief.
8:13
In plaats van stil te zitten tot iemand een prompt typt, zet je agents in om de status van services te bewaken, beveiligingssignalen te verwerken of workflows automatisch uit te voeren.
8:20
Microsoft presenteert dit als efficiëntie, minder menselijke verspilling, snellere detectie, soepelere operaties.
8:26
De belofte is reëel, maar hier is de belangrijke context.
8:29
Autonome agents in Copilot Studio zijn momenteel nog in preview.
8:32
Preview betekent niet dat het kapot is, maar wel dat het nog niet getest is in de complexe echte wereld.
8:36
En zelfs Microsoft zegt dat je governance-richtlijnen voor de levenscyclus en het Copilot console beheer op orde moet hebben voordat je ze breed uitholt.
8:42
Denk eens aan een realistisch risico.
8:44
Stel dat je een autonome helpdesk-agent bouwt en deze toestemming geeft om op inlogafwijkingen te reageren.
8:49
In een demo met vijf gebruikers werkt het perfect.
8:51
Meldingen worden verwerkt, accounts beheerd.
8:53
Dan komen de onvoorspelbare inputstromen binnen in productie.
8:55
In plaats van te wachten, begint het honderden accounts massaal te resetten op basis van valse positieven.
9:00
Het resultaat is geen hypothetische storing.
9:02
Het kan in werkelijkheid de operaties aan het eind van de maand platleggen.
9:05
Dat is geen science fiction.
9:06
Het is het storingsscenario waar je voor tekent als je scoping overslaat.
9:09
De oplossing is niet de technologie dumpen.
9:11
Het is eerst het van het bouwen.
9:13
Dus, wat staat er op de checklist voor overleving?
9:15
Drie zaken zijn essentieel voor elke flitsende automatisering.
9:17
1. Scoping van identiteit en toegang.
9:19
Geef je agent minimale rechten, geen algemene beheerdersrollen.
9:22
2. Logging en rollback.
9:24
Elke actie moet een spoor achterlaten dat je kunt controleren.
9:27
En voor elke serieuze actie is een terugdrijdmogelijkheid nodig als de agent fouten maakt.
9:30
3. Inhouds en gedragsfilters.
9:32
Microsoft benoemt dit bij Azure AI content safety en configuratie van kennis.
9:36
De filters die voorkomen dat een enthousiaste bot ongepaste antwoorden geeft of buiten de lijntjes kleurt.
9:41
Doe dit eerst, anders zal de slimheid van je agent je operatie begraven in plaats van helpen.
9:45
De ethische laag maakt dit nog scherper.
9:47
Denk aan een ouder agent die medewerkers automatisch als riskant markeert,
9:50
of een financiële agent die betalingen aan leveranciers inhoudt omdat hij ze onterecht als fraude klassificeert.
9:54
Dit zijn geen onschuldige eigenaardigheden, dit zijn fouten met menselijke gevolgen en juridische consequenties.
9:59
Bias in trainingsdata of retrieval verdwijnt niet zomaar omdat je nu in Enterprise Preview draait.
10:04
Zonder filters, controles en menselijke backups besteed je oordeelsvorming uit waarvan je advocaten zeker niet willen dat die door een onbeheerd algoritme wordt gemaakt.
10:11
Microsoft's eigen boodschap tijdens Ignite was hier overbod.
10:14
Guardrails, levenscyclusbeheer, monitoring en het copilot controlesysteem zijn geen extraatjes, ze zijn vereist.
10:19
Preview draait vandaag minder om glimmende demo's en meer om testers die aantonen waar de gaten zitten.
10:24
Als je live gaat zonder stage-tests, goedkeuringsworkflows en audits, draai je geen agent, maar stress test je jouw tenant in productie.
10:31
Daarom is observabiliteit niet optioneel.
10:33
Je hebt dashboards nodig die elke stap van een agent tonen en controleren of de output gefundeerd, relevant en in lijn met je beleid is.
10:40
En je hebt Human in T-loop opties nodig.
10:42
Microsoft steekt dit niet onder stoelen of banken.
10:44
Ze verwijzen naar patronen waarbij de mens de uiteindelijke veiligheidsmaatregel blijft.
10:47
Zie het als een automatische piloot in een vliegtuig.
10:50
Ongelooflijk nuttig, maar altijd ontworpen met een handmatige override.
10:53
Als de bot denkt dat de optimale landing in een meer is, wil je de besturing overnemen voor de plons.
10:57
De juiste vergelijking hier is een tiener leren autorijden.
11:00
Het potentieel is echt, de snelheid is indrukwekkend, maar je geeft niet zomaar de sleutels, verlaat de oprit en hoopt op het beste.
11:05
Je zit aan de passagierskant, stelt grenzen en installeert remmen waar je zelf bij kunt.
11:09
Dat is levenscyclus governance in de praktijk.
11:12
Zijwieltjes totdat je zeker weet dat het systeem niet van de weg afraakt.
11:15
En dit brengt ons naar de grotere fabrieksvloer waar agents, copilots en elke workflow die je hebt getest samenkomen.
11:20
Microsoft noemt dat Azure AI Foundry, een alles-in-één AI bouwruimte met alle nodige tools.
11:25
Of het een productiekrachtpatser wordt of de plek waar je project zelf ontbrandt, hangt volledig af van hoe je ermee omgaat.
11:32
Azure AI Foundry, jouw fabriek of jouw mijneveld.
11:35
Azure AI Foundry is Microsoft's nieuwe vlaggenschip, een zogenaamde fabriek voor alles wat met AI te maken heeft.
11:41
Het probleem? Te veel teams lopen naar binnen en behandelen het als een Ikea.
11:45
Ze dwalen verblind door de catalogie rond, grijpen een paar glimmende grote taalmodellen,
11:49
gooien er wat connectors bij en schroeven zonder instructies iets in elkaar.
11:52
Waar ze mee eindigen is geen Enterprise AI systeem, maar een speelgoeddemo die omvalt zodra een echte gebruiker een rommelige PDF upload.
11:59
Dit is wat Foundry werkelijk biedt, rechtstreeks uit het officiële handboek.
12:02
Een model katalogus die Microsoft, OpenAI, Meta, Mistral, DeepSeq en anderen omvat.
12:08
Aanpassingsopties zoals Retrieval Augmented Generation, Fine Tuning en Distillatie.
12:12
Een agentservice voor orkestratie, tools zoals Prompt Flow voor evaluatie en debugging,
12:16
beveiligingsbaselines, identiteits- en toegangsbeheer, contentfilters en observabiliteitsdashboards.
12:22
Kortom, alle onderdelen die je nodig hebt om copilots, agents en autonome stromen te bouwen en ze compliant te houden.
12:27
Dat is de inventaris.
12:29
Het probleem is niet dat de gereedschapskist leeg is, maar dat te veel beheerders denken dat ze simpelweg de GPT-4 turboschakelaar omzetten en het klaar voor productie noemen.
12:36
De waarheid is dat Foundry een fabrieksvloer is, geen speelgoeddoos voor je hackathon.
12:39
Dat betekent identiteitsgrenzen instellen, zodat alleen de juiste mensen bij de juiste modellen kunnen.
12:44
Het betekent contentbeveiliging toevoegen aan elke pipeline.
12:47
Het betekent observabiliteit gebruiken, zodat je weet wanneer een antwoord is onderbouwd versus wanneer het model bedrijfsbeleid uit de duim zuigt.
12:53
En het betekent de taak koppelen aan het juiste model in plaats van de grootste te kiezen omdat die slim klinkt.
12:59
Sla die stappen over en de chaos komt via de achterdeur naar binnen.
13:02
Ik heb een team een Foundry co-pilot op SharePoint zien bouwen die vrolijk vertrouwelijke oude data deelde met 20 stagiairs.
13:07
Het was niet slim, het was een compliance ramp die voorkomen had kunnen worden met ingebouwde toegangsregels.
13:12
Laten we praten over echte faalmodi.
13:14
Een organisatie gebruikte ooit GPT-4 Turbo voor het taggen van productfoto's.
13:18
In het lab verpletterde het de demo.
13:19
Strakke studiofoto's, perfecte tags, iedereen applaudisseerde.
13:23
In productie waren de inputbestanden geen glanzende JPEG's, maar wazige telefoonfoto's uit het magazijn.
13:28
Plotseling bestempelde de AI kinderwagens als bureaustoelen en veranderde UPC labels in valse serienummers.
13:34
Bovenop de vertrouwensbreuk begonnen de kosten op te lopen.
13:37
En dit is geen sprookje van 0,01 dollar per bericht.
13:39
De prijsstelling van Foundry is gebaseerd op verbruik en gekoppeld aan de specifieke services die je gebruikt.
13:43
Elke connector, elke ophaalaanhoep, elke berichtmeter wordt gefactureerd aan je tenant.
13:47
Elk onderdeel heeft zijn eigen facturatie model.
13:50
Die flexibiliteit is mooi, maar als je niets gaat met de Asherprijs calculator en het verbruik niet bijhoudt, zal je financiële team verrast zijn door de rekening.
13:57
Dat is de factuurvalstrik.
13:59
Verbruiksprijzen werken als je plant, monitort en optimaliseert.
14:02
Zo niet, dan lijkt het op een sportwagen gebruiken als pizza scooter, duur, lawaaierig en zinloos.
14:07
We kennen dit allemaal van zaken als Powerbee, geweldige demo, torenhoge rekening.
14:11
Laat Foundry je niet in dezelfde positie brengen.
14:13
Ontwikkelaars prototypen graag in Foundry omdat de sandbox zo soepel aanvoelt.
14:16
En in een sandbox is het inderdaad soepel.
14:18
Schone demogegevens, geen rommel, direct resultaat.
14:21
Maar dit is de doodsteek.
14:22
Teams duwen dat prototype naar productie zonder evaluatiepijplijnen.
14:25
Als je evaluatoren voor gefundeerdheid, vloeiendheid, relevantie en samenhang overslaat, werk je in het duister.
14:30
En wat gebeurt er dan?
14:31
Gebruikers zien de afwijking in de output, het vertrouwen daalt, het management snijdt in de financiering.
14:35
Dit is geen falen van Foundry, dit is het falen van teams op het gebied van governance.
14:38
Veel Foundry prototypes stranden om deze reden voor de productie.
14:41
Geen observeerbaarheid, geen kwaliteitscontroles, geen telemetrie.
14:44
Het antwoord zit gewoon in het platform.
14:46
Gebruik Azure AI Foundry observeerbaarheid vanaf de eerste dag.
14:49
Integreer prompt flows.
14:50
Draai ingebouwde evaluatoren bij elke test.
14:52
Fundeer je systeem met Azure Isearch via hybride zoekopdrachten en semantischere ranking voordat je überhaupt live gaat.
14:57
Microsoft heeft deze tools niet weggestopt, ze zijn gedocumenteerd voor productieveiligheid.
15:01
Maar al te vaak bladeren bouwers erlangs alsof het voetnoten zijn.
15:04
Die checkpointmentaliteit is hoe je uit het mijneveld blijft.
15:08
Behandel Foundry als een fabriek, met governance als eerste stap, compliancebeleid ingebakken zoals voorwaardelijke toegang en observeerbaarheidspijplijnen die vanaf het begin draaien.
15:16
En ja, identiteitskoping en contentveiligheid moeten niet achteraf worden toegevoegd, ze horen in de materiaallijst.
15:21
Sla governance over en je riskeert meer dan alleen slechte antwoorden.
15:24
Zonder dat kan je multimodale bot, vrolijk hour, salarissen blootstellen aan externe gebruikers of facturen labelen met fictieve polisnummers.
15:30
Dat is niet alleen kapotte AI, dat is voor voor de krantenkoppen dat je compliance afdeling hiervoor niet uitlegt.
15:34
En daar verschuift de aandacht, want het volgende struikelblok is helemaal niet technisch.
15:39
Het is de vraag of je AI verantwoordelijk is.
15:41
Iedereen strooit graag met die woorden in een keynote slide, maar in de praktijk gaat het om audits, filters, compliance en de bergkeuzes die je voor de lancering maakt.
15:48
En dat is waar de hoofdpijn pas echt begint.
15:50
Abonneer je op de M365, show nieuwsbrief voor de directe oplossingen en volg ons op M365.
15:56
Volg onze LinkedIn pagina voor livestreams met MVPs die Foundry in productie hebben getest en hebben gezien wat er misgaat.
16:01
Verantwoorden AI of verantwoorden hoofdpijn.
16:03
Iedereen laat verantwoorden AI graag vallen in een keynote.
16:06
Het staat mooi naast modeworden als eerlijkheid en transparantie.
16:09
Maar in de praktijk is het geen inspirerende filosofie.
16:12
Het is configuratie, audits, filters en governance stappen die meer aanvoelen als serveronderhoud dan als innovatie.
16:17
Voor antwoorden AI is de autogordel, niet de sportwagen.
16:20
Sla het één keer over en de crash volgt snel.
16:23
Microsoft praat vooraf over ethiek en beveiliging, maar voor beheerders die dit uitrollen, vertaalt het zich naar praktische vangrails.
16:29
Je hebt toegangsbeleid nodig dat niet bezwijkt onder druk, filters die schadelijke prompts echt blokkeren en logboeken die gedetailleerd genoeg zijn voor een toezichthouder met cafeïne en een dagvaarding.
16:37
Het is geen glamoureus werk.
16:39
Het is het isoleren van ouder copilots van financiële gegevens, het instellen van scopingregels zodat 10 bots niet bij SharePoint geheimen komen en het labelen van LAX zodat je precies kunt bewijzen hoe een antwoord tot stand kwam.
16:49
Doe dat goed en verantwoord is geen bedrijfslogan, het is overleving.
16:53
De lelijke kant van dit overslaan, een bot direct aansluiten op je ouder repository zonder tenantscoping.
16:58
Een gebruiker vraagt naar secundaire arbeidsvoorwaarden.
17:01
De bot publiceert behulpzaam de salarisschalen van werknemers in de chat.
17:05
Nu heb je een privacy schending, een morele nachtmerrie en mogelijk toezichthouders in je nek hijgen.
17:10
De snelste manier om adoptie te doden is niet een slecht ux, maar één lek van gevoelige gegevens.
17:14
Dus wat houdt die puinhoop buiten?
17:15
Begin met Azure AI Content Safety.
17:17
Het is gebouwd om gewelddadige, opzene en aanstootgevende prompts en antwoorden te filteren voordat ze bij gebruikers terechtkomen.
17:23
Maar dat is de basis.
17:24
Foundry en Copilot Studio voegen daar evaluatiepijplijnen aan toe die de volgende laag afhandelen.
17:29
Controles op basis van feiten, relevantiescores, transparantie, dashboards en uitlegbaarheid.
17:34
Eenvoudig gezegd, je kunt drempelwaarden aanpassen, zowel input als output filteren en bots dwingen hun bronnen te tonen.
17:40
Zonder dat gooi je met dobbelstenen over wat de AI uitspugt.
17:43
En dit is de realiteit van de middelen.
17:45
Microsoft zet hier zwaar op in.
17:47
34.000 full-time ingenieurs toegewezen aan beveiliging, plus 15.000 partners met diepgaande expertise.
17:53
Dat is een fort, maar wordt niet te comfortabel.
17:55
Geen van die ingenieurs zit in jouw tenant om je toegangsregels te bepalen.
17:59
Microsoft geeft je de vangrails, maar het is nog steeds jouw taak om identiteiten te beveiligen, data isolatie in te stellen, versleuteling toe te passen en beleid te configureren.
18:06
Als je scoping slordig is, ben jij nog steeds verantwoordelijk voor het lek.
18:09
De echte oplossing is lifecycle governance.
18:12
Zie het als het recept dat Microsoft zelf aanbeveelt.
18:15
Testen, goedkeuren, releasen, all the ten, itereren.
18:18
Met checkpoints in elke cyclus zie je afwijkingen voordat ze voorpaginanieuws worden.
18:23
Teams die één keer releasen en daarna niet meer omkijken, gaan altijd de mist in.
18:26
Modellen evolueren, prompts verschuiven en outputs dwalen af.
18:29
Governance is geen bureaucratische rompslong.
18:31
Het voorkomt dat een interne bot beleidsregels verzint intiemsterwijl iedereen slaapt.
18:35
Sommige beheerders mopperen dat verantwoordelijk werken alleen maar trager is.
18:38
Dat is de verkeerde kijk.
18:40
Verantwoordelijkheid remt, snelheid niet.
18:42
Het voorkomt dat snelheid jou remt.
18:43
Goede governance betekent dat je audits overleeft en projecten draaiende houdt.
18:47
Sla je dit over, dan spring je in het diepe.
18:49
Snelheid zonder controle levert je slechts één soort record op.
18:51
De kortste tijd tot een postmortem.
18:53
Denk aan het rijden over haarspeldbochten in de bergen.
18:55
Je vervloekt de vangrails niet, je bedankt ze als de weg 60 meter naar beneden stort.
18:59
Verantwoorden AI is precies hetzelfde.
19:01
Scopes, policies, filters en logs stoppen je snelheid niet, ze houden je uit het nieuws.
19:05
Kortom, Microsoft heeft je serieuze krachtige tools gegeven.
19:08
Content safety, evaluatie pipelines, beveiligingskaders, SDK guardrails.
19:13
Maar het blijft jouw taak om tenants de scope open, toegang te configureren en die lussen in je productiecyclus op te nemen.
19:19
Doe dat en je hebt AI die compliance overleeft in plaats van eraan bezwijkt.
19:22
Negeer het en het is niet alleen een risico op uitval, maar je carrière staat op het spel.
19:27
Verantwoorden AI is niet traag.
19:29
Verantwoorden AI is houdbaar.
19:30
En houdbaarheid is de echte test, want wat volgt gaat niet om functies, maar of je dit platform als plug-and-play behandelt of respecteert als infrastructuur waar governance voorop staat.
19:38
Dat onderscheid bepaalt wie het volhoudt en wie opbrandt.
19:41
Dit is de essentie.
19:42
De Valkuil is niet Foundry of Copilot Studio, maar denken dat ze plug-and-play zijn.
19:46
Het geheugensteuntje is simpel, governance eerst, experimenten daarna, productie als laatste.
19:50
Identiteit en observabiliteit negeren is op eigen risico.
19:53
De tools zijn er, maar alleen governance maakt van prototypes echte productie.
19:57
Dus als je de harde oplossingen wilt die je tenant echt in de lucht houden, abonneer je dan op de podcast en laat een review achter.
20:03
Ik steek hier dagelijks uren in en je steun helpt echt.
20:06
Tools veranderen, overlevingstactieken blijven bestaan.