Latest / M365.FM – Microsoft 365, Copilot & AI podcast in het Nederlands / Azure AI Foundry Threads: zo maak je AI klaar voor de enterprise (AI-nasynchronisatie)
Transcript
- 0:00Dit is het schokkende deel dat niemand je vertelt.
- 0:02Wanneer je een AI in Azure Foundry inzet, start je niet zomaar een te groot model op.
- 0:06Je plaatst het in een beheerde runtime waar elke relevante actie, elk bericht, elke tool aanroep en elke run-stap wordt gelogd en getraceerd.
- 0:12Je ziet hoe threads, runs en runs stappen het auditraject vormen dat experimenten controleerbaar en zakelijk inzetbaar maakt.
- 0:17Dit verandert AI van een losgeslagen kanon in een gedisciplineerd systeem dat je kunt besturen.
- 0:22En zodra die structuur staat, is de echte vraag, wie leidt dit digitale team?
- 0:26Maak kennis met de teamleider.
- 0:28Wanneer je er een opzet in Foundry, start je niet simpelweg een chatvenster.
- 0:31Je benoemt een teamleider.
- 0:33Dit is geen stagiair die wat zit te typen met AddoComplete.
- 0:35Het is een veldkapitein die is gebouwd voor missies met een duidelijk ontwerp.
- 0:39En dat ontwerp komt neer op drie kernelementen, het model, de instructies en de tools.
- 0:44Het model is het brein.
- 0:45Het regelt redenering en taal, het deel dat menselijke woorden kan ontleden, stappen kan plannen en antwoorden kan opstellen.
- 0:50De instructies zijn de missiebevelen.
- 0:52Ze voorkomen dat het brein gaat dwalen door het te verankeren in de resultaten die je echt nodig hebt.
- 0:57En de tools zijn de uitrusting aan zijn riem, code executie, zoekconnectoren, rapportage api's of elk extern systeem dat je koppelt.
- 1:04Een Azure AI agent is expliciet opgebouwd uit deze drie eenheid.
- 1:07Zonder dat krijg je geen reproduceerbaarheid of controleerbaarheid.
- 1:10Je krijgt alleen tekstgeneratie zonder bewijsvoering.
- 1:12Laten we dat vertalen naar een voorbeeld van het slagveld.
- 1:14Het model is de gevechtstraining van je kapitein.
- 1:16Het weet hoe het een zwaard moet hanteren of een vonnis moet vellen.
- 1:19De instructies zijn de missiebriefing.
- 1:20Bescherm het convoy.
- 1:21Haal gegevens uit een contractenset.
- 1:23Rapporteer resultaten terug in een specifiek formaat.
- 1:25Dat houdt de kapitein in lijn en voorspelbaar.
- 1:27Daarna voegen de tools specialisatie toe.
- 1:29Een enterhaak voor het beklimmen van muren is als een code interpreter voor het uitvoeren van analyses.
- 1:33Een beveiligde radio is als een SharePoint of aangepaste MCP connector die live data in het plan voert.
- 1:38Wanneer deze drie samenkomen, is de agent niet zomaar wat aan het improviseren.
- 1:41Hij voert een missie uit met logs en controlepunten.
- 1:43Foundry maakt dit mechanisme praktisch inzetbaar.
- 1:45In de meeste chat-api's krijg je alleen het model en een prompt.
- 1:48En zodra het begint te praten, is er geen formeel besef van bevelen of tool-orchestratie.
- 1:52Dat is alsof je je kapitein zonder plan of uitrusting het veld in stuurt.
- 1:55Daarentegen garandeert de Foundry agent-service dat alle drie de lagen aanwezig zijn.
- 2:00Nog beter, je zit niet vast aan één brein.
- 2:02Je kunt wisselen tussen modellen in de Foundry-catalogus.
- 2:05GPT4 voor complexe strategie, misschien een lichter model voor eenvoudige taken, of zelfs mistral of diepziek erbij.
- 2:10Jij kiest wat bij de missie past.
- 2:12Die flexibiliteit is het verschil tussen een standaard stagiair en een commandant die zich kan aanpassen.
- 2:16Denk nu eens aan de inzet als die lagen ontbreken.
- 2:19De resultaten worden inconsistent.
- 2:21De ene contractzamenvatting leest sus, de volgende spreekt dat subtiel tegen.
- 2:24Je verliest traceerbaarheid omdat geen enkel logboek vastlegt hoe het antwoord tot stand kwam.
- 2:29Foutopsporing wordt gissen omdat ontwikkelaars de redenering niet kunnen volgen.
- 2:32Binnen een onderneming is dat geen kleine ergernis.
- 2:34Het is een reëel risico dat vertrouwen en adoptie blokkeert.
- 2:37Foundry lost dit op een eenvoudige manier op.
- 2:39Veiligheidsmechanismen zijn ingebouwd in de agent.
- 2:40De instructies fungeren als een vast reglement dat moet worden gevolgd.
- 2:43De gereedschapsset kan worden beperkt of uitgebreid op basis van de use case.
- 2:47Het model kan vrij worden gewisseld, maar altijd binnen de structuur die verantwoording afdwingt.
- 2:51Samen levert dit drietal een gedisciplineerde groepsleider, voorspelbare resultaten,
- 2:55zichtbare stappen en de mogelijkheid om verantwoord uit te breiden met enterprise connectors en aangepaste apies.
- 3:00Dit gaat niet over AI presenteren als magische conversatie.
- 3:03Het gaat erom te laten zien dat je organisatie een doorgewinterde officier krijgt die logboeken bijhoudt,
- 3:07bevelen opvolgt en de juiste uitrusting draagt.
- 3:08En als elke goede kapitein houdt hij een nauwkeurige registratie bij van wat er tijdens elke missie is gebeurd.
- 3:12Want wanneer systemen worden gecontroleerd of een actie mislukt, heb je het logboek nodig.
- 3:16In Foundry heeft dat logboek een naam.
- 3:18Het heet de Threat.
- 3:19Threats.
- 3:19Het logboek van het front.
- 3:21Threats zijn de plek waar het missielogboek vorm krijgt.
- 3:23In Azure Foundry is een Threat geen vluchtig chatvenster dat verdwijnt zodra je het sluit.
- 3:27Het is een persistente conversatiesessie.
- 3:29Elke uitwisseling tussen jou en de agent wordt hier opgeslagen,
- 3:32of deze nu van jou komt, van de agent of zelfs van een andere agent in een multi-agent opstelling.
- 3:36Dit is het logboek van het front dat een duurzame geschiedenis van interacties bijhoudt
- 3:39die lang na afloop van de chat kan worden ingezien.
- 3:41De echte kracht is dat Threats niet zomaar statische transcripties zijn.
- 3:44Het zijn gestructureerde containers die automatisch AF-kapping regelen,
- 3:48waardoor de actieve context binnen de limieten van het model blijft en er toch een volledig adictrail behouden blijft.
- 3:53Dat betekent dat de agent de voortgang van het gesprek begrijpt terwijl bedrijven een permanent,
- 3:57controleerbaar archief behouden.
- 3:58In tegenstelling tot de meeste chat-apps verdwijnt er niets in het niets.
- 4:01Je krijgt continuïteit voor de agent en governance voor het bedrijf.
- 4:04De vermeldingen in dat logboek zijn opgebouwd uit berichten.
- 4:07Een bericht is niet beperkt tot platte tekst.
- 4:09Het kan een afbeelding, een spreadsheetbestand of een blok gegenereerde code bevatten.
- 4:12Elk bericht is voorzien van een tijdstempel en een label met een rol, gebruiker of assistent.
- 4:16Dus, wanneer je een thread bekijkt, zie je niet alleen wat er is gezegd,
- 4:20maar ook wie het zei, wanneer het werd gezegd en welk type inhoud erbij betrokken was.
- 4:23Stel je een compliance officer voor die een dossier opent en het exacte tekstverzoek van gisteren ziet,
- 4:28de agent als antwoord produceerde en het tijdstip van beide gebeurtenissen.
- 4:32Dat is meer dan een herinnering, het is een volledig echt logboek.
- 4:35Om het in-game termen uit te drukken, een thread is als het notitieblok in een Dungeons & Dragons campagne.
- 4:39De Dungeon Master noteert welke steden je bezocht, welke worpen slaagden en welke buiten werd meegenomen.
- 4:44Zonder dat logboek gaan spelers kibbelen over vergeten details.
- 4:46Met het logboek verdwijnen de discussies, omdat de gebeurtenissen gedocumenteerd zijn.
- 4:50Threads doen hetzelfde voor bedrijfs AI.
- 4:52Ze voorkomen geschillen over wat de agent precies heeft gedaan, omdat alles in volgorde wordt vastgelegd.
- 4:56Dit is waarom dat verslag er zo toe doet.
- 4:58Voor auditing en compliance zijn threads puur goud waard.
- 5:01Toezichthouders of interne audit teams kunnen er een open en directe volledige reeks zien,
- 5:04het verzoek van de gebruiker, het antwoord van de agent, welke tools werden gebruikt en wanneer dit alles plaatsvond.
- 5:08Voor ontwikkelaars fungeren diezelfde verslagen als een debug-modus.
- 5:11Als een agent een verkeerd stuk code produceerde, kun je de thread terugspoelen naar het moment van de vraag en precies zien hoe die daar kwam.
- 5:17Beide groepen krijgen inzicht en voorkomen zo tijdverlies, neem ik aan.
- 5:21Vergelijk dit eens met systemen die gesprekken niet opslaan.
- 5:23Zonder threads probeer je gedrag bij te houden met screenshots of vage herinneringen.
- 5:27Dat houdt geen stand wanneer compliance om bewijs vraagt of wanneer support een bak moet reproduceren.
- 5:32Het is alsof je in een game opnieuw een baasgevecht moet doen om er vervolgens achter te komen dat je nooit hebt opgeslagen.
- 5:37Geen verslag betekent geen bewijs en geen spoor betekent geen oplossing.
- 5:40Bij een kritiek falen kun je stakeholders alleen geruststellen met mondelingenbeloftes.
- 5:44Met threads in Foundry ontsnap je aan die valstrik.
- 5:47Elk gesprek wordt gestructureerd bewijs.
- 5:49Als een workflow juridische taal ophaalt, toont het dossier het oorspronkelijke verzoek,
- 5:53het specifieke gegenereerde antwoord en of er ondersteunende tools werden ingezet.
- 5:56Als meerdere agents met elkaar overleggen om taken te verdelen, wordt hun interactie ook vastgelegd.
- 6:02Bedrijven kunnen compliance aantonen, ontwikkelaars kunnen baks opsporen en managers kunnen erop vertrouwen dat wat uit het systeem komt, verantwoord kan worden.
- 6:08Dat is het punt waarop threads chaotische chats transformeren in iets dat klaar is voor productie.
- 6:12In plaats van vluchtige uitwisselingen produceren ze een stabiele geschiedenis van opdrachten en beslissingen, een basis waarop je kunt vertrouwen.
- 6:18Maar onthoud, het logboek is nog steeds slechts een dagboek.
- 6:20De echte actie begint wanneer de agent neemt wat in de thread geschreven staat en het daadwerkelijk uitvoert.
- 6:24Die volgende fase is waar missies ophouden notices op papier te zijn en in realtime tot leven komen.
- 6:29Runs en runs stappen die de dobbelstenen werpen.
- 6:31Runs zijn het moment waarop de missie eindelijk van start gaat.
- 6:33In foundry termen bevat een thread de gespreksgeschiedenis, de orders, de context en de uitgerolde kaarten.
- 6:39Een run is de trigger die de agent activeert om die context te nemen en daadwerkelijk uit te voeren.
- 6:43Threads onthouden, runs handelen.
- 6:45Zie een run als de startknop, je thread kan zeggen analyseer het CSV bestand of teken een lijngrafiek.
- 6:51Maar de run is het moment waarop de agent dat verzoek verwerkt via zijn modelinstructies en tools.
- 6:55Hij kan extra data ophalen, berekeningen maken of de code interpreter aanroepen om een artefact te genereren.
- 7:00In tabletab RPG termen is een thread je groep die rond de tafel acties plant.
- 7:05De run is de initiatiefworp waarmee het gevecht begint.
- 7:07Zonder dat komt er niets in beweging.
- 7:09Dit is wat foundry expliciet maakt.
- 7:11Runs zijn geen blackbox.
- 7:12Het zijn gemonitoorde executies met statusregistratie.
- 7:15Je ziet doorgaans status en als in de wachtrij, in uitvoering, vereist actie, voltooid of mislukt.
- 7:20SDK voorbeelden pollen deze statussen vaak in een lus, net zoals een spelleider de volgorde van beurten controleert.
- 7:24Dit geeft je inzicht in niet alleen wat er gedaan wordt, maar ook wanneer het gebeurt.
- 7:28Maar hier is het grotere punt van zorg.
- 7:30Hoe weet je wat er precies gebeurde tijdens die uitvoering?
- 7:32Misschien ziet het antwoord er prima uit, maar zonder details kun je niet zien of de agent een externe API aanriep,
- 7:37code schreef of maar wat tekst improviseerde.
- 7:39Die ondoorzichtigheid is gevaarlijk in zakelijke omgevingen.
- 7:42Het is alsof je een schaakwedstrijd binnenloopt, halverwege naar een bord kijkt en te horen krijgt,
- 7:45vertrouw ons, de juiste zetten zijn gedaan.
- 7:47Je kunt het niet opnieuw afspelen.
- 7:48Je weet niet of de zet legaal was.
- 7:50Run stappen zijn wat dat giswerk wegneemt.
- 7:52Elke run wordt stap voor stap vastgelegd, welke model outputs werden gegenereerd,
- 7:55welke tools werden aangeroepen, welke berekeningen werden uitgevoerd en welke berichten werden geproduceerd.
- 7:59Het is schaaknotatie voor AI, pion naar E4, baard naar F6, alleen is het hier,
- 8:03bestand ophalen om 2 over 10 ochtends, codeblok uitvoeren om 3 over 10 ochtends,
- 8:07grafiek artefact retourneren om 4 over 10 ochtends.
- 8:09Elke actie wordt op volgorde genoteerd zodat je het later kunt terugspelen.
- 8:12Die structuur is een enorme opluchting voor ontwikkelaars.
- 8:15Zonder run stappen staar je naar een definitief antwoord zonder enig idee hoe het tot stand is gekomen.
- 8:18Was de zoekopdracht verkeerd?
- 8:20Is er een rekenfout ingeslopen?
- 8:21Je blijft gissen.
- 8:22Met run stappen kun je door de tijdlijn scrollen,
- 8:24precies identificeren waar het mis ging en het herstellen.
- 8:27Debugging is niet langer giswerk, maar forensisch onderzoek.
- 8:30Het is het verschil tussen een mistig eindbaasgevecht waarbij je niet ziet wie er aanviel
- 8:33en een gevechtslog boek dat elke zwaardslag en spreuk laat zien.
- 8:36Ook compliance teams boeken hiermee winst.
- 8:39Wanneer auditors vragen hoe is de samenvatting eigenlijk tot stand gekomen,
- 8:42hoef je het redeneren van het model niet in abstracte termen te beschrijven.
- 8:44Je hebt namelijk bewijs.
- 8:46De tool aanroep, de interpretatiestap, het samengestelde antwoord,
- 8:49alles is voorzien van een tijdstempel.
- 8:50Dat verandert uitleg in governance.
- 8:52Je toont bewijslast in plaats van verhalen te verzinnen.
- 8:54En bedrijven zijn hier dol op, omdat het risico omzet in verantwoordelijkheid,
- 8:57bewijs in plaats van beloftes.
- 8:58En voor de dagelijkse operatie zorgen runs stappen voor reproduceerbare patronen waar je op kunt vertrouwen.
- 9:03Als een workflow opnieuw moet worden uitgevoerd, kun je dezelfde reeks volgen.
- 9:06Als een resultaat wordt betwist, kun je het opnieuw afspelen.
- 9:09Bij een natuurlijke 20 bieden runs met volledige runs stappen je controleerbaar,
- 9:12herhaalbaar bewijs van hoe outputs zijn opgebouwd.
- 9:14Bij een natuurlijke één in andere systemen krijg je enkel een zwervende output zonder enig spoor.
- 9:18Daarom is dit onderdeel van de agent-levenscyclus zo belangrijk.
- 9:20Je hebt het dagboek in threads, de activering in runs en het gedetailleerde logboek in runs stappen.
- 9:25Samen veranderen ze improviserende AI in een verantwoordelijke teamgenoot wiens acties je kunt traceren, testen en verdedigen.
- 9:30Natuurlijk is weten dat al deze details bestaan slechts een deel van de puzzel.
- 9:33Je hebt een manier nodig om ermee te werken, iets dat gestructureerd genoeg is om agents te starten,
- 9:37runs te activeren en runs stappen uit te lezen zonder te verdrinken in ruwe API aanroepen.
- 9:40En het verrassende is, je hebt geen glimmend commando-deck nodig om dat te doen.
- 9:43De console die de meeste mensen gebruiken is vertrouwd, robuust en wat minder glamoureus, net, Arsenal en Allianties.
- 9:50Arsenal en Allianties maken van een agent een werknemer in plaats van een kletskaus.
- 9:54In Azure Foundry komt dat arsenaal in de vorm van tools, praktische extensies waarmee de agent van woorden naar daden kan overgaan.
- 10:00In plaats van alleen te beschrijven hoe je een document controleert of een berekening uitvoert,
- 10:04kan de agent het daadwerkelijk doen en de output teruggeven.
- 10:07Dat onderscheid maakt het platform waardevol in een echt bedrijf, in plaats van alleen indrukwekkend in een demo.
- 10:11Foundry biedt je drie duidelijke categorieën van functionaliteit.
- 10:14De eerste zijn de ingebouwde tools.
- 10:16Deze ontvatten de Code Interpreter, Bing's Arch, SharePoint en Microsoft Fabric Connectoren en Azure Ise Arch.
- 10:22Hiermee kan de agent data analyseren, bestanden ophalen, bedrijfscontent doorzoeken en zelfs grafieken of rapporten genereren zonder maatwerk.
- 10:29Elk van deze breidt de rijkwijte uit van praatgraag antwoorden naar tastbare werkproducten die je kunt inspecteren en hergebruiken.
- 10:34Ten tweede zit je niet vast aan wat Microsoft alleen levert.
- 10:37Met Foundry kun je eigen tools registreren via OpenAPI-specificaties of het modelcontextprotocol, MCP.
- 10:43Vooral MCP is van belang, want het wordt beschouwd als de USB-C voor AI-tools.
- 10:46In plaats van telkens handmatig rappers te schrijven wanneer je agents aan remote MCP-survers koppelt,
- 10:51regelt het systeem automatisch tooldetectie, versiebeheer en aanroepen.
- 10:55Dat verlaagt de integratielast aanzienlijk, zeker wanneer je omgeving uit tientallen systemen bestaat die met elkaar verbonden moeten worden.
- 11:01Ten derde is elke tool aanroep in Foundry observeerbaar.
- 11:03Aanroepen worden op stapsgewijsniveau gelogd met identiteit, invoer, uitvoer en tijdstempels.
- 11:07Dat betekent dat het operationele overzicht van deze agents geen kwestie is van vertrouwen maar.
- 11:11Het is een logboek. Je kunt precies zien wat er is aangeroepen, bevestigen dat de juiste machtigingen zijn gevolgd en permanente records bijhouden voor compliance.
- 11:17Om deze categorieën te verduidelijken, denk aan de quickstart demo.
- 11:19Je uploadt een CSV-bestand als bericht in een thread.
- 11:22De agent roept de code interpreter aan binnen zijn run stappen, verwerkt het bestand en genereert een grafiek.
- 11:26Dat resultaat komt terug als bijgevoegde afbeelding, direct zichtbaar in het thread-logboek.
- 11:30Je hoefde zelf geen parser of visualisatie te schrijven.
- 11:33Je gaf een instructie, de agent koos de tool, voerde deze uit en gaf het bestand terug dat je in een rapport kon plaatsen.
- 11:38Dat is geen theorie, het is gedocumenteerd gedrag in de SDK-voorbeelden.
- 11:42Waar dit echt tot zijn recht komt, is enterprise-integratie.
- 11:45Tools kunnen koppelen aan logic-apps, wat betekent dat de agent toegang heeft tot meer dan 1400 bestaande SaaS- en on-premises-connectoren.
- 11:51In plaats van adapters voor CRM, ERP of ITSM-platforms te herprogrammeren, configureer je op basis van connectoren die het bedrijf al gebruikt.
- 11:57Het is een schaalbare oplossing.
- 11:59Eén agent kan veilig werken over een breed landschap zonder dat je kwetsbare API-bruggen hoeft te bouwen.
- 12:04De vraag die iedereen daarna stelt is beveiliging.
- 12:06Foundry pakt dit aan in de kern.
- 12:08Wanneer tools verbinding maken met enterprise-systemen zoals SharePoint of Fabric, gebeurt dit via on-behef of authenticatie, gemediëerd door Microsoft Entra.
- 12:16Als je gisteren geen toestemming had om een bestand te lezen, zal de agent die barrière vandaag niet magisch omzeilen.
- 12:20Identiteit en machtigingen blijven intact, wat de enige manier is waarop compliance-teams hun goedkeuring geven.
- 12:24Elke aanroep is ook traceerbaar.
- 12:26Wie heeft het aangeroepen? Wat is er verzonden? Wat is er ontvangen?
- 12:29Teams hebben dus altijd het bewijs in handen.
- 12:30Met een Natural 20 maakt deze volledige toolkit je agent-team meer dan alleen een noviteit.
- 12:34Je krijgt eenheden die echte data kunnen opvragen, verwerken en handelen binnen de kaders die IT al kent.
- 12:39Met een Natural 1 zonder deze opties eindig je met een chatsessie die veel praat, maar nooit het werk verricht.
- 12:44Daarom is het arsenaal net zo belangrijk als de teamleider.
- 12:47Het model en de instructies bepalen misschien hoe de agent denkt, maar zonder verantwoord gekoppelde en betrouwbaar gelogde tools blijft het een halve maatregel.
- 12:53Met de ingebouwde set van Foundry, MCP, OpenAPI, extensibiliteit en beveiliging op bedrijfsniveau, heb je de basis voor een gedisciplineerde kracht.
- 13:00Geen verzameling gokwerk. En dit brengt ons bij het grotere geheel. De agents in Foundry zijn niet gebouwd als willekeurige sidekicks of speeltjes.
- 13:07Ze zijn ontworpen als beheerde operators met structuur, verantwoorde belastingen en uitrusting die ze bruikbaar maakt in productie.
- 13:13Dus, hier eindigt de campagne.
- 13:15Tijd voor de conclusie.
- 13:16Foundry is niet zomaar proms naar een model gooien.
- 13:18Het geeft je een herhaalbaar manier om agents te bouwen met een brein, een regelboek en een toolkit.
- 13:22En elke actie die ze ondernemen wordt gelogd in threads, runs en run steps.
- 13:26Voor zowel devleads als compliance medewerkers is de kernboodschap simpel.
- 13:30Reproduceerbare, auditeerbare uitvoering met SDK's zoals net die je volledige controle en inzicht in de levenscyclus geven.
- 13:35Je volgende stap, start een testproject, maak een basisagent, draai een thread en inspecteer vervolgens de runs steps in de SDK of de portal.
- 13:42Zo bevestig je dat je logs overeen komen met het verhaal.
- 13:44Als dit je hielp om een natuurlijke 20 te gooien bij de ploys, abonneer je dan en zet meldingen aan.
- 13:49Of, als we weer een cluster hebben getemd, abonneer je dan om je floatinformatie te houden.