Latest / M365.FM – Microsoft 365, Copilot & KI Podcast auf Deutsch / Copilot Studio vs. Azure AI Foundry: RAG, Governance & die richtige Enterprise-KI-Plattform (KI-Synchronfassung)

Transcript

Copilot Studio vs. Azure AI Foundry: RAG, Governance & die richtige Enterprise-KI-Plattform (KI-Synchronfassung) · M365.FM – Microsoft 365, Copilot & KI Podcast auf Deutsch

• 0:00
  Ist Ihnen schon mal aufgefallen, dass Ihr toller KI-Board alles weiß, nur nicht das, was Ihr Team wirklich braucht?
• 0:04
  Das liegt daran, dass die meisten Co-Pilots wie Papageien mit Internetabschluss sind.
• 0:08
  Sicher, es sind leistungsstarke Modelle, aber ohne Bezugsquelle jagen Sie Trivialitäten nach, statt Ihre Geschäftsdaten zu.
• 0:12
  Was Sie wirklich brauchen, ist Retrieval Augmented Generation, kurz RAG und nicht etwa den Stoffhetzen-Look.
• 0:17
  RAG bedeutet Suche plus LLM.
• 0:19
  Das Modell verfasst Antworten erst, nachdem es indexierte Unternehmensinhalte wie SharePoint, Dataverse oder OneDrive durchsucht hat.
• 0:24
  Das ist der entscheidende Unterschied zwischen einer Demo, die schlau aussieht, und einem System, dem Sie wirklich vertrauen würden.
• 0:28
  Und es hebt mit dem Weg für den kommenden Schlagablauf.
• 0:30
  Co-Pilot Studio gegen Azure AI Foundry.
• 0:32
  Abonnieren Sie m355-Schauffein-Spickzettel-Dokument.
• 0:35
  Warum die meisten Bots nur schicke Papageien sind.
• 0:38
  Die meisten Bots wirken in einer Demo beeindruckend, aber fragen Sie sie etwas Reales, wie Firmenrichtlinien oder Projektstatus, und Sie scheitern.
• 0:44
  Hier liegt das Problem. Es sind einfach nur große Sprachmodelle ohne Anbindung an Ihre Mandantendaten.
• 0:48
  Sie sind Experten darin, Antworten zu erfinden, die offiziell klingen, aber Ihrem Unternehmen nichts nützen.
• 0:52
  Sie wollten die Urlaubsrichtlinie der Personalabteilung, aber er gab Ihnen einen generischen Text über Work-Life-Balance aus dem Internet.
• 0:59
  Er hat motiviert, aber einen produktiven Einsatz völlig nutzend.
• 1:01
  Die Ursache?
• 1:02
  Der Bot greift nicht auf die Inhalte zu, mit denen Ihr Team täglich arbeitet.
• 1:06
  Die wirkliche Lösung ist Retrieval Augmented Generation oder RAG.
• 1:09
  Klingt nach Wäsche waschen, aber stellen Sie es sicher als Kombinationsspiel vor.
• 1:12
  Suche plus ein großes Sprachmodell.
• 1:14
  Sie halten das Modell davon ab, frei zu improvisieren, füttern es stattdessen mit einer Suchpipeline.
• 1:18
  Er schreibt zwar weiterhin die Antwort, aber erst nachdem es Daten aus indexierten Quellen in Ihrer Umgebung abgerufen hat.
• 1:22
  SharePoint, OneDrive, Dataverse oder sogar diese Team-Site, die 2019 eigentlich archiviert werden sollte.
• 1:28
  Mit diesem Setup hört der Bot endlich auf zu improvisieren und verhält sich so, als gehöre er wirklich zu Ihrem Unternehmen.
• 1:33
  Ohne RAG häufen sich die Risiken schnell.
• 1:35
  Ein einfaches LM wird mit Internet breit trainiert.
• 1:37
  Fragen Sie es nach der Urlaubsrichtlinie.
• 1:39
  Gibt es Ihnen vielleicht eine Antwort, die korrekt klingt, aber völlig daneben liegt, manchmal sogar grob falsch?
• 1:43
  Das ist nicht nur peinlich, sondern gefährlich.
• 1:45
  Sie wollen nicht, dass ein schicker Chatbot falsche Compliance-Informationen an tausende Mitarbeiter ausspuckt, bevor die Personalabteilung überhaupt davon weiß.
• 1:50
  Microsoft Digital stieß genau auf dieses Risiko bei der Entwicklung von HR- und IT-Copilots.
• 1:56
  Ihre Lösung?
• 1:57
  Autoritative Quellenführung und Connector-Arbeit im Studio hinzufügen, um falsche Antworten zu reduzieren.
• 2:01
  Das ist die Vorgehensweise in der Praxis.
• 2:02
  RAG ist nicht nur Theorie, es ist der Unterschied zwischen einem Bot, den Sie ausrollen und einem, den Sie stillschweigend abschalten.
• 2:07
  Hier ist das andere Puzzleteil, die Zugriffskontrolle.
• 2:09
  Bei RAG geht es nicht nur um bessere Suche, sondern um sichere Suche.
• 2:12
  Denn sie ist sich wie ein Türsteher im Klub formt.
• 2:13
  Das System führt die Suche durch, aber bevor eine Information in die Antwort gelangt, prüft der Türsteher die Benutzer-ID.
• 2:17
  Die Finanzabteilung sieht Finanzdaten, der Vertrieb sieht Vertriebsmaterialien und niemand kann einen Blick auf Vorstandsprotokolle werfen, für die er keine Rechte hat.
• 2:24
  Richtiges RAG plus Zugriffskontrolle verhindert die meisten heiklen Mandantenübergreifenden Wechs, aber nur, wenn Berechtigungen und Indizierungen korrekt verknüpft sind.
• 2:30
  Dieser Vorbehalt ist entscheidend.
• 2:32
  Ohne ihn landen Sie direkt wieder bei einer Halluzinationsmaschine mit Firmenbranding.
• 2:35
  Um es konkret zu machen, stellen Sie sich zwei Mitarbeiter vor, einem im Finanzwesen.
• 2:38
  Beide nutzen denselben Bot, um nach Quartalszahlen zu fragen.
• 2:41
  Der Vertrieb sieht den bereinigten öffentlichen Bericht, die Finanzabteilung sieht die detaillierten Konten, die in ihrem sicheren Ordner liegen.
• 2:48
  Gleicher Index, gleicher Bot, völlig unterschiedliche Antworten wegen des Türstehers am Eingang.
• 2:52
  Diese identitätsbasierte Suche schließt die Vertrauenslücke für CIOs, die den Satz Bring your own AI hören.
• 2:58
  Und sofort sehen Sie Wirtschaftsprüfer vor Ihrem Büro Schlange stehen.
• 3:02
  Unter dem Strich ist der RAG das, was ein Papagei in einen echten Assistenten verwandt.
• 3:05
  Richtig umgesetzt erhalten Sie Antworten aus Ihrem Mandanten, gefiltert durch Ihre Berechtigungen und basierend auf tatsächlich vorhandenen Quellen.
• 3:11
  Schlampig umgesetzt hüten Sie nur eine weitere Halluzinationsmaschine mit schicker Benutzeroberfläche.
• 3:16
  Aber hier wird es interessant.
• 3:17
  Sowohl Copilot Studio als auch Azure AI Foundry nutzen RAG-Konzepte, aber die Art und Weise, wie Sie Berechtigungen und Suchpipelines anbinden, ist sehr unterschiedlich.
• 3:24
  Die eine setzt auf Geschwindigkeit und Einfachheit, die andere auf Kontrolle und Tiefe.
• 3:27
  Beginnen wir also mit der schnelleren Option.
• 3:29
  Diejenige, die schnelle Erfolge verspricht, ohne einzige Zelle kommt.
• 3:32
  Copilot Studio, schnelle Erfolge mit Schutzrädern.
• 3:33
  Copilot Studio ist der Ort, an dem Microsoft das Versprechen schneller Erfolge einlöst.
• 3:38
  Es ist Ihr Low-Code-Spielplatz für den Bau von Co-Piloten und ehrlich gesagt geht es erschreckend schnell, etwas zum Laufen zu bringen.
• 3:43
  Sie melden sich an, wählen eine Startvorlage und verbinden sie mit ihren Daten überein von über 1000 Konnektoren, SharePoint, Dynamics, ServiceNow, Excel, OneDrive und so weiter.
• 3:53
  Und plötzlich haben sie einen Chatbot der Fragen beantwortet, als wäre er schon seit Jahren im Unternehmen.
• 3:57
  Kein Code, keine Bildketten, kein Entwicklungsstaus, funktioniert einfach.
• 4:00
  Wenn man es das erste Mal ausprobiert, fühlt es sich verdächtig nach Magie an.
• 4:03
  Der eigentliche Anreiz ist hier die Zeit bis zur Wertschöpfung.
• 4:05
  Sie warten nicht ein halbes Jahr, um zu sehen, ob es funktioniert.
• 4:08
  Ich habe kleine IT-Teams gesehen, die Live-Help-Deskbots in unter zwei Wochen eingeführt haben, meist durch die Abbildung bestehender SharePoint-Seiten in Konversationsabläufe.
• 4:15
  Die Konnektoren erledigten die eigentliche Arbeit.
• 4:17
  Das Team hat den Bot nur auf die richtigen Inhalte verwiesen.
• 4:20
  Und die Endbenutzer?
• 4:21
  Sie haben entweder nicht gemerkt oder es hat sie nicht interessiert, dass am anderen Ende kein Mensch saß.
• 4:24
  Ein riesiges Kompliment, wenn man die Bearbeitungszeiten von IT-Postfächern kennt.
• 4:27
  Hat den ersten Test auf Anhieb bestanden, aber Schnelligkeit hat ihren Preis.
• 4:31
  Studio verbirgt absichtlich die meisten erweiterten Einstellungen.
• 4:34
  Man hat keinen Zugriff auf Temperaturregler, Top-P-Anpassungen, Promptversionierung oder Evaluierungsschwellen.
• 4:40
  Klartext, man kann die Kreativität nicht steuern, keine A-B-Tests für Prompts durchführen und keine Leitplanken gegen schleichende Qualitätsverluste festlegen.
• 4:47
  Microsoft hat dies bewusst so gemacht.
• 4:49
  Low-Code bedeutet, die Komplexität draußen zu halten.
• 4:51
  Dennoch fühlt es sich wie jemanden, der gewohnt ist, LPIs direkt anzusprechen.
• 4:55
  Ein wenig so an, als würde man ein Auto fahren, bei dem der Hersteller die Motorhaube zugeschweißt hat.
• 4:58
  Man kommt von Punkt A nach Punkt B, aber nach Turbo-Tuning darf man nicht fragen.
• 5:02
  Microsoft hat das System nun mit besserer Intelligenz unter der Haube aufgerüstet.
• 5:05
  Jüngste Updates haben GPT-5 in das Co-Pilot-Studio integriert, zusammen mit intelligentem Modellrouting,
• 5:10
  wodurch die Plattform je nach Frage automatisch zwischen schneller oder tiefer gehender Analyse umschalten kann.
• 5:15
  Ab Werk ist das eine gute Nachricht.
• 5:17
  Low-Code-Bots klingen plötzlich intelligenter, ganz ohne Konfiguration.
• 5:20
  Doch selbst mit GPT-5 unter der Haube kann man die freigegebenen Parameter weiterhin nicht anfassen.
• 5:23
  Es ist eine Designentscheidung.
• 5:25
  Zugänglich halten, nicht anpassbar.
• 5:27
  Das ist eine Metapher, die ich mag.
• 5:28
  Co-Pilot-Studio ist wie Ikea-Möbel.
• 5:31
  Man folgt einer Aufbauanleitung und erhält am Ende etwas, das gut aussieht und seinen Zweck erfüllt.
• 5:36
  Es ist brillant für den Preis und einfach aufzubauen.
• 5:38
  Aber wenn man es einmal verschiebt oder über den Prototypen hinaus skalieren will, zeigen sich schnell die Risse.
• 5:43
  Die Schrauben lockern sich, die Platten biegen sich und plötzlich lebt man mit einem Chatbot,
• 5:46
  den jeder nutzt, aber den niemand zu aktualisieren wagt.
• 5:48
  Man muss Microsoft zugutehalten, dass sie auch auf dieser Ebene Leitplanken hinzugefügt haben.
• 5:52
  Die Kennzeichnung als autoritative Quelle ist ein Lebensretter,
• 5:54
  denn ohne sie wirkt jede Antwort auf den durchschnittlichen Mitarbeiter gleichermaßen legitim.
• 5:58
  Dieses SharePoint FAQ von 2009 hat dasselbe Gewicht wie das offizielle HR-Handbuch, das heute Morgen aktualisiert wurde.
• 6:04
  Dank der integrierten Kennzeichnung kann man zumindest zeigen, das kommt von der Personalabteilung, ignoriert den Rest.
• 6:08
  Microsoft Digital setzte bei den eigenen HR- und IT-Bots stark darauf,
• 6:12
  denn ohne sie nahmen Mitarbeiter kreative Antworten der KI als unumstößliche Richtlinie
• 6:17
  und überfluteten dann echte Helpdesks mit Tickets zur Überprüfung.
• 6:20
  Die Grenzen werden deutlich, sobald man die Microsoft-Welt verlässt.
• 6:23
  Ja, es gibt mehr als tausend Konnektoren, aber sie sind nicht alle Plug-and-Play-Wunder.
• 6:28
  Möchten Sie Salesforce oder SuccessFactors anbinden?
• 6:30
  Machbar, aber nicht reibungslos.
• 6:31
  Microsoft selbst musste seine Service-Now und SuccessFactors-Connectoren bei internen Rollouts
• 6:35
  durch Metadaten-Erweiterungen und individuelle API-Anpassungen erweitern,
• 6:39
  da die Standardlösungen nicht unternehmenstauglich waren.
• 6:43
  Da kommt dieses Gefühl auf wie bei einem Klempner, der nachts um 2 Uhr mit Panzertape hantiert.
• 6:47
  Man glaubt, eine Lücke beschlossen zu haben, nur um drei weitere Licks zu entdecken.
• 6:50
  Ohne tiefgreifende Pipeline-Kontrolle fühlen sich die Flicken oft wie billige Hexer.
• 6:54
  Was uns zur offensichtlichen Wahrheit führt.
• 6:55
  Studio ist perfekt für einfache Anwendungsfälle.
• 6:57
  Interne IT- und HR-Bots, FAQs für Teams, einfache Gäste-Q&As oder alles,
• 7:02
  was ohne großen Aufwand in Teams und Outlook laufen soll, genau da glänzt es.
• 7:06
  Es ist ein fantastisches Testgelände, um der Führungsebene schnell einen funktionierenden Bot zu zeigen
• 7:10
  und das Interesse zu sichten.
• 7:11
  Verwechseln Sie es jedoch nicht mit einer Enterprise-Plattform.
• 7:13
  Sobald das Gespräch auf Compliance-Prüfungen, systemübergreifende Orgestrierung
• 7:16
  oder Governance auf Mandantenebene kommt, stößt Studio an seine Grenzen.
• 7:19
  Und dieselbe Geschwindigkeit, die am ersten Tag alle beeindruckt hat, wird zur Belastung,
• 7:22
  sobald Begriffe wie Sicherheitsüberprüfung oder Auditrail fallen.
• 7:25
  Kurz gesagt, Co-Pilot Studio bringt Sie schneller ins Spiel als jede andere Option,
• 7:29
  aber Sie fahren noch mit Stützrädern, Amen.
• 7:31
  Das ist Absicht.
• 7:32
  Microsoft hat es entwickelt, um KI für Geschäftsanwender zugänglich zu machen
• 7:35
  und Pilotprojekte abzukürzen.
• 7:37
  Aber wenn Ihr der Roadmap in regulierte Branchen, Private Data Lakes
• 7:39
  oder plattformübergreifende Compliance führt, brauchen Sie schnell etwas Robusteres.
• 7:44
  Und das führt uns zur anderen Seite des Spektrums, die Schwergewichtsoption,
• 7:47
  die nicht für Hobbyanwender, sondern für Unternehmen mit Bedarf an voller Kontrolle gebaut wurde.
• 7:50
  Azure AI Foundry, die KI-Fabrik für Unternehmen.
• 7:55
  Azure AI Foundry ist der Ort, an dem die Stützräder abkommen.
• 7:58
  Denken Sie weniger an ein Wochenendprojekt, sondern mehr an eine industrielle Fertigungshalle.
• 8:01
  Wenn Studio-IKEA-Möbel sind, dann ist Foundry die Maschinenbauwerkstatt,
• 8:04
  in der Sie nicht nur den Tisch bauen, sondern die Schrauben selbst gießen.
• 8:07
  Es ist eine Code-First-Umgebung und das ganz bewusst mit Zugriff auf einen riesigen Modellkatalog.
• 8:13
  Über 11.000 Modelle, die die GPT-5-Familie, Open-Source-Gewichte sowie Vision und Audio-Engines abdecken.
• 8:19
  Sie können auf große Namen wie Mistral Cohere, Meta-Hugging-Face und NVIDIA zurückgreifen.
• 8:23
  Es ist ein Buffet, aber anstatt per Drag-and-Drop zu arbeiten,
• 8:26
  verdrahten Sie alles in Daten-, Pipelines- und Governance-Ebenen, während Sie über YAML-Dateien fluchen.
• 8:30
  Foundry macht keinen Hehl aus seiner Zielgruppe.
• 8:32
  Es setzt voraus, dass Sie Python beherrschen, in GitHub zu Hause sind
• 8:35
  und bei dem Wort CICD-Pipeline nicht in Panik geraten.
• 8:38
  Im Gegenzug erhalten Sie die volle Kontrolle über den Lebens.
• 8:40
  Wählen Sie Modelle aus, optimieren Sie diese, testen Sie Prompts
• 8:43
  und befördern Sie sie mit korrektem MLOPS durch Entwicklungstest und Produktionsumgebung.
• 8:46
  Im Klartext, Sie können endlich aufhören, Flows mit Panzertape zusammenzuflicken
• 8:49
  und einen echten Release-Prozess inklusive Auditing, Rollbacks und allem drumherum aufbauen.
• 8:53
  Mit Kontrolle kommen Kosten für Zeit und Fachwissen.
• 8:55
  Hier wird kein Chatbot mal eben an einem langen Wochenende zusammengezogen.
• 8:58
  Foundry zwingt Sie, jede Ebene der Verkabelung zu durchdringen.
• 9:00
  Geld 3. Absolute Präzision. Jeder Parameter ist zugänglich.
• 9:04
  Sie können die Kreativität auf Null setzen, Tokens begrenzen und Halluzinationsraten messen,
• 9:08
  als würden Sie Labor-Tests statt lockerer Demos durchführen.
• 9:11
  Wenn die Governance anruft und Sie wissen, dass sie das wird, müssen Sie sich nicht mit Ausreden herausreißen.
• 9:15
  Sie haben Audit-Logs, Bewertungsberichte und nachvollziehbare Ergebnisse.
• 9:18
  Hier ist die kurze Liste, damit es ankommt.
• 9:20
  Was Foundry Ihnen bietet. Modellwahl und Feinabstimmung, Anbindung an Ihre Data-Lakes,
• 9:24
  MLOPS mit richtigen Pipelines, CICD für das Deployment sowie vollständige Telemetrie und Audit-Trades.
• 9:30
  Das hält die Compliance-Leute davon ab, Ihnen im Nacken zu sitzen,
• 9:33
  während Ihre Entwickler dennoch Raum für Innovationen haben.
• 9:35
  Und das ist der entscheidende Punkt.
• 9:37
  Wählen Sie Foundry, wenn Ihr Bot sensible Daten verarbeitet, wenn Sie Erklärbarkeit benötigen
• 9:40
  oder wenn er mehrere Unternehmenssysteme vernetzen muss.
• 9:44
  Wenn Souveränität und Vertrauen wichtig sind, ist dies die Plattform.
• 9:46
  Ich habe gesehen, wie Foundry-Fälle löste, an die sich Studie nicht herantraut.
• 9:49
  Ein Kunde musste sensible Forschungsdokumente zugänglich machen,
• 9:52
  aber genau nachverfolgen, welcher Mitarbeiter was bis auf den Absatz genau gesehen hat.
• 9:55
  In Foundry haben wir den privaten Data Lake indexiert, mit der Azure Cognitive Search verknüpft
• 9:59
  und jede Abfrage mit der Benutzeridentität und der Dokumenten-ID protokolliert.
• 10:03
  Die Compliance-Abteilung hat nicht nur genickt, sie hat gelächelt,
• 10:05
  weil sie endlich eine Transparenz hatte, die das Audit schwarz auf weiß bestand.
• 10:08
  Viel Glück beim Versuch, das mit den Standard-Konnektoren von Studie umzusetzen.
• 10:11
  Zeit für eine Metapher Foundry ist wie das Leasing einer Formel-1-Gerat.
• 10:14
  Jede Maschine, jeder Sensor, jedes Teil ist enthalten.
• 10:17
  Aber der Haken ist, Sie brauchen die Boxen-Crew, die weiß, wie man damit umgeht.
• 10:21
  Sie starten nicht einfach nur eine Instanz, Sie orchestrieren die Engines,
• 10:23
  verwalten die Telemetrie und optimieren die Bills für Leistung im großen Maßstab.
• 10:26
  Machen Sie es richtig und Sie überrunden die Konkurrenz.
• 10:28
  Machen Sie es falsch, stehen Sie neben einer Millionen-Dollar-Werkzeugkiste,
• 10:31
  während Ihr Auto noch aufgebockt ist.
• 10:32
  Der eigentliche Vorteil ist die Orchestrierung.
• 10:34
  Bei Foundry geht es nicht nur darum, Prompts an ein Modell zu senden,
• 10:36
  Sie verweben Agenten, APIs-Suche und Bewertungsebenen zu einem einzigen verwalteten Fluss.
• 10:40
  Es kann während eines Gesprächs Rest-Endpunkte ansteuern,
• 10:43
  sich auf strukturierte und unstrukturierte Quellen stützen
• 10:45
  und den gesamten Lebenszyklus mit Continuous Integration verwalten.
• 10:48
  Diese Flexibilität ist der Grund, warum Branchen wie Fertigung, Finanzen und Gesundheitswesen Foundry
• 10:52
  als die ernsthafte Option betrachten, als die ernsthafte Option betrachten.
• 10:55
  Es ist nicht ein reiner Microsoft-Connector in der Grund.
• 10:56
  Es ist für das chaotische, systemübergreifende Durcheinander gebaut,
• 10:59
  dass CEOs gerne als schnelle Integration abtun.
• 11:01
  Das gängige Einführungsmuster beweist diesen Punkt.
• 11:03
  Die meisten Unternehmen fangen hier nicht an.
• 11:05
  Sie experimentieren mit Studio, weil es schnell ein glänzendes Pilotprojekt liefert.
• 11:08
  Dann fragt jemand aus dem Bereich Risiko oder Compliance nach der Datenherkunft
• 11:11
  und plötzlich ringt das Team um eine Revisionssicherheit, die Studio nie versprochen hat.
• 11:15
  Genau dann eskaliert das Projekt zu Foundry.
• 11:17
  Entweder man migriert oder man stellt es ein.
• 11:19
  Ja, Foundry ist die Schwergewichtslösung.
• 11:21
  Langsamer im Aufbau, steilere Lernkurve, höherer Aufwand bei Zeit und Qualifikationen.
• 11:25
  Dafür erhält man jeden Regler und jede Sicherheitsvorkehrung, die in Studio verborgen bleibt.
• 11:28
  Und man muss sich nicht für das eine oder das andere entscheiden.
• 11:31
  Microsoft selbst propagiert ein Hybridmodell.
• 11:33
  Studio als einfache Benutzeroberfläche vorne, Foundry als Motor unter der Haube,
• 11:37
  verbunden durch das kommende Microsoft 365 Agent SDK.
• 11:40
  So erhalten sie Schnelligkeit, wo sie wichtig ist und Kontrolle, wo sie zählen.
• 11:44
  Das wirft die eigentliche Frage auf.
• 11:45
  Wenn man beide Tools zur Hand hat, wie entscheidet man dann,
• 11:47
  welches man wann nutzt, ohne sich in endlosen Debatten zu verlieren?
• 11:51
  Genau hierfür brauchen wir einen einfachen Rahmen,
• 11:53
  damit sie sich weniger auf Entscheidungslähmung konzentrieren
• 11:54
  und mehr auf Ergebnisse liefern können.
• 11:57
  Das Drei-Stufen-Modell erkunden, skalieren, steuern.
• 12:00
  Der einfachste Weg, Ordnung in die Debatte zwischen Studio und Foundry zu bringen,
• 12:03
  ist es nicht mehr als binäre Wahl zu betrachten.
• 12:05
  Microsoft Insider sehen es bereits als einen dreistufigen Lebenszyklus.
• 12:08
  Erkunden, skalieren, steuern.
• 12:12
  Betrachten sie es weniger als ein Tool wählen und hoffen,
• 12:14
  sondern eher als ein Prozess, bei dem jede Stufe vorgibt, wann man aufsteigen sollte, nicht ob.
• 12:18
  Erkunden ist immer der Ausgangspunkt und hier ist Co-Pilot Studio führend.
• 12:22
  Dies ist die Phase, in der man schnell Bots zusammenbaut,
• 12:24
  um zu sehen, ob eine Idee geschäftlichen wäre.
• 12:25
  HF-RQ-Bot, IT-Passwort-Reset-Helfer, diese lassen sich in unter zwei Wochen mit Konnektoren und ohne Code umsetzen.
• 12:32
  Es geht nicht um Perfektion, sondern um den Nachweis.
• 12:34
  Sie validieren, ob das Ding echte Probleme löst, ohne das Projektbudget zu sprengen.
• 12:38
  Die Checkliste von Research Tested ist einfach.
• 12:41
  Identifizieren Sie Ihre Top-3-Anwendungsfälle,
• 12:42
  Prototypen Sie diese in ein bis zwei Wochen ins Studio
• 12:44
  und messen Sie, ob die Leute den Bot tatsächlich nutzen.
• 12:47
  Zusatztipp, überwachen Sie den Tokenverbrauch,
• 12:49
  um zu erkennen, ob der Pilot vor der Skalierung ausufernde Kosten verursacht.
• 12:52
  Doch hier taucht Migrationsauslöser Nummer 1 auf.
• 12:55
  Wenn ein Bot plötzlich auf nicht M365 von 60 Systeme wie ERP, SAP oder Finanzdatenbanken zugreifen muss,
• 13:00
  reicht Studio allein nicht aus?
• 13:03
  Migrationsauslöser 2, wenn Halluzinationen nicht nur lustig, sondern riskant sind,
• 13:05
  etwa bei der Beantwortung von Compliance-Fragen und erfundenen Richtlinien, ist es Zeit zu skalieren.
• 13:10
  Die Skalierung ist der Punkt, an die meisten Teams oder ruckgeraten.
• 13:12
  Man erkennt, dass der Pilot zwar hilfreich ist, aber nun eine echte Infrastruktur benötigt.
• 13:16
  Stellen Sie sich vor, Sie versuchen, Ihren HR-Bot mit Low-Code-Connectoren an ServiceNow zu kleben.
• 13:20
  Man fährt im Grunde ein Auto, das mit Kleidband zusammengehalten wird.
• 13:22
  Hier kommt Azure AI Foundry ins Spiel.
• 13:24
  Foundry bietet Ihnen, was Studio verbirgt.
• 13:27
  Kontrollmöglichkeiten für Kreativität, Prüfmechanismen gegen Halluzinationen,
• 13:31
  Data Lake-Anbindungen und robuste Pipelines.
• 13:33
  Der Kompromiss dabei, Sie benötigen das Fachwissen und die Geduld, um alles miteinander zu kümmern.
• 13:37
  Die meisten Unternehmen verfolgen hier einen hybriden Ansatz.
• 13:39
  Sie nutzen Studio für schnelle Ergebnisse bei FAQs und einfachen Abläufen,
• 13:42
  verlagern aber komplexe Workloads auf Foundry, wo Sicherheit und Präzision zählen.
• 13:46
  Und dann kommt der große Punkt, Govern.
• 13:48
  Auf dieser Stufe ist die KI kein Spielzeug mehr.
• 13:50
  Sie ist in sensible Arbeitsabläufe oder sogar kundenorientierte Systeme eingebunden.
• 13:53
  Wenn Audits, SLAs oder regionale Datenkontrollen eine Rolle spielen,
• 13:56
  ist Foundry keine Option mehr, sondern Pflicht.
• 13:58
  Dies ist der dritte Migrationsauslöser.
• 14:00
  Wenn es um Datensouveränität, Erklärbarkeit oder Zugriffsprotokolle auf Datensatzebene geht,
• 14:04
  bleibt Ihnen keine Wahl, als das Projekt in Foundry zu verankern.
• 14:06
  Foundry unterstützt Sie mit Audit, Trails, Telemetrie, Pipeline-Gating und einer Datengovernance,
• 14:12
  für die Microsoft 365-Konnektoren nie ausgelegt waren.
• 14:15
  In dieser Phase spielt Studio schlichtweg keine Rolle mehr.
• 14:18
  Ein einfacher Vergleich?
• 14:19
  Explorer ist, wie auf einem leeren Parkplatz zu fahren, um zu sehen, ob das Auto überhaupt läuft.
• 14:23
  Geil ist das Auffahren auf die Autobahn zwischen anderen Fahrern, wo Fehler tatsächlich Konsequenzen haben.
• 14:27
  Govern ist die Abgasuntersuchung.
• 14:29
  Jeder Sensor wird angeschlossen, um die Verkehrssicherheit zu beweisen.
• 14:32
  Drei Phasen, jede mit ihrem eigenen Zweck, keine davon ist optional, wenn das Ergebnis außerhalb einer Demo bestehen soll.
• 14:37
  Als Beweis dafür, dass dieses Modell funktioniert, genügt ein Blick auf Microsofts eigene interne Playbooks.
• 14:41
  Das HR-Team erstellte einfache Bots ins Studio, um FAQs zu beantworten und Ticketwarteschlangen zu entlasten.
• 14:46
  Doch als dieselben Bots begannen, sensible, regionspezifische HR-Dateien abzurufen, schlug die Compliance-Alarm.
• 14:51
  Das hat Zwang die Migration zu Foundry, um strengere Zugriffskontrollen einzuführen, Audit-Protokolle zu garantieren
• 14:55
  und eine korrekte Datentrennung sicherzustellen.
• 14:58
  Nichts schlagen.
• 14:58
  Der Umfang wuchs lediglich über das hinaus, wofür Studio konzipiert wurde.
• 15:02
  Ein weiterer wichtiger Punkt ist die Brücke, die Microsoft gerade baut.
• 15:05
  Das kommende Microsoft 365 Agents SDK soll Studio und Foundry enger verbinden,
• 15:09
  damit sie leicht starten können, ohne befürchten zu müssen, in einer Sackgasse zu landen.
• 15:13
  Bauen Sie den Prototyp in Studio und erweitern Sie ihn mit Foundry um Modellrouting,
• 15:16
  Konnektoren und Governance, alles in einem Lebenszyklus.
• 15:19
  Es ist ein seltener Moment, in dem Microsoft anerkennt, dass Business-Anwender und Profi-Entwickler keine Gegner sind
• 15:23
  und eine Pipeline bereitstellt, in der sie tatsächlich zusammenarbeiten.
• 15:26
  Was ist das falsch?
• 15:26
  Zerbrechen Sie sich am ersten Tag nicht den Kopf darüber, welches Tool Sie wählen sollen.
• 15:30
  Konzentrieren Sie sich stattdessen darauf, in welcher Phase es ist.
• 15:32
  Nutzen Sie Studio für schnelle Validierungen in der Explor-Phase.
• 15:34
  Gale findet in Foundry statt, sobald Komplexität hinzukommt oder Daten außerhalb von M35-Möchchen rollen.
• 15:39
  Gabon läuft vollständig über Foundry für Compliance-Audits und Workflows auf Unternehmensniveau.
• 15:43
  Das Framework verhindert, dass Sie den ersten FAQ-Bot überdimensionieren
• 15:45
  und jene vernachlässigen, die in kundenseitigen Systeme landen.
• 15:49
  Natürlich bedeutet das nicht, dass die Plattformen perfekt sind.
• 15:51
  Die Frameworks sehen auf PowerPoint schick aus, aber in der Realität hat jede Ebene ihre eigenen blinden Flecken.
• 15:56
  Und genau da beginnen meist die Kopfschmerzen bei den Dingen,
• 15:59
  die das Microsoft-Marketing auf Ignite-Folien nicht fett hervorhebt und die Microsoft gerne überspielt.
• 16:04
  Lassen Sie uns über die Dinge sprechen, die Microsoft verschweigt,
• 16:06
  bis sie mitten im Rollout stecken, die versteckten Fallstricke.
• 16:10
  Auf der Demo-Bühne sieht alles glänzend aus.
• 16:12
  Drag-and-drop und voila, ein sofortiger Co-Pilot.
• 16:13
  Doch in der Produktion erwischen drei wiederkehrende Lücken die Teams eiskalt.
• 16:18
  Fallstrick Nummer 1. Co-Pilot Studio verbirgt alle Regler zur Modellsteuerung.
• 16:21
  Keine Temperatureinstellung, kein Top-P-Regler, keine Evaluierungsschleifen, kein Prompt-Versioning.
• 16:26
  Für die meisten IT-Leute, die einen FAQ-Pilot-Bot bauen, klingt das nach harmlosen Details.
• 16:31
  Doch diese Hebel entscheiden, ob ihr Agent konsistente Ergebnisse liefert
• 16:33
  oder sich verhält wie ein Glücks-Keks-Automat.
• 16:36
  Ohne diese Stellschrauben können Sie Zufälligkeit nicht reduzieren oder die Erklärbarkeit absichern.
• 16:40
  Abhilfe. Wenn Zuverlässigkeit zählt, lagern Sie diese kritischen Workloads auf Foundry aus.
• 16:44
  Dort können Sie die Temperature auf Null setzen, Prompts einfrieren und
• 16:47
  jeden Output durch eine Prüfung leiten, bevor er Nutzer erreicht, erreicht.
• 16:52
  Studio ist gut für einfache FAQs, aber machen Sie sich nichts vor.
• 16:55
  Es lässt sich nicht sauber auf HR oder Compliance-Workflows skalieren.
• 16:58
  Fallstrick Nummer 2. Sowohl Studio als auch Foundry nutzen verbrauchsbasierte Preise.
• 17:02
  Und hier verlieren viele Projekte still und heimliche Budget.
• 17:05
  Zahlen, was man nutzt, klingt harmlos, bis man tausende Anfragen verarbeitet
• 17:08
  und merkt, dass Tokenverbrauch und Modellmix die Rechnung bestimmen.
• 17:12
  In Studio überraschen Kostensteigerungen die Teams, wenn die Nutzung sprunghaft ansteigt
• 17:16
  und kein Budget für Governance oder Lizenzen eingeplant war.
• 17:19
  Foundry lässt Sie diesen Schmerz früher spüren, da Sie Entwicklungsstunden einplanen,
• 17:22
  aber die Skalierungskosten sind zumindest transparent.
• 17:25
  Die Lösung.
• 17:26
  Implementieren Sie Nutzungsmetriken vom ersten Tag an.
• 17:28
  Verfolgen Sie den Tokenverbrauch und leiten Sie hochvolumig oder einfache Anfragen
• 17:31
  an günstigere Modelle im Katalog.
• 17:32
  Und am wichtigsten vergessen Sie nicht die versteckten Rechnungsposten,
• 17:35
  Lizenzen, Governance-Tools und benutzerdefinierte Konnektoren.
• 17:38
  All das beeinflusst den ROE, sobald Sie die Skalierung planen.
• 17:41
  Budgetieren Sie dies frühzeitig, anstatt später Budgetüberschreitungen erklären.
• 17:44
  Fallstrick Nummer 3.
• 17:45
  Konnektoren.
• 17:46
  Ja, Studio wirbt mit über 1000 Konnektoren,
• 17:48
  aber das bedeutet nicht, dass Sie sofort unternehmensstauglich sind.
• 17:53
  Einige funktionieren für Prototypen wie SharePoint, OneDrive oder Dynamics gut,
• 17:56
  andere benötigen jedoch oft Metadatenanpassungen oder eigene Entwicklung.
• 17:59
  Der Rollout bei Microsoft Digital selbst hat dies bewiesen.
• 18:01
  Ihr Team erweiterte die ServiceNow und SuccessFactors-Konnektoren
• 18:04
  und fügte ein Kennzeichen für autovidative Quellen hinzu,
• 18:06
  damit Nutzer offizielle HR-Richtlinien von veralteten Inhalten in einem alten Wiki unterscheiden konnten.
• 18:11
  Es funktionierte aber nur, weil sich die Ingenieure voll reinhinken.
• 18:14
  Die Lösung ist, von vornherein Anpassungsarbeit einzuplanen.
• 18:16
  Betrachten Sie Studio-Konnektoren bei kritischen Systemen nicht als Plugin.
• 18:19
  Planen Sie Zeit und Ressourcen für deren Erweiterung ein
• 18:22
  oder verlagern Sie die Arbeitslast auf Foundry,
• 18:24
  wo benutzerdefinierte APIs und Pipelines Standards sind.
• 18:27
  Einfach gesagt, die echten Risiken liegen nicht in schicken Demos, sondern in Eskalierung.
• 18:29
  Studio verbirgt Steuerelemente, die Sie später brauchen,
• 18:32
  Preismodelle können schnell überraschen
• 18:33
  und Konnektoren, die im Einrichtungsassistenten gut aussehen,
• 18:36
  erfordern für Unternehmen oft tiefere Anbindungen.
• 18:39
  Keines dieser Probleme ist ein Hindernis, wenn man sie einkalkuliert.
• 18:42
  Die Einfachheit von Studio ist ideal für Prototypen und einfache Szenarien,
• 18:45
  während Foundries tiefe Compliance und Governance abdeckt.
• 18:48
  Deckt?
• 18:48
  Sie müssen jedoch die Schwachstellen erkennen und entscheiden,
• 18:51
  ob Sie diese selbst beheben oder eskalieren, bevor es vor den Nutzern scheitert.
• 18:55
  Hier ist das Fazit.
• 18:56
  Überprüfen Sie die Nutzung frühzeitig,
• 18:58
  schützen Sie sensible Abläufe mit der richtigen Plattform und der richtigen Plattform
• 19:00
  und budgetieren Sie nicht nur für Lizenzen, sondern auch für Governance und Connector ab.
• 19:03
  Studio bringt Ihnen Schnelligkeit, Foundry bringt Ihnen Kontrolle.
• 19:06
  Die Probleme treten aus verschiedenen Richtungen auf, je nachdem, was Sie ignorieren.
• 19:09
  Mit dieser Perspektive können wir einen Schritt zurücktreten
• 19:11
  und die entscheidende Frage stellen,
• 19:12
  wie nutzt man beide sinnvoll, ohne sich bei der Wahl zu verkopfen.
• 19:14
  Wählen Sie mit Bedacht, aber hier ist die Kurzfassung.
• 19:19
  Studio ist für schnelle Prototypen und die Microsoft 365 Reichweite gedacht.
• 19:22
  Perfekt, wenn Sie nur beweisen müssen, dass ein Botzeit spart.
• 19:25
  Foundry ist für Kontrolle, Modelle und Governance.
• 19:28
  Hier stimmen Sie das System ab und verhindern,
• 19:30
  dass Compliance-Teams Sie durch den Flur jagen.
• 19:32
  Der wahre Clou ist, beide zu kombinieren.
• 19:33
  Erkunden Sie in Studio, skalieren Sie in Foundry und steuern Sie dort, wenn die Prüfer kommen.
• 19:38
  Abonnieren Sie die M335 für das Cheatsheet
• 19:40
  und folgen Sie der LinkedIn-Seite der M335-65-Show für Livestreams mit MVPs,
• 19:43
  die dies bereits produktiv umgesetzt haben.
• 19:45
  Ein realistischer Plan.
• 19:47
  Klein anfangen, tatsächliches Risiko- und Tokenverbrauch messen
• 19:49
  und dann zu Foundry wechseln, wenn Compliance oder Komplexität es erfordern.
• 19:53
  Sie ersparen sich Kopfschmerzen mit dem Stack im Vorausplan.
• 19:55
  Noch eines, bitte abonnieren Sie den Podcast und hinterlassen Sie eine Bewertung.