Latest / M365.FM – Podcast de Microsoft 365, Copilot e IA en español / La trampa de Azure AI Foundry: RAG, agentes y evaluadores para dejar de entregar alucinaciones en producción (Doblaje IA)

Transcript

La trampa de Azure AI Foundry: RAG, agentes y evaluadores para dejar de entregar alucinaciones en producción (Doblaje IA) · M365.FM – Podcast de Microsoft 365, Copilot e IA en español

• 0:00
  Speaker 2: Hiciste click porque el podcast dijo que Azure AI Foundry
• 0:02
  Speaker 2: es una trampa, ¿verdad? Estás en el lugar correcto. Aquí
• 0:05
  Speaker 2: está la promesa del principio. Los copilots colapsan sin fundamentos,
• 0:10
  Speaker 2: pero herramientas como la generación aumentada por recuperación RAC con
• 0:13
  Speaker 2: Azure AI Search y Vido y evaluadores semánticos para la fundamentación,
• 0:16
  Speaker 2: relevancia y coherencia son las soluciones reales que evitan que
• 0:19
  Speaker 2: entregues alucinaciones disfrazadas de respuestas. Vamos a ir más allá
• 0:23
  Speaker 2: de las presentaciones de marketing y te mostraremos el manual
• 0:25
  Speaker 2: de supervivencia con ejemplos reales del campo. suscríbete al boletín
• 0:28
  Speaker 2: informativo de M365 Show y sigue las transmisiones en vivo
• 0:31
  Speaker 2: con los MVP. Ahí es donde residen las lecciones aprendidas
• 0:33
  Speaker 2: y las soluciones. Y dado que las primeras grietas suelen
• 0:36
  Speaker 2: aparecer en las aplicaciones multimodales, como hacemos por ahí, o
• 0:39
  Speaker 2: que las aplicaciones multimodales fallan en el mundo real, cuando
• 0:41
  Speaker 2: ves una demostración multimodal en el escenario, parece impecable. El
• 0:44
  Speaker 2: presentador ingresa un prompt de texto, una imagen clara, tal
• 0:47
  Speaker 2: vez incluso una entrada de voz rápida, y el modelo
• 0:48
  Speaker 2: entrega un gráfico perfecto, un gráfico perfecto, un resumen de
• 0:51
  Speaker 2: contrato preciso. Todo parece magia, pero en el momento en
• 0:53
  Speaker 2: que intentas lo mismo dentro de una empresa real, el
• 0:55
  Speaker 2: brillo desaparece rápidamente. Las demos se ejecutan con entradas, pero
• 0:58
  Speaker 2: los lugares de trabajo funcionan. Esa es la verdadera diferencia.
• 1:01
  Speaker 2: En producción, nadie le está dando a tu modelo capturas
• 1:03
  Speaker 2: de pantalla cuidadosamente preparadas o CSV formateados por un comité
• 1:06
  Speaker 2: de estándares. Eres enviando identificaciones gubernamentales borrosas. Compras estar rastrando
• 1:11
  Speaker 2: archivos PDF que son copias de quinta generación. Alguien en
• 1:14
  Speaker 2: finanzas está tomando una foto de una factura con la
• 1:16
  Speaker 2: cámara rota de un Android. Los modelos multimodales pueden manejar texto, imágenes,
• 1:20
  Speaker 2: voz y video, pero necesitan datos bien indexados y recuperación
• 1:23
  Speaker 2: para funcionar en condiciones desordenadas. De lo contrario, solo le
• 1:25
  Speaker 2: estás pidiendo al modelo que improvise con basura. Y ninguna
• 1:28
  Speaker 2: cantidad de gastos de GPU soluciona el problema de que
• 1:30
  Speaker 2: entre basura sale basura. Aquí es donde la generación aumentada
• 1:32
  Speaker 2: por recuperación de AG debería salvarte. En palabras sencillas, el
• 1:36
  Speaker 2: modelo no conoce tu negocio, así que lo conectas a
• 1:38
  Speaker 2: una fuente de conocimiento. Recupera una porción de datos y
• 1:40
  Speaker 2: moldea la respuesta en torno a ella. Cuando la coincidencia
• 1:43
  Speaker 2: es precisa, obtienes respuestas útiles y fundamentales. Cuando es descuidada,
• 1:45
  Speaker 2: el modelo improvisa escupiendo tonterías con mucha seguridad. Así es
• 1:48
  Speaker 2: como terminas con un chatbot asegurando que tu empresa tiene
• 1:51
  Speaker 2: una nueva política de descuentos para el tercer trimestre que
• 1:53
  Speaker 2: no existe. No se volvió consciente, simplemente extrajo los datos incorrectos.
• 1:58
  Speaker 2: Azure AI Studio y Azure AI Foundry se apoyan en
• 2:00
  Speaker 2: este patrón y admiten todo tipo de modalidades, lenguaje, visión,
• 2:03
  Speaker 2: voz e incluso recuperación de video. El problema es que
• 2:06
  Speaker 2: Rage es tan bueno como lo sean sus datos. Aquí
• 2:08
  Speaker 2: está el detalle clave que la mayoría de los equipos
• 2:09
  Speaker 2: pasan por. No pueden simplemente conectar un método de recuperación
• 2:12
  Speaker 2: y darlo por terminado. Si quieres que los resultados sean coherentes,
• 2:14
  Speaker 2: necesitas una búsqueda híbrida de palabras clave y vectores, rematada
• 2:17
  Speaker 2: con un reordenador semántico integrado en Azure AI Search. Esto
• 2:19
  Speaker 2: permite al sistema equilibrar las coincidencias literales de palabras clave
• 2:21
  Speaker 2: con el significado semántico, semántico, semántico, semántico, y luego ordenar
• 2:24
  Speaker 2: resultados para que el contexto adecuado aparezca primero. Al integrar
• 2:26
  Speaker 2: eso en tu configuración multimodal, el modelo puede manejar escaneos
• 2:29
  Speaker 2: torcidos e imágenes borrosas en lugar de inventarse tu política
• 2:32
  Speaker 2: de cumplimiento de la nada. Ahora, hablemos de por qué
• 2:35
  Speaker 2: tantos lanzamientos fracasan. Las empresas esperan resultados pulidos desde el
• 2:39
  Speaker 2: primer día, pero no destinan presupuesto a siglos de evaluación.
• 2:42
  Speaker 2: Sin controles de fundamentación, relevancia y coherencia en segundo plano,
• 2:45
  Speaker 2: no notarás la desviación hasta que los usuarios ya se
• 2:47
  Speaker 2: hayan visto afectados. Muchos despliegues iniciales fracasan rápidamente exactamente por
• 2:51
  Speaker 2: esta razón. El resultado suena correcto, pero nadie lo verificó
• 2:53
  Speaker 2: con una fuente de verdad. Piénsalo, nunca implementarías una base
• 2:56
  Speaker 2: de datos nueva sin supervisión. Sin embargo, con la IA multimodal,
• 2:59
  Speaker 2: los ejecutivos la lanzan a producción como si fuera una
• 3:01
  Speaker 2: caja mágica lista para usar. No tiene por qué terminar
• 3:04
  Speaker 2: en fracaso. Carvana es una de las historias de clientes
• 3:06
  Speaker 2: de Foundry que demuestra este punto. hicieron que la IA
• 3:09
  Speaker 2: autoservicio fuera realmente útil, ajustando la recuperación, fundamentando adecuadamente a
• 3:13
  Speaker 2: sus agentes e invirtiendo en observabilidad. Eso convirtió lo que
• 3:16
  Speaker 2: pudo ser otro bot de juguete en algo en lo
• 3:18
  Speaker 2: que los clientes pueden confiar. Ahora, compáralo con las empresas
• 3:21
  Speaker 2: que añadieron un chatbot genérico a su página de soporte
• 3:24
  Speaker 2: sin fundamentación ni evaluación. He visto el resultado. Reclamos de
• 3:27
  Speaker 2: garantía clasificados como prospectos de ventas, colas de soporte saturadas
• 3:30
  Speaker 2: y credibilidad destruida. La misma infraestructura de Azure. Resultados opuestos. Entonces,
• 3:34
  Speaker 2: aquí está la conclusión directa. La IA multimodal no colapsa
• 3:36
  Speaker 2: porque no sea lo suficientemente inteligente Colapsa porque los datos
• 3:39
  Speaker 2: no están preparados, indexados o monitoreados. Introduce basura en el
• 3:43
  Speaker 2: sistema de recuperación, salta las evaluaciones y mira cómo se
• 3:45
  Speaker 2: pierde la confianza. Pero con búsqueda híbrida, reordenamiento semántico y
• 3:48
  Speaker 2: evaluaciones constantes, puedes procesar facturas, contratos, imágenes e incluso notas
• 3:52
  Speaker 2: de audio con respuestas que siguen basándose en la realidad
• 3:54
  Speaker 2: y no en la fantasía. Y una vez que la
• 3:57
  Speaker 2: fundamentación está en orden, surge otro riesgo. Incluso si las
• 4:00
  Speaker 2: tuberías de datos están limpias, el sistema que las impulsa
• 4:03
  Speaker 2: puede descontrolarse. Es ahí donde cambia el blog.¿ El agente
• 4:06
  Speaker 2: que coordina todo esto ayuda realmente a tu negocio o
• 4:08
  Speaker 2: está convirtiendo silenciosamente tu presupuesto de TI en combustible para
• 4:11
  Speaker 2: una hoguera?¿ Un agente útil o un costoso pisapapeles? Un
• 4:15
  Speaker 2: agente coordina modelos, datos, activadores y acciones. Piénsalo como un
• 4:18
  Speaker 2: agente de tránsito para tus flujos de trabajo automatizado. A
• 4:21
  Speaker 2: veces dirige todo sin problemas, a veces deja pasar tres
• 4:23
  Speaker 2: camiones de volteo y un auto de payasos y luego
• 4:25
  Speaker 2: se va a almorzar. Esa brecha entre la definición clara
• 4:28
  Speaker 2: y la realidad desordenada es donde la mayoría de los
• 4:29
  Speaker 2: equipos pierden el control. En teoría un agente parece perfecto.
• 4:33
  Speaker 2: Dale instrucciones, conéctalo a tus datos y aplicaciones. debería ejecutar procesos,
• 4:36
  Speaker 2: obtener respuestas e incluso iniciar flujos de trabajo. Pero no
• 4:39
  Speaker 2: es un colega perfecto. Tiene tantas probabilidades de resolver un
• 4:42
  Speaker 2: problema recurrente a las 2 de la mañana como de
• 4:44
  Speaker 2: inundar tu cola con 100 tickets fantasma por malinterpretar un
• 4:46
  Speaker 2: registro de errores. Imagina lo de otro servicio. Con un
• 4:50
  Speaker 2: alcance limitado, la IA genera tickets reales solo para problemas
• 4:53
  Speaker 2: genuinos y ahorra horas de trabajo humano. Si se deja libre,
• 4:56
  Speaker 2: puede enterrar el servicio de asistencia técnica bajo una montaña
• 4:58
  Speaker 2: de alertas falsas sobre fallas críticas de impresores que funcionan perfectamente.
• 5:00
  Speaker 2: Intenta explicarle ese aumento de productividad a tu CEO. Aquí
• 5:03
  Speaker 2: está la distinción que muchos pasan por. Los copilotos y
• 5:05
  Speaker 2: los agentes, no solo mí. Un copiloto es básicamente un
• 5:07
  Speaker 2: compañero para tu consulta. Tú preguntas, él responde y tú
• 5:10
  Speaker 2: mantienes el control. Los agentes, por otro lado, toman decisiones
• 5:13
  Speaker 2: sin esperar por ti. Siguen tus instrucciones vagas al pie
• 5:16
  Speaker 2: de la letra, incluso cuando los resultados no tienen sentido.
• 5:19
  Speaker 2: Ahí es cuando la automatización ahorra tiempo real o cae
• 5:21
  Speaker 2: en un caos que tardarás el doble en limpiar. La
• 5:24
  Speaker 2: verdad es que muchos equipos dan a su agente una
• 5:26
  Speaker 2: descripción de trabajo que parece una promesa de campaña. Optimizar procesos,
• 5:29
  Speaker 2: proporcionar información, ayudar a las personas. Felicidades, básicamente le has
• 5:33
  Speaker 2: dicho al bot que actúe sin límites. Los agentes sin
• 5:35
  Speaker 2: un alcance definido no se mantienen educadamente en su carrera.
• 5:37
  Speaker 2: De control. Inventan problemas para resolver. Duplican registros. Entran en
• 5:41
  Speaker 2: bucles infinitos. Y luego el liderazgo se pregunta por qué
• 5:43
  Speaker 2: una demostración brillante se convirtió en un dolor de cabeza
• 5:45
  Speaker 2: en producto. Ahora, aclaremos las cosas. No es que la
• 5:47
  Speaker 2: mayoría de las organizaciones fracasen en los primeros dos meses.
• 5:50
  Speaker 2: Eso no está en la investigación. Lo que sí sucede
• 5:52
  Speaker 2: rápidamente es que muchas organizaciones se topan con obstáculos pronto
• 5:55
  Speaker 2: porque nunca limitaron bien el alcance de sus agentes, nunca
• 5:57
  Speaker 2: añadieron pasos de validación y nunca instrumentaron la telemetría. Sin
• 6:01
  Speaker 2: esas barreras de seguridad o flamante herramientas, solo un becario
• 6:03
  Speaker 2: imprudente compra y ve a su administrador Y aquí es
• 6:05
  Speaker 2: donde la plataforma de Microsoft te da las piezas necesarias.
• 6:08
  Speaker 2: Copilot Studio es el entorno de bajo código, donde los
• 6:10
  Speaker 2: desarrolladores diseñan el comportamiento de la gente. Piensa en flujos,
• 6:12
  Speaker 2: prompts y activadores de eventos. Luego el Agent Service de
• 6:15
  Speaker 2: Azure AI Foundry es la estructura empresarial que pone a
• 6:17
  Speaker 2: sus agentes en producción con observabilidad. Agent Service es donde
• 6:21
  Speaker 2: añades supervisión, registros y métricas. Está diseñado deliberadamente para la
• 6:25
  Speaker 2: automatización con supervisión humana incorporada, porque Microsoft sabe qué ocurre
• 6:29
  Speaker 2: si confías en un agente no probado en un entorno real. Entonces,¿
• 6:32
  Speaker 2: cómo sabes si tu agente es realmente útil? Pásalo por
• 6:35
  Speaker 2: una lista de verificación directa. 1.¿ Reduce las horas de
• 6:38
  Speaker 2: trabajo humano o arrastra a tu personal a tareas de depuración? 2.¿
• 6:41
  Speaker 2: Estás capturando métricas como fundamentación, fluidez y coherencia o solo
• 6:44
  Speaker 2: estás mirando los bonitos paneles de marketing? 3.¿ Tienes telemetría
• 6:48
  Speaker 2: implementada para detectar desviaciones antes de que los usuarios empiecen
• 6:51
  Speaker 2: a quejarse? Si respondiste mal a cualquiera de ellas, no
• 6:54
  Speaker 2: tienes un agente inteligente. Tienes un protector de pantalla costoso.
• 6:57
  Speaker 2: La solución es usar las funciones de observabilidad y los
• 6:59
  Speaker 2: evaluadores integrados de Azure AI Foundry y Foundry. Estos no
• 7:02
  Speaker 2: son extras opcionales. Es una forma documentada de medir la fundamentación, relevancia,
• 7:06
  Speaker 2: coherencia y fidelidad de la fuente. Sin ellos, estarás adivinando
• 7:09
  Speaker 2: si tu agente es inteligente o solo inventa cosas con
• 7:12
  Speaker 2: un tono amable. Con ellos, puedes intervenir con confianza y
• 7:15
  Speaker 2: ajustar cuando los resultados se desvían. Así que sí, los
• 7:17
  Speaker 2: agentes pueden cambiar las reglas web. Con un alcance incorrecto,
• 7:20
  Speaker 2: se convierten en amplificadores de caos que consumen más tiempo
• 7:22
  Speaker 2: del que ahorran. Con un alcance correcto, límites claros, telemetría
• 7:25
  Speaker 2: real y respuestas fundamentadas pueden manejar tareas mientras los humanos
• 7:28
  Speaker 2: se enfocan en trabajos de mayor valor. Y justo cuando
• 7:30
  Speaker 2: crees que has encontrado ese equilibrio, la historia cambia de nuevo.
• 7:33
  Speaker 2: Microsoft ya está impulsando agentes autónomos, bots que no esperan
• 7:36
  Speaker 2: a que actúes, lo que lleva a los riesgos de
• 7:40
  Speaker 2: ser útil o un estorbo a una categoría diferente, porque
• 7:42
  Speaker 2: ahora hablamos de sistemas que funcionan incluso cuando nadie vigila.
• 7:46
  Speaker 2: La trampa del agente autónomo. Los agentes autónomos son donde
• 7:49
  Speaker 2: el entusiasmo se vuelve peligroso. En teoría son un sueño.
• 7:53
  Speaker 2: Deja que la IA actúe por ti, automatiza la rutina
• 7:55
  Speaker 2: y deja de levantarte de la cama a las 12 a.m.
• 7:57
  Speaker 2: para atender colas de tickets. Suena genial a la sala
• 8:00
  Speaker 2: de juntas. La trampa es simple. No esperen permiso. Los
• 8:03
  Speaker 2: copiables son una pose. Los agentes autónomos no. Cuando toman
• 8:06
  Speaker 2: una mala decisión, el daño ocurre al instante y escala
• 8:08
  Speaker 2: en todo tu entorno. El concepto es bastante sencillo. Los
• 8:11
  Speaker 2: copiables son rectil. Los agentes son pro. En lugar de
• 8:13
  Speaker 2: permanecer en silencio hasta que alguien escribe un comando, define
• 8:16
  Speaker 2: agentes para vigilar la salud del servicio, manejar señales de
• 8:18
  Speaker 2: seguridad o ejecutar flujos de trabajo automáticamente. Microsoft lo promociona
• 8:21
  Speaker 2: como eficiencia, menos desperdicio humano, detecciones más rápidas y operaciones
• 8:24
  Speaker 2: más fluidas. La promesa es real, pero aquí está el
• 8:27
  Speaker 2: contexto importante. Los agentes autónomos en Copilot Studio hoy todavía
• 8:31
  Speaker 2: están en versión preliminar, Preliminar no significa roto, pero sí
• 8:34
  Speaker 2: significa no probado en el complicado mundo real. E incluso
• 8:37
  Speaker 2: Microsoft dice que necesitas directrices de gobernanza del ciclo de
• 8:39
  Speaker 2: vida y sistema de consola de Copilot antes de pensar
• 8:41
  Speaker 2: en implementarlos a gran escala. Considera un realista. Supongamos que
• 8:44
  Speaker 2: creas un agente de soporte técnico autónomo y le das
• 8:46
  Speaker 2: autoridad para responder a anomalías de inicio de sesión. En
• 8:49
  Speaker 2: una demostración con 5 usuarios funciona a perfección. Alertas activadas,
• 8:52
  Speaker 2: cuentas gestionadas. Luego las entradas ruidosas llegan al producto. En
• 8:55
  Speaker 2: lugar de esperar, comienza a restablecer masivamente cientos de cuentas
• 8:58
  Speaker 2: basándose en falsos positivos. El resultado no es una interrupción hipotética.
• 9:02
  Speaker 2: Podría de forma realista paralizar las operaciones de fin de mes.
• 9:05
  Speaker 2: Eso no es ciencia ficción. Es el modo de falla
• 9:07
  Speaker 2: que aceptas si omites definir el alcance. La solución no
• 9:10
  Speaker 2: es desechar la tecnología. Es construir primero la red de seguridad,
• 9:13
  Speaker 2: lo cual es la lista de verificaciones. Tres cosas imprescindibles
• 9:15
  Speaker 2: ante cualquier automatización llamativa. Uno, alcance de identidad y acceso.
• 9:20
  Speaker 2: Dale a tu agente derecho mínimo 100 rolas de administrador general. Dos,
• 9:23
  Speaker 2: registro y reversión. Cada acción debe dejar un rastro que
• 9:25
  Speaker 2: puedas auditar. Y toda acción seria necesita una vez de
• 9:28
  Speaker 2: reversión cuando el agente falla. Tres, filtros de contenido y comportamiento.
• 9:32
  Speaker 2: Microsoft destaca esto con la seguridad de contenido de Azure
• 9:34
  Speaker 2: AI y la configuración de conocimiento. Los filtros que evitan
• 9:37
  Speaker 2: que un bot entusiasta genere respuestas inapropiadas o se salga
• 9:40
  Speaker 2: del guión. Haz esto primero o la inteligencia de tu
• 9:43
  Speaker 2: agente enterrará tus procesos en lugar de ayudarlos. La capa
• 9:45
  Speaker 2: de ética hace que esto sea más crítico. Imagina a
• 9:47
  Speaker 2: un agente de REO, marcando automáticamente empleados como riesgosos, o
• 9:51
  Speaker 2: a uno de finanzas reteniendo pagos a proveedores por clasificarlos
• 9:53
  Speaker 2: erróneamente como fraude. Estas no son peculiaridades inofensivas, son fallas
• 9:57
  Speaker 2: con impacto humano y consecuencias legales y de cumplimiento. El
• 9:59
  Speaker 2: sesgo en los datos de entrenamiento o recuperación no desaparece
• 10:01
  Speaker 2: solo porque ahora estás ejecutando una versión preliminar empresarial. Sin filtros,
• 10:05
  Speaker 2: controles y alternativas humanas estás delegando decisiones que tus abogados
• 10:08
  Speaker 2: definitivamente no quieren que tomen un algoritmo sin supervisión. Mi
• 10:11
  Speaker 2: propio mensaje de Microsoft en Ignite fue directo al respecto.
• 10:14
  Speaker 2: Los límites de seguridad, la gestión del ciclo de vida,
• 10:16
  Speaker 2: el monitoreo y el sistema de control de Copilot no
• 10:17
  Speaker 2: son extras, son obligatorios. La vista previa hoy no trata
• 10:21
  Speaker 2: de demos brillantes, sino de que los evaluadores demuestren dónde
• 10:23
  Speaker 2: aparecen las grietas. Si lanzas sin pruebas de fase, flujos
• 10:26
  Speaker 2: de aprobación y auditorías, no estás ejecutando una gente, estás
• 10:29
  Speaker 2: estresando tu entorno en producción. Por eso la observabilidad no
• 10:32
  Speaker 2: es opcional. Necesitas tableros que muestren cada paso que da
• 10:35
  Speaker 2: una gente y verifiquen si su resultado fue fundamentado, relevante
• 10:38
  Speaker 2: y coherente con tu política. Y necesitas opciones con intervención.
• 10:42
  Speaker 2: Microsoft no oculta esto. Señala patrones donde el humano sigue
• 10:45
  Speaker 2: siendo la última medida de seguridad. Piénselo como el piloto
• 10:48
  Speaker 2: automático de un vuelo, increíblemente útil, pero siempre diseñado con
• 10:51
  Speaker 2: un control manual. Si el bot cree que el aterrizaje
• 10:54
  Speaker 2: óptimo es en un lago, querrás tomar el control antes
• 10:56
  Speaker 2: del impacto. La analogía correcta aquí es dejar que un
• 10:59
  Speaker 2: adolescente aprenda a conducir. El potencial es real, la velocidad
• 11:02
  Speaker 2: es impresionante, pero no entregas las llaves, te vas de
• 11:04
  Speaker 2: la entrada y esperas lo mejor. Te sientes en el
• 11:06
  Speaker 2: lado del pasajero, le das límites y equipas frenos que
• 11:08
  Speaker 2: tú mismo puedes presionar. Eso es la gobernanza del ciclo
• 11:11
  Speaker 2: de vida en la práctica, roditas de entrenamiento hasta estar
• 11:13
  Speaker 2: seguros de que el sistema no se saldrá de camino.
• 11:15
  Speaker 2: Y esto nos lleva a la planta de producción más grande,
• 11:17
  Speaker 2: donde los agentes, copilotos y cada flujo de trabajo que
• 11:19
  Speaker 2: has probado se unen. Microsoft llama a eso Azure AI Foundry,
• 11:22
  Speaker 2: un espacio integral de creación de IA con todas las herramientas.
• 11:25
  Speaker 2: Si se convierte en una potencia de producción o en
• 11:27
  Speaker 2: el lugar donde tus proyectos se autodestruyen, depende totalmente de
• 11:29
  Speaker 2: cómo lo trates y de cómo lo tratas. Azure AI Foundry,
• 11:33
  Speaker 2: tu fábrica o tu campo de minas. Azure AI Foundry
• 11:36
  Speaker 2: es la nueva propuesta insignia de Microsoft, una supuesta fábrica
• 11:39
  Speaker 2: para todo lo relacionado con IAE. Demasiados equipos entran y
• 11:43
  Speaker 2: lo tratan como si fuera IKEA. Deambulan deslumbrados por los catálogos,
• 11:46
  Speaker 2: toman un par de modelos de lenguaje grandes brillantes, añaden
• 11:49
  Speaker 2: conectores y ensamblan algo sin instrucciones. Lo que obtienen no
• 11:52
  Speaker 2: es un sistema de IA empresarial, es un juguete de
• 11:54
  Speaker 2: demostración que colapsa la primera vez que un usuario real
• 11:57
  Speaker 2: sube un PDF desordenado. Esto es lo que realmente ofrece Foundry, directamente,
• 12:01
  Speaker 2: del manual oficial. Un catálogo de modelos que abarca Microsoft, OpenAI, Metamistral,
• 12:05
  Speaker 2: DeepSeq y otros. Opciones de personalización como generación aumentada por recuperación,
• 12:10
  Speaker 2: ajuste fino y destilación.¿ Un servicio de agentes para orquestación?¿
• 12:14
  Speaker 2: Herramientas como Promflow para evaluación y depuración?¿ Funciones de seguridad básica,
• 12:18
  Speaker 2: controles de identidad y acceso, filtros de seguridad y contenido
• 12:20
  Speaker 2: y paneles de observabilidad? En resumen, son todas las piezas
• 12:23
  Speaker 2: que necesitas para construir copilotos, agentes y flujos autónomos, manteniéndolos
• 12:26
  Speaker 2: siempre conformes. Ese es el inventario. El problema no es
• 12:29
  Speaker 2: que la caja de herramientas esté vacía, es que demasiados
• 12:31
  Speaker 2: administradores creen que basta con encender un interruptor de GPT-4
• 12:34
  Speaker 2: Turbo para que esté listo para producción. La verdad es
• 12:36
  Speaker 2: que Foundry es una planta de fábrica, no tu caja
• 12:38
  Speaker 2: de juguetes para un hackathon. Eso significa establecer límites de identidad,
• 12:41
  Speaker 2: para que solo las personas adecuadas toquen los modelos correctos.
• 12:44
  Speaker 2: Significa envolver cada flujo de trabajo con seguridad de contenido.
• 12:47
  Speaker 2: Significa usar observabilidad para saber cuándo una respuesta está fundamentada
• 12:50
  Speaker 2: frente a cuándo el modelo inventa políticas de la empresa
• 12:52
  Speaker 2: de la nada. Y significa elegir el modelo adecuado para
• 12:55
  Speaker 2: la tarea, en lugar de simplemente escoger el más grande
• 12:57
  Speaker 2: porque suena inteligente. Si te saltas esos pasos, el caos
• 13:01
  Speaker 2: entra por la puerta de acero. He visto un equipo
• 13:02
  Speaker 2: conectar un copiloto de Foundry en SharePoint que expuso alegremente
• 13:05
  Speaker 2: datos restringidos de RR. Vente pasando. No fue brillante, fue
• 13:08
  Speaker 2: un desastre de cumplimiento que pudo haberse evitado con reglas
• 13:11
  Speaker 2: de acceso integradas. Hablemos de modos de falla real. Una
• 13:14
  Speaker 2: organización usó una BGPT-4 Turbo para etiquetar fotos de productos.
• 13:18
  Speaker 2: En el laboratorio la demostración fue un éxito total. Fotos
• 13:20
  Speaker 2: de estudio limpias, etiquetas perfectas, todos aplaudieron. En producción las
• 13:24
  Speaker 2: entradas no eran shape impecables, eran fotos borrosas tomadas con
• 13:27
  Speaker 2: celulares en una. De repente la IA etiquetó mal las
• 13:30
  Speaker 2: carreras como sillas de oficina y mezcló los códigos UPC
• 13:32
  Speaker 2: con números de serie falsos. Además del golpe a la confianza,
• 13:36
  Speaker 2: los costos empezaron a aumentar. Y esto no es un
• 13:38
  Speaker 2: cuento de haz de 0 a 1 por mensaje. El
• 13:39
  Speaker 2: precio de Foundry se basa en el consumo y está
• 13:41
  Speaker 2: vinculado a los servicios específicos que utiliza. Cada conector, cada
• 13:44
  Speaker 2: llamada de recuperación y cada medidor de mensaje se factura
• 13:46
  Speaker 2: a su inquilino. Cada pieza tiene su propio modelo de facturación.
• 13:50
  Speaker 2: Esa flexibilidad es buena, pero si no estima con la
• 13:52
  Speaker 2: calculadora de precios de Azure y rastrea el uso, su
• 13:54
  Speaker 2: equipo de finanzas quedará encantado con su factura sorpresa. Esa
• 13:58
  Speaker 2: es la trampa de la facturación. Los precios por consumo
• 14:00
  Speaker 2: funcionan si planifica, monitorea y optimiza. Si no lo hace,
• 14:03
  Speaker 2: se parece mucho a usar un auto deportivo como moto
• 14:04
  Speaker 2: de reparto descaro, ruidoso e inútil. Todos hemos pasado por
• 14:08
  Speaker 2: eso con herramientas como Power BI, gran demostración, factura descontrolada.
• 14:11
  Speaker 2: No deje que Foundry lo lleve al mismo lugar. A
• 14:13
  Speaker 2: los desarrolladores les encanta crear prototipos en Foundry porque el
• 14:16
  Speaker 2: entorno de pruebas es ágil. Y en un entorno de
• 14:17
  Speaker 2: pruebas sí lo es. Datos de demostración limpio, cero desorden,
• 14:20
  Speaker 2: sorpresa instantánea. Aquí está el problema. Los equipos llevan ese
• 14:22
  Speaker 2: prototipo a producción sin tuberías de evaluación. Si omite los
• 14:26
  Speaker 2: evaluadores de fundamentación, fluidez, relevancia y coherencia está implementando a ciegas.¿
• 14:30
  Speaker 2: Y qué sucede? Los usuarios notan la desviación en el resultado,
• 14:33
  Speaker 2: la confianza cae y los ejecutivos recortan fácilmente. Esto no
• 14:35
  Speaker 2: es una falla de Foundry.¿ Que los equipos fallan en
• 14:37
  Speaker 2: la gobernanza? Muchos prototipos de Foundry se estancan antes de
• 14:39
  Speaker 2: llegar a producción por esta misma razón. Sin observabilidad, sin
• 14:42
  Speaker 2: controles de calidad, sin telemetría. La respuesta está ahí mismo
• 14:45
  Speaker 2: en la plataforma. Use la observabilidad de Azure AI Foundry
• 14:47
  Speaker 2: del primer día. Conecte los flujos de PROM. Ejecute evaluadores
• 14:51
  Speaker 2: integrados en cada PROM. Fundamente su sistema con Azure AI
• 14:53
  Speaker 2: Search usando búsqueda híbrida y reordenamiento semántico antes de pensar
• 14:56
  Speaker 2: en salir a producción. Microsoft no ocultó estas herramientas en
• 14:59
  Speaker 2: un anexo. Están documentadas para la seguridad en producción. Pero
• 15:01
  Speaker 2: a menudo los constructores las pasan por alto como si
• 15:03
  Speaker 2: fueran notas el Esa mentalidad de puntos de control es
• 15:06
  Speaker 2: como evita el campo de minas. Trate a Foundry como
• 15:09
  Speaker 2: una fábrica, la gobernanza como el paso uno, las políticas
• 15:11
  Speaker 2: de cumplimiento integradas como el acceso condicional y las tuberías
• 15:13
  Speaker 2: de observabilidad funcionando desde el principio. Y si el alcance
• 15:16
  Speaker 2: de identidad y la seguridad del contenido no deben añadirse después,
• 15:19
  Speaker 2: están en la lista de materiales. Si omite la gobernanza,
• 15:22
  Speaker 2: arriesga más que solo malas respuestas. Sin ella, su bot
• 15:24
  Speaker 2: multimodal podría exponer alegremente los salarios de recursos humanos a
• 15:27
  Speaker 2: usuarios externos o etiquetar facturas con números de polis efecticio.
• 15:30
  Speaker 2: Eso no es solo una errota, es carne de titulares
• 15:32
  Speaker 2: que su oficina de cumplimiento no quiere explicar. Y ahí
• 15:35
  Speaker 2: es donde cambia el enfoque, porque el siguiente obstáculo no
• 15:37
  Speaker 2: es técnico en absoluto, es si su IA es responsable.
• 15:41
  Speaker 2: A todos les encanta escribir esas palabras en una presentación,
• 15:43
  Speaker 2: pero en la práctica se trata de auditorías, filtros, cumplimiento
• 15:46
  Speaker 2: y la montaña de decisiones que tomas antes del lanzamiento.
• 15:48
  Speaker 2: Y ahí es donde realmente empiezan los dolores. Suscríbete y
• 15:52
  Speaker 2: síguenos en el boletín m365.show para obtener soluciones directas y
• 15:54
  Speaker 2: síguenos en m365. Sigue nuestra página de LinkedIn para ver
• 15:57
  Speaker 2: transmisiones en vivo con MVP que han probado Foundry en
• 15:59
  Speaker 2: producción y han visto lo que puede salir mal. IA
• 16:01
  Speaker 2: responsable o dolores de cabeza responsable. A todos les encanta
• 16:04
  Speaker 2: incluir la IA responsable en una presentación. Se ve bien
• 16:07
  Speaker 2: junto a términos de moda como equidad y transparencia, pero
• 16:09
  Speaker 2: en la práctica no es una filosofía inspiradora. Es configuración, auditorías,
• 16:13
  Speaker 2: filtros y pasos de gobernanza que se sienten más como
• 16:15
  Speaker 2: mantenimiento de servidores que como innovación. IA responsable es el
• 16:19
  Speaker 2: cinturón de seguridad, no el autodeportivo. Sáltate de una vez
• 16:21
  Speaker 2: y el choque llega rápido. Microsoft habla de ética y
• 16:24
  Speaker 2: seguridad desde el principio, pero para los administradores que implementan
• 16:26
  Speaker 2: esto se traducen salvaguardas prácticas. Necesitas políticas de acceso que
• 16:30
  Speaker 2: no se dan ante la presión, filtros que realmente bloqueen
• 16:33
  Speaker 2: peticiones dañinas y registros lo suficientemente detallados para satisfacer a
• 16:36
  Speaker 2: un regulador con cafeína y citación. No es un trabajo glamuroso.
• 16:39
  Speaker 2: Es aislar los copilots de RHHH de los datos financieros,
• 16:42
  Speaker 2: establecer reglas de alcance para que los bots de equipo
• 16:44
  Speaker 2: no se filtren en secreto de SharePoint y etiquetar registros
• 16:46
  Speaker 2: para probar cómo se forma una respuesta. Si lo haces bien,
• 16:50
  Speaker 2: responsable no es un eslogan corporativo, es supervivencia. La versión
• 16:53
  Speaker 2: fea de ignorar esto, conectar un bot directamente a tu
• 16:55
  Speaker 2: repositorio de RH sin definir el tenor. Un usuario pregunta
• 17:00
  Speaker 2: sobre beneficios de seguro y el bot, muy servicial, publica
• 17:03
  Speaker 2: los rangos salariales de los empleados en el chat. Ahora
• 17:05
  Speaker 2: tienes una brecha de privacidad, una pesadilla de moral y
• 17:08
  Speaker 2: posiblemente a los reguladores pisándote los talones. La forma más
• 17:11
  Speaker 2: rápida de matar la adopción no es una mala experiencia
• 17:12
  Speaker 2: de usuario, es una filtración de datos sensibles. Entonces,¿ qué
• 17:14
  Speaker 2: evita ese desastre? Empieza con Azure AI Content Safety. Está
• 17:17
  Speaker 2: diseñado para filtrar peticiones y respuestas violentas, obscenas y ofensivas
• 17:20
  Speaker 2: antes de que lleguen a los usuarios. Pero eso es
• 17:23
  Speaker 2: solo higiene básica. Foundry y Copilot Studio añaden procesos de
• 17:27
  Speaker 2: evaluación que manejan el siguiente nivel de Verificaciones de fundamentación,
• 17:30
  Speaker 2: puntuación de relevancia, paneles de transparencia y explicabilidad. En pocas palabras,
• 17:35
  Speaker 2: puedes ajustar los umbrales, filtrar entradas y salidas y hacer
• 17:38
  Speaker 2: que los bots muestren su trabajo. Sin eso, solo estás
• 17:41
  Speaker 2: jugando los dados con lo que escupe la IA. Aquí
• 17:43
  Speaker 2: está la realidad de los recursos. Microsoft respalda esto con
• 17:46
  Speaker 2: mucho peso. 34.000 ingenieros equivalentes a tiempo completo dedicados a
• 17:49
  Speaker 2: la seguridad, además de 15.000 socios con profunda experiencia en seguridad.
• 17:53
  Speaker 2: Eso es una fortaleza. Pero no te confíes. Ninguno de
• 17:56
  Speaker 2: esos ingenieros está dentro de tu tenant creando tus reglas
• 17:58
  Speaker 2: de acceso. Microsoft te da las herramientas, pero sigue siendo
• 18:02
  Speaker 2: tu trabajo asegurar identidades, definir el aislamiento de datos, aplicar
• 18:04
  Speaker 2: cifrado y configurar las políticas. Si tu alcance es descuidado,
• 18:08
  Speaker 2: tú seguirás siendo responsable de la brea. La verdadera solución
• 18:10
  Speaker 2: es la gobernanza del ciclo. Piénsalo como la receta que
• 18:12
  Speaker 2: la misma Microsoft recomienda. Probar, aprobar, lanzar, auditar, iterar. Con
• 18:19
  Speaker 2: puntos de control en cada ciclo detectas las desviaciones antes
• 18:22
  Speaker 2: de que sea noticia. Los equipos que lanzan algo y
• 18:24
  Speaker 2: se olvidan siempre terminan en desastre. Los modelos evolucionan, las
• 18:27
  Speaker 2: instrucciones cambian y los resultados se desvían. La gobernanza no
• 18:30
  Speaker 2: es pura burocracia. Es como evitas que un bot interno
• 18:32
  Speaker 2: invente políticas en Teams mientras todos duermen. Algunos administradores se
• 18:36
  Speaker 2: quejan de que ser responsable significa ser lento. Es una
• 18:39
  Speaker 2: perspectiva equivocada. Ser responsable no mata la velocidad, evita que
• 18:42
  Speaker 2: la velocidad te mate a ti. Una buena gobernanza significa
• 18:45
  Speaker 2: que puedes sobrevivir a auditorías y seguir avanzando. Si la
• 18:47
  Speaker 2: ignoras te estás lanzando de vacío. La velocidad sin controles
• 18:50
  Speaker 2: solo te trae un tipo de récord. El tiempo más
• 18:52
  Speaker 2: corto hasta un análisis de falla. Piensa en conducir por
• 18:54
  Speaker 2: curvas cerradas de montaña. No maldices las barandillas, las agradeces
• 18:57
  Speaker 2: cuando la carretera cae 60 metros. La guía responsable es
• 19:00
  Speaker 2: la misma. Alcances, políticas, filtros y registros no frenan tu velocidad,
• 19:03
  Speaker 2: evitan que salgas en las noticias. En resumen, Microsoft te
• 19:06
  Speaker 2: ha dado una herramienta muy potente. Seguridad de contenido, evaluación,
• 19:11
  Speaker 2: marcos de trabajo y SDKs. Pero sigue siendo tu labor
• 19:15
  Speaker 2: configurar accesos y conectar todo a tu ciclo de producción.
• 19:19
  Speaker 2: Hazlo y tendrás una guía que sobrevive al cumplimiento en
• 19:21
  Speaker 2: lugar de colapsar por él. Ignóralo y no solo arriesgas
• 19:24
  Speaker 2: una caída del sistema, pones carreras en juego. La guía
• 19:27
  Speaker 2: responsable no es lenta, La idea responsable es sostenible. Y
• 19:30
  Speaker 2: la sostenibilidad es la prueba real. Porque lo que viene
• 19:33
  Speaker 2: no trata de funciones, sino de si tratas esto como
• 19:35
  Speaker 2: algo sencillo o como una infraestructura de gobernanza. Esa distinción
• 19:39
  Speaker 2: decide quién sobrevive, quién fracasa. Aquí está la conclusión. La
• 19:42
  Speaker 2: trampa no es Foundry o Copilot Studio, es pensar que
• 19:45
  Speaker 2: son fáciles de usar sin más. La regla es simple.
• 19:47
  Speaker 2: Gobernanza primero, experimentación después, producción al final. Las herramientas están ahí,
• 19:40
  Speaker 2: pero solo la gobernanza convierte prototipos en producción real. Así
• 19:43
  Speaker 2: que si quieres las soluciones directas que mantienen vivo tu entorno,
• 19:45
  Speaker 2: suscríbete al podcast y déjame una reseña. Me decoras diarias
• 19:47
  Speaker 2: a esto y tu apoyo es de gran ayuda. Las
• 19:48
  Speaker 2: herramientas cambiarán, las tácticas permanecen.