Latest / M365.FM – Podcast de Microsoft 365, Copilot e IA en español / Cómo frenar las alucinaciones de la IA: RAG fundamentado con Azure AI Search (Doblaje IA)
Transcript
- 0:00Hiciste clic porque el podcast dijo que Azure AI Foundry es una trampa, ¿verdad?
- 0:04Estás en el lugar correcto.
- 0:05Aquí está la promesa desde el principio.
- 0:07Los copilots colapsan sin fundamentos, pero herramientas como la generación aumentada por recuperación
- 0:12o RAC con búsqueda híbrida y semántica de Azure AI, además de evaluadores de fundamentación, relevancia y coherencia,
- 0:18son las soluciones reales para evitar que entregues alucinaciones disfrazadas de respuestas.
- 0:22Dejaremos de lado las presentaciones de marketing y te mostraremos el manual de supervivencia con ejemplos reales del campo.
- 0:26Suscríbete al boletín de la M365 Show y sigue las transmisiones en vivo con los MVP.
- 0:32Ahí es donde residen las lecciones aprendidas y las soluciones.
- 0:35Y como las primeras grietas suelen aparecer en los multimodales, empecemos por ahí.
- 0:38Porque las aplicaciones multimodales fallan en el mundo real.
- 0:41Cuando ves una demostración multimodal en el escenario, parece impecable.
- 0:44El presentador ingresa un prompt de texto, una imagen clara, quizás incluso una entrada de voz rápida,
- 0:48y el modelo entrega un gráfico perfecto o un resumen de contrato preciso.
- 0:51Todo parece magia, pero en el momento en que intentas lo mismo dentro de una empresa real, el brillo desaparece rápidamente.
- 0:56Las demostraciones funcionan con entradas y en los lugares de trabajo funcionan bien.
- 0:59Esa es la vera división.
- 1:01En producción, nadie le da a tu modelo capturas de pantalla cuidadosamente preparadas
- 1:04o CSV formateados por un comité de estándares.
- 1:07Recursos humanos están enviando identificaciones bueno.
- 1:10Compras está arrastrando archivos PDF que están en su quinta generación de fax.
- 1:13Alguien en finanzas está tomando una foto de una factura con la cámara rota de un Android.
- 1:17Los modelos multimodales pueden manejar texto, imágenes, voz y video,
- 1:21pero necesitan datos bien indexados y recuperación para funcionar en condiciones desordenadas.
- 1:24De lo contrario, solo estás pidiendo al modelo que improvise sobre basura.
- 1:28Y ninguna cantidad de gasto GPU soluciona el principio de entre basura, sale basura.
- 1:31Aquí es donde la generación aumentada por recuperación, o RAG, se supone que te salvará.
- 1:35En palabras simples, el modelo no conoce tu negocio, así que lo conectas a una fuente de conocimiento.
- 1:39Recupera una porción de datos y moldea la respuesta en torno a ella.
- 1:42Cuando la coincidencia es precisa, obtienes respuestas útiles y fundamentales.
- 1:44Cuando es descuidada, el modelo improvisa y escupe tonterías con confianza.
- 1:47Y así es como terminas con un chatbot, jurando que tu empresa tiene una nueva política de descuentos para cutres que no existe.
- 1:54No se vuelve consciente, simplemente extrajo los datos incorrectos.
- 1:57Azure AI Studio y Azure AI Foundry se apoyan en este patrón y soportan todo tipo de modalidades, lenguaje, visión, voz e incluso recuperación de video, voz.
- 2:05Pero el truco es que el RAG es tan bueno como los datos que utiliza.
- 2:08Aquí está el detalle que la mayoría de los equipos pasa por ahí.
- 2:10No puedes simplemente conectar un método de recuperación y darlo por terminado.
- 2:12Si quieres que los resultados sean coherentes, necesitas una búsqueda híbrida de palabras clave y vectores, rematada con un reordenador semántico integrado en Azure AI Search.
- 2:19Esto permite al sistema equilibrar las coincidencias literales de palabras clave con el significado semántico y semántico de los resultados para que el contexto sea adecuado para exparica primer.
- 2:26Al integrar eso en tu configuración multimodal, el modelo puede manejar escaneos torcidos e imágenes borrosas en lugar de inventarse tu política de cumplimiento de la nada.
- 2:34Ahora, hablemos de por qué tantos lanzamientos fracasan.
- 2:37Las empresas esperan resultados pulidos desde el primer día, pero no destinan presupuesto a ciclos de evaluación.
- 2:42Sin controles de fundamentación, relevancia y coherencia en segundo plano, no notarás la desviación hasta que los usuarios ya se hayan visto afectados.
- 2:48Muchos despliegues iniciales fracasan rápidamente exactamente por esta razón.
- 2:51El resultado suena correcto, pero nadie lo verificó con una fuente de verdad.
- 2:54Piénsalo, nunca implementarías una base de datos nueva sin supervisión.
- 2:58Sin embargo, con la IA multimodal, los ejecutivos la danzan a producción como si fuera una caja magicalista para usar.
- 3:03No tiene por qué terminar fracaso.
- 3:04Carvana es una de las historias de clientes de Foundry que demuestra este punto.
- 3:08Hicieron que el IA Auto Servicio fuera realmente útil ajustando la recuperación, fundamentando adecuadamente a sus agentes e invirtiendo en observabilidad.
- 3:15Eso convirtió lo que pudo ser otro bot de juguete en algo en lo que los clientes pueden confiar.
- 3:20Ahora, compáralo con las empresas que añadieron un chatbot genérico a su página de soporte sin fundamentación ni evaluación ni evaluación.
- 3:25Y ha visto el resultado.
- 3:27Reclamos de garantía clasificados como prospectos de ventas, colas de soporte saturadas y credibilidad destruida.
- 3:31La misma infraestructura de ASU, resultados opuestos.
- 3:33Entonces aquí está la conclusión directa.
- 3:35La IA multimodal no colapsa porque no sea lo suficientemente inteligente.
- 3:38Colapsa porque los datos no están preparados, indexados o monitoreados.
- 3:42Introduce basura en el sistema de recuperación, salta las evaluaciones y mira cómo se pierde la confianza.
- 3:46Pero con búsqueda híbrida, reordenamiento semántico y evaluaciones constantes,
- 3:49puedes procesar facturas, contratos, imágenes e incluso notas de audio con respuestas que siguen basándose en la realidad y no en la fantasía.
- 3:56Y una vez que la fundamentación esté en orden, surge otro riesgo.
- 4:00Incluso si las tuberías de datos están limpias, el sistema que las impulsa puede descontrolarse.
- 4:04Es ahí donde cambia la pregunta.
- 4:06¿El agente que coordina todo esto ayuda realmente a tu negocio o está convirtiendo silenciosamente tu presupuesto de TI en combustible para una hoguera?
- 4:12¿Un agente útil o un costoso pisa papeles?
- 4:14¿Un agente coordina modelos, datos, activadores y acciones?
- 4:18Piénselo como un agente de tránsito para tu flujo de trabajo automatizado.
- 4:21A veces dirige todo sin problemas, a veces deja pasar tres camiones de volteo y un auto de payasos,
- 4:24y luego se va a almorzar.
- 4:26Esa brecha entre la definición clara y la realidad desordenada es donde la mayoría de los equipos pierdan el control.
- 4:31En teoría, un agente parece perfecto.
- 4:33Dale instrucciones, conéctalo a tus datos y aplicaciones, debería ejecutar procesos, obtener respuestas e incluso iniciar flujos de trabajo.
- 4:38Pero no es un compañero de trabajo perfecto.
- 4:41Es tan probable que solucione un problema recurrente a las dos.
- 4:43Como que en un de tu cola con 100 tickets fantasma por malinterpretar un registro de errores.
- 4:48Imagínalo de otro servicio.
- 4:49Con un alcance limitado, la IA genera tickets reales solo para problemas genuinos y ahorra horas de trabajo humano.
- 4:55Si se deja libre, puede enterrar al servicio de soporte técnico en un muro de alertas falsas sobre fallas críticas de impresoras que funcionan bien.
- 5:00Intenta explicarle ese aumento de productividad a tu CEO.
- 5:03Aquí está la distinción que muchos pasan por.
- 5:05Los copilotos y los agentes no son lo mismo.
- 5:07Un copiloto es básicamente un asistente para tu.
- 5:08Tu pregunta se responde y tú mantienes el control.
- 5:11Los agentes, por otro lado, toman decisiones sin esperar por ti.
- 5:14Siguen tus instrucciones vagas al pie de la letra, incluso cuando los resultados no tienen sentido.
- 5:19Ahí es cuando la automatización ahorra tiempo real o se convierte en un caos que tardarás el doble en limpiar.
- 5:24La verdad es que muchos equipos dan a su agente una descripción de puesto que parece una promesa de campaña.
- 5:28Optimizar procesos, proporcionar información, ayudar a la gente.
- 5:31Felicidades, básicamente le has dicho al bot que haga lo que quiera.
- 5:34Los agentes sin un alcance definido no se mantienen educadamente en su lugar.
- 5:37De control.
- 5:38Inventan problemas para solucionar.
- 5:39Duplican registros.
- 5:41Entran bucles infinitos.
- 5:42Y luego los líderes se preguntan por qué una demostración brillante se convirtió en un duro de cabeza en producto.
- 5:45Ahora, aclaremos las cosas.
- 5:47No es que la mayoría de las organizaciones fracasen en los primeros dos meses.
- 5:50Eso no está en la investigación.
- 5:51Lo que sí ocurre, y rápido, es que muchas organizaciones se topan con obstáculos pronto porque nunca limitaron bien sus agentes,
- 5:56nunca añadieron pasos de validación y nunca instrumentaron telemetría, nunca instrumentaron telemetría.
- 6:00Sin esas barreras de seguridad, tu flamante nueva herramienta es solo un becario imprudente con derechos de administrado.
- 6:05Y aquí es donde la plataforma de Microsoft realmente te da las piezas.
- 6:08Copilot Studio es el espacio de bajo código donde los creadores diseñan el comportamiento de la gente,
- 6:11piezas en flujos prompts y disparadores de eventos.
- 6:13Luego, Azure AI Foundry's Agent Service es la estructura empresarial que pone a sus agentes en producción con observabilidad.
- 6:20Agent Service es donde añades monitoreo, registros y métricas.
- 6:24Está delimitado deliberadamente para la automatización con supervisión humana incorporada
- 6:28porque Microsoft sabe qué pasa si confías en un agente no probado en el mundo real.
- 6:32Entonces, ¿cómo sabes si tu agente es realmente útil?
- 6:34Pásalo por una lista de verificación simple y directa.
- 6:361. Reduce las horas de trabajo humano o arrastra tu personal a tareas de depuración.
- 6:402. ¿Estás capturando métricas como fundamentación, fluidez y coherencia
- 6:44o solo estás mirando los bonitos paneles de marketing?
- 6:473. ¿Tienes telemetría para detectar desviaciones antes de que los usuarios empiecen a presentar quejas?
- 6:52Si respondiste mal a cualquiera de ellas, no tienes un agente inteligente.
- 6:55Tienes un protector de pantalla costoso.
- 6:57La solución es utilizar las funciones de observabilidad y los valores integrados de Azure AI Foundry.
- 7:02Estos no son extras opcionales.
- 7:04Son la forma documentada de medir la fundamentación, relevancia, coherencia y fidelidad a la fuente.
- 7:07Sin ellos, estarás adivinando si tu agente es inteligente o solo inventa cosas con un tono amable.
- 7:13Con ellos, puedes intervenir con confianza y ajustar cuando los resultados se desvíen.
- 7:17Sí, los agentes pueden cambiar las reglas del juego.
- 7:19Si se definen mal, se convierten en amplificadores de caos que consumen más tiempo del que ahorran.
- 7:23Si se definen, con límites claros, telemetría real y respuestas fundamentadas,
- 7:26pueden manejar tareas mientras los humanos se enfocan en trabajos de mayor valor.
- 7:30¿Y justo cuando crees que ha logrado ese equilibrio, la historia vuelve a cambiar?
- 7:32¿Microsoft ya está impulsando agentes autónomos, bots que no esperan a que tú actúes?
- 7:38Lo que lleva a los riesgos de ser útil o un pisapapeles a una categoría totalmente distinta,
- 7:42porque ahora hablamos de sistemas que operan incluso cuando nadie los vigila.
- 7:46La trampa del agente autónomo.
- 7:48Los agentes autónomos son donde la exageración se vuelve peligrosa.
- 7:51En teoría, son el sueño.
- 7:53Deja que la idea actúe por ti, automaquiza las tareas pesadas
- 7:55y deja de levantarte de la cama a las 2 A para atender culas de tickets.
- 7:59Suena genial la sala de juntas.
- 8:01La trampa es simple.
- 8:02No piden permiso.
- 8:03Los copaylos hacen una cosa.
- 8:04Los agentes autónomos no.
- 8:05Cuando toman una mala decisión, el daño ocurre al instante y se escala por todo tu tena.
- 8:09El concepto es bastante sencillo.
- 8:10Los copaylos son reactivos.
- 8:12Los agentes son proactivos.
- 8:13En lugar de permanecer en silencio hasta que alguien escribe un prompt,
- 8:15defines agentes para vigilar la salud del servicio,
- 8:17manejar señales de seguridad o ejecutar flujos de trabajo automáticamente.
- 8:20Microsoft lo presenta como eficiencia,
- 8:22menos desperdicio humano,
- 8:23detecciones más rápidas y operaciones más fluidas.
- 8:25La promesa es real, pero aquí está el contexto importante.
- 8:29Los agentes autónomos en Copilot Studio hoy en día siguen en versión preliminar.
- 8:32Prediminar no significa roto, pero sí significa no probado en el caótico mundo real.
- 8:36E incluso Microsoft dice que necesita salvaguardas de gobernanza de ciclo de vida
- 8:39y el sistema de consola de Copilot implementado antes de pensar en desplegarlos masivamente.
- 8:42Considera un realista.
- 8:44Digamos que creas un agente de soporte técnico autónomo
- 8:46y le das autoridad para responder a anomalías de inicio de sesión.
- 8:49En una negociación con 5 usuarios funciona de perfección.
- 8:51Alertas emitidas, cuenta gestionada.
- 8:53Luego las entradas ruidosas llegan a producción.
- 8:54En lugar de esperar, comienza a restablecer masivamente cientos de cuentas basándose en falsos positivos.
- 9:00El resultado no es una interrupción hipotética.
- 9:02Podría dejar fuera de servicio las operaciones de fin de mes de forma real.
- 9:05Es una esencia ficción.
- 9:06Es el modo de falla que aceptas si omites el alcance.
- 9:09La solución no es deshacer a tecnología.
- 9:11Es construir la red de seguridad primera.
- 9:13Busca la lista de verificación de su...
- 9:14Tres elementos esenciales preceden a cualquier automatización llamada.
- 9:17Uno, alcance de identidad y acceso.
- 9:20Dale a tu agente derechos mínimos, nada de errores de administrador general.
- 9:22Dos, registro y reversión.
- 9:24Cada acción debe dejar un rastro que puedas auditar.
- 9:26Y cada acción seria necesita una ruta de reversión cuando el agente falla.
- 9:30Tres filtros de contenido comprobado.
- 9:32Microsoft lo destaca con la seguridad de contenido y configuración de conocimiento de Azure AI.
- 9:36Los filtros que evitan que un bot entusiasta genere respuestas inapropias o se salga del guión.
- 9:41Haz esto primero o la astucia de tu agente enterrará tus procesos en lugar de ayudarlos.
- 9:45La capa ética hace que esto sea más crítico.
- 9:46Imagina a un agente de RH marcando automáticamente a empleados como riesgosos.
- 9:51O un agente financiero reteniendo pagos a proveedores por clasificarlos erróneamente como fraude.
- 9:55Estas no son peculiaridades inofensivas.
- 9:56Son fallas de impacto humano con repercusiones legales y de cumplimiento.
- 9:59El sesgo en los datos de entrenamiento o recuperación no desaparece solo porque ahora estás ejecutando una versión preliminar empresarial.
- 10:05Sin filtros, controles y alternativas humanas estás delegando decisiones que tus abogados definitivamente no quieren que tome un algoritmo sin supervisión.
- 10:11El propio mensaje de Microsoft en Ignite fue contundente al respecto.
- 10:13Las barandillas, la gestión del ciclo de vida, el monitoreo y el sistema de control de Copilot no son opcionales, son obligatorios.
- 10:19La vista previa hoy trata menos sobre demostraciones brillantes y más sobreprobadores, demostrando dónde aparecen las grietas.
- 10:24Si lanzas sin pruebas de tapa, flujos de aprobación y auditorías, no estás ejecutando un agente.
- 10:28Estás estresando tu entorno en producción, en producción.
- 10:31Es por eso que la observabilidad no es opcional.
- 10:33Necesitas paneles que muestren cada paso que da un agente y que verifiquen si su resultado fue fundamentado, relevante y coherente con tu política.
- 10:40Y necesitas opciones con supervisión humana.
- 10:42Microsoft no oculta esto.
- 10:44Señalan patrones donde el humano sigue siendo la garantía de seguridad.
- 10:47Es algo como el piloto automático en vuelo.
- 10:49Increíblemente útil, pero siempre diseñado con una anulación manual.
- 10:53Si el bot cree que el aterrizaje óptimo es en un lago, querrás tomar el control antes del impacto.
- 10:57La analogía correcta aquí es dejar que un adolescente aprenda a conducir.
- 11:00El potencial es real, la velocidad es impresionante, pero no le das las llaves, te vas de la entrada y esperas lo mejor.
- 11:05Te sientas en el asiento del pasajero, le das límites y le instalas frenos que tú mismo puedas pisar.
- 11:10Eso es la gobernanza del ciclo de vida en la práctica.
- 11:11Recuerdas de entrenamiento hasta que estés seguro de que el sistema no se saldrá del camino.
- 11:15Y esto nos lleva a la planta de fábrica más grande, donde los agentes, los copilots y cada flujo de trabajo que has probado se unen.
- 11:20Microsoft llama eso Azure AI Foundry, un espacio integral para crear IA con todas las herramientas.
- 11:24Si se convierte en una potencia de producción o en el lugar donde tu proyecto se autodestruye, depende totalmente de cómo lo trates.
- 11:32Azure AI Foundry, tu fábrica o tu campo de minas.
- 11:35Azure AI Foundry es la nueva propuesta insignia de Microsoft, una supuesta fábrica para todo lo relacionado con la IA.
- 11:42Demasiados equipos entran y lo tratan como si fuera Ikea.
- 11:44Deambulan deslumbrados por los catálogos, toman un par de modelos de lenguaje grandes y llamativos, añaden algunos conectores y luego ensamblan algo sin instrucciones.
- 11:52Lo que terminan obteniendo no es un sistema empresarial, es un juguete a nivel de demostración que se derrumba la primera vez que un usuario real sube un PDF desordenado.
- 11:59Esto es lo que Foundry ofrece realmente, directamente desde el manual oficial.
- 12:02Un catálogo de modelos que abarca Microsoft, OpenAI, Meta, Mistral, Dipsic y otros.
- 12:07Opciones de personalización como generación aumentada por recuperación, ajuste fino y destilación.
- 12:12Un servicio de agentes para orquestación.
- 12:14Herramientas como Promflow para evaluación y depuración.
- 12:17Funciones de seguridad básicas, controles de identidad y acceso, filtros de seguridad de contenido y paneles de observabilidad.
- 12:22En resumen, son todas las piezas que necesitas para construir copilotos, agentes y flujos autónomos manteniéndolos en cumplimiento.
- 12:27Ese es el inventario.
- 12:28El problema no es que la caja de herramientas esté vacía, sino que demasiados administradores actúan como si solo fuera activar un interruptor de GPT-4 Turbo y llamarlo listo para producción.
- 12:36La verdad es que Foundry es una planta de fábrica, no tu caja de juguetes de un hackatón.
- 12:39Eso significa establecer límites de identidad para que solo las personas adecuadas toquen los modelos correctos.
- 12:44Significa envolver cada canalización con seguridad de contenido.
- 12:47Significa usar la observabilidad para saber cuándo una respuesta está fundamentada y cuándo un modelo está inventando políticas de la empresa de la nada.
- 12:54Significa combinar el trabajo con el modelo correcto en lugar de simplemente elegir el más grande porque suena inteligente,
- 12:58porque suena inteligente.
- 12:59Si omites esos pasos, el caos entra por la puerta tercera.
- 13:02He visto un equipo conectar a un copiloto de Foundry y SharePoint que alegremente expuso datos restringidos de R20 pasantes.
- 13:08No fue ingenioso, fue un desastre de cumplimiento que se podría haber evitado con reglas de acceso integradas.
- 13:12Hablemos de modo de fallo real.
- 13:14Una organización ejecutó una vez que PT-4 Turbo para etiquetado fotos de producto.
- 13:17En el laboratorio arrasó con la demostración.
- 13:20Fotos de estudio limpias, etiquetas perfectas, todos aplaudieron.
- 13:22En producción, las entradas no eran archivos JPEG brillantes, eran fotos borrosas tomadas con teléfonos en él.
- 13:28De repente, la IETI que toma los cochecitos como sillas de oficina y convierte los códigos UPC en números de serie falsos.
- 13:33En números de serie falsos.
- 13:35Además del golpe de la confianza, los costos empezaron a subir.
- 13:37Y esto no es un cuento de más de un centavo por mensaje.
- 13:39El precio de Foundry se basa en el consumo y está vinculado a los servicios específicos que utiliza.
- 13:43Cada conector, cada llamada de recuperación y cada medidor de mensaje se factura a su inquilino.
- 13:47Cada pieza tiene su propio modelo de facturación.
- 13:49Esa flexibilidad está bien, pero si no estima con la calculadora de precios de Azure y supervisa el uso,
- 13:54su equipo financiero estará encantado con su factura sorpresa.
- 13:58Esa es la trampa de la factura.
- 13:59Los precios por consumo funcionan si planifica, supervisa y optimiza.
- 14:02Si no lo hace, se parece mucho usar un auto deportivo como una moto de reparto, caro, ruidoso e inútil.
- 14:07Todos hemos pasado por eso con herramientas como Power BI, Gan, demostración, factura descontrolada.
- 14:11No deje que Foundry lo lleve al mismo lugar.
- 14:13A los desarrolladores les encanta crear prototipos en Foundry porque el entorno de pruebas es A.
- 14:17Y en un entorno de pruebas lo es.
- 14:18Datos de demostración limpios sin errores, sorpresa instantánea.
- 14:21Lo ha quitado el problema.
- 14:22Los equipos lanzan ese prototipo a producción sin canalizaciones de evaluación.
- 14:25Si omite el uso de valores de fundamentos, fluidez, relevancia y coherencia, estará trabajando a ciegas.
- 14:30¿Y qué sucede?
- 14:31Los usuarios notan la desviación en los resultados.
- 14:33La confianza cae y los ejecutivos recortan foco.
- 14:35Esto no es un fallo de Foundry.
- 14:36Es un fallo de los equipos en la dornada.
- 14:38Muchos prototipos de Foundry se estancan antes de llegar a producción por esta misma razón.
- 14:41Sin observabilidad, sin controles de calidad, sin telemetría.
- 14:44La respuesta está ahí misma en la plataforma.
- 14:46Utilice la observabilidad de Azure iFoundry desde el primer día.
- 14:49Conecte los flujos de PROM.
- 14:50Ejecute evaluadores integrados en cada PROM.
- 14:52Fundamente su sistema con Azure AI Search usando búsqueda híbrida y reglación semántica antes si quiere pensar en salir al aire.
- 14:57Microsoft no escondió estas herramientas y están documentadas para la seguridad de producción.
- 15:01Pero a menudo los desarrolladores las pasan por alto como si fueran atasal.
- 15:04Esa mentalidad, puntos de control, es la forma de mantenerse fuera del campo de mí.
- 15:08Trate a Foundry como una fábrica, la gobernanza es el primer paso, las políticas de cumplimiento integradas como acceso condicional y las canalizaciones de observabilidad funcionando desde el inicio.
- 15:16Y si el alcance de entidad y la seguridad de contenido no deben añadirse después, son parte de la lista de materiales, son parte real.
- 15:21Si omite la gobernanza, arriesga mucho más que malas respuestas.
- 15:23Sin ella, su bot multimodal podría exponer alegremente salarios de error, a usuarios externos o etiquetar facturas con números de polices ficticios.
- 15:30¿Son o solo una llarrota de escáner de titulares que su departamento de cumplimiento no querrá explicar?
- 15:34Y es ahí donde el foco cambia, porque el siguiente obstáculo no es técnico en absoluto.
- 15:39Es si su IA es responsable.
- 15:41A todos les encanta incluir esas palabras en una diapositiva de presentación, pero en la práctica se trata de auditorías, filtros, cumplimiento y la montaña de decisiones que tomas antes del lanzamiento.
- 15:48Y ahí es donde realmente comienzan los esfuerzos.
- 15:50Suscríbete y síguenos en el boletín M365.show para obtener soluciones directas y síguenos en M365.
- 15:55Visita nuestra página de LinkedIn para ver transmisiones en vivo con MVP que han probado Foundry en producción y han visto lo que sale mal.
- 16:01IA responsable o dolores de cabeza responsable.
- 16:04A todas les encanta incluir la IA responsable en una presentación.
- 16:07Se ve bien junto a palabras de moda como equidad y transparencia.
- 16:10Pero en el trabajo diario no es una filosofía inspiradora.
- 16:11Se trata de configuración, auditorías, filtros y pasos de gobernanza que se sienten más como mantenimiento de servidores que como innovación.
- 16:17IA responsable es el cinturón de seguridad, no el autodeportivo.
- 16:20Si lo metes una vez, el choque llega rápido.
- 16:22Microsoft habla de ética y seguridad desde el principio, pero para los administradores que implementan esto se traduce en barreras de protección prácticas.
- 16:28CETE.
- 16:28Necesitas políticas de acceso que no se dan bajo presión, filtros que realmente bloqueen instrucciones dañinas y registros lo suficientemente detallados como para satisfacer a un regulador con cafeína de citación.
- 16:37Es un trabajo glamoroso.
- 16:39Es aislar los copilotos de R.
- 16:40De los datos financieros establecer reglas de alcance para que los bots de equipo no se filtren en secretos de SharePoint y etiquetar registros para probar exactamente cómo se formó una respuesta.
- 16:48Hazlo bien y responsable, no será un eslogan corporativo, será supervivencia.
- 16:52La versión fea de ignorar esto es conectar un bot directamente a tu repositorio de RR, H, sin delimitar el inquilino, TEN.
- 16:59Un usuario pregunta sobre beneficio de seguro.
- 17:01El bot, muy servicial, publica las bandas salariales de los empleados en el chat.
- 17:05Ahora tienes una violación de privacidad, una pesadilla de moral y posiblemente los reguladores pisándote los talones.
- 17:10La forma más rápida de matar la adopción no es una mala experiencia de usuario, es una filtrados confidenciales.
- 17:14No es que mantienes el desastre de RR.
- 17:15Empieza con la seguridad de contenida de SharePoint.
- 17:17Está diseñada para filtrar instrucciones y respuestas violentas, obscenas y ofensivas antes de que lleguen a los usuarios.
- 17:23Pero eso es solo higiene básica.
- 17:24Foundry y Copilot Studios se apoyan en procesos de evaluación que manejan el siguiente nivel.
- 17:29Verificaciones de fundamentos, puntuación de relevancia, paneles de transparencia y explicabilidad.
- 17:34En pocas palabras, puedes ajustar umbrales, filtrar entradas y salidas y hacer que los bots muestren su trabajo.
- 17:40Sin eso, solo estás lanzando dados con lo que la IA arroja.
- 17:43Aquí está la realidad de los recursos.
- 17:45Microsoft respalda esto con fuerza.
- 17:4734.000 ingenieros equivalentes a tiempo completo dedicados a la seguridad.
- 17:50Más 15.000 socios con profunda experiencia en seguridad.
- 17:53Eso es una fortaleza.
- 17:54Pero no te confías.
- 17:56Ninguno de esos ingenieros está dentro de tu inquilino estableciendo tus reglas de acceso.
- 17:59Microsoft te entrega las barreras de protección, pero sigue siendo tu trabajo asegurar identidades, configurar el aislamiento de datos, aplicar cifrado y configurar políticas.
- 18:06Si tu alcance es descuidado, tú seguirás siendo responsable de la brega.
- 18:09La verdad, la solución es la gobernanza del ciclo de bien.
- 18:11Piénsalo como la receta que la misma Microsoft recomienda.
- 18:14Probar, aprobar, lanzar, auditar.
- 18:17Iterar.
- 18:18Con puntos de control en cada ciclo, detectas las desviaciones antes de que sea noticia.
- 18:23Los equipos que lanzan algo y se olvidan siempre terminan en un desastre.
- 18:26Los modelos evolucionan, las instrucciones cambian y los resultados se desvían.
- 18:29La gobernanza no es pura burocracia.
- 18:31Es como evitas que un bot interno invente políticas en Teams mientras todos duermen.
- 18:35Algunos administradores se quejan de que ser responsable significa ser lento.
- 18:38Es una perspectiva equivocada.
- 18:40Ser responsable no mata la velocidad y evita que la velocidad te mate a ti.
- 18:43No buena gobernanza significa que puedes sobrevivir a auditorías y seguir avanzando.
- 18:47Si la ignoras, te estás lanzando de base.
- 18:49La velocidad sin controles solo te trae un tipo de récord.
- 18:51Un tiempo más corto hasta un análisis de fallo.
- 18:54Piensa en conducir por curvas cerradas de montaña.
- 18:55No maldice las barandillas.
- 18:57Las agradece cuando la carretera cae 60 metros.
- 18:59La irresponsabilidad es el mismo.
- 19:00Alcances, políticas, filtros y registros no frenan tu velocidad.
- 19:03Evitan que salgas en las noticias.
- 19:05Resumen.
- 19:06Microsoft te ha dado una herramienta muy potente.
- 19:09Seguridad de contenido, evaluación, marcos de trabajo y SDKs.
- 19:13Pero sigue siendo tu labor configurar accesos y conectar todo a tu ciclo de producción.
- 19:19Hazlo y tendrás una IA que sobrevive al cumplimiento en lugar de colapsar por él.
- 19:22Ignóralo y no solo arriesgas una caída del sistema.
- 19:25Pones carreras en juego.
- 19:27La IA responsable no es de...
- 19:28La IA responsable es sostenible.
- 19:30Y la sostenibilidad es la prueba real.
- 19:32Porque lo que viene no trata de funciones, sino de si tratas esto como algo sencillo
- 19:35o como una infraestructura de gobernanza.
- 19:38Esa distinción decide quién sobrevive, quién fracasa.
- 19:41Aquí está la conclusión.
- 19:42La trampa no es Foundry.
- 19:43O Copilot Studio es pensar que son fáciles de usar sin más.
- 19:46La regla es simple.
- 19:47Gobernanza primero, experimentación después, producción al final.
- 19:50Ignorar la identidad y la observabilidad bajo tu propio riesgo.
- 19:53Las herramientas están ahí, pero solo la gobernanza convierte prototipos en producción real.
- 19:57Así que si quieres las soluciones directas que mantienen vivo tu entorno,
- 20:00suscríbete al podcast y déjame una reseña.
- 20:03Adícoras diarias a esto y tu apoyo es de gran ayuda.
- 20:06Las herramientas cambiarán las tácticas de permanencia.