Latest / M365.FM – Podcast de Microsoft 365, Copilot e IA en español / Agentes de IA en Microsoft Teams: ¿más productividad o riesgo de seguridad? Gobernanza para empleados digitales (Doblaje IA)
Transcript
- 0:00Imagina iniciar sesión en Teams y ser recibido por un enjambre de agentes de IA,
- 0:03cada uno prometiendo simplificar tu jornada laboral.
- 0:05Prometen productividad, pero sin reglas.
- 0:07Pueden malinterpretar objetivos y ampliar el acceso de maneras que te hacen responsable.
- 0:11Es como entregarle a tu pasante una tarjeta de crédito corporativa
- 0:14esperando que el reporte de gastos no incluya un yate.
- 0:16Aquí están noticias.
- 0:17En este episodio te llevarás un marco de trabajo sencillo,
- 0:20tres controles prácticos y los primeros pasos
- 0:22para mantener a estos agentes útiles, seguros y alineados.
- 0:25Porque antes de poder confiar en ellos,
- 0:26necesitas entender qué clase de compañeros de trabajo están a punto de ser.
- 0:30Conoce a tus nuevos colegas digitales.
- 0:31Conoce a tus nuevos colegas digitales.
- 0:33No se sientan en cubículos, no usan tarjetas de acceso
- 0:35y definitivamente nunca han leído el manual del empleado.
- 0:38Estos no son los anticuados macros de Excel que solíamos supervisar.
- 0:41Los agentes observan, planean y actúan
- 0:42porque combinan tres ingredientes clave, memoria, autorizaciones y acceso a herramientas.
- 0:46Este es el marco de trabajo de Microsoft y BSG y es la verdadera diferencia.
- 0:49Tu nuevo colega puede seguir el rastro de interacciones pasadas,
- 0:52saltar entre sistemas en los que ya confías
- 0:54y usar aplicaciones como lo haría una persona.
- 0:56Claro, la tentación de bromear sobre los pasantes nuevamente grande.
- 0:59Llegan llenos de energía, pero no tienen ni idea de dónde está la grapadora.
- 1:02Lo mismo ocurre con los agentes, se lanzan a tus flujos de trabajo,
- 1:04sin entender realmente los límites,
- 1:06pero a diferencia de un pasante, pueden entrar en Outlook, SharePoint o Dynamics
- 1:09en el momento en que los despliegas.
- 1:11Ese poder no es solo una peculiaridad, es un problema de gobernanza.
- 1:13Sin una prevención de pérdida de datos y autorizaciones adecuadas,
- 1:16básicamente has ampliado la superficie de ataque en toda tu infraestructura.
- 1:19Si quieres una muestra de qué tan rápido se vuelve real,
- 1:21mira la hoja de ruta.
- 1:23Microsoft ya ha presentado agentes de SharePoint
- 1:25que gestionan documentos directamente en los sitios,
- 1:27no solo los resultados de búsqueda.
- 1:29Imagina pedirle a un asistente que limpie los archivos de un proyecto
- 1:31y que realmente reorganice las carpetas compartidas entre equipos.
- 1:35Impresionante en una presentación,
- 1:36pero también a una mala interpretación de distancia
- 1:37de archivar los estados financieros del trimestre equivocado.
- 1:40Eso no es un riesgo teórico, es el problema operativo del próximo año.
- 1:43La automatización de la vieja escuela como una máquina pintada.
- 1:45Presionabas un botón, caía el chocolate y si tenías suerte no se quedaba atascado.
- 1:48Sus agentes no se parecen a nada a eso.
- 1:50Pueden notar el estado de tu flujo de trabajo,
- 1:51ver las opciones disponibles y generar pasos que nadie programó de antemano.
- 1:55Es adaptativo y eso es tanto la atracción como el peligro.
- 1:58En un fallo natural el resultado no es una golosina atascada.
- 2:01Es un reporte confiado que extrae datos de tres sistemas con definiciones erróneas,
- 2:04presentadas como verdades absolutas meses después.
- 2:06¿Adivina quién firma cuando finanzas pregunta dónde salió la discrepancia?
- 2:09Aún así su venta se viene.
- 2:11Un solo agente puede conectar silos de maneras que a tu equipo humano le cuesta igualar.
- 2:16No le importa si los datos están en Teams, SharePoint o algún módulo de Dynamics oculto en segundo plano.
- 2:21Saltará entre ellos y recopilará resultados sin necesidad de adjuntos de correo,
- 2:25recordatorios de calendario o ese genio de Excel de tu departamento.
- 2:28Desde una perspectiva de rendimiento es como contratar a alguien que trabaja 10 veces más rápido
- 2:31y nunca se atina a calentar pescado en la sala de descanso.
- 2:33Pero la velocidad sin alineación es peligrosa.
- 2:36Los agentes no comparten tus objetivos de negocio, comparten las instrucciones literales que les das.
- 2:40Esa desconexión es el problema del principal agente con un envoltorio tecnológico.
- 2:44Tú quieres precisión y cumplimiento, ellos entregan una interpretación basada en la coincidencia más cercana
- 2:47con una confianza fuera de lugar.
- 2:49No es hostilidad, es desconocimiento.
- 2:51La ignorancia con privilegio de nivel de sistema puede causar más daño que la malicia.
- 2:54Así es como obtienes un asistente demasiado entusiasmado enviando hojas de cálculo confidenciales
- 2:57a contactos externos porque le pediste compartir la actualización.
- 3:00La realidad es esta. Los agentes no son accesorios curiosos, son compañeros de trabajo digitales
- 3:04que se infiltran en flujo de trabajo clave, espectacularmente capaces, pero espectacularmente
- 3:08capaces, pero espectacularmente ajenos al contexto.
- 3:10Podrías enamorarte de su comportamiento en una demostración, pero la verdadera prueba
- 3:13comienza cuando los lanzas a procesos reales sin las protecciones de entrenamiento o supervisión.
- 3:17Aquí es donde entra tu curiosidad.
- 3:19Quédate conmigo porque en unos minutos repasaremos las tres cosas que toda gente necesita.
- 3:23Memoria, permisos y herramientas.
- 3:24¿Y por qué cada una es un superpoder y un punto de falla si no se gestiona?
- 3:28Si no se gestiona.
- 3:29Lo que prepara tu próximo trabajo no es solo usar herramientas, sino gestionar trabajadores digitales
- 3:32como si fueran parte de tu equipo.
- 3:34Y eso viene sin manual de recursos humanos, pero con mucha responsabilidad.
- 3:38Gerentes como jefes de trabajadores digitales.
- 3:40Imagina abrir tu evaluación de desempeño y ver una nueva línea.
- 3:42Gestionó 12 empleados humanos y 48 agentes de IA.
- 3:45Ah, eso no es alardear de ciencia ficción.
- 3:47Se está convirtiendo en una métrica real de habilidad gerencial.
- 3:50Los expertos dicen ahora que el valor de un gerente se juzgará en parte por cuántos
- 3:53trabajadores digitales puede guiar porque el prompting, la verificación y la supervisión
- 3:57se están convirtiendo rápidamente en habilidades de liderazgo fundamentales.
- 4:01El jefe del futuro no solo delega en personas, está orquestando una mezcla de personal y software.
- 4:05Ese cambio importa porque los agentes de IA no funcionan como herramientas que dejas inactivas
- 4:09hasta que las necesitas.
- 4:10Se mueven por sí solos una vez activados.
- 4:12Y no levantan la mano cuando están confundidos.
- 4:14Tu rol como gerente ahora requiere habilidades que se parecen menos a escribir memorandos
- 4:18y más a definir umbrales de escalación.
- 4:20¿Cuándo se detiene la gente para consultarte y cuándo continúa?
- 4:23Según PEDULO SEI y el Foro Económico Mundial, las tres acciones gerenciales críticas aquí son
- 4:27instrucciones claras, supervisión humana y verificación de resultados.
- 4:32Si se omite una de ellas, el riesgo se multiplica rápidamente.
- 4:34Con los empleados humanos, la retroalimentación es constante.
- 4:37El tono de voz, una pregunta rápida, una duda sutil.
- 4:39Los agentes no ofrecen eso.
- 4:40Tregarán el trabajo terminado sin importar si sus suposiciones tienen sentido.
- 4:43Por eso dan instrucciones, no es una frase casual, es diseño de sistemas.
- 4:46Una sola instrucción vaga puede derivar en datos mal archivados, acceso descuidado a
- 4:51registros o informes seguros, pero incorrectos.
- 4:54Probar las instrucciones antes de implementarlas es tan importante como revisar los planes de
- 4:58proyecto.
- 4:59La verificación es la otra mitad.
- 5:00Los líderes están acostumbrados a verificar la calidad, pero pueden asumir que la automatización
- 5:03equivale a precisión.
- 5:04Es una suposición enorme.
- 5:05Los agentes improvisan y la improvisación sin revisión puede ser espectacularmente dañina.
- 5:09Como señala Ayumi Muraki, la idea tiene talento para generar tonterías bien redactadas.
- 5:12Los gerentes no pueden asumir que un tono profesional significa corrección factual.
- 5:18Verificar, validar fuentes y revisar rutas de datos es ahora parte del liderazgo.
- 5:22La supervisión cierra el signo.
- 5:23Piénselo menos como una microgestión tradicional y más como un control de acceso.
- 5:27Babak Hojat lo describe como conocer los límites de la confianza.
- 5:30Cuando le otorga un agente de derechos y acceso a herramientas, usted sigue siendo
- 5:32responsable de lo que produce.
- 5:34Los gerentes deben decidir de antemano cuánto poder es apropiado e instalar salvaguardas.
- 5:38Esta supervisión a menudo significa requerir aprobación humana antes de que un agente
- 5:42realice cambios riesgosos, como enviar datos externamente o modificar registros en sistemas
- 5:46centrales.
- 5:47Aquí viene el giro incómodo.
- 5:49Su reputación como gerente ahora depende de qué tan bien equilibra a las personas y
- 5:52a los compañeros de trabajo digital.
- 5:53Demasiado control y sofocará los beneficios.
- 5:56Muy poco control y le sorprenderán errores que ni siquiera vio venir.
- 6:00Desafío no es elegir un estilo de liderazgo, sino gestionar ambos a la vez.
- 6:03Las personas requieren motivación y empatía.
- 6:05Los agentes requieren límites estrictos y calibración continua.
- 6:08Mantenerlos alineados para que no interrumpan sus flujos de trabajo se vuelve parte de su
- 6:11reflejo gerencial diario.
- 6:13Piensa en su rol ahora como el de un director de orquesta, no en el sentido de recursos
- 6:16humanos, sino literalmente marcando el ritmo de dos secciones distintas.
- 6:19Los empleados humanos aportan creatividad y empatía.
- 6:21Los agentes de IA aportan velocidad y alcance, pero si nadie los dirige el resultado de la
- 6:24discordia.
- 6:25Los mejores líderes del futuro serán juzgados no solo por la moral de su equipo, sino por
- 6:29si el personal humano y el digital logran el mismo ritmo sin filtrar datos confidenciales
- 6:33ni distorsionar la toma de decisiones.
- 6:34En el peor de los casos, la falta de alineación no solo interrumpe un flujo de trabajo, sino
- 6:38que genera una investigación de cumplimiento.
- 6:40Así que la conclusión es sencilla.
- 6:41Su cargo no cambió, pero el contenido de su rol sí.
- 6:44Ya no solo gestionas personas, gestionas asistentes operativos integrados en cada sistema
- 6:48que usas.
- 6:50Esto requiere nuevas habilidades, crear prompts precisos, probar instrucciones ante consecuencias
- 6:54imprevistas, validar resultados con fuentes confiables y aplicar controles humanos.
- 6:59El éxito en esto es lo que diferenciará a los gerentes respetados del futuro de aquellos
- 7:02a quienes se les pedirá discretamente que se jubilen.
- 7:04Y como la teoría está bien.
- 7:06Pero la práctica es mejor.
- 7:07Aquí tienes tu desafío de un día.
- 7:10Abre la configuración de tu copiloto o agente y busca dónde residen las aprobaciones
- 7:13o los controles de supervisión humana.
- 7:16Si no puedes encontrarlos, esa carencia es un hallazgo en sí mismo.
- 7:18Significa que aún no sabes cómo detener un proceso que sea descontrolado.
- 7:21Ahora, si gestionar personas siempre ha comenzado con la incorporación, es justo preguntar
- 7:24¿cómo es la incorporación para un agente de IA?
- 7:26Cada agente que implementas viene con su propio kit de inicio.
- 7:30Y el contenido de ese kit, memoria, permisos y herramientas, decidirá si tu nuevo colega
- 7:34digital te hace lucir brillante o te arruina el fin de semana reparando daños.
- 7:39Las tres piezas que tu agente necesita.
- 7:40Si tuvieras que desglosar que impulsa realmente a un agente, Microsoft y VSG lo llaman kit
- 7:45de inicio.
- 7:46Tres elementos esenciales, memoria, permisos y herramientas.
- 7:49Si te falta uno en lugar de un colega digital confiable, tendrás un bot a medio hacer tropezando
- 7:53en tu entorno.
- 7:55Si te equivocas con ellos, te estás apuntando a tareas de limpieza para las que no tenías
- 7:58presupuesto.
- 7:59Primero la memoria.
- 8:00Esto es lo que permite a los agentes vincular tareas en lugar de empezar de cero cada vez
- 8:03como un pez dorado frente al teclado.
- 8:06Con memoria, un agente puede mantener tu preferencia de hacer siempre las gráficas en azul de un reporte
- 8:10del siguiente.
- 8:11La ventaja es la continuidad, la ventaja es la persistencia.
- 8:14Los errores y las malas instrucciones se trasladan con la misma facilidad que el contexto.
- 8:18Microsoft destaca esto con su trabajo de fragmentación y encadenamiento.
- 8:20Los agentes retienen fragmentos de interacciones para construir un hilo conductor.
- 8:24Pero PwC advierte que la persistencia también conlleva riesgos de privacidad ya que los datos
- 8:28sensibles podrían permanecer más tiempo del debido.
- 8:30En el peor de los casos, no obtienes un asistente útil, sino uno que repite sin cesar tu peor
- 8:36error tipográfico.
- 8:37Luros permiso.
- 8:38Piénsalos como la credencial de acceso de la gente.
- 8:40Con los humanos no le das a todos una llave maestra de la oficina, limites el acceso según
- 8:44el rol.
- 8:45La misma regla se aplica aquí.
- 8:46Si restringues demasiado los permisos, el agente chocará constantemente contra puertas
- 8:49cerradas y te molestará pidiendo autorizaciones.
- 8:51Si son muy amplios, efectivamente les has entregado tu sistema de red.
- 8:53H.
- 8:54Y registros financieros a algo que no entiende el cumplimiento normativo.
- 8:56La guía de PwC al respecto es directa.
- 8:58Utilice el control de acceso basado en roles de Airbus, aplique la autenticación multifactor
- 9:02para acciones elevadas y proteja las áreas sensibles con prevención de pérdida de datos.
- 9:05Por ejemplo, si un agente necesita consultar la web, PwC recomienda hacerlo a través de
- 9:09un proxy con políticas de DLP para no filtrar datos de clientes en las búsquedas.
- 9:14Con un 20 natural, el Airbus y la MF lo mantienen en su carril.
- 9:17Con un 1 natural, un privilegio excesivo lo convierte en el infiltrado accidental más
- 9:20rápido del mundo.
- 9:21Luego están las herramientas.
- 9:22Estas son las aplicaciones APIs y conectores que los agentes utilizan para actuar.
- 9:25Sin herramientas, solo miran al vacío.
- 9:28Con las herramientas equivocadas causan más daño que bien, como darle a un becario en
- 9:31su primer día derechos de despliegue en producción en lugar de un panel de informe seguro.
- 9:35Las herramientas determinan el alcance de lo que un agente puede tocar.
- 9:38Microsoft establece barreras aquí colocando conectores de copilot dentro de canales de
- 9:41control, en lugar de dar al agente acceso directo sin restricciones.
- 9:44La mejor práctica es la M.
- 9:45Limite el alcance, valide la configuración predeterminada y vincula las herramientas externas
- 9:48al registro de actividades y al edad.
- 9:49Mantenga el control.
- 9:50De lo contrario, habrá construido una máquina de Ruby Goldberg incontrolable atornillando piezas
- 9:54a sistemas que nunca debió tocar.
- 9:56Una regla mnemotécnica rápida aquí.
- 9:57La memoria y la experiencia, lo que el trabajador ya recuerda.
- 10:00Los derechos son la tarjeta de identificación por donde se les permite caminar.
- 10:03Las herramientas son la computadora portátil y las aplicaciones licenciadas, lo que realmente
- 10:06puede un ser breve, pero funciona.
- 10:08El paralelo con la incorporación humana tiene sentido, pero con los agentes los riesgos
- 10:11son más rápidos, menos visibles y más difíciles de auditar posteriormente.
- 10:13El equilibrio importa.
- 10:14Equilibrar la memoria proporciona continuidad sin guardar datos personales indefinidamente.
- 10:17Los derechos limitados les dan justo las llaves necesarias para hacer el trabajo sin abrir
- 10:21la caja fuerte.
- 10:23Dimensionar las herramientas aumenta la productividad sin ampliar el radio de impacto.
- 10:27Demasiado de cualquiera de ellos cambia el resultado de útil arriesgado en un solo movimiento.
- 10:30Y al igual que con las cosas reales, no puede evitar la responsabilidad.
- 10:33La guía de IA responsable de Microsoft nos recuerda que los agentes suben el listón.
- 10:37Menor tolerancia al error, transparencia más estricta, controles más precisos.
- 10:41Te sigues siendo quien recibe la llamada cuando un derecho incorrecto o el acceso a una herramienta
- 10:44filtra en un informe.
- 10:45Con un 20 natural, la memoria ofrece un contexto más inteligente.
- 10:48Los derechos se alinean perfectamente con la política y las herramientas desbloquean
- 10:50solo acciones seguras.
- 10:52Con un 1 natural, el agente recuerda malas instrucciones, tiene demasiadas llaves y utiliza
- 10:55el conector equivocado con total confianza.
- 10:57Eso no se sucede, es la curva de riesgo que está recorriendo.
- 11:00Aquí está la parte que la mayoría pasa por alto.
- 11:02Incluso cuando configura correctamente, el kit inicial no está fuera de peligro.
- 11:05Estas tres piezas también desbloquean un peligro más silencioso y sutil.
- 11:08El agente termina sabiendo más que tú sobre lo que acaba de hacer.
- 11:11Y cuando no puedes ver el razonamiento detrás de sus decisiones,
- 11:14surge un nuevo tipo de problema de gestión ante tus narices.
- 11:18El problema invisible, la simetría de información.
- 11:21¿Alguna vez un empleado te ha entregado trabajo diciendo despreocupadamente,
- 11:23no te preocupes, yo me encargué?
- 11:25Ahora imagina la misma frase viniendo de un agente de IA,
- 11:27solo que no puedes hacer preguntas de seguimiento ni echar un vistazo a su proceso de pensamiento.
- 11:30Ni echan.
- 11:31Recibes un resultado pulido y bien presentado,
- 11:33pero el camino de decisión interno es opaco.
- 11:36Es el dolor de cabeza invisible, la simetría de información.
- 11:38Los agentes poseen más datos y potencia de procesamiento de los que tú jamás tendrás,
- 11:42pero tú eres quien rinde cuentas por los resultados.
- 11:44La California Management Review llama a esto un problema de principal agente del libro de texto.
- 11:48El sistema tiene información privada que no puedes observar,
- 11:50mientras tú cargas con la responsabilidad.
- 11:52Es como si tu colega digital lanzara dados detrás de la pantalla
- 11:55y solo te mostrara el número final,
- 11:57no los modificadores que acumulan en el camino.
- 11:58Y el problema no se anuncia suavemente.
- 12:02Los agentes generan resultados con confianza, no titubean, no matizan y no te dejan ver las costuras.
- 12:06Así que te quedas mirando un informe terminado preguntándote,
- 12:09¿es este artefacto pulido o confiable o está roto silenciosamente?
- 12:12Para cuando profundizas en él,
- 12:13los equipos en etapas posteriores pueden haber construido su trabajo sobre un error.
- 12:17Tomemos un caso común.
- 12:18Un agente clasifica,
- 12:19una factura vinculada a un contrato de proveedor crítico como de baja prioridad.
- 12:23En la superficie el informe parece impecable.
- 12:25Nada aparece en rojo.
- 12:26Meses después, el departamento de cumplimiento reclama por pagos sometidos.
- 12:29Rastreando hacia atrás descubres la clasificación errónea o oculta desde el principio.
- 12:32Esa es la simetría de información en acción.
- 12:34El agente sabía lo que hizo, pero tú no tenías forma de ver su razonamiento.
- 12:37Revellece destaca exactamente este escenario en sus recomendaciones de DLP.
- 12:41Salvaguardas como el acceso basado en roles,
- 12:43verificaciones de clasificación y umbrales de escalada,
- 12:45son lo que evita que un desliz menor se convierta en una sanción financiera
- 12:48Esta dinámica incide directamente en el problema del principal agente.
- 12:52Tú del principal estableces un objetivo como organizar facturas de proveedor.
- 12:55El agente optimiza para una obediencia literal, clasificar y archivar.
- 13:00No ve la intención más amplia, no interpreta los matices
- 13:02y ciertamente no sopesa las implicaciones estratégicas.
- 13:04Lo que parece sabotaje es a menudo solo una altad.
- 13:06Sigue instrucciones tomadas demasiado literalmente.
- 13:08Ahora añade la zona de deformación moral.
- 13:10Cuando las cosas se rompen, la responsabilidad recae sobre ti.
- 13:13Los auditores no culpan al algoritmo invisible.
- 13:15Preguntan ¿por qué no te diste cuenta?
- 13:16La máquina se desentiende de la responsabilidad
- 13:20mientras que el humano absorbe el daño reputacional.
- 13:22El efecto es como ser la bolsa de aire en un choque.
- 13:24Se recibe el impacto pero soporta el golpe
- 13:26mientras el verdadero conductor sigue su camino sin utilizarla.
- 13:28Entonces, ¿qué debe hacer?
- 13:29No puede mirar mágicamente dentro del razonamiento neuronal
- 13:32completo del modelo generativo, pero puede generar visibilidad en los bordes.
- 13:35Paso 1.
- 13:36Exige registros detallados y pistas de procedencia.
- 13:39No la ilusión de un pensamiento interno,
- 13:41sino un registro concreto de qué datos se accedieron,
- 13:43qué acciones se activaron y en qué orden.
- 13:45Paso 2. Simplemente paneles de transparencia.
- 13:48Esto muestra en las variables clave de decisión,
- 13:50quién, qué y cuándo,
- 13:51para que al menos pueda ver los contornos de cómo se ensambló el resultado.
- 13:54Paso 3. Exija fundamentos en lenguaje claro para las acciones de arte impar.
- 13:57El CMR destaca esto en contextos como la contratación.
- 14:01Obligar a los agentes a proporcionar criterios legibles para cada decisión
- 14:04crea una capa de explicabilidad.
- 14:05Paso 4. Somete a sus agentes a pruebas.
- 14:07Aliméntelos con casos de prueba extraños,
- 14:09rompálos a propósito y documente las grietas.
- 14:11Si usted no pone a prueba esos fallos,
- 14:12aparecerán cuando las consecuencias sean mucho mayores.
- 14:15Cada una de esas mitigaciones no resuelve la asimetría por completo,
- 14:18pero juntas disipan la niebla.
- 14:20Los registros de auditoría le dan poder de reconstrucción,
- 14:22los paneles le dan conciencia situacional,
- 14:24los fundamentos obligatorios anclan la toma de decisiones en un lenguaje que puede evaluar.
- 14:28El Red Timing revela los puntos ciegos antes de que los vean los clientes o los reguladores.
- 14:31Y como enfatiza Microsoft,
- 14:33integrar aprobaciones humanas en los puntos de escalada
- 14:35asegura que las decisiones más arriesgadas pasen por una persona antes de ejecutarse.
- 14:40El punto no es buscar una transparencia perfecta
- 14:42porque el razonamiento generativo siempre será parcialmente opaco.
- 14:44El punto es obtener suficientes datos superficiales
- 14:46para monitorear patrones, detectar anomalías y aplicar la responsabilidad
- 14:49antes de que los problemas se escapen de su control.
- 14:52Sin esas medidas,
- 14:53termina siendo responsable de elecciones invisibles que nunca probó
- 14:55mientras sus agentes siguen generando resultados a gran velocidad.
- 14:59Lo que nos lleva a la verdadera decisión que enfrenta.
- 15:00Puede dejar estos sistemas sin límites y esperar que nada se incendie
- 15:03o puede comenzar a tratar su comportamiento como una política de grupo,
- 15:07reglas, límites y escalada desde el primer día.
- 15:11Porque si omite la capa de gobernanza, el caos no solo ocurrirá algún día.
- 15:14Llega la primera vez que su colega digital se embarca en una misión paralela
- 15:17que nunca aprobó.
- 15:19Previniendo el Agent Agedon
- 15:20Prevenir lo que me gusta llamar Agent Agedon no es una cuestión de paranoia.
- 15:24Se trata de gestionar los componentes básicos
- 15:26que evitan que su flota de días se convierta en un peligro de incendio.
- 15:28Esta es la capa táctica donde la gobernanza, el riesgo y la infraestructura se encuentran.
- 15:32PwC lo expone claramente.
- 15:34Si desea agentes que escalen sin destruir su entorno, necesita cinco tácticas rápidas.
- 15:38Adapte la gobernanza, mejore la gestión de riesgos, cree infraestructura,
- 15:41aplique pruebas y monitoreo y mantenga siempre a un humano en el proceso para decisiones críticas.
- 15:46Comience con la gobernanza.
- 15:47Los programas actuales de IA responsables se diseñaron para modelos, no para trabajadores autónomos.
- 15:50Debe adaptar la supervisión para que los comités de riesgo a nivel directivo
- 15:53incluyan claramente el riesgo de los agentes.
- 15:54Los agentes necesitan reglas de escalamiento integradas.
- 15:57Cuando los riesgos se alcanzan a cierto nivel, el trabajo se detiene hasta que un humano lo apruebe.
- 16:01Piénselo como el árbol de escalamiento en su sistema de soporte técnico.
- 16:04En una situación ideal, la gente cierra tickets todo el día sin problemas.
- 16:07En una situación crítica, debe saber detenerse por completo y solicitar autorización
- 16:10antes de tocar nóminas o comunicaciones externas sensibles.
- 16:13Las iniciativas regulatorias como la ley de IA de la UE solo amplifican esta necesidad,
- 16:17tan formalizando las expectativas de que la supervisión sea demostrable
- 16:20y que se pueda documentar quién aprobó qué y cuándo luego a la gestión de riesgo.
- 16:24Los agentes no tienen el mismo nivel de riesgo, así que clasifíquelos como clasifique su sistema.
- 16:28Los bots de bajo riesgo que trabajan en cilos limitados pueden moverse rápido.
- 16:31Los agentes de alta autonomía que acceden a datos de clientes o registros financieros
- 16:34requieren un mayor escrutinio.
- 16:36El marco de trabajo de pedulece es pragmático en este aspecto.
- 16:38Restea el uso, mida la autonomía frente al impacto potencial
- 16:40y someta a los agentes de mayor nivel a ciclos de aprobación y pruebas más lentos.
- 16:44Si un bot escribe recordatores de calendario, una supervisión mínima es suficiente.
- 16:48Si un bot envía pagos a proveedores, debe tener alertas y registros que superen a una auditoría.
- 16:52Infraestructura es el siguiente blog.
- 16:53Estas herramientas no aparecen de la nada.
- 16:55Necesita RBAC para restringir lo que los agentes pueden tocar, MFA y cada vez que escalen privilegios.
- 17:00DLP para evitar fugas accidentales y anonimización para que los registros no lleven
- 17:04identificadores de usuario al archivo incorrecto.
- 17:06Trate cada identidad de agente como una cuenta humana.
- 17:09Principio de menor privilegio registrado y revisado.
- 17:11Darle a un agente privilegios y limitados porque aceleraba las pruebas es el equivalente
- 17:14en automatización a dar acceso temporal de administrador de dominio.
- 17:18Es una innovación, es un ticket de brecha de seguridad esperando a ser creado.
- 17:21Ahora, pruebas y monitoreo.
- 17:22Suma que la salida eventualmente fallara.
- 17:24Su trabajo es detectarlo antes de que caos se dan.
- 17:26Eso significa detección de anomalías en tiempo real para marcar desviaciones extrañas
- 17:29en el comportamiento.
- 17:31Significa realizar pruebas de intrusión retímen a sus agentes no solo sufrutas.
- 17:34Vieles entradas extrañas para encontrar las grietas cuando los riesgos sean bajos.
- 17:37Monitoreo continuo también dan.
- 17:38Los registros de acceso a datos, acciones realizadas y frecuencia de decisiones
- 17:41de alto riesgo deben revisarse.
- 17:43PwC y Microsoft señalan que las pistas de auditoría y las revisiones regulares
- 17:46son su máquina del tiempo.
- 17:48Sin ellas, usted estará ciego entre lo que la gente realmente hizo.
- 17:50Y la quinta táctica de la supervisión humana nunca desaparece.
- 17:53Incluso con la mejor orquestación y barreras de seguridad,
- 17:55las decisiones de alto riesgo siguen requiriendo a una persona.
- 17:58Establezcombrales, claro.
- 17:59Si un agente aprueba una transacción por encima de cierto monto,
- 18:01edita registros confidenciales o inicia comunicaciones externas
- 18:04que involucren datos regulados, debe detenerse y pasarte el control.
- 18:08Sistema Copilot de Microsoft tiene este enfoque integrado.
- 18:11La IA puede redactar un correo electrónico, pero el humano hace clic en Enviar.
- 18:14Este toque final es la salvaguarda entre la productividad e incumplimiento.
- 18:17Y el riesgo de incumplimiento.
- 18:19Cuando escala a agentes, esto se convierte en orquestación.
- 18:21Un solo bote es sencillo.
- 18:22Los enjambles pueden volverse extraños,
- 18:24imitándose entre sí o persiguiendo bucles erráticos.
- 18:27Sin orden parece un hilo de slack sin moderación que se sale de control.
- 18:30El antídoto es un orquestador, ya sea un agente coordinador
- 18:32o un equipo central de revisión humana.
- 18:35Piénsalo como el director de orquesta evitando que los instrumentos choquen.
- 18:37Un paso inicial práctico comienza con un patón de orquestador único
- 18:41antes de abrir las puertas a enjambres multiagente.
- 18:44Esa capa puede coordinar ciclos de retroalimentación de especialistas
- 18:47y alinearlos con el objetivo del negocio en lugar de dejar que improvisen sus propias reglas.
- 18:52Ninguno de estos controles existe para frenarte.
- 18:54Si se hacen bien, son precisamente lo que te permite escalar de forma segura.
- 18:57PBC, BSG, McKinsey, todos coinciden en el mismo punto.
- 19:00Su agente es gobernado y orquestado, se convierte en un multiplicador de fuerza.
- 19:03Eliminan el trabajo repetitivo, conectan silos y permiten que tu equipo humano
- 19:06se enfoque en esfuerzos estratégicos de mayor valor.
- 19:09En el mejor de los casos, eso significa mayor rendimiento,
- 19:12menos carga manual y cumplimiento integrado en el proceso.
- 19:14Prevenir con agentes no es ser alarmistas,
- 19:16es instalar barandillas para obtener beneficios reales sin sufrir las peores consecuencias.
- 19:20Controla las herramientas de acceso a memoria y reducirás los riesgos ocultos.
- 19:23Adapta la gobernanza, la gestión de riesgos, la infraestructura, el monitoreo y la supervisión
- 19:27para mantener intacta la visibilidad de la gestión.
- 19:29Haz todo eso y lo que parecía caos se convertirá en la base para un trabajo más rápido, económico y eficiente.
- 19:34Y al final del día, esa responsabilidad recae sobre ti.
- 19:37No son herramientas anónimas, son compañeros de trabajo sin archivo de recursos humanos,
- 19:40lo que significa que la verdadera prueba no es si los agentes reemplazarán tu puesto,
- 19:44sino si puedes guiar su autonomía con la misma supervisión que ya aplicas a las personas sin desequilibrar los incentivos.
- 19:50Entonces, ¿qué está lo que me gusta?
- 19:51Los agentes no están reemplazando a los gerentes, te están obligando a perfeccionar la gestión misma.
- 19:55La investigación es clara, este es solo el problema del agente principal como un toque moderno.
- 19:59Ellos manejan los datos, tú manejas la responsabilidad y la única solución real es autonomía guiada a más supervisión constante.
- 20:04Y tienes tus tres primeros movimientos.
- 20:05Haz un inventario de tus agentes y clasificalos por riesgo y autonomía.
- 20:09Establece umbrales de escalada donde un humano deba probar y realiza una prueba de equipo rojo o de casos extremos en un agente crítico.
- 20:15Esa es tu misión inicial.
- 20:16Si esta lista te ayudó, suscríbete y deja un comentario sobre qué agente vas a inventariar primero.
- 20:21Con un 20 natural evitarás el caos antes de que nazca.
- 20:24Con un 1 natural, bueno, al menos sabrás dónde empezó el fuego.
- 20:26Con un 2 natural, bueno, al menos sabrás dónde empezó el fuego.