Latest / Entre Chaves / Multiagentes no n8n ficam lentos por isso

Transcript

Multiagentes no n8n ficam lentos por isso · Entre Chaves

• 0:00
  A gente aqui tem alguns agentes de IA, né?
• 0:04
  Que foram criados hoje no N8 n é parte dos fluxos deles é passam
• 0:13
  pelo no 8 NE parte dos fluxos a gente teve que levar pra código
• 0:20
  mesmo. Eu vou explicar ON 8 n, né?
• 0:23
  Apesar de ser uma ferramenta que a gente consegue.
• 0:26
  É dar bastante autonomia pro time desenvolver bastante coisa.
• 0:29
  Hoje ela tem diversos tipos de conector pra tudo quanto é tipo
• 0:33
  de ferramenta, né? Se a gente quer conectar em um
• 0:38
  repositório, geet, a gente consegue.
• 0:40
  Se a gente quer consumir um CRM, a gente consegue, enfim.
• 0:43
  Então ele tem diversos tipos diferentes de integração.
• 0:47
  Só que por ser uma ferramenta de low code, ela vai ter algumas
• 0:52
  limitações, seja em performance. É, a gente acaba ganhando muita
• 0:57
  é abstração ali para desenvolvimento.
• 1:00
  Só que também a gente pede um pouco de customização.
• 1:04
  Então acaba que em alguns cenários específicos a gente tem
• 1:07
  que adaptar ou talvez recortar essa parte ali e levar para uma
• 1:13
  solução que a gente consegue customizar da forma que queira.
• 1:16
  Que havia código, né? Um ponto assim, né, que a gente
• 1:19
  viu virada, que realmente precisaria ir para o código.
• 1:22
  Foi quando a gente começou a ter multi agens dentro do MWM, né?
• 1:28
  Hoje a gente tem 11 agente central, que ele funciona como
• 1:33
  se fosse um grupo, um time, né, de agentes, onde temos o
• 1:38
  orquestrador e ele delega ali as funções para os sub agentes.
• 1:42
  E essa parte de delegar as funções e obter as respostas, o
• 1:48
  enlwiton, né? A gente consegue puxar lá os
• 1:51
  fluxos, né, os bloquinhos, e colocar eles de forma paralela.
• 1:55
  Mas não necessariamente eles vão executar de forma paralela a
• 1:59
  limitação da ferramenta até a versão que a gente tem no
• 2:02
  momento. AAEA resposta de uma lnm, ela
• 2:05
  costuma demorar alguns segundos. Só que quando a gente coloca
• 2:08
  múltiplos agentes para responder, né, a gente acaba.
• 2:12
  É adicionando ali o tempo de resposta final.
• 2:16
  Então eu tenho que esperar a resposta de um terminar para
• 2:18
  acionar o próximo para acionar o próximo.
• 2:20
  Então acaba que aumenta muito a latência de todo o processo, né?
• 2:26
  Chegar a pergunta e devolver uma resposta aí nessa parte
• 2:30
  específica do fluxo, a gente fez um recorte disso e criou uma
• 2:34
  solução via código, que a gente consegue trabalhar com
• 2:37
  multitred. É trabalhar melhor a forma como
• 2:41
  esse orquestrador vai delegar as funções para os sub agentes,
• 2:46
  então nós conseguimos diminuir a latência desse fluxo, então hoje
• 2:50
  a gente consegue operar, né, num fluxo do NV como boot eaging, só
• 2:54
  que parte dele é cortado por uma função.
• 2:57
  Serve eles nossa, que faz toda essa orquestração.
• 3:01
  E paralelismo ali com os agentes pra obter uma resposta de forma
• 3:04
  mais. Rápida, bem legal.
• 3:06
  E essa essa esse case que você contou?
• 3:08
  Qual que foi o motivo inicial pelo qual vocês escolheram ON 8
• 3:12
  n pra resolver esse problema? Quando chegou essa primeira
• 3:17
  tarefa, né? De criação de agentes, nós já
• 3:20
  possuímos alguns fluxos que eram determinísticos, não precisavam
• 3:24
  de agentes, mas que eram atendidos pelo ON 8 n, por
• 3:28
  exemplo, com integração com o WhatsApp.
• 3:30
  Então, uma forma fácil da gente criar e disponibilizar um agente
• 3:34
  com toda essa estrutura de receber mensagens do WhatsApp,
• 3:38
  devolver a resposta era muito mais simples.
• 3:42
  A gente já acoplar isso a um pulso existente, né?
• 3:46
  Pegar o Record dele, de adicionar esta representação pra
• 3:50
  a gente, é pra atender conversas do WhatsApp e desenvolver isso
• 3:55
  do zero ali propold. Então, nesse momento que a gente
• 3:59
  foi criando esse design que sabia que a volumetria de
• 4:04
  acessos de mensagens seria possível, do eny twoine atender,
• 4:09
  né? A gente trabalha hoje no momento
• 4:11
  num cenário lá com múltiplas, é instâncias No No nosso AKS que
• 4:20
  fazem um esquema de fila interna lá do eny aitonf.
• 4:23
  Mas que elas conseguiam atender esses agentes, a volumetria
• 4:26
  deles. E a gente já tinha um fluxo de
• 4:30
  integração com o WhatsApp feito na ferramenta, então era muito
• 4:34
  mais simples. Aí simplesmente plugar esse
• 4:37
  fluxo com a parte de agente e na medida que isso foi crescendo.
• 4:42
  E foram aparecendo cenários que a ferramenta limitava.
• 4:46
  Nós começamos a fazer pequenos recortes nesses fluxos e trazer
• 4:50
  isso. O que a gente faria numa solução
• 4:52
  pra mim? De de é fólio, né?
• 4:55
  Que a gente costuma criar uma solução, começar a quebrar ela
• 4:59
  EE criando novas soluções ali que é complementam tudo a
• 5:04
  arquitetura.