Latest / Entre Chaves / Você está pagando para sua IA ler código irrelevante

Transcript

Você está pagando para sua IA ler código irrelevante · Entre Chaves

• 0:00
  E na sua operação, onde o contexto da sua empresa talvez
• 0:03
  seja muito relevante, é o seu código, arquitetura, padrões de
• 0:07
  projeto e mais. Em outras coisas que eu vou
• 0:09
  adicionando eu tenho que adicionar além da minha
• 0:12
  conversa. Então como é que eu pego esse
• 0:14
  projeto inteiro e peço Pra Ele alterar um botão, mas sem ter
• 0:17
  que carregar o projeto inteiro? Mas ao mesmo tempo eu quero que
• 0:20
  ele use os padrões de cores da minha marca.
• 0:22
  Eu quero que ele use os padrões de projeto da minha cor.
• 0:25
  Se eu utilizar uma biblioteca interna da minha empresa, da
• 0:27
  npm, ele tem que usar algo que tá lá dentro, senão eu tenho que
• 0:30
  subir algo novo pra isso. A gente vai querer e vai buscar
• 0:33
  é formas de otimizar esse acesso.
• 0:36
  Então não quer dizer que ele não sabe que isso existe, mas eu não
• 0:39
  quero ter que carregar tudo na memória.
• 0:41
  Eu quero que eu consiga disponibilizar Pra Ele meios de
• 0:44
  encontrar isso dentro do copay, no que a gente tem structions
• 0:47
  dentro do curso, a gente tem cooles.
• 0:50
  Além disso, a gente vai ter outras formas também de fazer,
• 0:53
  como skills. Todos os meus mcps.
• 0:56
  Só que, ainda assim, quanto mais coisas eu adiciono, mais
• 0:59
  contexto o meu agente vai ter e o meu objetivo, que era reduzir
• 1:03
  ele aumentou. Então não adianta nada.
• 1:05
  Eu economizei muito espaço de código e enche toda esse espaço
• 1:09
  com instruções. O que eu vou fazer agora, então,
• 1:12
  é procurar formas melhores de representação e formas de
• 1:15
  economizar algum. A gente tem feito vários
• 1:18
  experimentos com ferramentas e repositórios diferentes.
• 1:21
  Tem ORTK, que é um repositório que ele vai utilizar, que ele é
• 1:24
  simples, você tem comandos, comandos, tem muitos caracteres
• 1:28
  que são utilizados para entendimento do usuário, o
• 1:31
  usuário vai utilizar para uma melhor usabilidade de
• 1:33
  visualização e afins no próprio CLI.
• 1:36
  No caso da CLLM, ela não precisa disso, então posso arrancar tudo
• 1:39
  isso fora. Um outro exemplo disso é o
• 1:41
  graphify, eu tenho infinitos arquivos lá dentro do meu
• 1:44
  repositório, cada arquivo representa alguma coisa ou, mas
• 1:47
  espera, já existe uma estrutura por trás disso.
• 1:50
  Eu sei que você usa MVC, que eu tenho passees de serviço, que eu
• 1:53
  tenho passe de controle, que eu tenho paste de repositório,
• 1:55
  então pra que que eu vou fazer a minha carregar tudo isso se eu
• 1:58
  posso simplesmente carregar Pra Ela que olha dentro desse
• 2:02
  conjunto aqui? Se você quiser mexer no serviço
• 2:04
  tal, se você quiser mexer em tal, e por aí vai.
• 2:06
  E aí quando ela buscar, em vez de ela buscar todos os meus
• 2:09
  arquivos, entender, ela vai usar esse gráfico pra falar, eu quero
• 2:12
  mover serviço repositório e alterar a tela, então vou buscar
• 2:16
  só esses arquivos relevantes. Em vez de buscar tudo que existe
• 2:19
  no meu repositório, Ah, eu não quero ter tudo isso, eu não
• 2:22
  quero que ela faça essa busca. Tudo bem, existe é repo mix ou
• 2:25
  qualquer outra ferramenta que queira utilizar, que ele vai.
• 2:28
  Olha, em vez você fazer a su e a lê tudo, eu vou criar aqui um
• 2:33
  arquivo. Ele é muito grande, mas ao mesmo
• 2:35
  tempo ele é um direcionador da su e a você vai carregar só ele,
• 2:38
  e com ele ela vai ter a maioria do contexto útil que você vai
• 2:41
  ter aí no seu produto. Então você não precisa mais
• 2:43
  carregar tudo e no final das contas, o que a gente vai fazer
• 2:45
  é acabar. Juntando tudo isso de uma
• 2:47
  maneira eficiente. E a resposta faz parte da janela
• 2:50
  de contexto, certo? Porque muitas vezes as pessoas
• 2:52
  esquecem. Eu vou supor, eu levo um comando
• 2:54
  simples. Abriu o ChatGPT aqui e falou
• 2:56
  assim, crie um plano de treinamento no estagiário em
• 3:00
  desenvolvimento do latinete. Mandou lá 200 linhas de
• 3:03
  treinamento. Agora altere esse plano pra
• 3:06
  isso. Isso desenvolver meu meus
• 3:08
  comandos foi tipo meia dúzia de palavra em cada comando.
• 3:12
  Ah, meu contexto está minúsculo? Não, porque o contexto, as 200
• 3:15
  linhas que ele gerou de treinamento, de de do plano de
• 3:18
  treinamentos, fazem parte da janela de contexto.
• 3:20
  Então, muitas vezes o pessoal não para pra pensar.
• 3:22
  Pessoal focado muito no prompt e esquece que se eu der um pront
• 3:26
  de medo de palavras, ele me retornou 2000 linhas.
• 3:30
  As 2000 linhas fazem parte da minha janela de contexto.
• 3:32
  Eu iria até além. Não só as 2000 linhas, porque as
• 3:36
  pessoas esquecem e as foram treinadas.
• 3:38
  Já tem um tempo, demora um tempo para você treinar, então como é
• 3:40
  que você pediu para ele fazer um plano de treinamento de uma
• 3:42
  tecnologia desse ano, por exemplo, e ele montou essas 2000
• 3:46
  linhas de resposta novamente? Vou usar o pilot de exemplo,
• 3:49
  porque eu acho que é o que a gente tem mais de uso, é o
• 3:52
  pilot, o code, mas vamos vamos fazer de maneiras bem
• 3:54
  semelhantes é que você consegue ver, por exemplo, pilot, CLI,
• 3:59
  abrir ele, você vai ver que ele tem um MCP interno.
• 4:01
  Que ele utiliza do do Git up, e aí quando você pede para ele
• 4:04
  fazer essa informação, ele vai fazer, por exemplo, o webserch
• 4:08
  para procurar a versão mais recente.
• 4:09
  Cara, não é só o prompt que você fez, ele vai pegar isso vai
• 4:13
  transformar em algo para enviar no webserch, vai conectar com
• 4:16
  OMCPOMCP, responde para ele em texto que vai ser um pronto de
• 4:20
  entrada, que é o rádio, exatamente.
• 4:21
  Ele vai precisar interpretar tudo isso para depois montar
• 4:24
  aquele texto, tipo assim, ele não tem esse embutido.
• 4:26
  Você não fez uma pequena pergunta, ele tinha toda essa
• 4:28
  informação embutida e colocou daquela maneira para você?
• 4:31
  Ele faz n operações no meio do caminho que é.
• 4:34
  Você pode inclusive optar por vir ou não, dependendo do que
• 4:38
  que você usa deflag ou ou comandos que você pode usar ali
• 4:41
  no meio. Mas se você pegar e der um
• 4:43
  control, o por exemplo, No No seu compadre ser lá e você vai
• 4:46
  ver que ele vai expandir absurdamente com várias
• 4:49
  informações que ele está puxando do website, de repositórios que
• 4:52
  ele conhece, de referências que ele tem de outros MCP alguns
• 4:56
  MCPS que estão diretamente em documentação.
• 4:58
  Se você tem, por exemplo, utiliza angulas no seu projeto?
• 5:01
  Você pode conectar no ângulo, você pode conectar no signo e
• 5:04
  tudo isso ele está puxando informação, trazendo para
• 5:06
  dentro, processando a gente, dando a resposta final.
• 5:09
  Almoço OMCP do do contest seven, né?
• 5:11
  Que todo mundo adiciona lá, fala não, eu quero a documentação
• 5:14
  mais recente de toda a. Tecnologia mesmo.
• 5:17
  Tem esse custo? Estou sem custo?
• 5:18
  Às vezes sim, às vezes não.