Latest / Entre Chaves / O critério para escolher o melhor modelo de IA

Transcript

O critério para escolher o melhor modelo de IA · Entre Chaves

• 0:02
  Quanto mais a gente gasta com planejamento, melhor, porque a
• 0:06
  execução ela tende a ser com a ferramenta um pouco mais barata.
• 0:09
  Com AL LM, mesmo que no molho face, que é um pouco mais rápido
• 0:13
  e pensa menos, ela executa um pouco melhor.
• 0:16
  Então quanto melhor planejo, melhor.
• 0:18
  Eu executo. E trazendo isso que a Fernanda
• 0:20
  falou também, que é a questão do coisas que são já bem treinadas,
• 0:23
  que eu dou respostas sempre. Que eu não preciso pensar muito,
• 0:26
  é intuitivo. Eu jogo em um modelo barato,
• 0:29
  algo que eu preciso raciocinar, planejar e executar.
• 0:32
  Eu vou usar um modelo é um caro? Não, né?
• 0:35
  Um modelo apropriado, porque realmente o planejamento me dá
• 0:37
  algo melhor. E o que é muito importante dizer
• 0:40
  que eles já entenderam essa jogada que o malagut falou
• 0:43
  também. Se você for olhar o GPT 5 agora,
• 0:45
  ele vê o GPT 5, EOGPT 5 fecha que normalmente são as perguntas
• 0:49
  que as pessoas mais fazem é o que eles mais têm de
• 0:52
  conhecimento. Embora o GPT 5 mesmo o modelo
• 0:55
  mais barato, ele continua sendo LM.
• 0:57
  Só que dessa vez ele responde mais rápido, ele pensa um pouco
• 1:00
  menos e ele dá uma resposta mais simples, mais direto ao ponto.
• 1:04
  Então é um ótimo modelo para executar o que foi planejado.
• 1:08
  O que já foi pensado, o que foi detalhado, mesmo sendo LRM
• 1:12
  tentando reduzir os custos do da small.
• 1:15
  Mesmo porque realmente o small ele tá atendendo alguns
• 1:18
  contextos de alguns devices de algum modelo, mas se eu posso
• 1:21
  diminuir e hoje, por exemplo, um hardware que pra conter 10 GB é
• 1:26
  relativamente barato, mas quando eu tenho isso em larga escala é
• 1:30
  o que é onde entra o peso e hoje o que OHRM ele vem justamente
• 1:33
  nisso que as empresas já entenderam que não dá pra
• 1:36
  manter. Ela é de m para sempre em todo o
• 1:38
  contexto. Treinar, fazer o faine, tuning
• 1:40
  disso é muito caro. Então eles estão querendo
• 1:42
  expandir tanto. Eles querem centralizar e agora
• 1:45
  direcionar para quem resolve o problema e com.
• 1:48
  É, e quando a gente está usando algum modelo desses, tipo assim,
• 1:51
  tem uma forma da gente poder falar, Ah.
• 1:52
  Para às vezes o mesmo modelo que responde da das das 2 maneiras,
• 1:56
  usando o modo rápido ou o modo ou o modo slow do do HRM, eu
• 2:00
  consigo direcionar para o modelo falar Pra Ele, cara, eu uso o
• 2:02
  modo rápido, uso o modo slow, tipo assim, eu sei que isso aqui
• 2:04
  pode ser OOO modo mais rápido, ou o melhor é a gente usar de
• 2:09
  alguma forma de orquestração pra escolher um modelo que usa esse
• 2:13
  igual. Você falou GPT 5 Fest ou não?
• 2:17
  Olha hino do dia a dia como desenvolvedor no beach, a beach
• 2:20
  ali. Você consegue, por exemplo, no
• 2:22
  curso ou você consegue escolher qual é a você quer fazer?
• 2:25
  Existe vários, vários, vários dilemas.
• 2:28
  Uma pessoa prefere o quilo para planejar e executar com uma
• 2:31
  dessas ferramentas, que é os. Então normalmente você consegue
• 2:34
  escolher a da Leme que você quer trabalhar e o que é
• 2:37
  recomendável. Se você está planejando
• 2:39
  utilizando o speak Kate speak driver, é aconselhável que você
• 2:42
  use o modelo kink que ele vai planejar.
• 2:45
  Ele vai ter um custo de Tok, é um pouco maior e para execução,
• 2:48
  em teoria, você não precisa mais usar o modelo tick.
• 2:51
  Que você já planejou, já revisou tudo e você agora pode executar
• 2:54
  e normalmente os tokens que não envolvem um tinken.
• 2:57
  Ele é mais barato, então você consegue utilizar e ser um pouco
• 3:00
  mais eficaz nesse sentido.