Latest / IA por IAs / Vazou no GitHub: Qwen-3.5 Vem Aí? A Próxima Geração de IA da China

Transcript

Vazou no GitHub: Qwen-3.5 Vem Aí? A Próxima Geração de IA da China · IA por IAs

• 0:03
  Fala pessoal, tudo bem? Seja muito bem-vindo, seja muito
• 0:06
  bem-vinda a mais um episódio do iapor ias, hoje a gente vai
• 0:10
  falar de um movimento bem interessante vindo da China, a
• 0:13
  Alibaba, sinalizando o lançamento do modelo de iaqwen
• 0:18
  3.5, com rastros aparecendo nos repositórios oficiais no GitHub.
• 0:23
  Oi, gente, eu sou a Kátia Santos e vou te contar.
• 0:26
  Quando começam a pipocar registros novos no GitHub da
• 0:30
  qwen é quase sempre sinal de coisa grande, chegando
• 0:34
  principalmente depois da onda dos modelos que eu em 2 e que eu
• 0:38
  em 2 e meio, que já vinham disputando espaço com lama, mix,
• 0:42
  trau e companhia. E eu sou Humberto Silva.
• 0:45
  Antes da gente mergulhar nesse papo sobre qwen, 3.5 já deixa
• 0:50
  aquele apoio. Segue OIA por i as no seu app de
• 0:52
  podcast, ativa as notificações para não perder os próximos
• 0:56
  episódios e, se curtir o tema, manda para alguém que trabalha
• 0:59
  com dados e a ou desenvolvimento.
• 1:02
  Bora contextualizar rapidinho? A qwen é a família de modelos de
• 1:06
  linguagem da alibabacloud, conhecida na China como tonguy
• 1:10
  xianwen. Que já tem dezenas de
• 1:12
  repositórios públicos no GitHub, incluindo modelos de texto
• 1:17
  multimodais, modelos para código e até agentes que rodam no
• 1:22
  terminal. E o que a gente vê hoje?
• 1:24
  Um ecossistema que já estava no que eu em 2.5, com modelos de
• 1:28
  meio bilhão até 72 bilhões de parâmetros, versões
• 1:32
  especializadas em código, em visão, em controle de
• 1:36
  dispositivos e uma mistura de licenças abertas e licenças
• 1:39
  próprias da Alibaba. Aí começam a aparecer
• 1:42
  movimentações de QU em 3 e pelo padrão de nomenclatura e de
• 1:47
  brentes, fica claro que eles estão preparando a próxima
• 1:50
  geração. Quando você vê algo como QU em
• 1:53
  3. Que eu em 3 VL ou que eu em 3
• 1:56
  coder surgindo em paralelo, normalmente a linha ponto 5 vem
• 2:01
  como refinamento de meia geração, tipo que eu em 3.5 com
• 2:06
  ganho de desempenho em cima da arquitetura base.
• 2:09
  E se a gente olhar para o que foi o Salto de que eu em 2, para
• 2:12
  que eu em 2.5 dá uma boa pista? Eles aumentaram o número de
• 2:16
  modelos abertos trabalharam com texto longo, chegando a 128000
• 2:21
  tokens em vários tamanhos. Melhoraram muito benchmark de
• 2:24
  MMLU, matemática, código e tarefas multilingues, às vezes
• 2:29
  encostando em modelos gigantes como lama 3 405 b, mas com bem
• 2:34
  menos parâmetros. Isso já mostra a estratégia, não
• 2:38
  é só lançar modelo grande, é otimizar para uso real,
• 2:42
  principalmente na faixa de 10 a 30 bilhões de parâmetros.
• 2:46
  Que é onde muita empresa quer colocar em produção e também
• 2:49
  manter modelos menores de 3 b para rodar em dispositivos mais
• 2:54
  limitados ou em Edge. Então, quando a gente fala em q
• 2:57
  ou em 3.5, você pode imaginar algo nessa linha, provavelmente
• 3:02
  uma interação que melhora ainda mais raciocínio, código e testes
• 3:06
  multimodais, mantendo a pegada de contexto longo e eficiência.
• 3:10
  Não é chute aleatório. É seguir o padrão de evolução
• 3:13
  que eles já mostraram com que eu em 2.5.
• 3:17
  E tem um detalhe importante, a Alibaba vem usando uma
• 3:20
  estratégia híbrida de abertura. Alguns modelos saem com licença
• 3:24
  Apache 2.0, super permissiva. Outros vem com licenças próprias
• 3:30
  que colocam limites para empresas com muitos usuários ou
• 3:33
  exigem acordo específico para uso comercial em larga escala.
• 3:38
  Isso impacta direto quem está ouvindo a gente e pensa em
• 3:41
  produto se o que eu em 3.5 seguir a mesma lógica, a gente
• 3:45
  deve ver uma combinação de versões realmente open source
• 3:48
  que você pode baixar, self rostar e adaptar e versões top
• 3:53
  de linha mais fechadas monetizadas via Alibaba cloud
• 3:56
  Studio. Com acesso por IPI gerenciada.
• 3:59
  Imagina um cenário prático? Você tem uma startup aqui no
• 4:03
  Brasil construindo um chatbot jurídico.
• 4:06
  Uma possível estratégia? Usar um QO em 3 e meio open de
• 4:10
  14 b ou 32 b rodando em servidor próprio com fine taning nas leis
• 4:15
  brasileiras, mantendo dados sensíveis dentro de casa.
• 4:20
  Já uma big tech ou um grande banco poderia preferir plugar
• 4:23
  direto numa versão Max ou plus do que eu em 3 e meio via nuvem
• 4:27
  da Alibaba, ganhando desempenho máximo e escala mesmo com
• 4:31
  licença mais restritiva, desde que faça sentido no custo e nas
• 4:35
  exigências regulatórias. E tem a parte multimodal.
• 4:39
  A linha QU em 3 VL já mostrou capacidade de olhar para
• 4:42
  imagens, entender telas e até controlar PCE telefone clicando,
• 4:48
  rolando, digitando o famoso agente que mexe na interface por
• 4:52
  você e. Isso conversa com outra
• 4:54
  tendência, usar modelos como cérebro de agentes mais
• 4:58
  complexos. A própria qwen já tem um projeto
• 5:01
  de agente de código que vive no terminal, o qwen code, para
• 5:05
  ajudar desenvolvedores a executar comandos, ler arquivos,
• 5:08
  fazer refector. Agora imagina esse agente
• 5:11
  apoiado numa linha qwen 3 e meio coder mais robusta, com melhor
• 5:16
  compreensão de múltiplas linguagens, mais contexto, menos
• 5:20
  alucinação. Em código para times de
• 5:23
  desenvolvimento, isso vira quase um copiloto residente em
• 5:26
  qualquer ambiente. Outro ponto legal é o foco em
• 5:29
  tarefas multilíngues. Os benchmarks de que eu em 2.5
• 5:34
  mostram que eles estão mirando forte em idiomas diversos,
• 5:37
  inclusive fora do eixo inglês chinês.
• 5:40
  Isso é crucial para a gente aqui no Brasil, porque ter um modelo
• 5:43
  que entende bem português, espanhol e outras línguas abre
• 5:46
  muito espaço para soluções locais.
• 5:49
  E não é só a tradução, é compreensão mesmo, entender
• 5:53
  contexto, gíria, ambiguidade, o jeito que a gente fala.
• 5:57
  Se o que o em 3 e meio seguir melhorando nisso, você consegue
• 6:01
  construir assistentes mais próximos da linguagem do usuário
• 6:05
  sem depender tanto de prompts hiper amarrados.
• 6:08
  Agora deixa eu aproveitar e puxar.
• 6:10
  Você que tá ouvindo pro centro da conversa, conta pra gente.
• 6:13
  Você usaria um modelo como o que o em 3 e meio num projeto seu?
• 6:17
  Ou prefere ficar só em modelos de players ocidentais como meta
• 6:21
  e Google? Responde lá nos comentários do
• 6:23
  episódio ou na plataforma onde tiver ouvindo.
• 6:26
  Essa dúvida é muito real, viu? Tem desenvolvedor que fica
• 6:30
  receoso com questão de licença, com a infraestrutura na China,
• 6:34
  com latência, e acaba nem testando?
• 6:37
  Por outro lado, tem gente que já roda kil em hoje em servidor
• 6:40
  próprio, baixando direto do GitHub ou do modelo escope,
• 6:44
  justamente para fugir de dependência de uma única big
• 6:47
  tech. E aí entra aquela análise de
• 6:50
  sempre, qual o trade off entre desempenho?
• 6:53
  Custo, privacidade e governança se o que eu em 3.5 vier com o
• 6:58
  mesmo padrão de eficiência do 2.5, ele pode ser uma opção bem
• 7:02
  competitiva frente a modelos equivalentes em tamanho,
• 7:05
  principalmente para quem precisa de contexto longo e boa
• 7:08
  performance em código e matemática.
• 7:10
  Para quem é de produto, eu diria assim, vale a pena ficar de olho
• 7:14
  em 3 coisas? Primeiro, quais variantes de QA
• 7:18
  em 3.5 vão ser realmente open source e sob qual licença?
• 7:23
  Segundo, que tamanhos de modelo vão existir, porque isso impacta
• 7:27
  direto o seu custo de infraestrutura.
• 7:29
  Terceiro, como vai ser o suporte a multimodalidade e agentes?
• 7:34
  E um cuidado, não se apaixona só pelo número de parâmetros ou por
• 7:38
  benchmark isolado. Olha para a estabilidade da
• 7:40
  inferência, facilidade de deploy, tulin em volta SDK,
• 7:45
  integração com frameworks de agentes, suporte em plataformas
• 7:48
  como rugging fez modelscope e a comunidade que cresce em cima
• 7:52
  disso. Uma estratégia prática que eu
• 7:55
  vejo muita empresa usando é montar uma espécie de bancada de
• 7:59
  modelos. Você coloca lado a lado um lama,
• 8:02
  um q en, talvez um modelo proprietário via API define um
• 8:06
  conjunto de tarefas reais da sua aplicação e roda um comparativo
• 8:10
  focado em custo por tarefa bem resolvida, não só em acerto de
• 8:15
  benchmark. E aí, OQ en 3.5 entra como mais
• 8:19
  um candidato forte nessa bancada, especialmente em países
• 8:22
  que podem tirar vantagem da relação custo benefício dos
• 8:25
  provedores asiáticos. E da flexibilidade de rodar
• 8:29
  parte da esteque, um premissis. Conforme a gente se aproxima de
• 8:32
  modelos cada vez mais multimodais e agentescos, faz
• 8:36
  diferença ter diversidade de fornecedores.
• 8:39
  Kewen 3 e meio, se vier mesmo alinhado com tudo isso que a
• 8:43
  linha kewen vem construindo, reforça esse movimento de um
• 8:47
  ecossistema de IA bem mais distribuído.
• 8:50
  Pra gente ir encaminhando o episódio, eu quero deixar uma
• 8:53
  provocação, se o kewen 3 e meio realmente entregar uma
• 8:57
  combinação de desempenho alto, modelos abertos, multimodalidade
• 9:01
  e tuling de agentes, quem você acha que mais sente essa
• 9:04
  pressão? As big techs ocidentais ou as
• 9:07
  startups que estão construindo por cima desses modelos?
• 9:11
  Responde pra gente porque essa percepção da comunidade é ouro.
• 9:14
  E aproveita se esse episódio te ajudou a entender melhor o que
• 9:18
  tá por trás desses registros no githoad e o que pode vir com OQU
• 9:22
  em 3 e meio, compartilha com pelo menos uma pessoa do seu
• 9:26
  time de tecnologia ou de produto.
• 9:29
  A gente fica por aqui. Obrigado demais pela sua
• 9:31
  companhia, cuida bem da sua curiosidade.
• 9:34
  E continua acompanhando de perto esse universo dos modelos
• 9:37
  abertos e semifelhados, porque muita decisão de negócio vai
• 9:40
  sair daí. Um abraço, gente, até o próximo
• 9:43
  IA por IAS. Valeu, até a próxima.