Latest / Entre Chaves / #234 Grok-4: Análise completa do modelo que lidera os benchmarks

Transcript

#234 Grok-4: Análise completa do modelo que lidera os benchmarks · Entre Chaves

0:00
E está começando mais um entre chaves, o seu podcast de
0:03
desenvolvimento de software. Eu sou Angela Assis e hoje vamos
0:06
falar sobre o grochi, mas antes vamos falar sobre o DevOps days,
0:10
que é uma conferência sobre DevOps que acontece em mais de
0:12
40 países ao redor do mundo. E no dia 27 de setembro vamos
0:16
ter a edição do DevOps days em Juiz de Fora, vai acontecer na
0:20
une, em academia, e vocês ouvintes do entre chaves, tem
0:22
10% de desconto. É só acessar o link aqui na
0:24
descrição e aproveitar. Esse evento vai ter muito tema
0:27
sobre qualidade de software, teste de software toda.
0:30
Besteira de desenvolvimento é sobre o que é DevOps, né gente?
0:32
Agora fiquem com o episódio sobre o grochi e hoje vamos
0:38
falar mais uma vez sobre a melhor e a de todos os tempos da
0:42
última semana. E a bola da vez é o grochi 4, a
0:45
última versão de modelo da XAI do nosso querido Elon Musk.
0:49
Para falar sobre essa ferramenta aqui, temos hoje comigo a nossa
0:53
cost. Fernandinha, e aí, Fernandinha,
0:56
beleza? E aí, Ângelo?
0:57
Beleza? Bora, galera, falar sobre esse
0:59
modelo? Aqui hoje, trazer pela primeira
1:01
vez a hexaiaia aqui, né? Até até hoje a gente não teve um
1:05
episódio dedicado aí para os modelos groc, né?
1:15
Para os modelos da hexaiaia. E vamos falar então sobre isso e
1:18
destrinchar um pouquinho a história, o contexto, testes,
1:21
enfim, tudo isso que envolve que está envolvido no lançamento do
1:24
groc. 4 então, para sintonizar os nossos ouvintes, aí a gente
1:28
vai primeiro dar o contexto sobre o groc. 4 sobre a hexa i
1:31
depois vamos falar um pouquinho sobre quais são as grandes
1:34
novidades. Que vieram com essa nova versão,
1:36
depois vamos falar um pouquinho sobre a parte mais prática, o
1:38
que que isso muda para a gente, tanto no mundo do
1:40
desenvolvimento quanto na parte prática do dia a dia, quem
1:42
quiser usar APIE. Por fim, quais são as
1:44
perspectivas de futuro, né? O que que são os próximos
1:47
passos? O que que vem aí com essas
1:48
novidades aí do croc 4? Beleza, então, primeiro de
1:51
contextualização, o croc 4 é ALLM da XA, que é uma das
1:56
empresas da Elon Musk, né? Eu tenho até a impressão que o
1:58
Elon Musk, ele tem um Monte de empresa e que ele fica fazendo
2:00
as as ferramentas umas para as outras assim, sabe?
2:03
Tanto é que No No lançamento. Do grock 4, eles já falaram que
2:06
agora eu já estou falando lá de futuro, né?
2:08
Mas uma das coisas que eles falaram é só pra dar uma
2:10
pincelada aqui é que eles querem colocar Oo grock 4 no Tesla,
2:13
então a gente já percebe aí que é um LLM usado para um carro
2:18
autônomo talvez, sabe? Então já dá 11 visão muito legal
2:22
assim, por que que eles podem estar pensando, né?
2:24
Mas enfim, é uma LLM do Elon Musk, e aí, o que que isso traz
2:28
pra gente? De características para essa LLM
2:30
Fernandinha. Só né, dar um dando um contexto
2:33
da ex aí que eu acho que é legal pro.
2:34
Ouvinte acompanhar com a gente a ex i então foi uma empresa
2:38
criada em 2023 e foi 11. Resposta e pro lançamento do GPT
2:43
4 da open i não sei se você sabe Ângelo, mas eu fiquei
2:46
surpreendida quando estava estudando aqui pra pra esse
2:48
episódio que Oo. Elon Musk ele estava né?
2:52
No No início da open i ele fez parte do início da open i.
2:56
Olha, em 2000 e. 15 também não sabia em 2015, quando a open i
3:01
ainda era uma empresa sem fins lucrativos.
3:04
O Elon Musk estava ali mais ou menos no início.
3:07
Só que aí eles tiveram 11 conflito de futuro mesmo da
3:11
empresa, né? Do da onde eles queriam ir e
3:13
tudo mais. Sério que a Elon Musk teve
3:15
conflito com alguém jura? Você acredita, né?
3:18
Então o Elon Musk, ele exigiu aí em algum momento uma
3:21
participação majoritária e controle, né?
3:24
Para ser OCEO da open AI. E aí houve, né, um conflito aí
3:27
dele com o sanautman e tudo mais.
3:29
E ele renunciou em 2018 da copresidência da open AI, e em
3:33
2023. Então fundou AXAI aqui logo em
3:37
2025, também adquiriu OX, né? E formou aí, como você falou,
3:41
uma das das empresas aí do Elon Musk.
3:43
Mas achei isso bem interessante e eu não sabia disso, né?
3:46
Então foi aí 11 passado da da XAI, né?
3:49
E do e da open i também. Como que as coisas também vão no
3:52
mundo corporativo, elas vão se encontrando também.
3:55
E o Elon Musk? Legal porque ele já estava na
3:57
open IE. Ele sempre esteve envolvido em
3:59
coisas assim. Muito futurísticas, né?
4:01
A open NI quando você você está falando aí dessa dessa época em
4:04
2000 e. E quanto meses 1518 por aí?
4:06
A open a foi criada em 2015. Em 2018 o Elon Musk já
4:10
renunciou, né? A fala?
4:11
LLM nessa época é muito futurístico assim, né?
4:15
O Elon Musk gosta desse tipo de empresa, desse tipo de mercado,
4:19
né? Tanto é que ele tinha a, se não
4:20
me engano, chama SpaceX também não é a uma empresa que ele
4:22
tinha lá, que trabalhava com coisas de lançar foguete, enfim,
4:26
ele também estava envolvido nesse tipo de coisa, estava
4:28
envolvido no PNAEE, estava envolvido no Tesla com o carro
4:31
autônomo. São sempre coisas muito
4:33
futurísticas, ele tem uma. Visão à frente do tempo nós
4:36
vamos falar aqui, talvez bem, talvez mal do Elon Musk, mas uma
4:39
coisa que a gente tem que reconhecer o cara, ter uma visão
4:41
sensacional à frente do do tempo.
4:43
Exato, né, apesar de todos os poréns aí.
4:45
Apesar de todos os poréns. Uma coisa também que aconteceu,
4:48
né? De que o Elon Musk trouxe muito
4:51
para a ex AEAE, para os modelos grok.
4:53
Foi essa busca do que ele chama da busca maximamente, né?
4:59
Da busca pela verdade e também por um desejo de ter menos.
5:04
Restrição dos modelos de linguagem, então o grochi, ele
5:08
foi criado nesse Panorama, né? De tretas entre XAIE OpenAI i,
5:15
né? De Elon Musk, Sam mautman, mas
5:17
também desse desejo aí do Elon Musk de buscar esses modelos
5:21
mais potencializadores da verdade.
5:23
E aí assim, existe uma ironia gigantesca com isso, com uma
5:26
treta recente que aconteceu, mas a gente vai falar daqui a pouco
5:29
o grochi. Então, o primeiro modelo do
5:31
grochi foi lançado em agosto de 2023, o grochi zero.
5:34
E aí? E foram lançados alguns modelos
5:36
aí né? No final de 2023, durante 2024,
5:39
mas em 2025 foi Oo goc 3 foi o primeiro modelo lançado da XAI
5:45
que já foi treinado com o colossos né, que é 11 super
5:48
cluster aí de GPUs né? Da com chips da nvidia e tudo
5:52
mais, um modelo um pouco mais robusto do que os anteriores.
5:56
E aí isso foi em fevereiro de 2025 e eles já pularam, né?
5:59
Agora em julho de 2025 para o goc 4, eles até iriam lançar o
6:03
goc goc 3.5. 5 mas eles ignoraram e resolveram pular
6:07
direto para o grochy 4. E esse já é um ponto
6:09
interessantíssimo, porque é uma distância muito pequena entre as
6:12
2 versões. Ninguém fez isso recentemente.
6:14
Open high anthropic Google com Jim Night é um período muito
6:18
pequeno de um lançamento de 2 versões significativas para a
6:21
empresa assim, né? Então já é mais um indício de
6:24
como que está louca essa corrida pelo mercado de LLMS aí, né?
6:29
Exatamente uma coisa muito interessante que aconteceu aí no
6:32
meio, né, desse, desse período que você fala?
6:34
Valor, né? Entre o groc 3, lançamento do
6:36
groc 3 em fevereiro de 2025, e o lançamento de do groc 4 em
6:41
9/07/25, foi que o modelo um pouco antes do lançamento, né?
6:45
Tipo dias antes do lançamento do groc 4, o modelo do groc 3 até
6:50
então, né, liberado aí no Twitter, né?
6:52
No na verdade no X começou a dar umas respostas antissemitas
6:58
muito esquisitas. Começou AA se chamar de meca
7:01
Hitler, né? O mecha Hitler, não, não sei
7:03
exatamente o nome que é. É inspirado até num num
7:06
videogame e tudo mais. E a consultar tweets do Elon
7:09
Musk para dar respostas complexas.
7:11
Aí é foda, né? E por isso que eu falei que que
7:13
tinha, né? Uma ironia muito grande que o
7:15
cara sai da open AE, claro, com todas as suas tretas para buscar
7:19
uma LLM maximizadora da verdade. Aí chega e faz 11 cagada dessa,
7:25
né? Um bom resumo, Fernandinha.
7:26
É uma ironia mesmo, né? Assim, falar que na nas
7:29
respostas ALLM estava buscando os tweets do Elon Musk, né?
7:33
Perde uma credibilidade gigantesca.
7:34
Busca, né? Da empresa?
7:35
PS, são essas tretas aí, políticas corporativas, enfim,
7:39
mas só para os nossos ouvintes entenderem um pouco melhor.
7:41
Que que acontece quando a gente usa uma LLM?
7:44
Quando a gente manda o nosso prompt, o prompt que será
7:46
executado pelo modelo. No final das contas, não é só o
7:49
nosso prompt, tem um intermediário ali, que é um
7:52
outro prompt feito pela própria empresa, que coloca vários
7:55
filtros tanto na ida quanto na volta.
7:57
Então a gente não pode falar qualquer coisa para o modelo, a
8:00
gente não pode receber qualquer coisa do modelo.
8:02
É a antrrop, que inclusive recentemente divulgou o.
8:04
O prompt dela, você chegou a ver isso?
8:06
Fernandinha? A antrópica divulgou qual que é
8:08
esse prompt intermediário dela é um prompt gigante, eu não eu eu
8:11
vi a notícia, eu vi que é um prompt gigante mas eu não parei
8:14
para ver com calma o que que é o negócio lá não, mas enfim, a
8:16
antrópica inclusive divulgou qual que é esse prompt
8:18
intermediário dela, o que AA ex i tem feito é o seguinte, esse
8:22
prompt intermediário eles buscam falam o que que eles querem é
8:25
verdade acima de tudo a verdade sem filtro né e tudo, só que
8:28
eles também pegam muita coisa do Twitter em tempo real Twitter ou
8:32
x, né? É o vício né, da da minha
8:34
geração falar. Twitter, né, gente?
8:35
Desculpa aí, então revelando um pouco da idade, mas assim,
8:38
gente, rede social é uma fonte de desinformação.
8:41
Isso é claro para todo mundo, seja você de um lado ou de
8:45
outro, aí da política, você vai entrar lá e vai ver que é muita
8:48
fonte de desinformação para qualquer um dos lados.
8:50
Então, colocar uma LLM para consultar uma rede social e a
8:53
partir daí, basear suas respostas colocando ainda por
8:56
cima um filtro menos restritivo, sabe?
8:59
Aí é muito perigoso. Então é essa estratégia que o
9:02
grosc tenha adotado desde o início ou é uma?
9:04
Mas que já até falou isso, que ele não quer que seja uma LLM
9:08
cheia de termos politicamente corretos, ele falou que ele não
9:11
liga para isso. Então, de vez em quando, ALLM dá
9:14
essa surtada que a Fernandinha falou aí.
9:16
Então trouxe só um pouco aqui da explicação técnica de por que
9:19
que isso acontece, né? Muito boa explicação, né?
9:22
Bom pra pra todo mundo. Está na mesma página entender
9:24
que existe mesmo esses modelos, esses momentos, né, de pré
9:28
treinamento, de treinamento, de pós treinamento, né?
9:30
Em que há mesmo essas manipulações de prompts, a
9:33
inserção de alguns? Hard railes, né?
9:35
Pro modelo não responder coisas que a empresa não quer que ele
9:39
responda, né? Enfim, até naquele naquela época
9:41
que a gente conversou um pouco sobre o deep c que tinha, né?
9:44
Uma coisa ali que provavelmente está em alguns, alguns desses
9:47
desses momentos ali de filtro, né, falando sobre a China e tal,
9:51
enfim, então as empresas, elas adotam mesmo é esse tipo de
9:54
estratégia para ter algum tipo de de controle, de maior
9:57
assertividade, de né, de maior alinhamento.
10:00
Mas uma coisa que eu achei muito engraçada nessa notícia é que
10:04
uma. Modelo ele mesmo, se você não
10:06
falava nada, né, Pra Ele pesquisar em tweets do Elon
10:09
Musk, né? E eu entendo o que você falou
10:11
que é, Ah, ele também leva como base A Rede Social do ex, então
10:14
ele tá, né? Com certeza popular de muita
10:16
desinformação, mas na descrição do do pensamento dele, né?
10:20
Na hora que ele estava é fazendo o pensamento para escrever, né?
10:23
Ele falava assim, Ah, vamos, vou procurar.
10:25
Ele falava ativamente que iria procurar tweets do Elon Musk
10:29
sobre aquele assunto, então assim, o que me parece que havia
10:32
ali algum estepe realmente. Durante, né?
10:35
Esses, esses filtros, essas coisas que estavam
10:38
explicitamente falando sobre isso, né?
10:41
Dentro desses prompts escondidos que.
10:43
Coragem de Elon Musk, né? Se for os tweets que eu lançava
10:46
lá em 2009, cara, eu falava muita besteira.
10:48
É, não sei se foi ele, né? Enfim, não dá pra saber né o que
10:52
que aconteceu? Mas o fato é que OA ex i meio
10:56
que colocou panos quentes nessa notícia, parou de falar sobre
10:59
isso e ficou focando só na divulgação do grock fora e
11:03
tentando né? Reverter se.
11:04
Esse momento mesmo de falta de confiança do público, né?
11:07
Poxa, poucos dias antes de você lançar a sua versão nova, que
11:10
você está falando há um tempo, que é a versão mais potente do
11:13
mercado, e aí vem um negócio desse, acontece muito ruim, né?
11:16
E 11. Consequência disso aí que
11:18
aconteceu é que ACEO da ex AI pediu para sair logo que isso
11:22
aconteceu, exatamente a linda ela renunciou aí como CEO da ex?
11:26
AI provavelmente, né? Teve algum reflexo aí desse
11:29
acontecimento? Será que foi mais algum atrito
11:32
com Elon Musk? Queria falar do que?
11:34
Tem a ver também com AXAIE, com o modelos Brock, né?
11:37
É que eles também estão lançando personagens animados.
11:41
Não sei se você viu personagens animados 3D.
11:44
Ah, vi o Twitter. Está lotado disso.
11:47
O Twitter está lotado disso? Exatamente.
11:49
Twitter, não. O ex aí tem AN, né?
11:51
Por exemplo, que é um anime sexualizado, tem o bad rude, que
11:56
é um personagem que você insultar ele te insulta de volta
11:59
e aí assim criou se também, né? Como tudo, aí criou se umas
12:04
várias. Tretas e críticas aí do mercado,
12:07
justamente porque, poxa, esse não foi um caminho, né, que
12:10
outras big tech seguiram, né? De criar realmente personagens e
12:13
tal. Acho que isso tá levemente, né?
12:15
Tá, tá alinhado talvez com o que o Elon Musk quer como LLM como
12:19
ferramenta que existam, como a gente falou, menos filtro que
12:22
possa falar, né? Alguma coisa ali em temas que
12:25
talvez em outras em outras LMS são restritos, né?
12:28
Mas o fato é que existe uma críticas gigantescas aí falando
12:31
sobre dependência emocional, por exemplo, né?
12:34
O fato. Você criar um personagem e a
12:36
pessoa que está ali às vezes não sabe usar, pode criar uma
12:38
dependência emocional. E tem outras coisas nesse
12:40
sentido. O próprio modo infantil parece
12:42
que aconteceu também que estava sendo possível acessar AN, né?
12:45
Essa personagem sexualizada no modo infantil, então você poder,
12:48
né? As crianças sendo expostas a
12:51
coisas que enfim. São informativas que só pra
12:54
informação chama baby grock. É muito doido mesmo.
12:58
Quanto que AXAI, né? Os modelos e as coisas que estão
13:01
aí no entorno do lançamento do groch são extremamente.
13:04
Polêmicas assim como Elon Musk é, né?
13:06
Extremamente polêmico. Foram várias polêmicas.
13:09
Teve de certa forma, aí uma água no chope deles aí, né, entre o
13:13
Gross 3 e o Gross 4. Mas vamos falar agora das
13:16
principais novidades, porque veio com o pé na porta e se a
13:19
gente olhar, analisar os dados de benchmarking, aí Oo Gross 4 e
13:23
como diz no site deles, né, é AEA mais inteligente, é o melhor
13:26
modelo de LLM atual e talvez seja mesmo sabendo que nós
13:30
estamos gravando isso aqui em julho de 2025, vamos ver o que
13:32
que lance em agosto, setembro, daqui a pouco vem outra mais.
13:34
Inteligente ainda e por aí vai, mas nos benchmarks ele tem
13:37
ganhado do cloud 4, ele tem ganhado do Jimmy Night 2.5, ele
13:42
tem ganhado do chatg PT, então os benchmarks mostram que
13:45
realmente o groch 4 tem muito potencial.
13:48
Tem algumas coisas que eles falam que eu acho até que são um
13:51
pouco atrasados, eles falam acessar o processamento
13:53
multimodal e tal, tem outras LLMS que já fazem isso.
13:56
O chá de PT gera imagem muito fácil, qualquer usuário baixou
14:00
ali, não precisa nem ter versão paga para isso, né?
14:02
Inclusive, vamos falar dos preços do groch 4.
14:04
Aqui também. Então tem algumas coisas que
14:06
eles falam ali. Ah, no grupo 4 agora tem
14:08
processamento multimodal, tá? Beleza, isso aí a gente já via
14:11
nos outros, né? Isso não é tão disruptivo.
14:12
Falando de LLM, né? A integração com.
14:14
Com ex, né? Antigo Twitter, isso aí.
14:16
Os outros grox também já faziam isso, então isso também não é
14:19
uma coisa tão disruptiva, né? Então, o que que tem de
14:22
novidade, Fernandinha? Bom, o que eu acho que é um
14:24
diferencial aí do grock 4 foi a forma que ele foi treinado
14:28
mesmo, né? A forma que a ex AI investiu em
14:32
poder computacional, né? No treinamento do grock 4,
14:35
então, basicamente o treinamento ele foi feito, né?
14:38
Com a eu até já mencionei aqui que é um cluster de 200000 GPUs
14:42
que eles chamam lá de colossos dentro da ex a.
14:44
Aí então, pra vocês terem ideia, por exemplo, né o GPT 4, ele foi
14:47
treinado com algo em torno aí de 10000 a 25000 GPUs, então é um
14:51
poder computacional bem maior mesmo, e ele foi aplicado
14:55
aprendizado por reforço de forma massiva.
14:57
O que que isso significa, né? O que que é o aprendizado por
15:00
reforço? É 11 forma, né, de aprendizado
15:03
que a gente até aplica. Por exemplo, quando a gente está
15:04
adestando um cachorro, a gente está ensinando uma criança como
15:08
ela deve se comportar, que é você reforçar as coisas
15:10
positivas que ele faz. Aí qual que é a diferença do que
15:13
que eles estão fazendo o. 4 fez né EAA ex AI fez em relação aos
15:17
outros que normalmente o aprendizado por reforço ele é
15:20
aplicado em momentos certos do treinamento, ele não é aplicado
15:24
de forma massiva e a ex AI com o Gross 4 aplicou o aprendizado
15:28
por reforço de forma massiva, mesmo logo na fase inicial do
15:32
treinamento, na fase do pré treinamento.
15:34
E isso fez com que o raciocínio do modelo melhorasse muito,
15:38
então eles tiveram ganhos consistentes assim de
15:40
performance do modelo, mesmo gastando mais poder com.
15:44
Computacional, né? Ou seja, mesmo gastando mais com
15:47
a infraestrutura computacional. E é isso assim normalmente, né?
15:50
Esse aprendizado por reforço ele é aplicado depois do do pré
15:53
treinamento, pelo menos publicamente, nos modelos da
15:55
open IAE da da antrópica, eles não são aplicados, né?
15:59
Esse esse aprendizado por reforço não é aplicado no pré
16:01
treinamento. E isso é o diferencial aí do
16:03
groch, que faz com que o raciocínio dele seja um pouco
16:07
mais apurado. Ele foi treinado com 200000
16:09
GPUs, né? Você fez a comparação lá com
16:11
OGPTE. Vou fazer a comparação aqui com
16:13
o goc 3. O goc 3 foi por.
16:14
Aproximadamente 20000. Então comparando com o GPT, que
16:17
foi 10, aí você vê que de 10 para 20 Oo groc 3 já estava
16:21
treinando com o dobro do que era o GPT, beleza, o chá de GPT.
16:24
Só que aí pro groc 4. Os caras do dobro falaram assim,
16:27
não vão treinar com 10 vezes mais GPU para a gente poder
16:31
aplicar mais carga de de aprendizado, treinar mais tempo,
16:35
fazer o aprendizagem por reforço, enfim, gastou muito
16:38
mais capacidade computacional mesmo.
16:39
Aí eles têm tanto o groc 4 quanto o groc 4 heavy, né?
16:44
E esse groc 4? Have ele promete que ele vai
16:46
pensar muito mais. Ele coloca os agentes para
16:49
vários agentes para pensar. Ele pode demorar inclusive
16:52
alguns minutos para poder te dar a resposta, mas promete também
16:55
respostas muito mais assertivas, né?
16:58
Muito mais profundas, que conseguem lidar com problemas
17:01
complexos. Toda essa infraestrutura que que
17:04
moveram para poder treinar o modelo é para chegar nisso?
17:06
Não. Existe até um artigo
17:07
relativamente recente que a Apple lançou questionando a
17:10
capacidade de raciocínio dos modelos, falando que os modelos,
17:13
na verdade, eles não são. Tão inteligentes, eles conseguem
17:16
lidar com o problema simples, conseguem ter 11 certo nível de
17:19
criatividade, mas não consegue tão profundo nisso, né?
17:22
E o que as empresas têm tentado é realmente desmistificar isso,
17:26
realmente falar, olha, não dá sim, cara, dá pra gente
17:28
trabalhar com problemas complexos.
17:30
Basta que a gente consiga quebrar esse problema complexo
17:32
em vários problemas menores, coisa que a gente faz no mundo
17:35
do desenvolvimento todo dia, né? Não é um desafio incomum para a
17:38
gente aqui, né? Mas esse negócio do groch have
17:40
aí, né, que você mencionou, eu achei muito interessante, porque
17:44
a. Primeira vez que a gente vê uma
17:46
arquitetura multi agentes, né? Para resolver problemas, no
17:50
próprio site do groc eles falam que o groc 4 heve eles fizeram
17:53
um maior progresso em computação paralela, considerando várias
17:56
hipóteses ao mesmo tempo e ouvindo o Elon Musk falando
17:59
sobre o Gross 4, né? E sobre esse esse modo heve
18:02
deles, basicamente o que que eles fazem, né?
18:04
Eles executam vários agentes resolvendo o mesmo problema ao
18:08
mesmo tempo, ele compara, até como se fosse um grupo de
18:11
estudo, então esses vários agentes vão resolvendo aquele
18:14
problema aí no. Final eles esperam, né?
18:16
E depois eles compraram a resposta e consolidam ali pra
18:18
ver se algum pegam algum gap, né, no raciocínio do outro e
18:22
tal, e fazem algum tipo de consolidação.
18:24
O que faz com que as respostas tendam a ser mais assertivas
18:28
ainda é sem essa arquitetura muito interessante e é realmente
18:31
é bem inovadora, né? É a primeira vez que alguém vá
18:34
vai pra esse caminho que, enfim, com certeza precisa de um poder
18:37
computacional gigante também, né?
18:38
Tanto que o revi é caríssimo, né por.
18:40
Isso que eu IA comentar, porque eles foram criativos, botaram
18:43
pega o mesmo. Prompt, manda para agentes
18:46
diferentes aqui, manda todo mundo, cara, a gente sabe que a
18:49
cada oi, tudo bem, obrigado, só só esse tipo de de interação que
18:53
a gente tem com com ALLM já já gasta um absurdo de
18:56
processamento. Aí você imagina, agora estão
18:58
lançando um problema complexo para LM, ela já vai gastar muito
19:01
processamento, eles estão gastando isso n vezes com sei lá
19:05
quantos agentes para depois consolidar isso, fazer um merge
19:08
dessa resposta e conseguir me entregar uma resposta.
19:10
O custo computacional disso é absurdamente alto.
19:13
Isso reflete no custo, vamos falar de.
19:14
Você quer agora? Então o grock 4 tem planos aí de
19:18
30 USD? Achei OK.
19:20
Achei um pouco caro, mais caro, por exemplo, que o GPT mais caro
19:24
que o Cláudio. Mas ainda está 11 coisa, OK?
19:27
Na mesma ordem de grandeza, né? Porque quando você quando você
19:29
vê o tal do groch have, né? Custando 300 USD.
19:34
Aí você fala assim, poxa vida, será?
19:35
Eu não tenho nem coragem de pagar nem para testar.
19:38
Eu testaria o grock 4 ali, OK, agora o heavy, eu vou gastar
19:42
300, eu vou gastar, sei lá, 1000 e alguma coisa entre 1000. 500
19:45
2000 BRL só para ter um teste. Mas ao mesmo tempo, o GPT também
19:48
tem um plano de 200 USD, né? Então assim, pensando que talvez
19:51
esse essa seja o plano que AEQI está querendo para usar lhe
19:55
adopteres mesmo que querem, além de ter todas as features
19:58
lançadas primeiro, mas também ter muito, muita janela de token
20:01
maior provavelmente, né? Janela de contexto maior, maior
20:04
poder, maior prioridade, enfim, mais mais requisições para você
20:08
fazer. É o negócio para quem pode ser,
20:10
né? Assim, fato é que AOGPT, né OPNI
20:12
também tem um plano aí de 200 que a.
20:14
Um trop que tem o um plano Max, né?
20:16
Pegando o individual, tem um plano Max que também é 100 USD
20:19
por mês. Enfim, existem esses planos mais
20:21
caros, mais claro, o groch aqui está vindo como mais caro deles.
20:25
Né? As outras ficam ali na casa dos
20:27
10, 20 USD. Ela chegou com 30.
20:29
O plano básico, né? Os planos Max ultra, premium,
20:32
heavy, sei lá qual que vai ser, o nome que você vai dar.
20:34
Então na casa do 100 200, ela chegou com 300.
20:37
Mas, ao mesmo tempo, o preço da apê i, né?
20:40
Do token de entrada de saída é o mesmo preço do cloud.
20:42
Sonia 4 então assim veio. Bem, veio competitiva aí no
20:46
preço da APIE estou falando do Gross 4, tá?
20:48
Não do reve, mas o Gross 4 fica o mesmo preço ali, então, pau a
20:52
pau com o Claudio sonet, por exemplo.
20:54
Então, em relação AAPI está ali mais ou menos, né?
20:57
Ou seja, que é o que os interessa para os
20:58
desenvolvedores normalmente, né, que é acesso AAPIEO custo disso
21:02
está aí mais ou menos no mesmo patamar.
21:04
Fala aí o preço que eu não falei o preço.
21:05
O grock 4 é 3 USD por milhão de tokens de entrada e 15 USD por
21:10
milhão de tokens de saída, né? Que é o igual.
21:12
A Fernandinha falou o mesmo preço do cloud 4 e interessante
21:14
que isso é. Mais barato do que o GPT fora
21:17
ou, por exemplo, que é 5 USD por milhão de token de entrada,
21:21
sabe? É mesmo?
21:22
É interessante, né? Então o preço da API igual você
21:25
falou aí agora que é o que importa para quem é
21:27
desenvolvedor. Está um preço justo?
21:28
Está um preço. Que vale o teste, né?
21:30
Competitivo. Que vale o teste, né?
21:32
Que vale a utilização. Exatamente.
21:34
E voltando então um pouquinho nos benchmarks também pra gente
21:37
entender um pouco melhor onde que o grochi se sai melhor, né?
21:40
O fato é, é que o próprio Elon Musk ele fala assim que o
21:44
modelo. Né?
21:45
É melhor do que nível doutorado em todas as disciplinas.
21:49
E de fato, quando a gente olha para os benchmarks do riomans
21:53
last exame, por exemplo, por exemplo, né, que é um exame que
21:55
tem 2500 questões de nível doutorado mesmo que são
21:58
selecionadas a mão de várias matérias, aí por exemplo,
22:01
matemática, física, química, linguística, engenharia.
22:04
O groch tem realmente uma nota muito boa, então o groch 4.
22:09
Ele chega em quarto lugar no ranking aí dessa do riomans
22:12
lastxem e o groch 4. Teve com o Python e acesso à
22:16
internet, ele está em primeiro lugar, passando aí, por exemplo,
22:20
o geminai deep search Oo 3 com a internet, o geminai 2.5 pro.
22:24
Então é um modelo realmente que parece que se dá muito bem para
22:28
essas questões mais complexas mesmo, né?
22:31
De matemática, de raciocínio muito complexo.
22:34
E o bem de deles é bem esse mesmo, saindo muito bem,
22:37
principalmente em exames de matemática.
22:39
Então é um modelo bem interessante para esse tipo de
22:43
de aplicação mesmo aí com. Quando a gente vai para LM
22:45
arina, né? Que é que ela faz aquela
22:48
classificação enorme lá de modelos.
22:50
O grochi tá lá em terceiro lugar, empartado Na Na parte
22:54
overview, tá geral mesmo, de generalista, tá, ela está em
22:58
terceiro lugar, empartado aí com o forou e o 4.5, né?
23:02
Do GPTE, perdendo para o germinai 2.5 pro EOO 3.
23:06
Então também teve uma boa performance na LM arina,
23:10
principalmente considerando essa área mais generalista, né?
23:12
De texto, enfim, de linguagem mesmo.
23:15
Mas quando a gente vai para codificação, ele já não está tão
23:18
bem assim, né? Está na posição, na no décimo
23:21
lugar lá, né? Claro que antes dele tem alguns
23:23
que estão empatados, mas eles ficam.
23:25
Ele fica abaixo aí do geminai 2.5 pro, do o 3 dos modelos da
23:29
OpenAI, do 4 ou do 4.5 dos modelos da antrópic, tanto sonet
23:33
quanto o Opus 4, até do depsy, que está atrás em relação à
23:37
codificação. Enfim, não me parece então que é
23:39
um modelo tão específico, né? Para a codificação, mas é um
23:43
modelo Extrema. Mente, na minha visão nichado,
23:46
que é um modelo para resolver problemas muito complexos de
23:50
matemática, principalmente igual, né?
23:51
Eu acho que o Elon Musk falou muito bem nisso aí, dele ser um
23:54
modelo de doutorado mesmo, né? Então ele é um modelo de se usar
23:57
em problemas complexos, provavelmente para o dia a dia
23:59
ele serve, talvez você vai encontrar modelos melhores,
24:02
porque 11 dos feedbacks que ele tem é que ele é um modelo lento,
24:05
por exemplo, né? Então talvez para uma utilização
24:07
normal do dia a dia, que você vai perguntar quais filmes estão
24:10
passando no cinema, no shopping mais perto de mim, ele não vai
24:12
ser o modelo que você está buscando, né?
24:14
Isso? Só pra dar um pouco de explicar,
24:16
sabe sobre o que você falou também em um determinado
24:18
momento? Aí você falou que ele ficou em
24:19
terceiro, mas quando estava usando Paint e internet ele
24:21
ficou em primeiro. E é legal a gente falar isso
24:22
também, que essas avaliações de LLMS hoje também elas permitem
24:26
esse essa utilização de algumas ferramentas extras para melhorar
24:29
o desempenho da da sua LLM para conseguir uma resposta melhor.
24:33
E é o que eles fizeram também, né?
24:34
Eles usam ferramentas como Python com acesso à internet,
24:37
como fazer alguma busca em tempo real para não pegar só o que
24:39
eles têm de base de dados para poder usar uma ferramenta
24:42
externa. E está tudo bem, inclusive a
24:44
gente vê. Gente, desenvolvedores aí
24:46
desenvolvendo jogos. Teve um desenvolvedor que ficou,
24:48
teve um tuíte aí dele que viralizou ali, que ele pegou um
24:51
final de semana e fez um jogo completo assim usando o croc 4.
24:54
Só que mesmo ele tentando promover o groc 4 e tal em
24:58
alguns determinados momentos, ele usou outras ferramentas,
25:00
chegou até a usar outras LLMSE para a visão das empresas das
25:04
LLMS. Isso está tudo bem assim, igual
25:06
a Fernandinha falou, pode ser um modelo mais nichado.
25:08
Às vezes tem gente que está mais focado em 11 modelo para gerar
25:11
código, outra está mais focado em utilização para o dia a dia,
25:14
então. Tem, tem essas variações aí de
25:17
como usar, como avaliar. É isso aí então, né?
25:20
Falando aqui sobre deve, enfim, o que que muda aí pro deve?
25:24
Eu Acredito que não é um modelo que foi especializado em código,
25:27
assim como a gente tem outros, por exemplo, os dantropk, né?
25:30
Continuamos com nosso queridinho.
25:33
Continuamos com o nosso queridinho, né?
25:35
Que está especializada em código, mas o groc está aí,
25:38
enfim, né, com as suas habilidades complexas aí de
25:41
resolver questões difíceis e tal.
25:44
Nível doutorado. Mas acredito que não é um modelo
25:46
tão atrativo para os desenvolvedores, para utilização
25:50
mesmo no dia a dia e tudo mais. Anão ser que seja um
25:53
desenvolvimento bem específico que queira integrar com o ex, aí
25:58
realmente o grock 4 já tem isso nativamente lá.
26:01
Então você não tem que fazer nenhum MCP para consultar o
26:03
Twitter. Isso já está nativo dentro da
26:06
LLM, não precisa se preocupar com isso.
26:08
Bom, mesmo falando isso para quem quiser testar o grock 4,
26:12
ele está disponível no cursor, que é a ideia que eu.
26:14
Uso no meu dia a dia. O grock 4 está lá disponível,
26:18
vale o teste, mas como eu falei, acredito que não ainda, né?
26:21
Os modelos da antrópica aí são melhores para a codificação.
26:25
Os queridinhos é o antrópic, o cloud junto com o cursor, né?
26:29
Por enquanto. É exatamente e aí falando um
26:32
pouquinho sobre futuro, Angelo, que eu acho que é legal a gente
26:35
falar, fazendo até um ELO aí com a parte de codificação, que é o
26:39
que a gente está falando, que talvez o grock 4 não seja.
26:41
É o forte dele, mas a ex i está. Prevendo lançar num modelo de
26:47
coding agora em agosto, então assim pode ser, até que no dia
26:50
que esse episódio for lançado, esse modelo já tenha sido
26:53
lançado, né? Esse modelo de coding aí da ex
26:55
AI, mas então eles estão planejando aí no road map deles
26:59
lançar um modelo um pouco mais especializado em coding.
27:03
Então vamos aí, é o que eu estou, estou ansiosa para
27:06
acompanhar, para ver se realmente vai vim com bons
27:09
benchmarks de código, mas mais do que isso, né?
27:12
Uma boa, bom feedback da comunidade relação.
27:14
Nada com o código, né? É, e eu vi essa notícia mesmo
27:17
que eles estão lançando o que eles chamaram de até até nome,
27:19
né? Isso que você falou é o grocfor
27:21
code, né? E aí fica a especulação aí, né,
27:24
eles estão fazendo isso pra essa área de desenvolvimento, né?
27:26
Será que eles vão fazer outros modelos mais focados em outras
27:30
áreas também de sei lá, saúde, finança, o negócio de marketing,
27:34
não sei como eles lançaram, foi um período muito curto, né?
27:37
Do groc 3 para o groc 4, já estão prometendo o grocfor code
27:40
aí em breve também, é fica de olho agora nos tweets do Elon
27:44
Musk para ver o. O que que novidade que ele vai
27:46
trazer pra gente? Exatamente, e eles também falam,
27:49
né, de alguns outras coisas que eles vão lançar aí ao longo do
27:51
ano, né? Em setembro eles estão
27:53
planejando melhorar as capacidades.
27:55
Você até falou um pouquinho sobre multimodalidade, né?
27:57
Mas eles estão planejando então melhorar as capacidades
28:00
multimodais do groch, né? Deixá las um pouco
28:02
verdadeiramente multimodal, deixar o modelo verdadeiramente
28:05
multimodal e outubro estão planejando um modelo aí de
28:08
geração de vídeo também, acho que tentando aí competir com
28:11
view 3, por exemplo, do Google, né?
28:13
Enfim, estou querendo acompanhar.
28:15
Vamos ver aí o que que a ex i vai fazer em seus próximos
28:18
passos e ver se ele realmente vai competir, né?
28:20
Nos no que a gente trata aqui, né?
28:22
Que é código, principalmente. Outras novidades que eu vi
28:25
também foi que eles estão de novo, voltando aquela parte
28:28
polêmica com questões éticas, a busca da verdade acima de tudo,
28:32
né? Eles buscam melhorar isso cada
28:34
vez mais, mesmo que isso confronte o politicamente
28:37
correto. Então, na hora que eu que a
28:39
gente consegue começa a pesquisar sobre a visão de
28:41
futuro do grock 4 da ex, IE tal, ele sempre cita.
28:44
Então, essa busca pela verdade, mesmo que confronte com algumas
28:48
questões e éticas, políticas, sociais, o que é um perigo, né?
28:52
Aí eles têm que balancear isso bastante, porque isso pode ser
28:56
um tiro no pé para eles. É e tem que ver exatamente, né?
28:59
O quanto que isso pode afetar, né?
29:01
A credibilidade e a confiança dos usuários com os modelos da
29:05
ECIE até a reputação mesmo da empresa, né?
29:07
Você? Falando da empresa, das
29:08
empresas, porque assim falando de futuro de novo, né?
29:11
Eu comentei jornalismo, mas eles querem integrar o é o grock 4 ao
29:14
Zé Lelê. Times da ex AI no Tesla, sabe o
29:16
Elon Musk tem outras empresas, o ex AI já consulta o ex, eles
29:20
querem colocar isso dentro do Tesla.
29:21
Ô cara, o Elon Musk quer criar um cluster das empresas dele
29:25
ali, com uma integração bem na ativa de tecnologia ali dentro
29:28
das coisas que eles estão produzindo, né?
29:30
Se afetar a reputação de um, vai espirrar para os outros também.
29:33
Com certeza. Bom, vamos aí aguardar então as
29:35
cenas dos próximos capítulos e as novas polêmicas que a gente
29:38
sabe. Que polêmica sempre tem quando
29:40
está falando de Elon Musk, de ex.
29:41
AI, AI. E aí a gente traz as fofocas
29:43
aqui, né? Eu acho que é isso.
29:44
Pessoal, obrigado até mais. Até a próxima.
29:47
Até mais gente, tchau, tchau, valeu.