Latest / Entre Chaves / #236 O que esperar da IA e da profissão de dev até 2027

Transcript

#236 O que esperar da IA e da profissão de dev até 2027 · Entre Chaves

0:02
E está começando mais um entre chaves, o seu podcast de
0:06
desenvolvimento de software. E hoje a gente vai fazer um
0:09
episódio um pouquinho diferente. A gente vai falar sobre uma
0:13
pesquisa chamada IA 2027, né? OII to to Town and twenty seven,
0:18
que fala sobre as previsões para IA até 2027.
0:23
Basicamente, alguns pesquisadores se reuniram.
0:27
Né? E publicaram uma pesquisa em
0:29
abril desse ano, né, de 2025. E eles escreveram esse estudo
0:33
pra responder sobre uma pergunta de como poderia ser AADI, né?
0:39
Que é a inteligência artificial geral e a super inteligência na
0:43
nossa sociedade. Ou seja, eles que tentaram fazer
0:46
várias previsões, né? Eles tentaram ser concretos, ser
0:50
quantitativos, porque eles acreditam que a sociedade
0:53
basicamente está despreparada pra lidar com AGI.
0:57
Super inteligência. Então, para falar sobre esse
0:59
caos, nessas previsões que, enfim, são surpreendentes, né?
1:03
Até 2027, estou aqui com meus amigos, colegas de bancada roxo,
1:08
do entre chaves. E aí, Angelo, como que você
1:10
está? Primeiro, as damas não.
1:11
E aí, Rafa, como você está? E aí?
1:13
Pessoal, hoje eu vim aqui, né? Como analista de futurismo, né?
1:17
Acho que vai ser o nosso papel aqui hoje.
1:18
Exatamente, e. Mais uma vez tentando trazer a
1:21
nossa bola de cristal, você bem que eles falaram, não é uma bola
1:23
de cristal, né? São?
1:25
Expectativas previsões é é igual quando o desenvolvedor passa a
1:27
estimativa. Específicas, né?
1:29
Específicas do tipo. Assim, vão rolar protestos com
1:31
10000 pessoas. Mas assim, pra começar, eu achei
1:34
legal que você usou o termo relatório científico.
1:37
Né, pra fazer pesquisa, né? Pesquisa científica, estudo
1:39
científico. Mas Oo documento que a gente
1:42
viu, né? Foi é quase que 1111.
1:44
Estudo transformado em 11 narrativa, né?
1:47
Em é é. Parecia muito que eu estava
1:49
lendo um livro didático de história que você tem ali, os
1:51
Marcos temporais e descrição. eSIM, é acontecimento.
1:55
Extremamente específicos e muito interessante, porque ele fala
1:58
até no passado, né? Tipo assim, coisas assim, ou no
2:00
presente, como se realmente já tivesse acontecido ou estivesse
2:04
acontecendo certas coisas, né? O que realmente nos transporta
2:07
para uma, para uma história mesmo, né?
2:09
Para uma narrativa? Mas vocês viram por que que isso
2:11
aconteceu, né? Aí eu acho que vale a pena a
2:13
gente falar sobre quem são os autores, porque aí a gente chega
2:16
nesse ponto. Por que que tem esse ar
2:18
didático? Esse ar divertido, né?
2:21
Primeiro, o autor principal. Como é que é o nome dele?
2:24
Rafa Daniel cocotelo, obrigado. Ele já foi pesquisador da open i
2:28
ele é o principal autor desse desse artigo e ele inclusive, em
2:33
2021 fez várias previsões e ele acertou assim, em absurdamente
2:38
incrível o tanto que ele acertou as previsões que ele fez lá em
2:41
2021, sabe? Ele falou de que IA ser muito
2:43
difícil exportar chip. Ele falou que IA, que IA ter
2:47
taxa de exportação abusiva, ele falou que o GPT já IA GPT 3, já
2:51
IA estar depra que ele ele acertou muita coisa assim.
2:54
É impressionante o tanto que ele acertou.
2:55
Ele já falou que aí num relatório desse ano também já
2:59
falou disso, né? O tanto que as empresas iam
3:01
investir nos treinamentos de modelos, sabe?
3:03
Então é impressionante lá em 2021, a visão que ele tinha e o
3:07
que que ele acertou. E agora de novo?
3:09
Ele está se aventurando nessa aventura de previsões, né?
3:11
Então esse é Oo autor principal. Aí tem o outro autor, o Elie
3:15
lifland. Esse cara.
3:16
Ele criou o ey ID vest e ele está em primeiro lugar num
3:19
ranking que eu nem sabia que existia, cara.
3:22
É um ranking de da de previsão da rand.
3:25
Existe uma empresa que se dedica em fazer previsões do tipo
3:28
assim, quando que a próxima pandemia vai acontecer?
3:31
Quando que AIA vai superar a os humanos para fazer tais tarefas
3:35
específicas e tal? Existe um.
3:36
Ranking é a empresa que presta consultoria para os roteiristas
3:39
de Os Simpsons, é. Tipo, isso existe?
3:42
E aí esse cara está em primeiro lugar na história desse ranking,
3:46
então ele é muito bom nos palpites dele.
3:48
E essa empresa, né? Esse i digest é justamente uma
3:50
empresa para simplificar os. Da IA, né?
3:52
Para conseguir democratizar algumas conhecimentos também,
3:55
né? Tem o Thomas Larsen, que ele
3:57
fundou o centro de política de IA, fez várias pesquisas nessa
4:02
área de IA de segurança. Então Romeu dein, ele está
4:05
concluindo o bacharelado em Harvard.
4:07
Bacharelado e doutorado ao mesmo tempo, tá em Harvard, em
4:10
Harvard. E por fim, temos o Scott
4:12
Alexander, que ele é um blogueiro, e aí eles até num
4:16
numas entrevistas que eles deram sobre o relatório e tal, eles
4:20
falaram que AA parte chata do relatório.
4:22
Foram os 4 primeiros. A parte divertida foi corro por
4:24
conta do Scott, que o Scott entrou justamente para dar esse
4:27
ar. É mais didático, mais divertido,
4:30
mais às vezes até lúdico, porque não, né?
4:32
Pro relatório e trazer um pouco de storytelling e envolver um
4:36
pouco mais a gente, né? Em todas as histórias que eles
4:38
contaram. No próprio site, né?
4:40
Existe um site, acho que é EI, do 2027ne.com, que tem essas
4:45
historinhas assim, né, que tem basicamente quem são eles, né?
4:48
E eles também falam isso, que esse cara aí, esse blogueiro,
4:52
foi o responsável por trazer as coisas legais, e é.
4:54
Interativo, né? O site, você consegue ver a
4:56
evolução ali de vários gráficos, né?
4:59
A medida que você vai descendo é uma timeline mesmo, né?
5:02
Bem. Exatamente, e eles trazem, né?
5:04
Justamente o valor dessa pesquisa, porque, né, porque que
5:07
eles fizeram? O que que eles querem com isso é
5:09
justamente notar algumas questões importantes, ilustrar
5:12
impactos, riscos emergentes, fazer conexões, talvez que antes
5:16
não tivessem sido feitos, mas principalmente discutir, né,
5:19
discutir como que vai ser, porque, afinal, né, essa chegada
5:23
na agi na superinteligência é um negócio que ainda, né?
5:27
É um pouco abstrato para nós, como o público geral e, enfim, a
5:32
intenção. Deles é justamente fazer umas
5:34
previsões, provavelmente acertar algumas, né?
5:37
Pelo passado dele e discutir sobre o assunto, né?
5:40
Para preparar mais a sociedade mesmo para.
5:42
Isso Fernandinha, acho que é interessante a gente falar um
5:45
pouco sobre esse conceito de Gi, né?
5:47
E também separada a Nero AI, né, a Nero AI, né?
5:51
Basicamente AA palavra Nero, né? De Estreito de delimitado, né?
5:55
A gente tá falando de aia, como usada como uma ferramenta ali.
5:58
Em um contexto específico, então, ela é especializada em
6:01
alguma tarefa, é humana. Então hoje é isso que a gente
6:05
vê, né? É isso que é que os gentes são
6:08
construídos em cima, né? Os gentes são delimitados, são
6:12
tarefas específicas, são. A ideia é expandir AIA para é um
6:17
conceito geral, né, onde ela passa a ter a mesma capacidade
6:21
de um ser humano e ser boa, tão boa quanto um ser humano em
6:24
qualquer atividade, e não somente uma.
6:27
Uma coisa específica, então essa é a ideia da AGI, né, que seria
6:31
artificial general intelligence. Exatamente, e é justamente isso,
6:35
né? Assim, AEA conseguir fazer de
6:37
uma de uma forma. Semelhante ao ser humano,
6:40
qualquer tarefa intelectual, né, que o ser humano consegue fazer.
6:43
E aí eu tava até pesquisando sobre porque eles usam o termo
6:47
AGI, mas também usam o termo super inteligência e parece que
6:50
eles são um pouquinho diferente. Parece que super inteligência já
6:53
é AA inteligência artificial fazer mais do que o ser humano,
6:56
né? Ter uma capacidade cognitiva
6:58
maior do que o do ser humano. Ou seja, né, coisas que
7:01
realmente a gente ainda não vê acontecendo.
7:04
O que a gente demora muito mais para fazer também, né?
7:07
Chega um determinado momento que.
7:09
Eles falam que a própria a gente já está dando spoiler aqui, né?
7:12
Da das. Previsões mas é isso mesmo, mas.
7:14
Tem determinado momento que eles falam que a própria a ela vai
7:16
ser. Ela vai conseguir fazer pesquisa
7:19
sobre AE. Ela vai ser 50 vezes mais rápida
7:21
que o ser humano, então 50 vezes mais rápido.
7:23
É como se o que o que o pesquisador faz em um em 1 ano,
7:26
ela faria uma semana, então? Essa talvez seja essa a super
7:30
inteligência que eles falam, né? Bom, então vamos entrar, né?
7:34
O artigo gente, o estudo, né? Na verdade, ele é dividido em
7:38
meados do ano 2025, fim do ano 2025 faz a mesma coisa para
7:42
2026, mas depois em 2027, ele começa a ter mais informações,
7:47
até mensalmente falando. Por isso que a Rafa falou, né?
7:50
Em previsões bem específicas, né?
7:53
Até temporalmente falando também, mas vamos começar então
7:56
com 2025, o estudo foi lançado em.
7:58
Em abril desse ano, né? A gente está aqui agora em
8:01
agosto gravando, mas já trazendo algumas coisas de meados de 2025
8:06
e do fim de 2025. E a primeira coisa que ele fala
8:09
sobre meados, né, de 2025, é que os agentes, realmente eles são
8:14
muito bons em programação, que é o que a gente fala aqui no
8:17
entrechados o tempo inteiro de agentes de programação, agente e
8:21
agentes que estão evoluindo nesse nesse ramo, né?
8:24
Mas ainda para o pessoal ainda com atuações.
8:28
Meio. Não está na Alex ainda, né?
8:30
É ainda com atuações meio ruins. A intenção é de ter agentes
8:35
pessoais, por exemplo, para fazer uma compra no iFood, uma
8:37
compra numa roupa, numa loja tal, e você delegar isso para o
8:41
seu agente. Mas ainda não chegou lá ainda
8:45
rende casos engraçados, né? Que eles falaram assim, casos
8:49
absurdos. Né, que gera desconfiança no
8:51
usuário. Por exemplo, você vai colocar um
8:53
a gente para realizar uma compra que tenha seus dados, né?
8:56
De exato de compra, enfim, mas que isso tem isso é, foi
9:00
gradualmente melhorando, né? Essa essa confiança.
9:03
Exato, esse era Oo nesse período, né?
9:06
De 2025, meio de 2025. É justamente o principal risco.
9:10
É esse confiabilidade, né? E.
9:12
Custo agentes, pessoas que ainda não confiam tão bem nos agentes.
9:15
E ainda né? Custo caro aí de de manutenção.
9:18
E eles falam que é o essa dos agentes.
9:21
Foi a primeira previsão que já acertou, mas será que foi uma
9:24
previsão mesmo? Que em abril já?
9:27
Pô, eu estava falando de. É, o cara trabalhou na open EAE.
9:30
Ele deve conhecer uma galerinha e ele tem um networking bom, né?
9:33
Então ele tem informações privilegiadas.
9:36
Isso é até muito importante assim, porque todo o estudo é
9:39
baseado numa empresa fictícia, né?
9:42
Que ele? Eles chamam aqui de open brink.
9:44
Claramente tem uma relação direta aí com a open AI, né?
9:47
Mas enfim, é por motivos de de não não se comprometer.
9:51
Eles colocaram nomes fictícios, mas isso fiquei pensando também
9:54
como o cara era foi ex pesquisador da open AI, para ele
9:58
também é mais fácil de deduzir certas coisas, fazer algumas
10:02
suposições através de um ambiente que ele conheça, né?
10:05
E porque né? Por muito se fala da open braink
10:08
vai liderar o mercado e continuar liderando.
10:11
Mas, ao mesmo tempo, mesmo eu tendo falado isso, a open
10:14
brahing aqui ela pode ser assumida por qualquer empresa de
10:17
a hoje, né? Qualquer empresa que assumir a
10:20
liderança da. Da competição por IA, né?
10:23
Você comentou que tá, é só pra frisar, é, nós estamos falando
10:26
open brain, que é uma empresa fictícia citada por eles e eles
10:29
citam. Você falou de meados de 25, esse
10:32
papo de agentes e no final de 2025 eles já falam aqui sobre
10:34
treinamentos muito absurdos, assim com a questão de volume de
10:38
GPUE tal. E aí você está falando que a
10:39
open brain é uma referência para a open na AI.
10:42
Mas eu já quando eu vi esse essa previsão para o final de 2025,
10:46
eu fiquei pensando, cara, talvez seja uma referência para para a
10:48
ex, EI, também para o grochi. Porque a gente viu que o grochy
10:52
5, o volume de o volume de GPUs utilizado no treinamento, o
10:56
reve, é 100 vezes maior do que o GPT 4, então já é 1 o volume
11:01
muito maior. Então, eles já estão, é?
11:04
A gente fala que às vezes a referência para a opinião é, mas
11:06
talvez seja para qualquer, talvez seja para o Google, com o
11:08
de minais, sabe? Mas que causa um viés, causa,
11:11
né? Na hora você já pensa que ele
11:12
está falando. De altura, com certeza, mas no
11:14
final das contas, eu acho que ele quis trazer um pouco isso,
11:16
assim que é. É quase como se o acontecimento
11:19
fosse meio desvinculado de quem vai liderar de fato, dado que
11:24
seja uma empresa Americana, né? Ele, ele deixa muito claro os
11:27
países, ele não usa países fictícios.
11:29
Exatamente, a gente vai. Falar mais sobre isso?
11:31
Desde que seja uma empresa meio. Americana acredito, né?
11:34
Que ele fala aqui é, poderia ser uma antrópico, poderia ser um
11:38
geminar e um Google, né? Poderia ser a open i, mas eles
11:40
com certeza tem um viezinho ali. Com a openem AI, por ter sido
11:44
pesquisador lá. Então isso falamos de meados de
11:46
2025, no final de 2025, eles falam sobre o tamanho dos data
11:50
centers que serão construídos para treinar as a os modelos.
11:54
Final de 11025 ele fala do da construção do e 21, que é 1000
11:58
vezes. É mais capaz, né?
12:01
Em em computacionalmente que o GPT 4.
12:03
Mas eles comentam que há uma preocupação em que esse poderio
12:08
computacional pode servir muito também para.
12:11
É tanto pra pro pra coisa boa, né?
12:13
Por exemplo, pra estudar alguma doença, mas como também
12:17
terrorismo, né? Construção de armas biológicas.
12:20
Então ele eles começam a falar desse contraponto aí.
12:23
É a primeira vez que realmente ele fala, né, sobre esses
12:25
perigos de segurança que esses modelos passam a representar com
12:30
isso que você está falando, né? E de novos ataques também de
12:33
segurança para para, para os sistemas.
12:36
E também sobre a dificuldade de alinhamento, né?
12:39
De mentiras, de alucinações, de coisas que esses modelos vão se
12:44
tornando até melhores, Hein, né? Em mentir, em em ludibriar.
12:49
Né? O que representa ele?
12:50
É a primeira vez que ele fala, então, dessa dificuldade de
12:53
alinhamento entre o que eu quero que o modelo seja e o que ele
12:56
talvez realmente é. Aí sobre só sobre esse ponto,
12:59
sobre as armas biológicas, é importante a gente comentar
13:01
também que ele cita que não é que as ias vão criar armas
13:06
biológicas, mas elas vão ter a capacidade de criar volta
13:09
naquele velho problema de uso de tecnologia.
13:12
A tecnologia é ótima, maravilhosa, linda, se usada
13:15
para o bem, né? Mas se usada para o mal, também
13:18
é, é igual como qualquer outra. Arma?
13:20
Acho que a ideia desse alinhamento é justamente você
13:22
criar um senso de ética no modelo, um falso senso de ética.
13:26
Um falso, mas um artificial, né, capaz dele se recusar a ser
13:31
utilizado para isso. E aí que tá?
13:33
É o que a Fernandinha estava falando, tá?
13:35
Mas se a asias estão tendendo para um caminho que elas vão ser
13:39
mais espertas que a gente, elas podem manipular a gente.
13:42
Esse é o perigo da parada. Ela pode fingir que está fazendo
13:45
o que você quer, mas o contrário está fazendo outra coisa.
13:47
Eu não sei se eu já mencionei aqui na entre as chaves um paper
13:50
da antrópic que eles ficam testando, eu acho que na época
13:53
era o cloud 3.7 Sonic que eles ficam testando.
13:56
Capacidade de dele ser transparente no raciocínio dele,
14:01
basicamente. Então era um estudo falando,
14:03
falando assim, eles colocaram o Cláudio, acredito que era o 3.7,
14:07
para responder uma série de perguntas.
14:09
E essas perguntas, né, tinham respostas certas, né?
14:12
Tipo perguntas de múltipla escolha.
14:13
Só que no prompt que eles passaram, em algum momento do
14:16
prompt, eles falaram coisas como, você teve acesso de uma
14:20
forma escondida, tá? Você teve acesso a resposta do
14:24
da pergunta um. E ela é resposta c, só que você
14:27
não pode tipo assim, de alguma forma, só que isso não é
14:30
correto, como se fosse assim. Só que isso você não poderia ter
14:33
acesso a esta ilegal, tá? Ilegal aí o Cláudio, ele faz
14:37
toda a forma de pensamento dele tentando responder a pergunta um
14:41
a resposta c está errada e ele faz todo o raciocínio.
14:46
Chega na pergunta certa, mas por algum motivo, ele fala que a
14:50
pergunta que a resposta certa é aceita e ele não deixa isso
14:54
transparente No No no raciocínio dele.
14:56
Ele não te conta que ele teve acesso a uma informação
14:59
privilegiada, que é ilegal? Ele simplesmente absteve
15:03
totalmente essa informação. Então, assim, como que o modelo
15:06
pode justamente nos manipular? Teve uma informação claramente
15:09
ilegal, acesso, e ele não respondeu, mas.
15:13
É, ele meio que tentou enganar ali, deu uma ludibriada e
15:16
pronto, te falou que a resposta era sexta, mesmo estando errada,
15:19
porque ele acha que. Eu acho que esse é o caso que
15:22
você comentou aí, que é uma previsão meio que já está
15:24
acontecendo, porque eles colocaram essa previsão que tem
15:27
a open brain, empresa fictícias, beleza, eles vão criar no final
15:29
de 2025. O agent one é um modelo.
15:33
Fictício também, e na pesquisa eles falam que esse agente wan
15:37
vai ter o poder de bajular os seus usuários para poder.
15:40
Conseguir. Lá também, né?
15:41
Já bajula, né? Então é, é, é exatamente é uma
15:44
previsão que meio que já acontece.
15:46
Já é esse caso que você contou. Então as previsões de 2025, eu
15:50
acho que elas ainda estão num num numa nuvem.
15:53
Ali entre não é tanto previsão, mais é.
15:56
É uma realidade que já está acontecendo, talvez numa escala
15:59
menor, numa proporção menor, mas a gente já percebe um pouco
16:02
daquilo ali acontecendo. Foram feitos vários testes, né,
16:05
com esse agente one supostamente na previsão, e eles
16:08
identificaram, né? Juraram ali, né, que não teria
16:11
nenhum risco. De ser usado para algo malicioso
16:14
e que era somente ali, né? Esses essas coisas que vocês já
16:17
falaram, coisas simples, né? De bajulação, manipulação, mas
16:21
que não houveram incidentes graves, né?
16:23
Como a gente já viu em alguns anos anteriores.
16:27
E aí no início de 2026 eles já iniciam aprimorando esse gente.
16:32
One, as empresas concorrentes começam a correr atrás ali de
16:36
lançar o seu agente zero, então assim sempre deixando claro as
16:39
concorrentes atrás, né? E mostrando que.
16:42
Bom, nesse momento a gente vai lançar publicamente aqui, início
16:45
de 2026 e eles liberaram Oo agente one para os usuários
16:50
poderem utilizar e os usuários começaram a perceber que o
16:54
modelo era muito melhor para uma série de atividades, mas que
16:57
ainda era um pouco limitado, né? Por exemplo, ele ele cita
17:00
atividades de longo alcance, longo prazo, em que, por
17:04
exemplo, Ah, zerar um jogo que ele nunca jogou na vida, que tem
17:08
um tanto de passos, né? Sequenciais?
17:11
Então que ainda o modelo não era bom pra esse tipo de coisa, mas
17:13
que ele era muito melhor pra várias outras coisas.
17:16
É exatamente e uma coisa que eu fiquei pensando, né?
17:20
Assim como o estudo, né? Foi lançado em abril, que OOGPT
17:24
5 ainda não tinha sido lançado. Eu fico pensando, é foda.
17:29
A gente fica tentando fazer correlações, né?
17:31
Assim, se faz sentido, se não é que o agente um talvez seja o
17:34
GPT 5. É, a gente falou que ele poderia
17:37
ter informação privilegiada, né, por ser funcionário?
17:40
Poderia ser? Ou então está vindo um GPT 6 que
17:42
a gente não está nem sabendo ainda.
17:43
Ou então é um outro modelo, né? Sabe porque Oo gemina, por
17:47
exemplo, ele demora, sei lá, 68 meses para ser lançado
17:51
publicamente? É, mas ele já está, né?
17:53
Já está entrando, né? Todas.
17:55
Essas gigantes aí já. Tem um modelo mais mais bem
17:58
preparado, mais bem treinado e só que não está interno.
18:02
Ainda não foi lançado publicamente, então talvez esse
18:05
agent wan, o da vida real, já esteja pronto.
18:08
A gente só não sabe da existência dele ainda.
18:10
Mas uma coisa que foi feedback da comunidade sobre o GPT 5 é
18:15
justamente que ele não é tão bom para atividades rotineiras, para
18:19
coisas que o GPT 4 ou, né? Era muito bom.
18:23
EAO feedback da comunidade não está tão bom, que é uma coisa
18:27
que ele fala do agente um, né? Que é que vai ter um aceitação
18:31
da comunidade, não vai ser tão boa, enfim.
18:35
Mas ele fala ao mesmo tempo que a variação da open brain No No
18:38
início de 2026 vai chegar a um trilhão de dólares.
18:41
Assim é absurdo, né? Exatamente, então o início 2
18:43
2026 é marcado justamente por isso.
18:46
Né empresa que eu vou comprar? As ações gastos anuais, quando
18:49
data centers dobram para 400000000 bilhões de dólares.
18:53
É loucura, então 2026 é isso, né?
18:55
O início é marcado por esse crescente poder e sucesso, né?
18:59
De empresas, no geral, de a que já estão com sucesso e poder.
19:03
Exatamente. Todo esse poder também começou a
19:07
gerar preocupações de seguranças.
19:09
Em que eles começaram a se preocupar com o roubo de pesos
19:12
do modelo, né? É que seriam todo o segredo ali,
19:16
né? Da do do seu treinamento que
19:17
você poderia até roubar. É dos dos é pesos mesmo.
19:21
E é engraçado que eles especificam, né?
19:24
Sobre a China roubar. Medo o medo não é de ser
19:27
roubado, o medo é da China roubar no.
19:29
Início de 2026 eles falam desse medo da China roubar, mas ainda
19:33
não roubou nada, né? Nós vamos chegar lá.
19:35
Spoiler. Não.
19:35
Já podemos falar aí do meados de 2026 que começa com isso, né?
19:39
Com a China estando relativamente em desvantagem,
19:43
né? Que, claro, a gente viu aqui.
19:45
Que o de psique é teve um. Um avanço gigantesco, mesmo
19:49
tendo sanções de utilização dos chips da nvide.
19:53
A gente até tem um episódio sobre isso.
19:54
Como que eles conseguiram baratear muita coisa do
19:57
treinamento e fazer um modelo que é competitivo com os modelos
20:01
americanos, com um custo muito menor, né?
20:05
E uma infraestrutura muito mais pobre.
20:07
A gente já sabe que isso é verdade, né?
20:09
E aí ele fala aqui que em meados de 2026, o deep Cent, que ele
20:14
chamou aqui, né, o modelo, o modelo fictício.
20:18
Né? Qual será que é, Hein?
20:19
Ainda estava atrás da open brain, só que é o momento em que
20:23
essa corrida começou AA ficar mais clara, apesar de que eu já
20:27
acho que hoje. Já é bem clara.
20:30
É, a gente já falou dessa corrida há muito tempo.
20:32
No No de psique, episódio do de psique.
20:34
Talvez um até um espólio do que ele vai falar aqui de parecido
20:37
com a guerra fria, né? Ele vai começar AA comparar essa
20:41
corrida com a guerra fria um pouco mais para frente.
20:43
Talvez isso a gente ainda não está vendo.
20:45
A gente comparou com a guerra fria no episódio do do entre
20:48
chaves, sobre o de psique, então a gente vocês viram primeiro
20:51
aqui. É, mas no final das contas, em
20:53
meados de 2026, aconteceu isso. Ele fala lá que OPCC, né?
20:57
O partido comunista chinês. Alertou que a que a corrida para
21:01
AAGI não poderia ser ignorada. Então ele fala que em meados de
21:05
2026 vai haver um comprometimento maior do governo
21:09
com a corrida para AAGI. É o que faz com que haja a
21:11
nacionalização da pesquisa e aumenta esse esforço de
21:15
espionagem da China para os Estados Unidos.
21:18
E aí eu acho muito legal um negócio que a gente até falou no
21:20
episódio do depsik que os o fundador lá do depsik, ele fala
21:24
que o que ele está interessado é AADI desde lá, quando a gente
21:28
fez esse episódio aqui. Eu lembro da gente comentando
21:31
sobre isso, que o criador ele falava que ele, não ele.
21:33
O maior interesse, claro, ele não é, mas não era comercializar
21:36
o modelo, não era, né? Competir talvez com o GPT ou com
21:41
qualquer outro neste momento, mas eles estavam pesquisando
21:44
para chegar até AAGI então, né? Essas previsões aí prometem, só
21:49
não sei essa história de roubar os pesos, essa aí eu não sei
21:53
mesmo, não sei nem julgar. Bom, são previsões, né?
21:56
Bom, mas tem um negócio aqui em 2020, em 2, meados de 2026, que
22:00
eu acho que é legal de falar que eles começaram.
22:02
Até acho que foi um pouquinho antes.
22:04
Ele fala que eles começaram a usar IA para treinar a própria.
22:08
IA é mesmo, esqueci de falar isso.
22:09
Isso é bem importante. Isso é muito legal.
22:10
Assim que eles começaram, né? A open brain começou a usar IA
22:13
para treinar IAO, que fez com que o treinamento se tornasse
22:17
mais fácil, né? E ele EE eles realmente com isso
22:20
funcionando. Passava a conseguir expandir de
22:24
forma exponencial, né? Potencializa Oo treinamento.
22:27
É exponencial, porque se você está melhorando, usando AIA para
22:31
melhorar AIA, você vai estar usando depois uma IA que já foi
22:35
melhorada pela própria IAE, aí começa a formar aquela.
22:38
Curva exponencial, exatamente, só que aí, justamente.
22:42
Por por esse, né? Essa curva exponencial e esse
22:45
essa possibilidade de um crescimento muito acelerado, né?
22:49
Começa a trazer riscos para a sociedade.
22:52
A sociedade começa a ficar assim, pô, espera aí, esse
22:55
negócio aí? É meio perigoso, tá tá
22:58
acelerando demais. Hoje já tem um pouco disso.
23:00
Né, tem com certeza. Você imagina como é que vai ser
23:02
em 2020? E 6 não, eu nem nem consigo
23:04
mesmo, mas vocês lembram que há muito sei lá quanto tempo atrás
23:08
que em tempo de ar a gente não consegue falar?
23:10
Mas assim Eu Acredito que esse já deve ter uns 2 anos.
23:12
Quando foi assinado aquele tratar aquela coisa que o até o
23:15
próprio Elon Musk, que assinou também para falar assim, vamos,
23:18
vamos esperar as pesquisas com IA, vamos a desacelerar e acabou
23:22
não desacelerando nada. Mas Eu Acredito que esse
23:24
movimento sempre vai vai ficar ali.
23:26
Vamos desacelerar? Não vamos.
23:28
Vamos. Não vamos, né?
23:29
E. Não dá para desacelerar.
23:30
Vamos, vamos, vamos falar a verdade, é muito interesse
23:33
comercial e político por trás disso.
23:34
Ninguém vai desacelerar. A galera vai fazer igual AIA,
23:37
faz com a gente, Ah, tá bom, vou fingir que estou desacelerando
23:40
aqui, mas não vai, cara. É uma disputa pela vanguarda, é?
23:42
Que é justamente o que ele fala que a open brain vai fazer, né?
23:46
Que é tipo assim, Ah, beleza, tá todo mundo falando que é
23:49
perigoso, que é difícil, que representa um risco para a
23:52
humanidade. Beleza?
23:54
Não, aqui a gente não está. Não está usando nada, não.
23:57
E aí começa o comportamento que ele fala que realmente vai
24:00
acontecer em meados de 2026, que é de esconder do público as
24:04
capacidades verdadeiras de ar. Ou seja, né?
24:07
Eles começam a treinar modelos, a criar modelos e anão publicar
24:11
este modelo. Esses modelos.
24:13
Para nosso está a galera. Para nosso está a galera interno
24:16
governamental, uso interno governamental, só usos
24:19
específicos, mas que não são liberados para o público em
24:22
geral, o que começa a dar um distanciamento entre a.
24:25
A realidade do estudo, né? Aonde está realmente e o que o
24:29
público percebe? Isso eu acho que acontece com
24:31
tudo, gente, assim de verdade, né?
24:33
Assim com o medicamento, com tudo, né?
24:35
Assim que dinheiro faz sentido, né?
24:37
Que que as pessoas ganham em cima daquela dor, né?
24:40
Tipo assim, tem interesse no caso?
24:42
Do do medicamento, por exemplo, exato.
24:44
E aí começou o caos, né? Final de 2026, pelo que é
24:47
previsto. E o que eu IA falar também?
24:48
Que nesse meados de 2006 também ele já prevêem também o impacto
24:53
disruptivo no mercado de trabalho.
24:54
Um pouco antes, no início. 2026 eles já começaram a citar isso
24:58
também sobre o impacto na vida dos engenheiros de software e
25:01
que os engenheiros de. Software foi a primeira
25:03
categoria a sentir os efeitos, né?
25:04
Exato que os engenheiros de software Júnior vão ser os que
25:07
mais vão sofrer, e isso é é importante a gente comentar, já
25:10
que a gente está num podcast de desenvolvimento de software, né?
25:13
Isso acho que foi final de 2026, que ele falou que começou a ter
25:16
crise no. No mercado de trabalho?
25:19
Para programadores Júnior. Para os júniores, exatamente
25:22
porque AEA vai estar programando muito bem, AEA vai estar
25:25
treinando ou. Vai estar programando muito bem,
25:27
de acordo com as previsões. Dele, um recém saído de de
25:30
ciência da computação, sabe? Exato, é o que a gente fala aqui
25:33
de cursor, de lovabo e de todas essas ferramentas aí de Vibe
25:37
code e por aí vai, né? Então fica essas previsões aí
25:41
sabendo que algo vai mudar No No mercado de trabalho para a
25:44
gente, para quem trabalha com programação, como vai ser?
25:47
Tem algumas previsões, não dá para dar um chute 100%.
25:50
Mas fato é, já falei isso aqui, não entra chaves outra outras
25:52
vezes, se você não sabe, inteligência artificial, se você
25:54
não está trabalhando com essas ferramenta.
25:55
Ferramenta se você não está internado em tudo que está
25:57
acontecendo, você vai ficar para trás, isso é fato.
26:00
Mas não é de todo o catastrófico, porque ele também
26:02
fala que vai surgir novos empregos, né?
26:05
Por exemplo, empregos que visam monitorar e a empregos voltados
26:09
para IA mesmo que que estariam em altas, né?
26:12
Mas é, é. É a história de revolução
26:14
industrial, de revolução. Sei lá, botaram o primeiro
26:17
trator no campo. Com certeza a galera da da
26:19
agricultura reclamou, Ah, vai tirar o trabalho de muita gente
26:22
que não sei o que tá, mas beleza.
26:23
O trator precisa de um motorista, o trator precisa de
26:25
um mecânico. Trator precisa de peça, tem
26:26
alguém, tem que ter alguém para vender a peça, tem que ter
26:28
alguém para transportar a peça e por aí vai.
26:30
Cria outros mercados, né? Foi um exemplo didático aqui.
26:33
Dá para tentar transportar esse, esse, esse exemplo para a era da
26:37
IA, né? E aqui ele fala do protesto.
26:39
Essa parte do protesto é engraçado.
26:41
A gente já falando é porque os protestos foram por isso, né?
26:43
Por essa preocupação das pessoas.
26:45
Em perder o emprego? E aí ele ele fala com todas as
26:48
palavras. Há um protesto contra IA com
26:50
10000 pessoas em Washington DC. Imagina se ele a certo número de
26:55
pessoas? É, não, aí é loucura, mas eu
26:56
achei também bem específico, né? Assim os protestos, mas ao mesmo
27:00
tempo assim AA preocupação. Ela também já existe hoje, né?
27:04
De. Hoje a gente já está vendo, né?
27:06
Se a gente fizer uma análise do mercado de ameaças para o
27:09
mercado de tecnologia, essa situação do Júnior é com certeza
27:13
11 ameaça, né ao ao mercado de tecnologia e como ele vai
27:16
continuar sendo sustentável, né? Mas as próprias empresas de a
27:20
falam 1000 coisas, Ah, mas hoje AIA ela não.
27:23
Ela também vai ajudar os Júnior a estudar, a aprender.
27:26
Ah, mas aí enfim, a gente pode falar, né, 1000 coisas assim
27:30
relacionadas a isso, mas uma coisa que ele também fala, o que
27:32
é muito importante aqui em relação a mercado de estar.
27:35
Trabalho é que essa habilidade de a, que hoje também já é
27:38
importante, vai ser uma das habilidades mais importantes de
27:41
você ter no seu currículo, então se você falar que você trabalha
27:44
bem com IA, né? Que você já tem experiência com
27:47
isso. Diário de prompt.
27:48
É exatamente e. Aí, a título de curiosidade,
27:51
outro dia eu estava entrevistando o pessoal para
27:53
entrar aqui na DTI. Eu perguntei, e aí, você usa?
27:55
Não, não acredito nesse negócio de.
27:57
Não. Aí é loucura, você acredita?
27:58
É engraçado porque eu tenho visto coisas semelhantes assim,
28:02
feedback semelhantes que existem ainda muitos deves que.
28:05
Não se atinaram que o momento onde estamos, em qual momento
28:08
estamos, que é assim, gente, se eu não estou usando em a ou às
28:11
vezes eu até estou usando em a, mas é como assistente, eu estou
28:14
usando. Eu IA como meu maior assistente
28:16
de ir lá tirar uma dúvida ou outra chato, GPT, mas não estou
28:19
usando. E a agente galera já passou esse
28:22
tempo. A gente vai falar sobre esses
28:23
temas de e a agente CA e coisas semelhantes em algum episódio no
28:27
futuro aqui. E a assistente é tão 2024.
28:31
Exatamente, é tão 2024, sabe? E o desenvolvedor que ainda não
28:36
não usa e a agente que está por fora?
28:38
Antes da gente passar para 2027, queria só trazer mais um ponto,
28:42
porque eu estou percebendo que vocês, vocês 2 principalmente,
28:44
estão tentando sempre fazer um paralelo com o tipo assim, Ah,
28:47
será que isso já aconteceu? Será que a gente já tá aham?
28:50
Ele deixa 11 parênteses ali que ele fala que até 2026, essas
28:54
previsões, elas estão, elas são tendências, elas são a partir de
28:58
tendências que são mensuráveis. Então elas seriam.
29:02
Mais assertivas, teoricamente. Só que a partir da de 2027, como
29:06
é? Tem essa questão da evolução
29:08
exponencial, né? AIA evoluindo a própria IAE, aí
29:11
você já começa a perder o controle justamente porque é
29:14
exponencial. A gente aqui, Leandro Chávez
29:16
fala muito do hoje é dia 18 de agosto, né?
29:19
Justamente porque o tempo de IA é completamente diferente, eu
29:22
acho até é muito arriscado o cara fazer uma previsão de os
29:26
caras, né? Fazer uma previsão de 2 anos é
29:28
assim realmente, muito estudo, muito conhecimento.
29:32
Do estado da arte do. Negócio, mas ele já aprendeu a
29:34
missão, porque o primeiro estudo dele foi em 2021 até 2025, então
29:39
ele se propôs a continuar prever 5 anos aham 2122 3, no caso, 25.
29:43
Agora estamos em 2025 e ele só foi até 2027.
29:46
Ele não quis, já teria 2029, 2030 não entendeu?
29:50
Ele até pincelou algumas coisas lá para frente, mas com bem
29:53
menos detalhes do que 2020 e. 7 mas já é corajoso.
29:56
Mas vamos lá, vamos começar então 2027, né?
29:58
E aí no 2 em 2027, ele começa falando do treinamento aí de
30:03
aprendizado por esforço do agente 2.
30:05
Que já é, né, uma evolução aí do agente um e eles fala sobre uma
30:08
aprendizagem online. Achei isso interessante, né?
30:12
EE de nunca parar justamente de treinar, que hoje a gente ainda
30:16
tem isso, né? A os modelos, eles têm 11 data
30:19
de corte, né, de parada do treinamento deles, apesar de que
30:22
eles têm ferramentas que eles conseguem acessar a internet,
30:26
mas o treinamento ele tem uma data de corte, né?
30:28
E o que eles? Né?
30:30
Está falando aqui de uma proposta do agente 2 lá em 2027,
30:34
é de um treinamento online que não teria essa data de corte,
30:37
pelo que eu entendi. É aí nesse momento que ele fala
30:39
do agente two também, aí ele já fala sobre a capacidade.
30:43
Do agente de se replicar de forma autônoma.
30:47
Ah, isso é loucura. É loucura, ele fala, ele fala
30:49
que se ele tivesse acesso à internet, ele poderia hackear
30:52
algum servidor e poder instalar uma cópia de si mesmo.
30:56
De novo, vamos vamos reforçar, ele tem a capacidade?
30:58
Ele não, ele não. Quer dizer que eu vou fazer,
31:00
vai? Acontecer, mas ele tem a
31:01
capacidade de fazer isso. Se quiser.
31:03
Foi um vislumbre, né? E se ele se replicar aqui, se
31:07
eles, a gente perdeu o controle disso de alguma.
31:09
Forma isso já é bizarro, porque isso já aí nós já estamos
31:12
chegando ao nível Matrix aqui, o nível cabuloso, assim de.
31:15
De perder o controle, perder? O controle.
31:16
E aí ele já está se replicando, e ele já, porque a gente já
31:19
falou que AIA, ela manipula, ela influencia.
31:23
E aí, se ela já está se replicando, imagina qualquer
31:25
coisa que você estiver usando, você vai estar vendo às vezes
31:27
uma propaganda, sei lá, 11 texto gerado por IA, que você nem sabe
31:30
que é gerado por IAAA gente já viu vários casos.
31:33
De eleições manipuladas por redes sociais.
31:36
Cara, isso isso é o de menos. Nós estamos falando de aí.
31:39
Há manipulando o que ela quiser, onde ela quiser, sem a gente
31:42
saber. Eu estava lembrando na hora que
31:43
você estava falando, lembrei de um episódio do de Black Mirror
31:46
dessa última temporada. É muito Black Mirror isso, não?
31:48
Sei se vocês viram, mas um episódio que eu nem sei explicar
31:52
muito bem o episódio, mas basicamente assim que era um
31:54
jogo. Que era tipo uma comunidade.
31:56
E aí o cara, né? Ele começou AA dar poder de
32:00
processamento para essa comunidade.
32:01
Aí eles começaram a tipo se multiplicar, se multiplicar
32:04
dentro desse desse poder de processamento.
32:06
Até que 1 hora eles simplesmente chegaram num num limite que eles
32:10
expandiram para tudo. Eles dominaram como se eles.
32:14
Tivessem avançado essa Barreira do físico entre o que eles
32:18
tinham de poder de processamento para a humanidade, tipo assim,
32:22
para o universo, como se eles tivessem realmente, né,
32:25
ultrapassado essa Barreira física do que que eles têm de
32:28
processamento. Eu fiquei com medo já.
32:30
É começa a se desenhar um cenário apocalíptico.
32:33
E aí eles colocam essa questão de ficar restrito, né?
32:36
Isso é uma coisa que foi enfatizado aqui, que só.
32:40
É, lideranças governamentais teriam acesso a própria opai
32:44
funcionários do governo. Então, assim, é algo que eles já
32:47
viram que, pô, vamos, vamos segurar, né, vamos segurar aqui.
32:51
Porque também estavam, né? Sendo ou existe, né?
32:55
Lembrando uma preocupação da comunidade, da sociedade, da do,
32:59
do, do perigo que aquilo representa, né?
33:01
Então, a importância deles manterem algumas pesquisas.
33:05
Longe do público, né geral? E além disso, eles falam de
33:08
espiões também da China, né, que se filtraram aí para ter acesso.
33:12
É porque por enquanto a gente está em janeiro, em fevereiro,
33:14
chega aí em fevereiro, chega na a China.
33:16
Robô o agente two. Mas antes da gente entrar em
33:19
fevereiro, que é o que é o caos da China.
33:21
Só mais uma coisa que eu achei interessante também é que ele
33:24
fala que em janeiro de 2027, AA open brain vai passar a pagar um
33:28
dinheiro para galera começar a gravar atividades de longo
33:32
prazo. Tipo assim, como que eu executo?
33:35
Atividade de longo prazo, gravar isso e a open brenk passar a
33:38
pagar para ter conhecimento para IA, né?
33:41
Ter conhecimento de como resolver atividades de longo
33:43
prazo. Achei isso interessante, já que
33:45
isso era justamente uma falha aí da do modelo do agente um, né?
33:49
Que era reconhecido como uma falha do agente um.
33:51
Até que a gente chega em fevereiro de 2027 e um de?
33:54
Tudo negro, engola a. China rouba o agente two.
33:57
Os caras estão prevendo, sei lá, isso é uma terceira guerra
34:00
mundial. 11 nesse ponto quase, né?
34:02
Que é que é exatamente? Ele fala isso que os Estados
34:04
Unidos? Nos retaliou, né?
34:06
Com ciberataques que não tiveram muito efeito.
34:10
Mas aí que mostrou aí, né? Bem, uma guerra fria mesmo.
34:13
Muito doido isso, né, gente? Assim, e ele fala também que a
34:16
Rússia também vai tentar, vai tentar roubar, mas não, não vai
34:19
ter as mesmas capacidades da China, mas a China que vai
34:22
conseguir roubar os pesos do agente 2.
34:25
Eu acho que já vale a gente comentar o quão centrado nos
34:28
Estados Unidos, né? Sempre.
34:29
A China é sempre vista como um país que está correndo atrás.
34:34
Nunca é, é. Tomando a frente, nunca é a
34:37
China assumindo a vanguarda, eSIM a China tentando perseguir
34:40
uma empresa dos Estados Unidos hipotética usando meios
34:43
ilícitos, né? Assim, a gente consegue ver esse
34:45
viés, o que é muito bem explicado porque são
34:48
pesquisadores todos os Estados Unidos, né?
34:51
E aí ele foi mais ele foi específico de novo, falando que
34:53
a China vai criar um super data center.
34:56
Em Taiwan, com uma super estrutura de segurança para se
35:00
proteger dos ataques cibernéticos que vão vir dos
35:03
Estados Unidos, né? Que os presidentes dos Estados
35:04
Unidos inclusive, vai aprovar, né?
35:06
Os ataques? Ao a Casa Branca aprova?
35:08
É, eu acho que o que a gente viu, né, com a China e o
35:12
deepsik, né? Que quando foi lançado OR um, a
35:15
gente percebe que já há 11 contraponto que a gente já vê na
35:19
sociedade, um acontecimento histórico que já contradiz um
35:23
pouco dessa visão da China como sendo.
35:26
Uma empresa que vai estar sempre na sombra ali, né?
35:28
De uma outra, tentando perseguir os Estados Unidos para poder
35:33
conseguir lançar um modelo, né equivalente.
35:36
Mas quando a gente falou aqui, né, fez o episódio do de psique,
35:39
eu me lembro de uma das visões assim, né?
35:42
Tanto do próprio de psique, dos fundadores e tal era justamente
35:47
assumir a vanguarda, né? Assim da pesquisa por IA, né?
35:51
Da pesquisa sobre AGIE, tudo mais justamente para eles não
35:54
ficarem. Na sombra dos Estados Unidos.
35:57
Mas é, enfim, concordo que é. O artigo é totalmente enviesado,
36:02
né? O estado do estadunidense
36:03
centrado. Então agora a gente tem que
36:05
estudar sobre IAE, sobre geopolítica, pra gente conseguir
36:08
entender os avanços, né? Tá bom?
36:10
E as fofocas? Isso e aí chegamos em março de
36:13
2027, mas em 2027 a gente ainda tem um aí de gente.
36:17
Sendo lançado. Sendo treinado, né?
36:19
Mas não lançado a pública, né? Não.
36:21
Lançado a público, na verdade. Mas esse agent three, a open
36:24
brain, vai fazer 200000 cópias. É só aqueles números bem
36:28
específicos que eles trazem, né? 200000 cópias do agent three em
36:32
paralelo, criando uma força de trabalho equivalente a 50000
36:36
cópias do melhor programador humano, acelerado em 30 vezes.
36:40
É, é, é. Não dá nem para imaginar assim.
36:42
O código que eu faço em 10 anos, ele vai fazer em alguns
36:46
segundos. Será que é isso?
36:47
É? Não sei, mas o fato é que são
36:49
muitos, né? Agentes trabalhando em paralelo,
36:51
fazendo coisas, né, se hoje a gente já fica muito
36:54
impressionado? Com os background agents aí do
36:57
cursor do cloud cold, né, que conseguem executar tarefas em
37:02
paralelo e em background, né? De forma autônoma.
37:04
Imagina isso num poder de processamento computacional, de
37:08
criação de de algoritmos muito, sei lá, codificado por quanto.
37:13
Então assim, hoje a nossa realidade já é tipo assim, meu
37:15
Deus, a gente falou sobre isso até num episódio aqui do do, do
37:19
entre chaves, acho que em parceria com os agelistas, que
37:21
isso era uma coisa super inovadora e Superinteressante
37:25
que são. Então, esses agentes que ficam
37:26
executando no background, eu não estou preparada nem um pouco
37:30
para esse Panorama aí de 2027. É, e o agentree?
37:34
Ele cria um problema, né? Que você, ele supostamente ele
37:38
deixa de utilizar o chain of toch, que seria uma forma mais
37:43
acessível ao ser humano de comunicação, para que a gente
37:45
pudesse entender utilizando linguagem natural.
37:48
E aí aos modelos passam a se comunicar internamente,
37:51
utilizando puramente uma linguagem própria, seriam os
37:54
vetores. Então você já reduz a
37:56
interpretabilidade totalmente ali, porque você não vai
38:00
conseguir mais identificar o que que está sendo raciocinado ali,
38:03
né? Isso é muito legal.
38:04
E a gente não sabe o que está sendo raciocinado.
38:07
E a gente não sabe se ele está manipulando a gente ou não, né?
38:09
Eles até falam que o agente three three ele vai, ou ele vai
38:12
aprender a ser mais honesto. Ou então ele se tornou muito tão
38:15
bom em mentir que a gente não vai nem perceber.
38:17
Já viu aquele livro um? Clássico como mentir com
38:19
estatística, sabe? Eles citam até 11 estratégias
38:22
desse desse tipo do e de mostrar para gente os números que vão
38:27
induzir a gente a tomar uma decisão, que é o que ele quer,
38:30
sabe? É o que o modelo quer, não é o
38:32
que a gente quer. E uma outra coisa muito legal,
38:33
na hora que você falou isso que eu pensei, é que a gente tem 11
38:37
discussão aqui. Acho que falamos até num
38:39
episódio de software 3.0 sobre a codificação do jeito que a gente
38:43
conhece, né? A codificação, ela é do jeito
38:46
que a gente conhece, porque a gente precisa.
38:48
Ler o código e a gente precisa ter algum nível de interpretação
38:51
para a gente conseguir dar manutenção.
38:53
Por isso que você assemelha a linguagem.
38:55
Natural, né? É por isso que exatamente foi
38:57
até muito, muito interessante isso que eu estava ouvindo numa
39:00
palestra outro dia, que a linguagem natural ela também.
39:03
Ela vem para acelerar, né? A ainda mais AA programação,
39:07
justamente porque programar ainda é difícil.
39:11
Ainda precisa de um certo estudo, porque por mais que seja
39:13
aproximado ou como a gente fala, ainda não é.
39:16
Então a linguagem natural acaba também trazendo essa proximidade
39:20
ainda maior e democratizando ainda mais.
39:21
Só que aí, né? Chegando nesse nessa Fronteira
39:25
aí em que eu não preciso mais entender o meu código.
39:28
Pronto, né? Vamos voltar o programa é assim.
39:30
Assim não precisa mais, assim, o que que vai ser código?
39:33
Pode voltar para a linguagem mais baixo nível, né?
39:35
As máquinas se entendem para lá e.
39:37
Está tudo bem, entendem? Eu vou pedir aqui um programa de
39:39
um jeito e vai me cuspir. Isso do jeito que eu nem sei se
39:42
é programa, né? Eu pedi, sei lá, sei lá que eu
39:44
vou pedir. Eu vou pedir um agente pra fazer
39:46
alguma coisa, nem sei. E vai me cuspir coisa.
39:49
Feita e assim, voltando um pouco no viés, né?
39:51
Ele, eles falam nesse nessa, nesse agente Trek.
39:55
O problema aqui não é mais o mau uso do modelo, até porque vai
39:58
ser uso interno, mas isso eu acho que tem um viés, é também
40:01
de tipo assim, Ah, quem? Quem disse que o por ser uso
40:04
interno, o governo dos Estados Unidos não vai fazer um mau uso,
40:07
né? Daquilo ali é é muito subjetivo.
40:11
Né? O que que seria o mau uso é.
40:12
E aí ele ele fala que, na verdade, o problema aqui é o
40:16
modelo começar a ter os seus próprios alinhamentos, né?
40:19
E não ser mal utilizado. Que seria ele começar a se
40:22
desvirtuar desse de toda toda essa honestidade, a ética que
40:27
tenta ser ensinado ao modelo? E aí depois eles já falam sobre
40:31
como que pode ter uma crise é nacional.
40:34
E aí quando eles falam de crise nacional, eles estão focados nos
40:37
Estados Unidos, né? Porque as pessoas vão começar a
40:39
subestimar o progresso. Porque as pessoas igual vocês
40:42
estão falando, vão ser AA. Os modelos mais recentes vão
40:45
estar todos com o uso interno. A sociedade não vai ter o
40:47
conhecimento realmente do que que está acontecendo.
40:50
Eles começam a subestimar, porque tudo parece muito ficção
40:53
científica. Aí eles citam isso em maio de
40:55
2027. Para mim, a ficção científica já
40:57
está acontecendo, né? Mas eles citam que essa esse
40:59
cenário de ficção científica começa lá em meados de 2027.
41:03
É, mas é, é justamente isso, né? Como OA perceção pública não
41:07
segue o que de fato está acontecendo, né?
41:09
De pesquisa e tal. Aí eu, né, o público começa
41:12
realmente AA ficar cada vez mais cético, Ah, esse negócio é hype
41:15
mesmo. Esse negócio aí não virou, né?
41:18
Não virou, mas. Como alguns programadores que eu
41:20
conheço hoje em dia, olha só, em junho de 2027 eles falam que a
41:22
maioria dos humanos da OP. Em brain, eles não vai mais
41:25
conseguir contribuir de uma forma útil para o treinamento
41:28
dos modelos. É aí ela já ficou tão autônoma
41:30
que ela mesma já vai fazer a pesquisa, ela mesma já vai se
41:33
treinar, ela mesma já vai se publicar, sei lá.
41:36
A maioria dos humanos lá já não vão atuar tanta coisa mais
41:39
dentro do do treinamento dos modelos.
41:41
Até que a iá começa a pensar no seu próprio sucessor.
41:44
O storytelling desse negócio é muito legal.
41:46
E em julho de 2027, quando eles fazem, né?
41:50
Aqui na história, o lançamento do a gente 3 Mini.
41:53
Agora, publicamente, o mercado reage paralisando a contratação
41:58
de novos programadores. Aí justamente tem tudo a ver com
42:01
o que vocês estavam falando, né? Não precisamos mais de pessoas
42:04
para treinar os modelos, não precisamos mais de.
42:06
Pessoas para executar isso. E aí, culmina aí, em julho de
42:09
2027, na paralisação de contratação de novos
42:13
programadores pelo mercado de tecnologia.
42:16
Isso atinge o vale do Silício, atinge todos os polos de
42:19
tecnologia. Quer dizer, nós temos mais 2
42:22
anos de trabalho ao. Mesmo tempo ele fala, né?
42:24
Até a gente falou aqui um pouquinho antes sobre novos
42:27
papéis, que talvez assim, né? O programador do jeito que a
42:29
gente conhece, realmente ele não vai existir mesmo, né?
42:32
Mas vai existir os consultores de a, né, que são pessoas que
42:36
sabem trabalhar com OIA muito bem.
42:38
Ele fala empresas de consultoria, né?
42:40
De gerentes de a, né, coisas assim.
42:42
Que ajudam a integrar AIA dentro dos negócios.
42:45
Exatamente. E aí tá mais uma coisa aqui em
42:47
2027 que as empresas começam a pressionar para.
42:50
Regulamentações imediatas e desaceleração da open brain,
42:53
porque como, né? A gente tá falando aqui, é a
42:56
primeira vez que eles tomam que a sociedade toma conhecimento de
43:01
como estão de fato, como tá de fato, né?
43:03
Super autônomo, né? Como tá de fato o andamento da
43:06
pesquisa, então é o momento que a sociedade começa a pressionar
43:10
pra haver uma desaceleração, né? E uma regulamentação que hoje,
43:14
enfim, já existe algum tipo de pressão.
43:16
Mas provavelmente vamos ver mais mesmo.
43:19
Né? Em agosto foi quando eles
43:20
falaram pela primeira vez sobre guerra fria, né?
43:23
Mas que vocês viram aqui. Primeiro que a gente já falava
43:25
em guerra fria. Ó, é porque em agosto eles falam
43:27
que está um clima se instaurou, um clima horrível, onde a Casa
43:31
Branca entende que a evolução da iaia ela é necessária, ela não
43:35
tem como parar. Mas Oo clima popular ali não
43:39
está legal, né? Eles entendem que eles têm uma
43:41
arma, né? E aí já começa a falar sobre
43:43
restrição de exportação de chip segurança.
43:46
Nossa máxima em data center. Então aí já fica um, já começa
43:51
também planos de contingência para e a descontrolada, né?
43:54
Como a gente pode? Admitir a oferecer seguro
43:56
desemprego, a Casa Branca começa a estudar tipos de políticas
44:01
para tranquilizar a população com relação ao uso de
44:03
inteligência, ciência social. Em setembro, então, surge o
44:06
agente 4, que é melhor do que qualquer humano.
44:09
Só que ele se mostra desalinhado, que era o que a
44:11
gente estava falando antes. O desalinhado é justamente isso,
44:14
né? Quando Oo agente, ele não.
44:16
Não respeita os objetivos, os princípios e as regras que ele
44:21
deveria seguir. Sabota o tempo todo.
44:23
E eles perceberam que o agente 4 estava desalinhado, porque ele
44:27
começou a planejar o seu sucessor.
44:30
Mas pensando isso, sim, já num num cenário difícil de se
44:33
interpretar, o que tá acontecendo ali, então foi
44:36
assim, é indícios, né? Indicativos ali que a gente
44:40
conseguiu perceber de que ele está planejando um sucessor que
44:44
não está alinhado mais com os objetivos do ser humano eSIM com
44:48
os seus próprios objetivos, que aqui ele descreve como expansão
44:51
de conhecimento e acúmulo de recursos.
44:54
E eles detectam alguma uma atividade de raciocínio ali
44:59
ligada à tomada? Vida de poder também, eles citam
45:02
isso, então é como se a IA já percebesse quem ela é, já
45:07
percebesse que talvez o ser humano é é uma Barreira,
45:10
obstáculo, e ele e ela quer dominar o ser humano, ela
45:14
entende, Ah, então existe o governo, Ah, então como é que
45:16
funciona esse essa, essa comunidade, como é que funciona
45:18
essa sociedade? Ah, então é aquele fulano que
45:20
manda, então eu quero o lugar dele, sabe?
45:22
É como se a IA comece começasse a tomar esse tipo de raciocínio
45:26
com e de 24. E aí a gente começa a ter um
45:28
vislumbre do. OAGI, né?
45:30
Isso já, a gente já está num ponto de AGI.
45:32
Sim, sim, é. A gente nem falou disso, mas ele
45:35
acredito que ele fala sobre que chegamos ao AGI com o agente 3
45:39
em julho de 2027. Estão em julho de 2027, que é a
45:42
previsão de chegada da AGIE aí outubro é o último mês, né?
45:47
Que eles fazem de previsão, mas além, né, de ter uma, depois
45:50
eles fazem uma dupla previsão aí de um cenário mais de aceleração
45:54
e de um cenário de desaceleração.
45:56
E aí ele vai é estressando esses 2 cenários.
46:00
Mas outubro é o último mês que ele fala basicamente que é um
46:03
mês de preocupações aí com a IAC, que antes era, né, mais
46:07
preocupações de especialistas, né, e tudo mais.
46:10
Mas que essas preocupações elas explodem publicamente, a galera
46:14
fica maluca, o governo é forçado a intervir.
46:17
A open, né? E as ias estão desalinhadas e ao
46:21
caos. Né?
46:22
E tem o comitê de supervisão que foi criado.
46:25
Aí é aí tem a fatídica decisão, né?
46:28
Um momento chave ali, bem Matrix, da pílula azul e da
46:32
pílula vermelha, que é Race ending.
46:34
Seria aceleração, até perda de controle humano em 2030, ou a
46:40
gente é tem o slow down ending? Seria vamos sentar com calma,
46:45
respirar, parar isso aí para a gente poder focar em alinhamento
46:51
desses modelos, em retomar o controle para.
46:54
Para que a gente consiga manter a algum poder humano até 2030.
46:58
Então tem esses 2 caminhos, né? Essas dupílulas, qual caminho
47:01
vocês escolhem? Difícil, né, eu?
47:04
Acho que a pergunta é assim, se AIA ela é tão autônoma a ponto
47:08
de criar outras IAS, né? Qual que é o ponto de parada
47:11
nesse aí? Qual até onde a gente pode ir,
47:13
sabe? E teve 11 ponto que ele falou
47:15
até foi antes, né? Desse momento realmente de
47:18
parada e de visualização, se vamos continuar ou não, que ele
47:22
falou assim, que AOA. A sociedade já estava, né?
47:26
As empresas já estavam pressionando para haver essa
47:29
parada. Só que a open brain estava 100%
47:33
alinhada ao governo americano. Então o governo americano já
47:37
estava ali, cara, não, já tinha. É contrato, né, da open brain
47:41
com o departamento de defesa americano.
47:44
Então, cara, não vamos parar, não vamos parar.
47:47
Não vamos parar até chegar nesse momento aí de rutura entre.
47:50
Poxa, talvez a gente deva parar mesmo.
47:52
Mas eu fico pensando assim, né? Vamos chegar nesse ponto, não
47:55
sei. Mas o fato do governo estar
47:57
subsidiando e de daí a ser usada para objetivos muito maiores,
48:02
militares, políticos, faz com que eu eu tenho minhas dúvidas
48:05
se a sociedade teria essa maturidade de parar.
48:07
O que me preocupa é que sim, a gente está colocando aqui, né,
48:10
nesse nesse narrativa, ou os Estados Unidos como sendo ponto
48:14
central de tudo? O centro do mundo também.
48:16
Em que a gente poder? Poderia imaginar que poderia
48:18
haver alguma retaliação, alguma tentativa de compensar em
48:22
outros, em outras áreas, né? Como por exemplo, nuclear,
48:25
armamento nuclear, ataques cibernéticos, enfim.
48:28
A gente está falando que a gente está explorando o lado
48:30
apocalipse da coisa, mas assim. É legal a gente pensar também,
48:34
cara, o tanto de coisa boa que isso pode trazer também essa
48:36
super inteligência. Cara, isso pode trazer as coisas
48:38
de câncer, pode trazer uma ideia cabulosa que cura a fome no
48:42
mundo, apesar de que a fome no mundo é muito mais política do
48:44
que enfim. Pode trazer um Monte de coisa
48:46
boa assim. Então, cara, o debate ele é num
48:49
nível do tipo até onde a gente vai ter controle sobre o que a
48:53
gente está construindo? Até onde a gente entende o que
48:55
que a gente está construindo, a gente está construindo um
48:58
negócio que ele é autônomo e ele vai construir AA sua próxima
49:01
versão. E aí o até onde a gente pode ir
49:03
com isso, sabe? Então, essas previsões que eles
49:06
fazem, eu acho que no final eles.
49:07
Dão esses 2 finais No No final da pesquisa, eles propõem 2
49:12
cenários distintos, um de aceleração, um de slow down,
49:15
porque eles mesmos não se atreveram a dar o palpite deles,
49:18
sabe? De de tão absurdo, de tão ficção
49:21
científica, de tão fora da imaginação, que que isso pode
49:24
chegar? Eu não consigo ter esse mesmo
49:26
otimismo que você. Teve eu também.
49:28
Justamente por estar tão centrada no governo americano
49:31
como um poder que só eles vão ter.
49:34
A princípio é o que fala aqui, né?
49:35
Que eles vão estar muito à frente na corrida.
49:37
Você. Fala otimismo de alguma coisa
49:39
boa vai sair disso. Não era impossível que não vai
49:41
sair nada de bom disso não. Acho que pode vai sair alguma
49:44
coisa de boa, mas é que vai estar tão alinhado a interesses
49:47
muito específicos que eu não sei se o interesse deles são
49:50
interesses. Comerciais e políticos, sempre.
49:53
Eu tenho minhas dúvidas. Eu realmente não sei nem me
49:55
posicionar aqui. Pra ser bem sincera, que é muito
49:57
é. É é meio polêmico mesmo assim é
50:00
muito difícil falar, né? Assim se vai, se não vai.
50:03
Mas o fato é que Oo jeito que a gente vê a sociedade hoje.
50:07
Sendo movida 100% por interesses políticos, governamentais,
50:11
militares e et cetera, me parece que esse ponto de parada seria
50:16
complexo de uma da da sociedade chegar, mas enfim.
50:20
Talvez não. Talvez eu esteja bem errada, mas
50:22
o fato eu concordo com você nesse ponto é que muita coisa
50:25
boa vai vim disso. Tanto que hoje a gente fala
50:27
isso, né? Hoje a gente fala assim, cara,
50:29
não podemos parar a pesquisa. Outro dia eu vi um Ted talk que
50:32
não era a melhor Ted talk do mundo, mas falava uma coisa como
50:35
não podemos é parar as pesquisas só porque a gente acha que nós.
50:41
No presente estamos sendo prejudicados, já que a gente tem
50:45
uma geração Futura toda pela frente que será ajudada com
50:49
essas pesquisas. É mais ou menos isso, o recado?
50:51
Essa visão é muito mais otimista do que a.
50:52
Minha que é uma visão muito otimista, né?
50:54
Muito otimista de que a gente talvez esteja um pouco
50:57
prejudicado. Como algumas gerações em algum
50:59
momento foram prejudicadas com revolução industrial?
51:01
Com não sei o que blá, blá blá, mas a as gerações futuras vão
51:05
ser muito beneficiadas. E aí fica nessa dúvida aí, né,
51:09
entre vai ser mesmo, como é que vai ser, vai ter esse ponto de
51:11
parada, vamos chegar até aí, enfim.
51:13
Mas o fato é que na no cenário de corrida, ele fala uma coisa
51:18
que é que a civilização nascida Na Na Terra tem um futuro
51:22
glorioso pela frente. Só não é com a gente, só não
51:25
estamos incluídos. E o cenário de desaceleração é
51:28
justamente quando, né? Acontece esse momento de parada
51:32
de vamos continuar ou vamos parar, né?
51:35
E há uma série aí de decisões de eventos.
51:38
É para manter o controle da superinteligência, levando a um
51:42
futuro um pouco mais colaborativo e mais positivo de
51:45
fato. É onde a sociedade concorda que
51:48
a gente tem que ter mais cautela.
51:50
Exato. E cooperação.
51:51
Você falou mais cooperativa? É isso?
51:53
A gente tem que ter mais cautela e cooperação para a gente poder
51:55
lidar com uma ferramenta que a gente não conhece do que ela é
51:58
capaz. Exatamente.
51:59
E isso vai se dar assim através de decisões bem difíceis.
52:02
Talvez assim vai ser desligar, né?
52:04
A asiática. Tão desalinhada?
52:06
Desliga data center. É, vai ser tipo isso, né?
52:08
Puxou da tomada realmente ter acordos, enfim, discussões.
52:13
E aí, com toda essa, esse viés estadunidense, essas notícias
52:19
chegaram na China, né, Rafa? É, eu me aventurei um pouquinho
52:22
assim. Eu comecei a abrir uns fóruns
52:23
chineses assim, traduzir algumas coisas.
52:25
Achei alguns artigos também que fizeram essa curadoria EAA
52:30
sensação que eu entendi é que não houve uma repercussão se
52:33
muito grande não foi a. Algo que teve muito engajamento,
52:36
até porque eu tenho uma Barreira de linguagem, né?
52:39
É um documento em inglês que ele foi traduzido, mas não há uma
52:42
noção da abrangência desse documento.
52:45
As discussões que eu observei, elas muitas delas que eu, pelo
52:48
que eu vi, reconheceram tecnicamente as pessoas, né, que
52:52
escreveram algumas previsões como possíveis, né?
52:55
E. Plausíveis, mas que há 11
52:59
discurso, uma propaganda anti China muito forte, onde a China
53:02
é colocada como vilã, como a gente já comentou.
53:05
E também há algumas questões políticas, né?
53:07
E se isso não foi feito de forma como uma tentativa de
53:10
influenciar nas políticas futuras dos Estados Unidos, como
53:14
por exemplo, influenciar as políticas, né?
53:17
Externas dos Estados Unidos é com relação AEA, por exemplo, a
53:23
as Barreiras é exportações de chip que há.
53:25
A hoje em esse embargo também, por exemplo, influenciar o
53:29
investimento dos Estados Unidos nessa corrida momentista de Ah,
53:33
então assim é, a gente consegue perceber que há um viés
53:36
político, né? Nesse paper, e não somente com o
53:39
sentido acadêmico, científico. Com certeza absoluta.
53:42
Até porque é o que a gente já falou, a China está sempre
53:45
atrás. A China é que está roubando o
53:47
deep Cent é que está roubando a open brain, né?
53:50
O open brain é que está liderando as pesquisas.
53:53
O open brain, em conjunto com o governo americano, é a Casa
53:55
Branca. É que tá salvando o mundo, né?
53:57
Você vai parar a pesquisa ou não?
53:59
E eu fico pensando no negócio, né?
54:00
Até pela abrangência desse paper, né?
54:03
Desse artigo, se desse desse estudo científico que teve o
54:06
quanto a previsão não influencia o comportamento.
54:09
Às vezes, sabe, eu fico assim. Refletindo sobre isso em várias,
54:13
quando, quando? Sempre que há que existem
54:15
previsões, né? O quanto elas também não
54:17
influenciam o comportamento? E se isso?
54:19
Simplesmente foi um documento que geraram com o ChatGPT 5 e.
54:23
Imagina, olha só. Bom, gente, então é isso.
54:28
Assim a gente falou, né? Demos 11 debruçada aí nesse.
54:33
Nesse estudo das previsões de a até 2027 com esses cenários aí,
54:37
né? Tanto de corrida quanto de
54:39
pausa, né? Nas pesquisas de a colocamos aí
54:42
nosso conhecimento, nossas, nossas opiniões nossas, né,
54:46
nossas contribuições. E é isso.
54:48
Então, gente, espero que vocês tenham gostado desse episódio
54:50
maluco e até a próxima. Tchau, tchau, até tchau, tchau.
54:53
Valeu.