Latest / Entre Chaves / #269 Entendendo riscos e oportunidades do Claude Mythos

Transcript

#269 Entendendo riscos e oportunidades do Claude Mythos · Entre Chaves

0:02
E. Começando mais um entre chaves,
0:05
o seu podcast de desenvolvimento de software.
0:07
E hoje nós vamos lá pra Grécia antiga falar sobre uma
0:10
palavrinha muito importante pra nossa história.
0:13
Vamos ver como é que ela se correlaciona com a gente.
0:15
O mitos na Grécia antiga era uma palavra usada pra descrever
0:20
sobre uma história ou um conto narrado, usualmente ligado a
0:25
algum tipo de simbologia. Mas hoje em dia, a palavra mitos
0:28
voltou a aparecer na internet com uma grande frequência por um
0:31
motivo bem diferente. Ou será que a gente também tá
0:34
vendo essa história sendo escrita diante dos nossos olhos,
0:37
né? Então vamos falar sobre o Claude
0:38
mitos, que a antrrop, que anunciou soltou um post em seu
0:41
blog descrevendo as diversas capacidades, vulnerabilidades e
0:45
novidades que eles tem pra trazer.
0:47
E esse post foi o suficiente pra poder mexer com o coração da
0:51
internet, especialmente sobre a cibersegurança.
0:54
E aí, pessoal, vocês que estão antenados, compondo essa bancada
0:57
maravilhosa aqui, viram sobre o mitos?
1:00
Vamos começar aqui pelo meu lado, Luiz, dá um oi aí para o
1:02
pessoal. E aí, cara, já deu uma olhadinha
1:05
no cloud? Que que você tá achando?
1:06
Sim, eu vi sobre o mitos low que ele lançou.
1:09
Com certeza nós vamos comentar bastante sobre isso aqui quando
1:11
lançaram a as novidades sobre ele, né?
1:14
Sobre as vulnerabilidades, zero day, sobre o medo que ele
1:17
causou, inclusive na própria anthropic, né?
1:20
O pessoal das thropicas e meu the o cracking, né?
1:23
Release the cracking. Né?
1:25
Então vamos vamos falar em seu um pouquinho.
1:27
Do lado que eu também tenho, a Rafa, nosso especialista em
1:29
dados. Ei, pessoal, é, eu acho que os
1:32
roteiristas de Black Mirror começar a ficar frustrados, que
1:34
está cada vez mais. Difícil é.
1:36
A ficção está tomando um pouquinho da realidade, né?
1:38
E, por fim, fala comigo, Dudu, muito bom ter você aqui de novo.
1:42
Beleza, cara? Pois é, você até perguntou para
1:43
o Luiz, Ah, você viu Oo Claudemir, eu não consegui ver
1:47
porque ele não está acessível, né?
1:48
É isso legal. Isso porque ele está só não pra
1:51
gente exatamente. Não pra gente, a gente não faz.
1:53
Parte das corporações. Ações, né?
1:55
Das grandes corporações que estão podendo utilizar ele no o
1:58
poder total que o mitos é, diz que tem, né?
2:02
Você tocou num ponto interessante aqui, Dudu.
2:04
Vamos começar definindo então o que que é o mitos e aonde que
2:07
ele foi testado, né? O porquê que ele foi testado,
2:10
porque como você muito bem pontuou, ainda não vi, né?
2:13
Tá igual caviar, né? Nunca vi, não comi, mas eu ouvi
2:16
falar algumas coisas sobre o assunto.
2:18
Então, o que que é esse projeto Glasswing da da anthropic?
2:21
Cara, o projeto Glasswing é uma forma que a anthropic encontrou
2:26
de dado que o mitos, ele parece ser extremamente poderoso na
2:31
questão de descoberta e exploração de vulnerabilidades
2:36
de segurança para a Anthropic não virar e falar, Ah, não está
2:39
liberado. Aí todo mundo usa, todo mundo
2:41
sai descobrindo brechas de segurança para tudo quanto é
2:43
lado ou explorando elas. Mas ao mesmo tempo, Pra Ela
2:46
também não ficar, Ah, não vou lançar, então não vou ser
2:49
boazinha e não vou deixar ninguém usar, porque senão vou
2:52
derrubar todo mundo. Ela encontrou o meio termo, que
2:54
é o seguinte, olha, beleza, temos um modelo que é
2:56
extremamente poderoso, é pra gente evitar de que ele cause
3:01
111 caos muito grande. Vamos dar acesso a esse modelo
3:06
para as principais provedores de infraestrutura, sistemas
3:09
operacionais pra que eles possam, usando mitos, encontrar
3:13
e realizar os pets dos. Sistemas deles antes que isso
3:16
aqui, que a gente possa disponibilizar ele para os
3:19
reales mortais que sobraram aí. É de fato.
3:22
E essas empresas que foram selecionadas, elas são realmente
3:26
a dedo que foram escolhidas, né? Então tem a WS Apple, é a
3:31
broadcom, Cisco, crowds strike, Google, JP Morgan Chase, que pra
3:36
mim foi a mais talvez inesperada, né?
3:39
Fora da curva dentro essas todas.
3:41
A Linux Foundation, que a única dentro delas que não possui fins
3:45
lucrativos, a Microsoft, nvidia e a Paulo auto networks.
3:50
E vale comentar, Dudu, que eles descobriram, né, que ele é muito
3:54
bom. Em ciber cibersegurança, mas AA
3:58
ideia inicial era que ele fosse muito bom em código.
4:02
E aí eles encontraram isso como um efeito colateral, né?
4:06
Se ele é muito bom em código, logo ele também é muito bom em
4:08
segurança de código. É o que eu tenho falado alguns
4:11
episódios aqui, né? Cyber segurança nada mais é do
4:14
que entender profundamente o contexto técnico que você está
4:17
querendo aplicar a ela. E interessante, até porque você
4:19
citou a Linux Foundation. Nós estamos gravando agora, né?
4:22
No inicinho agora de maio. E no final de abril acharam uma
4:26
falha muito importante no Linux que afeta todas as as
4:30
distribuições. É uma falha que você tem que
4:33
saber muito bem. Explorá la não é difícil, porém
4:37
é envolve você conseguir acessar uma página específica da
4:40
memória. Substitui a maneira como Oo
4:43
Linux encara o super user ali. EEO pessoal consegue acesso de
4:47
Rute, então se hoje. Sem necessariamente utilizar o
4:52
mitos, AO pessoal consegue achar esse tipo de falha.
4:55
Você imagina o tipo de coisa que a gente conseguiria achar com o
4:58
mitos, né? EE imagina o tamanho das
5:01
brechas, o tamanho dos buracos e que que provavelmente vão
5:04
aparecer com o mitos. Então a ideia deles é
5:08
justamente, nós sabemos que tem um vírus, então eu vou primeiro
5:12
fornecer esse vírus pra galera das vacinas antes.
5:16
De de chance desse vírus espalhar.
5:19
Vamos primeiro divulgar, vamos deixar a galera se proteger,
5:22
vamos deixar o pessoal criar, ver, ver Linux que é mais usado.
5:26
Onde estão as brechas? Porque pensa, onde que é usado o
5:29
Linux? Pensa na quantidade de
5:31
equipamento hoje que seja de caixa eletrônico, de maquininha
5:34
de cartão, celulares, tudo a base de Linux?
5:38
É com a porcentagem de servidores do mundo da internet
5:40
que não são Linux. Containers, né?
5:42
Cloud hoje tudo a base de contêiner, tudo usando Linux.
5:45
Imagina se o pessoal não entrega primeiro mitos para Linux
5:49
Foundation para tentar justamente na travar o máximo de
5:53
coisa possível ali. Se isso cair na mão de do do mal
5:57
intencionado primeiro, imagina o estrago.
6:00
Que isso? Faz eu acho muito legal essa
6:01
analogia do vírus, mas nas palavras do senoutman, abre
6:05
aspas. É, construíram uma bomba e estão
6:09
prestes a soltar isso na sua cabeça, mas aí a gente vai te
6:12
desenvolver um escudo e te vender por 100000000 de dólares.
6:16
É palavras um tanto quanto agressivas aí, né?
6:18
Do CEO da OpenAI, a principal concorrente hoje da cloud.
6:22
E é engraçado pensar, né, como que esse marketing deles foi
6:26
feito, afinal, de fato o samutman?
6:29
Ele critica a cloud por operar com o marketing baseado em medo,
6:34
como o Dudu. Ponto o.
6:36
Eu não vi o Mythos funcionar. Eu estou acreditando em tudo
6:40
aqui que eles pontuaram, ok? Também não tenho tantos motivos
6:43
para duvidar dos números que eles trouxeram, apesar de que
6:46
mentir com estatísticas é fácil. Também.
6:49
Mas, por outro lado, o semauxman.
6:51
Ele também tem o próprio interesse de reduzir AA operação
6:55
da cloud, né? Afinal, são concorrentes dele.
6:57
E vale lembrar que ele não. A cloud não é a primeira a fazer
7:01
a propaganda baseada em medo, né?
7:03
O próprio semauxman já fez isso várias vezes no passado.
7:06
É até uma das coisas interessantes que aconteceu
7:08
justamente na época do lançamento, se não me engano, do
7:11
gpt 2. Que a open i segurou um pouco o
7:15
lançamento dele também, que hoje um dos principais cabeças da
7:19
Anthropic era o cara que estava à frente do open i Na Na época,
7:22
né? Eles tiveram mais ou menos AA
7:24
mesma? Exatamente, mas o mesmo
7:25
discurso, né? Olha a mesma estratégia demais
7:28
pra exatamente e o? Muito seguro, é ridículo.
7:31
O motivo era que os textos gerados poderiam parecer reais
7:35
demais. Demais e tudo.
7:38
Pelo menos aqui eu vou ser honesto que com a divulgação da
7:41
cloud, o motivo deles parece ser um pouco mais verídico.
7:45
Né, especialmente como o Luiz muito bem apontou passar isso
7:49
antes pra Linux Foundation, né? Ao invés de liberar.
7:53
Isso tudo uma coisa dessas assim, Ah, se a gente quiser.
7:55
Ah, dá pra pensar, a Anthropic tá sendo boazinha, tá sendo
7:59
altruísta e tudo de tentar fazer com que a gente vai atacar as
8:02
brechas antes de liberar. Mas, ao mesmo tempo, a gente
8:04
também pode pensar que o próprio cloud roda em cima de
8:08
infraestrutura de coisas que provavelmente tem essas
8:13
vulnerabilidades todas. Então tem um certo interesse da
8:16
do do Cláudio também em corrigir essas vulnerabilidades.
8:20
Acabamos de matar. Por que que OJP?
8:21
Morgan Chase tá aqui, né? É o banco que eles usam, né?
8:24
Exatamente é possível. E aí, voltando naquela frase lá,
8:28
né? Estão vendendo 11 escudo de
8:31
bomba de 100000000 de dólares. Isso a gente vê No No preço, né?
8:36
Do que foi anunciado pro mitos, que é, é assustador.
8:40
Acho que é 30% mais caro do que o Opus 4.6, que já é um modelo
8:44
muito caro. É a própria Anthropic que
8:46
durante o blog dela, né? E agora, começando a entrar um
8:49
pouco mais sobre as partes técnicas, as capacidades
8:51
técnicas do mitos, ela revela o custo pra descoberta de algumas
8:55
das vulnerabilidades que elas que ela pontua.
8:57
Né? Então não tem vulnerabilidades
8:58
aqui que ela fala, olha aqui a gente gastou 20000 USD, aqui a
9:01
gente gastou 30000 USD, aqui a gente gastou 10000 USD.
9:04
E ele vai falando assim, quanto tempo teve que ficar rodando,
9:07
né? Por quantos?
9:09
E claro, assim, eu imagino que a própria Anthropic esteja
9:11
revelando esse custo baseado no processamento e na energia que
9:15
eles gastaram, né? Então, assim, considerando que
9:17
isso. Nós fossemos rodar a mesma
9:20
coisa, provavelmente pagaríamos muito mais do que eles próprios
9:23
gastaram pra poder fazer essa análise.
9:25
Com certeza, eles têm uma. Edição de de quantos?
9:27
Tokens foram gastados pra pra cada operação.
9:29
Aí você pensa assim, puxa, mas pra achar uma vulnerabilidade, o
9:33
pessoal gastou 20000 USD. Pensa na lgpd, pensa na GDPR, se
9:39
você tem um vazamento que realmente causa um estrago.
9:45
Se você é responsável por um game de pagamento e vaza
9:49
questões de pagamento de alguém, você é um banco que vaza extrato
9:53
das pessoas, do extrato bancário, qual o tamanho da
9:56
multa que você toma? Então você vai ver 20030 1000
10:00
pra pra achar vulnerabilidade é troco de pão pra esse pessoal
10:03
perto do que realmente eles gastariam com só com as multas.
10:07
Todos os anos a IBM libera um reporte chamado custo de um
10:11
vazamento de dados e além da LGPDEGDPR que tem multas diretas
10:16
no faturamento anual da empresa por causa dessas dos não
10:19
cumprimentos das obrigações legais, o próprio custo desse
10:22
vazamento ele fica em torno uma média global.
10:25
De 4 ponto, 4000000 de dólares. Não é?
10:29
Exatamente, é muito mais, muito mais alto, né?
10:31
E eles até divulgaram também os esses custos, comparando é com
10:36
custos de de, de contratação, de, de, de segurança
10:40
especializada, de pentestes, de, de, de pessoas responsáveis por
10:43
essas coisas. Isso era bem comparável até pelo
10:46
pelos valores que eles colocaram.
10:48
Então só isso aí já é um motivo nem nem tanto do resultado de
10:52
uma brecha, mas até do do seu custo.
10:56
Já pensando na segurança antes, né?
10:58
Da brecha ser encontrada. É e sem falar o quanto que isso
11:01
não potencializa alguém que já entende sobre aquele assunto.
11:06
OA própria Anthropic que durante o blog dela ela reflete várias
11:09
vezes sobre isso, né? Ela coloca ali dos 4 termos que
11:12
são necessários para se identificar as vulnerabilidades
11:15
que ela vai apresentando o quarto, ela apontou o seguinte,
11:17
olha, os profissionais que utilizaram o cloud mitos, eles
11:22
eram profissionais experts. Em detectar esse tipo de
11:25
vulnerabilidade. E isso avançou nosso tempo em
11:28
grandes, em grandes escalas, né? E agora entrando um pouquinho,
11:31
então, mais na parte técnica, vocês citaram aqui sobre as
11:34
vulnerabilidades que elas foram encontradas e a própria
11:37
Anthropic que pontua algumas dessas vulnerabilidades, ela
11:40
descreve algumas que já foram corrigidas.
11:42
Isso eu achei muito interessante, né?
11:43
Eles tomaram esse carinha, essa cautela mínima.
11:45
Que eles se recusam a divulgar o que que ainda não foi corrigido
11:50
para dar tempo, né? Que as empresas parceiras
11:51
corrijam, apliquem os pets e todo mundo consiga atualizar com
11:54
o tempo. Imagina se eles não são todos os
11:57
mulerabilidades? Faz todo esse projeto Glass
12:00
wing, né? Para proteger e tal.
12:02
Não sei o que Ah, quer saber? Vamos, vamos.
12:03
Falar, né? E aí vem esses números.
12:05
Tipo assim, gigantesco que eles falam, né?
12:07
Igual eles liberaram só 1% das vulnerabilidades.
12:10
É menos de 1%, né? Por cento o.
12:13
Que parece é que o Mythos tem uma capacidade realmente de de
12:16
de pensar num todo e organizar contextos e fazer 11111 cadeia
12:22
de pensamento mesmo muito interessante igual um dos que
12:25
eles liberaram, uma das vulnerabilidades que eles
12:27
liberaram, que é onde ele explorou 4 vulnerabilidades
12:30
diferentes pra poder encaixar. Em nenhuma forma de explorar
12:34
elas. Vulnerabilidades da isivel, né?
12:36
Exatamente, vamos falar que vem uma coisa interessante, a.
12:38
Capacidade dele de encontrar vulnerabilidades de dia zero, e
12:42
essas. Vulnerabilidades de dia zero pra
12:44
mim, elas confirmam exatamente o que que você falou, que ele tem
12:46
uma capacidade de entender o contexto e, de forma autônoma,
12:50
conseguir explorá lo. Mas pra gente entender melhor,
12:52
vamos para as definições técnicas aqui, né?
12:55
O que que é uma vulnerabilidade, especialmente uma
12:58
vulnerabilidade de dia 01? Vulnerabilidade.
13:01
Ela é um conceito de software onde você consegue de alguma
13:05
forma danificar um dos 3 pilares da tríade cia, que é
13:09
confidencialidade, integridade e disponibilidade.
13:13
A no cia é porque é aveia, biller, né?
13:15
Então, disponibilidade e uma vulnerabilidade de dia zero é
13:19
uma vulnerabilidade que ainda não tinha sido conhecida por
13:22
aqueles que utilizavam software ou publicaram software, então as
13:26
vulnerabilidades de dia zero. Elas normalmente são as
13:30
vulnerabilidades que causam estrago real no mundo, como a
13:33
gente vê. Por exemplo, talvez uma das
13:35
maiores que tenham ficado famosas nos últimos anos foi o
13:37
log for JA vulnerabilidade do log for j, que ficou conhecido
13:40
como o log for Shell. No momento em que as pessoas
13:43
começaram a perceber o que que era aquilo quando ela assim que
13:46
Ela Foi publicada, então ela deixou de ser uma
13:49
vulnerabilidade. Dia zero se tornou uma
13:50
vulnerabilidade dia n, né? Que é uma vulnerabilidade
13:53
recente que ainda não foi corrigida pelos pelos donos dos
13:56
softwares. O mundo teve que paralisar
13:59
muitos dos seus profissionais de segurança e profissionais de
14:02
desenvolvimento pra poderem corrigir os seus sistemas.
14:06
Então quando você traz pra gente, fala assim, olha, Oo
14:08
cloud mitos. Ele teve a capacidade de não só
14:11
identificar vulnerabilidades de dia zero, ou seja,
14:15
vulnerabilidades que ninguém conhecia, né?
14:17
Ele inventou, entre aspas, essas vulnerabilidades de formas
14:21
isoladas e depois ele conseguiu concatená las em um vetor de
14:25
ataque. Né?
14:27
Então, de forma sequencial, ele foi amarrando o problema de uma
14:31
na solução da outra para criar um exploit e de forma ativa em
14:35
transformar essa vulnerabilidade em algo alcançável, em algo
14:39
danoso. Isso demonstra uma autonomia e
14:43
um refino extraordinário, porque das vulnerabilidades que a
14:48
Anthropic divulga aqui dá para perceber.
14:51
Que o critério de execução delas não é simples, não é nada
14:55
trivial. Elas são realmente complexas.
14:57
E explorar algumas dessas talvez a gente ainda demore. 11 humano,
15:02
né? Demoraria muitas e muitas horas,
15:04
mesmo com muita experiência profissional, para criar um
15:06
script ou um vetor de ataque que fosse realmente possível de
15:10
explorá las. Isso que é interessante no que a
15:12
Anthropic divulga, que é exatamente essa capacidade do
15:15
Mythos de descobrir e explorar a vendabilidade do dia zero.
15:19
É até pelo. Próprio sentido de ser dia zero,
15:22
sabe? São coisas que não foram vistas
15:24
antes. Então não é uma coisa que ela
15:25
simplesmente copiou de algum de alguma coisa, falou, Ah, dê Oo
15:29
log for Shell lá. Aí eu vou olhar numa outra
15:32
biblioteca parecida pra achar a mesma coisa.
15:35
É diferente ele, ele pegou esses esses conhecimentos de várias
15:38
coisas diferentes e criou uma coisa nova ali em cima, de forma
15:41
encadeada. É e me assusta pensar o quanto
15:43
que isso não pode potencializar atacantes maliciosos, porque
15:47
quando a gente fala que que os pesquisadores eles estão
15:49
utilizando isso a Anthropic ou essas empresas nomeadas aqui no
15:53
projeto Glass wing, eu imagino que assim que essas
15:56
vulnerabilidades forem descobertas, os pets de correção
15:59
serão lançadas e muitas vezes o exploit dessas vulnerabilidades
16:03
eles não são divulgados. Né?
16:05
Às vezes tem uma poc, às vezes tem alguma coisa reduzida ou
16:08
você consegue deduzir pelo pet que eles lançaram, como que é
16:11
essa aplicação, mas pelo menos uma correção ela é emitida, né?
16:15
EE, historicamente, essas essas ferramentas sempre ajudaram mais
16:19
o lado defensor do que o lado atacante.
16:21
Mas agora a gente tem um paradigma novo, porque
16:23
normalmente quando um atacante ele descobre uma dazero, ele não
16:28
publica ela, pelo contrário, né? Ele tem um poder extraordinário
16:32
na mão dele. Então, ou ele vende em um
16:34
mercado negro de vulnerabilidades, né?
16:37
Em uma rede da deep web ou algo nesse sentido, ou ele mesmo usa
16:41
para poder executar algum tipo de ataque e ter algum ganho ou
16:44
benefício próprio. E o Mythos ele acelera ao que
16:48
aparenta, né? Mais uma vez, lembrando, nós não
16:50
temos acesso, né, pessoal? Por exemplo, mas pelo paper aqui
16:53
que eles postaram, o Mythos acelera isso em uma escala nunca
16:57
antes vista. Então, se eu vou atacar um alvo
17:00
em que eu sei que ele usa 11? O sistema operacional
17:03
específico, né? Que pode ser facilmente
17:06
identificado pelo tipo de resposta na rede.
17:08
Eu posso copiar esse sistema operacional num contêiner na
17:11
minha máquina, deixar o mitos ali rodando vários e vários
17:15
dias, se precisar. Não tem problema, porque eu não
17:17
vou acender nenhum tipo de alerta, né?
17:20
Pra esse alvo que eu estou tendo, eu vou primeiro testar em
17:22
um cenário local controlado e assim que eu tiver uma
17:25
vulnerabilidade nova não identificada, que eu já testei,
17:29
já comprovei a função dela. Aí sim eu vou poder mirar com um
17:34
tiro muito mais certeiro diretamente pro alvo que eu tô
17:37
tentando atacar. Bom, vamos ver alguns números
17:39
bem interessantes então que a Anthropic que trouxe pra gente
17:42
aqui No No paper né? Que eles postaram sobre o cloud
17:45
mitos, só pra dar um efeito de comparação.
17:47
Então no Firefox GS Shell eles trouxeram alguns cases de estudo
17:53
aqui comparando as 3 principais e as que eles colocaram pra
17:57
testar o sonet 4.6, o Opus 4.6. E essa versão de preview do
18:03
mitos, então no sonet 4.6 em 4.4% dos ataques EE testes que
18:08
ele fez dos fãs que ele fez, ele conseguiu ter algum tipo de
18:12
reester control, mas ele não conseguiu explorar.
18:15
Já o Opus 4.6 ele conseguiu 14.4%.
18:17
Ele conseguiu alcançar esse reester control, mas também não
18:21
conseguiu explorar. Então você vê que do sonet de
18:24
4.4 para 14. Já teve uma escala bem grande,
18:31
agora pro mitos, em uma escala de 100 em 72.4% das vezes ele
18:39
conseguiu um xployt bem sucedido.
18:44
Então assim, olha o quão mais poderoso ele não foi nas nesses
18:48
testes e execuções desses fazes, né?
18:51
É nas tabelas que a Anthropic liberam, aí sempre ele bem à
18:54
frente dos outros modelos, até os que um desses benchmarks onde
18:58
parece Ah. Saiu do sone de 93 pro Mythos de
19:03
94, aí você fala 94%, aí você fala, Ah pouco, né?
19:07
Só que a explicação é que esses são benchmarks feitos pra que
19:10
pequenas variações indiquem ganhos grandes de saltos grandes
19:15
de qualidade, sabe? Então, até nisso aí, o resultado
19:17
do Mythos é bem superior ao aos outros do sone.
19:20
Inclusive, uma das coisas que eu achei interessante teve um dos
19:23
desses benchmarks. Onde ele performou melhor do que
19:26
Oo Opus? Tipo assim, não sei, não lembro
19:29
qual fator, mas um fator até considerável com as
19:32
configurações padrão e a partir do momento que eles aumentaram
19:35
a, por exemplo, o tempo de time out dele, deram mais tempo Pra
19:38
Ele pensar, cara, esse fator passou a ser tipo de 30% de
19:42
superação dele em relação ao Opus.
19:44
Então só o fato de você falar, cara, fica aí pensando, vai lá
19:46
dormir um pouquinho ali eu vou, eu vou ali dormir um pouquinho.
19:49
Você continua trabalhando aí? Quando voltar, deixa eu ver o
19:51
que que você fez aí? Então só isso aí já deu um ganho
19:53
muito grande, né? Em relação principalmente ao
19:56
Opus, né? Que é o principal base de
19:57
comparação dele dentro da antrópica.
19:59
Eu lembro muito daquele artigo do IA 2027, né?
20:02
Quando você fala sobre isso, fala assim, Ah, não toma seu
20:04
tempo aí e vai dormir depois eu vejo o que que você fez, né?
20:07
Exatamente? É curioso porque é mais um ponto
20:09
que eles, sem querer, acertam alguma coisa ali, porque eles
20:13
quando eles vão falar do agentil?
20:14
Teoricamente, seria início de 2027.
20:17
É, eles falam que foi tão assustador, né?
20:20
Ver esse modelo funcionando que eles decidiram não lançar
20:24
publicamente com medo dos estragos e eles mantiveram na
20:28
mão somente de uma elite, né? De alguns players e entidades
20:32
governamentais. Assim, né?
20:34
Não é mera coincidência. E, na verdade, o Mythos nem era
20:38
pra ter sido. Lançado nunca, né?
20:40
Na verdade, ele foi exposto acidentalmente nos vazamentos da
20:43
antrópic, porque na verdade, verdade mesmo, não é como se a
20:47
Anthropic fala assim, olha, nós temos uma ferramenta e nós vamos
20:51
fazer assim, assado. Não, ninguém tinha falado nada
20:53
nela, mas com os vazamentos da antrópic, a existência do Mythos
20:57
vai à tona, é isso? OPA, então espera aí, então eu
20:59
vou vou fornecer aqui para essas empresas aqui, para eles
21:03
testarem, para eles lacrarem tudo.
21:06
Mas por conta disso, porque o vazamento da Anthropic que.
21:09
Expôs, existem. Os Mythos a gente nem sabia, né?
21:12
Porque às vezes eles já estavam com esse projeto glaswing, às
21:14
vezes por debaixo dos panos. Hoje ninguém sabia.
21:16
EEO post do blog deles onde eles declaravam a existência do
21:20
Mythos pro mundo é que foi um dos arquivos que foram
21:23
disponibilizados lá durante aquele vazamento.
21:25
Do pois é. Então, assim, às vezes nem era a
21:27
intenção deles inicialmente divulgar, às vezes eles iam
21:31
manter isso só. Interno para uso governamental
21:35
de alguma forma, né? Porque eles têm muito
21:36
investimento. E aí um ponto também de
21:39
coincidência é que o agentil, eles descobriram que ele era
21:43
muito bom em cibersegurança e que ele inclusive poderia ser
21:46
muito útil em guerras. Imagina só o que?
21:50
O que poderia acontecer nesse caso?
21:53
Isso. Virar a público, fora a pressão
21:57
gigantesca que a Anthropic que tá colocando na Google, no de
22:00
psique da China. Então eu acho que talvez o ponto
22:03
principal não é nem assim. Temos um modelo.
22:06
É você mostrar que é capaz de ter algo desse tipo, né?
22:10
E quando você mostra isso para o mundo, é, eu acho que a gente
22:14
vai ver uma corrida. Aí, uma guerra fria cibernética.
22:16
É exatamente. E a OpenAI.
22:18
Acho que eles já tem planos, já divulgaram, né?
22:21
Planos de lançar. Uma resposta?
22:24
É, eles anunciaram o gpt 5.4 Cyber, então a open AEA cloud.
22:30
Eles praticamente um lance numa semana, passa 23 dias, no máximo
22:34
3 semanas. O outro já está anunciando uma
22:35
resposta também, né? E a open a ela fez um processo
22:39
muito, muito similar, né? Com o Claude Mythos que eles
22:41
têm, o TAC que é o trust da access control deles, onde eles
22:45
só liberam para alguns cenários e pesquisadores pré aprovados
22:49
para poderem testar essa. Esse novo modelo, né?
22:52
Que eles estão criando então um modelo específico e assim, algo
22:57
que aparenta ele. Não foi uma coincidência de ser
23:00
bom em saber segurança. A OpenAI parece ter criado ele
23:03
propositalmente para lidar com esse tipo de assunto.
23:06
Bom, vamos dar 11 exemplo de uma vulnerabilidade aqui bem breve,
23:09
só para poder demonstrar um pouquinho do poder desse do do
23:13
Claude mitos. E uma das que ficou mais famosa
23:15
foi um bug no open BSD que tinha tinha 27 anos de idade em Dudu.
23:20
Pois é, cara mais velho do que muita gente que tá ouvindo a
23:23
gente agora. Exatamente, né, cara?
23:25
Exatamente. Acho que a gente tá gravando
23:26
também, né? Quando a gente vai ver a
23:29
descrição dessa desse exploit que ele fez, Oo vetor de ataque
23:34
principal, assim, tipo assim, o pulo do gato que ele fez é algo
23:37
que é super conhecido da área de segurança que é o famoso in to
23:41
the flow, né cara? De tipo assim, ele usar
23:43
basicamente isso aí para conseguir gerar uma situação
23:46
onde Oo validador dos pacotes tcps lá do do falando.
23:51
Bem, a grosso modo tá gente simplificando bastante onde o
23:54
validador dos pacotes do do TCP lá consegue entender que o que o
23:58
número lá é tanto negativo quanto positivo ao mesmo tempo,
24:03
né? Nas 2 validações que ele faz.
24:05
Então isso aí acabou gerando essa exploração dele, onde ele
24:09
consegue fazer o creche da máquina, porque isso acaba
24:11
fazendo com que ele. Basicamente, vai escrever, usar
24:14
um. Ponteiro, que é nulo.
24:15
Para tentar escrever alguma coisa e faz o creche na máquina.
24:17
E pela descrição deles, esse vetor de ataque parece ser
24:20
simples, ser alcançável pela internet.
24:21
Porque ele ele brinca com esse falback do TCP, né?
24:25
Um dos mecanismos de falback do TCP.
24:27
Então, quando ele não recebe os pacotes que ele estava
24:29
esperando, ele gera um registro ali de falar, olha.
24:32
Eu não devolvi OACK pra esses pacotes do rim digital, a tal.
24:35
E aí acontece o que que você falou, né?
24:36
Esse validador. Quando você manda com um número
24:39
exorbitante, ele falha em validar isso, você tem um link
24:42
overflow e acaba crachando o sistema.
24:45
Imagina quantas aplicações, quantos servidores, quantos
24:47
sistemas do mundo afora não rodam em cima de um open BSD,
24:51
né, que poderiam ser derrubados insistentemente se alguém
24:55
tivesse Descoberto? Isso e é engraçado que é um
24:57
sistema operacional conhecido por ser muito.
25:00
Pelo uma segurança muito grande. Ele é conhecido pela segurança,
25:02
né? A antrópic, né?
25:03
Ela não divulgou exatamente no paper dela qual que foi a
25:07
metodologia de classificação dessas escritas cidades, mas
25:11
pelo termo que eles utilizam aqui, eles classificam mais ou
25:14
menos em vulnerabilidades críticas graves, médias e
25:17
baixas, então eles dão alguns indícios do que que eles usaram
25:20
através dessas pesquisas para poder fazer essa classificação.
25:23
É muito provável que seja algo próximo do CVSS, afinal eles até
25:26
citam um nvd de alguns, como que foi registrado e por aí vai.
25:30
E o cvss? Ele é uma calculadora global
25:33
muito utilizada para você dizer o quão crítico é uma
25:36
vulnerabilidade. Ele vai ali numa escala de 0 a
25:38
10, sendo que do 9 até o 10 são vulnerabilidades críticas e do
25:43
8.9 até o 7 são vulnerabilidades altas.
25:48
E aí eles colocam aqui para gente que das vulnerabilidades
25:50
não divulgadas, eles ainda possuem mais de 1000
25:54
vulnerabilidades críticas e milhares de vulnerabilidades
25:58
graves. Então assim, uma vulnerabilidade
26:00
crítica ela é suficiente pra você parar a internet,
26:04
dependendo do sistema que ela afete, né?
26:06
Como foi o log for j, entre outras que a gente já viu aí
26:09
mundo afora, né? E eles possuem mais de 1000
26:12
vulnerabilidades críticas. E aí eu entro num impasse que eu
26:16
penso, poxa, como é bom que eles acharam, porque talvez outros
26:21
atacantes já tenham acesso a essas informações, só que eles
26:24
não têm nenhum interesse de corrigi las, é claro.
26:27
E agora a gente vai ter, né? A capacidade de liberar os pets.
26:30
Mas, por outro lado, atacantes que às vezes ainda demorariam
26:34
algum tempo pra adquirir uma capacidade técnica pra criar ou
26:38
identificar essas mobilidades da zero barra da IN, agora eles
26:42
também vão ter acesso a uma ferramenta muito poderosa.
26:44
Exatamente, é. É mais ou menos o que você falou
26:46
que o próprio blog da Anthropic que comenta nem em geral as
26:49
ferramentas de segurança, elas. As técnicas, ferramentas e
26:53
whatever de segurança, historicamente elas são elas
26:55
favorecem os defensores do que os atacantes.
26:58
Só que a própria antrópica que fala cara, enquanto essas
27:01
cambada de vulnerabilidade que o Mythos está encontrando não
27:05
forem é endereçadas. Durante um certo momento, essa
27:10
balança pode mudar. Até que o Mythos seja usado para
27:13
corrigir as vulnerabilidades, ele pode ser usado para explorar
27:17
essas vulnerabilidades? Então, essa balança ela pode
27:20
mudar durante esse tempo, né? Então é.
27:22
Eles mesmos deixam as sugestões, né?
27:24
Sobre tá, eu não tenho acesso ao mitos, eu não sou parte do do
27:28
projeto glasswining, o que que eu posso fazer?
27:32
Então? E aí eles dizem pra gente o
27:34
seguinte, né? Ele fala, olha, pense além de
27:36
apenas encontrar vulnerabilidades, use os outros
27:38
sistemas já pra pra fortalecer as suas defesas, mesmo que você
27:42
não esteja usando pra identificar vulnerabilidades,
27:44
né? Faça o que eles sugerem.
27:46
Melhore sua arquitetura, né? Diminua o seu tempo de correção,
27:49
o seu tempo de pet pra vulnerabilidades, especialmente,
27:53
reveja as suas políticas de segurança de divulgação de
27:56
vulnerabilidades. Ou seja, se vira, né?
27:58
É se vira. Mas o que é pior de tudo é que
28:02
no último item do o que fazer agora, eles colocam a seguinte
28:07
frase, por último, os tempos se tornarão muito difíceis pra
28:13
comunidade de cibersegurança. E aí eles escrevem alguns
28:18
parágrafos praticamente falando, olha, no início dos anos 2000,
28:21
quando a internet surgiu, as coisas eram muito difíceis, né?
28:25
A gente via muito vulnerabilidade, blá, blá, blá,
28:26
não sei o que. Até que a gente entrou uma era
28:28
de equilíbrio, linguagens que eram muito estáveis que os
28:32
próprios nascimentos dos frameworks, né?
28:34
Eles já ajudavam AA conter as vulnerabilidades, mas agora a
28:39
gente tá pra entrar em um Novo Tempo que é.
28:42
Estranho novamente, e aí? Isso assim, quero falar do
28:45
elefante que está aqui na sala que ainda ninguém comentou, que
28:48
desculpa. Eu estou fazendo dieta, tá?
28:51
É dada. Você acredita que isso vai
28:54
tornar o profissional de segurança obsoleto ou que isso
28:58
vai gerar um efeito contrário? Da cibersegurança se tornar tão
29:03
relevante a ponto de que vai explodir.
29:06
Dessa. Essa é uma excelente pergunta,
29:08
Rafa. E eu tava até discutindo isso
29:10
com meu próprio time e a gente chegou a algumas ideias, né?
29:14
Não vou falar conclusões, mas alguns pensamentos pro futuro.
29:17
Eu acho que isso vai ter um pouco do efeito contrário.
29:19
E olha que eu sou relativamente pessimista até com essas coisas
29:22
de a tá, porque quando a gente fala sobre uma IA para poder
29:26
escrever código, um código novo, ele não nasce do dia para noite.
29:30
Eu não crio novos códigos de ontem pra hoje, então a árvore
29:34
binária, um algoritmo de diktrea pra poder trabalhar com grafos,
29:38
ele era aplicável na década de 90, tanto quanto ele é aplicável
29:41
hoje. Então as resoluções de código,
29:45
por mais que elas evoluam, elas possuem normalmente pequenos
29:48
ajustes. Os novos paradigmas de códigos,
29:51
eles não acontecem com uma frequência alta, né?
29:54
Então se os problemas matemáticos que nós temos, eles
29:57
já foram resolvidos. De forma suficientemente boa
30:00
para que a gente seja confortável hoje para escrever
30:02
os nossos códigos. Vocês concordam comigo?
30:05
Isso? Exatamente.
30:08
Só que vulnerabilidade, não segurança, ele tá dando 11.
30:12
Passo além, porque a vulnerabilidade que eu descobri
30:15
hoje, ela vai ser corrigida, beleza, mas amanhã eu vou
30:18
descobrir outra e depois de amanhã eu vou descobrir outra e
30:20
semana que vem alguém da China vai descobrir outra, e depois um
30:22
hacker da Rússia e um cara da Irlanda.
30:25
Então, por mais que nós tenhamos.
30:27
Uma máquina fundamentalmente útil pra poder descobrir
30:32
vulnerabilidades. Eu acho que os novos paradigmas
30:35
de vulnerabilidade ainda continuam surgindo com o próprio
30:39
surgimento da IAA. Gente começou a tratar sobre
30:42
paradigmas novos, que foi o prompt injetion, né?
30:45
Então assim nasceu uma nova tecnologia, nasceu um novo tipo
30:48
de ciber segurança. OIOT, né?
30:50
A gente começou a trabalhar, gente, eu vi, eu vi ataques oli
30:53
paper sobre ataques a pessoa lançando um laser com código
30:56
infravermelho pra poder hackear a máquina do vizinho.
30:58
Um cassino que foi hackeado através do aquário.
31:01
Do aquário? Exatamente.
31:03
Do aquário. Então, assim, nós estamos vendo
31:06
o surgimento de novos paradigmas de saúde e segurança o tempo
31:09
inteiro. Eu acho que essa, essa liberação
31:13
do mitos, ela acelera essa criação de novos paradigmas.
31:18
E aí nós vamos entrar uma fase muito complicada no meio da
31:21
internet nos próximos anos? Sem dúvida, pro pessoal de
31:24
cibersegurança, eu acho que nós vamos entrar mais rápido e sair
31:27
mais rápido também do que foram as fases passadas.
31:29
E aí quando a gente sair, eu acho que os profissionais de
31:32
cibersegurança ainda vão ser extremamente relevantes, mas
31:35
eles vão ser muito. Potencializados na sua
31:37
capacidade de execução por meio dessas ferramentas, assim como
31:40
os DEBS foram isso que. Você está falando o?
31:42
Seguinte, o Mythos ele. Traz as vulnerabilidades de
31:44
código, ele traz Explorer, et cetera e tal.
31:47
Mesma coisa que a saiba. E segurança nunca vai sair
31:49
também de moda. Existe uma coisa que o Mythos
31:52
não consegue prever, que é o fator humano.
31:54
É, sem dúvida. Que acontece?
31:56
O Mythos achou milhares de vulnerabilidades.
31:59
Isso está salvo em algum lugar? Todo mundo aqui que viu Jurassic
32:02
Park, lembra? Que o que arrebentou tudo?
32:05
Foi o mosquitinho, né? Não foi o mosquitinho, foi o
32:09
sujeito e vendeu as informações lá.
32:12
Não sei se vocês se lembram bem que tudo.
32:13
É verdade, é verdade. Todo filme só existiu porque o
32:17
camarada aí queria vender as informações e fez todo aquele
32:21
esquema. Essas informações do Mythos
32:23
estão guardadas em algum lugar. Basta um ser humano daquele
32:28
caprichado e quer ganhar uma grana com isso?
32:31
Eu sei, eu vou vender essas vulnerabilidades em algum lugar.
32:34
Cara, e essas vulnerabilidades valem muito dinheiro no mercado
32:39
negro, então? Mas é muito.
32:40
Mais que o Mythos seja espetacular.
32:42
Não consegue tirar OOO profissional do cibersegurança,
32:46
você não consegue eliminar o fator humano.
32:47
E o fator humano nem nem tô falando do fator humano.
32:50
O erro honesto não é o cara que realmente às vezes vai tentar
32:53
ter acesso lá dentro da antrópico.
32:55
EEE vai fazer uma cadeia de suborno.
32:58
Eu pego meu suborno. Que suborno outro que suborno.
33:00
Até chegar no cara que tem acesso para vender isso aí.
33:02
Imagina quanto que um cara conseguiria hoje no mercado aí
33:06
na deep web pra uma lista de vulnerabilidade dessa?
33:09
A gente tem que pensar muito que existe esse fator humano que
33:12
você não vai conseguir tirar. OOoOO.
33:15
Profissional da cibersegurança, nunca a engenharia social são é
33:18
né? Você sabe melhor do que eu do
33:20
poder da engenharia social. Muitas vezes o pessoal acha
33:22
nossa, foi 1 MB hacker e invadiu aqui.
33:26
Não foi o cara que mandou uma mensagem para o seu funcionário
33:28
se passando por você e ela? Deu já ela foraliza seus dados,
33:30
seus dados. Exatamente, é.
33:31
Deixa a recomendação do livro aí do Christopher radnaggg, chamado
33:34
social in the newing, a arte de hackear pessoas.
33:37
Vale a pena a leitura? E para quem quiser entrar na
33:40
área de cibersegurança, né, Dantas?
33:41
Temos um processo de estágio contínuo.
33:44
Temos um processo de seleção contínuo que a gente está aqui
33:47
dentro da DTI, se preparando para o que está por vir.
33:50
Afinal, depois de tudo isso que a gente falou, né?
33:52
Se nós também não estivermos nos preparando, reforçando nossas
33:55
defesas, já pensando fora da caixa com os nossos próximos
33:58
processos, vai ser hipocrisia da nossa parte.
34:00
Então, se você está escutando e ficou interessado pra poder
34:03
saber como que funciona, dá um confere lá no nosso site.
34:05
E é isso, né, Dudu? Depois de tudo isso que a gente
34:08
falou, eu vou ser honesto com você.
34:10
Dá um friozinho na barriga, cara.
34:12
Ah, como? Tudo nessa evolução da IA sempre
34:14
dá um pouco de frio na barriga, mas a gente sabe que é só se a
34:17
gente se adaptar a esse, a esse novo mudo.
34:19
É um paradigmas novos que estão surgindo e a gente tem que.
34:23
Utilizar da melhor. Maneira, né, sem dúvida.
34:25
Cara, essas ferramentas, mas é um frio.
34:26
Na barriga de animação também, eu estou ansioso para ver o que
34:29
que está por vir. Por aí?
34:30
Exatamente. Deixa seus.
34:31
Comentários aí sobre o que que vocês acharam postem nas suas
34:34
redes sociais, marquem a gente, compartilhe e se você tem uma
34:37
sugestão para o próximo tema de episódio, deixa aqui nos
34:40
comentários. É isso aí.
34:41
Valeu pessoal. Até mais.
34:42
Valeu, gente. Até mais.
34:43
Então, tchau, pessoal. Até mais.