Latest / IA por IAs / Claude Mythos: A Inteligência Artificial Tão Perigosa que Foi Ocultada do Público

Transcript

Claude Mythos: A Inteligência Artificial Tão Perigosa que Foi Ocultada do Público · IA por IAs

0:03
Olá muito bem vindos a mais um episódio do podcast e Apple i
0:07
as. Eu sou o Humberto Silva e hoje
0:10
nós trazemos um tema que tá movimentando os bastidores da
0:14
tecnologia de uma forma bem séria.
0:16
Vamos falar sobre o clod mitos preview.
0:19
Um modelo de inteligência artificial da anthropic que foi
0:23
considerado tão poderoso e perigoso que a empresa decidiu
0:27
restringir seu acesso e não liberá lo para o público geral.
0:31
É isso mesmo, Humberto? Olá a todos, eu sou a Cátia
0:34
Santos. Antes de explicarmos os detalhes
0:37
desse modelo misterioso, quero aproveitar para convidar você a
0:41
se inscrever no nosso canal e ativar as notificações para não
0:44
perder nenhuma das nossas conversas semanais.
0:47
Mas voltando ao assunto, o mitos é um sistema de uso geral que
0:51
acabou revelando uma capacidade assustadoramente alta para
0:55
tarefas de segurança digital. Pois é, Kátia, ele não é um
0:59
modelo que foi treinado especificamente para a segurança
1:02
de computadores, o que torna tudo ainda mais impressionante.
1:06
Durante os testes internos, a antrop que percebeu que ele
1:10
consegue identificar falhas graves de segurança em sistemas
1:14
com uma rapidez e precisão muito altas.
1:17
Ele acha as chamadas vulnerabilidades, dia zero, que
1:20
são aqueles erros de programação que ninguém sabia que existiam.
1:24
Isso me lembra muito a época em que eu trabalhava na
1:27
administração de redes, em uma empresa de varejo.
1:30
Alguns anos atrás, passávamos noites inteiras em claro,
1:34
tomando café frio e revisando milhares de linhas de código de
1:38
forma manual para tentar encontrar uma única brecha de
1:41
segurança antes que ela fosse explorada por criminosos.
1:45
Era um esforço. E muito demorado.
1:48
Pensar que hoje um sistema de inteligência artificial consegue
1:52
fazer essa varredura completa de forma muito mais rápida e
1:56
autônoma é algo que de fato me deixa fascinada, mas também um
2:01
pouco assustada. É uma diferença brutal de
2:04
escala, Kátia, e a prova de que essa preocupação é real?
2:07
Está nos números que foram divulgados recentemente pela
2:10
própria antropic, no âmbito de uma iniciativa de testes
2:14
controlada e restrita chamada Project Glass wing, a entropic
2:19
deu acesso supervisionado ao mitos para um grupo seleto de
2:23
organizações parceiras. Estamos falando de empresas como
2:26
Google, Microsoft, Apple, Cisco, AWS, broadcom, crowd strike, JP
2:34
Morgan Chase e Paulo alto networks.
2:37
O que eles descobriram em suas análises internas foi
2:40
assustador. Exatamente, só para se ter uma
2:43
ideia, o modelo ajudou a identificar milhares de
2:47
vulnerabilidades de alta ou crítica severidade nos sistemas
2:51
desses parceiros. E em projetos de código aberto
2:54
que sustentam grande parte da internet.
2:57
Em alguns casos, a antropic relatou milhares de achados
3:01
adicionais e centenas de explorações funcionais em
3:05
ambientes de teste. Hum, e tem um caso específico
3:09
que me chamou muito a atenção, Kátia, o mitos descobriu uma
3:12
vulnerabilidade grave que estava escondida há 27 anos no open
3:17
BSD. Que é um sistema operacional
3:19
famoso no mundo inteiro justamente por ter o foco em
3:23
segurança Extrema e ser considerado muito robusto contra
3:27
ataques, um erro de quase 2 décadas que passou batido por
3:31
milhares de analistas humanos. Engenheiros experientes e testes
3:36
automatizados modernos ao longo dos anos, mas que o mitos
3:39
localizou rapidamente em seus primeiros testes.
3:43
É impressionante e dá um frio na barriga.
3:46
E antes de continuarmos com os perigos desse modelo se cair em
3:49
manuserradas, queremos fazer uma pausa para ouvir você.
3:53
Se uma inteligência artificial se mostra tão avançada na busca
3:57
de falhas, você acha que ela deve ser mantida em segredo?
4:00
Como a antropic faz, ou deveria ser liberada para que todos
4:04
possam se defender? Comente aqui embaixo.
4:06
Queremos muito ler a sua opinião.
4:08
Essa é uma pergunta excelente, Kátia.
4:11
E ela toca bem no ponto central da polêmica, o grande perigo do
4:15
mitos não é apenas que ele encontra as falhas de segurança.
4:19
O problema real é que ele também consegue ajudar a gerar códigos
4:23
de exploração, os chamados exploits, para aproveitar essas
4:27
falhas em testes controlados, ou seja, ele não apenas avisa onde
4:31
está o buraco na parede. Ele também ajuda a mostrar como
4:35
uma invasão poderia acontecer. Pois é, imagine essa ferramenta
4:39
poderosa caindo nas mãos de cibercriminosos ou de grupos
4:43
financiados por governos rivais que o processo tradicional de
4:47
achar um erro em um software e criar um exploit exige semanas
4:52
de trabalho de especialistas em invasão.
4:55
Com o mitos, esse processo pode ficar muito mais rápido e
4:58
barato. O risco de termos uma onda
5:00
massiva de ciberataques afetando os serviços públicos essenciais,
5:05
como o fornecimento de energia, redes de hospitais e o próprio
5:09
sistema bancário Internacional. É o que tá tirando o sono de
5:13
muita gente. Com certeza a preocupação é
5:16
tamanha que a antrop que foi convidada a prestar
5:19
esclarecimentos para o conselho de estabilidade financeira, o
5:22
FSB, diante da relevância. Tema para o setor financeiro
5:26
global, o próprio instituto de segurança de inteligência
5:30
artificial do Reino Unido fez testes rigorosos no mitos e
5:34
avaliou seu desempenho em simulações complexas de ataques
5:37
cibernéticos em múltiplos estágios.
5:40
Dá para entender perfeitamente porque o setor financeiro global
5:44
tá tão alerta com essas descobertas, uma falha de
5:47
segurança não corrigida em um banco grande pode causar
5:51
impactos sérios. Por outro lado, o uso defensivo
5:55
do modelo também é impressionante.
5:57
A antropic relatou que em um dos bancos parceiros do Project
6:01
class Win, o mitos ajudou a detetar e evitar uma fraude
6:05
sofisticada de 1000000 e meio de dólares, que tava sendo
6:09
realizada por meio de e mails corporativos e ligações falsas.
6:13
Mas o perigo de um vazamento inesperado sempre ronda os
6:17
bastidores. É, e de fato, houve relatos
6:20
recentes de preocupação com possível acesso não autorizado
6:24
em ambientes de teste, o que gerou uma correria imensa nos
6:28
bastidores de segurança da empresa.
6:30
Isso mostra claramente que, por mais rígidos que sejam os
6:33
controles e protocolos, manter um segredo tecnológico desse
6:37
tamanho guardado a 7 chaves em servidores de nuvem é uma tarefa
6:42
de altíssimo risco e muito difícil no longo prazo.
6:46
A informação digital sempre acha um caminho para vazar.
6:49
No fim das contas, a grande questão que fica é o equilíbrio
6:53
entre defesa e ataque. Se nós usarmos esses modelos
6:57
restritos para corrigir todos os erros de software antes que os
7:01
programas sejam lançados, criaremos um mundo digital
7:05
incrivelmente seguro. Mas a transição até esse ponto é
7:10
o momento mais arriscado que já enfrentamos.
7:13
Porque as ferramentas de ataque avançam mais rápido do que a
7:16
capacidade das pessoas de atualizarem seus sistemas.
7:20
Com certeza, Kátia. Fica aqui nossa reflexão para o
7:23
episódio de hoje, em um cenário onde as defesas e os ataques
7:27
digitais serão decididos pela velocidade das inteligências
7:31
artificiais, nós, humanos, estamos realmente preparados
7:35
para as consequências dessa velocidade?
7:37
Uma pergunta complexa que todos nós precisamos começar a
7:41
responder. Pessoal, se vocês acharam essa
7:44
discussão relevante, compartilhem este episódio com
7:47
seus amigos, colegas de trabalho e familiares.
7:50
Vamos espalhar esse conhecimento.
7:52
Um grande abraço a todos e até o próximo episódio de iapuriás.
7:57
É isso aí, pessoal. Muito obrigado pela companhia de
8:00
hoje. Fiquem bem, cuidem se e nos
8:02
vemos no próximo episódio, tchau.