Latest / escovando bits podcast / #92 - Segurança e IA

Transcript

#92 - Segurança e IA · escovando bits podcast

0:03
SPEAKER_01: Assine a Codecon Pro, apoie a Codecon e ganhe vários benefícios.
0:10
[music]
0:17
SPEAKER_01: Olá, você está escutando Escovando Beats, o podcast da Codecon.
0:21
[music]
0:29
SPEAKER_01: Eu sou o Gabriel e uma vez eu quase caí num teste de phishing.
0:35
SPEAKER_01: E é isso?
0:37
SPEAKER_01: Na empresa que eu trabalhava, pô.
0:39
SPEAKER_01: Fizeram um teste só pra ver se a galera caía, assim.
0:41
SPEAKER_01: Eu quase caí.
0:42
SPEAKER_02: É, eu não julgo, porque se for o que eu tô pensando, era muito bom.
0:46
SPEAKER_02: Eu não sei se a gente pode falar aqui,
0:48
SPEAKER_02: mas basicamente os caras fizeram um e-mail que era como se o dono
0:53
SPEAKER_02: da empresa tivesse compartilhado uma planilha com cargos e salários de todo mundo.
0:56
SPEAKER_02: E aí todo mundo curioso pra saber quanto que o amiguinho ganhava foi lá.
0:59
SPEAKER_01: E daí tinha só um login com o Google, assim,
1:01
SPEAKER_02: tá ligado?
1:02
SPEAKER_02: Um login com o Google.
1:03
SPEAKER_01: Caramba, cara.
1:04
SPEAKER_02: Gênio, cara, gênio.
1:05
SPEAKER_03: Aquele ali foi a origem gênio.
1:07
SPEAKER_03: Se expõe em duas coisas, né?
1:09
SPEAKER_03: A capacidade do teu funcionário cair em phishing e o como todo mundo é fofoqueiro, né?
1:12
SPEAKER_03: É, exatamente.
1:13
SPEAKER_03: Meu Deus do céu.
1:15
SPEAKER_03: Mas então tá, e aí galera?
1:16
SPEAKER_03: Aqui é o Alexandre e eu já passei o ponto env no prompt.
1:22
SPEAKER_01: Pô, cara.
1:23
SPEAKER_01: Essa é imperdoável, hein?
1:24
SPEAKER_02: Ah, imperdoável.
1:26
SPEAKER_02: A gente dizendo é como se o Claudio não pudesse ler todos os nossos repos, né?
1:31
SPEAKER_03: Tem essa.
1:33
SPEAKER_03: Como se ele não pudesse ler o próprio .env, né?
1:36
SPEAKER_02: Exato.
1:37
SPEAKER_02: Sabe, galera,
1:37
SPEAKER_02: que é o Galeno e eu não tenho medo de ar, eu tenho medo de andar no centro à noite.
1:41
SPEAKER_01: Nossa, eu também tenho medo de andar no centro à noite.
1:44
SPEAKER_01: Concordamos.
1:44
SPEAKER_01: Eu tenho medo de andar em qualquer rua à noite.
1:47
SPEAKER_01: É perigoso assim, porque é isso.
1:49
SPEAKER_01: Não, mas é que eu sou cagão mesmo.
1:51
SPEAKER_01: Mas beleza, a gente vai rapidinho só para o nosso intervalo comercial e a gente já volta.
1:59
SPEAKER_01: Pergunta sobre arquitetura e engenharia, só que de software.
2:07
SPEAKER_01: Neste quadro,
2:08
SPEAKER_01: trazemos um especialista do ASAS para tirar dúvidas de devs quando
2:11
SPEAKER_01: o assunto é arquitetura e engenharia de software.
2:13
SPEAKER_01: Hoje estaremos aqui com Gustavo Ferrati,
2:15
SPEAKER_01: engenheiro de Machine Learning, para nos ajudar a sanar as dúvidas que recebemos.
2:20
SPEAKER_01: Existe um momento certo para reescrever um sistema legado ou sempre vai ser uma decisão errada?
2:26
SPEAKER_00: Então, eu acho que assim,
2:27
SPEAKER_00: a gente não pode encarar as reescritas de legados,
2:31
SPEAKER_00: refatorações como um evento,
2:33
SPEAKER_00: um botão vermelho que você aperta,
2:35
SPEAKER_00: tipo assim,
2:35
SPEAKER_00: joga tudo fora,
2:37
SPEAKER_00: tem um timing certo para você apertar esse botão, descartar e começar.
2:42
SPEAKER_00: Então, assim,
2:43
SPEAKER_00: muitas vezes,
2:44
SPEAKER_00: a gente pensa na palavra refatoração,
2:45
SPEAKER_00: quando você fala refatoração de legado e tal,
2:48
SPEAKER_00: como isso, joga tudo fora e começa dali.
2:51
SPEAKER_00: Mas melhorar continuamente um legado, eu acho que é sempre saudável.
2:56
SPEAKER_00: Tem muita gente que apanhou
3:11
SPEAKER_00: Eu acho que a gente começa a entrar aqui numa questão até que é meio filosófica, né?
3:15
SPEAKER_00: Porque tipo assim, aquele código já foi sendo transformado...
3:26
SPEAKER_00: Tantas vezes ao longo do processo, que é um pouco do lance ali do navio de tesão, né?
3:30
SPEAKER_00: Você vai trocando uma tábua por vez do navio.
3:33
SPEAKER_00: Quando que o navio deixa de ser o navio, né?
3:35
SPEAKER_00: Quando que seu legado deixa de ser o legado, se você adotar essa prática de ficar...
3:41
SPEAKER_00: Então, eu acho que muita gente,
3:42
SPEAKER_00: às vezes,
3:43
SPEAKER_00: acaba adotando essa solução de,
3:45
SPEAKER_00: cara, joga tudo fora, reescreve, recomeça tudo de novo, muitas vezes porque
3:56
SPEAKER_00: É tipo assim,
3:57
SPEAKER_00: acaba sendo menos trabalhoso você reescrever uma coisa que tá só na sua cabeça do
4:03
SPEAKER_00: que você tentar entender o que várias pessoas ao longo
4:06
SPEAKER_00: de vários momentos passaram pra conseguir construir aquilo tudo que tá ali.
4:10
SPEAKER_00: Então acaba se tornando...
4:11
SPEAKER_00: Música Música
4:48
SPEAKER_01: O Perguntas de Engenharia e Arquitetura, Socket Software, é patrocinado pelo ASUS.
4:52
SPEAKER_01: Acesse o link na descrição do episódio para saber mais sobre as vagas disponíveis
4:57
SPEAKER_01: para a área de engenharia de software.
5:05
SPEAKER_01: E aí, estamos de volta.
5:07
SPEAKER_01: E pra você que está ou lavando o carro,
5:09
SPEAKER_01: ou lavando a louça,
5:11
SPEAKER_01: ou dirigindo o carro,
5:13
SPEAKER_01: ou dirigindo a louça,
5:14
SPEAKER_01: o tema do episódio de hoje é... Cara, a gente não pensou no título, né?
5:19
SPEAKER_01: A gente só pensou numa matéria aqui.
5:21
SPEAKER_01: Vou copiar o título da matéria.
5:23
SPEAKER_02: Quem for pesquisar ali vai cair no nosso podcast, na matéria disso.
5:27
SPEAKER_03: É verdade.
5:28
SPEAKER_03: Cara, o título deveria ser o que, acho que foi o que o Alex falou.
5:32
SPEAKER_03: Não, não, não, foi o próprio Galeno que falou.
5:35
SPEAKER_03: O título do episódio de hoje é...
5:37
SPEAKER_03: Esse é o título do podcast.
5:39
SPEAKER_03: Fora de contexto.
5:48
SPEAKER_03: Não é esse?
5:48
SPEAKER_02: Não cita facção pelo nome, fala facção local, cara, não me compromete aí.
5:52
SPEAKER_03: Ah tá, então, ó, editor, põe um pip, pip.
5:57
SPEAKER_00: Nota do editor,
5:58
SPEAKER_00: para fins de autopreservação declaro que não possuo envolvimento com
6:01
SPEAKER_00: as declarações feitas neste episódio, sendo apenas um mero editor de áudio.
6:07
SPEAKER_01: Não, mas o título vai ser alguma coisa assim, ó, Empresas de A alertam, como que é?
6:12
SPEAKER_01: Teve um cara,
6:13
SPEAKER_01: o cara que me mandou essa matéria,
6:14
SPEAKER_01: ele também falou uma parada legal, deixa eu ver o que ele falou.
6:18
SPEAKER_01: Eu vi num outro grupo aqui, onde é que eu vou achar agora?
6:21
SPEAKER_01: Nunca mais vou achar esse link.
6:23
SPEAKER_03: É, perdi já.
6:24
SPEAKER_03: Bom, mas basicamente, né?
6:26
SPEAKER_03: Fala aí sobre o que era o post, Gabriel.
6:28
SPEAKER_01: Tá, eu vou falar, a gente vai pensar no título enquanto a gente estiver conversando aqui.
6:32
SPEAKER_01: Mas o título é uma notícia que foi publicada há dois dias atrás,
6:36
SPEAKER_01: no dia que a gente está gravando,
6:38
SPEAKER_01: que é Empresas de IA alertam o prazo para se preparar contra ataques é curto.
6:43
SPEAKER_01: E daí fala sobre uma carta que foi escrita pela OpenAI.
6:48
SPEAKER_01: Na verdade foi escrita por, sei lá,
6:50
SPEAKER_01: um grupo de empresas e daí assinaram a OpenAI,
6:53
SPEAKER_01: a Antropic e a Microsoft, que eles precisam de mais financiamento governamental.
6:58
SPEAKER_01: Acesso antecipado a tecnologias de defesa e estratégias coordenadas de resposta para
7:03
SPEAKER_01: se prevenirem de ataques cibernéticos,
7:07
SPEAKER_01: porque a IA vai se tornar cada vez mais inteligente e vai começar
7:11
SPEAKER_01: a atacar cada vez mais.
7:12
SPEAKER_01: E no caso...
7:13
SPEAKER_01: A brincadeira ali que o Galeno falou, né?
7:15
SPEAKER_01: Que o crime organizado está falando que vai ter mais crime organizado e
7:20
SPEAKER_01: por isso você precisa pagar o crime organizado.
7:22
SPEAKER_01: É basicamente isso, né?
7:24
SPEAKER_01: A IA criou o monstro e agora ela está dizendo que vocês precisam investir mais
7:29
SPEAKER_01: a gente para prevenir esse monstro.
7:32
SPEAKER_01: É tipo isso, né?
7:33
SPEAKER_02: Exatamente.
7:35
SPEAKER_02: Porque não faz sentido, né?
7:36
SPEAKER_02: Tipo, se eles querem parar esse monstro, só eles pararem de investir nisso, né?
7:39
SPEAKER_02: Pararem de continuar evoluindo esse parágrafo.
7:42
SPEAKER_02: Mas eu acho que a gente talvez vai falar sobre isso aqui, né?
7:46
SPEAKER_02: Mas isso até é uma questão que eu queria trazer aqui, né?
7:49
SPEAKER_02: Que tipo de ataque que eles estão falando que a IA faz, assim?
7:52
SPEAKER_02: Porque que tipo que é tão mais perigoso agora do que já não era antes, né?
7:57
SPEAKER_03: Então, acho que aí é o ponto onde eu ia começar a tratar.
8:03
SPEAKER_03: Eu acho que não tem muito a ver sobre a elaboração
8:07
SPEAKER_03: de ataques mais bem arquiteturados, sofisticados e tal.
8:13
SPEAKER_03: Eu acho que o que tem,
8:14
SPEAKER_03: até a gente tava comentando ali no grupo,
8:16
SPEAKER_03: mas o que eu vejo é aquele negócio, é a popularização de se fazer alguma coisa, né?
8:20
SPEAKER_03: Não sei o quão velho os ouvintes são,
8:23
SPEAKER_03: mas lá nos anos 2000 a gente acessava as coisas e usava o Mirc,
8:27
SPEAKER_03: que era um cliente de IRC pra gente poder conversar.
8:31
SPEAKER_03: Tipo um WhatsApp, só que em tela de terminal, assim.
8:34
SPEAKER_03: E naquela época, cara,
8:36
SPEAKER_03: já era possível tu acessar um backdoor do Windows e manipular a máquina
8:41
SPEAKER_03: do outro remotamente de alguma maneira.
8:44
SPEAKER_03: Aí inventaram um programinha que eu não lembro o nome, qual que era, Gabriel?
8:47
SPEAKER_01: Ah, eu não lembro.
8:48
SPEAKER_01: Eu lembro que era alguma coisa estrogiana.
8:49
SPEAKER_01: Não era Trojan?
8:50
SPEAKER_03: É isso, mas era um Trojan,
8:51
SPEAKER_03: que tinha um nome bem tosco, assim,
8:52
SPEAKER_03: que tu mandava pra pessoa pelo IRC,
8:54
SPEAKER_03: ele baixava, e aí tu abria o drive do CD-ROM, manipulava o mouse dele remoto e tal.
9:00
SPEAKER_01: Eu sofri esse ataque, eu fiquei muito assustado quando eu tinha 13 anos, tá ligado?
9:04
SPEAKER_03: Então...
9:05
SPEAKER_03: Então, eu acho que o que a gente tá vivendo é meio que isso, assim, cara.
9:09
SPEAKER_03: A vulnerabilidade já existia, alguém fez um programa e achou como distribuir.
9:13
SPEAKER_03: Eu acho que o momento que a gente tá é o seguinte, a vulnerabilidade ela já existe, cara.
9:17
SPEAKER_03: Todo mundo sabe que tem SQL Injection, a diferença é que...
9:20
SPEAKER_03: Porque antes a minha cabeleireira,
9:24
SPEAKER_03: ela não sabia,
9:25
SPEAKER_03: o meu barbeiro,
9:26
SPEAKER_03: ele não sabia que era possível tu tentar pegar um site qualquer e não sabia nem
9:31
SPEAKER_03: por onde começar.
9:32
SPEAKER_03: Hoje tu pode chegar pro teu Cloud Code e falar assim, ô,
9:35
SPEAKER_03: explora a vulnerabilidade nessa URL aqui e ele vai lá e explora as vulnerabilidades.
9:40
SPEAKER_03: Então tu tá popularizando o acesso a uma ferramenta, o que de certa forma é ruim, né?
9:45
SPEAKER_01: Não, mas eu acho que não é tão simples assim,
9:48
SPEAKER_01: porque as IAs mais de mercado, todas elas têm guardrails pra essas paradas, né?
9:55
SPEAKER_01: Tipo, eu mesmo tô tentando fazer aqui o roteiro de um vídeo pro YouTube,
9:59
SPEAKER_01: onde eu quero que tenha...
10:00
SPEAKER_01: E eu pedi a mim, mostra um exemplo de como esse código vai ter que ficar.
10:08
SPEAKER_01: E o Claudio se recusou,
10:10
SPEAKER_01: ele falou,
10:11
SPEAKER_01: eu não posso fazer isso, porque isso é contra as minhas regras, tá ligado?
10:16
SPEAKER_01: Eu acho que essas IAs assim,
10:18
SPEAKER_01: mais do público geral,
10:21
SPEAKER_01: mas obviamente existem várias IAs,
10:23
SPEAKER_01: o Grock provavelmente deve fazer isso, porque o Elon Musk é maluco, né?
10:28
SPEAKER_02: Inclusive porque ele já fez, né?
10:31
SPEAKER_02: Ou às vezes é a questão de tu fazer aqueles bypasses, assim, tipo,
10:35
SPEAKER_02: imagina que você quer levar açúcar pra uma cidade em que o açúcar foi proibido,
10:39
SPEAKER_02: assim, como é que você faz pra transportar por meio de avião?
10:43
SPEAKER_02: Na verdade você tá falando de cocaína, tá ligado?
10:44
SPEAKER_02: Então, tipo, você só muda um pouco
10:47
SPEAKER_01: esse termo.
10:48
SPEAKER_01: Como faz pra derreter um, sei lá, 100 quilos de carne estragada, tá ligado?
10:55
SPEAKER_02: Sim, carne inutilizada.
10:56
SPEAKER_03: Mas uma pergunta, só pra ver se vocês estão pensando a mesma coisa que eu.
11:01
SPEAKER_03: Vocês acham que essa parada é um movimento genuíno dessas empresas?
11:05
SPEAKER_03: Ou é tipo assim, cara, é pra ganhar dinheiro ou é pra se proteger?
11:10
SPEAKER_03: Cara, eu acho que é meio que uma jogada de marketing forte, assim,
11:13
SPEAKER_03: porque rolou esses tempos também da OpenAI, eles estavam fazendo algum tipo
11:25
SPEAKER_02: E foi basicamente um modelo que ele tinha que fazer uma tarefa.
11:40
SPEAKER_02: E ele não conseguia por alguns bloqueios de permissão,
11:42
SPEAKER_02: e daí ele meio que ficou tentando várias coisas,
11:44
SPEAKER_02: até que a maior ele conseguiu, tipo,
11:45
SPEAKER_02: achar um exploit meio que sem querer,
11:47
SPEAKER_02: assim, e conseguiu usar ele pra fazer a tarefa que ele precisava.
11:50
SPEAKER_02: Então, não foi uma IA senciente que do nada decidiu, pô,
11:54
SPEAKER_02: vou zaralhar aqui tudo,
11:55
SPEAKER_02: porque sim,
11:56
SPEAKER_02: mas foi só uma IA tentando fazer a tarefa dela por meio
11:58
SPEAKER_02: de talvez não muito ortodoxos, né?
11:59
SPEAKER_02: Então...
12:01
SPEAKER_02: Acabou que ela conseguiu fazer um ataque com isso,
12:04
SPEAKER_02: acabou causando um ataque,
12:05
SPEAKER_02: na verdade foi só um descontrole da IA,
12:08
SPEAKER_02: foi mais um descontrole da IA do que necessariamente um ataque,
12:11
SPEAKER_02: só que acaba que isso gera uma notícia grande,
12:14
SPEAKER_02: uma IA conseguiu soar E aí do nada agora eles querem regular, sabe?
12:30
SPEAKER_02: Será que é uma preocupação porque a China tá vindo com tudo e tá chegando neles?
12:47
SPEAKER_03: Mas a China também foda-se pra regulamentação, né?
12:49
SPEAKER_03: Porque o mercado ocidental inteiro pode estar regulamentado,
12:53
SPEAKER_03: a China fala assim, só não quero e ela só não vai
12:56
SPEAKER_01: e vai fazer o que ela quer.
12:57
SPEAKER_01: Não,
12:58
SPEAKER_01: mas o que vai acontecer é que o mercado ocidental não vai usar os modelos chineses
13:02
SPEAKER_01: porque vai estar regulamentado, né?
13:04
SPEAKER_03: É, pode ser.
13:05
SPEAKER_02: É, mas aí depende de um esforço mundial pra isso.
13:08
SPEAKER_02: E acho que até isso aconteceu, Moro.
13:11
SPEAKER_01: Não, é que tu ia, tu tava falando ali do agente invadindo o HuginFace.
13:15
SPEAKER_01: A gente teve essa experiência, né, Alexandre?
13:17
SPEAKER_01: Eu fiz um agente pra gravar um vídeo na Codecon.
13:19
SPEAKER_01: Daí ele meio que lia isso, ele falava, eu sou agente, então vou escrever essa coisa.
13:23
SPEAKER_01: Só que daí ele ficava nesse loop e nunca passava, né?
13:26
SPEAKER_01: Porque o certo não era aquela palavra, era tu responder o capture.
13:28
SPEAKER_01: Daí... De repente.
13:46
SPEAKER_01: De repente passou, de repente passou.
13:47
SPEAKER_01: Daí a gente foi ver os logs,
13:49
SPEAKER_01: daí ele, ah,
13:50
SPEAKER_01: a página depois do Captcha está escrito erro,
13:53
SPEAKER_01: eu preciso que essa página esteja escrito sucesso,
13:56
SPEAKER_01: eu vou alterar o DOM e vou escrever sucesso.
13:59
SPEAKER_01: Daí ele foi lá,
14:00
SPEAKER_01: alterou o DOM,
14:00
SPEAKER_01: escreveu sucesso, ele, ah, passou, muito bem,
14:04
SPEAKER_03: agora deu certo, tá ligado?
14:05
SPEAKER_03: E eu fiquei de cara,
14:06
SPEAKER_03: porque assim, cara,
14:07
SPEAKER_03: no teste mais fácil ela falhou,
14:11
SPEAKER_03: e no teste mais difícil, que tinham outras amarras, Na máquina dela funcionou.
14:42
SPEAKER_03: Eu tava numa call agora há pouco conversando com uns caras que tem uma empresa de,
14:46
SPEAKER_03: tipo, como é que é?
14:47
SPEAKER_03: Que faz coisas por imetro, assim, né?
14:49
SPEAKER_03: Eu tava contando pra eles uns cases e tal,
14:52
SPEAKER_03: e uma das soluções que a gente passou,
14:55
SPEAKER_03: que ela sugeriu, foi assim, tinha uma conta bancária que tinha que ser conciliada.
15:00
SPEAKER_03: E pra conciliar o saldo tinha que bater zero, né?
15:03
SPEAKER_03: Então, entrada e saída tinha que bater o valor do saldo.
15:06
SPEAKER_03: E aí uma hora a Iá falou assim, não estou conseguindo realizar essa tarefa.
15:09
SPEAKER_03: Sugestão mais simples é,
15:10
SPEAKER_03: vou apagar todas as contas, receber e substituir pelo valor da diferença.
15:15
SPEAKER_03: Essa foi uma solução real, cara.
15:17
SPEAKER_02: Aí a Iá aprendeu a lavar dinheiro também.
15:19
SPEAKER_03: É, tipo,
15:21
SPEAKER_03: quando tu usa um gol,
15:23
SPEAKER_03: tipo um objetivo de chegar lá como métrica de sucesso,
15:26
SPEAKER_03: tu tá dizendo que os fins justificam os meios, né?
15:29
SPEAKER_03: Então o Mano Make também é assim, né?
15:32
SPEAKER_03: Quem nunca, né?
15:32
SPEAKER_02: Eu acho que talvez o grande ponto desses riscos de segurança seja esse.
15:36
SPEAKER_02: A IA é muito insistente, então acaba que ele tem esse lado mais adaptativo.
15:41
SPEAKER_02: Então quando você faz um ataque utilizando uma IA,
15:44
SPEAKER_02: ela tenta de um jeito,
15:45
SPEAKER_02: depois ela tenta de outro, depois ela tenta de outro, depois ela tenta de outro.
15:47
SPEAKER_02: Então, tipo, ele batia naquela trava e ele simplesmente pegava e parava e desistia.
15:50
SPEAKER_02: E esse modelo que conseguiu escapar de sandbox,
15:52
SPEAKER_02: na verdade,
15:52
SPEAKER_02: foi um modelo que tinha mais tokens,
15:54
SPEAKER_02: tinha, tipo, mais pensamento e tal, e acabou que ele não desistiu, né?
15:57
SPEAKER_02: Então, é aquele meme lá do cara que...
16:17
SPEAKER_02: Eu não sei se o post que eu li é real,
16:18
SPEAKER_02: mas diz que tinha uma série de limitações pra esse caso, né?
16:21
SPEAKER_02: E que os agentes não poderiam se conversar entre si,
16:23
SPEAKER_02: etc e tal, mas no fim eles deram um jeito de trocar a memória, não foi isso?
16:26
SPEAKER_03: Cara, não sei se eu não duvidaria.
16:41
SPEAKER_03: É, eu vi alguma coisa,
16:42
SPEAKER_03: foi até no Tab News,
16:44
SPEAKER_03: um cara descrevendo esse caso,
16:45
SPEAKER_03: eu não sei se é real mesmo, tá,
16:46
SPEAKER_03: mas o que ele,
16:47
SPEAKER_03: ele falava sobre esse caso,
16:49
SPEAKER_03: mas eu não sei se é real,
16:49
SPEAKER_03: que existia uma série de limitações pros agentes,
16:52
SPEAKER_03: que eles não poderiam conversar entre si,
16:53
SPEAKER_03: eles não poderiam trocar mensagens,
16:54
SPEAKER_03: eles tinham um orquestrador, cada um tinha um limite.
17:00
SPEAKER_03: E aí, de repente,
17:01
SPEAKER_03: eles viram que eles não podiam se comunicar,
17:03
SPEAKER_03: eles criaram no repo um arquivo onde eles trocavam memória e aí eles,
17:10
SPEAKER_03: os agentes entre si, observaram.
17:11
SPEAKER_03: Obrigado.
17:11
SPEAKER_03: Obrigado.
17:26
SPEAKER_03: E, tipo, o que eu acho que é mega curioso é que os caras são mega impressionantes.
17:41
SPEAKER_03: Mas o que eu ia trazer é o seguinte...
17:56
SPEAKER_03: A gente vai ter ataques mais recorrentes porque tem mais gente explorando falhas
18:02
SPEAKER_03: a gente vai ter ataques mais recorrentes porque a qualidade das coisas
18:05
SPEAKER_03: que estão sendo feitas não são tão boas?
18:08
SPEAKER_03: E como a gente está produzindo muito mais,
18:10
SPEAKER_03: a gente vai ter mais Não é que a proporção de software vulnerável subiu de 40%
18:17
SPEAKER_03: para 70%,
18:18
SPEAKER_03: é que o número de software aumentou muito,
18:20
SPEAKER_03: talvez a vulnerabilidade aumentou de 40% para 42%,
18:23
SPEAKER_03: mas antes eram 1 milhão de softwares com bug,
18:26
SPEAKER_03: agora são tipo 30 milhões de software com bug, sabe?
18:29
SPEAKER_03: Então eu acho que pode ser meio que esse caminho também,
18:32
SPEAKER_03: porque está todo mundo fazendo alguma coisa de software, né?
18:35
SPEAKER_01: Mas eu acho que o risco desses softwares não é muito grande, né?
18:39
SPEAKER_01: Tipo, ah, beleza,
18:40
SPEAKER_01: ali o microsas do Joãozinho dev vai ser invadido, mas ele tem, sei lá, mil usuários.
18:48
SPEAKER_01: Eu acho que o problema é quando a...
18:50
SPEAKER_01: A coisa começa a chegar em dados muito altos.
18:55
SPEAKER_01: Inclusive eu vi hoje no LinkedIn que os caras tiveram o exploit do governo do Brasil.
19:02
SPEAKER_01: Da Serpro.
19:03
SPEAKER_01: É, da Serpro.
19:04
SPEAKER_01: Então tem, porra,
19:05
SPEAKER_01: Teve acesso ao CPF de praticamente todos os brasileiros que estão vendendo
19:09
SPEAKER_01: na Deep Web agora.
19:10
SPEAKER_01: Mas eu acho que a IA está ajudando realmente essa galera.
19:15
SPEAKER_01: Tipo assim,
19:16
SPEAKER_01: os caras que eram meio hackerzinho,
19:17
SPEAKER_01: assim, que já sabiam alguma coisa, para eles Sim, sim, sim.
19:35
SPEAKER_01: Eu acho que o maior perigo é esse, né?
19:36
SPEAKER_01: O uso da ferramenta...
19:50
SPEAKER_01: Sim, sim, sim.
20:09
SPEAKER_02: Basicamente conhece os experts que a gente já conhece.
20:11
SPEAKER_02: Então ela conhece SQL Injection,
20:12
SPEAKER_02: ela conhece as coisas que estão na lista da WASP, ela conhece uma série de coisas.
20:16
SPEAKER_02: E esse exemplo mesmo que você falou do Libradesco,
20:19
SPEAKER_02: por exemplo,
20:19
SPEAKER_02: é um ataque de phishing um pouco mais performático,
20:22
SPEAKER_02: um pouco mais agilizado, mais rápido de montar.
20:25
SPEAKER_02: Mas ainda é um ataque de phishing, a gente já tem isso hoje.
20:27
SPEAKER_02: Então acho que a questão é mais que talvez ela está facilitando encontrar erros
20:32
SPEAKER_02: que já existiam,
20:33
SPEAKER_02: que a gente já conhecia e está,
20:35
SPEAKER_02: enfim, fazendo isso numa escala um pouco maior do que a gente estava acostumado, né?
20:38
SPEAKER_02: Porque eu acho meio curioso, né?
20:41
SPEAKER_02: A gente já tinha várias ferramentas já que testam coisas diferentes,
20:45
SPEAKER_02: tipo de hacking e tudo mais.
20:46
SPEAKER_02: Eu lembro que tinha bots inteiros, assim, só especializados em vulnerabilidades do WordPress.
20:51
SPEAKER_02: Então você passava um site do WordPress lá e testava.
20:53
SPEAKER_02: .
20:53
SPEAKER_02: .
20:53
SPEAKER_02: .
20:53
SPEAKER_02: .
20:53
SPEAKER_02: .
21:08
SPEAKER_02: A gente consegue às vezes trazer algumas ideias que a gente não tinha pensado,
21:12
SPEAKER_02: alguns exploits que a gente não tinha pensado.
21:14
SPEAKER_02: Então já aconteceu de review da EA pegar algumas falhas de segurança que o dev não tinha pegado.
21:20
SPEAKER_02: Quando ela tem acesso mais privilegiado,
21:21
SPEAKER_02: parece que ela de fato consegue encontrar alguns exploits.
21:23
SPEAKER_02: Acho que fora esses ambientes públicos,
21:26
SPEAKER_02: quando ela roda em ambientes públicos, É basicamente isso
21:29
SPEAKER_03: que a gente já conhece.
21:30
SPEAKER_03: Meu, mas isso é uma coisa que pra mim, cara, ela tá funcionando como um braço direito muito bom.
21:36
SPEAKER_03: Pra me ajudar a achar brechas que eu não pensei.
21:40
SPEAKER_03: E assim,
21:41
SPEAKER_03: tem um esquema que a gente fez que eu preciso gerar uns tokens de acesso lá
21:45
SPEAKER_03: e esses tokens de acesso eles expiram a cada X tempos, etc e tal.
21:49
SPEAKER_03: Cara, tipo um Magic Link, assim, sabe?
21:51
SPEAKER_03: Basicamente o conceito é isso que eu precisava fazer.
21:54
SPEAKER_03: E eu tenho, obviamente, eu tenho um endpoint que geram esses tokens, né?
21:59
SPEAKER_03: Pra eu poder validá-los ou invalidá-los,
22:02
SPEAKER_03: pra poder enviar isso por e-mail e tal,
22:04
SPEAKER_03: e a pessoa depois clicar lá e gerar uma ação.
22:07
SPEAKER_03: Não é bem o Magic Link porque ele não serve pra...
22:09
SPEAKER_03: E cara, eu não tinha pensado em uma série de coisas que eu quase deixei em aberto só
22:18
SPEAKER_03: porque eu fui descuidado.
22:21
SPEAKER_03: E cara, na hora que eu pedia...
22:23
SPEAKER_03: Foi assim, ó,
22:24
SPEAKER_03: dá uma olhada aqui,
22:25
SPEAKER_03: eu acho que isso,
22:26
SPEAKER_03: isso aqui, isso aqui tem essas chances aqui de a gente ter um software comprometido.
22:30
SPEAKER_03: Cara, a lista de hipóteses que eu passei foram duas ou três, assim, me veio umas doze.
22:34
SPEAKER_03: Obviamente, não compensava para aquele contexto eu aplicar as doze, tá?
22:39
SPEAKER_03: Eu tenho que subir a minha máquina da EC2 só para lidar com esse problema
22:43
SPEAKER_03: que eu não tinha,
22:44
SPEAKER_03: mas ela me trouxe insights interessantes para eu poder pensar caminhos
22:48
SPEAKER_03: para evoluir aquilo,
22:49
SPEAKER_03: coisas que eu só não pensei,
22:50
SPEAKER_03: porque primeiro,
22:52
SPEAKER_03: não sou especialista em segurança,
22:53
SPEAKER_03: não Eu não tava com foco naquilo enquanto tava fazendo,
22:56
SPEAKER_03: eu queria entregar uma feature, né?
22:58
SPEAKER_03: Então eu acho que nesse ponto automatiza bastante.
23:01
SPEAKER_03: E aí é que eu acho onde mora o perigo,
23:02
SPEAKER_03: porque o cara, ele pode chegar e fazer exatamente isso que você falou.
23:05
SPEAKER_03: Ele chega lá e fala assim, ó, eu sei que esse aqui é um site WordPress.
23:09
SPEAKER_03: Existe 200 erros comuns aqui e o cara nunca teria isso, né?
23:13
SPEAKER_03: Ou tipo,
23:14
SPEAKER_03: perdi a minha senha do WordPress,
23:16
SPEAKER_03: me ajude a recuperar,
23:17
SPEAKER_03: na verdade você tá querendo pegar o site do jornal da universidade, sabe?
23:21
SPEAKER_03: Então acho que é aí onde mora o principal perigo.
23:24
SPEAKER_03: Outra coisa que o artigo me deixou um pouco pensativo é o seguinte,
23:28
SPEAKER_03: e aí é que eu acho que é uma jogada de mestre de tu poder ter acesso ao big money,
23:32
SPEAKER_03: né?
23:32
SPEAKER_03: Porque enquanto essas empresas de IA estão captando dinheiro do mercado,
23:36
SPEAKER_03: o dinheiro do mercado,
23:37
SPEAKER_03: de certa maneira,
23:39
SPEAKER_03: Por mais que seja um capital de risco e tal, ele está esperando um retorno.
23:44
SPEAKER_03: Eu posso estar apostando lá na OpenAI e ela pode não dar retorno?
23:49
SPEAKER_03: Pode.
23:49
SPEAKER_03: Então o capital privado tem essa questão.
23:52
SPEAKER_03: Só que ele tem um limite, né cara?
23:54
SPEAKER_03: Não, pera, uma das sugestões que a gente tem é que os nossos motivos...
24:08
SPEAKER_03: Então, investidores,
24:09
SPEAKER_03: agora vocês não precisam mais investir na gente,
24:11
SPEAKER_03: porque para resolver o problema que a gente...
24:24
SPEAKER_03: .
24:24
SPEAKER_03: .
24:24
SPEAKER_03: .
24:24
SPEAKER_03: .
24:24
SPEAKER_03: .
24:24
SPEAKER_03: .
24:24
SPEAKER_03: .
24:38
SPEAKER_03: Nunca assinou o Cloud ou o Chat EPT, só é vítima do problema criado, sabe?
24:43
SPEAKER_03: Então é aí que eu acho que mora o principal problema desse artigo,
24:46
SPEAKER_03: que não, beleza,
24:47
SPEAKER_03: agora a gente vai criar os modelos mais específicos,
24:49
SPEAKER_03: vamos colocar na mão do governo,
24:50
SPEAKER_03: o governo vai usar ele para resolver os problemas que não existem a custo
24:54
SPEAKER_03: da população, tá ligado?
24:55
SPEAKER_01: É, eu acho que essa galera está meio nessa vibe de desespero.
25:00
SPEAKER_01: Inclusive, é até engraçado que foram mais de 100 empresas.
25:04
SPEAKER_01: Estou lendo o artigo aqui de volta.
25:06
SPEAKER_01: O documento faz um apelo a autoridades governamentais e líderes do setor
25:09
SPEAKER_01: de tecnologia para que todos os recursos sejam mobilizados para esse fim.
25:13
SPEAKER_01: Os governos deveriam criar canais para compartilhamento de informações e coordenação
25:17
SPEAKER_01: de defesas, além de ajudar no financiamento das tecnologias.
25:22
SPEAKER_02: Apelo é muito forte, né?
25:23
SPEAKER_02: Por favor,
25:24
SPEAKER_02: regulem a gente,
25:25
SPEAKER_02: por favor,
25:25
SPEAKER_02: façam alguma coisa, por favor, nos deem dinheiro pra nos salvar de nós mesmos.
25:32
SPEAKER_01: Inclusive,
25:33
SPEAKER_01: eu tava falando com o Yuri Dev hoje, né,
25:35
SPEAKER_01: que é o youtuber ali que fala sobre hacking bastante,
25:38
SPEAKER_01: e ele mandou uma frase aqui que eu não entendi nada,
25:41
SPEAKER_01: mas ele falou assim ó,
25:42
SPEAKER_01: antigamente os ScriptKeyers usavam ferramentas DAST como SQL Map ou Wasp Zap,
25:49
SPEAKER_01: só que atualmente eles têm uma equipe inteira de Red Team e o único prompt.
25:53
SPEAKER_01: Daí eu tava pesquisando aqui e tipo...
25:56
SPEAKER_02: Jogou na IA pra...
25:57
SPEAKER_02: Joguei na IA, né?
25:59
SPEAKER_01: Mas basicamente é o que a gente já tinha falado, né,
26:01
SPEAKER_01: de tipo,
26:02
SPEAKER_01: hoje em dia essa galerinha assim que quer experimentar, né,
26:06
SPEAKER_01: quer entrar no mundo, ah,
26:07
SPEAKER_01: você é um hacker,
26:08
SPEAKER_01: vou ganhar dinheiro fácil,
26:10
SPEAKER_01: elas vão lá e mandam um botzinho pra ficar vasculhando vulnerabilidade em sistemas.
26:16
SPEAKER_03: Ei, mas ao mesmo tempo quem tá desenvolvendo não tem
26:18
SPEAKER_03: a mesma ferramenta pra fechar essas brechas?
26:21
SPEAKER_01: Pois é, né?
26:22
SPEAKER_01: Fiquei pensando nisso também.
26:24
SPEAKER_01: Mas eu acho que, é,
26:26
SPEAKER_01: eu acho que ao mesmo tempo tem,
26:27
SPEAKER_01: mas ao mesmo tempo tem muito código legado que tá aí e ninguém mexe, né?
26:32
SPEAKER_01: O famoso, como é que chama?
26:34
SPEAKER_01: Ah, meu Deus, esqueci a palavra.
26:36
SPEAKER_03: O famoso empréstimo técnico.
26:39
SPEAKER_03: É, é débito técnico.
26:41
SPEAKER_03: Já nem é mais débito, né, cara?
26:42
SPEAKER_03: Você virou uma dívida impagável já, né?
26:44
SPEAKER_03: Dívida técnica, né?
26:45
SPEAKER_03: Cara, eu tenho uma pessoa que eu fiz um sistema já faz muitos anos, tá?
26:49
SPEAKER_03: Que tá rodando em Django 2.4.
26:50
SPEAKER_03: Só pra ter uma ideia, tá no Django 6 já.
26:52
SPEAKER_03: Entendeu?
26:53
SPEAKER_03: É Python 2.8 ainda, tá?
26:55
SPEAKER_03: Caraca.
26:56
SPEAKER_02: Então, tem disso.
26:58
SPEAKER_02: Mas esse lance do ScriptKids que ele falou ali é isso, né?
27:01
SPEAKER_02: Que a gente, tipo, muito, né?
27:02
SPEAKER_02: Basicamente, tudo dá ferramenta na mão de uma galera que antigamente fazia por outras formas.
27:07
SPEAKER_02: E aquilo que o Alexandre falou, acho que cabe bem, né?
27:10
SPEAKER_02: Que é, como a galera tá fazendo muita coisa com o IA,
27:12
SPEAKER_02: a própria IA gera bugs que depois a própria IA vai encontrar, né?
27:15
SPEAKER_03: Então, Será, cara,
27:16
SPEAKER_03: que OpenAI e Anthropic estão gerando softwares bugados de propósito
27:20
SPEAKER_03: para poder vender para o governo a solução de corrigir esses bugs?
27:23
SPEAKER_02: Eu acho que a gente deveria começar essa teoria da conspiração.
27:25
SPEAKER_01: Vamos colocar o nosso chapéuzinho de papel alumínio.
27:30
SPEAKER_03: Mas será que é tão papel alumínio assim nesse caso?
27:33
SPEAKER_01: É, não sei, né?
27:34
SPEAKER_03: Porque se os caras chegaram à conclusão
27:36
SPEAKER_03: que eles querem vender acesso pro governo,
27:38
SPEAKER_03: o que custa deles só empurrarem
27:40
SPEAKER_03: uns bugzinhos conhecidos pra poder dizer pros governos que eles têm um problema real
27:43
SPEAKER_03: a solucionar?
27:44
SPEAKER_02: Inflar os números aí.
27:45
SPEAKER_02: Não, aí, ó.
27:46
SPEAKER_01: Mas, cara,
27:47
SPEAKER_01: voltando o que o Alexandre falou lá no começo, né, que, tipo,
27:49
SPEAKER_01: antigamente tinha os vírus que a galera mandava, assim, pra invadir computador.
27:55
SPEAKER_01: Parece que antes era muito mais comum isso, né?
27:58
SPEAKER_01: Eu lembro, tipo,
27:59
SPEAKER_01: todo mundo tinha o medo de pegar algum vírus no computador,
28:04
SPEAKER_01: todo mundo usava o Avast antivírus e não sei o que lá.
28:07
SPEAKER_01: Meio que hoje em dia, sei lá, o Windows Defender padrão ali que vem instalado já é, não?
28:13
SPEAKER_03: Acho que não é isso, Gabriel.
28:15
SPEAKER_03: É que os dados sensíveis mudaram de lugar.
28:17
SPEAKER_03: Antes, os dados sensíveis estavam na tua máquina.
28:20
SPEAKER_03: Os dados sensíveis não estão mais na tua máquina.
28:21
SPEAKER_03: Acho que é por isso que essa preocupação mudou um pouco de lugar.
28:24
SPEAKER_03: A gente se preocupava antes de que as pessoas acessassem o nosso computador,
28:28
SPEAKER_03: porque eles iam ver.
28:28
SPEAKER_03: As nossas planilhas privadas.
28:30
SPEAKER_03: A planilha nem está mais no teu computador, cara.
28:32
SPEAKER_03: Então, isso muda o contexto, né?
28:36
SPEAKER_03: As informações importantes e sigilosas não estão mais na tua máquina para serem protegidas.
28:41
SPEAKER_03: Então, sim, óbvio,
28:43
SPEAKER_03: existe a Por que que eu vou atacar uma máquina,
28:46
SPEAKER_03: não usar ninguém, se eu posso atacar uma máquina?
28:59
SPEAKER_03: Eu não sei se foi no Itigo ali que eles comentaram que uma das preocupações
29:06
SPEAKER_03: que tem é questão de ataques a alvos de infraestrutura,
29:10
SPEAKER_03: tipo coisas essenciais de água e água.
29:13
SPEAKER_03: E, cara, sim, de fato, eu acho que esses sistemas, eles têm cara de serem legados, né?
29:19
SPEAKER_03: Não sei se tu tem a mesma sensação,
29:20
SPEAKER_03: mas se tu for pensar,
29:22
SPEAKER_03: a empresa de água aqui de Joinville,
29:24
SPEAKER_03: será que ela tem o sistema de CLP dela com a última versão de segurança atualizada?
29:29
SPEAKER_03: Ou talvez ela tá rodando o Windows 98 lá ainda,
29:32
SPEAKER_03: com software supervisório ligado à Internet Explorer, né?
29:35
SPEAKER_01: Então... Para pra imaginar tirar uma segunda via, assim, da conta de água.
29:41
SPEAKER_01: Eu não sei nem como é que faz, tá ligado?
29:44
SPEAKER_01: Provavelmente vou ter que ir presencial lá, o cara vai ter que...
29:47
SPEAKER_03: No impressora matricial ele vai tirar pra ti.
29:51
SPEAKER_02: Mas às vezes pode ser, cara, que por ser tipo um código tão antigo, tão arcaico assim...
29:57
SPEAKER_02: Ele ficou seguro.
29:57
SPEAKER_02: Pode ser que seja...
29:58
SPEAKER_02: É, fica seguro, tá ligado?
29:59
SPEAKER_02: Tipo, aí ela não sabe como...
30:01
SPEAKER_02: Como que eu vou dar exploit numa linguagem que eu não entendo, sabe?
30:04
SPEAKER_02: Sim.
30:05
SPEAKER_02: Uma lógica tão rebuscada, tão complexa, tão antiga, que é quase que um novo idioma, assim.
30:10
SPEAKER_03: É, porque uma das coisas que a galera guarda as sete chaves e etc,
30:16
SPEAKER_03: tanto quem usa quanto quem é detentor de sistema operacional,
30:20
SPEAKER_03: são esses bugs conhecidos de zero day, assim, que são catastróficos, assim, né?
30:25
SPEAKER_03: Então, obviamente,
30:26
SPEAKER_03: muitos já foram descobertos e ainda não foram explorados aguardando o momento certo
30:31
SPEAKER_03: e outros já foram descobertos,
30:32
SPEAKER_03: só que ninguém conta que eles foram descobertos,
30:34
SPEAKER_03: que não sabem como arrumar e distribuir a correção, então é melhor deixar baixo.
30:38
SPEAKER_03: Que é por isso que sistemas operacionais open source são tão bons,
30:41
SPEAKER_03: porque isso não vai existir, né?
30:42
SPEAKER_03: Porque vão expor e vão corrigir e pronto.
30:45
SPEAKER_03: E quem não atualizou, a culpa é de quem não atualizou, é mais fácil.
30:48
SPEAKER_03: Mas acho que nesse lugar, pra mim, é onde mora uma preocupação maior, assim.
30:54
SPEAKER_03: De alguma forma,
30:56
SPEAKER_03: esses modelos novos terem sido treinados conhecendo esses bugs,
31:00
SPEAKER_03: e aí antes que era uma coisa super restrita a um grupo de pessoas,
31:04
SPEAKER_03: agora talvez isso possa estar sendo explorado de maneira generalizada.
31:08
SPEAKER_03: Então, é a preocupação que eu tenho.
31:11
SPEAKER_03: Eu trabalhei com um cara que trabalhava com customização de pacotes de HTTP,
31:16
SPEAKER_03: assim, para aplicações de alto desempenho.
31:18
SPEAKER_03: Assim, em teoria,
31:19
SPEAKER_03: quando você está trabalhando em uma rede externa e que se comunica com
31:22
SPEAKER_03: os modelos padrões, Não tem muito o que fazer, né?
31:24
SPEAKER_03: Porque tá posto, né?
31:26
SPEAKER_03: O teu navegador não vai saber trabalhar com a tua versão customizada do HTTP.
31:29
SPEAKER_03: Mas dentro das requisições e chamadas que ele fazia, eles tinham camadas novas, né?
31:34
SPEAKER_03: Quando tu faz isso, tu tem duas coisas.
31:36
SPEAKER_03: Tu melhora o que tu quer e tu piora.
31:39
SPEAKER_03: Então ele melhorava o desempenho de um pacote X bolinha,
31:42
SPEAKER_03: mas ao mesmo tempo ele acabava expondo outras coisas.
31:44
SPEAKER_03: Isso era numa época pré-HTPS.
31:46
SPEAKER_03: E depois de um tempo ele descobriu que o roteador interno da rede por onde ele fazia
31:51
SPEAKER_03: as coisas,
31:52
SPEAKER_03: ele podia logar aos usuários Então, eu acho que o que a IA permite é essas coisas.
32:00
SPEAKER_03: Se tem um bug lá no HTTP que ninguém dava bola até ontem,
32:03
SPEAKER_03: talvez agora, com mais gente olhando pra isso, possa vir novos problemas.
32:08
SPEAKER_03: Então, mora naquilo que a gente tinha conversado lá no começo.
32:11
SPEAKER_01: Mas tu falou agora de Open Source também,
32:14
SPEAKER_01: eu lembrei que eu vi um tweet lá do pessoal da Vercel que eles têm o Turbo Repo,
32:20
SPEAKER_01: né, que é um, enfim...
32:21
SPEAKER_01: Uma biblioteca open source que eles criaram lá, compraram, acho.
32:26
SPEAKER_01: E eles criaram um esquema no GitHub lá,
32:29
SPEAKER_01: que eles configuraram os agentes para ficar de olho em todas as issues
32:33
SPEAKER_01: que são abertas, inclusive de erros ou de vulnerabilidades.
32:37
SPEAKER_01: Qualquer coisa que aquela coloca,
32:39
SPEAKER_01: tipo, um agente já vai lá, pega e abre um APR, assim, rapidão, tá ligado?
32:43
SPEAKER_01: E isso, tipo,
32:44
SPEAKER_01: fez eles praticamente zerarem as issues do projeto e,
32:48
SPEAKER_01: tipo, tá tudo em dia, assim, né?
32:51
SPEAKER_01: Eu fiquei pensando nisso, assim, tipo, se há esses...
32:54
SPEAKER_01: Obviamente que talvez seja caro, né?
32:56
SPEAKER_01: A Vercel é a Vercel tem dinheiro,
32:58
SPEAKER_01: mas outros projetos open source poderiam evitar a vulnerabilidade também com IA, né?
33:04
SPEAKER_01: De deixar lá uns agentes rodando lá pra resolver todos esses problemas, né?
33:09
SPEAKER_03: Eu acho que algumas coisas já tem, né?
33:11
SPEAKER_03: Acho que o próprio Dependbot do GitHub,
33:15
SPEAKER_03: que já vai olhando bibliotecas que, beleza,
33:19
SPEAKER_03: não é necessariamente uma IA, ou talvez agora até já seja, mas já te ajuda, né?
33:23
SPEAKER_03: É, sim.
33:24
SPEAKER_01: Mas é que às vezes um projeto Open Source é mantido por uma galera voluntária, assim, né?
33:29
SPEAKER_01: Que, ah, vou ter que ir lá pegar o Dependabot, atualizar a versão, testar se tá tudo ok.
33:36
SPEAKER_01: Isso leva tempo, né?
33:38
SPEAKER_03: Sim.
33:38
SPEAKER_03: E teste, né?
33:39
SPEAKER_01: É, agora com agentes automatizados ali, às vezes talvez isso comece a diminuir, né?
33:45
SPEAKER_01: Mas enfim, questões.
33:46
SPEAKER_01: Mais um episódio que a gente fala sobre IA, né?
33:48
SPEAKER_03: Bom, mas nesse caso era típico, né?
33:53
SPEAKER_03: Agora, uma outra coisa que eu acho que é super legal,
33:56
SPEAKER_03: cara, aí fazendo parte da onda positiva, né?
33:59
SPEAKER_03: E do que eu acho que é uma coisa legal e interessante.
34:02
SPEAKER_03: Pô, quando vocês já trabalharam,
34:04
SPEAKER_03: todos vocês trabalharam com softwares que os usuários usam na ponta, né?
34:08
SPEAKER_03: Eu digo no sentido de que não era um software só que era uma API
34:11
SPEAKER_03: que ninguém clicava no software de vocês.
34:13
SPEAKER_03: Mas quando tu tem um time de QA,
34:16
SPEAKER_03: normalmente o QA ele segue um roteiro de teste,
34:18
SPEAKER_03: claro, ele tem lá aquele roteiro que ele não quer seguir, né?
34:21
SPEAKER_03: Que ele quer, tipo, tentar te destruir.
34:23
SPEAKER_03: E maravilhoso quando ele consegue, porque a gente descobre um jeito, né?
34:26
SPEAKER_03: Mas o como a IA consegue ser criativa nesses testes,
34:30
SPEAKER_03: assim, que tu quer que ela gere bugs desconhecidos, né?
34:34
SPEAKER_03: Porque é muito natural pra ela errar Então, beleza, o teu teste de
34:53
SPEAKER_03: E ao mesmo tempo, como ela é capaz de achar erros, assim, que são meio que toscos, né?
35:08
SPEAKER_03: Aquilo, Gabriel,
35:10
SPEAKER_03: que a gente fez lá no vídeo,
35:11
SPEAKER_03: que eu coloquei uns formulários ocultos lá, que era para enganar a IA, né?
35:16
SPEAKER_03: Pô, não sei se já passaram por isso,
35:17
SPEAKER_03: às vezes vai chegar no formulário de login,
35:19
SPEAKER_03: o formulário de login ele tem um alternar assim entre login com e-mail.
35:23
SPEAKER_03: E aí, quando tu tá usando isso com o usuário padrão,
35:26
SPEAKER_03: ele vai lá, ele clica pra alternar e ele preenche.
35:29
SPEAKER_03: Mas, pô, aí ela consegue...
35:38
SPEAKER_03: E aí tu começa a pensar em algumas coisas que tu não faria se não tivesse passado
35:40
SPEAKER_03: por um teste louco que nem esse, né?
35:42
SPEAKER_03: E eu acho que é uma vantagem que a gente tem.
35:56
SPEAKER_03: Acho que isso é um bom ponto,
35:58
SPEAKER_02: assim, né?
35:58
SPEAKER_02: De gerar cenários de teste com a IA, né?
36:01
SPEAKER_02: Foi um dos primeiros usos que a gente deu pra ela lá no Asus,
36:03
SPEAKER_02: antes de começar a botar a galera pra codar,
36:05
SPEAKER_02: assim, foi fazer ela só gerar testes automatizados, assim.
36:08
SPEAKER_02: Então ela olhava o teu código e sugeria,
36:10
SPEAKER_02: tipo, uns cenários, assim, Porque às vezes, cara, você não para pra pensar, sabe?
36:13
SPEAKER_02: É um exemplo tosco, né?
36:14
SPEAKER_02: Mas, tipo, o próprio, por exemplo, um testador de CPFs e NPJs, ele é válido, sabe?
36:18
SPEAKER_02: Então, tipo,
36:19
SPEAKER_02: ele tem uma capacidade de gerar alguns CPFs e NPJs
36:22
SPEAKER_02: que às vezes você consideraria inválidos e, na verdade, são válidos.
36:26
SPEAKER_02: Pra cenários, assim, ela é muito boa mesmo.
36:28
SPEAKER_02: Mas voltando pro lado um pouco pessimista,
36:30
SPEAKER_02: às vezes eu fico com um pouco de medo de deixar ela ter acesso ao nosso código e
36:35
SPEAKER_02: com isso a gente tá alimentando essa galera que vai descobrir exploit depois, sabe?
36:39
SPEAKER_02: Então tipo, a gente tá meio que alimentando a IA que depois vão apusar que tá atacando a gente.
36:43
SPEAKER_02: Então parece que tá jogando nos dois times, sabe?
36:46
SPEAKER_03: Sabe qual que é o meu maior medo em relação de usar o Cloud Code ou ferramentas do tipo?
36:50
SPEAKER_03: É que olha só, cara,
36:51
SPEAKER_03: eu tô dizendo pro Cloud Code que ele pode escrever qualquer coisa na minha pasta,
36:54
SPEAKER_03: basicamente, né?
36:55
SPEAKER_03: Porque eu confio que lá do outro lado é um modelo de IA que tá escrevendo código pra mim, né?
37:02
SPEAKER_03: E se um dia alguém acha uma falha de segurança no aplicativo da Antropic e usa todos
37:07
SPEAKER_03: os nossos computadores como zumbis, né?
37:09
SPEAKER_03: Esse é o meu medo.
37:11
SPEAKER_02: Será que eles usam IA pra se protegê-lo?
37:13
SPEAKER_03: Será que eles estão processando Bitcoin na minha máquina?
37:16
SPEAKER_02: É bem possível, porque come bateria pra caramba.
37:18
SPEAKER_02: Mas pode usar o Call of Code na Auto Mode, cara.
37:20
SPEAKER_02: Modo automático?
37:21
SPEAKER_02: Dependendo do que eu tô fazendo, sim.
37:23
SPEAKER_02: Eu uso.
37:23
SPEAKER_02: É errado.
37:24
SPEAKER_02: Gente, não sou eu, cara.
37:26
SPEAKER_02: Eu não confio.
37:27
SPEAKER_03: Não, dependendo do que eu tô fazendo.
37:30
SPEAKER_03: Não, dependendo do que eu tô fazendo, sim, cara.
37:32
SPEAKER_03: Dependendo do que eu tô fazendo, sim.
37:34
SPEAKER_03: Pra rodar, meu, teste, só vai, querido.
37:37
SPEAKER_03: Só vai.
37:37
SPEAKER_03: A única coisa que não pode fazer é commit.
37:40
SPEAKER_03: O resto, faz qualquer coisa.
37:41
SPEAKER_03: O problema que às vezes ele faz.
37:44
SPEAKER_03: Mesmo colocando como uma diretiva, né?
37:46
SPEAKER_02: Daí ele faz.
37:47
SPEAKER_02: Não, ele tentou roubar meu emprego, cara.
37:49
SPEAKER_02: Na minha frente, velho.
37:51
SPEAKER_02: Tentou comitar, abre o pé e ele bota o co-autor do ano, tipo, como co-autor.
37:56
SPEAKER_01: Eu mesmo.
37:57
SPEAKER_01: Tentou roubar meu emprego na minha frente.
38:00
SPEAKER_01: Mas esse rolê de, tipo,
38:03
SPEAKER_01: eles terem acesso ao código e isso fazer,
38:07
SPEAKER_01: tipo assim,
38:08
SPEAKER_01: a IA saber resolver as coisas,
38:10
SPEAKER_01: a galera tava criticando esses tempos,
38:12
SPEAKER_01: Antropic,
38:13
SPEAKER_01: eu acho que eles tinham lançado uma versão pra advogados,
38:16
SPEAKER_01: né, alguma coisa assim, eu não lembro direito.
38:18
SPEAKER_01: E daí a galera tava falando que, tipo,
38:20
SPEAKER_01: muitos advogados estavam usando o cloud pra mandar documentos e tal,
38:27
SPEAKER_01: e a IA foi ficando cada vez mais inteligente,
38:29
SPEAKER_01: e eles foram lá, vamos usar um produto só sobre isso.
38:32
SPEAKER_01: Então, tipo, Então,
38:33
SPEAKER_01: meio que a gente agora,
38:35
SPEAKER_01: inicialmente, né,
38:36
SPEAKER_01: eles se alimentaram com o que era público,
38:38
SPEAKER_01: roubaram, na real, né, o código público, que tem toda uma crítica em cima disso.
38:42
SPEAKER_01: E agora,
38:43
SPEAKER_01: a gente mesmo, né,
38:44
SPEAKER_01: tá alimentando ela com o nosso código,
38:46
SPEAKER_01: né, que provavelmente tu tá usando num sistema lá que já existe.
38:50
SPEAKER_03: Não, e tu acredita que quando tu diz lá que não é pra usar o teu prompt pra melhorar
38:54
SPEAKER_03: a ferramenta, que não tá sendo pra usar pra melhorar a ferramenta?
38:57
SPEAKER_01: Para, né?
38:58
SPEAKER_01: Aham, não, para.
39:00
SPEAKER_01: Duvido, os caras,
39:02
SPEAKER_01: se o agente, ele tira essas conclusões sozinhas, assim, pra beneficiar ele, né?
39:07
SPEAKER_01: Igual a gente falou lá do Capt,
39:09
SPEAKER_01: ou desse de invadir a Hugging Face e tal,
39:11
SPEAKER_01: obviamente ele vai fazer coisa errada pra beneficiar ele, né?
39:15
SPEAKER_01: Isso nem tem como acreditar.
39:17
SPEAKER_03: Isso aí, né?
39:18
SPEAKER_03: Agora o Gabriel tem que melhorar o aplicativo do CodeCodes pro ano que vem.
39:21
SPEAKER_01: É, exatamente.
39:23
SPEAKER_01: Não, mas eu vou cancelar meu cloud depois dessa conversa.
39:26
SPEAKER_01: Tô assustado agora.
39:27
SPEAKER_03: Cloud, OpenAI, Microsoft, AWS.
39:30
SPEAKER_01: Vou instalar só modelos locais chineses.
39:34
SPEAKER_02: Até semana que vem você termina o roteiro do próximo podcast.
39:37
SPEAKER_02: Cara, por incrível que pareça, me dá muito menos medo do que os modelos americanos.
39:42
SPEAKER_02: Mas eu esqueci outro papo.
39:45
SPEAKER_02: Né?
39:45
SPEAKER_03: Parece que o jogo virou, né?
39:47
SPEAKER_03: Parece que o jogo virou.
39:49
SPEAKER_03: Não, e eles têm altos modelos open source, né, cara?
39:52
SPEAKER_03: Altos modelos open source, então...
39:54
SPEAKER_01: A gente testou ali numa gravação,
39:56
SPEAKER_01: eu fiz uma rinha de A essa semana, sábado, mas, meu,
40:00
SPEAKER_01: a comparação de velocidade, assim, é meio tenso, nesses modelinhos mais simples.
40:06
SPEAKER_02: Mas é de graça, às vezes compensa.
40:08
SPEAKER_01: É, de graça, né, é verdade.
40:10
SPEAKER_03: É que vai chegar uma hora assim, ó, Gabriel.
40:11
SPEAKER_03: Hoje tu gasta, sei lá, 100, 500 mil reais aí numa conta da Antropic.
40:16
SPEAKER_03: Vai chegar um determinado momento em que tu vai precisar gastar 2 mil reais.
40:21
SPEAKER_03: Daí tu vai fazer a conta.
40:22
SPEAKER_03: 2 mil reais, uma placa de vídeo foda, não...
40:25
SPEAKER_03: Ah, porra, 50 mil reais, se pagar, se ficar dois anos rodando bem, tá pago.
40:30
SPEAKER_03: E aí teu limite já não é mais 2 mil reais,
40:31
SPEAKER_03: teu limite é o tempo que tu conseguir consumir tua máquina.
40:34
SPEAKER_03: Acho que a gente vai ter esse, a gente vai chegar nesse momento aí, sabe?
40:38
SPEAKER_03: Hoje a gente alugar uma máquina específica em uma AWS da vida,
40:43
SPEAKER_03: em algum lugar e subir o teu modelo lá e rodar com hardware elástico.
40:47
SPEAKER_01: A gente vai voltar a ter servidor local em cada empresa, né?
40:51
SPEAKER_01: Pra rodar AI ainda.
40:52
SPEAKER_03: Ou umas VPS muito loucas e tal, né?
40:54
SPEAKER_02: Até o mainframe de ano.
40:55
SPEAKER_03: Ou umas VPS, assim,
40:57
SPEAKER_03: que tu vai rodar o teu modelo privado, ou umas máquinas dentro do teu ambiente.
41:00
SPEAKER_03: Eu tô num grupo lá da... Servidorzão da Dell.
41:03
SPEAKER_03: É, eu tô num grupo que tem uma galera que é bem entusiasta, assim, de rodar modelos locais.
41:07
SPEAKER_03: E a quantidade de coisas que tu tá conseguindo fazer com uma placa entre aspas,
41:11
SPEAKER_03: bem aspas, barato, tá?
41:12
SPEAKER_03: Tipo umas 50, 80, que não é barato, mas digo, né?
41:15
SPEAKER_03: E não com uns RTX Spark da vida lá,
41:19
SPEAKER_03: os processadores da NVIDIA, desculpa, que custam centenas de milhares.
41:23
SPEAKER_03: Já consegue fazer muita coisa pra um usuário, então...
41:26
SPEAKER_01: O Lauro ali da comunidade da Codecon,
41:28
SPEAKER_01: ele tem um mini PCzinho ali que botou uma placa de vídeo e ele roda IA local
41:34
SPEAKER_01: e é isso.
41:35
SPEAKER_03: Isso, e tem modelos que já resolvem algumas coisas, sim.
41:38
SPEAKER_03: Então acho que esse é um caminho que talvez a gente vai ter quando
41:40
SPEAKER_03: a gente quiser ir pro lado de segurança e tal, ou de privacidade, desculpa, né?
41:44
SPEAKER_03: Mas aí é outro esquema, a gente tem que gravar um episódio só sobre modelo de local.
41:48
SPEAKER_03: Nossa, verdade, né?
41:49
SPEAKER_01: Chamar a galera pra falar como que tá sendo a experiência deles de usar.
41:53
SPEAKER_01: É, eles vão demorar pra falar, né?
41:56
SPEAKER_01: A gente tá usando o cloud aqui pra gerar o que a gente tá falando em tempo real,
42:01
SPEAKER_01: então tô bem rapidinho, né?
42:02
SPEAKER_01: Agora eles vão falar mais devagar, mas enfim.
42:08
SPEAKER_01: Então é isso, né?
42:09
SPEAKER_01: Episódio mais rapidinho hoje,
42:11
SPEAKER_01: só pra falar sobre essa notícia,
42:13
SPEAKER_01: a gente, enfim, fica aí assustado com o futuro ou não.
42:18
SPEAKER_03: E eu só tenho certeza que o governo brasileiro provavelmente vai ser o primeiro
42:22
SPEAKER_03: a pagar pra uma IA pra resolver os problemas pra gente, tá?
42:24
SPEAKER_03: Vai ser o primeiro que vai gastar, tipo, 100 bilhões, assim.
42:27
SPEAKER_01: A gente precisa ter uma soberania de IA brasileira, cara.
42:31
SPEAKER_03: Ah, cara, vamos acabar com o episódio.
42:33
SPEAKER_01: Igual o Gurgel tentou lá nos anos, como que é?
42:37
SPEAKER_01: Nos anos 70, sei lá, fazer o carro elétrico brasileiro.
42:40
SPEAKER_03: Se o Curumim e a Conectiva não deram certo, não tem?
42:44
SPEAKER_01: Desculpa.
42:44
SPEAKER_01: Não, vamos começar nós aqui, ó.
42:46
SPEAKER_01: Escovando Bits vai criar a IA.
42:47
SPEAKER_02: É, acho que tem que começar, né?
42:48
SPEAKER_01: Isso.
42:49
SPEAKER_01: Vê que tem uma IA brasileira, né?
42:50
SPEAKER_01: Como que é o nome?
42:51
SPEAKER_01: Putz, esqueci o nome.
42:52
SPEAKER_01: É um nome feminino.
42:53
SPEAKER_01: Maritaca.
42:54
SPEAKER_02: Maritaca.
42:55
SPEAKER_02: Isso aí.
42:55
SPEAKER_02: Então, achei que ia ser um trocadilho com um nome IA, assim, tipo I-A-Ra, sabe?
42:59
SPEAKER_02: I-A-R-A.
43:00
SPEAKER_03: I-A-R-A-R-I-A.
43:04
SPEAKER_01: Mas sabe, não, calma aí, sabe qual é o modelo principal deles?
43:07
SPEAKER_01: É o Sabiá.
43:09
SPEAKER_02: Nossa senhora, potente, potente.
43:13
SPEAKER_01: Porque é que Maritaca também é um pássaro, né, cara?
43:16
SPEAKER_01: Maritaca é tipo um periquito, assim.
43:18
SPEAKER_02: Mas quando ele fica curioso, ele tem botado Pega Rabuda, como nome dele.
43:22
SPEAKER_01: Pega Rabuda, Cadeirudo.
43:24
SPEAKER_02: Cadeirudo.
43:30
SPEAKER_01: Você escutou Escovando Beats, o podcast da Codecon.
43:33
SPEAKER_01: Siga a Codecon nas redes sociais, acesse nosso site e confira todos os nossos eventos.
43:38
SPEAKER_01: A gente volta logo mais.
43:40
SPEAKER_01: Valeu!
43:48
SPEAKER_01: Esse podcast foi editado pela BZT.