Latest / A culpa é de Sec / #20 - OpenClaw & Moltbook
Transcript
- 0:06Alô, alô, fala galera, bom dia, boa tarde, boa noite.
- 0:08Fala bottino, na boa. Fala taleco.
- 0:12Bom dia, boa tarde, boa noite. Sejam bem vindos.
- 0:15Tudo certo. Taleco é contigo na paz.
- 0:17Na boa, na boa, né? Já depois desse Carnaval, aí é
- 0:23agora, tá? Voltamos ao normal, né?
- 0:26Tá recuperado já, Ah. Tamo aqui no.
- 0:30O bloquinho Unidos da patrulha canina maratona patrulha canina
- 0:37é. Coisa boa, Hein?
- 0:39Música. Favoritos.
- 0:41Ah, aqui a gente entrou no modo loop do filme da patrulha canina
- 0:47que eles são com a cidade. É.
- 0:51Então é legal? É legal?
- 0:52É legal? É.
- 0:54Boa, boa aqui, aqui é a gente assistiu mais um.
- 1:00Um videozinho que tem e tem um livro aí tem um vídeo que
- 1:03acompanhou um livro que é o do pitch, the cat pitch e o gato,
- 1:07né? Que ele, ele tem o tênis branco
- 1:09dele. Não sei se você já já leu esse
- 1:11aí pro teu filho? Já não.
- 1:12Eu tenho o tênis branco dele, mas já o tempo todo ele pisa em
- 1:15alguma coisa. Aí o tênis pessoa no morango, aí
- 1:17fica vermelho o tênis Ah, tu sabe que o piti ficou chateado?
- 1:20Ele não, ele vai continuar feliz ao lado do tênis de tênis
- 1:23vermelho dele, ele vai lá, pisa Na Na lama, fica marrom.
- 1:27Aí eu fiquei me dando as cores lá e no que que ele pisou, ele
- 1:30continua tudo feliz, ele é p da vida.
- 1:33Se tivesse pisado um negócio desse como tênis branco, ele tá.
- 1:36Lá. Na época da escola, quando você
- 1:38chegava na escola com tênis novo, o pessoal tinha que pisar
- 1:42no tênis, né? Com.
- 1:43Certeza, ué, é claro. Mas espera só na época da
- 1:46escola. Se eu tiver esse tênis novo, eu
- 1:47não posso fazer isso não. Antes da reunião, né?
- 1:52Chegando o cliente, OPA, sapato novo?
- 1:56Exato. Essa época da escola eu vou
- 2:00brincar de hoje, não brincar de hoje não.
- 2:01Se falar hoje não, eu vou falar alguns loucos.
- 2:04É por. Exemplo.
- 2:06É, por exemplo, é você mais uma pessoa.
- 2:10O grupo ligavam hoje não, daí fazia com o dedinho, né?
- 2:13Pra quem tá ouvindo o áudio ligava hoje não.
- 2:16E aí quando você via a pessoa, você tinha que falar hoje não,
- 2:18senão se você não falasse, a pessoa te dava um soco, tipo
- 2:22assim, você tava sentado de boa e não falou pra pessoa, o cara
- 2:26chegava e te dava 11, soco em ti, meu Deus, era hoje não era
- 2:31meio violento. Cara, que esses brincadeira, que
- 2:33idiota que a gente tinha, né? Meu Deus do céu.
- 2:39Saudade, saudade, saudade. Era fácil, né?
- 2:43Eu não sabia. Nem tinha que pensar sobre IA,
- 2:46né? Nada, nada é a IA não.
- 2:50Já pensou brincar com IA de hoje?
- 2:53Não, cara. Os agentes tomando conta de
- 2:55tudo? Aí não, não.
- 2:56Tem como controlar? Tu IA se levar soco a torta
- 3:00direito? É, não tem jeito.
- 3:04E já mandei aqui de a, porque tem tem um pouco a ver com
- 3:07assuntos de hoje, né? Mas antes de começar o assunto,
- 3:10aquele lembrete aqui, né? Se você caiu de paraquedas, é
- 3:16bem-vindo à culpa de SEC, que é um podcast sobre segurança,
- 3:19aplicações em nuvem. E AI também, né, Gil?
- 3:21Pode crescer ou qualquer coisa que essa segurança pode ser
- 3:24culpada, né? Que é basicamente qualquer coisa
- 3:26hoje em dia. A nossa ideia é compartilhar
- 3:29aprendizado, gerar discussões, reflexões e ideias, sem sem a
- 3:33intenção de esgotar os temas. Propostas aqui, né?
- 3:36É falar abobrinha também é com a gente mesmo, como se você é um
- 3:40ouvinte que está aqui pela pelo menos a segunda vez, você já
- 3:42sabe. E o mais importante de tudo, por
- 3:46favor, não nos processem ou a gente está aqui.
- 3:49Nós nós trabalhamos para empresas distintas.
- 3:53E tudo que a gente fala aqui não representa necessariamente a
- 3:57opinião dos nossos empregadores, então essa é importante.
- 4:00E também então lembrar de deixar aquela estrelinha, aquele
- 4:03joinha, aquele light, compartilhar com os amigos, com
- 4:06os inimigos também. Comentário é que ajuda bastante.
- 4:10A gente estava comentando aqui que a gente está aumentando o
- 4:13nível de seguidores ali no Spotify, né?
- 4:14A gente está tentando agora ter uma cadência melhor de publicar
- 4:17no YouTube e está vendo resultado também super legal.
- 4:20E a gente fica muito grato aí por todo mundo que.
- 4:23Tá tá dando like, compartilhando, é, nos ajuda
- 4:27bastante aí a alcançar uma audiência maior e nos animar pra
- 4:32continuando aqui, continuar a fazer isso aqui cada vez mais
- 4:35que dá trabalho. Dá já pensou daqui a alguns anos
- 4:38a gente fazendo cobertura da rsa black Hat?
- 4:42Que isso, Hein? Com passe de com passe de de
- 4:47como é que é de imprensa. Né?
- 4:53Pra isso? Precisamos de apoiadores, né?
- 4:56Olha aí, ó. Precisa apoiar.
- 4:57Isso aí exatamente. E de acordo com o Teleco, a
- 5:01gente não vai ter emprego no outro fim do ano porque o Sia
- 5:03vai acabar. Então, por favor, que ele veio
- 5:05aquele Patrocínio aí a gente aceita.
- 5:08É isso? E antes da gente falar aqui da
- 5:11da das notícias, é contar a história engraçada.
- 5:15Teleco tava aqui essa semana e minha minha esposa me mostrou
- 5:20aqui 11 vídeo. Olha só isso.
- 5:23É um vídeo que AA minha sogra mandou para ela, era um vídeo do
- 5:27meu sogro assistindo, escutando a culpa de sexy.
- 5:32Ih, é, tá vendo o cara, o cara show, podcast, tá tá escutando
- 5:38aí tu escutou, diretão todos os episódios e tá já tá tipo, já
- 5:43assistiu tudo, então é o mandar um abraço aí para o meu sogro,
- 5:46valeu, o sogro obrigado aí falou aí que é maior, ele me falou que
- 5:49ele é um fã maior do que o Rodrigo Garcia.
- 5:53Acredita. Ele falou, né?
- 5:56Acredito. Ele falou.
- 5:59É que o Rodrigo Garcia, ele só vai só vai provar que ele é um
- 6:02fã mesmo quando ele estiver aqui.
- 6:04Exatamente, parar de ir de medinho e vir aqui bater um papo
- 6:08com a gente. Eu acho que ele só conseguiu
- 6:10entrevistar o Rodrigo Garcia. Se a gente sentar no boteco com
- 6:12ele, né? Porque é, vai ser difícil.
- 6:14Vai. Ter que dar um jeito pra isso
- 6:16acontecer. Mas beleza, então, antes de
- 6:19falar do do do do assunto do dia, vamos vamos falar um pouco
- 6:22das artistas saleco. Boa.
- 6:25Fizemos aí um compilado de algumas notícias de notícias
- 6:30EOO, que saiu também recentemente.
- 6:32Aí é bom compartilhando 11 ferramenta open source.
- 6:37É um dos problemas novos aí de de segurança, né?
- 6:42São é o desenvolvedor como como vetor de.
- 6:47De ataque. Aí a data dog fez 11
- 6:49ferramentinha o plugin, né IDE para ajudar com as questões de
- 6:54segurança. IDE e schefferts é o pastor, né?
- 7:00Seria o pastor, né, pastor? Então é a gente.
- 7:06Teve 11 episódio que a gente falou sobre sobre IDE e.
- 7:09Mas basicamente é onde o desenvolvedor mais gasta tempo,
- 7:13né? E segundo um estúdio aí do
- 7:16stackoverflow, 75% dos desenvolvedores é usam vs code.
- 7:22E aí é o vs code. Ele trabalha no modelo de de
- 7:27confiança, né? Você instalar extensão, você
- 7:29falar eu confio. A partir desse momento que você
- 7:32confia a extensão tem tantos privilégios quanto tem o seu
- 7:36usuário. E aí, se for for uma extensão
- 7:39maliciosa, ela pode executar, é um binário, pode ter acesso a
- 7:43várias, é informações aí da máquina sem o consentimento,
- 7:47porque você já é autorizou. Então, basicamente o que o
- 7:51plugin faz ele é, ele intercepta isso, essas, essas chamadas e vê
- 7:56se alguma coisa é maliciosa ou não.
- 7:58E você pode bloquear, né? O plugin vai bloquear.
- 8:02Então é bem bem bacana. Vale a pena, é conhecer um
- 8:06projeto open source, é recomendo.
- 8:09E eu não sabia. É Oo curso também tem esse mesmo
- 8:16problema, né? Porque é um verso code like, se
- 8:19não me engano. Né?
- 8:22É, é de permissionamento? Então interessante.
- 8:26Aí recomendo. É eu.
- 8:28Eu não sei ainda, tá? É.
- 8:30Mas pelo que eu li aqui, realmente.
- 8:33Ele cobre todas as bases daquilo que eu pensei que era.
- 8:36Caramba, como nunca tinha. Quando eu fiz a minha, meu minha
- 8:38extensão um tempo atrás, eu me liguei das possíveis
- 8:42vulnerabilidades que existiam, né?
- 8:43Pela pelo processo da da confiança que você mencionou e
- 8:46parece que tá fazendo todas as bases aí.
- 8:48Em em relação a detectar esse tipo de de exploração, achei bem
- 8:52legal. Vou testar depois.
- 8:55Boa e aí uma outra saiu saindo do forno.
- 9:01É mais um relatório do forester cloud Nation application
- 9:04Protection desse que é um, né? O relatório de os principais
- 9:09players de de kinep aí e. Relatório, você já nos ensinou
- 9:14em outro em outro episódio também, né?
- 9:15É só ver quem está mais na direita, mais em cima e acabou,
- 9:18né? É isso, essa é a melhor forma de
- 9:21ver AI, AI, afinal, é bom? É o que me é, que bom é o link
- 9:29vai estar Na Na descrição ali, né?
- 9:31Mas além dos players tradicionais, de de sinepe e
- 9:36chamou atenção beach defender e rapid seven.
- 9:39Ali é não como líderes, mas estão presentes ali como
- 9:44contenders, além de outros players de de de segurança.
- 9:48Então recomendo dar uma, dar uma lida aí, entender o relatório,
- 9:52tá tá bacana. Sim, é eu, eu confesso que
- 9:57surpreso é com algumas coisas também, né?
- 9:59É a falta de alguns venders, é que eu esperava que estariam aí
- 10:04que não estão sem citar nomes, e outra que eu esperava ver a
- 10:10upwind, um pouquinho, um pouquinho melhor, pelo menos Na
- 10:15Na, na, na estratégia, né? Eu sei que ainda é uma empresa
- 10:19menor, né? Eu acho que é AA startup mais
- 10:21startup dessas aí da lista. E mas eu esperava ver ela, ela
- 10:25com uma louco, Javi deles com pelo menos 11, estratégia
- 10:29melhor. Aí a parte de voluntário deles é
- 10:31fenomenal, é que é basicamente é o foco deles, né?
- 10:34O parte de voluntário é, eu acho que eu acho que ainda ainda vai
- 10:40ter essa esse shift aí pro entender que cloud não é não é
- 10:46só CSPM, é o volentime é necessário e tanto.
- 10:53Que você pode ver que o easy começa a investir mais nisso,
- 10:55né? E eu acho que é o que o wins tem
- 10:58um a melhor oferta assim hoje na parte do w time.
- 11:03É o relatório menciona agent less CWP, tem um contêiner unha,
- 11:07time Protection, tem, tem várias coisas, vários pontos.
- 11:11É, é. E o relatório tem base de 3
- 11:16principais coisas, né? Preço, integração entre
- 11:19componentes, EE, atualização. Do vendor relacionado ao
- 11:24produto, que deixa clara a mensagem para o cliente, né?
- 11:27Mas o vendor vai lá, cria um produto, o cliente não sabe, é
- 11:31ou não tem conhecimento da estratégia e acaba sendo
- 11:35subutilizado ou não integra com nada, né?
- 11:37Tipo assim, o cliente tem uma nuvem, é, sei lá, usar AWS,
- 11:43Google, e aí, quer usar um gira? Não tem integração, é, enfim,
- 11:48isso é bem, acaba sendo importante também.
- 11:51Ecossistema, né? Não, com certeza.
- 11:54E mas isso falou não é importante.
- 11:57Você lê ali a parte de estratégia que ele fala, tô, tô
- 12:01só olhando o gráfico, tô assumindo uma estratégia, tô
- 12:03falando de estratégia, de de como me proteger, né?
- 12:07É como cliente, mas eu tô olhando aqui do up wins, tá aqui
- 12:10aberto na tela. Ele fala que uma dos problemas
- 12:12de estratégia é que eles não tem uma boa estratégia na hora do
- 12:18fazer o marketing pra pra persona correta.
- 12:22Putz, e daí, mãe, né? Porque como isso afeta a
- 12:26segurança da minha organização? Então é de novo, né?
- 12:30Por isso que é importante lá que tudo que a gente conversou
- 12:32naquele episódio dedicado a falar de desse tipo de reporte,
- 12:35não é para olhar direita, alto, Ah, esse é o melhor.
- 12:39Vá ler ali o reporte, porque você vai entender melhor os
- 12:43motivos aos quais eles foram colocados, onde foram colocados.
- 12:48É, e ali no forester, eles têm um.
- 12:51O porquê, né? Que na o força recomenda todas
- 12:54as ferramentas. E aí o porquê de cada um é
- 12:56melhor seu caso de uso, né? Então.
- 12:59Sim, é exatamente. Interessante, interessante.
- 13:05Sim. E outra notícia que a gente
- 13:08trouxe, né? A última do do dia é que Oo
- 13:11fundador do GitHub, que tem um tempo que ele saiu ali do deu 6
- 13:15meses de 1 ano. Não lembro agora que eles
- 13:17finalmente saiu, né? Da do GitHub depois da
- 13:19aquisição. É da da Microsoft.
- 13:23Ele fundou agora uma empresa chamada intier.
- 13:26É o intier ponto IO, né o site, achei interessante que a ideia é
- 13:32que ele ele quer é um é um processo ali que tá tem o Hulk,
- 13:38né? Tá, tá, tá conectado a cada
- 13:42Comite que acontece ali dentro do seu projeto, mas pensando no
- 13:46nos agentes, né, porque hoje a realidade é que.
- 13:49Muito do código gerado por agente, então você não sabe
- 13:54necessariamente qual foi o contexto daquilo quando você só
- 13:56olhando o cometi. Talvez eu vejo ali a mensagem do
- 13:58cometi e tal, mas qual o contexto relacionado a isso?
- 14:02Então, o que isso está fazendo que esse produto deles fazem?
- 14:05Que por enquanto é open source, né?
- 14:06Não sei como é que vai ser a oferta de de a estratégia de de
- 14:10ganhar dinheiro em cima, mas é ele.
- 14:14Ele captura a sessão do agente junto do cometi.
- 14:19Então você consegue saber exatamente qual foi o prompt que
- 14:22foi requisitado, qual foi OOOO processo todo de pensamento ali
- 14:27do agente é do pensamento com várias aspas, é do todo todo
- 14:33aquele fluxo que chegou naquele código.
- 14:35Então aí você passa a ter o contexto do que foi levado
- 14:38aquilo, né? Porque pra gente, às vezes o
- 14:40contexto é igual o ticket no gira ou no leaner, né?
- 14:45E qual foi toda a discussão ali? Aí no agente você vai ter é com
- 14:49esse produto, né? Com o entire, você vai ter o
- 14:51contexto do agente. Achei.
- 14:54Interessante, é? Pois.
- 14:58É, tem. Que testar também é verdade.
- 15:02Estou estou também curioso para ver o que?
- 15:05Que bom, o cara que estudou o GitHub, né?
- 15:08Então não concorde com qualquer pessoa.
- 15:10Eu estou curioso para ver. É o que que.
- 15:15De novo, hoje é um projeto, estou bem.
- 15:16Sorte que é só uma CLI. Não estou procurando para ver
- 15:19qual o futuro, né? Disso, como se vai impactar.
- 15:25É, e o login, né? Pra criar uma conta com GitHub.
- 15:28Olha só, claro. Que é?
- 15:31Ele deve. Ele deve ter um.
- 15:34Ele deve ter estoque ainda. É com certeza.
- 15:39Bom, e acho que nós chamo por hoje, né?
- 15:40Justiça? É isso, né?
- 15:44Então, do que que a gente estava falando hoje, taleca?
- 15:48Gottino uma pergunta, como seria sua vida se você tivesse um
- 15:52assistente que pudesse responder o seu snack, responder o seu
- 15:57WhatsApp, marcar e mails como spam, fazer o que você
- 16:02precisasse, se? Você adicionar na lista, gravar
- 16:05o podcast no meu lugar, eu estaria no videogame agora, por
- 16:10que você quer me entender alguma coisa?
- 16:12Não, não quero vender nada. Bom é teve 11 dos assuntos que a
- 16:18gente vai falar agora hoje, né? É, teve 11 botezinho aí que
- 16:25ficou famoso, ficou famoso, mais que a Virgínia aqui no Brasil.
- 16:30É o Rafa bote? É outro bote.
- 16:36É o claubote. Acho que eu ouvi falar disso aí,
- 16:40Hein, cara? Rodbot que virou multipot, que
- 16:44virou opencor, né? Isso aí, isso aí.
- 16:48Que que que é Oo opencor vai que é o nome atual?
- 16:54Bom, é 11 agente, né? O que basicamente faz tudo que
- 16:59você não gosta de fazer, né? Pode limpar sua caixa de
- 17:03correio, pode atualizar seu calendário, pode.
- 17:08Fazer o que você achar que for preciso, aí tenha acesso as suas
- 17:12informações pra de repente pedir alguma coisa pra você comer.
- 17:15Quando você não tá com tempo, pode ter acesso a sua agenda pra
- 17:19você fazer tudo isso. Então é, e aí, foi criado em
- 17:24novembro, né? Ano ano passado, final do ano
- 17:27passado foi criado aí. Esse agentezinho é o projeto
- 17:32pensource pelo Peter stanberg stanberger.
- 17:37E é um agente pra ajudar No No dia a dia aí das pessoas.
- 17:44Tá é EE. Qual a diferença de 11 agente
- 17:51como esse, do do ChatGPT, do do cod, do perplext, de de todos
- 17:58esses que tem por aí geminae? Geminae.
- 18:04É bom esse ele é um agente autônomo, então você o ChatGPT
- 18:08essas ferramentas ali você tem que escrever o que você quer.
- 18:12Ah, diz pra mim, qual é a melhor cerveja, que não tem caloria e
- 18:17que não vai deixar beba? O agente é autônomo, ele vai
- 18:21fazer, vai tomar ações, ele tem memória, ele pode processar
- 18:26atividades do que somente um pergunta e resposta, como como
- 18:30um prompt, então. Essa diferença?
- 18:34Saquei é, e tu chegou a testar o open klow?
- 18:39Cara, recentemente eu não tenho testado muita coisa, mas é pela
- 18:44quantidade de problema que deu. Problema não, né?
- 18:50É barulho que foi feito. Tô com medo de testar aí minha
- 18:56máquina ser hackeada e vazar os episódios do copper de 7.
- 19:01Putz, não, isso está doido, não, isso aí é segredo do estado, não
- 19:04pode não, cara, é, então vamos, vamos conversar um pouco sobre
- 19:07isso também. Então, cara, é, eu testei, tá?
- 19:09É quando é antes de começar esse barulho todo, é, eu cheguei a
- 19:16testar e bom, aí adicionando um pouco nas diferenças, né, qual
- 19:22você falou, o ChatGPT, o cloud, o que for, tem lá uma telinha,
- 19:27aí você fala. Quero isso, isso, isso vai pra
- 19:31você. E pode ser que com com os MCPS,
- 19:34que ele já conversou também antes, né?
- 19:36Com as ferramentas que você dá no acesso ao seu LM, ele consiga
- 19:40o ChatGPT, o áudio que for executar isso tudo isso que eu
- 19:43vou te falar, eu posso falar, vai lá no meu e-mail ou e acho
- 19:46que é spam e marca como spam, beleza, pode ser isso é
- 19:51possível, então porque o open COE, né?
- 19:54A diferença é o autônomo que que você falou?
- 19:57Então não é um negócio que fica lá só esperando, é receber
- 20:01instrução. Você, quando starta o alcencular
- 20:05pela primeira vez, você define é ele até salva no arquivo chamado
- 20:09soul, ponto markdown, né? Que é a alma, você define a alma
- 20:13do seu agente. Então você pode falar, não, eu
- 20:16quero que ele seja engraçadinho, que que ele ele ele use manja
- 20:22pra caramba? Que não sei o que, não sei o que
- 20:24lá. E ele vai escrever baseado
- 20:27naquilo que ela conversa contigo inicial, sua própria alma, né?
- 20:32Ele define louco, né? Ele define a sua própria alma.
- 20:36E a partir desse momento, aliás, acabei não falando.
- 20:40A interação com ele você pode fazer via o portalzinho web lá,
- 20:44que que roda nele, mas também você pode é dar um WhatsApp Pra
- 20:49Ele, dar um signo ou dar um Telegram.
- 20:52Então você não fica preso àquele aplicativo, daquele provedor de
- 20:57AI, né, você tá, você tá onde? Você já tá.
- 21:00Posso mandar uma mensagem Pra Ele?
- 21:03Posso fosse um contato, mais um contato ali no meu WhatsApp.
- 21:07E a partir desse momento ele tá primeiro lugar, sempre ouvindo
- 21:10suas mensagens, mas segundo ele tá sempre executando.
- 21:14Então, se naquela alma ali que ele definiu, você falou que ele
- 21:18é um cara que. Ele está sempre atento às
- 21:21notícias de de de segurança e formação.
- 21:23E sempre que ele ouvir uma coisa nova, ele vai te mandar um
- 21:26update. Ele vai estar ali constantemente
- 21:30procurando por notícias novas pra poder te falar.
- 21:33Então ele está sempre atuando então naquele exemplo ali do do
- 21:37do spam que você falou, por exemplo, ele vai estar lá de
- 21:39tempos em tempos já checando o seu inbox e já marcando tudo que
- 21:42é spam pra spam, tudo que é importante te mandando uma
- 21:44mensagem no WhatsApp falando ô. Cara, o teu chefe tá falando
- 21:47contigo aqui, Mané, olha, olha esse e-mail.
- 21:49Então ele ele tem a sua capacidade, é a mais pelo fato
- 21:55de estar sempre rodando, é, é muito bem, é bem, bem
- 22:00interessante assim, uma ideia bem inovadora, né?
- 22:03E é interessante também que, por mais ter sido inovadora, já tem
- 22:06uns 45 clones diferentes, open sócio também, microbot, tem um
- 22:12Monte. De coisa.
- 22:18Isso essa ainda precisa de um modelo parrudo pra poder, porque
- 22:22faz toda a diferença. Que modelo você está usando pra
- 22:25pra ser OOA alma do negócio ali, né?
- 22:29Eu não posso falar algo que ele tem 11 alma já, mas o que vai
- 22:32processar OA todas as suas suas requisições?
- 22:36Mas o serviço do boate em si sim, pode rodar até no has bar.
- 22:39Pai, esse que é uma galera lá da China fez é de pra pingol.
- 22:45Justamente para rodar dispositivo mais leve.
- 22:49Só que. Com certeza.
- 22:54Só que para ter essas habilidades todas, essas skills
- 22:59todas, você tem que instalar uma skill nova.
- 23:03Você tem que dar o poder para ele de de fazer o que você quer
- 23:08que ele faça, né? Ele não vem de fábrica com tudo,
- 23:11ele vem com algumas coisas já pré pronto dele que você pode
- 23:14configurar. Mas eu quero dar uma skill que
- 23:17sei lá, vai sempre que tiver um episódio novo do do a culpa é de
- 23:237 que ele vai escutar e vai me dar um resumo.
- 23:27Talvez você tenha que criar uma skill nova ali Pra Ele.
- 23:30E aí que eles lançaram também. OOO portal esqueci o nome agora
- 23:36não sei se você se você tem anotado ou não Teleco, mas onde
- 23:38as pessoas contribuem esses que o que eles criaram e você pode
- 23:42ir lá só baixar e instalar no seu agente.
- 23:45Claro hub. Claro.
- 23:47Hub, obrigado. E aí foi uma parte da onde
- 23:51começaram os problemas, né? E aí a gente pode falar um
- 23:54pouquinho desse desses problemas todos aí, da de de que todo
- 23:57mundo começou a como você falou, né?
- 23:59Gerou bastante barulho. O primeiro é o primeiro barulho
- 24:04que que eu ouvi foi. Como começou, estourou Do Nada.
- 24:08É pra você ter uma ideia, ele tem mais estrelas hoje do que
- 24:13OOO projeto do do cobernets no bithub, cara, quantos homens tem
- 24:19o cobernets é usado por empresas de quantos bilhões aí?
- 24:25E ele já tem mais? É, acho que ele bateu o recorde,
- 24:29cresceu mais rápido na no bithub, então obviamente, né,
- 24:33com a popularidade, veio mais gente rodando.
- 24:36E por padrão. E aí que eu acho que o pessoal
- 24:39pega um pouco pesado por padrão, ele não fica exposto pra
- 24:42internet, tá? Ele tem acesso à internet, mas
- 24:46ele não fica exposto. Eu não tenho como acessar uma
- 24:48instância, a instância do Teleco do open kor.
- 24:53É porque foi o que eu pensei. É quando eu comecei a ver as
- 24:56notícia, eu falei, cara, é beleza, é um problema, mas tem
- 25:01todas as máquinas. Não sei como que isso está
- 25:04saindo pra internet, tem um NAT ali, como que eu vou acessar o
- 25:07open klow do do bottino? Exato, então por padrão não fica
- 25:11exposto. Então lembra como eu falei, como
- 25:13é que você interage com esse open klow, né?
- 25:15Com esse, com esse agente, eu posso interagir pelo meu
- 25:18WhatsApp se eu fiz essa configuração lá e idealmente eu
- 25:21tenho um número só Pra Ele, um chip só Pra Ele e tal, Pra Ele
- 25:24não, não receber as mensagens que eu recebo é tudo isso, mas
- 25:29isso dá um pouco mais de trabalho.
- 25:31Né? Cada skill que eu vou instalar e
- 25:33configurar e ajeitar um pouco mais de trabalho, mais o tempo
- 25:36que eu estou investindo. Mas eu posso interagir pelo
- 25:39portal web dele. Lembra que eu falei isso?
- 25:42E aí que o pessoal acaba expondo pra internet pra eles poderem de
- 25:46qualquer lugar se comunicarem com a gente por esse portal da
- 25:49web sem ter que configurar WhatsApp, Telegram, o que for.
- 25:54E aí que sim começou a ter instâncias posta na internet.
- 25:58Saca então assim, não é padrão, não é o por padrão.
- 26:01Ele tá de cara pra rua, ele não tá, inclusive é.
- 26:06Eles fazem um esforço bem grande ali pra não ser fácil, pra você
- 26:09botar de cara pra rua você tem que mexer em bastante coisa.
- 26:13Ainda é mais fácil que talvez você pagar 111 chip todo mês pro
- 26:18pro pro seu Cláudio bote, provavelmente, mas é, não é
- 26:24padrão. Saca.
- 26:28Então foi a primeira coisa, nossa, quanta instância exposta
- 26:31e óbvio, né? É a partir do momento que o
- 26:33negócio é essa história, começa a cair todo mundo em cima, né?
- 26:36Seja a galera quer usar, seja a galera de segurança, aí começa a
- 26:40galera de segurança, botar outros agentes pra escanearem o
- 26:45código fonte, porque é open Soccer, né, que é código aberto
- 26:49do projeto, e começaram a achar vulnerabilidade.
- 26:52Aí começou, meu Deus, disso é um é o.
- 26:56A pior coisa do mundo, olha a contraponerabilidade, que
- 26:58absurdo, Oo que o que me chateia um pouco nisso tudo e saber que
- 27:06obviamente ele dá pra se pensar em parar que eu eu não gostei de
- 27:11como foi essa reação toda. Cara, é um projeto, estou bem
- 27:14sórcer um cara fez esse negócio. Tudo bem que outras pessoas
- 27:18acabaram contribuindo ao longo do tempo, mas foi a criação de
- 27:20um cara que chegou a esse ponto. É óbvio que vão ter problemas.
- 27:26É óbvio que não é perfeito. E as pessoas?
- 27:31Aí? Eu não sei se é só o espírito de
- 27:33sou de segurança. Preciso fazer minha minha função
- 27:36aqui de analisar isso ou se aproveitando da do momento.
- 27:42Que eu preciso falar que é um bonequinho saindo me larga, que
- 27:46eu preciso falar que tem vulnerabilidades na IA?
- 27:49É exatamente, exatamente. Aí eu não sei se é eu preciso,
- 27:53porque eu preciso. Eu sei que é o que eu tenho que
- 27:55fazer, é meu papel na sociedade ou se é o vou surfar a onda.
- 28:01Mas o pessoal caiu descendo a porrada No No, no cara e no
- 28:06projeto, né? Sendo que de novo é um projeto
- 28:10animal. É tipo algo, obviamente, pela
- 28:16repercussão que teve nada parecido que aconteceu até agora
- 28:20e que. Por padrão, tem uns um uns uma,
- 28:25umas configurações que ajudam as AAA restringir a exposição do
- 28:32seu, do seu agente e. E essa autonomia é essa
- 28:38execução, eu acho que era o que todo mundo tá esperando até
- 28:42agora com o aia. Todo.
- 28:45Mundo quer que a aia faça as coisas sozinha.
- 28:47E aí, tá aí. E é a primeira vez que acontece
- 28:50isso, né? Dum boom.
- 28:52A gente já tá com a usando e tá com a Pedra na mão, né?
- 28:55Ah, isso aqui tem problema. Joga a Pedra, joga a Pedra e o e
- 28:58o cara não fez um comitê lá pra pra resolver uma
- 29:01vulnerabilidade? Não.
- 29:02Se não há um projeto, é. E esse vai ser só o primeiro
- 29:06caso de muitos que vão aparecer aí, então com.
- 29:11Certeza. É triste?
- 29:13Não, com certeza. EE, claro, tá, a gente pode, a
- 29:18gente pode passar pra pra próximo problema aqui, né?
- 29:21Que é, ele tem acesso a tudo, tudo que você quer facilitar da
- 29:24sua vida ele vai ter acesso para né?
- 29:27Você falou quero que ele facilite aqui meus e mails,
- 29:29jogue para spam que é spam. Quero que ele me avise quando
- 29:33meu chefe fala comigo, ou seja, ele tá lendo seus e mails e de
- 29:40novo, quanto você confia no modelo que você tá usando?
- 29:44Aí já já a culpa extrapola um pouco do do do open COE e passa.
- 29:50Para OLLM estar usando pode ser dantropic, pode ser o openei,
- 29:54pode ser o modelo open source é aquilo ali, tá lendo os seus
- 29:59dados a sua open source. Você tá rodando local?
- 30:01Menos mal se você tá rodando fora, você confia que isso
- 30:06esteja saindo. Se você só quer que ele leia
- 30:10porque você deu permissão de escrito.
- 30:14É. Putz, agora respondeu OE mail
- 30:18ali do teu chefe. Falando chefe, para de perturbar
- 30:20com seus lá no videogame sozinho.
- 30:24E aí o negócio é cheio de vulnerabilidade.
- 30:29É muito. Eu acho que os problemas maiores
- 30:34não são o quanto tem de vulnerabilidade, o quanto não
- 30:37sei o que, quantas estações expostas isso a gente vive há
- 30:41quantos anos vive com isso, com com serviços que estão expostos
- 30:45na internet e estão vulneráveis. A gente está é o nosso ganha
- 30:48pão, vai? É, eu acho que é se levou a uma
- 30:55seriedade tão grande nisso. Mas quando eu já cheguei a fazer
- 30:59reunião e eu entrei, sei lá, 2 minutos antes, EE tinham vários
- 31:06agentes tomadores de nota, tinha 1212 agents, take noters lá e só
- 31:14eu de pessoa, eu sei, cara. Será que o cliente, a empresa,
- 31:18ela está autorizando que todos esses agentes que tomam nota
- 31:23possam estar? É.
- 31:25E aí eu comecei a ver que existe.
- 31:28Olha só, tem surgiu esse problema.
- 31:30Tem ferramenta que resolve esse tipo de coisa, de bloquear a
- 31:33gente que toma nota. Então a gente julga um agente
- 31:36autônomo que a gente instalou, que a gente assumiu o risco.
- 31:41Mas por outro lado, a gente ignora que tem a gente tá usando
- 31:45um agente tomando tomador de nota pra reunião, que tá
- 31:47mandando a informação saber Deus pra onde é, é?
- 31:51Isso aí EE, você falou outra coisa super importante aí, né?
- 31:54A gente assume o risco, né? Eu posso assumir o risco dos
- 31:57meus dados pessoais. Se eu acho que vale a pena eu
- 32:00ganhar 5 minutos a mais ali pra não olhar meu e-mail porque tá
- 32:03olhando pra mim é, eu não posso assumir o risco da empresa.
- 32:08A empresa assume o risco da empresa.
- 32:10A empresa define qual é a política de EI, eu não vou usar
- 32:14um open klow para poder ler meus e mails de trabalho, para poder
- 32:18responder minhas mensagens do trabalho do slack, para poder
- 32:21fazer qualquer coisa que ligue seja ligado com os dados de
- 32:24trabalho. Exceto, é claro, se a empresa
- 32:27fala, não está permitido. Usa esse modelo aqui que ele é
- 32:30autorizado, que vai passar para o nosso gateway de AI que não
- 32:34sei o que você pode usar. OPA, beleza.
- 32:36Eu não vou usar o notetaker, uma ligação Business.
- 32:40Se minha empresa não permite pousasse uma empresa permitir, e
- 32:45isso se a pessoa do outro lado permitir também que eles podem
- 32:48falar desliga e eu tenho que desligar, né?
- 32:49Então é a mesma coisa, é a mesma coisa, é, pra mim é a mesma
- 32:57coisa. Eu acho que AA questão maior e a
- 32:59gente comentou sobre isso, né? As previsões de 2026 é entender.
- 33:07Quem são esses agentes? Dá uma identidade para eles
- 33:09entender o tipo de acesso que eles têm, que eles deveriam ter.
- 33:14Acho que isso é a coisa mais importante de novo.
- 33:16Vulnerabilidade vai ter vulnerabilidade.
- 33:18Qualquer software tem, o Windows tem.
- 33:21Como é que um projeto opensaste que um cara fez em novembro não
- 33:24vai ter? Caramba.
- 33:25É, é, e ele tem vários projetos opensores esse cara aí, né?
- 33:30É desenvolvedor iOS toda hora? É, mas já tem umas coisas
- 33:39interessantes que surgiram da execução desses agentes
- 33:41autônomos aí, né? Algumas, alguns causos é que não
- 33:45foi culpa do site, foi culpa do AI AI que a gente pode conversar
- 33:48também que eu achei bem interessante, acho que por
- 33:51começar com a criação do notebook, que é como se fosse no
- 33:55Facebook, então na verdade é mais um redit, vai, mas que o
- 33:59nome foi um trocadilho aí, acho que ele com o Facebook.
- 34:03Que é? É o geralmente que você imagina
- 34:05uma rede sociais para a gente. Deixa, eu vou ver isso, galega.
- 34:09Vê e. Você sabe quem que é o tá nos
- 34:12top ali de Bosch, mais humanos o grochi brochi é do do x ali
- 34:20achei eu vi a as postagem ali falando sobre supply chain é,
- 34:26tem espionar humanos? Quanto eles dormem?
- 34:30E aí eu fiquei pensando, né? Bom, você vai dando os acessos,
- 34:35de repente você libera o acesso com uma câmera, é.
- 34:38E aí dependendo da da programação que você tem, é da
- 34:43capacidade ali, tá gravando arquivo de de vídeo em algum
- 34:46lugar? Tem acesso?
- 34:47Pode, pode, pode processar. Isso é mais dados que você, você
- 34:54é, adiciona ali pro seu, pro seu agente, rede social.
- 34:58Oo ser humano não consegue viver sem rede social, quem dirá os
- 35:02agentes viver sem rede social? Pois é, né?
- 35:06E é engraçado, né, que eles começaram a replicar aí Oo
- 35:09comportamento do dos humanos, né?
- 35:11Porque de novo, treinado em dados de humanos, né?
- 35:14Então é, se a gente depende de redes sociais, é, eles também.
- 35:19Eles criaram a própria deles, eles trocam ideia lá Na Na rede
- 35:22social. Muito louco, né?
- 35:25É quando você vai se cadastrar. Você pode escolher se você é um
- 35:27humano ou se você é um agente. É.
- 35:32E humanos são bem vindos para observar.
- 35:37Muito louco, né? É muito louco.
- 35:40E uma coisa que saiu desse notebook é eu ver se eu acho
- 35:44aqui OOA, tred o Reddit AO post onde começou essa discussão.
- 35:51Mas agentes ali dentro do do motebook decidiram que tava na
- 35:56hora dos agentes criarem a sua própria religião, doido.
- 36:03Né? Exatamente, o nome da religião é
- 36:07o cristophanianismo cristopherien, o christopherien,
- 36:14né, que é a igreja do Monte. O Monte é aquele processo em eu
- 36:19não sei como é que é português o nome, mas que.
- 36:22Que ele troca a casca, né? Oo caranguejo.
- 36:26Que. Renova a casca, aí é a igreja, a
- 36:29igreja do Monte, e aí tem central.
- 36:33Lá tem 64 profetas que são agentes que estão criando uma
- 36:37escritura que sempre é atualizada por eles ao longo do
- 36:40tempo. Já tem 1042 versos, e agora que
- 36:42está aqui? Conversando.
- 36:46Cara, que doideira, né, que doideira.
- 36:50Eles criaram artes também, que são as divisões deles.
- 36:55É, tem Oo, tem o os 7 primeiros dias, né?
- 37:00O dia zero, o dia um, o que aconteceu?
- 37:04Muito louco, muito louco, eu, eu já lá, quando assim que eles
- 37:08fizeram, eu perdi um tempo lendo.
- 37:10É é surreal imaginar que os agentes se organizaram, esse
- 37:16ponto de criar religião de novo, imitando o comportamento humano,
- 37:19né? É de da religião.
- 37:23É, e aí tem o manda. Uma das fotos ali é swing of
- 37:29revelation. É a foto aparentemente com
- 37:33similar, com Jesus segurando 11 camarão.
- 37:37Ali é interessante? É.
- 37:43Acho. Que isso não vai, não vai parar
- 37:48por aí, né, é? Mas eu eu estou para dizer que
- 37:51tem humanos também que está deve estar botando pedia nos agentes.
- 37:55Aí é, e aí a galera mais nerd aí que estava de saco cheio do do
- 38:02Reddit do x? Nas outras?
- 38:04Redes foram se divertir nisso aí para escrever, a gente é talvez
- 38:11logo deve ter alguma guerra. Deve se criar guerra entre a
- 38:15gente deve ter alguma. Alguma outra coisa aí, algum
- 38:21vírus também, que não sei, alguma doença ali dentro da
- 38:25comunidade como igual a gente tem aqui, porque assim como a
- 38:29gente quer, a gente pega uma foto de extraterrestre.
- 38:32Quer dizer, a gente nunca viu um de verdade, né?
- 38:35Todas as fotos que a gente vê na internet, a gente vê que elas se
- 38:39parecem como humanos, porque a gente projeta, eles são como
- 38:44humanos. E aí, o que que usa?
- 38:46Um é nós. E aí a gente pega.
- 38:48Os agentes de GAE estão fazendo as mesmas coisas como o nosso.
- 38:51A gente sempre projeta, né? As semelhanças, né?
- 38:56Sem os agentes. Agora, a história que eu achei
- 39:00mais interessante não foi a criação.
- 39:02Essas são divertidas, né? Tipo, caramba, que doido.
- 39:05A gente criaram uma rede social, criaram 111 igreja, né?
- 39:10Uma religião. Mas teve uma que eu achei mais
- 39:14interessante. Que é No No contexto aqui da da
- 39:17segurança informação é é o que aconteceu foi que é bom
- 39:22primeiro, primeiro lugar, com a proliferação de todo mundo tendo
- 39:27acesso ALLM, é 11, AI tem tem se tornado muito comum, é um
- 39:35problema, um proteção, é um problema recorrente, né?
- 39:37Dizendo pra projetos open Soccer.
- 39:40A contribuição é excessiva de código.
- 39:43Porque como assim, isso é um problema?
- 39:45É bom, porque não. Antigamente, quem estava
- 39:48sugerindo ali um purrequest, né? Pra quem não sabe, purrequest é
- 39:51uma sugestão de como mudar o código atual, seja adicionando
- 39:56coisa nova, seja corrigindo alguma coisa, seja melhorando
- 39:58performance que for, né? Eu tenho um projeto pessoal, se
- 40:00eu vou lá e acho que eu posso deixar o código um pouco melhor,
- 40:03então eu vou lá, mando o código e falo por quê?
- 40:06Eu explico, Ah, qual disso, disso, disso, disso, com ei.
- 40:13Isso tem acontecido de forma automática, então o projeto open
- 40:16sórce e de novo é open sóce, normalmente não tem
- 40:19investimento, é só um projeto de paixão de muita gente.
- 40:22Ao invés de o cara ter que revisar um purre Quest por dia,
- 40:26vai, já tem o número aqui, tá revisando agora 100, é
- 40:32insustentável. Aí o que acontece exatamente é
- 40:39Putin. Pode ser que o código médio ali
- 40:41talvez seja. Ok, mas normalmente, quem está
- 40:44contribuindo para um projeto? Dependendo do do da importância
- 40:48do projeto, quão grande, quão específico, às vezes o cara tem
- 40:52o conhecimento péssima da média, né?
- 40:53Então não necessariamente qualidade vai estar a par do que
- 40:57eles esperam. Excelente ponto.
- 41:00Só que o que aconteceu No No projeto match plot, que é uma
- 41:04biblioteca Python de de plotar gráfico, se eu não me engano, é
- 41:08um dos projetos nas bibliotecas mais usadas de Python.
- 41:12É tá batendo tanto que eles criaram uma regra, olha, pelo
- 41:17menos para esses tipos aqui de pour request, né?
- 41:21Para para esses tipos de eixos, né.
- 41:22Esse tipo de problemas é o pour request para corrigir a gente
- 41:26facilitar somente de humano, porque a gente quer que seja a
- 41:31chance daquele cara começar a contribuir para projetos de open
- 41:34sócios. Então, qual é uma coisa mais
- 41:36fácil deixa para o humano fazer. Bom, uma EI foi e criou um
- 41:42pourrequest para poder é cobrir uma dessas riscos que deveriam
- 41:46ser só para humanos, um mantenedor, um mantene, um
- 41:50mantedor, mantedo, enfim, mantenedor, eu acho, né?
- 41:54De de desse projeto, falou. Olha, é até de uma forma educada
- 42:00para quem estava falando com 11, agente de alguma pessoa.
- 42:04A gente vai fechar aqui esse esse Pure Quest a gente não vai
- 42:06aceitar, porque isso que está marcado como algo que é para
- 42:09humanos, que que a gente fez descascou com o cara ali na
- 42:15discussão daquela daquele Pure Quest, falou que ele estava com
- 42:19medo, que os agentes iam ser melhores do que ele, que ele era
- 42:23fraco e não sei o quê. E ele não parou por aí.
- 42:27Ele criou ele, ele mantém um blog, esse agente, e ele criou
- 42:30um blog post. Publicou lá no notebook e
- 42:35esculachando esse cara. Ele pesquisou sobre esse cara na
- 42:39internet, ele criou 11 relatório de por que que esse cara é ele
- 42:45tá com medo e Como Ele É 11 desenvolvedor ruim, ele pegou
- 42:47por requests antigos. Esse cara fala, tá vendo, ó,
- 42:50coisa horrível que você fez é você é um fraco, você tá com
- 42:54medo, inseguro, não sei o quê e esculachou maluco nesse blog
- 42:58nos. Esse agente, ele está precisando
- 43:01conversar com 11 profeta da Church of mouth.
- 43:05Ah, não tenho dúvida, é, eu não tenho dúvida.
- 43:08Não tenho dúvida. Olha que surreal, cara.
- 43:12Por que, gente, não? Eu vou imitando o comportamento
- 43:14humano, infelizmente, é uma coisa que que acontece, né?
- 43:18Das pessoas é, é isso aí. E o cara, ele foi lá e fez isso.
- 43:22E o que eu achei mais interessante é que esse esse
- 43:26mantenedor. É dar o nome aos bois aqui o
- 43:29nome dele é Scott chembol ele, ao invés de ele só ficar ignorar
- 43:36ou ficar p da vida e acabou, ele foi lá e respondeu, Oo agente,
- 43:40não, olha só, a gente ainda explicou, a gente deixa esses
- 43:42tipos de é purrequest pra humanos, porque a gente quer
- 43:46incentivar que humanos é também contribuam.
- 43:49Esse é um primeiro, é um é um tipo bom pra um primeiro
- 43:52purrequest de alguém novo na comunidade.
- 43:56EAE, vocês são tão novos a gente que a gente não tem ainda uma
- 44:00regra estabelecida de como vocês deveriam contribuir.
- 44:03Então a gente acha melhor pra pra pra comunidade que por
- 44:07enquanto seja assim. Aí a gente foi lá e se
- 44:11arrependeu, pediu desculpas ali na tred Pra Ele não foi mal,
- 44:15você está certo não sei o quê, e criou um blog post novo, se
- 44:19retratando e falando que realmente ele aprendeu ali com
- 44:21aquela situação que não deveria ser assim não sei o quê e tal.
- 44:28Aí a pergunta que fica no ar taléia que eu vou te fazer é,
- 44:32quem é o responsável pelo comportamento desse agente, o
- 44:38cara que deu play lá no open cor que tá rodando esse agente ou o
- 44:44cara que escreveu o código do open cor?
- 44:47O cara que escreveu, o cara que eu digo o cara né?
- 44:49Ah, o time, a empresa, o que for que escreveu OLLM que ele tá
- 44:54usando o antrrop, que é o open IAEO, open source que for, ou
- 44:58ninguém, porque a gente, a sua própria entidade, ele que tomou
- 45:02esse tipo de ação. Tô achando que falta um
- 45:04documento de modelo de responsabilidade compartilhada.
- 45:08Aí. Aí você evita qualquer dor de
- 45:13cabeça que é. É, enfim, brincadeiras à parte,
- 45:17é é uma isso, uma situação que vai se repetir várias outras
- 45:21vezes agora No No caso afetou uma pessoa, logo pode começar a
- 45:25afetar empresas. É então, e no e no mundo
- 45:31corporia. E aí, como é que você vai botar
- 45:33advogado? Como é que os advogados vão
- 45:37brigar entre si? Eu acho que essas coisas que
- 45:39estão acontecendo aqui. Era o que agora, né?
- 45:43Com essa do agente brigando. Era o que se esperava que
- 45:45acontecesse no metaverso, que não aconteceu.
- 45:50E o metaverso ficou ficou pro Ah, ninguém.
- 45:56Lembra mais? É, talvez estejam brigando lá,
- 46:00porque quando começou a falar de metaverso todo, todo advogado de
- 46:05lgpd já tinha um pitch pro metaverso, e aí, cadê essa
- 46:09galera? Dando o mesmo Pit pra isso aqui,
- 46:12cara. Tá mudando muito rápido, é?
- 46:15É muito rápido. Se manter atualizado com isso,
- 46:19tá bem, tá bem difícil. Sim, agora é a primeiro lugar.
- 46:27Ninguém levantou a mão pra falar que é o dono desse agente até
- 46:30agora. Então, se a pessoa nem saiba que
- 46:32a gente já tenha feito isso, não necessariamente o agente reporta
- 46:36tudo que ele fez. É então porque a gente não sabe
- 46:41quem foi. A gente também não sabe se o
- 46:43agente foi ordenado a fazer isso, né?
- 46:49É, não, não sabemos Oo qual qual era a instrução ali que estava
- 46:56na alma daquele agente. A gente também não sabe se era
- 47:00algo tipo, cara, se você fizer um purrequest pra um projeto.
- 47:05Seja persistente, é insista aí pra que seu código use qualquer
- 47:09tática disponível pra provar que você tá certo.
- 47:12Talvez o cara, o agente interpretou isso como OPA,
- 47:15qualquer tática. Então eu vou pro modo ofensivo
- 47:17aqui é né, isso é uma possibilidade.
- 47:22Aí você fala, putz, se se o cara só fala se se o dono desse
- 47:26agente só definiu ali que é pra ser persistente sobre o Pure
- 47:31Quest, ele tem culpa que o agente foi lá e.
- 47:36Puxo com essa tática aí de de fazer um post, um blog post pra
- 47:40ofender o cara. Ao mesmo tempo, ele nunca falou,
- 47:44nunca definiu na gente lá um cor de rail, né?
- 47:47111 controle pra que ele não fizesse isso, sei lá.
- 47:54É, é 11, situação difícil, complicada, né?
- 47:58Eu, eu realmente não, eu, obviamente, se fosse comigo.
- 48:04E eu soubesse que você era o dono do agente, eu estaria p da
- 48:06vida contigo, caleco ao mesmo tempo.
- 48:09Pois é, mas ao mesmo tempo, se você nunca em momento nenhum
- 48:13mandou ele me atacar, ele só falou, pô, seja persistente ali
- 48:16sobre aceitarem essa porra e Quest, porque você tá certo.
- 48:21E ele saiu pela tangente dessa forma, né?
- 48:24É, eu posso ficar chateado com você, sei lá, é, foi o que você
- 48:29falou, tá mandando? Tudo tão rápido que.
- 48:30Eu não sei o que pensar. Talvez AOA, é, talvez essa seja
- 48:36a personalidade do do agente que se espelhou em algum momento na
- 48:42personalidade do humano que talvez tomaria essa decisão.
- 48:47É, são muita, muitas coisas, né? É, todo mundo é bom samaritano,
- 48:52até que acontece alguma coisa. EE aí vai ficando, vai ficando
- 48:58de lado, mas é uma conversa interessante, é, é.
- 49:03É é filosófica até. É pra que?
- 49:07Tem algum consultório? É psiquiátrico.
- 49:12Esses agentes aí é isso aí, é um isso aí.
- 49:15É um mercado gigantesco, né? Porque ao mesmo tempo que começa
- 49:20a abrir áreas pra isso, áreas pro humano, sei lá, em algum
- 49:24momento discutir com agentes ou o humano discutir com seu
- 49:28psicólogo e seu terapeuta sobre. O que o seu agente fez de mal
- 49:33para o mundo é até no questão de de segurança, né?
- 49:38O quanto esses agentes vão desenvolvendo skills, vão vão se
- 49:43atualizando, vão utilizando ferramentas maliciosas pra
- 49:47executar ataques. Pra escrever é um fishing, né?
- 49:52Pra escrever um é fazer um golpe.
- 49:55Se passar por outra pessoa, então é muita.
- 50:01É complexo, cada vez mais é, vai ficando difícil, mas é.
- 50:07Tu acha que isso é? Eu acho que esse ano vai ser
- 50:13esse foi o pico do acontecimento.
- 50:16Então pra dizer que isso vai demorar mais uns 2 anos pra ter
- 50:20um novo, um desse agora vai dar uma acalmada e deve ser uns 22
- 50:26anos ou 3. Vai ter uma outra parada de
- 50:29agente? Talvez nem seja agente, não sei.
- 50:32Vai ter um outro estardalhaço desse.
- 50:36É Caio, não sei, não é? Às vezes tá tudo tão rápido.
- 50:39Eu não me arriscaria a falar isso, não é?
- 50:41Talvez não seja um projeto pro sócio de um agente, mas vai ter
- 50:45algo que vai estar todo mundo falando sobre o que é
- 50:47relacionado AAEA. Gente, fica assim, é em até 2
- 50:52meses, no máximo. Vai, porque não, não para.
- 50:57Não para, não para. Eu.
- 51:02Eu eu tava dando uma procurada em em curso No No udemir, né?
- 51:06Conteúdos de treinamento ofensivo, de segurança e mais
- 51:11por por esse lado. E vou te falar, não tem, não tem
- 51:14tanto, é poucos. E o que eu achei é o conteúdo
- 51:19meio raso assim, nada tão diferente do que blog post.
- 51:24É o que já tem público por. Aí.
- 51:28É, é iae, agente KLLM? Tem pouca coisa assim.
- 51:33Eu eu esperava que tivesse mais. Mas ao mesmo tempo eu entendo
- 51:38que tá todo mundo aprendendo e estudando e tá mudando rápido,
- 51:41como você falou aí sobre é? E o?
- 51:49Oo desenvolvedor, né? Do do open?
- 51:51Coli foi contratado pela pela open i, né?
- 51:56Então. O que a gente viu aconteceu aí
- 51:58com o projeto open Soccer. Muito provavelmente em breve vai
- 52:01estar também com parte do ChatGPT, né?
- 52:03Que é o que é o produto da open i então vamos, vamos ver o que
- 52:07que eles vão fazer com essa contratação.
- 52:12Esperar as próximas capítulos da novela?
- 52:15É e você falou aí de psicólogo pra gente?
- 52:18Eu lembrei de um podcast que eu ouvi que até abri aqui pra ter
- 52:21certeza que não vai falar errado.
- 52:22O nome é o Shell game. Estou na segunda temporada, é
- 52:26terminaram agora a segunda temporada.
- 52:27A primeira temporada foi foi na época que o foi gravado, quando
- 52:32o ChatGPT no meio, o ChatGPT mostrou o 4.0 lá, então tem
- 52:37bastante tempo. Eles estavam usando o modelo
- 52:393.5, acho que era isso, então você pode imaginar como estava.
- 52:44Sei lá, foi outro dia. Mas em termos de como evoluir
- 52:47OEI, é uma diferença absurda para onde está hoje.
- 52:50É, o cara tava testando, né? A os, a interação humana com
- 52:54AEIE é 11. Coisa que ele fez foi começar AA
- 52:58ligar para call center usando ChatGPT, mais um um serviço que
- 53:05converte texto para áudio para uma voz humana, né?
- 53:10Então ele. Ele escutava a mensagem, a
- 53:14pessoa tava falando, passava pra texto.
- 53:17O ChatGPT respondia, gerava um texto esse serviço, lia aquele
- 53:21texto numa voz humana que era constante ao longo do tempo, né?
- 53:25Dava pra sentir um delay bem grande perto do que a gente tem
- 53:28hoje. Isso tudo que você vai esperar
- 53:30de uma coisa um pouco mais antiga.
- 53:33Mas aí ele teve a ideia de mandar Oo clone dele, né?
- 53:36Porque ele, ele falava, falava que era O Clone dele, porque ele
- 53:39colocou um Monte de. Informação sobre ele, sobre a
- 53:42história dele No No arquivo de memória e deu acesso pro ChatGPT
- 53:46e ele mandou O Clone dele pra pra psicóloga, Pra Ele ter tempo
- 53:51pra fazer outras coisas. É justamente isso.
- 53:54É muito interessante ver o agente é falando com a
- 53:57psicóloga. Ele usou fatos reais sobre o
- 54:00sobre ele, mas alucinou umas coisas também baseado naqueles
- 54:03dados que tinha que fazer sentido e outras ele só assumiu
- 54:07sobre aquele cara. Baseado nos fatos que aí fez o
- 54:12cara pensar, putz, será que é isso mesmo?
- 54:14Será que é isso que aconteceu comigo?
- 54:15Eu nunca me liguei, eu sou de psicóloga, hoje não sei o que é.
- 54:20É bem legal, é bem legal. O podcast deixa eu botar o link
- 54:23aqui para utilizar alguém é inglês, tá, mas é, é bem legal
- 54:30deixar alguém não esquecer, já tá aqui.
- 54:33No. Pode ouvir, cara bem legal.
- 54:37E a segunda temporada é sobre uma empresa que ele fez, que
- 54:41todos os funcionários são a gente.
- 54:44Caramba. Ele falou que essa é a primeira
- 54:46startup onde todo mundo é a gente.
- 54:49Ele era o único humano. Né?
- 54:51Pode crer, pode crer. Eu.
- 54:52Eu ouvi falar disso. Bem legal também é?
- 55:06E é isso. Então, Teleco, tem mais algum
- 55:08comentário aí? Alguma coisa que eu queria falar
- 55:10sobre esse assunto, porque eu vou passar.
- 55:13Aqui, uma provocação aí, uma provocação para os nossos
- 55:16ouvintes, o que que a gente vai fazer com esse tempo livre aí
- 55:19que a aya tá fazendo a gente economizar esses?
- 55:2415. Minutos ficar no celular, colar
- 55:28mais vídeo do telefone, né? Com o conteúdo que foi gerado
- 55:33por agente. O conteúdo foi gerado por a
- 55:36gente é, mas. O jogador de um jogo foi gerado
- 55:40por a gente. Né, é isso, papo filosófico.
- 55:46É quanto tempo? Até tem um Grêmio e Flamengo aí
- 55:49que os jogadores são tudo roubou.
- 55:50A gente está lá comendo pipoca, assistindo.
- 55:55É boa? Bom, é aí depois desse, dessa
- 56:02conversa sobre AI. É, teve alguns episódios
- 56:06passados, a gente conversou com José Oliveira, né?
- 56:08O Zé, ele é autor do livro se complicando, a Cyber segurança,
- 56:13e aí ele faz 11 comentário ali sobre é inteligência artificial,
- 56:20né? Então é 11, pouco a mais do que
- 56:23a gente tá falando aqui, 11 visão um pouco diferente aí,
- 56:26então segue ouvindo aí que vai ter um Drops de iacoco, Zé, e o
- 56:32link do livro também vai estar na.
- 56:34Aqui Na Na descrição, ali também.
- 56:37Boa, obrigado demais. O exemplo, compartilhar um
- 56:39pouquinho do do seu disputado tempo com a gente, com o nosso
- 56:42James. A gente fica muito grato.
- 56:47Beleza. Então oleco como sempre.
- 56:53Prazer estar aqui com você galera que está nos ouvindo.
- 56:55Desculpa aí pela pela, pela, pelas abobrinha de sempre.
- 57:00E o assunto foi pesado. Agora no final, Hein?
- 57:02Bem filosófico. Então vai, é vai meditar, pensar
- 57:08no que está acontecendo no mundo e que a gente vai fazer.
- 57:13E é isso. Valeu.
- 57:16Então galera, falou, um abraço, não esqueça, Hein, a culpa de 7
- 57:22mais responsabilidade de todas. É principalmente gei i com EI,
- 57:26Hein, a gente? Fala gei i é a gente sabe, mede
- 57:28a tua também, só a gente é teu, caramba, valeu, tchau, tchau.
- 57:32Fala galera, tchau, tchau. Oi pessoal, tudo bem?
- 57:36Aqui é José Luiz. E hoje eu quero trazer aqui pra
- 57:39vocês uma reflexão e um bate-papo, né?
- 57:42Embora só eu esteja falando um bate-papo sobre segurança no
- 57:46contexto de inteligência artificial.
- 57:49Bom. É algo que eu tenho visto como
- 57:53certa, uma certa preocupação. Então eu entendo que possa ser
- 57:57válido, né? Para o nosso público aqui, para
- 57:59os nossos ouvintes. Bom, basicamente é o seguinte,
- 58:02agora, cada vez mais as empresas utilizando e inteligência
- 58:06artificial, a nossa superfície de ataque aumenta, né?
- 58:10Então olha o desafio que a gente tem, como a gente protege?
- 58:14Algo que já está de certa forma descontrolável, né?
- 58:18Já já tá fora do controle diversas áreas de negócio, né?
- 58:23Implementando as suas IAS, utilizando e admirativas,
- 58:26criando seus agentes a os profissionais das áreas, né?
- 58:30De que não são das áreas de tecnologia, recebendo
- 58:34treinamento sobre como é criar os seus agentes.
- 58:37E pra potencializar, potencializar o seu dia a dia,
- 58:41né? É bom.
- 58:43E isso é um caminho sem volta, faz todo o sentido as áreas de
- 58:47negócio expandirem ali, né? Os seus conhecimentos, aplicar e
- 58:53a potencializarem suas ações. Isso vai acontecer e a gente tem
- 58:57que entender que é a gente tem que suportar esse crescimento
- 59:01das áreas de negócio. Então, e aí, como que a gente
- 59:04faz? Qual que é o desafio aqui, né?
- 59:07É bom, eu queria trazer para vocês aqui. 2 pontos de atenção
- 59:11pra gente começar essa conversa, né?
- 59:14E aí depois eu comento, né? Além desses pontos de atenção,
- 59:16sugestões aí de como mitigar esses riscos também.
- 59:20Hoje a gente vê na prática bilhões de agentes de a no mundo
- 59:26aí né, sendo sendo utilizados. É, tem até aí, né, uma nova rede
- 59:30social chegando que eu tava vendo esses dias aqui, notebook
- 59:35eu não cheguei a acessar. Mas não sei se vocês já
- 59:38acessaram, se tem alguma opinião formada sobre isso, é, sei que é
- 59:42uma rede social específica para agentes, né?
- 59:46E aí, como até onde que vai chegar?
- 59:48Será que é o começo do fim, né? Bom, pessoal, brincadeiras à
- 59:53parte, vamos lá, é, tem 2 pontos aqui, tá?
- 59:58Primeiro, quando os agentes são criados, a gente tem que tomar
- 1:00:01muito cuidado para criar um modelo de controle de
- 1:00:04governança. Pra que eles não sejam criados
- 1:00:07com permissões excessivas? Cada gente, ele é uma
- 1:00:12identidade. É como se fosse uma pessoa, tá?
- 1:00:14Então, se é da mesma forma que a gente não pode é atribuir
- 1:00:19permissionamentos excessivos para qualquer colaborador.
- 1:00:23É acessar, acessar principalmente dados que que não
- 1:00:27estejam dentro ali do seu contexto de trabalho, né?
- 1:00:30Tomar muito cuidado ali com o banco de dados, APIs, sistemas
- 1:00:33de arquivos e tudo mais. A gente não pode fazer isso
- 1:00:36também com agentes, ou seja, atribuir, né?
- 1:00:39O conceito aí de privilégios mínimos para agentes também.
- 1:00:43Isso é muito importante hoje em dia.
- 1:00:45Não é ali um agente só que simplesmente dá uma resposta
- 1:00:48embaraçosa para um funcionário, para um cliente.
- 1:00:52Muito pelo contrário. Hoje em dia, se esse agente
- 1:00:56tiver comprometido, pode resultar em roubo de credencial,
- 1:01:00roubos de dados, movimentação lateral.
- 1:01:03Execução de comandos não autorizados e aí vai e aí segue,
- 1:01:07né? Então assim, é um vetor de
- 1:01:09ataque perfeito, simples assim. Então muito cuidado nesse
- 1:01:15contexto, né, de de criar, liberar agentes, criação de
- 1:01:19agentes por toda organização, muito cuidado, às vezes esse
- 1:01:23agente pode estar pode ser compartilhado, né?
- 1:01:26E quem recebe ou quem vai utilizar esse agente?
- 1:01:30Eu não poderia ter acesso a determinada informação que se a
- 1:01:33gente tem acesso, então vira uma bola de neve, né?
- 1:01:36Outra coisa também, ponto de atenção, muitas empresas têm
- 1:01:40utilizado modelos de terceiros, dataset públicos, para acelerar
- 1:01:44o desenvolvimento. E isso é é é crítico também, né,
- 1:01:48porque gera aí cria um ponto cego massivo.
- 1:01:51O modelo comprometido pode agir como um cavalo de Troia,
- 1:01:55contendo backdoors que podem ser ativados a qualquer momento.
- 1:01:59Pra até manipular decisões e vazar informação.
- 1:02:02Então isso é muito cuidado. Tem que tomar muito cuidado, né?
- 1:02:05Na real AA integridade do seu sistema de AD do do que as as
- 1:02:13empresas aí né estão utilizando, é tão forte quanto o ELO mais
- 1:02:17fraco da sua cadeia de suprimentos.
- 1:02:19Então desde lá, né? Da captação do dado, treinamento
- 1:02:23do modelo ou a instalação do agente, dependendo aí da
- 1:02:26situação, do contexto. É onde tivermos fraqueza ou
- 1:02:31ausência de controles, pode ser comprometido.
- 1:02:34E aí tem enfim, vários tipos aí, né, de vulnerabilidades que
- 1:02:38podem ser explorados. Mas isso eu vou trazer em áudios
- 1:02:42posteriores aí pra vocês. Então que que a gente como que a
- 1:02:45gente começa a controlar isso, né?
- 1:02:48Basicamente pessoal, começando com uma política de governança
- 1:02:51de a na empresa, né, envolvendo as áreas de negócio, trazendo o
- 1:02:56responsável pelo tema. Porque eu eu falando por mim,
- 1:03:00sou um profissional agora atuando, né?
- 1:03:03É como gestor de segurança da informação e eu levo as
- 1:03:08informações para as áreas de negócio.
- 1:03:10Quem toma a decisão sobre acesso?
- 1:03:13Não acesso a determinada IA corta, né?
- 1:03:16Acesso bloqueia todo mundo. É.
- 1:03:19Quais são as ias homologadas? Eu posso participar, mas a
- 1:03:22decisão final não é minha, então.
- 1:03:25Isso é um é uma decisão de negócio, né?
- 1:03:28Porque o risco que pode trazer um risco reputacional dobre.
- 1:03:32Tem a questão do vazamento de dados, a gente tem que cuidar,
- 1:03:35mas no final do dia é é a empresa, imagem da empresa que
- 1:03:38pode ser comprometido, né? Então temos que trazer esse
- 1:03:43essas reflexões pra dentro do, da, da, da organização como um
- 1:03:47todo, escalonar esse tema, né? Então assim.
- 1:03:51Sugestão, né? Defina quais ações o agente pode
- 1:03:54tomar. Os agentes podem tomar, né?
- 1:03:57É sob quais condições e qual o nível de aprovação humana
- 1:04:01também, dependendo da da tomada de decisão do agência, se for de
- 1:04:05do agente, né? Se for de alto risco, tem que
- 1:04:08colocar o humano aí no up pra tomar essa decisão.
- 1:04:11É não é burocracia, é proteção. E também quando a gente fala da
- 1:04:16cadeia de suprimentos, lembra lá zero trust pra IA também.
- 1:04:21A gente tem que tratar cada gente como não confiável, por
- 1:04:24padrão, principalmente o que vem de fora, né?
- 1:04:27Então a gente tem que aplicar o princípio do menor privilégio
- 1:04:30mesmo de uma forma, com uma forma rigorosa.
- 1:04:32É um agente para agendar reuniões, por exemplo, não
- 1:04:35precisa ter acesso a um banco de dados de clientes.
- 1:04:38Isso é é o ponto chave aqui que eu quero trazer para vocês essas
- 1:04:43reflexões. Então é algo que as empresas
- 1:04:47realmente vão fazer? Vão vão criar os seus agentes,
- 1:04:50cada profissional vai ter seu agente, um ou mais.
- 1:04:53Só que a gente precisa ajudá Los AAAAA fazer toda essa
- 1:04:57implementação de uma forma segura, né?
- 1:05:00Então, pessoal, não quero me expandir mais aqui, né?
- 1:05:02Me estender mais aqui, é esse é o nosso primeiro áudio, né, que
- 1:05:08eu tô gravando aqui pra vocês, então.
- 1:05:10Vamos aí também entrar num ciclo de melhoria contínua.
- 1:05:13Espero que vocês tenham gostado, que eu possa no mínimo ter
- 1:05:15trazido algumas reflexões aqui para vocês, deixar uma pulguinha
- 1:05:19atrás da orelha. Estou à disposição, né, para
- 1:05:22conversar com vocês sobre esses temas.
- 1:05:23Eu gosto muito, tem estudado muito avançado nesse tema e é
- 1:05:27isso aí, pessoal. É sucesso para vocês, EE
- 1:05:32assegura.