Latest / Os Agilistas / Governar agentes de IA virou requisito básico

Transcript

Governar agentes de IA virou requisito básico · Os Agilistas

• 0:00
  Teve até uma entrevista essa semana do CEO da nvidia que ele
• 0:04
  fala, quem não está aprendendo a governar, a supervisionar
• 0:11
  agentes, daqui a 2 anos vai contratar quem supervisiona,
• 0:16
  quem aprendeu supervisionar agentes.
• 0:18
  Então essa dinâmica, ela ela é muito mais humana.
• 0:22
  Cara perfeito e a gente vê que o artigo reflete exatamente isso
• 0:25
  que você acabou de falar. Então, as 3, os 3 pilares aqui
• 0:28
  que ele destaca como aqueles que ficam para trás, é a estratégia
• 0:33
  que é decidida puramente por humanos, a governança que AIA
• 0:36
  não vai ser autossuficiente. E, por fim, o novo Pilar que
• 0:39
  eles acabaram de implementar, né?
• 0:40
  Que são os controles de a agência, que é isso que você
• 0:42
  acabou de dizer. Tem que aprender a controlar
• 0:44
  esses agentes. Então, exatamente isso você
• 0:46
  acabou de falar. Os pilares mais técnicos eles
• 0:49
  costumam até avançar um pouco mais rápido, mas os pilares que
• 0:52
  dependem de humanos. O artigo traz com clareza pra
• 0:55
  gente no primeiro insight dele, que é o que tá faltando é o que
• 0:57
  a gente precisa correr atrás hoje.
• 0:59
  E tem um negócio meio contra, intuitivo assim e que eu até
• 1:02
  volto, né? Sobre, juridicamente falando,
• 1:05
  como que as coisas são tomadas de decisão?
• 1:09
  A gente vem numa jornada de transformação interna pra.
• 1:13
  Todos os nossos desenvolvedores usarem agentes de a pleno no
• 1:17
  nosso desenvolvimento e até, né? Estamos adaptando também até os
• 1:21
  nossos processos internos para refletir isso dentro dessa nova
• 1:25
  realidade, porém, a gente não pode deixar aferir e controlar
• 1:30
  de forma humana. Então esses gatekeeps, esses
• 1:33
  controles de qualidades, a gente ainda está conseguindo, está
• 1:38
  inferindo que os seres humanos são responsáveis por garantir
• 1:41
  esses controles. E não somente mecanismos de
• 1:46
  técnicos, né? De harner.
• 1:47
  Todas essas esses mecanismos técnicos vão garantir essa
• 1:51
  tomada de decisão. E dentro disso tem até 11 banco,
• 1:55
  né? Grande nacional no Brasil.
• 1:58
  Que 3 semanas da gravação desse episódio que esse banco
• 2:02
  responsabilizou uma falha a um desenvolvedor que implementou
• 2:06
  uma funcionalidade errada que causou um problema em ambiente
• 2:09
  produtivo. Ao mesmo tempo, né, que tem
• 2:12
  todo? Aquele negócio lá de falar que
• 2:13
  eles tinham sido de cuidado, não, né?
• 2:14
  Não tem nada. A ver, isso é exato, queria
• 2:17
  evitar. De não.
• 2:18
  Mas isso foi público. É a notícia pública, né?
• 2:20
  Assim? Não vamos falar que banco foi,
• 2:22
  né? É, não, pô.
• 2:23
  Isso é uma notícia pública, né? Sabe disso.
• 2:25
  Quanto é? E esse mesmo, né mesmo?
• 2:27
  Banco teve um burburinho sobre a necessidade de garantir
• 2:31
  minimamente um consumo de towkens mínimo.
• 2:35
  Por desenvolvedores eu nem sabe. Ou seja, ele está.
• 2:37
  Ele está dizendo que aquela falha foi na construção usando
• 2:40
  AI AI que passou. Não.
• 2:42
  Na verdade, tentou responsabilizar um
• 2:43
  desenvolvedor. Mesmo responsabilizou um
• 2:45
  desenvolvedor, mas tinha um burburinha há 2 meses atrás, 3
• 2:48
  meses atrás sobre o consumo mínimo de tokens que cada
• 2:52
  desenvolvedor tinha que. Que ter é, a gente viu algumas
• 2:55
  empresas até lá fora, né, adotando um métrica de
• 2:57
  produtividade baseada em consumo de token, né?
• 2:59
  Completamente disfuncional isso, né, cara?
• 3:02
  Tem livro que eu li há 30 anos atrás que criticava esse tipo de
• 3:05
  métrica, né? Porque assim ela causa disfunção
• 3:07
  total, né? Assim, seu o seu.
• 3:09
  O ser humano é muito adaptável aquele ao que ele é.
• 3:11
  Medir, né? Se o cara quer medir de algum
• 3:12
  jeito, isso, ele vai se adaptar, vai quebrar as regras pra poder,
• 3:15
  né? Você não vai conseguir o
• 3:17
  resultado que você quer. Sabe aquele?
• 3:19
  Aquele, né? Aqueles livros também.
• 3:20
  Os problemas complexos, os problemas, né?
• 3:24
  Simples. É tipo assim, não.
• 3:26
  Essa adoção, essa mudança de paradigma, não é um problema
• 3:29
  simples.