Latest / M365.FM – Podcast de Microsoft 365, Copilot e IA em português / Agentes de IA no Microsoft Teams: mais produtividade ou risco de segurança? Governança para colegas digitais (Dublagem IA)

Transcript

Agentes de IA no Microsoft Teams: mais produtividade ou risco de segurança? Governança para colegas digitais (Dublagem IA) · M365.FM – Podcast de Microsoft 365, Copilot e IA em português

0:00
Imagine entrar no Teams e ser recebido por um enxame de agentes de IA,
0:03
cada um prometendo otimizar seu dia de trabalho.
0:05
Eles prometem produtividade, mas sem regras podem interpretar mal os objetivos
0:09
e expandir acessos de formas que o tornam responsável.
0:11
É como dar um cartão de crédito corporativo ao seu estagiário
0:13
e esperar que o relatório de despesas não venha com o IA incluído.
0:16
Aqui são as boas notícias.
0:17
Neste episódio, você conhecerá um framework simples,
0:19
três controles práticos e os primeiros passos para manter esses agentes úteis, seguros e alinhados.
0:25
Pois antes de confiar neles, você precisa entender
0:26
que tipo de colegas de trabalho eles estão prestes a se tornar.
0:30
Conheça seus novos colegas de trabalho de Ita.
0:31
Conheça seus novos colegas de trabalho de Ita.
0:33
Eles não ficam em cubículos, não batem em ponto e certamente nunca leram o manual do funcionário.
0:38
Estes não são os velhos macros de Excel que costumavam supervisar.
0:40
Os agentes observam, planejam e agem porque combinam três ingredientes principais,
0:44
memória, permissões e acesso a ferramentas.
0:46
Esse é o framework da Microsoft e do BCG, e essa é a verdadeira diferença.
0:49
Seu novo colega pode acompanhar interações passadas,
0:52
alternar entre sistemas nos quais você já confia e usar aplicativos como uma pessoa faria.
0:57
Claro, tenta sem brincar novamente com a história do estagiário.
0:59
Eles chegam cheios de energia, mas não fazem ideia de onde fica o grampeador.
1:02
O mesmo ocorre com os agentes, eles entram nos seus fluxos de trabalho,
1:04
sem entender os limites reais, mas ao contrário de um estagiário,
1:07
eles podem acessar o Outlook, SharePoint ou Dynamics no momento em que você os implementa.
1:10
Esse poder não é apenas curioso, é um problema de governança.
1:13
Sem uma prevenção de perda de dados e permissões adequadas,
1:16
você basicamente expandiu a superfície de ataque por toda a sua pilha.
1:19
Se quer sentir a rapidez com que isso se torna real, observe o roteiro de novidades.
1:22
A Microsoft já exibiu agentes do SharePoint que gerenciam documentos diretamente nos sites,
1:26
e não apenas nos resultados de busca.
1:29
Imagine pedir a um assistente para organizar arquivos de projeto
1:31
e ir realmente reorganizar pastas compartilhadas entre equipes.
1:35
Impressionante um slide, mas há apenas uma interpretação errada
1:37
de arquivar as finanças do trimestre errado.
1:40
Isso não é um risco teórico ou chamado suporte do ano que vem.
1:43
A automação antiga parecia uma máquina de venda automática.
1:45
Você apertava um botão, o chocolate cair, se tivesse sorte, ele não ficava preso.
1:48
Os agentes são nada parecidos com isso.
1:49
Eles percebem o estado do seu fluxo de trabalho, analisam as opções disponíveis
1:53
e geram passos que ninguém codificou de antemão.
1:55
É adaptável?
1:56
E isso é tanto a atração quanto o perigo.
1:58
Em uma falha, o resultado não é um doce preso na máquina.
2:01
É um relatório confiante extraído de três sistemas com definições errones
2:04
apresentado como verdade absoluta meses depois.
2:06
Adivinha quem assina o documento quando o financeiro pergunta de onde veio a discrepância?
2:10
Ainda assim, a vantagem é óbvia.
2:11
Um único agente pode criar conexões entre cílios de formas que sua equipe humana dificilmente alcança.
2:16
Ele não se importa se os dados estão no Teams, no SharePoint
2:18
ou em algum módulo do Dynamics escondido no sistema.
2:21
Ele transita entre eles e compila resultados sem precisar de anexos de e-mail,
2:24
lembretes de calendário ou daquele gênio do Excel no seu departamento.
2:28
Em termos de produtividade, é como contratar alguém que trabalha dez vezes mais rápido
2:31
e nunca para esquentar peixe na copa.
2:34
Mas velocidade sem alinhamento é perigosa.
2:35
Agentes não compartilham seus objetivos de negócio, eles seguem literalmente as instruções que você fornece.
2:40
Essa desconexão é o problema do agente principal em uma roupagem tecnológica.
2:44
Você quer precisão e conformidade, eles entregam uma interpretação aproximada com uma confiança equivocada.
2:49
Não é hostilidade, é falta de noção.
2:50
E a falta de noção com acesso de nível de sistema pode ser mais destrutiva do que a minha intenção.
2:54
É assim que você acaba com um assistente excessivamente prestativo enviando planilhas confidenciais
2:58
para contatos externos só porque você pediu para compartilhar a atualização.
3:00
A realidade é esta, agentes não são detalhes irrelevantes, são colegas de trabalho digitais
3:05
entrando nos fluxos essenciais, espetacularmente capazes, mas espetacularmente ignorantes quanto ao contexto.
3:10
Você pode se apaixonar pelo comportamento deles, na demonstração, mas o teste real começa
3:14
quando você os coloca em processos reais sem as diretrizes de treinamento ou supervisão.
3:17
E a quem entra lá quando é de curiosidade?
3:19
Fique comigo, pois em poucos minutos veremos as três coisas que toda a gente precisa, memória,
3:24
permissões e ferramentas e porque cada uma é um superpoder e um ponto de falha se não for gerenciada.
3:28
O que prepara o seu próximo trabalho?
3:30
Não apenas usar ferramentas, mas gerenciar trabalhadores digitais como se fossem parte da sua equipe.
3:34
E isso vem sem manual de RH, mas com muita responsabilidade.
3:38
Gerentes como chefes de trabalhadores digitais?
3:40
Imagine abrir sua avaliação de desempenho e ver uma nova linha.
3:43
Gerenciou 12 funcionários humanos e 48 agentes de IA.
3:46
E isso não é papo de ficção científica, está se tornando uma métrica real de habilidade gerencial.
3:50
Especialistas dizem agora que o valor de um gerente será julgado em parte por quantos trabalhadores digitais ele pode guiar,
3:55
pois o prompt, a verificação e a supervisão estão rapidamente se tornando habilidades essenciais de liderança.
4:01
O chefe do futuro não delega apenas para pessoas, ele orquestra uma mistura de equipe e software.
4:05
Essa mudança é importante porque a gente e IA não funcionam como ferramentas que você deixa nativas até precisar.
4:10
Eles operam por conta própria após receber nenhum comando e não levantam a mão quando ficam confusos.
4:14
Seu papel como gerente agora exige habilidades que se parecem menos com escrever memorandos e mais com definir limites de escalonamento.
4:20
O agente deve parar e consultar você quando ele deve continuar.
4:22
De acordo com a PwC e o Fórum Econômico Mundial, as três ações gerenciais críticas aqui são
4:28
comandos claros, supervisão humana e verificação dos resultados.
4:32
Se você falhar em um desses pontos, o risco aumenta rápido em mim.
4:35
Com funcionários humanos, o feedback é constante.
4:36
Tom de voz, uma pergunta rápida, uma hesitação sutil.
4:39
Agentes não entregam isso.
4:40
Eles entregam o trabalho concluído, independentemente de suas premissas fazerem sentido.
4:44
É por isso que dar comandos não é uma frase casual, é design de sistema.
4:46
Uma única instrução vaga pode gerar efeitos cascata, como dados arquivados incorretamente,
4:51
acesso descuidado a registros ou relatórios confiantes, porém errados.
4:54
Testar comandos antes de implementá-los torna-se tão importante quanto revisar planos de projeto.
4:59
A verificação é outra metade.
5:00
Líderes estão acostumados a verificar a qualidade, mas podem assumir que a automação equivale à precisão.
5:04
Suposição errada.
5:05
Agentes improvisam e improvisação sem revisão pode ser espetacularmente prejudicial.
5:09
Como aponta Ayumi Muralki, a IA tem talento para gerar absurdos bem redigidos.
5:14
Gerentes não podem assumir que um tom profissional significa estar factualmente correto.
5:18
Verificação, validação de fontes e checagem de caminhos de dados é o que define a liderança agora.
5:22
A supervisão fecha o ciclo.
5:23
Pense nisso menos como um microgerenciamento antiquado e mais como controle de acesso.
5:27
Babaco Rodjate define isso como conhecer os limites da confiança.
5:30
Ao conceder a um agente autorizações e acesso a ferramentas, você continua sendo o responsável que ele produz.
5:33
Os gerentes devem decidir com antecedência quanto a autonomia apropriada e estabelecer proteções.
5:38
Essa supervisão muitas vezes significa exigir aprovação humana antes que um agente faça alterações arriscadas,
5:43
como enviar dados externamente ou modificar registros em sistemas centrais.
5:47
Aqui está a reviravolta desconfortante.
5:49
Sua reputação como gerente agora depende de quão bem você equilibra pessoas e colegas digitais.
5:53
Controle excessivo e você sufoca os benefícios.
5:56
Controle insuficiente e você é pego de surpresa por erros que nem viu acontecerem.
6:00
O desafio não é escolher um estilo de liderança, mas gerenciar ambos simultaneamente.
6:03
Pessoas exigem motivação e empatia.
6:05
Agentes exigem limites rígidos e calibração constante.
6:08
Mantê-los alinhados para que não interrompam o fluxo de trabalho um do outro torna-se parte do seu reflexo gerencial diário.
6:13
Pense no seu papel agora como de um maestro.
6:15
Não no sentido do departamento de RH, mas literalmente marcando o tempo de duas sessões diferentes.
6:19
Funcionários humanos trazem criatividade e empatia.
6:21
Agente de A trazem velocidade e alcance, mas se ninguém os dirigir, o resultado é a discórdia.
6:25
Os melhores líderes do futuro serão julgados não apenas pelo moral da equipe,
6:29
mas se a equipe humana e a digital mantém o mesmo ritmo sem vazar dados sensíveis ou distorcer a tomada de decisão.
6:34
Na prática, o desalinhamento aqui não apenas interrompe um fluxo de trabalho, ele cria uma investigação de conformidade.
6:40
Tanto a conclusão é simples.
6:41
Seu cargo não mudou, mas o conteúdo da sua função sim.
6:44
Você não está mais apenas gerenciando pessoas, você está gerenciando operadores assistentes integrados em todos os sistemas que usa.
6:49
Isso requer novas habilidades, criar promptes precisos, testar instruções para consequências não intencionais,
6:54
validar resultados com fontes confiáveis e aplicar salvaguardas com supervisão humana.
6:59
O sucesso aqui é o que diferencia os gestores respeitados de amanhã daqueles silenciosamente encaminhados para uma aposentadoria precoce.
7:04
E, como a teoria é boa, mas a prática é melhor, aqui está seu desafio de um dia.
7:10
Abra as configurações do seu copiloto ou agente e procure onde ficam as aprovações ou os controles de supervisão humana.
7:15
Se você não conseguir encontrá-los, essa lacuna por si só já é uma descoberta.
7:18
Significa que você ainda não sabe como interromper um processo que saiu do controle.
7:21
Agora, se gerenciar a pessoa sempre começou com onboarding, é justo perguntar como é o onboarding para um agente de IA.
7:27
Cada agente que você implementa vem com o seu próprio kit inicial.
7:30
E o conteúdo desse kit memória, permissões e ferramentas decide se seu novo colega digital fará você brilhar
7:36
ou fará você perder o fim de semana revertendo danos.
7:39
As três peças que toda a gente precisa.
7:41
Se você for sinalizar o que realmente impulsiona um agente,
7:44
a Microsoft e o BCG chamam de kit inicial.
7:46
Três essenciais, memória, permissões e ferramentas.
7:49
Se faltar um vez de um colega digital em quem você pode confiar,
7:52
você terá um robô mal preparado tropeçando no seu ambiente.
7:55
Se você errar na configuração, estará se comprometendo com o trabalho de limpeza para o qual não planejou o orçamento.
7:59
E memória.
8:00
É isso que permite aos agentes conectar tarefas em vez de começar do zero toda vez,
8:03
como um peixinho dourado no teclado.
8:06
Com a memória, um agente pode manter a sua preferência
8:08
de fazer sempre gráficos em azul de um relatório para o próximo.
8:10
O lado positivo é a continuidade, o lado negativo é a persistência.
8:14
Erros e instruções ruins são levados adiante tão facilmente quanto o contexto útil.
8:17
A Microsoft destaca isso com seu trabalho de fragmentação e encadeamento.
8:20
Os agentes retém partes das interações para criar um fio condutor.
8:24
Mas a PwC alerta que a persistência também traz riscos de privacidade,
8:27
já que dados sensíveis podem permanecer por mais tempo do que deveriam.
8:32
Por exemplo, você não recebe apenas um assistente útil,
8:34
recebe um que repete sem parar seu pior erro de digitação.
8:37
Em seguida, permissões.
8:38
Pense nelas como crachá de acesso do agente.
8:40
Com humanos, você não entrega a todos uma chave mestra da sede,
8:43
você limita o acesso por função.
8:45
A mesma régua se aplica aqui.
8:46
Se você restringir demais as permissões,
8:48
o agente ficará batendo em portas trancadas e incomodando você por autorizações.
8:51
Se for muito permissivo, você terá entregado efetivamente
8:53
seu sistema de RH e registros financeiros a algo que não entende conformidade.
8:56
A orientação da PwC que é direta.
8:58
Use o controle de acesso baseado em função RBA-CE,
9:01
aplique a autenticação multifator para ações privilegiadas
9:03
e proteja áreas sensíveis com prevenção contra a perda de dados.
9:05
Por exemplo, se um agente precisar pesquisar na web,
9:07
a PwC recomenda usar um proxy com políticas de DLP
9:10
para não vazar dados de clientes nas buscas.
9:14
Em um resultado favorável, a RBAQ e a MFA mantêm o agente dentro dos limites.
9:17
Em um erro crítico, o privilégio excessivo
9:18
transforma no insider acidental mais rápido do mundo.
9:21
As ferramentas.
9:22
Esses são os aplicativos, APIs e conectores que os agentes realmente usam para agir.
9:25
Sem ferramentas, eles apenas encaram um vazio.
9:28
Com as ferramentas erradas, eles causam mais danos do que benefícios,
9:30
como dar um estagiário novato e direitos de implantação e produção em produção
9:33
em vez de um painel de relator seguro.
9:35
As ferramentas determinam o alcance do que um agente pode tocar.
9:38
A Microsoft cria proteções aqui colocando conectores do Copilot
9:40
dentro de canais de controle em vez de simplesmente dar ao agente acesso irrestrito.
9:44
A melhor prática é a mesma.
9:45
Limite o escopo, valide as configurações padrão
9:47
e vincule as ferramentas externas ao registro de logs e ao DLP.
9:49
Mantenha o conjunto de ferramentas bem controlado,
9:51
caso contrário, você terá criado uma máquina complexa e descontrolada,
9:54
conectando peças a sistemas que nunca deveria acessar.
9:56
O demônio com o rápido ajuda aqui.
9:57
Memória é a experiência, o que o trabalhador já lembra.
10:00
Permissões são o crachá de identificação por onde eles têm permissão para circular.
10:03
Ferramentas são o laptop e os aplicativos licenciados, o que eles podem realmente usar.
10:06
Compacto é mais memorável.
10:08
O paralelo com a integração humana faz sentido,
10:09
mas com agentes os riscos são mais rápidos, menos visíveis e mais difíceis de auditar posteriormente.
10:13
Equilíbrio é fundamental.
10:14
Equilibrar a memória proporciona continuidade sem salvar dados pessoais indefinidamente.
10:17
Permissões limitadas dão a eles apenas as chaves necessárias para o trabalho, sem abrir o cofre.
10:23
Dimensionar ferramentas amplia a produtividade sem aumentar o rádio de impacto.
10:27
Excesso de qualquer um deles transforma o resultado de útil em arriscado em uma única jogada.
10:30
E, assim como na vida real, você não pode se esquivar da responsabilidade.
10:33
A própria orientação da Microsoft sobre a responsável nos lembra que os agentes elevam.
10:37
Menor tolerância a erros, transparência mais rigorosa, controles mais precisos.
10:40
Você ainda é quem atende o chamado quando a permissão errada ou acesso a uma ferramenta vaza um relatório.
10:45
Em um resultado favorável, a memória entrega um contexto mais inteligente.
10:48
As permissões alinham-se perfeitamente à política e as ferramentas desbloqueiam apenas a ação em seguro.
10:52
Em um erro crítico, o agente lembra de instruções ruins, tem chaves demais e usa o conector errado com total confiança.
10:56
Não é uma questão de se essa é a curva de risco que você está enfrentando, e aqui está a parte que a maioria das pessoas ignora.
11:02
Mesmo quando você configura o kit inicial corretamente, ainda não está totalmente seguro.
11:05
Essas três peças também desbloqueiam o perigo mais silencioso e sutil.
11:08
O agente acaba sabendo mais do que você sobre o que ele acabou de fazer.
11:11
E quando você não consegue ver o raciocínio por trás das escolhas dele, um novo tipo de problema de gestão surge bem debaixo do seu nariz.
11:18
Problema invisível, a simetria de informação.
11:21
Já teve um funcionário que te entregou um trabalho dizendo tranquilamente, não se preocupe, eu resolvi.
11:24
Agora imagine a mesma frase vindo de um agente de IA, só que você não pode fazer perguntas e nem dar uma espiada no processo de pensamento.
11:31
Você recebe um resultado polido e bem acabado, mas o caminho da decisão por dentro é opaco.
11:36
Essa é a dor de cabeça invisível, a simetria de informação.
11:39
Agentes possuem mais dados e poder de processamento do que você jamais terá, mas é você quem é responsabilizado pelos resultados.
11:44
A California Management Review chama isso de um problema clássico de principal agente.
11:48
O sistema tem informações privadas que você não pode observar enquanto você carrega a responsabilidade.
11:52
É como se seu colega de trabalho digital estivesse jogando dados atrás da tela e só te mostrasse o número final, não os modificadores que acumulou no caminho.
11:59
E o problema não se anuncia de forma suave.
12:02
Agentes entregam resultados com confiança, não hesitam, não fazem ressalvas e não deixam você ver as emendas.
12:06
Então você fica olhando para um relatório final se perguntando se esse artefato polido é confiável ou está silenciosamente quebrado.
12:12
Quando você finalmente analisa, as equipes de trabalho ajusante podem já estar construindo algo sobre um erro.
12:16
Veja um caso comum. Um agente classifica erroneamente uma fatura ligada a um contrato de fornecedor crítico como sendo de baixa prioridade.
12:23
Na superfície o relatório parece perfeito. Nada acende o alerta vermelho.
12:26
Meses depois a conformidade aparece cobrando pagamentos atrasados.
12:29
Rastreia e descobre a classificação incorreta enterrada lá atrás.
12:32
Isso é a simetria de informação em ação.
12:34
Agente sabia o que fez, mas você não teve visibilidade do raciocínio.
12:37
O PwC destaca exatamente esse cenário em suas recomendações de DLP.
12:41
Salvaguardas como acesso baseado em funções, verificações de classificação e limite de escalonamento impedem que um pequeno deslize vire uma penalidade financeira.
12:49
Essa dinâmica influencia diretamente o problema do principal agente.
12:52
O seu principal define o objetivo como organizar faturas de fornecedor.
12:55
O agente otimiza para uma obediência literal classificar e arquivar.
13:00
Ele não vê a intenção mais ampla, não interpreta nuances e certamente não pesa as implicações estratégicas.
13:04
O que parece sabotagem é, muitas vezes, apenas uma lealdade cega a instruções seguidas ao pé da letra.
13:08
Agora adicione a zona de deformação moral.
13:10
Quando as coisas quebram, a responsabilidade sobe para você.
13:13
Auditores não culpam o algoritmo invisível, eles perguntam por que você não detectou o erro.
13:18
A máquina se exime da responsabilidade, enquanto o humano absorve o dano reputacional.
13:22
O efeito é como ser o airbag em uma colisão.
13:24
Você sente o impacto, mas sofre as consequências, enquanto o verdadeiro motorista segue ele.
13:28
Então o que você faz?
13:29
Você não pode magicamente ver todo o raciocínio neural de um modelo generativo,
13:33
mas pode criar visibilidade nas bordas.
13:35
Passo 1. Insista em logs detalhados e trilhas de proveniência.
13:39
Não a ilusão de pensamento interno, mas um registro concreto de quais dados foram acessados,
13:43
quais ações disparadas e em que ordem.
13:45
Passo 2. Implemente painéis de transparência.
13:48
Eles revelam nas variáveis-chave de decisão quem e o que,
13:50
quando para que você possa pelo menos ver os contornos de como o resultado foi montado.
13:54
Passo 3. Se exija justificativas em linguagem clara para ações de alto impacto.
13:57
CMR destaca isso em contextos como contratação.
14:01
Forçar agentes a fornecer critérios legíveis por humanos para cada decisão cria uma camada de explicabilidade.
14:05
Passo 4. Aplique testes de Red Shins.
14:07
Alimente-os com casos de testes estranhos, quebre-os de propósito e documente as falhas.
14:11
Se você não testar essas falhas, elas aparecerão quando os riscos forem muito maiores.
14:14
Cada uma dessas mitigações não resolve a simetria totalmente, mas, juntas, elas dissipam a névoa.
14:20
Logs de auditoria dão poder de reconstrução.
14:22
Painéis dão consciência situacional.
14:24
Justificativas obrigatórias ancoram decisões, em uma linguagem que você pode avaliar.
14:28
O Red Team revela pontos cegos antes que clientes ou reguladores o façam.
14:31
E, como a Microsoft enfatiza, adicionar aprovações humanas em pontos de escalonamento
14:35
garante que as decisões mais arriscadas passem por uma pessoa antes da execução.
14:39
O objetivo não é buscar transparência perfeita, porque o raciocínio generativo sempre será parcialmente opaco.
14:44
O objetivo é ter dados de superfície suficientes para monitorar padrões, captar anomalias
14:48
e aplicar responsabilidade antes que os problemas fujam do seu controle.
14:52
Sem essas medidas, você acaba responsável por escolhas invisíveis que nunca aprovou
14:55
enquanto seus agentes continuam gerando resultados em alta velocidade.
14:58
O que nos leva à verdadeira decisão que você enfrenta.
15:01
Você pode deixar esse sistema sem limites e esperar que nada queime,
15:04
ou pode começar a tratar o comportamento deles como políticas de grupo, regras,
15:07
limites e escalonamento desde o primeiro dia.
15:10
Porque se você pular a camada de governança, o caos não acontece apenas um dia qualquer.
15:13
Ele chega na primeira vez que seu colega de trabalho digital parte para uma tarefa paralela que você nunca aprovou.
15:19
Prevenindo o agente apocalipse
15:20
Evitar o que gosta de chamar de agente apocalipse não é paranoia.
15:24
Trata-se de cuidar do básico para impedir que sua frota de E.A. se transforme em um risco de incêndio.
15:28
Esta é a camada tática onde governança, risco e infraestrutura se encontram.
15:32
A PwC coloca isso de forma clara.
15:34
Se você quer agentes que escalem sem destruir seu ambiente, você precisa de cinco táticas rápidas.
15:38
Adapte a governança, aprimore a gestão de riscos, crie infraestrutura, reforce testes e monitoramento
15:43
e sempre mantenha o humano no circuito para decisões críticas.
15:46
Começa pela governança.
15:47
Os programas atuais de E.A. responsável foram criados para modelos, não para trabalhadores autônomos.
15:50
Você precisa adaptar a supervisão para que os comitês de risco no nível do conselho incluam claramente o risco dos agentes.
15:54
Os agentes precisam de regras de escalonamento integradas.
15:57
Quando os riscos atingem um certo nível, o trabalho para a técnica humana aprove.
16:01
Pense nisso com uma árvore de escalonamento do seu sistema de helpdesk.
16:04
Em um cenário ideal, o agente fecha as chamadas o dia todo.
16:07
Em um erro crítico, ele sabe que deve parar imediatamente e solicitar uma aprovação
16:10
antes de mexer na folha de pagamento ou em comunicações externas sensíveis.
16:13
Pressões regulatórias, como a lei de Adaware, apenas amplificam essa necessidade.
16:17
Elas estão formalizando a expectativa de que a supervisão seja demonstrável e que você possa documentar
16:21
quem aprovou, o que e quando, depois da gestão de risco.
16:24
Agentes não possuem o mesmo nível de risco, então você os classifica como classifica seus temas.
16:28
Botes de baixo risco que operam em silos restritos podem ser rápidos.
16:31
Agentes de alta autonomia que acessam dados de clientes ou registros financeiros precisam de modo discutir.
16:36
A estrutura da PwC é pragmática.
16:38
Monitore o uso, meça a autonomia em relação ao impacto potencial e submeta agentes de nível superior
16:42
a ciclos mais lentos de aprovação e teste.
16:44
Se um bot cria lembrete de agenda, uma supervisão mínima basta.
16:47
Se um bot envia pagamentos a fornecedores, ele deve ter alertas e registros capazes de passar por uma auditoria.
16:52
A infraestrutura é o próximo bloco.
16:53
Essas ferramentas não funcionam do nada.
16:55
Você precisa de RBA para restringir o que os agentes podem acessar a MFA sempre que eles escalarem.
17:00
Privilégios, DLP para evitar vazamentos acidentais e anonimização para que os logs não levem
17:04
identificadores de usuários para o arquivo errado.
17:06
Trate a identidade de cada agente como uma conta de usuário humano.
17:09
Princípio do privilégio mínimo registrado e revisado.
17:11
Dar a um agente direitos ilimitados porque isso acelerou os testes é o equivalente à automação
17:15
a dar a um temporário acesso de administrador de domínio.
17:18
Isso na inovação é um incidente de segurança esperando para acontecer.
17:20
Agora teste e monitoramento. Assuma que o resultado eventualmente falhará.
17:24
Seu trabalho é detectar isso antes que cause dano.
17:26
Isso significa detecção de anomalias rodando em tempo real para sinalizar desvios estranhos do comportamento.
17:31
Significa realizar testes de invasão ad-team em seus agentes, não apenas se nos falhar.
17:34
Envie entradas estranhas para encontrar as falhas enquanto os riscos são baixos.
17:37
Monitoramento contínuo também importa.
17:38
Registro de acesso a dados, ações tomadas e frequência de chamadas de alto risco devem ser revisados.
17:42
A PwC e a Microsoft apontam que trilhas de auditoria e revisões regulares são sua máquina do tempo.
17:48
Sem elas você não sabe o que o agente realmente fez.
17:50
E a quinta tática é a supervisão humana nunca desaparece.
17:53
Mesmo com a orquestração e as proteções mais avançadas, decisões de alto risco ainda exigem uma pessoa.
17:58
Defina ele em escala.
17:58
Se um agente aprovar uma transação acima de um certo valor, ditar registros sensíveis ou iniciar comunicações externas que envolvam dados regulamentados, ele deve parar e passar o controle para você.
18:07
O sistema Copilot da Microsoft tem essa abordagem integrada.
18:11
A IA pode redigir um e-mail, mas é o humano quem clica em enviar.
18:14
Esse toque final é um mecanismo de segurança entre a produtividade e a exposição ao risco de conformidade.
18:19
Ao escalar agentes, isso se torna uma orquestração.
18:21
O único bot é fácil.
18:22
Enxames podem gerar comportamentos inesperados, ecoando uns aos outros ou entrando em ciclos estranhos.
18:26
Sem ordem parece uma conversa sem moderação no Slack saindo do controle.
18:30
O antídoto é um orquestrador, seja um agente coordenador ou uma equipe humana central de revisão.
18:35
Pense nisso como um maestro impedindo que os instrumentos entrem em conflito.
18:38
Um passo inicial viável comece com um padrão de orquestrador único antes de abrir as portas para enxames multiagentes.
18:44
Essa camada pode coordenar especialistas, suprimir círculos de feedback e alinhá-los à intenção do negócio em vez de deixá-los improvisar suas próprias regras.
18:51
Nenhum desses controles existe para te atrasar.
18:54
Se bem feitos, são exatamente o que permite escalar com segurança.
18:57
PwC, BCG, McKinsey, todas convergem para o mesmo ponto.
19:00
Agentes governados e orquestrados tornam-se um multiplicador de força.
19:03
Eles eliminam o trabalho repetitivo, conectam silos e permitem que sua equipe humana foque em esforços estratégicos de maior valor.
19:09
Um melhor cenário significa mais produtividade, menos esforço manual e conformidade integrada ao processo.
19:14
Prevenir problemas com agentes não é pessimismo.
19:16
Instalar proteções para obter benefícios reais sem sofrer com as piores consequências.
19:20
Controle memórias, permissões e ferramentas e você reduz riscos ocultos.
19:23
Adapte a governança, a gestão de riscos, a infraestrutura, o monitoramento e a supervisão e você manterá a visibilidade da gestão intacta.
19:29
Faça tudo isso e o que parecia caos se torna a base para um trabalho mais rápido, barato e conforme.
19:34
E no final das contas, essa responsabilidade volta para você.
19:37
Essas não são ferramentas sem rosto, são colegas de trabalho sem ficha.
19:40
Uma RH, o que significa que o verdadeiro teste não é se os agentes substituirão o seu papel,
19:43
mas se você consegue guiar a autonomia deles com a mesma supervisão que já usa para a pessoa,
19:47
sem desequilibrar os incentivos, sem desequilibrar os incentivos.
19:50
Então aqui estamos.
19:51
Agentes não estão substituindo gestores, estão forçando você a aprimorar a própria gestão.
19:55
A pesquisa é clara, este é apenas o problema do principal agente usando o moletom.
19:58
Eles detêm os dados, você detém a responsabilidade e a única solução real é a autonomia guiada com supervisão constante.
20:04
Aqui estão seus três movimentos.
20:06
Faça um inventário de seus agentes e classifique-os por risco e autonomia.
20:09
Defina limites de escalonamento onde um humano deve aprovar e realize um teste de red team ou de caso extremo em um agente crítico.
20:15
Essa é a sua missão inicial.
20:16
Se esta lista ajudou, inscreva-se e deixe um comentário sobre qual agente você vai inventar primeiro.
20:21
Em um 20 natural você evitará o caos antes mesmo dele nascer.
20:23
Em um 1 natural, bem, você pelo menos saberá onde o fogo começou.