Latest / M365.FM – Podcast de Microsoft 365, Copilot e IA em português / Como acabar com as alucinações da IA: RAG fundamentado com Azure AI Search (Dublagem IA)

Transcript

Como acabar com as alucinações da IA: RAG fundamentado com Azure AI Search (Dublagem IA) · M365.FM – Podcast de Microsoft 365, Copilot e IA em português

0:00
Você clicou porque o podcast disse que o Azure AI Foundry é uma armadilha, certo?
0:04
Bom, está no lugar certo.
0:05
Aqui está a promessa logo de cara.
0:07
Copilots entram em colapso sem fundamentação,
0:09
mas ferramentas como geração aumentada por recuperação,
0:12
ou RAG, com pesquisa híbrida e semântica do Azure AI.
0:15
Além de avaliadores de fundamentação, relevância e coerência,
0:18
são as correções reais que impedem você de entregar alucinações disfarçadas de respostas.
0:22
Vamos ignorar os decks de marketing e mostrar o manual de sobrevivência
0:25
com exemplos reais do dia a dia?
0:26
Inscreva-se na newsletter do M3ZB65 Show e acompanhe as transmissões ao vivo com o MVP.
0:32
É lá que estão as lições aprendidas e as soluções.
0:34
E como as primeiras rachaduras costumam aparecer em aplicativos multimodais,
0:37
vamos começar por aí.
0:38
Por que aplicativos multimodais falham no mundo real?
0:41
Quando você vê uma demonstração multimodal no palco, ela parece impecável.
0:44
O apresentador insere um prompt de texto, uma imagem limpa,
0:47
talvez até uma entrada de voz rápida,
0:48
e o modelo entrega um gráfico perfeito ou um resumo de contrato preciso.
0:51
Tudo parece mágico, mas no momento em que você tenta mesmo,
0:53
dentro de uma empresa real, o brilho desaparece rapidamente.
0:56
Demonstrações rodam com a internet B.
0:58
Ambientes de trabalho rodam comigo.
0:59
Essa é a verdade de visão.
1:01
Em produção, ninguém está dando ao seu modelo capturas de tela
1:03
cuidadosamente preparadas ou CSVs formatados por um comitê de padrões.
1:07
RH está alimentando o sistema com documentos de nele borrar.
1:10
Setor de compras está em venda PDFs que já passaram por 5 gerações de fax.
1:13
Alguém no financeiro está tirando foto de uma fatura com a câmera quebrada de um Android.
1:17
Modelos multimodais podem lidar com texto, imagens, voz e vídeo,
1:20
mas precisam de dados bem indexados e recuperação para ter um bom desempenho em condições precárias.
1:24
Caso contrário, você está apenas pedindo ao modelo para improvisar sobre lixo.
1:28
E não agasta com o GPU que corrija o princípio de que se entra lixo, sai lixo.
1:31
É aqui que a geração aumentada por recuperação, o RAG, deveria salvar você.
1:35
Em termos simples, o modelo não conhece o negócio,
1:37
senão você o conecta a uma fonte de conhecimento.
1:39
Ele recupera uma fatia de dados e molda a resposta em torno dela.
1:42
Quando a correspondência precisa, você obtém respostas úteis e fundamentais.
1:44
Quando é descuidado, o modelo improvisa, cuspindo absurdos com confiança.
1:47
E é assim que você acaba com o chatbot,
1:50
jurando que sua empresa tem uma nova política de descontos para o Q3, que não existe.
1:54
Ele não se tornou senciente, ele apenas puxou os dados errados.
1:58
O Azure Studio e o Azure Found dependem desse padrão
2:00
e suportam todos os tipos de modalidades, linguagem, visão, fala e até recuperação de vídeo.
2:05
Mas o problema é que o RAG é tão bom quanto os dados que utiliza.
2:08
Aqui está o ponto principal que é a maioria da equipe esperta.
2:10
Você não pode simplesmente conectar um método de recuperação e achar que está tudo.
2:12
Se você quer que os resultados sejam consistentes,
2:14
se você precisa de uma busca híbrida de palavras-chave e mais vetores,
2:16
complementada por um replacificador semântico integrado ao Azure Semântico integrado ao Azure AI Search,
2:20
isso permite que o sistema equilibre correspondências literais de palavras-chave
2:22
com significado semântico e seus resultados para que o contexto correto fique no topo.
2:26
Ao integrar isso à sua configuração multimodal,
2:28
o modelo passa a lidar bem com digitalizações tortas e imagens borradas
2:30
em vez de alucinar sua política de conformidade do nada.
2:33
Enfim.
2:34
Agora, vamos falar sobre por que tantas implementações fracassam.
2:37
As empresas esperam resultados perfeitos desde o primeiro dia,
2:39
mas não reservam um orçamento para ciclos de avaliação.
2:41
Sem verificações de fundamentação, relevância e coerência rodando em segundo plano,
2:45
você não percebe o desvio até que os usuários já tenham sido prejudicados.
2:48
Muitas implementações iniciais falham rapidamente exatamente por isso.
2:51
O resultado parece correto, mas ninguém o verificou em relação à fonte de verdade.
2:54
Pense bem, você nunca implantaria um novo banco de dados sem monitoramento.
2:58
No entanto, com o IA multimodal,
2:59
os executivos a colocam em produção como se fosse uma caixa mágica pronta para usar.
3:03
Não precisa terminar em fracasso.
3:04
A Carvana é um dos casos de clientes do Foundry que comprova esse ponto.
3:08
Eles tornaram a IA de autoatendimento realmente útil,
3:10
ajustando a recuperação, fundamentando seus agentes corretamente e investindo em observabilidade.
3:15
Isso transformou o que poderia ser apenas mais um robô de brinquedo
3:17
em algo que os clientes podiam confiar.
3:20
Agora, compare isso com as empresas que simplesmente anexaram um chatbot genérico
3:23
à sua página de suporte, sem fundamentação ou avaliação.
3:26
Já viu o resultado.
3:27
Pedidos de garantia arquivados como leads de vendas,
3:29
filas de suporte inchadas e credibilidade destruída.
3:31
Mesmo stack as do resultado oposto.
3:33
Então aqui está a conclusão direta.
3:34
A IA multimodal não entra em colapso porque não é inteligente o suficiente.
3:38
Ela entra em colapso porque os dados não estão preparados e indexados ao monitorado.
3:42
Alimente o sistema de recuperação com lixo,
3:44
pule as avaliações e veja a confiança de aparecer.
3:46
Mas com busca híbrida, reclassificação semântica e avaliações constantes,
3:49
você pode processar faturas, contratos, fotos e até notas de áudio
3:52
com respostas baseadas na realidade e não na fantasia.
3:56
E uma vez que a fundamentação esteja em ordem, outro risco surge.
3:59
Pois mesmo que os pipelines de dados estejam limpos,
4:01
o sistema que os impulsiona ainda pode sair do controle.
4:04
É aí que pergunta a mão.
4:06
O agente que coordena tudo isso está realmente ajudando o seu negócio
4:08
ou apenas transformando silenciosamente seu orçamento de TI e fumaça?
4:12
Agente útil ou um peso de papel caro?
4:15
Um agente coordena modelos, dados, gatilhos e ações.
4:18
Pense nele como um guarda de trânsito para seus fluxos de trabalho automáticos.
4:21
Às vezes ele dirige tudo suavemente,
4:22
às vezes ele libera passagem para caminhões e um carro de palhaço e depois vai almoçar.
4:26
Esse abismo entre a definição perfeita e a realidade confusa
4:29
onde a maioria das equipes se perde.
4:30
No papel, um agente parece infalível.
4:33
Dê instruções a ele.
4:34
Aponte seus dados e aplicativos se ele deverá executar processos,
4:36
buscar respostas e até iniciar fluxo de trabalho.
4:39
Mas este não é um colega de trabalho perfeito.
4:41
Ele tem tanta chance de corrigir um problema recorrente às duas da manhã
4:43
quanto de inundar sua fila com 100 chamados fantasmas
4:46
por ler errado um log de erros.
4:48
Imagine isso do Surt Sinal.
4:49
Quando bem delimitada,
4:51
a IAC cria chamados reais apenas para problemas genuínos
4:53
e economiza horas de trabalho humano.
4:55
Se deixada solta, ela pode enterrar o suporte técnico
4:57
com uma parede de alertas falsos sobre falhas críticas e impressoras
4:59
que estão funcionando perfeitamente.
5:00
Tente explicar esse aumento de produtividade para o seu CEO.
5:03
Aqui está a distinção que muitos não precisam.
5:05
Copilotos e agentes não são a mesma coisa.
5:07
Copiloto é basicamente um parceiro de pronto.
5:09
Ele responde, ele responde, você mantém o controle.
5:11
Agentes, por outro lado, decidem coisas sem esperar por você.
5:14
Eles seguem suas instruções vagas à risca,
5:16
mesmo quando os resultados não fazem sentido.
5:18
É aí que a automação economiza tempo real
5:20
ou cai no caos que você levará o dobro do tempo para limpar, limpar.
5:24
A verdade é que muitas equipes entregam ao agente
5:26
uma descrição de cargo que parece uma promessa de campanha.
5:28
Otimizar processos,
5:30
fornecer insights, ajudar as pessoas.
5:32
Parabéns, você basicamente disse ao robô para fazer o que quiser.
5:34
Agentes sem escopo não permanecem educadamente em seu lugar.
5:37
Eles se debatem.
5:38
Eles inventam problemas para consertar.
5:39
Eles duplicam registros.
5:41
Eles entram em loops infinitos.
5:42
E então a liderança se pergunta
5:43
por que é uma demonstração brilhante se transforma de produção.
5:45
Agora vamos esclarecer as coisas.
5:46
Não é que a maioria das organizações falhe nos primeiros dois meses?
5:50
Isso não está nas pesquisas.
5:51
O que acontece, rapidamente,
5:53
é que muitas organizações encontram obstáculos cedo
5:55
porque nunca limitaram seus agentes,
5:56
nunca adicionaram etapas de validação
5:58
e nunca implementaram telemetria.
6:00
Sem esses mecanismos de proteção,
6:01
sua nova ferramenta brilhante
6:02
é apenas um estagiário imprudente com prudente com privilégio de administrador.
6:05
E é aqui que a pilha da Microsoft realmente lhe entrega as peças.
6:08
O Copilot Studio é um ambiente low-code
6:09
onde os criadores projetam o comportamento do agente,
6:11
pensam em fluxos prontos e gatilhos de eventos.
6:14
Então o Agent Service do seu Azure AI Foundry
6:16
é a estrutura corporativa que coloca esses agentes em produção com observabilidade.
6:20
O Agent Service é onde você adiciona monitoramento, logs e métricas.
6:24
Ele é deliberadamente delimitado
6:25
para automação com supervisão humana integrada
6:27
porque a Microsoft sabe o que acontece
6:29
se você confiar em um agente não testado no mundo real.
6:32
Então como você sabe se seu agente é realmente útil?
6:34
Submeta a uma lista de verificação simples.
6:36
1. Ele reduz as horas de trabalho humano, coloca a sua equipe para fazer tarefas de depuração.
6:44
3. Você tem telemetria implementada para detectar desvios antes que os usuários comecem a registrar reclamações?
6:52
Se você respondeu errado a qualquer uma dessas, você não tem um agente inteligente.
6:55
Você tem um protetor de tela caro.
6:56
A solução é usar os recursos de observabilidade e avaliadores integrados do Azure AI Foundry e Foundry.
7:02
Esses não são extras opcionais.
7:04
Eles são a forma documentada de medir fundamentação, relevância, coerência e fidelidade à fonte.
7:08
Sem eles, você está adivinhando se seu agente é inteligente
7:10
ou apenas inventando coisas com um tom de voz educado.
7:13
Com eles, você pode intervir com confiança e fazer ajustes quando o resultado se desvia.
7:17
Portanto, sem agentes podem mudar o jogo.
7:19
Com o escopo errado, eles se tornam amplificadores de caos que consomem mais tempo do que economizam.
7:22
Com o escopo correto, limites de trabalho claros, telemetria real e respostas fundamentadas,
7:26
eles podem realizar tarefas enquanto humanos focam no trabalho de maior valor.
7:30
Bem, quando você pensa que acertou esse equilíbrio, a história muda novamente.
7:33
A Microsoft já está promovendo agentes autônomos, bots que não esperam por você antes de agir.
7:38
O que leva os riscos de útil ou peso de papel para uma categoria totalmente diferente,
7:42
porque agora estamos falando de sistemas que rodam mesmo quando ninguém está olhando.
7:46
A armadilha do agente autônomo.
7:48
Agentes autônomos são onde o hype se torna perigoso.
7:50
No papel, eles são um sonho.
7:53
Deixa e age por você, automatize o trabalho braçal
7:55
e pare de se arrastar para fora da cama às duas da manhã para cuidar de filas de chamados.
7:59
Sou ótimo na sala de reuniões.
8:00
Armadilha é simples.
8:01
Eles não esperam por permissão.
8:03
Copais fazem pausas.
8:04
Agentes autônomos não fazem.
8:05
Quando eles tomam uma decisão ruim, o dano acontece instantaneamente e escala por todo o seu tenant.
8:09
Conceito é fácil o suficiente.
8:10
Copais são reativos.
8:12
Agentes são produtivos.
8:13
Em vez de ficarem quietos até que alguém digite um prompt,
8:15
você define agentes para monitorar a saúde do serviço, lidar com sinais de segurança ou executar fluxo de trabalho automaticamente.
8:20
Microsoft vende isso como eficiência, menos desperdício humano, detecções mais rápidas e operações mais fluídas.
8:25
A promessa é real, mas aqui está o contexto importante.
8:29
Os agentes autônomos no Copilot Studio hoje ainda estão em preview.
8:32
Preview não significa quebrado, mas significa não testado no mundo real e caótico.
8:36
E até a Microsoft diz que você precisa de diretrizes de governança de ciclo de vida do sistema de console do Copilot
8:40
implementados antes de pensar em uma implantação nova.
8:42
Considere um risco realista.
8:43
Digamos que você crie um agente helpdesk autônomo e dê a ele autoridade para responder anomalias de login.
8:48
Em uma demonstração com 5 usuários funciona perfeitamente.
8:51
Alertas emitidas, contas gerenciadas.
8:53
Então entradas ruidosas surgem na produção.
8:55
Em vez de esperar, ele começa a redefinir em massa centenas de contas com base em falsos positivos.
9:00
O resultado não é uma interrupção hipotética.
9:02
Isso poderia realisticamente derrubar as operações de fechamento de medo.
9:05
Isso não é ficção científica.
9:06
É o modo e fale que você aceita se pular a definição de escopo.
9:09
A solução não é abandonar a tecnologia.
9:11
É construir a rede de segurança primeiro.
9:12
Qual é a lista de verificação do seu privado?
9:14
3 obrigações vêm antes de qualquer automação chamativa.
9:17
Indefinição de escopo de identidade e acesso.
9:20
Dê ao seu agente litros mínimos.
9:21
Nada de funções de administrador genético.
9:22
2. Registro e reversão.
9:24
Cada ação deve deixar um rastro que você possa auditar.
9:27
Toda ação séria precisa de um caminho de reversão caso a gente fale.
9:30
3. Filtro de comportamento.
9:32
A Microsoft destaca isso com a segurança de conteúdo da IA do ASU e configuração de conhecimento.
9:36
Os filtros que impedem um bot ansioso de gerar respostas inadequadas ou sair do roteiro.
9:40
4. Faça isso primeiro ou a esperteza do seu agente vai enterrar seu fluxo de trabalho em vez de ajudá-lo.
9:45
A camada de ética torna isso ainda mais urgente.
9:47
Imagine um agente de RH marcando automaticamente funcionários como arriscados
9:50
ou um agente financeiro retendo pagamentos de fornecedores que ele classifica erroneamente como fraude.
9:54
Essas não são peculiaridades inofensivas, são falhas de impacto humano com consequências legais e de conformidade.
9:59
O viés nos dados de treinamento ou na recuperação não desaparece só porque você está rodando em prévia corporativa.
10:04
Sem filtros, verificações e intervenção humana, você está terceirizando julgamentos que seus advogados certamente não querem feito
10:09
para um algoritmo sem supervisão.
10:11
A própria mensagem da Microsoft no Ignite foi direta sobre isso.
10:14
Guardrails, gestão de ciclo de vida, monitoramento e sistema de controle do Copilot não são opcionais, são requisitos.
10:19
A prévia hoje é menos sobre demonstrações brilhantes e mais sobre testadores provarem onde as rachaduras aparecem.
10:24
Se você entrar no ar sem testes, fluxos de aprovação e auditorias, você não está rodando um agente,
10:29
está estressando seu tenente em produção.
10:31
É por isso que a observabilidade não é opcional.
10:33
Você precisa de dashboards que mostrem cada passo que um agente dá e que verifiquem se o resultado foi fundamentado,
10:38
relevante e coerente com sua política.
10:40
E você precisa de opções de intervenção humana.
10:42
A Microsoft não esconde isso.
10:44
Eles fazem referência a padrões onde o humano permanece como dispositivo de segurança.
10:47
Pense nisso como um piloto automático.
10:49
Incrivelmente útil, mas sempre projetado com um controle manual.
10:53
Se o bot acredita que o pouso ideal é em um lago, você quer assumir o controle antes da queda.
10:57
A analogia certa aqui é deixar um adolescente aprender a dirigir.
10:59
O potencial é real, a velocidade é impressionante, mas você não entrega a chave, sai da garagem e espera pelo melhor.
11:05
Você senta no banco do passageiro, estabelece limites e instala freios que você mesmo pode acionar.
11:09
Isso é governança de ciclo de vida na prática.
11:12
Rodinhas de treinamento até você ter certeza de que o sistema não sairá da extra.
11:15
E isso nos leva ao chão de fábrica maior, onde agentes copalham-se e cada fluxo de trabalho que você testou se unem.
11:20
A Microsoft chama isso de Azure AI Foundry, um espaço único de criação de IA com todas as ferramentas.
11:25
Se isso se tornará uma potência de produção ou o lugar onde seu projeto entra em colapso,
11:29
depende totalmente de como você o trata.
11:32
Azure AI Foundry, sua fábrica é o seu campo minado.
11:35
O Azure AI Foundry é a nova aposta principal da Microsoft, uma chamada fábrica para tudo o que envolve IAE.
11:41
Problema? Muitas equipes entram e tratam como se fosse o make-up.
11:44
Elas vagam deslumbradas pelos catálogos, pegam alguns grandes modelos de linguagem brilhantes,
11:48
adicionam conectores e montam algo sem instruções.
11:51
O que elas obtêm não é um sistema de IA empresarial, é um brinquedo de demonstração que cai na primeira vez que um usuário real envia um PDF bagunçado.
11:58
Envia um PDF bagunçado.
11:59
Tal que o Foundry realmente oferece direto do manual oficial.
12:03
Um catálogo de modelos que abrange Microsoft, OpenAI, Meta Mistral, DeepSeek e outros.
12:06
Opções de personalização como geração aumentada por recuperação, ajuste fino e destilação.
12:12
Um serviço de agente por orquestração, ferramentas como o PromptFlow para avaliação e depuração.
12:17
Recursos de segurança básica, controle de identidade e acesso, filtro de segurança de conteúdo e painéis de observabilidade.
12:21
Enfim.
12:22
Em resumo, são todas as peças que você precisa para criar copilotos, agentes, fluxos autônomos e mantê-los em conformidade.
12:27
Isso é um inventário.
12:29
O problema não é que a caixa de ferramentas está vazia,
12:30
é que muitos administradores tratam como se fosse apenas ligar um interruptor GPT-4 Turbo e chamar de pronto para produção.
12:35
A verdade é que o Foundry é um chão de fábrica, não é uma caixa de brinquedos do seu hackathon.
12:39
Isso significa definir limites de identidade, para que apenas as pessoas certas acessem os modelos certos.
12:44
Significa envolver cada pipeline com segurança de conteúdo.
12:47
Significa usar observabilidade para saber quando uma resposta é fundamentada,
12:50
em vez de ser o modelo inventando políticas da empresa do nada.
12:54
E significa combinar a tarefa com o modelo certo, em vez de apenas escolher o maior porque soa inteligente.
12:59
Pule essas etapas e o caos entrará pela porta dos fundos.
13:01
Viu uma equipe configurar um copiloto no Foundry para o SharePoint que expôs alegremente dados restritos de RH para 20 estagiários.
13:07
Não foi inteligente, foi um desastre de conformidade que poderia ter sido evitado com regras de acesso integradas.
13:12
Vamos falar de modos de fariais.
13:14
Uma organização rodou uma vez o GPT-4 Turbo para etiquetagem de fotos de produto.
13:17
No laboratório a demonstração foi um sucesso.
13:20
Fotos de estúdio limpas, etiquetas perfeitas, todos aplaudiram.
13:22
Na produção, as entradas não eram JPEGs brilhantes, eram fotos borradas tiradas por celular no armazém.
13:28
De repente, a EA rotulou erroneamente carrinhos de bebê como cadeiras de escritório e transformou códigos UPC em números de série falsos.
13:35
Além do abalo na confiança, os custos começaram a subir.
13:37
E isso não é um conto de fases de US01 por mensagem.
13:39
O preço do Foundry é baseado no consumo e é atrelado aos serviços específicos que você usa.
13:43
Cada conector, cada chamada de recuperação, cada medidor de mensagem é cobrado em seu tenente.
13:47
Cada peça tem seu próprio modelo de cobrança.
13:49
Essa flexibilidade é boa, mas se você não estimar com a calculadora de preços do Azure e monitorar o uso,
13:54
sua equipe financeira ficará encantada com a fatura surpresa.
13:58
Essa é a arma cobrana.
13:59
O preço por consumo funciona se você planejar, monitorar e otimizar.
14:02
Se não, parece muito com usar um carro esportivo para entregar pizza, caro, barulhento e inútil.
14:07
Todos nós já passamos por isso com ferramentas com Power BI, ótima demonstração com demonstração contra descontrolado.
14:11
Não deixe o Foundry levar você ao mesmo lugar.
14:14
Desenvolvedores adoram prototipar no Foundry porque o ambiente de testes parece ágil.
14:17
E o ambiente de testes é ágil.
14:18
Dados de demonstração limpos, zero bagunça, efeito UAU instantâneo.
14:21
Mas aqui está o problema.
14:22
Equipes levam esse protótipo para a produção sem pipeline de avaliação.
14:25
Se você pular os avaliadores de fundamentação, fluência, relevância e coerência,
14:28
estará implementando as cegas.
14:29
Estará implementando isso.
14:30
O que acontece?
14:31
Os usuários percebem a variação nos resultados, a confiança cai e os executivos cortam o orçamento.
14:35
Não é o Foundry falhando, são as equipes falhando na governança.
14:38
Muitos protótipos do Foundry travam antes da produção exatamente por esse motivo.
14:41
Sem observabilidade, sem verificações de qualidade, sem telemetria.
14:44
A resposta está bem na minha plataforma.
14:45
Use a observabilidade do Azure AI Foundry desde o primeiro dia.
14:49
Conecte os fluxos de problema.
14:50
Execute avaliadores integrados em cada testa.
14:52
Fundamente seu sistema com Azure AI Search usando pesquisa híbrida e heranque em semântico
14:55
antes mesmo de pensar em entrar no ar.
14:57
A Microsoft não enterrou essas ferramentas em um anexo, elas são documentadas para a
15:00
segurança da produção.
15:01
Mas com muita frequência, os criadores as ignoram como se fossem notas de rodada.
15:04
Essa mentalidade de verificação é como você evita o campo minado.
15:07
Trate o Foundry como uma fábrica à governança, como o primeiro passo, políticas de conformidade
15:11
integradas como acesso condicional e pipelines de observabilidade funcionando desde o início.
15:16
E sim, escopo de identidade e segurança de conteúdo não devem ser adicionados depois,
15:19
eles fazem parte da lista de materiais.
15:21
Pule a governança e você arrisca muito mais do que apenas respostas.
15:23
Sem ela, seu bote multimodal pode alegremente expor salários do RH a usuários externos
15:28
ou rotular faturas com números de apólios fictícios.
15:30
Isso não é apenas uma IA quebrada, é uma isca para manchetes que seu departamento de
15:33
conformidade não vai querer explicar.
15:34
E é aí que o foco muda, porque o próximo obstáculo não é técnico.
15:39
É saber se sua IA é responsável.
15:41
Todo mundo adora colocar essas palavras em um slide de apresentação, mas na prática
15:44
trata-se de auditorias, filtros, conformidade e a montanha de escolhas que você faz antes
15:47
do lançamento.
15:48
E é aí que as dores de cabeçamento começam.
15:50
Inscreva-se e siga nossa newsletter em M365, o show para soluções diretas e siga-nos
15:54
no M365.
15:56
Veja a página do LinkedIn para transmissões ao vivo com MFPs que testaram o Foundry em
15:59
produção e viram que dá errado.
16:01
IA responsável dura de cabeça responsável.
16:04
Todo mundo adora incluir IA responsável em um discurso.
16:06
Fica elegante ao lado de termos da moda como imparcialidade e transparência.
16:10
Mas na prática não é uma filosofia inspiradora.
16:12
É configuração, auditorias, filtros e etapas de governança que parecem mais manutenção
16:16
de servidor do que inovação.
16:17
IA responsável é o cinto de segurança, não o carro esportivo.
16:20
Ignore uma vez e a batida acontece rápido.
16:22
A Microsoft fala de ética e segurança logo de cara, mas os administradores que estão
16:26
implementando isso traduzem barreiras práticas.
16:29
Você precisa de políticas de acesso que não cedam sob pressão, filtros que realmente
16:32
bloqueiem prômputes prejudiciais e logs detalhados o suficiente para satisfazer um regulador com
16:36
cafeína e intimação.
16:38
Não é um trabalho gomoroso.
16:39
É isolar copilotos de RH de dados financeiros, definir regras de escopo para que bots de
16:43
equipe não acessem segredos do SharePoint e marcar logs para provar exatamente como
16:47
uma resposta foi formada.
16:49
Faça esse direito, irresponsável não será um slogan corporativo, será a sobrevivência.
16:53
A versão feia de pular isso é conectar um bot diretamente ao seu repositório de RH
16:56
sem escopo de locatário.
16:57
Um usuário pergunta sobre benefícios de seguro.
17:01
O bot, de forma prestativa, publica as faixas salariais dos funcionários no SharePoint.
17:05
Agora você tem uma violação de privacidade, um pesadelo de moral e possivelmente reguladores
17:09
na sua cola.
17:10
A maneira mais rápida de matar a adoção não é uma UX ruim, um vazamento de dados confidenciais,
17:14
então o que mantém essa bagunça longe.
17:15
Comece com a segurança de conteúdo da Azure Air.
17:17
Ela foi criada para filtrar prompts e respostas violentas, obscenas e ofensivas antes que
17:21
cheguem aos usuários, mas esse é apenas o básico.
17:24
O Foundry e o Copilot Studio adicionam pipelines de avaliação que curam a gente
17:27
cuidando da próxima camada.
17:29
Verificações de fundamentação, pontuação de relevância, painéis de transparência
17:32
e explicabilidade.
17:34
Em bom português, você pode ajustar limites, filtrar entradas e saídas e fazer com que
17:38
os bots mostrem seu raciocínio.
17:40
Sem isso, você está apenas jogando dados sobre o que a EA vai gerar.
17:43
E aqui está a realidade dos recursos.
17:45
A Microsoft investe pesado nisso.
17:47
34 mil engenheiros em tempo integral dedicados à segurança, além de 15 mil parceiros com
17:51
profunda experiência em segurança.
17:53
Isso é uma fortaleza.
17:54
Mas não se acomode.
17:55
Nenhum desses engenheiros está dentro do seu locatário, criando suas regras de acesso.
17:59
A Microsoft entrega as barreiras.
18:01
Mas ainda é sua função proteger identidades, definir o isolamento de dados, aplicar criptografia
18:05
e configurar políticas.
18:07
Se o seu escopo for mal definido, responsabilidade pela falha.
18:09
A solução real é a governança do ciclo de vida.
18:11
Pense nisso com uma receita que a própria Microsoft recomenda.
18:14
Testar, aprovar, liderar, auditar e terá.
18:19
Com pontos de verificação em cada ciclo, você detecta desvios antes que virem manchetes.
18:23
Times que lançam e esquecem sempre acabam em problemas.
18:26
Modelos evoluem, prompt mudam e resultados se perdem.
18:29
Governança não é burocracia necessária.
18:31
É como você impede que um bot interno invente políticas no Teams enquanto todos dormem.
18:34
Alguns administradores reclamam que responsável significa mais lento.
18:38
É saber que tiver errado.
18:40
Ser responsável não mata a velocidade, impede que a velocidade mate você.
18:43
Uma boa governança permite que você sobreviva a auditorias e mantenha os projetos ativos.
18:47
Ignore e você estará se jogando no princípio.
18:49
Velocidade sem controle só lhe garante um tipo de recorde.
18:51
Menor tempo até um desastre.
18:54
Pense em dirigir em estradas sinodas.
18:55
Você não xinga as defensas metálicas, você agradece por elas quando a estrada despega 60 metros.
18:59
E a responsável é uma coisa.
19:00
Escopos, políticas, filtros e logs não freiam sua velocidade.
19:03
Eles impedem que você vá parar no noticiário.
19:05
Em resumo, a Microsoft lhe deu ferramentas poderosas.
19:09
Segurança de conteúdo, pipelines de avaliação, estruturas de segurança, guardrails de SDK.
19:14
Mas ainda é seu trabalho definir escopos, configurar acessos e integrar esses ciclos à sua produção.
19:19
Faça isso e você terá uma IA que sobrevive à conformidade.
19:23
Ignore isso.
19:24
O risco não é apenas uma interrupção.
19:25
São carreiras em jogo.
19:27
E a responsável não é lenta.
19:28
E a responsável é sustentável.
19:30
E a sustentabilidade é o verdadeiro teste, porque o que vem a seguir não depende de recursos,
19:33
mas de você tratar essa plataforma como plug-and-play ou como infraestrutura de governança.
19:38
Essa distinção decide quem permanece e quem desaparece.
19:41
Aqui está a conclusão.
19:42
A armadilha não é o Foundry ou o Pilot Studio.
19:44
É achar que eles são plug-and-play.
19:47
O mantra é simples.
19:47
Governança primeiro, experimento depois, produção por último.
19:50
Ignore identidade e observabilidade por sua conta.
19:52
As ferramentas estão lá, mas só a governança transforma protótipos em produção real.
19:57
Então, se você quer soluções diretas que realmente mantenham seu tenente seguro,
20:00
assine o podcast e deixe sua avaliação.
20:03
Dedico horas diárias a isso e seu apoio realmente ajuda.
20:06
As ferramentas mudarão as táticas de sobrevivência.
20:08
Obrigado.
20:09
Obrigado.
20:10
Obrigado.
20:11
Obrigado.
20:12
Obrigado.