Latest / DDA - Diálogos de Direito Administrativo / IA: limites jurídicos e éticos do ato estatal produzido sem consciência ou vontade #direito
Transcript
- 0:14Olá, bem vindos e bem vindas a mais um episódio do diálogos de
- 0:18direito administrativo. Hoje a gente vai mergulhar num
- 0:21tema super atual, né? Os limites éticos e jurídicos da
- 0:26produção de atos jurídicos pelo estado.
- 0:28Mas com base em inteligência artificial é um desafio e tanto.
- 0:33E para guiar nossa conversa, a gente está se baseando no artigo
- 0:36excelente dos professores Maurício zócon e Carolina
- 0:40zancaner zócon. O título já diz muito, limites
- 0:43éticos e jurídicos, a produção do ato jurídico estatal com base
- 0:48em inteligência artificial, o ato jurídico produzido sem
- 0:51consciência ou vontade. Exato.
- 0:55Um tema quente, sem dúvida. A Iata, cada vez mais presente
- 0:58na administração pública em vários níveis.
- 1:02Então é fundamental a gente discutir isso.
- 1:04Nosso objetivo aqui hoje, né, é tentar entender como essa
- 1:07tecnologia toda se encaixa ou não no nosso ordenamento
- 1:11jurídico, principalmente pensando em como controlar esses
- 1:14atos e na questão da motivação. Será que um ato de a pode ser
- 1:18legitimamente motivado? Boa pergunta para começar, e o
- 1:21artigo já traz uma distinção importante logo de cara, né?
- 1:24Entre ética e direito na atuação do estado, os autores, o
- 1:29Maurício e a Carolina zócon, eles defendem que o padrão ético
- 1:33que a gente exige do estado, ele não vem de uma, sei lá, de uma
- 1:37moral comum, flutuante. Ele deriva da própria lei.
- 1:41A moralidade administrativa, que tá lá na Constituição, no artigo
- 1:4537, é um princípio jurídico, né? Tá ligado diretamente a
- 1:50legalidade. A administração não age com base
- 1:53no que acha certo, mas sim secundo um Legend, conforme a
- 1:57lei manda. Isso é crucial porque essa
- 1:59moralidade administrativa, ela é um valor que o próprio direito
- 2:03incorporou, é positivado. Os autores são bem enfáticos
- 2:07nisso. Se a gente fosse basear a ação
- 2:09do estado numa moral comum, imagine a confusão.
- 2:13Essa moral varia muito de grupo para grupo, de tempo para tempo.
- 2:18Geraria uma insegurança jurídica enorme.
- 2:21E no estado democrático de direito, previsibilidade,
- 2:24segurança jurídica, isso é essencial.
- 2:27Então, ao atrelar a moralidade, a legalidade, o direito tenta
- 2:31trazer essa segurança, entende? Não dá para separar as 2 coisas
- 2:36nesse contexto administrativo. A moralidade não é autônoma
- 2:39aqui. Perfeito e essa necessidade de
- 2:43de clareza de controle nos leva. Direto para outra questão
- 2:48central, a motivação dos atos administrativos.
- 2:52A Constituição exige a lei 9784, também lá no artigo 50,
- 2:57parágrafo primeiro, que a administração tem o dever de
- 3:00explicar porque tomou uma decisão, apresentar as razões de
- 3:04fato e de direito. A lei fala em motivação
- 3:07explícita, clara, congruente. Mas os autores, eles fazem uma
- 3:12ponderação interessante, eles dizem que, mesmo que parece
- 3:16explícito na lei, sempre vai exigir interpretação.
- 3:19Não existe essa coisa de aplicar a norma de forma totalmente
- 3:24mecânica, né? Exatamente.
- 3:26Não existe textos sem contexto, sem interpretação.
- 3:29E a intensidade dessa motivação? Bom, ela pode variar.
- 3:33Os autores usam um exemplo bom, o do semáforo.
- 3:36É um ato administrativo, né? Muitas vezes, hoje é
- 3:39automatizado por um sistema. Ele funciona ali, mudando do
- 3:42verde para o vermelho, sem uma consciência ou vontade a cada
- 3:46ciclo. E ninguém espera uma
- 3:48justificativa formal do semáforo para ele ter ficado vermelho,
- 3:51certo? É um ato vinculado.
- 3:53A condição ocorreu, ele opera, não precisa de uma motivação
- 3:57complexa. Cada vez agora pega um ato
- 3:59discricionário, aquele em que o gestor tem uma margem de
- 4:03escolha, precisa ponderar interesses, escolher entre
- 4:06caminhos possíveis. Aí sim, a motivação detalhada é
- 4:09absolutamente indispensável, ela que permite a gente entender por
- 4:14que aquela decisão foi tomada e não outra.
- 4:16E é o que permite o controle, seja administrativo ou judicial.
- 4:20E é exatamente nesse ponto, na discricionariedade, que a
- 4:24inteligência artificial vira o centro do debate no artigo, né?
- 4:28Como motivar um ato que foi sugerido ou até mesmo produzido
- 4:32por uma IA? O artigo até explica um pouco
- 4:35como AEA funciona, né? Fala de algoritmos, redes
- 4:38neurais, menciona termos como embedings, que são formas de
- 4:41representar dados complexos, matematicamente, position in
- 4:45code em modelos probabilísticos. Mas a ideia central dos autores
- 4:49é forte, esses sistemas, por mais sofisticados que sejam,
- 4:53eles produzem resultados sem consciência ou vontade própria
- 4:57no sentido humano. Eles até citam o exemplo famoso
- 5:00do ChatGPT e o fenômeno da alucinação.
- 5:03Quer dizer, AIA pode gerar uma resposta que parece super
- 5:06confiante, super correta, mas que na verdade tá tá errada,
- 5:10inventada. Isso mostra bem essa falta de
- 5:13compreensão real do mundo, né? Falta intencionalidade, falta
- 5:18juízo de valor genuíno. E aí, como fica a motivação?
- 5:22Se o ato não nasce de uma vontade consciente, de uma
- 5:26ponderação humana, como ele pode ser motivado nos termos que o
- 5:29direito exige, especialmente naqueles atos mais complexos?
- 5:33E as implicações práticas já estão batendo na porta, né?
- 5:36Com certeza já temos exemplos. O projeto Victor lá no STF, que
- 5:41usa IA para ajudar a separar e agrupar processos.
- 5:45É uma fase mais preparatória de auxílio.
- 5:48Mas temos também casos como a doutora Luzia, na procuradoria
- 5:51geral do DF, que já chega a sugerir minutos de peças de atos
- 5:56finais. Aí o desafio aumenta e entra a
- 5:59questão da caixa preta, o famoso Black Box.
- 6:03Muitas vezes, o funcionamento interno do algoritmo é tão
- 6:06complexo que é difícil até para os desenvolvedores explicarem
- 6:10exatamente porque que ele chegou, aquele resultado
- 6:12específico. Como a gente controla isso?
- 6:15Como garante que não há viéses indevidos, discriminação ou
- 6:19simplesmente um erro lógico ali dentro?
- 6:20É um cenário bem complexo e, diante disso, o que os autores
- 6:25propõem pra gente tentar proteger os direitos dos
- 6:28administrados dos cidadãos? Eles listam alguns direitos que
- 6:32seriam essenciais nesse contexto de a na administração primeiro,
- 6:37ter acesso à base de dados que foi usada para treinar o
- 6:40algoritmo. Isso é fundamental para a gente
- 6:42poder verificar se tinha algum viés ali na origem, né?
- 6:46Sim, a questão dos vieses algoritmos é seríssima.
- 6:49Um algoritmo treinado com dados históricos que refletem
- 6:53discriminação, por exemplo, tende a perpetuar essa
- 6:56discriminação. Ter acesso aos dados é o
- 6:58primeiro passo para auditar isso.
- 7:00Depois, eles falam do acesso ao código fonte do algoritmo para
- 7:04tentar entender a lógica de programação, como ele toma as
- 7:07decisões. É o que se chama de princípio da
- 7:10explicabilidade, ou transparência algorítmica.
- 7:13Isso. Mas aí vem uma crítica
- 7:15importante que os autores mencionam e que dialoga muito
- 7:19com o que o professor Lenio Streck também aponta.
- 7:22Uma coisa é explicação técnica de como o algoritmo funciona.
- 7:26O passo a passo computacional outra coisa bem diferente, é a
- 7:31fundamentação jurídica. Explicar o código não é o mesmo
- 7:34que justificar juridicamente a adequação a justiça a
- 7:39razoabilidade da decisão para o caso concreto.
- 7:41A explicabilidade técnica não se confunde com a motivação no
- 7:45sentido do direito administrativo, entende?
- 7:48Entendi, é uma distinção sutil, mas fundamental.
- 7:52Não basta saber como a máquina chegou lá, mas se o lugar onde
- 7:55ela chegou é juridicamente defensável.
- 7:59E o terceiro ponto que eles levantam é o acesso e a
- 8:02possibilidade de operar a interface que o próprio poder
- 8:05público usa para interagir com a ferramenta de a para entender
- 8:09como agente público está usando aquilo.
- 8:11Exato, para ver quais parâmetros são inseridos, como o sistema é
- 8:15alimentado no dia a dia, isso também faz parte do controle.
- 8:18Então, amarrando tudo isso. Qual seria a conclusão principal
- 8:22do artigo dos professores? Ó, onde eles traçam a linha?
- 8:25Olha a conclusão que eles apontam, vai na seguinte linha
- 8:29para produção de atos vinculados, aqueles mais
- 8:31simples, mais repetitivos, onde não há margem de escolha para o
- 8:35administrador. Aí o uso da IA parece ser
- 8:38admissível. Pensa de novo no semáforo ou na
- 8:40emissão automática de uma certidão, quando os requisitos
- 8:43estão preenchidos? Desde que, claro, se garanta a
- 8:46transparência sobre o sistema e a possibilidade de um controle
- 8:49posterior para corrigir eventuais erros, OK?
- 8:52Para os atos vinculados, parece fazer sentido, mas e os outros?
- 8:56Aí é que está OX da questão. Para os atos discricionários,
- 9:00aqueles que envolvem escolha, ponderação de valores, análise
- 9:03de conveniência e oportunidade, a visão dos autores é bem mais
- 9:07restritiva. Eles argumentam que a
- 9:09discricionariedade exige por sua natureza, consciência e vontade.
- 9:14Exige um juízo de valor que é, na essência, humano, algo que as
- 9:19IAS atuais, baseadas em modelos probabilísticos e sem
- 9:22compreensão real do mundo, simplesmente não possuem.
- 9:25Então usaria para produzir diretamente um ato
- 9:28discricionário? Seria problemático porque
- 9:31faltaria esse elemento humano essencial da escolha consciente
- 9:34e fundamentada. Faz todo o sentido, a máquina
- 9:37pode processar dados em contra padrões, mas a ponderação de
- 9:41valores, a escolha ética. Isso ainda parece ser nosso, né?
- 9:45Exato. E isso leva a reflexão final que
- 9:48eles propõem no artigo, que é bem forte.
- 9:51Eles citam plauto, homo homem de lúpus.
- 9:54O homem é o lobo do homem. E a provocação é, será que a
- 9:57máquina, essa ferramenta criada pelo homem mais desprovida de
- 10:01consciência e vontade, poderia se tornar um novo tipo de lobo,
- 10:05um algoz, ao exercer funções estatais complexas, sem a
- 10:09capacidade humana de julgamento e empatia?
- 10:11Fica a pergunta no ar. Uma pergunta poderosa para a
- 10:14gente continuar pensando, sem dúvida.
- 10:17Bom, acho que conseguimos explorar bem as ideias centrais
- 10:20do artigo dos professores Maurício zolcum e Carolina
- 10:23zancanezzolcum. Passamos pela diferença entre
- 10:25moralidade jurídica e moral comum, pelo dever de motivação,
- 10:30os desafios específicos que AIA traz para isso, especialmente
- 10:34nos atos discricionários, e as propostas para garantir direito.
- 10:37Foi uma ótima discussão. E fica claro, né?
- 10:40A importância de manter a transparência, de garantir
- 10:43mecanismos eficazes de controle e, principalmente, de preservar
- 10:48o papel central da vontade e da consciência humana nas decisões
- 10:53estatais mais sensíveis, onde há escolhas e valores em jogo, a
- 10:58tecnologia é a ferramenta, não pode substituir o julgamento
- 11:01humano onde ele é essencial. Perfeito.
- 11:04Bom, queremos agradecer a você que nos acompanhou em mais este
- 11:08diálogos de direito administrativo.
- 11:10Se você gostou da nossa conversa, da nossa análise, não
- 11:13esquece. Clica aí no sininho para receber
- 11:15as notificações. Compartilhe este episódio nas
- 11:19suas redes sociais para mais gente participar do debate e,
- 11:22claro, assine o canal do diálogos de direito
- 11:25administrativo para não perder os próximos temas.
- 11:28Isso aí contamos com vocês. Até a próxima.
- 11:31Aviso legal, diálogos de direito administrativo DDA.
- 11:36Este conteúdo é gerado por inteligência artificial com base
- 11:39em artigos doutrinários, sem participação direta dos autores
- 11:42originais na definição do roteiro ou frases contidas no
- 11:45diálogo. Os diálogos são criados
- 11:48automaticamente e podem divergir do texto fonte ao enfatizar em
- 11:51aspectos diferentes ou abordarem tópicos não contemplados no
- 11:54artigo original. O material tem caráter
- 11:57educacional e introdutório, não substituindo a leitura do artigo
- 12:00fonte, cuja consulta é altamente recomendada.
- 12:04A curadoria humana, realizada pelo professor Paulo Modesto e
- 12:07sua equipe, seleciona os artigos, edita os vídeos e
- 12:10organiza a divulgação. Apoia o projeto diálogos de
- 12:14direito administrativo? Compartilhe, comente e curta o
- 12:17projeto nas redes sociais. Mantenha se atualizado e assine
- 12:21o canal para receber informações sobre a publicação de novos
- 12:24conteúdos no YouTube ou Spotify. Afinal, visitando os diálogos de
- 12:29direito administrativo, você pode aprender mais em qualquer
- 12:32lugar até o próximo episódio.