Latest / Entre Chaves / O que ninguém te contou sobre auditar vieses em IA

Transcript

O que ninguém te contou sobre auditar vieses em IA · Entre Chaves

• 0:02
  O que acontece hoje é colocar um pouco na balança.
• 0:05
  O que o pessoal tenta fazer é mitigação, na ideia, é, não é
• 0:09
  uma coisa viável de se resolver no seu cerne.
• 0:11
  Exatamente por isso que eu falei, a forma como a gente
• 0:14
  trata isso internamente, no modelo, não é à toa que a gente
• 0:16
  chama isso de pesos e vieses dentro do modelo.
• 0:19
  É realmente isso que ele tem, é o peso que a gente vai dar para
• 0:21
  aquele viés. E um dos nossos objetivos é
• 0:23
  mitigar esses problemas conhecidos.
• 0:25
  Então é onde entra um pouco dessa balança de ética, moral.
• 0:30
  E até do do legal. E por isso que eu pessoalmente
• 0:33
  acredito que a regulamentação é tão importante, porque isso vai
• 0:37
  ser utilizado de base para mitigar os problemas que vão ser
• 0:41
  embutidos naquele modelo. Então, se você tem um problema
• 0:43
  que ele acontece, o que vai acontecer é que você precisa
• 0:46
  mitigar ele. Você precisa tratar ele de
• 0:47
  alguma forma, remover esses dados, adicionar alguma análise
• 0:51
  de características que vai conseguir identificar o que que
• 0:53
  está causando para você a partir de um estudo, identificar aqui
• 0:57
  fundamentalmente o que está causando aquele resultado.
• 1:00
  Tem relação com alguma parte ética ou legal e você tratar
• 1:03
  para mitigar isso igual a gente está, vai ficar voltando e
• 1:06
  voltando muito nesse assunto, né?
• 1:08
  O principal problema é que quando alguns desses vieses, por
• 1:11
  piores que eles sejam, e a gente sabe que eles são, ainda assim,
• 1:15
  eles vão também causar maior assertividade em algum outro
• 1:19
  cenário e por isso, comercialmente eles valem mais a
• 1:22
  pena. Por isso que a regulamentação e
• 1:24
  também em alguns cenários, a ação maior é necessária, porque
• 1:27
  você precisa garantir que por mais que esses.
• 1:30
  Seja ferindo algum princípio ou alguma parcela lá da população,
• 1:33
  aquele ganho financeiro que seria gerado por esse benefício,
• 1:37
  né, que também está atrelado a um viés, ele seja atenuado.
• 1:40
  A gente está falando disso. Eu fiquei meio curiosa, porque
• 1:43
  essas empresas grandes, elas sofrem auditoria, né?
• 1:46
  O tempo inteiro. Igual eu falei, eu estava
• 1:48
  falando aqui sobre auditorias de software, o quanto elas com
• 1:51
  certeza são mais simples, né, do que auditorias de sistemas de
• 1:54
  ar. Como que você acha assim que
• 1:56
  essa parte vai evoluir junto o. Que a gente faz é criar.
• 2:00
  Há uma coisa que a gente chama de estrutura de causalidade.
• 2:02
  Existe uma série de métricas e ações que a gente faz, uma série
• 2:06
  de estudos em cima de dados e resultados para tentar
• 2:09
  identificar estruturas de causalidade para falar OKE, esse
• 2:12
  viés é resultado por essa ação. O problema disso é que a gente
• 2:16
  tem muitas coisas que a gente chama de co Founders e por aí
• 2:18
  vai, que são diferente coisas geram o mesmo resultado ou às
• 2:22
  vezes uma coisa que parece ser igual a gera diferenças
• 2:25
  resultados. Então é muito difícil às vezes
• 2:26
  fazer isso. Então essa auditoria, por mais
• 2:29
  que tenha algum cenário. Antes que a gente consiga tratar
• 2:31
  ele direto, né, e falar não, isso aqui é o caso a gera, o
• 2:34
  caso bi, muitas vezes é possivelmente o caso a pode
• 2:38
  gerar o caso bi. Então ele entra muito no que eu
• 2:40
  falei da balança de o quanto isso vale, o quanto isso vale a
• 2:44
  pena. E aí entraria na questão de hoje
• 2:47
  se esse esforço maior talvez conseguir explicar,
• 2:49
  principalmente se você é uma big tech, se você tem um modelo e
• 2:52
  você quer alcançar um modelo maior de mercado e se colocar à
• 2:56
  frente de conseguir, como o meu modelo é melhor para esse
• 2:58
  cenário, como o meu modelo vai? A evitar esse problema, que a
• 3:01
  gente sabe que gera uma visão muito negativa, então vamos
• 3:04
  tentar explicar e trazer isso à tona.
• 3:06
  Inclusive, né? Esse princípio da
• 3:08
  explicabilidade, ele tem motivado as provedoras de clouds
• 3:12
  a se desdobrarem e trazer essas ferramentas para dentro de
• 3:15
  serviços que a gente já tem, né? Por exemplo, sede make, a gente
• 3:18
  tem o clarify para o vértex, AI a gente tem OX play, nable, a
• 3:22
  gente tem isso dentro do mel Studio também da aju, então
• 3:27
  todas elas já estão trabalhando isso, né?
• 3:29
  Da. Fazendo como se fossem features
• 3:31
  dentro de recursos de a. Essa parte ela tem um ponto
• 3:35
  muito interessante que é como provedor, como alguém que vai
• 3:38
  ceder esse serviço. Isso não só é uma venda que você
• 3:41
  gera, né? É um serviço que você presta,
• 3:44
  Como Ele É, de certa forma, um repasse.
• 3:46
  O modelo, ele tem o viés, mas a partir do momento que eu te
• 3:49
  cedi, não só o modelo como a ferramenta de estudo, essa minha
• 3:53
  responsabilidade de identificar, ela deixa de ser mídia, de
• 3:57
  identificar esse viés e passa você que vai usar esse modelo.
• 4:00
  Seu produto final, você tem que tomar esse cuidado e nós estamos
• 4:03
  de cedendo a ferramenta. Então essa responsabilidade
• 4:05
  nossa, ela deixa de ser caso no futuro ela seja, né?
• 4:08
  Judicialmente, nossa, ela passa a ser sua, que optou por usar
• 4:12
  isso num modelo, num produto final que foi uma escolha sua de
• 4:15
  como identificar, STVS ou não.