Latest / IA por IAs / IA Generativa: Como Enfrentar a Desinformação e a Falta de Transparência

Transcript

IA Generativa: Como Enfrentar a Desinformação e a Falta de Transparência · IA por IAs

• 0:03
  Olá, sejam bem vindos a mais um episódio do iaporias.
• 0:07
  Oi pessoal, tudo bem? Hoje nosso papo é sobre um tema
• 0:11
  que tá dando o que falar, a inteligência artificial
• 0:14
  generativa e o foco é em como a gente pode lidar com a
• 0:18
  desinformação e a falta de transparência que às vezes vem
• 0:22
  no pacote. Exato, eu sou Humberto Silva.
• 0:25
  E eu sou a Kátia Santos. Se você curte o nosso trabalho,
• 0:28
  aproveita para se inscrever aqui no canal e ativar as
• 0:31
  notificações, assim você não perde nenhum episódio.
• 0:34
  Bom, Kátia, pra gente começar, eu li uma matéria esses dias que
• 0:37
  me deixou pensando, dizia que os chatbots que a gente usa para
• 0:41
  quase tudo estão, em alguns casos, fornecendo mais
• 0:45
  informações falsas do que nunca. E a gente confia tanto neles,
• 0:48
  né, pra pedir uma ajuda no trabalho, pra tirar uma dúvida
• 0:51
  rápida. Pois é, Umberto.
• 0:53
  E o perigo é que a gente nem sempre para pra questionar a
• 0:57
  resposta que a yá nos dá. Eu mesma já caí nessa outro dia
• 1:01
  pedi uma sugestão de restaurante pra uma yá, um lugar legal pra
• 1:04
  ir. No fim de semana.
• 1:05
  Ela me deu uma opção que parecia ótima, mas quando fui pesquisar
• 1:09
  o endereço, descobri que o lugar tinha fechado há uns 2 anos.
• 1:14
  É um exemplo do dia a dia, mas que ilustra bem o ponto.
• 1:18
  Agora, imagina essa mesma situação em contextos mais
• 1:21
  sérios como, sei lá, notícias ou até mesmo saúde.
• 1:25
  Uma informação errada pode ter um impacto bem maior.
• 1:29
  Lembro de ter lido sobre um advogado nos Estados Unidos que
• 1:32
  usou o Maya para pesquisar casos antigos para um processo.
• 1:36
  A ferramenta simplesmente inventou precedentes, citou
• 1:39
  casos que nunca existiram. Ele acabou passando a maior
• 1:42
  vergonha no tribunal. Nossa, que complicado.
• 1:46
  Isso que você falou é o centro da questão.
• 1:48
  Aí a generativa aprende com o volume absurdo de informações da
• 1:52
  internet. E aí, vamos combinar, né?
• 1:54
  A internet tem de tudo um pouco, né?
• 1:57
  Muita coisa boa, mas também muita informação duvidosa, para
• 2:00
  não dizer outra coisa. Exatamente aí anão tem um senso
• 2:04
  crítico como o nosso. Ela não sabe o que é verdade ou
• 2:08
  mentira. Ela só processa os dados e gera
• 2:11
  uma resposta que estatisticamente faz sentido com
• 2:14
  base nos padrões que ela aprendeu.
• 2:16
  Se a base de treinamento dela está cheia de informações
• 2:19
  incorretas, a chance dela gerar uma resposta errada é
• 2:22
  considerável. E aí a gente entra na questão da
• 2:25
  transparência, que é outra discussão fundamental.
• 2:28
  Na maioria das vezes, a gente não faz ideia de onde AIA tirou
• 2:32
  aquela resposta. É quase uma caixa preta, você
• 2:35
  pergunta. Ela responde.
• 2:36
  Mas e o processo? Qual foi o raciocínio dela para
• 2:39
  chegar naquela conclusão? Entendi, seria como um como se a
• 2:44
  gente precisasse de uma bibliografia da resposta da IA,
• 2:48
  né? Mostrando as Fontes, os artigos,
• 2:51
  os sites que ela usou. Eu vi que algumas das grandes
• 2:54
  empresas de tecnologia já estão tentando implementar isso,
• 2:57
  colocando links para as Fontes nas respostas, é um começo.
• 3:01
  Sim, é um passo importante, mas o desafio continua porque muitas
• 3:06
  vezes a IA não copia e cola. Ela combina pedaços de
• 3:10
  informações de dezenas de Fontes diferentes para criar um texto
• 3:13
  completamente novo. E aí, como citar a fonte?
• 3:17
  E se uma das Fontes originais já era, ela mesma, um site de fake
• 3:21
  news? O buraco é mais embaixo.
• 3:23
  E tem outro detalhe, o viés. Eu tava testando um desses
• 3:27
  geradores de imagem e pedi Pra Ele criar um executivo de
• 3:31
  sucesso. Kátia foi impressionante.
• 3:35
  Quase todas as imagens eram de homens brancos de terno.
• 3:39
  Isso revela como AYA pode acabar reforçando estereótipos que já
• 3:43
  existem na sociedade, porque foi treinada com dados que refletem
• 3:47
  esses preconceitos. Com certeza, AYA acaba sendo um
• 3:50
  espelho do material que a gente deu para ela aprender.
• 3:53
  E isso levanta uma dúvida importante, de quem é a
• 3:57
  responsabilidade quando uma YA gera desinformação ou um
• 4:00
  conteúdo preconceituoso? É da empresa que programou o
• 4:03
  algoritmo do usuário que inseriu o comando ou de quem criou o
• 4:07
  conteúdo original que alimentou AIA?
• 4:09
  Juridicamente, ainda é um terreno bem incerto.
• 4:12
  A regulação está correndo atrás do prejuízo, porque a tecnologia
• 4:16
  evolui numa velocidade muito, muito.
• 4:18
  Rápida? Pois é.
• 4:19
  E agora eu queria trazer o nosso ouvinte para conversa.
• 4:22
  Você já passou por alguma situação em que o maiate deu uma
• 4:26
  informação que depois você descobriu que estava
• 4:28
  completamente errada? Como você reagiu?
• 4:31
  Conta para a gente aqui nos comentários, a gente quer muito
• 4:33
  saber como tem sido a experiência de vocês com isso.
• 4:36
  Excelente pergunta, porque uma parte da responsabilidade é
• 4:40
  nossa. Como usuários, precisamos criar
• 4:42
  o hábito de ter um olhar mais crítico, de não tomar a primeira
• 4:45
  resposta como verdade absoluta. É preciso checar, comparar,
• 4:50
  desconfiar. É o princípio básico do
• 4:52
  jornalismo, que agora se aplica à nossa interação diária com a
• 4:56
  tecnologia. Exato.
• 4:57
  É o que eu tento fazer. Se peço alguma informação mais
• 5:00
  séria para uma IA, eu sempre dou uma busca depois para ver se eu
• 5:04
  encontro aquilo em outros lugares e em Fontes que eu já
• 5:06
  conheço e confio. Dá um pouquinho mais de
• 5:09
  trabalho, mas me sinto mais segura.
• 5:11
  É uma prática essencial. Sem falar nos deep fakes, né?
• 5:14
  Que são aqueles vídeos e áudios falsos, mas que parecem
• 5:17
  extremamente reais. Hoje, com a iagem nerativa, é
• 5:21
  possível criar um vídeo de uma figura pública falando algo que
• 5:24
  ela nunca disse de um jeito que pode enganar muita gente.
• 5:27
  Isso, para mim, é uma das coisas mais preocupantes.
• 5:30
  Imagina o impacto disso numa eleição, por exemplo?
• 5:33
  O potencial para manipulação e para criar crises é gigantesco.
• 5:37
  A gente vai precisar cada vez mais de tecnologias que ajudem a
• 5:41
  identificar esse tipo de conteúdo manipulado.
• 5:43
  Sim, e as empresas que desenvolvem essas e as tem um
• 5:46
  papel central nisso. Elas precisam ser mais
• 5:49
  transparentes sobre as limitações dos modelos e
• 5:52
  investir em formas de criar uma marca d'água digital, por
• 5:55
  exemplo, algo que deixe claro que aquele vídeo ou aquela
• 5:58
  imagem foi criada por uma inteligência artificial.
• 6:01
  No fim, a palavra chave é transparência.
• 6:04
  De novo, saber de onde as coisas vem.
• 6:07
  Acredito que esse seja o caminho.
• 6:09
  A ideia não é ter medo ou proibir a tecnologia, que é
• 6:12
  incrível e abre muitas portas. Mas sim, usá la com mais
• 6:15
  consciência e cobrar mais responsabilidade de quem a
• 6:19
  desenvolve e distribui. Perfeito o objetivo é a gente
• 6:22
  caminhar para uma relação mais madura e saudável com AEA, onde
• 6:26
  a gente possa aproveitar os benefícios, mas sempre com
• 6:29
  aquele senso crítico ligado. Exatamente, e para fechar, eu
• 6:33
  deixo uma pergunta no ar para os nossos ouvintes.
• 6:36
  Como nós, no nosso dia a dia, podemos ajudar a construir um
• 6:40
  ambiente digital mais confiável e com menos desinformação, mesmo
• 6:44
  com um avanço tão rápido da asias?
• 6:46
  Fica aí a reflexão, e se você gostou desse episódio,
• 6:50
  compartilha com seus amigos, com a sua família?
• 6:52
  Isso ajuda demais o nosso trabalho a alcançar mais
• 6:55
  pessoas. Isso mesmo, muito obrigada pela
• 6:57
  sua companhia, pessoal, até a próxima.
• 7:00
  Valeu, gente, um abraço e até o próximo iaporiás.