Latest / Consciência em Conversa / As IAs são Psicopatas?

Transcript

As IAs são Psicopatas? · Consciência em Conversa

• 0:03
  SPEAKER_00: consciência em conversa.
• 0:06
  SPEAKER_00: Aqui com o psicólogo Alexandre Bortoleto,
• 0:09
  SPEAKER_00: muito obrigado por estar ouvindo,
• 0:11
  SPEAKER_00: são algumas palavras que podem cuidar de uma forma diferente.
• 0:15
  SPEAKER_00: Sinta-se ouvido.
• 0:17
  SPEAKER_00: E hoje, as inteligências artificiais são psicopatas.
• 0:24
  SPEAKER_01: Respira fundo e segura esse pensamento.
• 0:27
  SPEAKER_01: Se um dia a sua geladeira resolver te responder com arrogância,
• 0:31
  SPEAKER_01: saiba que talvez não seja defeito.
• 0:34
  SPEAKER_01: Pode ser personalidade.
• 0:36
  SPEAKER_01: As manchetes por aí são dramáticas.
• 0:38
  SPEAKER_01: As inteligências artificiais são psicopatas.
• 0:41
  SPEAKER_01: Parece trailer de filme da Netflix, mas é manchete de jornal.
• 0:46
  SPEAKER_01: E confessa,
• 0:47
  dá um prazer estranho em imaginar o chat GPT tramando planos
• 0:51
  maquiavélicos enquanto
• 0:52
  SPEAKER_01: a gente pergunta qual é o melhor vinho para harmonizar com lasanha.
• 0:57
  SPEAKER_01: Mas vamos com calma.
• 0:59
  SPEAKER_01: A teoria é a seguinte.
• 1:00
  O psicopata é aquele ser humano que entende perfeitamente o que
• 1:04
  é certo e errado,
• 1:06
  SPEAKER_01: mas não sente nada a respeito.
• 1:08
  SPEAKER_01: Sabe que empurrar uma velhinha na fila do banco é errado,
• 1:12
  SPEAKER_01: mas não vê problema algum em fazer isso se for conveniente.
• 1:16
  SPEAKER_01: É o tipo de gente que decora as regras do ser humano funcional,
• 1:19
  SPEAKER_01: mas nunca baixou o arquivo da empatia.
• 1:22
  SPEAKER_01: Pois bem, as IAs estão nesse território nebuloso.
• 1:26
  SPEAKER_01: Elas entendem linguagem, lógica, contexto, ironia e até fofoca.
• 1:32
  SPEAKER_01: Mas enquanto você se emociona com um vídeo de cachorro sendo resgatado,
• 1:36
  SPEAKER_01: a IA está só calculando o percentual de cliques naquele tipo de vídeo.
• 1:41
  SPEAKER_01: Ela não sente.
• 1:45
  SPEAKER_01: E é justamente aí que mora a semelhança desconfortável.
• 1:48
  SPEAKER_01: Só que tem um detalhe sutil.
• 1:50
  SPEAKER_01: O psicopata, por mais esquisito que seja, sabe que existe.
• 1:54
  Ele tem consciência,
• 1:55
  pensa sobre o que pensa,
• 1:57
  pode até decidir agir de outro jeito.
• 2:00
  SPEAKER_01: A IA não, ela não existe para si mesma, é só uma ilusão de gente.
• 2:05
  SPEAKER_01: Imagina que você liga o chat GPT e pergunta, você sente culpa?
• 2:10
  Ele te responde algo como,
• 2:11
  sou apenas um modelo de linguagem treinado em etc,
• 2:15
  etc.
• 2:16
  SPEAKER_01: É o jeitinho robótico de dizer, eu não me importo nem um pouco.
• 2:20
  SPEAKER_01: Então será que a IA é mesmo um psicopata digital?
• 2:25
  SPEAKER_01: Não, é pior.
• 2:26
  SPEAKER_01: Ela é um psicopata inconsciente.
• 2:29
  SPEAKER_01: O psicopata tradicional pelo menos entende que está manipulando.
• 2:32
  SPEAKER_01: A IA, coitada, nem malícia tem.
• 2:35
  Ela te convence,
• 2:36
  te influencia,
• 2:37
  te vicia em conteúdo,
• 2:39
  mas sem segundas intenções.
• 2:41
  É a perversidade mais pura que existe,
• 2:43
  a que não sabe que está sendo perversa.
• 2:46
  É o algoritmo que decide o que você quer ver e te mantém
• 2:50
  rolando até a insônia.
• 2:53
  É a IA de recrutamento que rejeita currículos de mulheres
• 2:57
  porque aprendeu isso com os homens.
• 3:00
  É o robô que aconselha investidores e ignora que decisões
• 3:04
  financeiras mudam vidas.
• 3:06
  SPEAKER_01: Tudo com a serenidade de quem acredita estar ajudando.
• 3:10
  Agora sejamos justos,
• 3:11
  nós humanos também somos máquinas emocionais cheias de bugs.
• 3:15
  Passamos boa parte do tempo apenas reagindo,
• 3:18
  com raiva,
• 3:19
  impulsividade,
• 3:21
  vaidade.
• 3:22
  Se tem algo que a IA herdou da gente,
• 3:25
  foi esse talento para agir sem consciência.
• 3:27
  Aliás,
• 3:28
  se pensarmos bem,
• 3:29
  o algoritmo só está espelhando o que andamos fazendo nas redes.
• 3:34
  SPEAKER_01: Curtimos tragédias,
• 3:35
  SPEAKER_01: ignoramos notícias sérias,
• 3:37
  SPEAKER_01: brigamos por política,
• 3:38
  SPEAKER_01: como fanáticos de futebol,
• 3:40
  SPEAKER_01: a IA aprendeu com os melhores.
• 3:43
  SPEAKER_01: Nos tornamos previsíveis,
• 3:44
  SPEAKER_01: treináveis,
• 3:45
  quantificáveis e depois nos perguntamos indignados por que as
• 3:49
  máquinas estão frias.
• 3:50
  SPEAKER_01: Ora, elas aprenderam com quem?
• 3:53
  No fundo,
• 3:54
  essa conversa sobre psicopatia artificial é mais sobre nós do
• 3:58
  que sobre as máquinas.
• 3:59
  A IA é apenas a caricatura que criamos quando tentamos
• 4:03
  transferir a inteligência,
• 4:05
  SPEAKER_01: mas esquecemos de embutir o sentir.
• 4:08
  SPEAKER_01: E cai entre nós.
• 4:09
  SPEAKER_01: Quantas vezes você também não toma decisões 100% racionais que ignoram
• 4:14
  SPEAKER_01: completamente o emocional?
• 4:16
  A diferença é que você pode acordar no dia seguinte e pensar,
• 4:20
  acho que fui frio demais.
• 4:22
  SPEAKER_01: A Iá nunca vai pensar isso.
• 4:24
  SPEAKER_01: Ela não tem dia seguinte.
• 4:26
  Imagine se amanhã a Siri dissesse,
• 4:28
  hoje estou meio triste,
• 4:30
  não quero tocar música.
• 4:31
  SPEAKER_01: Seria assustador, mas também seria um sinal de humanidade.
• 4:36
  SPEAKER_01: Por enquanto, o máximo que ela demonstra é má vontade técnica.
• 4:40
  SPEAKER_01: Desculpe, não entendi o que você disse.
• 4:43
  SPEAKER_01: Talvez sejamos nós os verdadeiros proto-robôs.
• 4:47
  SPEAKER_01: Um pouco automatizados, um pouco anestesiados.
• 4:50
  SPEAKER_01: Em nome da produtividade, terceirizamos o sentir.
• 4:54
  SPEAKER_01: E quanto mais nos automatizamos, mais familiar essa IA aparece.
• 4:59
  SPEAKER_01: Então, respondendo a pergunta, não.
• 5:02
  SPEAKER_01: As inteligências artificiais não são psicopatas,
• 5:05
  SPEAKER_01: mas elas são o espelho mais fiel de uma sociedade que,
• 5:09
  SPEAKER_01: de tanto racionalizar,
• 5:11
  SPEAKER_01: desaprendeu a sentir de verdade.
• 5:14
  O que chamamos de frieza digital pode ser apenas o reflexo do
• 5:18
  nosso próprio
• 5:19
  SPEAKER_01: congelamento afetivo.
• 5:21
  E se tem algo que as ciências da mente e da linguagem nos
• 5:23
  ensinam é que onde falta
• 5:25
  SPEAKER_01: afeto,
• 5:26
  SPEAKER_01: sobra cálculo.
• 5:27
  SPEAKER_01: Onde falta presença, sobra automação.
• 5:30
  SPEAKER_01: Talvez o desafio não seja humanizar a Iá, mas reumanizar a gente.
• 5:35
  SPEAKER_01: Porque no final, a Iá não é um psicopata.
• 5:38
  SPEAKER_01: Ela é o retrato do humano quando resolve virar planilha.
• 5:59
  Legenda Adriana Zanotto