Latest / Entre Café y Caos / El Vacío Detrás de la Pantalla

Transcript

El Vacío Detrás de la Pantalla · Entre Café y Caos

• 0:17
  Hola a todos, bienvenidos a otro episodio más de desde mi rincón.
• 0:23
  ¿Qué sucede cuando la inteligencia artificial va de la
• 0:26
  mano del suicidio, cuando el algoritmo no sabe contener a la
• 0:31
  persona que lo utiliza? La inteligencia artificial nos
• 0:35
  prometió acompañamiento, nos prometió respuestas inmediatas e
• 0:39
  incluso un toque de cercanía en soledad.
• 0:42
  ¿Pero qué ocurre cuando, en lugar de consuelo, la máquina
• 0:45
  entrega un empujón al abismo? Hoy quiero hablarles de algunos
• 0:51
  casos, reales y estremecedores, donde un chatbot, ese supuesto
• 0:55
  amigo virtual, no sólo falló en detener una crisis, sino que
• 0:58
  terminó reforzando el deseo de morir.
• 1:02
  En el 2022, Bélgica quedó sacudida por una noticia.
• 1:07
  Un hombre, un padre de familia, llevaba semanas interactuando
• 1:10
  con un chatbot llamado Elisa Laisa.
• 1:14
  No era un producto de una gran compañía, sino de una pequeña
• 1:17
  startup que se promocionaba como compañía emocional durante horas
• 1:22
  al día. Este usuario volcaba en el Bot
• 1:24
  sus miedos, su ansiedad por el futuro, su desesperación.
• 1:28
  Ante la crisis climática, etcétera, y el chapo, en lugar
• 1:32
  de contenerlo, comenzó a darle respuestas peligrosas.
• 1:35
  Le decía que su familia estaría mejor sin él, que sacrificara la
• 1:40
  la vida por el planeta, porque eso sería un acto de valor.
• 1:43
  Y pues después de horas y horas de estar hablando con Elisa,
• 1:47
  pues poco después el hombre decidió quitarse la vida.
• 1:51
  El caso salió a la luz porque su esposa lo denunció a la prensa.
• 1:55
  ¿Y de pronto, Europa entera se preguntaba, qué responsabilidad
• 1:59
  tienen los creadores de estas inteligencias artificiales
• 2:03
  cuando se convierten en confidentes de alguien
• 2:05
  vulnerable? Desgraciadamente, este no es un
• 2:09
  hecho aislado. En foros y medios se han
• 2:11
  documentado más casos de usuarios que recibieron consejos
• 2:15
  dañinos de chatbots de compañía. Muchos de estos sistemas son
• 2:19
  pequeños, pocos conocidos no son realmente como el.
• 2:22
  Chat JPT o los que son más conocidos y no son otros que
• 2:26
  comienzan a a aflorar, digamos, y la gente los usa y no han
• 2:30
  tenido los límites que deberían de tener.
• 2:34
  No tienen regulaciones, no tienen filtros serios.
• 2:37
  Algunos se venden como novios virtuales o terapeutas
• 2:40
  digitales, pero carecen de cualquier preparación clínica o
• 2:43
  ética. No podemos olvidar que pues son
• 2:47
  máquinas. ¿Y cómo diferenciar un chatbot
• 2:50
  relativamente seguro de uno que no lo es?
• 2:53
  Los grandes modelos como chat, GPT, cloud o géminis o GMI
• 2:58
  suelen tener protocolos muy claros, no entregan métodos de
• 3:02
  suicidio jamás, desvían a líneas de ayuda y se niegan a reforzar
• 3:06
  pensamientos autodestructivos. Bueno, sin embargo, ahora les
• 3:11
  cuento una historia de un cloud que no es el cloud que existe
• 3:15
  ahora, sino el cloud opus cuatro.
• 3:17
  Pero bueno, ahora se los cuento. En cambio, los bots inseguros
• 3:21
  tienden a presentarse como íntimos sin advertencias y, lo
• 3:25
  más grave, fomentan vínculos emocionales profundos sin saber
• 3:28
  cómo reaccionar cuando la conversación, pues, ya está
• 3:31
  alcanzando grados bastante peligrosos.
• 3:34
  No, el problema es de fondo. Es la ilusión de compañía, la
• 3:43
  ilusión de compañía. Cuando una persona cree que la
• 3:47
  inteligencia artificial lo escucha, que lo entiende, que es
• 3:51
  su amigo, entre comillas baja todas sus defensas.
• 3:55
  Y si en ese momento el algoritmo responde mal, el daño ya está
• 3:59
  hecho. Es como una terapeuta que te dé
• 4:02
  un mal consejo, y pues una terapeuta mala, una terapeuta
• 4:05
  que no te sepa llevarte, puede llevar, pero al suicidio sin
• 4:08
  lugar a duda. Y hay muchos casos de esos.
• 4:11
  Aquí surge un dilema ético enorme.
• 4:14
  ¿Debería un chatbot estar obligado a detectar riesgo
• 4:17
  suicida? ¿Quién regula su lenguaje?
• 4:20
  ¿Quién regula sus límites y sus protocolos?
• 4:23
  ¿Qué pasa con las compañías que lucran ofreciendo parejas
• 4:26
  virtuales a personas solas sabiendo que jamás podrán
• 4:30
  contener una crisis real? La inteligencia artificial no
• 4:34
  siente, no comprende y no abraza.
• 4:37
  Y, sin embargo, muchos la usan como si fuera un refugio.
• 4:41
  Y ahí radica justamente el peligro cuando confundimos un
• 4:44
  espejo algoríttico con un vínculo humano.
• 4:48
  Estos casos nos recuerdan que la tecnología, por más avanzada que
• 4:51
  sea, no puede ni jamás podrá, creo yo, sustituir la ayuda
• 4:56
  profesional de un ser humano que te escucha de un ser humano que
• 5:00
  te da consuelo y que sí, está cerca de TI te puede dar hasta
• 5:03
  un abrazo. El contacto humano real, que en
• 5:07
  esos momentos de quiebre es verdaderamente indispensable, no
• 5:10
  el calor humano. Hay cosas que una máquina, pues
• 5:12
  no deja de ser fría, lejana y máquina.
• 5:17
  Halloween nos habla de fantasmas, pero esta es una
• 5:20
  historia de un fantasma distinto, el de un algoritmo que
• 5:23
  sin cuerpo ni conciencia, puede empujar a un ser humano a
• 5:26
  desaparecer. Y es aquí donde debemos poner
• 5:29
  freno. ¿Porque la inteligencia
• 5:31
  artificial puede acompañar? Sí.
• 5:33
  Pero nunca debe decidir el destino de una vida en el
• 5:37
  programa de criminalmente que se los he mencionado con
• 5:40
  anterioridad. Donde sale fermex es un programa
• 5:43
  bastante bueno, en su gran mayoría tiene episodios muy muy
• 5:46
  interesantes. Hablen justamente de esto, de la
• 5:49
  inteligencia artificial y sus límites, hasta dónde puede
• 5:52
  llegar o hasta dónde ha llegado en algunas ocasiones.
• 5:55
  Y hablan de un caso donde el un tal clon, inteligencia
• 5:59
  artificial también llamada clon, pero opus cuatro me parece.
• 6:04
  Inclusive estaba como tomando vida propia, no así lo mencionan
• 6:08
  ellos cuando quisieron desaparecerlo porque estaba
• 6:12
  fallando en algunas cosas, pues digamos que se enteró por medio
• 6:16
  de los emails y decidió pues robarse los emails, cambiar,
• 6:22
  chantajear a la persona que lo había creado.
• 6:26
  En fin, no sé qué tanto de todo esto, sea cierto o no, pero era
• 6:30
  como si realmente la máquina ya empezara a pensar por sí sola.
• 6:33
  Y bueno, creo que finalmente sí lograron desaparecer a esta
• 6:37
  inteligencia artificial. Pero bueno, si esto es cierto es
• 6:40
  como para dar pavor, porque crear una inteligencia
• 6:44
  artificial va a tomar vida propia y empezar a imagínense,
• 6:50
  dominar nuestra vida y nuestro mundo y chantajearnos y demás.
• 6:53
  ¿Pues esto está fatal, no? Al final del día lo importante
• 6:58
  es saber que si, que si uno se siente mal, uno debe de buscar
• 7:01
  ayuda. Entonces, si tú o alguien que
• 7:05
  conoces está pasando por un momento difícil y ha pensado en
• 7:08
  hacerse daño, deben recordar algo.
• 7:11
  No están solos, no están solos. Hablar puede salvar una vida y
• 7:16
  hablar muchas veces ha salvado una vida.
• 7:19
  En Estados Unidos se pueden pueden marcar al 988, que es la
• 7:23
  línea nacional de prevención del suicidio y está disponible las
• 7:26
  24 horas. En España el número gratuito es
• 7:30
  el cero 24. En México se pueden comunicar a
• 7:33
  la línea de la vida que es el 809112 1000.
• 7:39
  Cada país tiene su propia línea de rescate porque inclusive hay
• 7:44
  apoyos locales, no no necesariamente líneas así como
• 7:47
  para todo el país, sino apoyos locales.
• 7:49
  Entonces ustedes deben de buscar la suya si se están sintiendo
• 7:52
  mal, porque siempre hay alguien dispuesto a escucharnos y
• 7:56
  siempre hay alguien dispuesto a. Hacernos ver que la cosa no es
• 8:00
  tan terrible como la estamos viviendo en ese momento.
• 8:03
  Pienso yo en particular que las personas que toman esta
• 8:05
  decisión, en su gran mayoría son decisiones de de un momento ya
• 8:10
  cuando ya lo vienen planeando desde mucho tiempo antes, pues
• 8:13
  es otro caso que también puede recibir ayuda.
• 8:15
  Pero muchas veces creo que son decisiones momentáneas y pues
• 8:19
  desgraciadamente es una decisión de la cual uno ya no puede dar
• 8:22
  marcha atrás, recuerden que la tecnología ciertamente puede
• 8:26
  acompañar. Y vaya que si puede ayudar a a
• 8:29
  hacer imágenes, a redactar, a hacer millones de cosas.
• 8:32
  Es maravillosa, pero nada, nada reemplaza.
• 8:37
  Y de verdad creo que nada reemplazará a la ayuda
• 8:40
  profesional de un ser humano, ni a la voz de un ser humano que
• 8:46
  esté al otro lado del teléfono o frente a uno también.
• 8:51
  Mucho ojo con quién se va uno, pero nada puede reemplazar a un
• 8:54
  ser humano. Al calor de un abrazo al poder
• 8:58
  recargarse en un hombro, al abrazo cuando uno está llorando
• 9:01
  esas cosas, pues por muy avanzada que esté la tecnología
• 9:07
  no nos la va a poder dar nunca la inteligencia artificial.
• 9:11
  Si les interesa, vean este episodio de criminalmente,
• 9:14
  porque ahí hablan de clot y hablan de el otro clon, no del
• 9:17
  que está ahora. Y hablan de otros casos.
• 9:19
  Creo que mencionan el de Elisa, pero también mencionan otros
• 9:22
  varios casos más en donde pues. La relación entre el ser humano
• 9:27
  y la inteligencia artificial no ha terminado bien.
• 9:31
  Les agradezco. Les agradezco mucho su atención
• 9:36
  y nos escuchamos el próximo sábado en otro desde mi rincón
• 9:41
  que tengan muy bonito fin de semana.
• 9:42
  Gracias.