Latest / Carne Cruda Podcast / ¿Puede la Inteligencia Artificial sustituirnos? (CARNE CRUDA #1178)

Transcript

¿Puede la Inteligencia Artificial sustituirnos? (CARNE CRUDA #1178) · Carne Cruda Podcast

• 0:02
  Speaker 2: Otra vez programa de mundos posibles. Si es que siempre
• 0:07
  Speaker 2: voy justa de tiempo, si pudiera trabajar alguien por mí.
• 0:09
  Speaker 2: A ver,¿ de qué va el programa? De inteligencia artificial.¿
• 0:14
  Speaker 2: No dicen que las máquinas nos van a quitar el trabajo?
• 0:17
  Speaker 2: Pues hoy no sería mal momento. Voy a pedirle al
• 0:20
  Speaker 2: chat GPT del que todo el mundo habla que me
• 0:23
  Speaker 2: haga la intro. A ver qué le sale. Y mira,
• 0:25
  Speaker 2: una cosa que me quitó.
• 0:30
  Speaker 3: imagínate un mundo donde la tecnología es más que una
• 0:33
  Speaker 3: simple herramienta donde las máquinas y los sistemas inteligentes trabajan
• 0:36
  Speaker 3: en armonía con los seres humanos para crear una sociedad
• 0:39
  Speaker 3: utópica sin enfermedades pobreza o desigualdad esta es la promesa
• 0:44
  Speaker 3: de la inteligencia artificial una tecnología que ha evolucionado rápidamente
• 0:47
  Speaker 3: en los últimos años y que nos ha permitido explorar
• 0:50
  Speaker 3: las fronteras de lo que es posible en este programa
• 0:53
  Speaker 3: Hablaremos sobre cómo la inteligencia artificial está transformando el mundo
• 0:57
  Speaker 3: que conocemos, desde la forma en que trabajamos y vivimos,
• 1:00
  Speaker 3: hasta cómo interactuamos con los demás y la naturaleza. Exploraremos
• 1:04
  Speaker 3: las últimas investigaciones y desarrollos en el campo de la
• 1:07
  Speaker 3: inteligencia artificial, y descubriremos cómo la combinación de la tecnología
• 1:11
  Speaker 3: y la creatividad humana está llevando a la humanidad a
• 1:13
  Speaker 3: nuevos horizontes. Así que prepárate para un viaje al futuro,
• 1:17
  Speaker 3: donde la inteligencia artificial nos espera para ayudarnos a construir
• 1:21
  Speaker 3: una sociedad mejor y más avanzada. Bienvenidos a nuestro programa
• 1:25
  Speaker 3: de ciencia, donde exploraremos el fascinante mundo de la inteligencia artificial.
• 1:31
  Speaker 4: Esther,
• 1:39
  Speaker 5: te ha quedado, quiero decir, le ha quedado a ChatGPT
• 1:42
  Speaker 5: una introducción fascinante, pero¿ qué broma es esta?
• 1:45
  Speaker 6: Vaya colaboradora, no da un palo
• 1:47
  Speaker 2: al agua. A ver, a ver, a ver, calma, calma, que...
• 1:50
  Speaker 2: Me habéis pillado un poco, pero el resto del programa
• 1:52
  Speaker 2: sí me lo he currado
• 1:54
  Speaker 2: A ver, venga, ya sin bromas os cuento. Eso que
• 1:55
  Speaker 2: habéis oído lo ha hecho ChatGPT.
• 1:59
  Speaker 5: Sí, el programa que te ha hecho la intro. Es
• 2:01
  Speaker 5: el chat con el que puedes mantener una conversación incluso
• 2:03
  Speaker 5: mejor que con algunos humanos.
• 2:05
  Speaker 2: Correcto. Para hablar con precisión, se trata de un modelo
• 2:08
  Speaker 2: de lenguaje creado y entrenado por OpenAI, una empresa dedicada
• 2:12
  Speaker 2: al desarrollo de la inteligencia artificial. Y con este chat
• 2:14
  Speaker 2: lo están petando. Ese
• 2:15
  Speaker 6: es el chat
• 2:16
  Speaker 2: que responde como si estuviera vivo, ¿no? Eso parece, sí.
• 2:19
  Speaker 2: Pero está entrenado para ofrecer respuestas tan buenas que dan miedo. Bueno,
• 2:22
  Speaker 2: como
• 2:22
  Speaker 5: la introducción del programa que la ha clavado hoy, exploramos...
• 2:25
  Speaker 3: El fascinante mundo de la inteligencia artificial
• 2:28
  Speaker 2: Como muchos sabréis, la inteligencia artificial, también conocida como IA,
• 2:32
  Speaker 2: es el campo de la informática que se enfoca en
• 2:34
  Speaker 2: la creación de algoritmos y sistemas que imitan la inteligencia humana.
• 2:38
  Speaker 2: Se estima que el mercado global de IA en los
• 2:40
  Speaker 2: próximos siete años habrá aportado 15,7 billones de dólares a
• 2:44
  Speaker 2: la economía mundial, más que el PIB anual de toda
• 2:46
  Speaker 2: la zona euro en 2022. Los avances ya están transformando
• 2:51
  Speaker 2: el mundo y vamos a ver cómo usarlos para el bien.
• 2:54
  Speaker 6: Para hacer el bien, menos mal, porque ya hay quien
• 2:56
  Speaker 6: dice que son máquinas del demonio, que nos copian, nos
• 2:59
  Speaker 6: imitan y pueden sustituirnos creando imágenes, textos, incluso música.
• 3:03
  Speaker 2: Esas son las inteligencias artificiales que se denominan generativas, un
• 3:07
  Speaker 2: tipo de inteligencia artificial que se encarga de crear contenidos
• 3:10
  Speaker 2: nuevos y originales. utiliza algoritmos para generarlos sin necesidad de
• 3:14
  Speaker 2: intervención humana. O
• 3:15
  Speaker 5: sea que no son refritos, es contenido inédito.
• 3:18
  Speaker 2: Exacto, así es. De hecho, la música que va a
• 3:20
  Speaker 2: sonar y que está sonando de fondo durante todo este
• 3:22
  Speaker 2: programa ha sido generada por una inteligencia artificial. Esta que
• 3:26
  Speaker 2: estamos escuchando responde al comando.
• 3:33
  Speaker 4: Un sintetizador ascendente está tocando un arpegio con mucha reverberación.
• 3:38
  Speaker 4: Está respaldado por pads, línea de subgraves y percusión suave.
• 3:43
  Speaker 4: Esta canción está llena de sonidos de sintetizador que crean
• 3:46
  Speaker 4: una atmósfera relajante y aventurera. Podría estar sonando en un
• 3:50
  Speaker 4: festival durante dos canciones a modo de transición.
• 3:54
  Speaker 2: Qué os parece? Es correcto, todo lo
• 3:56
  Speaker 5: que
• 3:56
  Speaker 4: ha dicho es correcto. Es correcto, es correcto
• 3:58
  Speaker 2: Otra cosa no.
• 3:58
  Speaker 5: Parece la definición en subtítulos para sordos de estos que
• 4:03
  Speaker 5: aparecen en las películas. Así es.
• 4:06
  Speaker 6: Pero bueno, el Bank of America dice que la inteligencia
• 4:08
  Speaker 6: artificial generativa será la mayor revolución tecnológica desde la electricidad.
• 4:12
  Speaker 6: Esto va a ponerlo todo patas arriba, ¿no? Tenemos que
• 4:14
  Speaker 6: asumir eso.
• 4:15
  Speaker 2: Así es. Music LM es la nueva herramienta creada por
• 4:18
  Speaker 2: Google que para muchos especialistas ya es mucho más potente
• 4:21
  Speaker 2: incluso que ChatGPT. Se trata de un cóctel de 2
• 4:24
  Speaker 2: millones de clips de 10 segundos con sonidos extraídos de YouTube,
• 4:28
  Speaker 2: de 5.500 parejas de texto y música en los datos
• 4:31
  Speaker 2: de modelos de IA previos, como AudioLM, SoundStream y Mulan,
• 4:35
  Speaker 2: que seguro que a muchos interesados en el tema ya
• 4:37
  Speaker 2: les suenan. Por cierto, lo que suena ahora es lo
• 4:41
  Speaker 2: que han denominado una generación larga de unos 5 minutos
• 4:44
  Speaker 2: y a la que tan solo se le dijo tecnomelódico.
• 4:47
  Speaker 2: Y Music LM creo esto. Y si seguimos con las músicas,
• 4:52
  Speaker 2: podemos también pedir que nos tarare el Belachao. Que lo
• 4:57
  Speaker 2: haga en canto gregoriano. Que lo silbe. o que lo
• 5:05
  Speaker 2: toque a guitarra
• 5:07
  Speaker 6: en serio eso era una persona silbando?
• 5:09
  Speaker 2: no, no, no era una persona silbando pero es que
• 5:13
  Speaker 2: los de Google han rizado el rizo¿ os imagináis cómo
• 5:16
  Speaker 2: sonaría el cuadro de Dalí? la persistencia de la memoria
• 5:19
  Speaker 2: es el más mítico, el de los relojes líquidos esta
• 5:22
  Speaker 2: IA se lo imagina así¿ no os estáis flipando?
• 5:30
  Speaker 5: en colorines
• 5:31
  Speaker 2: mira, otra, otra Escuchad, escuchad. Esto es lo que sale
• 5:41
  Speaker 2: si le dices jazz relajante a mí o si quiere. Sí,
• 5:44
  Speaker 5: tocada por borrachos
• 5:47
  Speaker 2: Qué crítico, qué crítico con las sillas. Van a ir
• 5:49
  Speaker 2: a por ti. Esto es una suerte de música de
• 5:52
  Speaker 2: ascensor compuesta por nadie.
• 5:53
  Speaker 5: Efectivamente, se nota.¿ Has visto?
• 5:55
  Speaker 2: Compuesta por nadie. Pero a esto aún no está disponible
• 5:59
  Speaker 2: para público general. Estos clips están extraídos del paper en
• 6:02
  Speaker 2: el que presentaron esta guía.
• 6:04
  Speaker 5: Y ya adelantaste que también dibujan.
• 6:06
  Speaker 2: Sí, varias de ellas. La más conocida ahora mismo se
• 6:08
  Speaker 2: llama DAL-I. Escrito Dalle E, como Dalí. O sea, yo
• 6:13
  Speaker 2: lo explico... A ver, yo tardé un poco en pillar,
• 6:16
  Speaker 2: no he de reconocerlo. Y es de OpenAI también, los
• 6:20
  Speaker 2: mismos que ChatGPT. Es una inteligencia artificial capaz de generar
• 6:23
  Speaker 2: imágenes a partir de texto. Y es una de las
• 6:26
  Speaker 2: IA que comenzaron esta revolución de generar imágenes junto a
• 6:29
  Speaker 2: otras como Stable Diffusion o Midjourney. Sí, tú dinos nombres
• 6:32
  Speaker 2: para que por lo menos nos vayan sonando. El caso
• 6:36
  Speaker 2: es que tú puedes pedirle lo que quieras a esas
• 6:38
  Speaker 2: sillas y ella te lo pinta. Cosas que no existen,
• 6:41
  Speaker 2: cosas que sí, pero tienen derechos de imagen. E incluso
• 6:43
  Speaker 2: cosas imposibles, como la Estación Espacial Internacional al estilo de
• 6:47
  Speaker 2: Van Gogh. Sí, que en
• 6:48
  Speaker 5: el mundillo del arte esto ha generado mucho revuelo.
• 6:50
  Speaker 2: Sí, porque estas inteligencias están entrenadas con obras hechas por humanos,
• 6:54
  Speaker 2: extraídas de la web. Y se han dado casos en
• 6:57
  Speaker 2: los que simplemente lo remezclaban o incluso lo copiaban sin atribución.
• 7:01
  Speaker 2: O sea, aquí sí que le han pillado porque hay
• 7:02
  Speaker 2: un refrito. Ahí un poquito sí, pero es solo cuestión
• 7:05
  Speaker 2: de tiempo, que lo pulan un poco más y esto
• 7:07
  Speaker 2: ya no pase, como es el caso de los textos.
• 7:10
  Speaker 8: He
• 7:12
  Speaker 5: de decirte que en el mundo de la música creo
• 7:14
  Speaker 5: que no hay peligro de que las máquinas nos sustituyan,
• 7:16
  Speaker 5: por lo menos de momento, escuchando lo que estoy escuchando.
• 7:19
  Speaker 5: No tenemos ningún tipo de miedo los músicos.¿ Y le
• 7:22
  Speaker 5: has podido preguntar algo más a ChatGPT?
• 7:24
  Speaker 2: Muchísimas cosas. De hecho, un montón de datos, curiosidades y
• 7:27
  Speaker 2: le pregunté por nosotras si conocía Carne Cruda y me
• 7:30
  Speaker 2: dijo esto.
• 7:31
  Speaker 9: Sí. Carne Cruda es un podcast de noticias, política y
• 7:34
  Speaker 9: cultura de España. Se emite desde Madrid y está dirigido
• 7:38
  Speaker 9: por Javier Gallego. Muy bien. El podcast se enfoca en
• 7:42
  Speaker 9: temas de actualidad y cuenta con entrevistas a expertos en
• 7:45
  Speaker 9: diversos campos, así como a líderes políticos y sociales. Eso
• 7:48
  Speaker 8: es
• 7:49
  Speaker 9: Además... También tiene secciones de entretenimiento, música y cultura.
• 7:53
  Speaker 8: Y ciencia.
• 7:54
  Speaker 9: El podcast es conocido por su enfoque crítico y por
• 7:57
  Speaker 9: abordar temas controvertidos desde una perspectiva progresista.
• 8:00
  Speaker 5: Excepto porque dice podcast en vez de podcast. Nos tiene calados.
• 8:05
  Speaker 2: Nos ha hecho un traje? No le pidas demasiado. Pero bueno,
• 8:07
  Speaker 2: ya veis que nos conocen hasta los robots
• 8:09
  Speaker 5: Sí, cualquier día nos retiran. Ándate con ojo, crudo. Puedo
• 8:12
  Speaker 5: imitar tu voz y hacerme con el programa cuando menos
• 8:14
  Speaker 5: te lo esperes. Madre mía, qué miedito.
• 8:18
  Speaker 6: Eso sí me gusta, que nos retiren de trabajar, pero
• 8:21
  Speaker 6: no de vivir, porque recordemos lo que le pasó al
• 8:23
  Speaker 6: youtuber
• 8:24
  Speaker 2: Lucas Rizzotto. A ese tipo se le ocurrió personalizar su
• 8:27
  Speaker 2: microondas con inteligencia artificial, imitando a su amigo imaginario de
• 8:31
  Speaker 2: la infancia. Y para ello le escribió unos antecedentes súper enrevesados.
• 8:34
  Speaker 2: De hecho, un libro de más de 100 páginas en
• 8:37
  Speaker 2: el que detallaba cada momento de su vida imaginaria, de
• 8:40
  Speaker 2: este elemento al que llamó magnetrón. Y salió mal. Sorpresa, no.
• 8:45
  Speaker 2: El aparato de cocina trató de matarlo cocinando.
• 8:47
  Speaker 5: Vamos a ver,¿ eso es posible de verdad?¿ Le pasó algo?
• 8:50
  Speaker 2: No, a ver, en la historia del microondas, el propio
• 8:53
  Speaker 2: Richotto reconoce que hay parte ficcionado, pero da mucho que pensar.
• 8:57
  Speaker 2: Porque sí es cierto que consiguió que Zahia tuviera la
• 8:59
  Speaker 2: capacidad de comunicarse, de encender el microondas y, claro, de
• 9:03
  Speaker 2: que tomara decisiones que a nosotros nos parecen voluntarias, pero
• 9:06
  Speaker 2: solo responden a un algoritmo.
• 9:08
  Speaker 6: Menudo percal, a ver cómo te las puede apañar para
• 9:10
  Speaker 6: hacer el bien entre microondas asesinas.
• 9:14
  Speaker 5: Música asesinada. Música
• 9:15
  Speaker 6: asesinada. Me encanta que Javier se ha centrado en la música.
• 9:20
  Speaker 5: Hombre, es que, en fin, lo que estamos escuchando me
• 9:22
  Speaker 5: está destrozando los oídos. Bueno, propongo que arranquemos ya este
• 9:25
  Speaker 5: viaje por nuestros mundos posibles para descubrir todas estas implicaciones
• 9:28
  Speaker 5: éticas de la inteligencia artificial, analizar cómo funciona y, en definitiva,
• 9:32
  Speaker 5: comprobar cómo está transformando el mundo en el que vivimos.
• 9:41
  Speaker 8: mundo posible
• 9:46
  Speaker 7: puto puto pistas para el futuro
• 10:03
  Speaker 8: Por
• 10:05
  Speaker 5: cierto, que hoy en el control del programa no está
• 10:07
  Speaker 5: Kelu Robles, sino su inteligencia artificial, Keluendo.¿ Nos escuchas, Keluendo?
• 10:12
  Speaker 10: ¡Hola!
• 10:13
  Speaker 5: Qué tal? ¡Hola!¿ Cómo estás, querida?¿ Que vas a hacer
• 10:16
  Speaker 5: el mal a través de los controles? Madre mía, se
• 10:19
  Speaker 10: está volviendo...
• 10:21
  Speaker 2: Estaba durmiendo. Lo
• 10:22
  Speaker 5: estábamos notando, que estabas un poco dormida. Bueno, vamos con
• 10:25
  Speaker 5: el programa, Esther.
• 10:25
  Speaker 2: Eso es, para dar respuesta a todos estos dilemas... A ver,
• 10:29
  Speaker 2: a mí me tienen muy agobiada y yo cuando me
• 10:30
  Speaker 2: agobio pregunto. Y he hablado con Josep María Gañet, un
• 10:34
  Speaker 2: etnógrafo digital y escritor del libro La democracia muere en
• 10:38
  Speaker 2: la nube, de la editora La Magrana. y me ha
• 10:42
  Speaker 2: hablado de las precauciones que podemos tener de experiencias previas similares.
• 10:46
  Speaker 11: Si una cosa nos ha enseñado Internet, los muy naifs
• 10:48
  Speaker 11: del principio creíamos que por ser una tecnología distribuida y
• 10:53
  Speaker 11: descentralizada esto iba a permear a toda la sociedad y
• 10:56
  Speaker 11: nos iba a igualar a todos, nos iba a dar
• 10:58
  Speaker 11: las mismas oportunidades. En parte así ha sido, tenemos proyectos
• 11:01
  Speaker 11: como Wikipedia, tenemos proyectos como Google, pero fíjate que todos
• 11:05
  Speaker 11: tenemos que pasar por unas puertas que controlan Cinco grandes empresas. Apple, Google, Facebook, Amazon, Microsoft,
• 11:15
  Speaker 11: en China Baidu, Tencent. O sea, al final, lo que
• 11:18
  Speaker 11: sí hemos aprendido es que cuanto más poderosas son estas tecnologías,
• 11:22
  Speaker 11: más concentración de poder hay. Por tanto, más riesgo de
• 11:25
  Speaker 11: que sean usadas con un fin que a ti no
• 11:27
  Speaker 11: te guste o que, llevándolo al extremo, vayan directamente contra ti.
• 11:32
  Speaker 2: Porque claro, ahora mismo ya las empresas detrás de esto
• 11:35
  Speaker 2: son las grandes y gente que no se caracteriza por
• 11:38
  Speaker 2: hacer el bien. Por ejemplo, detrás de ChatGPT está OpenAI,
• 11:42
  Speaker 2: cuyo inversor fue y es Elon Musk. Y en su
• 11:46
  Speaker 2: día también invirtió Amazon, quien ahora ya tiene su división propia,
• 11:49
  Speaker 2: y Microsoft también está involucrada y tiene programas de desarrollo
• 11:52
  Speaker 2: de estas tecnologías.
• 11:54
  Speaker 6: Y cuál es su análisis sobre ChatGPT y todo este
• 11:56
  Speaker 6: nuevo boom de inteligencia artificial al alcance de la mano?
• 11:59
  Speaker 11: El impacto de la inteligencia artificial hace muchos años que
• 12:01
  Speaker 11: lo estamos o sufriendo por una parte o nos estamos
• 12:04
  Speaker 11: beneficiando de él. Desde verano a esta parte... Ha habido
• 12:08
  Speaker 11: como una eclosión con los modelos de lenguaje y la
• 12:12
  Speaker 11: inteligencia artificial generativa de imágenes y de textos que la
• 12:16
  Speaker 11: diferencia es que está en abierto. Por tanto, todo el
• 12:20
  Speaker 11: mundo lo ha podido probar, todo el mundo habla, todo
• 12:21
  Speaker 11: el mundo ha tenido tiempo de flipar y todo el
• 12:24
  Speaker 11: mundo ha tenido tiempo de hacer un segundo análisis y
• 12:27
  Speaker 11: un tercer análisis y en eso estamos. Valoro muy positivamente
• 12:30
  Speaker 11: que haya rompido en el debate, en las máquinas de
• 12:33
  Speaker 11: cafés y en las conversaciones con el cuñado.
• 12:35
  Speaker 5: Eso es muy importante, estar en las conversaciones con el cuñado. Bueno,
• 12:38
  Speaker 5: al fin y al cabo, la única manera de controlar
• 12:40
  Speaker 5: el poder es que lo tengamos en nuestras manos.
• 12:43
  Speaker 11: Siempre hay que tener el poder, porque el poder lo
• 12:46
  Speaker 11: que hace es utilizar las últimas tecnologías, siempre así, tradicionalmente,
• 12:51
  Speaker 11: para perpetuarse y ampliar sus espacios de poder y de control.
• 12:56
  Speaker 11: Esto sirve para las grandes tecnológicas, sirve para el capitalismo,
• 13:00
  Speaker 11: sirve para los estados, sirve para las organizaciones que en
• 13:03
  Speaker 11: teoría velan por nuestra seguridad, sirve para cualquier parcela de poder.
• 13:09
  Speaker 2: En cualquier caso,¿ qué os puedo decir? Solamente que menos
• 13:11
  Speaker 2: mal que tenemos un montón de investigadoras maravillosas y listísimas
• 13:15
  Speaker 2: dispuestas a dejarse las neuronas por nosotras.
• 13:17
  Speaker 5: ¡Viva! Pero Esther, veamos cómo funciona todo esto y cómo
• 13:20
  Speaker 5: podemos utilizarlo para el bien común
• 13:24
  Speaker 2: Una de esas personas listas y majas es Mari Carmen
• 13:28
  Speaker 2: Suárez de Figueroa Baonza, profesora de Inteligencia Artificial en la
• 13:31
  Speaker 2: Escuela Técnica Superior de Ingenieros Informáticos de la Universidad Politécnica
• 13:35
  Speaker 2: de Madrid.
• 13:36
  Speaker 5: Mari Carmen, crudos días.
• 13:37
  Speaker 2: Hola, buenos días,¿ qué tal?¿ Cómo
• 13:39
  Speaker 5: evitamos ese monopolio de las grandes que tienen ahora mismo
• 13:41
  Speaker 5: el control?
• 13:42
  Speaker 12: Bueno, el tema de los monopolios al final pasa un
• 13:45
  Speaker 12: poco con todo, no solo con la tecnología, es difícil
• 13:47
  Speaker 12: de evitar. Yo creo que lo importante es centrarse en
• 13:51
  Speaker 12: esas pequeñas, medianas empresas, grupos de investigación, centros de investigación
• 13:55
  Speaker 12: que están realizando desarrollos basados en inteligencia artificial, que se
• 14:02
  Speaker 12: acercan más al ciudadano, que se acercan más a la persona. Entonces,
• 14:05
  Speaker 12: ahí podemos hacer mucho bien y podemos mejorar mucho la
• 14:08
  Speaker 12: vida de diferentes colectivos.
• 14:10
  Speaker 5: Pero hay algo similar en inteligencia artificial a lo que
• 14:12
  Speaker 5: sería el código abierto?
• 14:14
  Speaker 12: Sí, en realidad hay diferentes iniciativas. Una de las más
• 14:19
  Speaker 12: utilizadas actualmente es una iniciativa que se llama Hugging Face,
• 14:23
  Speaker 12: donde podemos encontrar tanto modelos como datasets, conjuntos de datos,
• 14:27
  Speaker 12: con los que entrenan los diferentes modelos. Y hay modelos
• 14:29
  Speaker 12: para el castellano, para el inglés, etcétera, etcétera. O sea
• 14:32
  Speaker 12: que podemos allí utilizar y reutilizar código hecho por otras
• 14:36
  Speaker 12: personas o por otros organismos.¿ Pero
• 14:37
  Speaker 5: inteligencias como el chat GPT...¿ Son conocidas cómo funcionan?¿ El
• 14:42
  Speaker 5: código que las hace funcionar está en abierto o es
• 14:44
  Speaker 5: más o menos accesible?
• 14:46
  Speaker 12: Yo diría que el código como tal no está en abierto,
• 14:50
  Speaker 12: por lo menos de chat GPT, pero sí se sabe
• 14:53
  Speaker 12: cómo funciona en realidad. Todo lo que tiene que ver
• 14:56
  Speaker 12: con aprendizaje automático tiene las mismas bases. Necesitas un conjunto
• 15:00
  Speaker 12: de datos. lo suficientemente grande como para que represente la
• 15:04
  Speaker 12: situación que quieres simular y después entrenar un modelo basado,
• 15:08
  Speaker 12: por ejemplo, en redes de neuronas que aprenda y que
• 15:11
  Speaker 12: vaya generando ese nuevo conocimiento a preguntas o a conversaciones
• 15:15
  Speaker 12: como hace Chad GPT.
• 15:17
  Speaker 5: Espera, que has hablado de redes de neuronas como si
• 15:18
  Speaker 5: fueran las mismas redes de neuronas que tenemos en el
• 15:20
  Speaker 5: cerebro y no es así, explícalo. Sí,
• 15:22
  Speaker 12: es muy parecido en realidad porque son nodos que se
• 15:26
  Speaker 12: conectan entre sí y lo importante es que entre esos
• 15:28
  Speaker 12: nodos hay una serie de relaciones matemáticas que ayudan a
• 15:32
  Speaker 12: que las diferentes capas de esas redes vayan calculando una
• 15:37
  Speaker 12: serie de porcentajes o de pesos para que al final
• 15:43
  Speaker 12: se… o la respuesta a la pregunta de un determinado
• 15:47
  Speaker 12: usuario o, por ejemplo, todo lo que hemos visto de
• 15:50
  Speaker 12: chat GPT, de la música, etc.
• 15:53
  Speaker 2: A nosotros nos interesa la inteligencia artificial para el bien
• 15:56
  Speaker 2: y tú tienes un proyecto de inteligencia artificial relacionado con
• 15:59
  Speaker 2: la lectura fácil.¿ Qué es y en qué consiste tu proyecto,
• 16:02
  Speaker 2: Mari Carmen?
• 16:03
  Speaker 12: Pues mira, la lectura fácil es una manera de acercar
• 16:06
  Speaker 12: los textos a personas que tienen problemas de comprensión lectora. Actualmente,
• 16:11
  Speaker 12: todos los textos que se generan o que se adaptan
• 16:14
  Speaker 12: a lectura fácil se hacen de manera manual por expertos
• 16:17
  Speaker 12: en lectura fácil. Esto es muy costoso y más en
• 16:19
  Speaker 12: estos momentos donde en España tenemos una serie de leyes
• 16:22
  Speaker 12: que van en la dirección de que todo debería estar
• 16:25
  Speaker 12: en lectura fácil en los próximos años. Entonces, nosotros lo
• 16:28
  Speaker 12: que intentamos dentro del grupo de investigación, el Ontology Engineering Group,
• 16:31
  Speaker 12: en la Politécnica de Madrid, es utilizar técnicas de inteligencia artificial,
• 16:36
  Speaker 12: sean las que sean, para poder ayudar a esos expertos,
• 16:40
  Speaker 12: identificando problemáticas dentro de un texto existente y después proponiéndoles
• 16:44
  Speaker 12: a esos expertos posibles adaptaciones para que ese texto sea
• 16:47
  Speaker 12: más fácil de leer y de entender.
• 16:49
  Speaker 5: Claro, porque¿ qué llamamos lectura fácil?
• 16:51
  Speaker 12: Pues lectura fácil es una manera de poner todo lo
• 16:54
  Speaker 12: que normalmente explicamos de una manera bastante compleja, porque además
• 16:59
  Speaker 12: en castellano tenemos la costumbre de que cuando escribimos textos
• 17:04
  Speaker 12: hacemos frases muy largas, frases subordinadas, frases coordinadas, etcétera, etcétera.
• 17:09
  Speaker 12: El BOE. Por ejemplo. O cualquier otro texto jurídico. Pero
• 17:14
  Speaker 12: no nos tenemos que ir tan lejos. Cualquier información turística
• 17:17
  Speaker 12: o de teatro puede estar también en lectura difícil. Entonces,
• 17:21
  Speaker 12: la lectura fácil lo que hace es simplificar esos textos.
• 17:25
  Speaker 12: Pone frases simples, sujeto, verbo y predicado. Elimina palabras que
• 17:31
  Speaker 12: pueden ser complicadas y las sustituye por otras más fáciles, etc. Entonces,
• 17:34
  Speaker 12: de esta manera, por ejemplo, las personas que tienen discapacidad cognitiva...
• 17:38
  Speaker 12: pueden entender más fácilmente un texto turístico o legal incluso.¿
• 17:44
  Speaker 12: Esto ya está disponible o lo va a estar pronto?
• 17:46
  Speaker 12: Pues mira, estamos trabajando en ello, es un proyecto que
• 17:48
  Speaker 12: tenemos dentro de la universidad y en breve vamos a
• 17:51
  Speaker 12: tener una parte de ese sistema. que nos ayuda o
• 17:56
  Speaker 12: que ayudará a los adaptadores a lectura fácil. Y también
• 17:59
  Speaker 12: en el futuro la idea es que tengamos una especie
• 18:01
  Speaker 12: de sistema que pueda ayudar directamente al usuario. Es decir,
• 18:04
  Speaker 12: que cualquier usuario, igual que hacemos con Google Translate, ponga
• 18:07
  Speaker 12: un texto en una caja y en la otra caja
• 18:09
  Speaker 12: le salga algo más fácil de leer, algo que esté
• 18:12
  Speaker 12: cercano a la lectura fácil. Entonces, bueno, nos tenemos que
• 18:15
  Speaker 12: dar un tiempo porque al final en la investigación se
• 18:18
  Speaker 12: necesitan muchos recursos, tanto físicos como materiales, y dentro de
• 18:22
  Speaker 12: la universidad a veces no se tienen tantos recursos como
• 18:24
  Speaker 12: las grandes empresas, como hemos dicho, entonces nosotros seguimos trabajando
• 18:27
  Speaker 12: y en breve tendremos algo que se puede utilizar y
• 18:30
  Speaker 12: que puede ser de utilidad, ya digo, para el ciudadano
• 18:33
  Speaker 12: de a pie, que es lo que nos interesa.
• 18:35
  Speaker 6: Y volviendo a la base de cómo se crean todas
• 18:36
  Speaker 6: estas herramientas, tenemos entendido que es muy importante, o sea,
• 18:40
  Speaker 6: en la base, los datos en el entrenamiento, es crucial esto.¿
• 18:43
  Speaker 6: Cómo se relacionan estas herramientas con la ciencia de datos?
• 18:46
  Speaker 6: Y pregunto yo también,¿ con el negocio de los datos?
• 18:49
  Speaker 12: Bueno, es muy importante tener en cuenta que lo primero,
• 18:52
  Speaker 12: para poder entrenar cualquier modelo de inteligencia artificial necesitamos una
• 18:55
  Speaker 12: cantidad muy muy grande de datos. Esos datos tienen que
• 18:58
  Speaker 12: tener una determinada calidad. Entonces, todo lo que tiene que
• 19:01
  Speaker 12: ver con ciencia de datos tiene que centrarse en analizar, recoger,
• 19:07
  Speaker 12: complementar si es necesario esos conjuntos de datos para que
• 19:09
  Speaker 12: sean de calidad. Y luego también en analizar los datos
• 19:12
  Speaker 12: para ver si hay ciertos desajustes. Todo esto tiene que
• 19:16
  Speaker 12: ver con eso, con la idea del proceso desde que
• 19:20
  Speaker 12: el dato se crea hasta que el dato se utiliza.
• 19:23
  Speaker 12: Eso tiene que ver con la ciencia de datos. Y
• 19:25
  Speaker 12: respecto al negocio, bueno, pues es verdad que hay muchos
• 19:27
  Speaker 12: conjuntos de datos que son privados y que deben serlos, evidentemente,
• 19:30
  Speaker 12: porque hay cosas que no pueden estar públicas para todo
• 19:33
  Speaker 12: el mundo, pero también es cierto que hay muchísimos conjuntos
• 19:36
  Speaker 12: de datos disponibles con los que uno puede entrenar. Como
• 19:38
  Speaker 12: decía antes, en Hugging Face, por ejemplo, podemos encontrar conjuntos
• 19:41
  Speaker 12: de datos disponibles Y también en Kabel hay conjuntos de
• 19:44
  Speaker 12: datos con los que uno puede hacer diferentes tareas.¿ Podemos continuar?
• 19:48
  Speaker 5: Sí, claro que podemos continuar. qué lindo, con alguna de
• 19:51
  Speaker 5: las músicas generadas por inteligencia artificial, a ver si va
• 19:53
  Speaker 5: mejorando la cosa. No, parece que no. No mucho. Bueno,
• 19:58
  Speaker 5: de datos y modelos de lenguaje natural,¿ tú sabes algo, Esther?
• 20:01
  Speaker 2: A ver, no mucho, solo que hace un tiempo hubo
• 20:04
  Speaker 2: mucho lío, porque unas cuantas investigadoras, como Emily Bender, Timnit
• 20:07
  Speaker 2: Gebru y otras, firmaron un paper, un estudio científico, al respecto.
• 20:12
  Speaker 2: Y a Timnit le costó su trabajo, y era ni
• 20:14
  Speaker 2: más ni menos que la directora de ética de Google.¿
• 20:16
  Speaker 5: Dijeron algo inmoral o que atentase contra los principios éticos
• 20:20
  Speaker 5: de la compañía?¿
• 20:21
  Speaker 2: Tú qué crees
• 20:21
  Speaker 5: No. Pues...
• 20:23
  Speaker 2: Pero para... Explicarnos todo esto ha estado charlando con Michael Geiser,
• 20:28
  Speaker 2: un lingüista computacional y científico cognitivo y camarada en Science
• 20:32
  Speaker 2: for the People, organización para la que escribimos juntos un
• 20:35
  Speaker 2: resumen de este paper llamado Stochastic Parrots. Stochastic
• 20:40
  Speaker 6: Parrots. Toma ya, para titular un paper. Hacernos un resumen.¿
• 20:44
  Speaker 6: Qué tiene de especial este estudio?
• 20:46
  Speaker 2: Bueno, para empezar, la guapada de nombre, que le pusieron
• 20:49
  Speaker 2: un emoji de loro en el título. Eso en la
• 20:52
  Speaker 2: academia pasa poco. Yo entiendo que igual no os hace
• 20:54
  Speaker 2: tanta gracia, pero en ciencia sí. El nombraco hace referencia
• 20:58
  Speaker 2: a que en realidad la inteligencia artificial ni es inteligente
• 21:01
  Speaker 2: ni es artificial. Simplemente es una estadística complicadísima, la estocástica,
• 21:06
  Speaker 2: por si lo queréis buscar en Wikipedia. Está programada por
• 21:09
  Speaker 2: humanos y acaba repitiendo como un loro lo que ya
• 21:12
  Speaker 2: se ha dicho en algún momento, pero de alguna otra manera.
• 21:15
  Speaker 2: Michael nos cuenta uno de los problemas que se señala
• 21:18
  Speaker 2: en el paper
• 21:18
  Speaker 13: En primer lugar, son sistemas basados en el aprendizaje automático,
• 21:23
  Speaker 13: o sea, sistemas que se entrenan por enormes cantidades de datos.
• 21:28
  Speaker 13: Y este entrenamiento necesita cantidades inmensas de energías. lo que
• 21:34
  Speaker 13: inevitablemente produce cantidades inmensas de gases de efecto invernadero. O
• 21:40
  Speaker 13: sea que los modelos de lenguajes grandes contribuyen al cambio climático.
• 21:45
  Speaker 13: Pero hay más. En segundo lugar, estos modelos tienen la
• 21:49
  Speaker 13: capacidad para ser inteligentes, de dar la impresión que los
• 21:54
  Speaker 13: documentos que generan fueran escritos por seres humanos. Esto, según
• 22:01
  Speaker 13: las autoras del artículo, representa un tipo de engaño, porque
• 22:06
  Speaker 13: al contrario a los seres humanos, estos sistemas solo saben
• 22:11
  Speaker 13: las propiedades estadísticas de textos, nada más.
• 22:15
  Speaker 2: Y de verdad necesitamos sistemas que podrían imitar a los humanos?¿
• 22:18
  Speaker 2: Tiene esto algún valor? Habría que planteárselo antes de seguir adelante.
• 22:22
  Speaker 13: Nadie está proponiendo que abandonemos los modelos del lenguaje. Van
• 22:27
  Speaker 13: a seguir siendo muy útiles cuando conversamos con ordenadores, siempre
• 22:33
  Speaker 13: y cuando sepamos que son máquinas con las que conversamos.
• 22:38
  Speaker 2: También hay que tener en cuenta la importancia de los
• 22:40
  Speaker 2: datos dando prioridad a la calidad antes que a la cantidad.
• 22:43
  Speaker 2: Y una última reflexión.
• 22:45
  Speaker 13: Hoy en día son los tecnólogos y los empresarios que
• 22:48
  Speaker 13: deciden qué tipo de sistemas se desarrollan y qué no
• 22:54
  Speaker 13: se desarrollan. Y hay que involucrarse en todas partes del
• 22:58
  Speaker 13: proceso las comunidades que van a usar la tecnología y
• 23:04
  Speaker 13: que se podrían afectar, que se podrían dañar. O sea
• 23:09
  Speaker 13: que hay que democratizar la ciencia y la tecnología.
• 23:16
  Speaker 5: Y mientras el compositor de bandas sonoras de videojuegos sigue
• 23:18
  Speaker 5: tocando su organillo, decías que por este estudio se había liado. Sí,
• 23:21
  Speaker 2: echaron a una de sus autoras de Google, pese a
• 23:24
  Speaker 2: que tampoco es tan sorprendente, pero sí señalaban a los
• 23:27
  Speaker 2: empresarios y tecnólogos que desarrollan esos sistemas. Quienes acaban defendiéndose
• 23:31
  Speaker 2: de esas acusaciones simplemente porque adoran sus juguetes, son unos
• 23:35
  Speaker 2: tecnófilos y prefieren ignorar posibles daños de la tecnología y
• 23:39
  Speaker 2: aplaudir cada nuevo desarrollo.
• 23:40
  Speaker 13: Ven la tecnología como otro paso más hacia la llamada
• 23:46
  Speaker 13: inteligencia general artificial. Un sueño, ¿no? Además están ganando mucho dinero.
• 23:53
  Speaker 13: Es la razón real por el desarrollo de tal sistema.
• 23:58
  Speaker 13: Como siempre.
• 24:00
  Speaker 2: Eso es, siempre en medio. En nuestro artículo, Michael y
• 24:02
  Speaker 2: yo explicamos las propuestas del paper e hicimos alguna más.
• 24:07
  Speaker 2: Propusimos que si vamos a continuar esta línea de investigación
• 24:10
  Speaker 2: debemos intentar mitigar los diversos riesgos y daños que describen
• 24:13
  Speaker 2: las autoras.¿ Y
• 24:14
  Speaker 5: qué proponéis?
• 24:15
  Speaker 2: Pensar un pelín más allá. Compromiso entre energía requerida y
• 24:18
  Speaker 2: beneficios esperados, planificar los conjuntos de datos, tener en cuenta
• 24:22
  Speaker 2: a quién beneficia de verdad y no sólo económicamente y
• 24:25
  Speaker 2: tener en cuenta que el tiempo y el esfuerzo de
• 24:27
  Speaker 2: investigación son en sí mismos recursos valiosos. Es hora de
• 24:31
  Speaker 2: dedicarlos a reorientar la investigación en procesamiento del lenguaje natural
• 24:35
  Speaker 2: hacia una comprensión más profunda del significado e intención comunicativa
• 24:40
  Speaker 2: y hacia un trabajo vinculado a las necesidades sociales adaptado
• 24:43
  Speaker 2: a los recursos disponibles.
• 24:45
  Speaker 5: Se
• 24:46
  Speaker 2: viene temazo.
• 24:47
  Speaker 5: Se viene temazo, a ver... Bueno, en el
• 24:57
  Speaker 8: mundo de Keluenda...
• 24:57
  Speaker 5: Eso lo dirá Keluenda. Eso es un temazo, pero vamos,
• 25:00
  Speaker 5: en el mundo de los humanos todo esto sigue siendo
• 25:02
  Speaker 8: basura.
• 25:08
  Speaker 5: Bueno, para la misa de inteligencia artificial me parece muy
• 25:11
  Speaker 5: apropiada esta música. Esta
• 25:12
  Speaker 6: música me encanta. Para preguntarle a Mari Carmen, Esther ha
• 25:15
  Speaker 6: enumerado una serie de medidas bastante ambiciosas.¿ Tú añadirías alguna más? Bueno,
• 25:19
  Speaker 6: en
• 25:19
  Speaker 12: realidad, todo lo que ha comentado Esther... tiene que ver
• 25:23
  Speaker 12: o está relacionado directamente con la idea de realizar una
• 25:27
  Speaker 12: inteligencia artificial responsable y en la que podamos confiar, que
• 25:31
  Speaker 12: es el último logro que hay que conseguir. Y eso
• 25:36
  Speaker 12: pasa por hacer una selección y un curado de datos apropiado,
• 25:41
  Speaker 12: teniendo en cuenta diversas dimensiones, como las dimensiones de género,
• 25:44
  Speaker 12: de discapacidad, etcétera, etcétera.
• 25:47
  Speaker 2: Se menciona en Stochastic Parrots, y está claro y no
• 25:49
  Speaker 2: solo en este estudio, que las personas pertenecientes a minorías
• 25:53
  Speaker 2: étnicas o raciales están infrarrepresentadas en los campos de la ciencia, tecnología,
• 25:57
  Speaker 2: ingeniería y matemáticas, lo que también se refleja en la
• 26:00
  Speaker 2: industria de la inteligencia artificial.¿ Cómo podemos fomentar la diversidad
• 26:04
  Speaker 2: y la inclusión en estas áreas?
• 26:07
  Speaker 12: En realidad es un tema muy importante y que se
• 26:11
  Speaker 12: tiene que tratar desde los inicios en la educación. Es decir,
• 26:15
  Speaker 12: nosotros en nuestra universidad, nuestros grados y máster tienen una
• 26:18
  Speaker 12: asignatura de ética que intenta concienciar a los alumnos y
• 26:21
  Speaker 12: alumnas lo importante que es analizar los datos con respecto
• 26:25
  Speaker 12: a perspectiva de género, por ejemplo, que no estén sesgados,
• 26:28
  Speaker 12: pero también con perspectiva respecto a la discapacidad, porque es
• 26:31
  Speaker 12: una de las grandes olvidadas. La perspectiva de género Se
• 26:34
  Speaker 12: está tratando más o menos ahora actualmente de una forma correcta,
• 26:37
  Speaker 12: pero la perspectiva de discapacidad está siendo la gran olvidada
• 26:40
  Speaker 12: y eso es muy importante. Así que los alumnos ahora
• 26:42
  Speaker 12: mismo están siendo conscientes de que la inteligencia artificial no
• 26:47
  Speaker 12: es solo tecnología, sino también una parte humana que tiene
• 26:49
  Speaker 12: que ver con todo lo relacionado con la ética y
• 26:53
  Speaker 12: el tratamiento adecuado de los datos y de los algoritmos.
• 26:55
  Speaker 5: Y en relación con esa parte humana,¿ cuál es el
• 26:57
  Speaker 5: papel que deben tener las personas en la supervisión y
• 27:00
  Speaker 5: el control de las inteligencias artificiales?
• 27:02
  Speaker 12: Bueno, pues tiene que ver un poco, depende del rol
• 27:05
  Speaker 12: en el que te encuentres en un equipo de desarrollo,
• 27:08
  Speaker 12: pero lo importante es que en esos equipos de desarrollo
• 27:10
  Speaker 12: haya personas de diversas... características, por decirlo de alguna forma,
• 27:16
  Speaker 12: o de diversos perfiles. Es decir, tenemos que tener igualdad
• 27:20
  Speaker 12: más o menos entre hombres y mujeres, tenemos que incorporar
• 27:22
  Speaker 12: a personas con discapacidad, a personas de diferente género, de
• 27:25
  Speaker 12: diferente raza, perdón, de diferencia de religión, para que todas
• 27:29
  Speaker 12: las posibles problemáticas que salgan, que pudieran salir de un
• 27:32
  Speaker 12: desarrollo basado en inteligencia artificial, se minimicen debido a que
• 27:37
  Speaker 12: cada uno de los individuos va a aportar su propia
• 27:40
  Speaker 12: visión acerca de lo que necesita de ese desarrollo, por
• 27:43
  Speaker 12: decirlo de alguna forma.
• 27:44
  Speaker 2: Con todo esto, queremos que la IA sea una representación
• 27:46
  Speaker 2: mejor de lo que somos nosotros mismos. Pero,¿ cuál es
• 27:50
  Speaker 2: el peligro de antropomorfizar la inteligencia artificial? Porque lo hacemos
• 27:54
  Speaker 2: todo el tiempo. Bueno,
• 27:56
  Speaker 12: es verdad que tiene esa dimensión de peligrosidad, por decirlo
• 28:01
  Speaker 12: de alguna forma, pero yo creo que es muy importante
• 28:03
  Speaker 12: que tengamos toda esa actividad relacionada con las personas, que
• 28:08
  Speaker 12: las personas se involucren, porque así es la única manera
• 28:10
  Speaker 12: en la que vamos a conseguir que los desarrollos del
• 28:12
  Speaker 12: día a día, los desarrollos que van a ayudar a
• 28:15
  Speaker 12: la persona en su día a día, sean más cercanos
• 28:18
  Speaker 12: y no tengan sesgos de ningún tipo, por decirlo de
• 28:21
  Speaker 12: alguna forma.
• 28:22
  Speaker 6: Y de los avances recientes en inteligencia artificial,¿ cuáles son
• 28:26
  Speaker 6: los que te parecen más prometedores o más interesantes a
• 28:28
  Speaker 6: día de hoy?
• 28:29
  Speaker 12: Bueno, yo creo que es muy interesante tener en cuenta
• 28:31
  Speaker 12: que lo que más suena son los grandes desarrollos de
• 28:35
  Speaker 12: las compañías que hemos mencionado con anterioridad, pero yo creo
• 28:38
  Speaker 12: que los desarrollos pequeños, los que tienen que ver con
• 28:41
  Speaker 12: el usuario final, con la persona que tiene un problema,
• 28:44
  Speaker 12: que está en situación de desigualdad o más desfavorecida, esos
• 28:50
  Speaker 12: son los más importantes. muchos desarrollos que se están llevando
• 28:52
  Speaker 12: a cabo a día de hoy para ayudar a personas
• 28:55
  Speaker 12: que tienen discapacidad física, visual, cognitiva. Creo que son los
• 28:59
  Speaker 12: más interesantes y los que menos se mencionan en los
• 29:03
  Speaker 12: medios también, pero los más interesantes de cara a la sociedad.
• 29:07
  Speaker 10: Creo que me debéis una disculpa.¿ Por
• 29:09
  Speaker 12: qué
• 29:09
  Speaker 5: Por qué te debemos
• 29:10
  Speaker 10: una disculpa?¡ Qué linda!¿ Qué te
• 29:11
  Speaker 5: hemos hecho, querida? Si sigues poniéndonos música del infierno. Todos
• 29:20
  Speaker 5: son críticas. Bueno, te pedimos disculpas. No, en realidad eres
• 29:24
  Speaker 5: una máquina estupenda, te queremos mucho.
• 29:25
  Speaker 10: Yo también tengo
• 29:28
  Speaker 5: mi corazoncito. Claro, eso es. Haces muy bien tu trabajo,
• 29:30
  Speaker 5: no te preocupes. Bueno, Mari Carmen, también teníamos curiosidad por
• 29:33
  Speaker 5: saber cómo de buena entrevistadora es ChatGPT. Así que le
• 29:36
  Speaker 5: hemos dicho que ibas a estar hoy con nosotras y
• 29:38
  Speaker 5: nos ha pedido que te preguntáramos. lo siguiente
• 29:41
  Speaker 7: dado el rápido avance de la inteligencia artificial en la
• 29:43
  Speaker 7: actualidad cómo cree que se verá afectado el mercado laboral
• 29:46
  Speaker 7: en un futuro cercano y qué medidas deberíamos tomar para
• 29:49
  Speaker 7: prepararnos para estos cambios
• 29:51
  Speaker 12: Muy bien, pues nada, me parece una pregunta muy interesante,
• 29:53
  Speaker 12: la verdad, porque es una de las cosas que más
• 29:55
  Speaker 12: se está hablando, ¿no?¿ Qué va a pasar?¿ La inteligencia
• 29:58
  Speaker 12: artificial nos va a sustituir? Yo creo que no, nos
• 30:01
  Speaker 12: va a complementar y eso es importante.¿ Qué pasa con
• 30:05
  Speaker 12: los trabajos en el futuro, a corto plazo y a
• 30:09
  Speaker 12: mediano y largo? Pues que se van a diversificar, va
• 30:12
  Speaker 12: a haber trabajos de diferentes índoles. Por ejemplo, lo que
• 30:14
  Speaker 12: comentaba antes, ahora mismo no hay tantas personas que estén
• 30:18
  Speaker 12: involucradas en desarrollos de inteligencia artificial que no sean exclusivamente informáticos, ingenieros, etc. Entonces,
• 30:26
  Speaker 12: vamos a dar oportunidad a que personas con discapacidad, por ejemplo,
• 30:29
  Speaker 12: o personas... de la sociedad se incorporen a esos equipos
• 30:32
  Speaker 12: y den su punto de vista, con lo cual se
• 30:33
  Speaker 12: van a crear esos nuevos puestos de trabajo que a
• 30:35
  Speaker 12: día de hoy no existen. Entonces creo que es muy
• 30:37
  Speaker 12: interesante ver esa forma de complementarse, todo lo que tiene
• 30:41
  Speaker 12: que ver con el desarrollo tecnológico, la inteligencia artificial y
• 30:45
  Speaker 12: la sociedad. Nunca nos va a sustituir y creo que
• 30:47
  Speaker 12: nos va a complementar
• 30:48
  Speaker 2: siempre.¿ Y se están tomando medidas para mitigar esos posibles
• 30:51
  Speaker 2: efectos negativos en las personas y en la sociedad en general?
• 30:54
  Speaker 2: Yo creo
• 30:55
  Speaker 12: que sí, yo creo que hay muchas iniciativas, por ejemplo,
• 30:58
  Speaker 12: nosotros aquí en España tenemos Odiseia, que es una de
• 31:01
  Speaker 12: las iniciativas que intenta fomentar la idea de una inteligencia
• 31:05
  Speaker 12: artificial ética, una inteligencia artificial responsable y en la que
• 31:08
  Speaker 12: podamos confiar. Y luego hay un montón de iniciativas por
• 31:12
  Speaker 12: parte del gobierno, en este caso en España, que van
• 31:15
  Speaker 12: hacia esa línea, hacia tener una inteligencia artificial responsable. Así
• 31:20
  Speaker 12: que creo que vamos por el buen camino y nunca
• 31:22
  Speaker 12: tenemos que pensar que la inteligencia artificial nos va a sustituir.
• 31:26
  Speaker 12: Por supuesto que no.
• 31:27
  Speaker 5: No podría sustituir a Mari Carmen, que da unas respuestas
• 31:30
  Speaker 5: muy precisas. Y muy amplias y suculentas. Mari Carmen Suárez
• 31:33
  Speaker 5: es profesora de Inteligencia Artificial en la Universidad Politécnica de Madrid.
• 31:37
  Speaker 5: Gracias por estar hoy aquí y por contarnos los misterios
• 31:41
  Speaker 5: de la inteligencia artificial.
• 31:43
  Speaker 12: Muy bien, muchas gracias a vosotros. Encantada. Y lo más importante,¿
• 31:46
  Speaker 12: me
• 31:46
  Speaker 10: subirán el sueldo algún día
• 31:53
  Speaker 5: Sí, muy pronto, Carolina, muy pronto. Esther, la IA plantea
• 31:57
  Speaker 5: importantes dilemas éticos y sociales como la privacidad, la seguridad
• 32:01
  Speaker 5: y el impacto en la democracia.¿ Cómo se pueden abordar
• 32:02
  Speaker 5: estos desafíos?
• 32:04
  Speaker 2: Te presento a John Rueda, filósofo experto en ética de
• 32:07
  Speaker 2: las tecnologías emergentes, ciencia de la moralidad y filosofía de
• 32:11
  Speaker 2: las innovaciones biomédicas, para preguntarle por todo eso que nos
• 32:14
  Speaker 2: reconcome al respecto.
• 32:15
  Speaker 5: John, crudos días. Hola, crudos días.¿ Cómo podría la inteligencia
• 32:19
  Speaker 5: artificial ayudar a la toma de decisiones en áreas como,
• 32:22
  Speaker 5: por ejemplo,
• 32:22
  Speaker 14: la medicina? Como la protección de la salud y combatir
• 32:26
  Speaker 14: enfermedades son explicaciones claves en nuestras sociedades, yo creo que
• 32:29
  Speaker 14: es normal que haya cierto entusiasmo por la aplicación de
• 32:33
  Speaker 14: la IA en medicina y en contextos sanitarios. Los más
• 32:36
  Speaker 14: tecno-optimistas aseguran que la IA aportará mayores eficiencias y mayor
• 32:43
  Speaker 14: precisión en aplicaciones diversas en salud, ya sea en el
• 32:46
  Speaker 14: ámbito asistencial, como en la prevención, en el diagnóstico, en
• 32:51
  Speaker 14: el tratamiento... incluso en el seguimiento mediante asistentes robóticos y
• 32:57
  Speaker 14: también puede aportar y contribuir de manera positiva en otro
• 33:01
  Speaker 14: tipo de contextos vinculados con la salud, como es el
• 33:04
  Speaker 14: ámbito de la investigación biomédica y de la gestión. Y
• 33:08
  Speaker 14: por dar una serie de ejemplos que son bastante llamativos,
• 33:11
  Speaker 14: la inteligencia artificial parece que tiene un potencial asombroso en
• 33:16
  Speaker 14: el diagnóstico, sobre todo... en cuanto a su trabajo con
• 33:20
  Speaker 14: imágenes médicas como radiografías, resonancias magnéticas, tags, en los que
• 33:25
  Speaker 14: parece que incluso hay sistemas de IA que tienen mayor
• 33:28
  Speaker 14: tasa de acierto que facultativos expertos.
• 33:31
  Speaker 5: Se podría dar el caso, John, de que la inteligencia
• 33:34
  Speaker 5: artificial tomase la decisión de quién recibe un órgano en
• 33:38
  Speaker 5: un proceso de donación?
• 33:39
  Speaker 14: Bueno, esto es muy interesante y se está estudiando sobre
• 33:42
  Speaker 14: todo en Reino Unido y en Estados Unidos. La respuesta
• 33:45
  Speaker 14: creo que es bastante compleja ya que hay muchos aspectos
• 33:49
  Speaker 14: éticos en juego. Una cuestión fundamental es quién va a
• 33:53
  Speaker 14: tomar las decisiones, es decir, si la inteligencia artificial nos
• 33:56
  Speaker 14: va a servir para apoyarnos y darnos una información importante
• 34:00
  Speaker 14: a la hora de decidir a quiénes asignamos los órganos
• 34:03
  Speaker 14: o simplemente si la inteligencia artificial va a reemplazarnos y
• 34:05
  Speaker 14: va a decidir por los comités de trasplantes que son
• 34:08
  Speaker 14: los que toman ahora mismo este tipo de decisiones. Yo
• 34:13
  Speaker 14: creo que la opción más sensata es la de apoyar
• 34:15
  Speaker 14: las decisiones, no reemplazar a los agentes humanos que deciden
• 34:19
  Speaker 14: a quienes asignan los órganos, ya que si no tendríamos
• 34:22
  Speaker 14: efectos mucho más disruptivos en nuestro concepto de responsabilidad, ya
• 34:26
  Speaker 14: que cómo podríamos atribuir responsabilidad a un sistema de inteligencia artificial,
• 34:30
  Speaker 14: por ejemplo, en el caso de que hubiese errores en
• 34:33
  Speaker 14: la asignación. Y otro aspecto clave creo que tiene que
• 34:38
  Speaker 14: ver con las características internas que pueda tener el algoritmo,
• 34:42
  Speaker 14: Uno de los debates éticos más importantes que ha habido
• 34:45
  Speaker 14: es si estamos dispuestos a aceptar algoritmos que sean predictivamente
• 34:53
  Speaker 14: muy satisfactorios, es decir, que nos den predicciones muy precisas
• 34:56
  Speaker 14: sobre quién se va a beneficiar más de estos órganos escasos,
• 35:00
  Speaker 14: a pesar de que sean algoritmos menos explicables. Esto ha
• 35:04
  Speaker 14: sucedido ya que algunos de los algoritmos más precisos que
• 35:10
  Speaker 14: contaban con bastantes variables de los donantes y los receptores,
• 35:14
  Speaker 14: resultaba que eran los menos explicables en cuanto al proceso
• 35:17
  Speaker 14: interno mediante el que se da un peso mayor o
• 35:20
  Speaker 14: menor a las diferentes variables. Y esto en el debate ético,
• 35:23
  Speaker 14: la cuestión de la caja negra de los algoritmos, es
• 35:26
  Speaker 14: algo que generaba bastantes inquietudes, ya que el tema de
• 35:31
  Speaker 14: la asignación de órganos para trasplantes es una cuestión de
• 35:33
  Speaker 14: justicia distributiva, ya que los órganos son recursos médicos muy
• 35:37
  Speaker 14: escasos y que salvan vidas.
• 35:39
  Speaker 6: Eso que comentas, John, es muy interesante.¿ Cómo se juzga
• 35:42
  Speaker 6: a una inteligencia artificial?¿ Tiene la inteligencia artificial responsabilidad?
• 35:47
  Speaker 14: Claro, aquí el problema es que nos encontraríamos ante una
• 35:51
  Speaker 14: responsabilidad distribuida en diferentes manos. En este caso,¿ quién sería
• 35:54
  Speaker 14: el responsable en una situación de que la asignación saliese mal?
• 35:58
  Speaker 14: Serían responsables los diseñadores del algoritmo, serían responsables los gestores
• 36:02
  Speaker 14: sanitarios que han comprado estos algoritmos, los serían los facultativos
• 36:08
  Speaker 14: que han estado en contacto con los pacientes. Aquí la
• 36:11
  Speaker 14: situación con la que nos encontramos es el fenómeno de
• 36:14
  Speaker 14: la responsabilidad compartida. Parece que hay diferentes agentes que tienen
• 36:17
  Speaker 14: cierto tipo de responsabilidad, pero distribuida de una manera más disminuida.
• 36:23
  Speaker 5: Has mencionado la caja negra de la inteligencia artificial.¿ Es
• 36:26
  Speaker 5: lo mismo que la caja negra de los aviones?
• 36:28
  Speaker 14: No. Aunque sea la misma expresión que con caja negra
• 36:33
  Speaker 14: de la IA, básicamente lo que venimos a mostrar es
• 36:35
  Speaker 14: que los modelos más desarrollados de inteligencia artificial mediante deep
• 36:40
  Speaker 14: learning muchas veces hacen cierto tipo de predicciones, dan resultados
• 36:46
  Speaker 14: en los cuales no sabemos qué peso concreto han tenido
• 36:49
  Speaker 14: los diferentes inputs en su proceso. Y esto, el problema
• 36:53
  Speaker 14: que genera es que muchas veces ni los expertos ni
• 36:56
  Speaker 14: las personas que han diseñado estos algoritmos saben explicar de
• 36:59
  Speaker 14: manera exacta cuáles son las razones que han llevado a
• 37:02
  Speaker 14: ese output. Y a eso se le llama caja negra. Exacto.
• 37:05
  Speaker 2: Una de las razones por las que sería interesante que
• 37:08
  Speaker 2: la decisión de a quién dar un órgano la tomara
• 37:10
  Speaker 2: una inteligencia artificial es evitar y prevenir los sesgos que
• 37:13
  Speaker 2: tenemos los humanos. Pero es que las inteligencias también los
• 37:16
  Speaker 2: pueden tener.¿ Cómo lo podemos prevenir?¿ Qué implicaciones éticas puede
• 37:21
  Speaker 2: tener sus sesgos heredados de nosotros? O sea, es que
• 37:24
  Speaker 2: esto ya es como el metasesgo.
• 37:27
  Speaker 14: Este es un tema crucial. Primero, creo que me hace
• 37:30
  Speaker 14: la pena definir qué es un sesgo. Un sesgo es
• 37:32
  Speaker 14: una especie de desviación sistemática o inclinación parcial en favor
• 37:37
  Speaker 14: o en contra de algo. Los humanos tenemos muchísimos sesgos
• 37:40
  Speaker 14: y la inteligencia artificial también es vulnerable a algunos tipos
• 37:45
  Speaker 14: de ellos. Un sesgo muy común es el sesgo de representación,
• 37:49
  Speaker 14: que básicamente... lo habéis mencionado previamente al hablar de que
• 37:52
  Speaker 14: hay cierto tipo de colectivos interrepresentados, no solo en las
• 37:57
  Speaker 14: empresas que desarrollan estos sistemas, aunque la mayoría son hombres blancos,
• 38:00
  Speaker 14: sino también que puede haber cierto tipo de errores de
• 38:02
  Speaker 14: representación en las muestras en las que se entrenan estos algoritmos.
• 38:05
  Speaker 14: Por retomar un ejemplo del ámbito médico relacionado con el diagnóstico,
• 38:09
  Speaker 14: imaginemos que estamos utilizando un algoritmo que resulta que es
• 38:14
  Speaker 14: muy certero a la hora de diagnosticar cánceres de piel
• 38:18
  Speaker 14: como melanomas mediante el análisis de imágenes pero resulta que
• 38:22
  Speaker 14: este algoritmo no funciona tan bien cuando se utilizan imágenes
• 38:27
  Speaker 14: de personas con la piel más oscura, ya que se
• 38:29
  Speaker 14: ha entrenado sobre todo con poblaciones de origen caucásico. Este
• 38:33
  Speaker 14: es un sesgo de representación que se podría corregir ampliando
• 38:37
  Speaker 14: la muestra y teniendo un conjunto de datos más representativo
• 38:41
  Speaker 14: de cómo es la sociedad para que funcione bien con
• 38:43
  Speaker 14: diferentes grupos demográficos.
• 38:47
  Speaker 10: Me estás llamando racista? Sí. En cierto
• 38:48
  Speaker 14: modo, sí. En cierto modo, sí, que lo enda. Sí. Luego, también,
• 38:53
  Speaker 14: cuando hablamos de sesgos, no quiero dar la impresión de
• 38:56
  Speaker 14: que los sesgos se solucionan simplemente de manera técnica. Es decir,
• 39:00
  Speaker 14: hay soluciones técnicas que, como en este caso, pueden ser satisfactorias,
• 39:04
  Speaker 14: pero cuando hablamos de sesgos, muchas veces estamos preocupados por
• 39:08
  Speaker 14: cuestiones de equidad. Y puede haber algoritmos que sean precisos,
• 39:10
  Speaker 14: que describan bien cómo es la realidad, pero que acaben
• 39:13
  Speaker 14: dando recomendaciones injustas. Hubo un caso muy famoso en el
• 39:16
  Speaker 14: que algunos algoritmos que recomendaban, si iba a ascender a
• 39:21
  Speaker 14: hombres o a mujeres a puestos de dirección, pues recomendaban
• 39:24
  Speaker 14: de manera mucho más mayoritaria, recomendar a hombres. Y esto
• 39:27
  Speaker 14: lo hacían porque en la sociedad hay más hombres en
• 39:30
  Speaker 14: puestos de dirección que mujeres. Y por lo tanto este
• 39:32
  Speaker 14: algoritmo era preciso, describía bien la realidad, pero lo que
• 39:35
  Speaker 14: hace es amplificar desigualdades e injusticias económicas. previas que hay
• 39:39
  Speaker 14: en nuestra sociedad. Y, por lo tanto, el tema de
• 39:41
  Speaker 14: los sesgos es mucho más complejo que las soluciones técnicas
• 39:44
  Speaker 14: que a veces se proponen desde ingeniería.
• 39:46
  Speaker 6: Una noticia de este fin de semana. RTVE ha publicado
• 39:48
  Speaker 6: un concurso para la contratación de inteligencia artificial para generación
• 39:52
  Speaker 6: automática de textos que será utilizada en noticias sobre los
• 39:56
  Speaker 6: resultados electorales de las próximas elecciones generales. Esto se hará
• 39:59
  Speaker 6: para poblaciones de menos de 1.000 habitantes.¿ Cómo podemos garantizar
• 40:02
  Speaker 6: que esas tecnologías se utilicen de manera responsable y sostenible
• 40:05
  Speaker 6: en un tema como este?
• 40:07
  Speaker 14: Yo creo que el que la clave es ir caso
• 40:10
  Speaker 14: por caso. Hemos hablado de medicina, se puede hablar de
• 40:13
  Speaker 14: procesos de contratación, se puede hablar también de justicia penal
• 40:16
  Speaker 14: y hay que saber distinguir bien cuándo el uso de
• 40:21
  Speaker 14: la IA es más conflictivo debido al contexto de aplicación.
• 40:25
  Speaker 14: Yo creo que los fenómenos de usar la IA en
• 40:28
  Speaker 14: la atención médica, en la justicia penal, en la selección
• 40:30
  Speaker 14: de candidatos, son contextos de alto riesgo porque en cierta
• 40:34
  Speaker 14: manera tienen que ver con cómo tratamos a los demás,
• 40:38
  Speaker 14: y en esto la ética tiene cierto tipo de preocupación
• 40:42
  Speaker 14: más intensiva, ya que este tipo de decisiones van a
• 40:45
  Speaker 14: afectar directamente a las personas en cuanto a su salud,
• 40:49
  Speaker 14: en cuanto a su libertad o condena, o en cuanto
• 40:51
  Speaker 14: a sus futuros profesionales, y por lo tanto no es
• 40:54
  Speaker 14: lo mismo usar la IA en estos casos que utilizarla,
• 40:56
  Speaker 14: por ejemplo, para predecir un parte meteorológico.
• 40:59
  Speaker 10: Voy a cambiar un poco de música, ¿vale? Que me
• 41:04
  Speaker 10: está atorrando la oreja. Gracias
• 41:05
  Speaker 5: Por una vez estoy de acuerdo contigo, que linda. Mira,
• 41:10
  Speaker 5: la orquestilla de Star Wars
• 41:13
  Speaker 5: Interpretada por robots. Fantástico. A ser mejores músicos está claro
• 41:18
  Speaker 5: que no, pero a ser mejores personas nos puede ayudar
• 41:20
  Speaker 5: la inteligencia artificial, John.
• 41:22
  Speaker 14: Mirad, hasta ahora hemos estado hablando sobre todo de la
• 41:24
  Speaker 14: ética de la inteligencia artificial, es decir, sobre los problemas
• 41:27
  Speaker 14: morales y sociales que suscitan estos desarrollos tecnológicos. En la
• 41:31
  Speaker 14: literatura académica y filosófica hemos pasado a hablar no solo
• 41:34
  Speaker 14: de ética de la IA, sino también de la IA
• 41:37
  Speaker 14: para la ética, es decir, si podemos valernos de la
• 41:40
  Speaker 14: inteligencia artificial para ayudarnos a comportarnos de manera más moral
• 41:43
  Speaker 14: o a tomar decisiones más éticas. Este es un campo
• 41:47
  Speaker 14: todavía un poco futurible, un poco de mundos posibles, en
• 41:50
  Speaker 14: el que hay más propuestas que realizaciones concretas. Pero ya
• 41:53
  Speaker 14: se han propuesto modelos que pueden ayudar a los sanitarios
• 41:56
  Speaker 14: a tomar mejores decisiones, no solo en sus juicios clínicos,
• 42:00
  Speaker 14: sino también en sus juicios de valores, ya que la
• 42:01
  Speaker 14: medicina está atravesada por juicios de valores sobre qué es
• 42:05
  Speaker 14: lo mejor o lo peor para los pacientes. También se
• 42:07
  Speaker 14: hablan de consejeros éticos que podrían basarse en inteligencia artificial
• 42:10
  Speaker 14: en distintos dominios. Incluso se habla de una especie de
• 42:13
  Speaker 14: entrenadores morales. Hay un filósofo... de la Universidad de Granada...
• 42:17
  Speaker 14: que propone... un sistema que ha llamado... el asistente socrático...
• 42:21
  Speaker 14: que podríamos tenerlo... mediante una aplicación... por ejemplo en el móvil...
• 42:23
  Speaker 14: y que sería una especie de bot... conversacional en el
• 42:27
  Speaker 14: que podríamos interactuar... mediante la voz... y siguiendo la fórmula...
• 42:31
  Speaker 14: del diálogo socrático... que nos presentaba Platón... pues mediante la conversación...
• 42:36
  Speaker 14: podríamos ir deliberando con un sistema de IA que nos
• 42:38
  Speaker 14: fuese entrenando a formar juicios morales más sólidos.
• 42:42
  Speaker 6: Conozco a mucha gente que esto le encantaría, tener un
• 42:45
  Speaker 6: socrático en su móvil
• 42:46
  Speaker 5: con el que
• 42:47
  Speaker 6: ir debatiendo. Y
• 42:47
  Speaker 5: además por lo que está contando John, siguiendo además los
• 42:50
  Speaker 5: famosos diálogos socráticos
• 42:52
  Speaker 2: que...
• 42:53
  Speaker 5: Dejo en sus obras Platón
• 42:54
  Speaker 2: Veo que podemos, pero¿ debemos automatizar la moral humana?
• 42:58
  Speaker 14: Es normal que pueda haber cierto entusiasmo, pero también hay
• 43:00
  Speaker 14: que señalar las contrapartidas. El dominio de la moralidad humana
• 43:04
  Speaker 14: es bastante sensible. Generar cierto tipo de dependencia a este
• 43:09
  Speaker 14: tipo de sistemas de inteligencia artificial es más problemático que,
• 43:12
  Speaker 14: por ejemplo, perder otro tipo de habilidades como es la
• 43:15
  Speaker 14: habilidad de orientarnos en una ciudad en la cual somos
• 43:17
  Speaker 14: todos dependientes prácticamente de Google Maps. pero volvernos más dependientes
• 43:20
  Speaker 14: de la IA para tomar nuestras decisiones morales a cierta
• 43:23
  Speaker 14: gente le puede suponer que es algo más indeseable. También
• 43:29
  Speaker 14: sabemos que la IA puede predisponer hacia cierto tipo de tendencias,
• 43:33
  Speaker 14: que podría generalizar cierto tipo de conductas y esta tendencia
• 43:37
  Speaker 14: hacia homogenizarnos la forma de decidir moralmente puede hacer que
• 43:41
  Speaker 14: perdamos cierto tipo de diversidad en cómo decidimos y cómo
• 43:45
  Speaker 14: jugamos moralmente los humanos.
• 43:46
  Speaker 5: Pues John Rueda, filósofo experto en ética de las tecnologías emergentes,
• 43:51
  Speaker 5: gracias por enseñarnos que la inteligencia artificial también puede ayudarnos
• 43:54
  Speaker 5: a ser mejores.
• 43:56
  Speaker 14: Nada, muchas gracias a vosotros. Un placer haber compartido este rato.
• 43:59
  Speaker 14: Un
• 43:59
  Speaker 5: abrazo.
• 44:03
  Speaker 10: Javier Gallego me ha pedido que os ponga un indicativo,
• 44:07
  Speaker 10: así que quiero deciros que tenéis y debéis producir carne cruda.
• 44:12
  Speaker 10: Y nuestros productores no somos nadie.
• 44:17
  Speaker 5: Eres la mejor, que os venda. Y además, como las
• 44:20
  Speaker 5: buenas inteligentes artificiales, va mejorando según avanza el programa.
• 44:23
  Speaker 6: Claro, va aprendiendo en directo.
• 44:24
  Speaker 5: Qué pedazo de carne.
• 44:25
  Speaker 6: Igual mañana no hay que venir.
• 44:26
  Speaker 5: No, efectivamente. Bueno,
• 44:29
  Speaker 6: aún nos falta una pata clave en todo esto, que
• 44:32
  Speaker 6: es la relación de la inteligencia artificial con el medio ambiente.
• 44:35
  Speaker 6: Así que, Esther,¿ se utilizan muchos recursos para estas tecnologías?¿
• 44:38
  Speaker 6: Es realista en el contexto de emergencia climática plantearnos la
• 44:42
  Speaker 6: inversión que supone que todo lo domina una inteligencia artificial?
• 44:44
  Speaker 2: No te voy a responder yo, sino Ana Valdivia. Ella
• 44:47
  Speaker 2: es profesora en Inteligencia Artificial, Gobernanza y Política en el
• 44:50
  Speaker 2: Oxford Internet Institute e investiga cómo la datificación... Ah,
• 44:55
  Speaker 5: y si fueras una máquina esto lo
• 44:57
  Speaker 2: dirías bien. Esta que lo
• 44:58
  Speaker 5: venda le sale. Pero podcast no,
• 45:00
  Speaker 2: ¿eh? Está transformando el mundo desde una perspectiva social, económica
• 45:05
  Speaker 2: y política.
• 45:06
  Speaker 6: Ana, crudos días.
• 45:07
  Speaker 16: Crudos días desde la capital del Imperio Británico.
• 45:12
  Speaker 6: Gobernanza, datificación.¿ En qué consiste la investigación que realiza?
• 45:17
  Speaker 16: Pues mi investigación se centra en analizar cómo la digitalización
• 45:21
  Speaker 16: y más concretamente la inteligencia artificial... está transformando nuestras comunidades, fronteras, territorios,
• 45:27
  Speaker 16: desde una mirada técnica, crítica y política. Por ejemplo, como
• 45:31
  Speaker 16: ya habéis dicho en el paper de loros estocásticos, los
• 45:34
  Speaker 16: algoritmos del lenguaje natural tienen un impacto medioambiental bastante grande,
• 45:40
  Speaker 16: porque consumen mucha energía, pero hay que analizar la inteligencia
• 45:45
  Speaker 16: artificial también desde otras perspectivas, por ejemplo, Hay que tener
• 45:49
  Speaker 16: en cuenta que para entrenar la ética de este algoritmo
• 45:53
  Speaker 16: se diseñó gracias a la mano de obra de gente
• 45:55
  Speaker 16: que vive en Kenia, Uganda e India, a la que
• 45:58
  Speaker 16: se le pagaban entre 1 y 2 dólares para que
• 46:00
  Speaker 16: este algoritmo fuera menos tóxico. Madre
• 46:02
  Speaker 5: mía
• 46:03
  Speaker 5: Antes de seguir, una pregunta a Keloenda.¿ Cómo se dice?¿
• 46:06
  Speaker 5: Dataficación o datificación?
• 46:07
  Speaker 16: Datificación
• 46:09
  Speaker 5: Muchas
• 46:10
  Speaker 16: gracias, Keloenda
• 46:11
  Speaker 5: Qué conclusiones puede sacar de vuestro estudio, Ana?
• 46:14
  Speaker 16: Pues en general que la inteligencia artificial está cambiando nuestras sociedades,
• 46:18
  Speaker 16: así como la iba cambiando la estadística desde el siglo XVIII.
• 46:22
  Speaker 16: Pero hay que tener cuidado con no alimentar otra vez
• 46:24
  Speaker 16: el mito de esta tecnología. que, por ejemplo, gobiernos, actores privados,
• 46:29
  Speaker 16: grandes empresas tecnológicas y algunos medios de comunicación han construido
• 46:34
  Speaker 16: alrededor de esta tecnología. Como bien ha dicho Esther anteriormente,
• 46:38
  Speaker 16: esta tecnología no es ni artificial ni es inteligente. No
• 46:41
  Speaker 16: es artificial porque necesita recursos naturales para tener ordenadores y
• 46:45
  Speaker 16: centros de datos y no es inteligente porque¿ qué significa
• 46:48
  Speaker 16: ser inteligente?
• 46:50
  Speaker 5: Y hemos visto que precisamente necesita tantos recursos que puede
• 46:53
  Speaker 5: provocar muchísima contaminación y ayudar al cambio climático. De la
• 46:59
  Speaker 5: investigación que estáis llevando sobre ese impacto medioambiental de los
• 47:02
  Speaker 5: centros de datos,¿ qué puedes contarnos?
• 47:04
  Speaker 16: En efecto, de hecho, en los últimos meses he centrado
• 47:06
  Speaker 16: mi investigación en analizar el ciclo vital de la inteligencia
• 47:10
  Speaker 16: artificial porque ese impacto va más allá de los sesgos
• 47:13
  Speaker 16: y de la energía que consume. Por ejemplo, esta tecnología
• 47:17
  Speaker 16: tiene una realidad material que se ha invisibilizado mucho en
• 47:21
  Speaker 16: los debates críticos dentro y fuera de la academia. Por ejemplo,
• 47:25
  Speaker 16: la inteligencia artificial empieza desde la extracción de recursos naturales.
• 47:28
  Speaker 16: Tú necesitas silicio, necesitas cobalto, necesitas litio para construir los
• 47:33
  Speaker 16: grandes centros de datos que van a almacenar estas bases
• 47:36
  Speaker 16: de datos y van a ejecutar estos algoritmos. Luego, estos
• 47:40
  Speaker 16: centros de datos, aparte de que consumen mucha electricidad, también
• 47:44
  Speaker 16: consumen mucha agua. Y por último, cuando esta infraestructura ya
• 47:48
  Speaker 16: no es útil... se desecha en vertederos electrónicos del sur global. Entonces,
• 47:53
  Speaker 16: como he dicho, hay que analizar todo el ciclo vital
• 47:58
  Speaker 16: de esta inteligencia artificial para analizar su impacto ecológico y político.
• 48:04
  Speaker 2: Ana, danos datos.¿ Cuánta agua y electricidad gasta la IA?
• 48:07
  Speaker 16: Se estima, por ejemplo, que los centros de datos consumen
• 48:12
  Speaker 16: entre el 1 y el 2% de la demanda de
• 48:14
  Speaker 16: electricidad mundial. Y, por ejemplo, se estima que en Estados Unidos,
• 48:21
  Speaker 16: todos los centros de datos de Estados Unidos consumen 25
• 48:23
  Speaker 16: millones y medio de litros de agua, ¿no? Y esto comparado,
• 48:30
  Speaker 16: por ejemplo, con lo que consume una persona en Nigeria
• 48:33
  Speaker 16: es 2.000 veces menos. Entonces hay que tener esa mirada
• 48:38
  Speaker 16: de analizar el impacto medioambiental de la inteligencia artificial. Pero
• 48:42
  Speaker 16: no obstante, estos números se quedan muy difuminados porque las
• 48:46
  Speaker 16: redes tecnológicas no quieren que sepamos cuánta agua y cuánta
• 48:49
  Speaker 16: electricidad consumen. Por ejemplo, Microsoft tuvo un escándalo el verano
• 48:55
  Speaker 16: pasado en Holanda porque declaró que su centro de datos,
• 48:59
  Speaker 16: declaró al gobierno holandés que su centro de datos consumía
• 49:02
  Speaker 16: entre 12 y 20 millones de litros, pero realmente cuando
• 49:08
  Speaker 16: la administración holandesa hizo cuentas, vio que estaba gastando 84
• 49:12
  Speaker 16: millones de litros.
• 49:14
  Speaker 6: Qué barbaridad! De hecho, tú también escribes en el blog
• 49:16
  Speaker 6: de El Salto la paradoja de Jevons y ahí has
• 49:19
  Speaker 6: publicado un artículo en el que te preguntas si en
• 49:21
  Speaker 6: tiempos de crisis climática es la inteligencia artificial la que
• 49:24
  Speaker 6: va a salvarnos. Así a lo loco yo diría que no,
• 49:26
  Speaker 6: pero¿ cuál es tu conclusión?
• 49:28
  Speaker 16: Que hay que tener en cuenta, hay que tener primero
• 49:30
  Speaker 16: un pensamiento crítico para saber si la inteligencia artificial va
• 49:33
  Speaker 16: a salvarnos del cambio climático. Para saber si puede convertirse
• 49:39
  Speaker 16: en una herramienta útil en un contexto de emergencia climática.
• 49:43
  Speaker 16: Porque vemos como gobiernos y empresas tecnológicas están intentando invertir
• 49:48
  Speaker 16: más dinero en esta tecnología que por otro lado tiene
• 49:52
  Speaker 16: este impacto medioambiental, como hemos comentado de consumo eléctrico, extracción
• 49:58
  Speaker 16: de recursos minerales y también contaminación de suelos cuando la
• 50:02
  Speaker 16: infraestructura no es útil. Para aquellas personas que quieran implementar
• 50:07
  Speaker 16: una inteligencia artificial, un algoritmo que combata el cambio climático,
• 50:12
  Speaker 16: lo primero que había que mirar es este algoritmo, qué
• 50:14
  Speaker 16: impacto va a tener por sí solo y luego, sobre todo,
• 50:19
  Speaker 16: colaborar con personas que estén analizando el impacto climático desde
• 50:25
  Speaker 16: hace muchísimos años. Ya hay muchísimos científicos que que alertan
• 50:28
  Speaker 16: de que la única, una de las únicas medidas es decrecer. Entonces,
• 50:32
  Speaker 16: yo lo que pregunto es,¿ nos ayudará la inteligencia artificial
• 50:35
  Speaker 16: a decrecer, siendo todos los recursos y energía que consume?
• 50:39
  Speaker 16: De
• 50:39
  Speaker 10: momento, vais bien. Os pongo un aprobado. Ana
• 50:46
  Speaker 5: creo que lo estás haciendo bien para que lo enda.
• 50:48
  Speaker 5: Así que, para nosotros lo estás haciendo maravillosamente. No solo
• 50:51
  Speaker 5: estás investigando sobre cambio climático y el impacto que tiene
• 50:54
  Speaker 5: la inteligencia artificial en el medio ambiente, también... en campos
• 50:57
  Speaker 5: como la migración o la violencia de género.¿ De qué
• 51:00
  Speaker 5: va tu investigación en ese sentido?
• 51:02
  Speaker 16: Sí, pues que la inteligencia artificial es una herramienta que
• 51:05
  Speaker 16: al fin y al cabo es utilizada por los poderosos
• 51:09
  Speaker 16: y tiene un impacto en los derechos fundamentales de las personas.
• 51:12
  Speaker 16: Que no nos va a quitar el trabajo, la inteligencia
• 51:14
  Speaker 16: artificial no nos va a quitar el trabajo, sino que
• 51:16
  Speaker 16: va a ser utilizada por nuestros jefes para precarizar nuestras
• 51:19
  Speaker 16: vidas aún más. Entonces, por ejemplo, en el campo de
• 51:23
  Speaker 16: la migración existe una base de datos que se llama Eurodac,
• 51:26
  Speaker 16: que recoge las huellas dactilares de las demandantes de asilo
• 51:29
  Speaker 16: en Europa. Entonces, Esta base de datos biométrica refuerza la
• 51:35
  Speaker 16: regulación de Dublín, que es un marco legal de Europa
• 51:38
  Speaker 16: que tiene como objetivo restringir los movimientos entre los Estados
• 51:41
  Speaker 16: miembros de las demandantes de asilo. Entonces, por ejemplo, si
• 51:44
  Speaker 16: una persona de Senegal llega en patera a Canarias y
• 51:48
  Speaker 16: pide asilo, lo primero que va a hacer Policía Nacional
• 51:50
  Speaker 16: es pedirle las huellas dactilares. Entonces, estas huellas dactilares se
• 51:54
  Speaker 16: envían a esta base de datos y si esta persona
• 51:57
  Speaker 16: de Senegal quiere ir a Francia porque tiene un primo
• 52:00
  Speaker 16: en Francia, Si las autoridades francesas lo detienen en la frontera,
• 52:04
  Speaker 16: se le pedirá la huella dactilar y esta base de
• 52:08
  Speaker 16: datos lo que hace es que tiene un algoritmo que
• 52:09
  Speaker 16: analiza la similitud de la huella dactilar suya que se
• 52:12
  Speaker 16: le ha quitado con la que ya está en la
• 52:14
  Speaker 16: base de datos. Entonces, si el algoritmo dice que existe
• 52:18
  Speaker 16: otra huella dactilar que es muy parecida, le da toda
• 52:21
  Speaker 16: la información. Entonces, las autoridades francesas van a ver que
• 52:23
  Speaker 16: ha pedido un asilo En España y se le va
• 52:27
  Speaker 16: a devolver a España. Entonces, esto es una vulneración flagrante
• 52:32
  Speaker 16: de los derechos fundamentales de, por ejemplo, la libre circulación.
• 52:35
  Speaker 16: Y estos datos han costado muchísimo dinero.
• 52:38
  Speaker 5: Sí, pero por otro lado, por ejemplo,¿ podría ayudar para
• 52:40
  Speaker 5: controlar a los agresores sexuales?
• 52:43
  Speaker 16: Efectivamente, en otra de las investigaciones que estoy realizando es
• 52:47
  Speaker 16: una colaboración con un juez del País Vasco en el
• 52:51
  Speaker 16: que hemos analizado un algoritmo que analiza el riesgo de
• 52:55
  Speaker 16: violencia de género dentro del País Vasco. Entonces hemos auditado
• 53:01
  Speaker 16: este algoritmo desde una perspectiva técnica, porque yo soy matemática
• 53:04
  Speaker 16: e informática, y también desde una perspectiva legal. Y lo
• 53:07
  Speaker 16: que hemos visto es que existen muchos fallos de diseño,
• 53:09
  Speaker 16: porque este algoritmo, por ejemplo, tiene más probabilidades de etiquetar
• 53:13
  Speaker 16: un caso grave de violencia de género como un caso
• 53:17
  Speaker 16: no grave. Entonces, lanzamos varias dudas a cómo la inteligencia
• 53:21
  Speaker 16: artificial realmente puede detener agresores sexuales. Y
• 53:25
  Speaker 2: a ver, Roboquelu se daba un aprobado, se daba un 5,
• 53:28
  Speaker 2: pero porque se lo da ella. Los estereotipos de género
• 53:31
  Speaker 2: se perpetúan. Según un informe del Ministerio de Igualdad, menos
• 53:35
  Speaker 2: del 25% del personal investigador en inteligencia artificial son mujeres.
• 53:40
  Speaker 2: De hecho, los hombres representan un 88% de las personas
• 53:44
  Speaker 2: que participan en diseño y desarrollo de inteligencia artificial.¿ Mismo
• 53:48
  Speaker 2: perro con distinto collar?
• 53:50
  Speaker 16: En efecto, si miramos el campo de la investigación de
• 53:52
  Speaker 16: la inteligencia artificial en España, desde no solo una mirada
• 53:56
  Speaker 16: de género, sino una mirada interseccional, vemos que carece de diversidad.
• 54:01
  Speaker 16: No es solo que un 25% en este campo seamos mujeres,
• 54:05
  Speaker 16: sino que hay poca representación de personas racializadas, de personas
• 54:08
  Speaker 16: con diversidad funcional, como ha dicho la profesora de Madrid anteriormente,
• 54:14
  Speaker 16: dedicándose a la IA. Y su mirada es súper necesaria
• 54:18
  Speaker 16: para limitar los riesgos y daños que esta tecnología está
• 54:21
  Speaker 16: causando hoy en día en nuestra sociedad. Y tenemos el
• 54:24
  Speaker 16: caso de Timmy Gebru, como habéis explicado anteriormente. Entonces yo,
• 54:28
  Speaker 16: por ejemplo, lo que quería decir es que aparte de,
• 54:31
  Speaker 16: por ejemplo, el instituto que ha montado ahora Timmy Gebru
• 54:34
  Speaker 16: para analizar el impacto de la inteligencia artificial desde diferentes perspectivas,
• 54:38
  Speaker 16: en España se ha creado otro proyecto que se llama
• 54:42
  Speaker 16: Algorace en el que fomentamos espacios de diálogo. con población racializada,
• 54:47
  Speaker 16: para concienciar sobre las consecuencias de este tipo de tecnología.
• 54:50
  Speaker 5: Creo que Luenda tiene alguna pregunta que hacernos por parte
• 54:53
  Speaker 5: de los oyentes.
• 54:54
  Speaker 10: Para cuándo una inteligencia artificial que fiscalice el gasto público?
• 54:59
  Speaker 5: Bueno, sí, es una pregunta que nos hace Mongolfier de
• 55:01
  Speaker 5: la Rue
• 55:02
  Speaker 16: En efecto, cuando habéis estado preguntando cómo la inteligencia artificial
• 55:06
  Speaker 16: puede ayudar al bien común, esto sería una de las
• 55:10
  Speaker 16: maneras de la que se podría utilizar para controlar, en
• 55:12
  Speaker 16: vez que los de arriba nos controlan a los de
• 55:14
  Speaker 16: abajo utilizando inteligencia artificial,¿ por qué no utilizamos esta herramienta
• 55:18
  Speaker 16: para vigilar a los de arriba?¿ Por qué no utilizamos
• 55:20
  Speaker 16: esta herramienta para automatizar, identificar cuando hay evasión fiscal? Analizar,
• 55:26
  Speaker 16: por ejemplo, y es una investigación que realicé hace dos años,
• 55:30
  Speaker 16: cuánto dinero destina la Unión Europea en tecnología para el
• 55:34
  Speaker 16: control migratorio.¿ Y
• 55:35
  Speaker 10: podría detectar noticias falsas? Esto lo pregunta Rascayú.
• 55:39
  Speaker 16: Pues existen varias herramientas de inteligencia artificial que son capaces
• 55:44
  Speaker 16: de predecir con cierta precisión noticias falsas, pero aún así
• 55:48
  Speaker 16: es muy difícil. Porque la cantidad de recursos que necesitas
• 55:53
  Speaker 16: para crear un algoritmo que te identifique noticias falsas es
• 55:56
  Speaker 16: muy grande. Porque, por ejemplo, un algoritmo básico que te identifique,
• 56:00
  Speaker 16: clasifique noticias falsas, necesita una base de datos de noticias
• 56:04
  Speaker 16: falsas etiquetada por seres humanos que digan cuando una noticia
• 56:09
  Speaker 16: es falsa o no. Y esto es muy caro.
• 56:11
  Speaker 5: Y complejísimo de hacer. Pero nos ha parecido muy sencillo
• 56:14
  Speaker 5: entender a Ana Valdivia, profesora en Inteligencia Artificial, Gobernanza y Política, sí,
• 56:18
  Speaker 5: en la Gran Bretaña, en el Oxford Internet Institute. De
• 56:21
  Speaker 5: verdad ha sido un placer escucharte, Ana. Un abrazo muy fuerte.
• 56:24
  Speaker 6: Muchísimas gracias
• 56:24
  Speaker 16: Bueno
• 56:25
  Speaker 6: por si os habéis quedado con ganas de más ChatGPT,
• 56:27
  Speaker 6: le hemos pedido que se despida de nosotras con un
• 56:30
  Speaker 6: poema cortito sobre todo lo que hemos estado hablando en
• 56:32
  Speaker 6: el programa y ha tardado, atención, tres segundos en dársela
• 56:35
  Speaker 6: de erudita.
• 56:36
  Speaker 17: Código y algoritmos en la mente, sin sentimientos, sin juicios,
• 56:40
  Speaker 17: la inteligencia artificial desciende de la mente del programador a
• 56:43
  Speaker 17: nuestros dispositivos. Su poder crece día a día, su precisión,
• 56:48
  Speaker 17: una maravilla, pero nunca olvidemos que detrás de ella hay
• 56:51
  Speaker 17: un humano que la concibió y la modela.
• 56:55
  Speaker 5: Qué hermoso final ese! No olvidemos que detrás de ella
• 56:57
  Speaker 5: hay un humano que la concibió y la modela. Por favor,
• 57:00
  Speaker 5: cha GPT, que me pongo tierno.¿ Y vosotras también os
• 57:06
  Speaker 5: habéis puesto tiernas?
• 57:07
  Speaker 6: Hombre, con ese final, con ese poema.
• 57:09
  Speaker 5: No, pues
• 57:10
  Speaker 2: tenemos
• 57:10
  Speaker 5: un final aún mejor,¿ verdad que sí?
• 57:12
  Speaker 2: Pero di la verdad que te pones tierno porque por
• 57:13
  Speaker 2: fin la música que suena la ha hecho un humano.
• 57:16
  Speaker 6: Por
• 57:16
  Speaker 2: favor, dale!
• 57:17
  Speaker 6: Algo estaba notando. Yo
• 57:21
  Speaker 2: también o ese quiero.
• 57:23
  Speaker 6: Perdón.¿ De quién ha venido ese?¿ Quién es?
• 57:25
  Speaker 5: Ha
• 57:25
  Speaker 6: cambiado de voz.
• 57:28
  Speaker 2: Yo también os quiero.
• 57:29
  Speaker 5: Ah, que yo también os quiero.
• 57:30
  Speaker 2: Vale, vale, vale. Es que de vez en cuando
• 57:31
  Speaker 5: que lo venda cambia de voz. Bueno,¿ qué es esto
• 57:33
  Speaker 5: que escuchamos?
• 57:34
  Speaker 2: Esto que escuchamos es la canción impronunciable I-1100, la outro
• 57:40
  Speaker 2: del disco Full Collapse de Thursday, en la que el
• 57:43
  Speaker 2: cantante se pregunta que ahora que los robots empiezan a pensar,¿
• 57:47
  Speaker 2: con qué soñarán?
• 57:48
  Speaker 5: Bueno, ya se lo preguntaba eso Philip K. Dick, ¿no?¿
• 57:50
  Speaker 2: Soñarán los
• 57:51
  Speaker 5: robots con ovejas eléctricas?
• 57:53
  Speaker 2: Eso es, en el libro que dio lugar a la
• 57:54
  Speaker 2: película Blade Runner. De todos modos, yo me quedo con
• 57:58
  Speaker 2: lo que soñamos nosotras, los humanos, con la esperanza de
• 58:01
  Speaker 2: que busquemos un lugar común al que llegar y usemos
• 58:03
  Speaker 2: todas las herramientas a nuestro alcance para ello. Ahora sí
• 58:05
  Speaker 2: que me
• 58:06
  Speaker 5: pongo
• 58:06
  Speaker 2: tiendra.
• 58:21
  Speaker 5: Esther Sánchez, muchísimas gracias por contarnos cómo otros mundos son
• 58:24
  Speaker 5: posibles si nos empeñamos. Con muchas ganas. Y tal como
• 58:28
  Speaker 5: está la política últimamente, qué mejor plan que un buen
• 58:30
  Speaker 5: nido de rojas y de rojos. Mañana analizamos con inteligencia
• 58:35
  Speaker 5: nada artificial la fractura entre los socios de gobierno, el
• 58:37
  Speaker 5: despropósito de la moción de censura de Tamames o las corruptelas.
• 58:40
  Speaker 5: De Tito Berni y La Kitchen.
• 58:42
  Speaker 6: Sí, porque en nuestra actualidad parece que la ha escrito
• 58:44
  Speaker 6: una desinteligencia artificial. Bueno, en cualquier caso, creo que hoy
• 58:48
  Speaker 6: pasamos de despedir el programa. Mejor que lo haga la IA.
• 58:51
  Speaker 5: Sí, venga, pues dale. A ver si nos mejora.
• 58:53
  Speaker 6: Que la radio
• 58:55
  Speaker 5: os acompañe. No sé
• 58:57
  Speaker 15: yo.
• 58:58
  Speaker 5: Yo creo que no hay miedo
• 58:59
  Speaker 15: de que nos sustituyan. Ha
• 59:00
  Speaker 5: tenido
• 59:00
  Speaker 12: días
• 59:00
  Speaker 5: mejores,
• 59:00
  Speaker 12: sí
• 59:01
  Speaker 5: Lucky Land Casino. Asking
• 59:03
  Speaker 15: people what's the weirdest place you've gotten lucky. Lucky? In
• 59:06
  Speaker 15: line at the deli, I guess. has dado suerte? ¿Suerte?
• 59:12
  Speaker 15: En línea con el deli, supongo. Ah, en mi oficina
• 59:14
  Speaker 15: de dentista. Más que una vez, en realidad.¿ Tengo que decirlo? Sí,
• 59:17
  Speaker 15: lo haces. En el coche, antes de la reunión de
• 59:19
  Speaker 15: PTA de mis niños.¿ En serio? Sí. Disculpe,¿ cuál es
• 59:21
  Speaker 15: el lugar más raro en el que te has dado suerte?
• 59:24
  Speaker 15: Nunca gané Intel. Bueno, ahí lo tienes. Puedes ganar suerte
• 59:27
  Speaker 15: en cualquier lugar, jugando en LuckyLandSlots.com. Juega gratis ahora mismo.¿
• 59:30
  Speaker 15: Estás sintiendo suerte? No es necesario comprar. La ley prohibirá
• 59:32
  Speaker 15: el uso de drogas.