Latest / Carne Cruda Podcast / IA: el nuevo colonialismo (CARNE CRUDA #1359)

Transcript

IA: el nuevo colonialismo (CARNE CRUDA #1359) · Carne Cruda Podcast

• 0:02
  Speaker 2: Crudos días. Bienvenidos a otro episodio de Carne Cruda, el
• 0:06
  Speaker 2: programa donde desmenuzamos la actualidad con el hambre voraz de
• 0:10
  Speaker 2: quien sabe que la realidad es más compleja de lo
• 0:13
  Speaker 2: que nos quieren vender. Hoy, el tema que nos preocupa
• 0:16
  Speaker 2: es la inteligencia artificial que promete hacernos la vida más fácil. Sí,
• 0:22
  Speaker 2: pero¿ a qué precio? Nos inquieta la voracidad con la
• 0:25
  Speaker 2: que las grandes empresas tecnológicas devoran nuestros datos. Somos conscientes
• 0:29
  Speaker 2: de que nuestros movimientos... conversaciones, pensamientos, son el alimento de
• 0:34
  Speaker 2: esas entidades frías y calculadoras. Y nos preguntamos,¿ hasta qué
• 0:45
  Speaker 2: punto somos ahora un mero producto, una materia prima que
• 0:49
  Speaker 2: estas empresas recogen gratuitamente para luego lucrarse con ello? Hoy,
• 0:54
  Speaker 2: queridos oyentes, nos planteamos una comparación audaz.¿ Es la inteligencia
• 0:58
  Speaker 2: artificial el nuevo colonialismo? Y en este baile de titanes
• 1:02
  Speaker 2: digitales no podemos olvidar que este programa es posible gracias
• 1:06
  Speaker 2: a la colaboración con Somos Conexión, la compañía de telefonía
• 1:10
  Speaker 2: móvil que nos mantiene conectados en este océano de información.
• 1:30
  Speaker 2: Hasta aquí la presentación del programa que habéis escuchado. Podría
• 1:33
  Speaker 2: pasar por una introducción común y corriente, pero el programa
• 1:36
  Speaker 2: de hoy no va a ser ni común ni corriente.
• 1:41
  Speaker 2: Lo que acabáis de oír no lo he escrito yo
• 1:43
  Speaker 2: ni nadie de este equipo. Lo ha escrito y aún más,
• 1:46
  Speaker 2: lo ha locutado una inteligencia artificial. Si no os habíais
• 1:49
  Speaker 2: dado cuenta, espero que estéis tan preocupados como yo, Violeta.
• 1:52
  Speaker 6: Sí, con unos pocos parámetros, la famosa IA Chat GPT
• 1:55
  Speaker 6: ha escrito ese inicio añadiendo incluso expresiones propias del programa,
• 1:58
  Speaker 6: como ese crudos días.
• 1:59
  Speaker 2: Y ha reproducido mi voz tomando grabaciones anteriores como referencia.
• 2:03
  Speaker 6: Le ha bastado solo un fragmento. La clonación de voces
• 2:06
  Speaker 6: es cada vez más fácil, más exacta, más aterradora.
• 2:08
  Speaker 2: De hecho,¿ quién te asegura que lo que estás escuchando
• 2:11
  Speaker 2: ahora es mi voz real y no mi voz virtual?
• 2:13
  Speaker 6: Bueno, yo te estoy viendo. Veo cómo mueven los labios,
• 2:16
  Speaker 6: cómo la voz sale de tu cuerpo...
• 2:18
  Speaker 2: Y quién puede garantizarle a nuestros oyentes que tú no
• 2:21
  Speaker 2: eres también una voz creada por IA para engañar a
• 2:23
  Speaker 2: sus sentidos?
• 2:24
  Speaker 6: Bueno, tendría que aprender andaluz, pero en realidad no, nadie
• 2:27
  Speaker 6: ni nada
• 2:28
  Speaker 2: Por eso necesitamos herramientas legales, éticas e informáticas para defendernos
• 2:32
  Speaker 2: de los abusos y peligros de la inteligencia artificial.
• 2:34
  Speaker 6: A la que regalamos datos con los que las empresas
• 2:37
  Speaker 6: comercian y pueden manipular, polarizar, dividir, confrontar a los usuarios.
• 2:41
  Speaker 6: Aunque
• 2:41
  Speaker 2: no siempre tiene por qué utilizarse para aprovecharse de nosotros.
• 2:44
  Speaker 2: también nosotras podemos sacarle provecho.
• 2:47
  Speaker 6: Eso lo has dicho tú o la inteligencia artificial
• 2:49
  Speaker 2: Cualquiera de las dos podría estar diciéndolo. Ella porque le conviene,
• 2:53
  Speaker 2: yo porque nos conviene.
• 2:55
  Speaker 6: Lo que nos conviene es un programa como este que
• 2:57
  Speaker 6: nos ayude a conocer las ventajas y los perjuicios.
• 3:01
  Speaker 2: De cómo la tecnología nos coloniza y come el coco
• 3:04
  Speaker 2: habla el Internet. Un temazo de Trending Tropics, la banda
• 3:07
  Speaker 2: de Vicente García y Eduardo Cabra, más conocido como Visitante
• 3:10
  Speaker 2: de Calle 13.
• 4:01
  Speaker 7: Hago un recorrido y me fijo que hay seres vivos,
• 4:04
  Speaker 7: que en la mano tienen un dispositivo. Hay oxígeno porque respiro,
• 4:08
  Speaker 7: pero comunicarme todavía no consigo. Yo le hablaba, acaso no
• 4:12
  Speaker 7: me hacían, yo pensaba que se comunicaban. que si no
• 4:19
  Speaker 7: sube la cabeza
• 4:20
  Speaker 8: mirando la pantalla te tropiezas que si no sube la
• 4:24
  Speaker 8: cabeza mirando la pantalla vas a caer
• 4:47
  Speaker 2: Y es que no pueden vivir sin mí, no saben
• 4:49
  Speaker 2: vivir sin mí, les duele vivir sin mí, canta el
• 4:51
  Speaker 2: puertorriqueño Wisoji, que colabora como voz humana en esta tremenda
• 4:57
  Speaker 2: descarga tropical de los trending tropics.
• 5:08
  Speaker 7: Pero
• 5:12
  Speaker 6: el problema de la extracción de datos va mucho más
• 5:14
  Speaker 6: allá de la navegación por Internet o de redes sociales
• 5:16
  Speaker 6: como WhatsApp o Instagram. Ahora mismo, mientras escuchas este programa,
• 5:20
  Speaker 6: las empresas tecnológicas dedicadas expresamente a ello, las data brokers...
• 5:24
  Speaker 6: están chupando información nuestra de manera y lugares que ni sospechamos.
• 5:28
  Speaker 6: Por eso hemos hablado con Ulises Alí Mejía, que es
• 5:31
  Speaker 6: catedrático de estudios de la comunicación en la Universidad Estatal
• 5:35
  Speaker 6: de Nueva York y creador, junto a su compañero Nick Cowdery,
• 5:39
  Speaker 6: del concepto colonialismo de datos.
• 5:41
  Speaker 10: Y lo que argumentamos Nick y yo es que estamos
• 5:45
  Speaker 10: viendo una apropiación de la vida humana. Si el colonialismo
• 5:51
  Speaker 10: histórico Se trataba de acapararse del territorio, de la naturaleza,
• 5:57
  Speaker 10: de la labor humana. Este nuevo colonialismo se trata de
• 6:01
  Speaker 10: la apropiación de la vida humana en sí a través
• 6:05
  Speaker 10: de los datos. Es que es un orden emergente de
• 6:09
  Speaker 10: apropiación de la vida humana para extraer continuamente datos de
• 6:13
  Speaker 10: ella con fines lucrativos
• 6:16
  Speaker 6: Relacionamos el colonialismo con el pasado y el neocolonialismo con
• 6:20
  Speaker 6: la extracción de nuevas materias codiciadas, como pueden ser las
• 6:22
  Speaker 6: tierras raras, de las que hemos hablado aquí, pero hay
• 6:25
  Speaker 6: un robo masivo de riqueza menos visible en la nube.
• 6:28
  Speaker 10: Pero lo que está pasando es que entonces las empresas,
• 6:32
  Speaker 10: sobre todo las empresas gigantes como Google, como Meta, como Amazon...
• 6:39
  Speaker 10: lo que están haciendo es... colectar todos esos datos... y
• 6:43
  Speaker 10: convertirlos en un tipo de riqueza... en un tipo de
• 6:47
  Speaker 10: riqueza que... beneficia a una élite muy pequeña... pero que
• 6:53
  Speaker 10: no nos beneficia... enteramente a los demás.
• 6:56
  Speaker 6: En su libro El costo de la conexión... de Ediciones Godot...
• 6:59
  Speaker 6: los autores explican... cómo en 1945... uno de cada tres
• 7:03
  Speaker 6: habitantes del planeta... vivía bajo dominio colonial... hoy Una de
• 7:08
  Speaker 6: cada dos personas usa un producto de la empresa Meta,
• 7:11
  Speaker 6: es decir, la que reúne WhatsApp, Facebook, Instagram, bajo el
• 7:14
  Speaker 6: dominio de Mark Zuckerberg.
• 7:16
  Speaker 10: Con el colonialismo se decía, esto va a resultar en
• 7:19
  Speaker 10: la modernidad, vamos a llevar a los sujetos no modernos
• 7:24
  Speaker 10: a la modernidad, al progreso, a un futuro de paz
• 7:28
  Speaker 10: y prosperidad. Todos esos mitos no han cambiado mucho. Se
• 7:32
  Speaker 10: nos sigue diciendo, los datos que ustedes generan no tienen
• 7:38
  Speaker 10: mucha utilidad... para ustedes como individuos... déanoslos a nosotros... las empresas...
• 7:44
  Speaker 10: de tecnologías avanzadas... y con estos datos... vamos a crear
• 7:49
  Speaker 10: un mundo mejor.
• 7:50
  Speaker 6: Sin embargo hay una diferencia primordial... las sociedades colonizadas... luchan
• 7:54
  Speaker 6: por su libertad y por su independencia... pero nosotros... seguimos
• 7:57
  Speaker 6: aceptando cookies sin leerlas o comprando productos tecnológicos que nos
• 8:00
  Speaker 6: hacen tener que movernos un poco menos.
• 8:02
  Speaker 10: Muchos de nosotros ahora en nuestras casas tenemos medidores de
• 8:07
  Speaker 10: agua inteligentes, medidores de electricidad inteligentes.¿ Qué se puede hacer
• 8:11
  Speaker 10: con todos esos datos? Estudios, por ejemplo, de cómo estos
• 8:15
  Speaker 10: medidores de agua pueden vigilar cuántas veces vamos al baño,
• 8:21
  Speaker 10: cuánta agua estamos utilizando. Pueden incluso identificar el modelo de
• 8:26
  Speaker 10: lavadora que tenemos en nuestra casa simplemente viendo el flujo
• 8:31
  Speaker 10: del agua.
• 8:31
  Speaker 6: Así que esta extracción ha llegado a todos los ámbitos,
• 8:35
  Speaker 6: por ejemplo a la educación con las aulas inteligentes o
• 8:37
  Speaker 6: a un terreno tan delicado como la salud.
• 8:39
  Speaker 10: Y aquí también podemos ver muchísimos ejemplos de tecnologías como
• 8:45
  Speaker 10: el Fitbit, como el Apple Watch… o simplemente cómo los
• 8:49
  Speaker 10: sistemas de salud nacionales están siendo convertidos en aparatos de vigilancia.
• 8:56
  Speaker 6: Porque una de las aplicaciones más importantes de las IA
• 8:59
  Speaker 6: es la de vigilarnos y predecirnos, adelantarse a nuestro comportamiento.
• 9:03
  Speaker 6: Bueno
• 9:03
  Speaker 10: desde el punto de vista del colonialismo de datos, creo
• 9:07
  Speaker 10: que podemos ver las inteligencias artificiales como máquinas, máquinas de exploración,
• 9:13
  Speaker 10: máquinas prospectando contenidos por doquier en la cultura humana, son
• 9:19
  Speaker 10: máquinas que extraen.
• 9:21
  Speaker 6: Y tras esa extracción, tras esa recopilación, lo único que
• 9:23
  Speaker 6: necesitan esas empresas es crear productos manufacturados que nos revenden
• 9:27
  Speaker 6: y que nos hacen dependientes de ellas mismas.
• 9:29
  Speaker 10: Con dos propósitos. Uno es sustituir la mano de obra
• 9:35
  Speaker 10: humana por la mano de obra más barata. Y ese
• 9:39
  Speaker 10: es el segundo sentido. Objetivo de estas inteligencias artificiales es
• 9:46
  Speaker 10: crear ganancias, como lo estamos viendo en el colonialismo de datos.
• 9:50
  Speaker 2: Después de esta inquietante introducción, vamos a intentar profundizar en
• 9:56
  Speaker 2: el tema de la extracción de datos y para ello
• 9:57
  Speaker 2: hemos llamado a Javier Sánchez Monarca. doctor en ciencias de
• 10:01
  Speaker 2: la computación e investigador en inteligencia artificial.
• 10:04
  Speaker 6: Javier ha colaborado con la Universidad de Córdoba y con
• 10:06
  Speaker 6: el Data Justice Lab de la Universidad de Cardiff y
• 10:09
  Speaker 6: en la actualidad investiga sobre cómo incorporar la justicia social
• 10:12
  Speaker 6: a la auditoría y el diseño de sistemas inteligentes.
• 10:15
  Speaker 2: Algo fundamental después de lo que hemos escuchado. Javier, crudos días. Hola,¿
• 10:19
  Speaker 2: cómo estás? Las empresas de tecnología son devoradoras de datos personales.
• 10:23
  Speaker 2: Las de telefonía móvil registran nuestra ubicación hasta 300 veces
• 10:27
  Speaker 2: al día. Spotify no solo sabe la música que escucha,
• 10:30
  Speaker 2: sino hasta cómo lo hace, de pie, sentado.¿ Son realmente
• 10:33
  Speaker 2: necesarios todos los datos que están recogiendo estas empresas?¿ Para
• 10:37
  Speaker 2: qué los usan?
• 10:38
  Speaker 11: Bueno, depende
• 10:39
  Speaker 2: para qué
• 10:39
  Speaker 11: ¿no? Entonces sí que ha habido como un mantra de que, bueno,
• 10:43
  Speaker 11: recógelo todo y luego ya veremos si sirve o no.
• 10:46
  Speaker 11: Es un poco lo contrario de cuando hacíamos el diseño
• 10:49
  Speaker 11: en ciencia de recogida de datos, que piensas lo que
• 10:52
  Speaker 11: quieres hacer, ¿no? Y coges datos de acuerdo a eso,
• 10:55
  Speaker 11: pues ahora la idea es, bueno, medimos todo, hasta la
• 10:59
  Speaker 11: marca de los dispositivos Bluetooth que estás usando para oír
• 11:02
  Speaker 11: la música. Entonces, claro, Spotify creo que guarda como 200...
• 11:06
  Speaker 11: 50 variables por cada canción que escuchas, ¿no? Que una
• 11:11
  Speaker 11: es el título de la canción, pero imaginaos, ¿no? Entonces, bueno,
• 11:15
  Speaker 11: pues la idea, claro, la idea es mejorar la recomendación,
• 11:18
  Speaker 11: la idea es perfilar, perfilar de cualquier manera, ¿no? A
• 11:24
  Speaker 11: veces dicen que modelan emociones, lo que pasa es que
• 11:26
  Speaker 11: esto está bastante cuestionado como pseudocientífico, pero bueno, en todo
• 11:30
  Speaker 11: caso se encuentran patrones, se le llaman emociones o no
• 11:34
  Speaker 11: a veces, entre... formas de consumo. Pero claro, a más
• 11:39
  Speaker 11: datos que guardamos, pues más requisitos de procesamiento, más requisitos
• 11:43
  Speaker 11: de almacenamiento, más requisitos de copia de seguridad, refrigeración, etc.
• 11:47
  Speaker 11: Entonces a veces nos encontramos que un acto como escuchar música,
• 11:51
  Speaker 11: que era relativamente sencillo hace años, ahora se convierte en
• 11:56
  Speaker 11: una fuente de emisiones, en una red mundial de servidores
• 11:59
  Speaker 11: y claro, es lógico preguntarse si esto tiene sentido.
• 12:02
  Speaker 2: Claro,¿ cuál es el sentido de todo ello? Porque una
• 12:04
  Speaker 2: vez es Cuando le dicen, no, bueno, capturan tus datos,
• 12:08
  Speaker 2: los extraen. Dicen, bueno, a mí qué me importa, si
• 12:10
  Speaker 2: tampoco son datos tan importantes. Pero,¿ qué se puede hacer
• 12:12
  Speaker 2: con todo ello?¿ Qué hacen con todo ello?
• 12:15
  Speaker 11: Bueno, te puedo poner un ejemplo de Interpol. Interpol tiene
• 12:19
  Speaker 11: un proyecto que se dedica a buscar las voces de
• 12:23
  Speaker 11: una persona en las redes sociales. Entonces, pues ahora mismo,
• 12:28
  Speaker 11: se le llama Inteligencia Artificial, o sea, Fuentes de Inteligencia Abiertas,
• 12:32
  Speaker 11: o SINT en inglés, Entonces, cogen una muestra de voz
• 12:35
  Speaker 11: y la buscan por vídeos de YouTube, Facebook, etc. En principio,
• 12:39
  Speaker 11: solo para personas bajo sospecha, pero luego, por ejemplo, en
• 12:43
  Speaker 11: el proyecto europeo que hacían la demostración práctica, pues cogían
• 12:46
  Speaker 11: una persona al azar y buscaban por estas redes, ¿no? Entonces,
• 12:50
  Speaker 11: tampoco es que hubiera un mecanismo que impidiera que no
• 12:52
  Speaker 11: se le pudiera hacer este espionaje a cualquier persona. Eso
• 12:56
  Speaker 11: sería un ejemplo desde los gobiernos, desde las empresas, pues bueno, pues...
• 13:01
  Speaker 11: todo este perfilamiento de clientes, ajustar precios, que luego ya
• 13:05
  Speaker 11: sabemos que también tiene que ver con dinámicas sociales y
• 13:08
  Speaker 11: psicológicas muy fuertes, que también habéis trabajado en este programa.
• 13:11
  Speaker 11: Así que se puede hacer de todo. Yo abogo por
• 13:15
  Speaker 11: decrecimiento en datos e intentar generar lo menos posible, tanto
• 13:21
  Speaker 11: por motivos de privacidad y de seguridad y de política
• 13:24
  Speaker 11: como ambientales.
• 13:25
  Speaker 2: Nosotros también lo pensamos así, por eso vamos a hablar
• 13:27
  Speaker 2: de todos esos aspectos en el programa de hoy.
• 13:30
  Speaker 6: Javier, programas como el famoso chat GPT son inteligencia artificial generativa,
• 13:35
  Speaker 6: pero desde hace mucho más tiempo existe la inteligencia artificial
• 13:38
  Speaker 6: no generativa.¿ En qué se diferencian?¿ Cómo funcionan?¿ Y qué
• 13:41
  Speaker 6: ventajas tiene esa no generativa que conocemos menos?
• 13:45
  Speaker 11: Bueno, pues la primera inteligencia artificial se suele usar como
• 13:47
  Speaker 11: una palabra para hablar de un conjunto de técnicas, más
• 13:50
  Speaker 11: que con una. Entonces muchas veces cuando nos ponemos a
• 13:52
  Speaker 11: debatir se nos olvida esto y entonces tendremos que extrapolar
• 13:56
  Speaker 11: que todas son iguales. Entonces, lo primero es que hay
• 13:59
  Speaker 11: un abanico muy amplio de técnicas y una de las cuales,
• 14:02
  Speaker 11: que es la que aprende a partir de datos, que
• 14:04
  Speaker 11: sería más parecida a la inferencia estadística, pues es la
• 14:09
  Speaker 11: que ha ido triunfando en los últimos años. De esta
• 14:10
  Speaker 11: teníamos la discriminativa y la generativa. Discriminativa porque se pone
• 14:16
  Speaker 11: una imagen de un perro, dice que es un perro
• 14:18
  Speaker 11: o un gato, etc., Y la generativa, pues que genera
• 14:22
  Speaker 11: ese contenido sintético, pero en ambos casos ha hecho falta
• 14:26
  Speaker 11: un conjunto de datos más o menos grande. Cuando la
• 14:30
  Speaker 11: inteligencia artificial tiene una tarea muy pequeñita y apotada, normalmente
• 14:33
  Speaker 11: necesita mucho menos datos. Y cuando se intenta modelar algo
• 14:37
  Speaker 11: como el lenguaje, que es mucho más amplio y diverso,
• 14:40
  Speaker 11: pues necesita muchísimo más datos. Y es el caso del
• 14:44
  Speaker 11: chat GPT, que ha cogido libros, foros de discusión... incluso
• 14:48
  Speaker 11: e-mails por auditoría de seguridad que se han hecho. Entonces,
• 14:53
  Speaker 11: todo esto se ha entrenado escondiéndole palabras. Por ejemplo, tenemos
• 14:59
  Speaker 11: un resumen de un artículo científico, de las bases de
• 15:02
  Speaker 11: datos científicas, se le quitan varias palabras al artículo y
• 15:06
  Speaker 11: la IA tiene que adivinar cuál es la palabra que faltaba. Entonces,
• 15:09
  Speaker 11: se suele hablar de que el chasquete en general lo
• 15:11
  Speaker 11: que hace es generar la secuencia de palabras más probables
• 15:15
  Speaker 11: relacionada con lo que le has puesto en la entrada.
• 15:18
  Speaker 11: Eso sería como su forma de conocimiento, digámoslo así
• 15:23
  Speaker 2: Bueno, pues vamos con una forma de inteligencia humana regenerativa,
• 15:28
  Speaker 2: es decir, se regenera a sí misma y además regenera
• 15:30
  Speaker 2: la inteligencia de otros y de otras. Es nuestro querido
• 15:35
  Speaker 2: ex colaborador MexMafia, Efraín Foglia, diseñador de interacciones digitales, investigador
• 15:40
  Speaker 2: y docente y además embajador de Somos Conexión. Un ser
• 15:46
  Speaker 2: humano al que solo habíamos visto a través de pantallas.
• 15:50
  Speaker 2: De hecho, llegamos a dudar de su existencia real, pero
• 15:52
  Speaker 2: hoy se ha desvirtualizado aquí en el estudio de la
• 15:55
  Speaker 2: República Independiente de la Radio.¡ Crudos días, Efraín!¡
• 15:58
  Speaker 5: Crudos días a todas!
• 16:00
  Speaker 2: Bueno, realmente eres de carne y hueso, te he tocado,
• 16:02
  Speaker 2: y espero que lo que haya detrás de esa piel
• 16:04
  Speaker 2: no sean cables y chips. Bueno, lo primero, que gusto
• 16:08
  Speaker 2: tenerte de vuelta, y lo segundo,¿ quiénes compran estos datos
• 16:10
  Speaker 2: y cómo devaliosas esa información?
• 16:13
  Speaker 5: Bueno, en principio... La principal recogida de datos es de
• 16:18
  Speaker 5: las grandes big techs. Esa sería la primera. Y básicamente
• 16:22
  Speaker 5: al recogerlo se lo estamos regalando. No lo tienen tan complicado.
• 16:27
  Speaker 5: Luego está esto que ha mencionado el compañero de los
• 16:30
  Speaker 5: data brokers. Que ya sería como una capa de los
• 16:34
  Speaker 5: visitadores médicos de las farmacéuticas. Más o menos ya sería
• 16:37
  Speaker 5: la analogía. Que son los que realmente compran a plataformas
• 16:42
  Speaker 5: o generan otros sistemas para recopilar esto. Hay varios estudios
• 16:46
  Speaker 5: que hablan de esto y básicamente funcionan así, como casas
• 16:48
  Speaker 5: de bolsa, que están recibiendo estos datos y los distribuyen.
• 16:51
  Speaker 5: Principalmente yo los estudios que he visto en Estados Unidos
• 16:53
  Speaker 5: es donde puedes encontrar más transparencia, pero es difícil llegar
• 16:57
  Speaker 5: exactamente a nombres concretos. Y a partir de aquí luego
• 16:59
  Speaker 5: tienes otro tipo de mercados, como sucedería con el oro
• 17:02
  Speaker 5: o con la droga, que pueden pasar desde la dark web,
• 17:05
  Speaker 5: personas que cometen delitos y que roban datos. Siempre escuchamos
• 17:09
  Speaker 5: en las noticias de entrar a tal hospital, inclusive a
• 17:13
  Speaker 5: la policía. Entonces, ahí viene la recopilación. Ahora,¿ quién lo compra?
• 17:16
  Speaker 5: Pues te diría,¿ quién compra el oro y la droga?
• 17:18
  Speaker 5: Puede ser desde un gobierno, un político. Puede ser alguien
• 17:22
  Speaker 5: que quiera cometer un crimen. Puede ser alguien que esté
• 17:25
  Speaker 5: generando un negocio, vendiendo algo. Podríamos decir que es como
• 17:28
  Speaker 5: el marketing, de alguna forma, del siglo XXI. Y ahí
• 17:32
  Speaker 5: tenemos una cantidad de abanico que es impresionante. Inclusive, en
• 17:35
  Speaker 5: el sentido estricto de un tema macropolítico, se sabe que
• 17:40
  Speaker 5: cuando vienen algunas votaciones, pues directamente... Se compran datos a
• 17:44
  Speaker 5: Facebook determinados gobiernos para incidir directamente en él. En el voto, ¿no? Directamente.
• 17:49
  Speaker 2: Y cuánto valen esos datos?¿ Cuánto valen mis datos individuales,
• 17:52
  Speaker 2: los de Violeta, los de nuestros oyentes?
• 17:54
  Speaker 5: Pues mira, yo estuve haciendo una búsqueda precisamente a partir
• 17:57
  Speaker 5: de esta pregunta y había tarifas de... Son como Excel, básicamente, ¿no?
• 18:00
  Speaker 5: Las bases de datos que te venden. Y principalmente eso
• 18:03
  Speaker 5: también tiene que ver con las normativas. Me parece que
• 18:05
  Speaker 5: tú no puedes comprar datos directamente en servicios, por ejemplo,
• 18:07
  Speaker 5: en el Estado español, pero sí a lo mejor fuera
• 18:09
  Speaker 5: de él, ¿no? Tenemos esta flexibilidad que tienen estos data brokers.
• 18:13
  Speaker 5: Y hay desde 10 euros hasta 10.000 hasta 100.000, ¿no?
• 18:16
  Speaker 5: Y básicamente también muchas de estas... Mucha de esta información
• 18:19
  Speaker 5: que se vende es información que muchas veces o bien
• 18:23
  Speaker 5: ha sido robada o extraída o cedida directamente por nosotros
• 18:27
  Speaker 5: cuando le damos a alguno de estos botones que queremos
• 18:30
  Speaker 5: pasar rápido para comprar una samarreta.
• 18:33
  Speaker 2: Por ejemplo,¿ aceptar cookies es una buena o una mala decisión?
• 18:36
  Speaker 5: Bueno, es súper compleja porque si no los aceptas, te
• 18:40
  Speaker 5: están llevando sistemáticamente a otras pantallas y no puedes operar.
• 18:44
  Speaker 5: Es toda una trampa. Básicamente es, tú al aceptar, evidentemente...
• 18:49
  Speaker 5: no te vas a leer todo lo que está allá
• 18:50
  Speaker 5: y a eso juegan, que a mí me parece que
• 18:51
  Speaker 5: eso sería una directriz importante, facilitar esto de las cookies.
• 18:55
  Speaker 5: Pero por otro lado, uno de los problemas que tenemos,
• 18:57
  Speaker 5: me parece, a nivel de interacción con estos dispositivos es
• 18:59
  Speaker 5: la velocidad de la vida en la que estamos inmersos.
• 19:03
  Speaker 5: Por lo tanto, nos hemos movilizado hasta psicológicamente a poder
• 19:08
  Speaker 5: y dar clics sin pensar. Entonces, esa es una trampa
• 19:11
  Speaker 5: mortal en este caso, ¿no?
• 19:13
  Speaker 6: Sabemos que si a una niña de tres años le
• 19:14
  Speaker 6: enseña una foto de una cebra y de un caballo,
• 19:16
  Speaker 6: con verla una vez sabrá distinguirla en adelante. La IA,
• 19:20
  Speaker 6: sin embargo, necesitará 100.000 fotos de cebra y 100.000 de
• 19:24
  Speaker 6: caballo en diferentes situaciones.¿ Las empresas de IA van a
• 19:28
  Speaker 6: necesitar extraer cada vez más y más datos?
• 19:31
  Speaker 5: Sin lugar a dudas. No solamente porque con eso tienen
• 19:34
  Speaker 5: más materia para poder generar sus sistemas, sino porque es
• 19:39
  Speaker 5: un negocio como lo de los megas en Internet. A
• 19:42
  Speaker 5: lo mejor necesitábamos medio mega hace tres años, pero el
• 19:45
  Speaker 5: negocio tiene que ver con la escalabilidad. Entonces siempre va
• 19:48
  Speaker 5: a haber una promesa de crecimiento. siempre va a haber
• 19:51
  Speaker 5: una promesa de mayor velocidad, siempre va a haber una
• 19:53
  Speaker 5: promesa de todo esto. Entonces la competencia que tienen ahora
• 19:56
  Speaker 5: las grandes big techs por tener más, ofrecer más información
• 20:00
  Speaker 5: fuente y más resultados es increíblemente veloz.
• 20:03
  Speaker 2: Javier, en tu trabajo como investigador,¿ qué problemas éticos estás
• 20:06
  Speaker 2: observando del uso extractivista de la IA?
• 20:10
  Speaker 11: la verdad es que la lista sería muy grande. Volviendo
• 20:13
  Speaker 11: un poco a la editorial del programa, esta lógica del colonialismo,
• 20:19
  Speaker 11: si la trasladamos a lo digital, están todas estas protestas
• 20:22
  Speaker 11: que ahora están haciendo los artistas sobre sus obras gráficas, novelas, etc.,
• 20:28
  Speaker 11: en las cuales ha llegado un ente... muy poderoso y
• 20:35
  Speaker 11: se está dedicando a monetizar, sin remunerar, a todas estas contribuciones. Entonces, este,
• 20:42
  Speaker 11: por ejemplo, ahora mismo es muy fuerte. Pero luego hay
• 20:45
  Speaker 11: otras cuestiones más de fondo, por ejemplo, sobre la degradación.
• 20:49
  Speaker 11: Había un editorial de Noanchonsky sobre la degradación del concepto
• 20:52
  Speaker 11: de conocimiento al movernos a un sistema que se basa
• 20:56
  Speaker 11: solo en correlaciones como forma de aprendizaje. que es como
• 21:00
  Speaker 11: un rodillo sobre tantas formas y saberes, ¿no? Entonces, volviendo
• 21:03
  Speaker 11: otra vez al tema del colonialismo, esta visión del mundo
• 21:09
  Speaker 11: a través de estos mecanismos únicos de representación de conocimiento,
• 21:12
  Speaker 11: pues sigue siendo problemática. Luego, sí podríamos hablar de serbos
• 21:16
  Speaker 11: y tal, pero esto lo dicen cada dos por tres,
• 21:18
  Speaker 11: y de hecho ya empieza a ser hasta una cuestión
• 21:20
  Speaker 11: hasta distractiva, ¿no? Cuando llega el ministro Escrivá y dice,
• 21:23
  Speaker 11: vamos a hacer el chat GPT español... Y nos vamos
• 21:26
  Speaker 11: a asegurar de que no tengas eso, ¿no? Y dices tú, bueno, ya,
• 21:28
  Speaker 11: pero hay más cuestiones de fondo, ¿no? Sobre todas estas
• 21:31
  Speaker 11: tecnologías más allá de estos secos que en algunos casos
• 21:35
  Speaker 11: se pueden remediar y en otros pues no, ¿no? Y bueno,
• 21:39
  Speaker 11: pues podría seguir hablando muchísimo más, ¿no? De distracciones, inacciones,
• 21:43
  Speaker 11: cambio climático. Decimos, parece que hasta que una guía no
• 21:45
  Speaker 11: diga que va a pasar tal catástrofe ambiental no podemos actuar, ¿no?
• 21:52
  Speaker 11: Parece que tenemos una sesión por predecir más que por actuar. Entonces,¿
• 21:57
  Speaker 11: de qué me sirve predecir ante una enfermedad si luego
• 21:59
  Speaker 11: la lista de espera para tal prueba médica es de
• 22:02
  Speaker 11: un año o de ocho?¿ De qué nos sirve diagnosticar
• 22:06
  Speaker 11: antes el Alzheimer si luego no hay recursos para la
• 22:08
  Speaker 11: familia o si incluso es una enfermedad que no tiene cura?¿
• 22:11
  Speaker 11: Dónde está la cuestión ética de predecir o diagnosticar una enfermedad?
• 22:15
  Speaker 11: Una enfermedad que no es tratable, ¿no? Entonces, hay tantísimas
• 22:19
  Speaker 11: cosas que daría para toda una serie, pero yo creo
• 22:23
  Speaker 11: que lo que tenemos que pararnos a pensar es a
• 22:26
  Speaker 11: quién beneficia, qué estamos perdiendo, qué estamos ganando, qué se invisibiliza, ¿no?
• 22:31
  Speaker 11: Porque el capitalismo y el economismo también son muy expertos
• 22:34
  Speaker 11: en invisibilizar costes, ¿no? Y externalizar costes y deshacerse de ellos. Entonces, bueno,
• 22:39
  Speaker 11: sería un poco mi contribución general a... a cómo afrontar
• 22:43
  Speaker 11: el
• 22:43
  Speaker 2: debate. Una muy buena contribución porque es cierto que se
• 22:45
  Speaker 2: está invisibilizando a quién beneficia todo esto. Gurús tecnológicos y
• 22:48
  Speaker 2: responsables de empresas como Google o Meta están siendo despedidos
• 22:52
  Speaker 2: por poner sobre la mesa el peligro al que nos
• 22:54
  Speaker 2: enfrentamos con la IA. Pero no todo es negativo, ¿no? Contadnos,
• 22:58
  Speaker 2: en vuestra opinión, cuáles son los beneficios que pueden aportar
• 23:02
  Speaker 2: a nuestra sociedad estas tecnologías y cómo podemos asegurarnos de
• 23:07
  Speaker 2: maximizar esos beneficios. Por supuesto, mientras abordamos las preocupaciones éticas
• 23:13
  Speaker 2: y sociales asociadas con su desarrollo y uso. De nuevo
• 23:19
  Speaker 2: parece que nos ha canonizado la IA el programa. Esta
• 23:21
  Speaker 2: última pregunta ha sido formulada por una inteligencia artificial que
• 23:24
  Speaker 2: parece ver más ventajas que problemas. Por lo que sea.
• 23:26
  Speaker 2: Pero bueno, adelante, ya que estamos, puedes contestar Efraín.
• 23:30
  Speaker 5: Bueno, en principio son tecnologías o son procesos que son
• 23:35
  Speaker 5: sumamente interesantes y lo vemos desde la perspectiva del conocimiento.
• 23:39
  Speaker 5: de la lucha por los derechos humanos y de la
• 23:41
  Speaker 5: equidad social en términos generales. Ahora bien, se necesita generar
• 23:46
  Speaker 5: realmente una contrapartida a todo esto, que tiene que ser
• 23:49
  Speaker 5: una contrapartida crítica, y aquí tienen que entrar todo tipo
• 23:52
  Speaker 5: de conocimiento desde el humanístico, el tecnológico y el político,
• 23:56
  Speaker 5: porque principalmente ahí es donde realmente se definen todo este
• 23:59
  Speaker 5: tipo de cosas. Entonces, desde esta perspectiva, hay muchísimo trabajo
• 24:02
  Speaker 5: que se hace, muchísimo trabajo crítico, que parece titánico pero
• 24:06
  Speaker 5: que definitivamente es un convencimiento de que esto puede servir
• 24:10
  Speaker 5: en su medida mesurada y crítica para ser bien.
• 24:14
  Speaker 2: Hablamos de todos los peligros, de todos los riesgos y
• 24:17
  Speaker 2: uno fundamental que ya lo habéis puesto sobre la mesa
• 24:19
  Speaker 2: son las consecuencias medioambientales. El abuso de recursos del medio
• 24:29
  Speaker 2: que necesita esta información y esta extracción colonizadora para sobrevivir.
• 24:34
  Speaker 2: Y siempre que nos preguntamos por estos temas tenemos a
• 24:37
  Speaker 2: algunos de nuestros expertos de cabecera.
• 24:39
  Speaker 6: Uno de ellos es Juan Bordera, que es periodista y
• 24:41
  Speaker 6: activista medioambiental, además de coautor del libro El otoño de
• 24:44
  Speaker 6: la civilización o El final de las estaciones, que nos
• 24:47
  Speaker 6: presentó hace poco junto a Antonio Turiel. Juan, crudos
• 24:51
  Speaker 2: días. Crudos, claro
• 24:52
  Speaker 6: Cuáles son los principales efectos de las tecnologías que hacen
• 24:54
  Speaker 6: posible la IA sobre nuestro ecosistema y también sobre la
• 24:58
  Speaker 6: crisis climática?
• 24:59
  Speaker 13: Bueno, entrenar estos sistemas tiene un inmenso coste energético y
• 25:04
  Speaker 13: sobre todo hídrico, por lo que de momento principalmente están
• 25:07
  Speaker 13: agravando todos estos problemas. Supone mayor explotación de recursos de
• 25:11
  Speaker 13: todo tipo en lugares donde habría que usarlos racionalmente. Supone
• 25:15
  Speaker 13: uso de minerales y materiales críticos para la fabricación, para
• 25:18
  Speaker 13: la instalación. Fósiles para la generación de una buena parte
• 25:21
  Speaker 13: de la electricidad que consumen. Estamos viendo, por ejemplo, eso, ¿no?
• 25:24
  Speaker 13: La necesidad de enfriar los servidores está aumentando mucho el
• 25:27
  Speaker 13: consumo de agua, ¿no? Google ha aumentado un 20% su
• 25:30
  Speaker 13: consumo de agua en 2022. Microsoft ha aumentado un 34%
• 25:33
  Speaker 13: el consumo de agua en 2022. Amazon no ha querido
• 25:38
  Speaker 13: comentar cuánto ha aumentado su negocio en este sentido. Pero bueno,
• 25:43
  Speaker 13: lo que estamos viendo es eso, ¿no? A nivel mundial...
• 25:45
  Speaker 13: De acuerdo con la Escuela Superior de Tecnología de la
• 25:48
  Speaker 13: Universidad de Quebec, los centros de datos consumen alrededor de
• 25:50
  Speaker 13: entre el 2 y el 3% ya de la energía mundial,
• 25:53
  Speaker 13: con una tendencia de crecimiento del 50% anualmente. Y seguro
• 25:57
  Speaker 13: que habrá quien piense, bueno, pues si la eficiencia que
• 26:00
  Speaker 13: van a generar y los avances que pueden producirse gracias
• 26:04
  Speaker 13: a la IA igual compensan estas emisiones, o este aumento
• 26:08
  Speaker 13: en el consumo de agua, y ahí la respuesta es
• 26:10
  Speaker 13: muy obvia, ¿no? Es decir, hay una historia que, si
• 26:12
  Speaker 13: me permitís, os la cuento muy rápidamente, ¿no? Que se
• 26:14
  Speaker 13: llama la paradoja de Hebons, que es muy fácil de entender,
• 26:17
  Speaker 13: por ejemplo, si pensamos en los coches de combustión, ¿no?
• 26:20
  Speaker 13: Es decir,¿ cuándo es más eficiente un motor de un
• 26:22
  Speaker 13: coche de combustión, ahora o en los años 60? Mucho
• 26:25
  Speaker 13: más eficiente ahora, ¿no?¿ Cuándo se consume más gasolina cuantitativamente
• 26:29
  Speaker 13: en los motores de combustión, ahora o en los años 60?
• 26:31
  Speaker 13: Se usa muchísima más porque esto se conoce como paradoja
• 26:34
  Speaker 13: de Hebons o efecto rebote, ¿no? a medida que se
• 26:37
  Speaker 13: avanza en la eficiencia en el uso de un recurso
• 26:40
  Speaker 13: o se consigue avanzar en los procesos, lo que se
• 26:43
  Speaker 13: consigue también es abaratar el uso de ese recurso, se
• 26:46
  Speaker 13: democratiza su uso, se encuentran nuevas aplicaciones y, curiosamente, lo
• 26:49
  Speaker 13: que está ocurriendo muchas veces es que se usa cuantitativamente
• 26:53
  Speaker 13: más ese recurso antes del avance en la eficiencia que después.
• 26:57
  Speaker 13: Por eso, todo está, digamos, focalizarnos en como si el
• 27:00
  Speaker 13: problema se pudiera resolver por ahí, pues quizá es un peligro, ¿no?
• 27:05
  Speaker 13: De hecho, hay un investigador que se llama Alex Debríes,
• 27:07
  Speaker 13: que un poco ha estudiado toda esta cuestión, y él
• 27:09
  Speaker 13: mismo en una entrevista contestaba, el resultado de hacer estas
• 27:12
  Speaker 13: herramientas más eficientes y accesibles puede ser que simplemente permitamos
• 27:16
  Speaker 13: más aplicaciones de las mismas y que más gente las utilice.
• 27:20
  Speaker 13: El investigador prevé que en 2027 el consumo mundial de
• 27:22
  Speaker 13: electricidad relacionado con sistemas de inteligencia artificial aumentará entre 85
• 27:26
  Speaker 13: y 134 teravatios por hora año. O sea, por año.
• 27:31
  Speaker 13: Estamos hablando de que aumentaría... el consumo nuevo de electricidad,
• 27:34
  Speaker 13: pues como si sumásemos un nuevo país como Países Bajos,
• 27:38
  Speaker 13: como Argentina o como Suecia. Y evidentemente en un momento
• 27:41
  Speaker 13: en el que tendríamos que estar reduciendo el uso de
• 27:43
  Speaker 13: energía y reduciendo el uso de agua, o al menos racionalizándola,
• 27:46
  Speaker 13: pues los efectos que tienen este tipo de tecnologías ya
• 27:49
  Speaker 13: estamos viéndolos. En 2023, récord de emisiones, se han seguido
• 27:53
  Speaker 13: batiendo cuando los océanos, estamos viendo, como ya lo comentamos
• 27:56
  Speaker 13: hace poco, estamos viendo récords de temperatura fuera de toda lógica.
• 28:00
  Speaker 13: Y entonces tanto cambio climático como crisis de biodiversidad son
• 28:03
  Speaker 13: problemas que se ven afectados, que se ven agravados y
• 28:06
  Speaker 13: que además tienen una interacción muy clara entre ambas. Yo
• 28:09
  Speaker 13: acabo diciendo de esta pregunta una cosa y es el
• 28:14
  Speaker 13: 80% de la biodiversidad, lo que nos está salvando de
• 28:16
  Speaker 13: peores pandemias, de peores cambios climáticos, de agravar peor los efectos,
• 28:20
  Speaker 13: el 80% está conservada solo por el 5% de la
• 28:23
  Speaker 13: población del planeta, son pueblos indígenas. que no tienen machine learning,
• 28:27
  Speaker 13: que no tienen inteligencia artificial, pero quizás su inteligencia natural
• 28:30
  Speaker 13: les está permitiendo conservar la vida mucho mejor de lo
• 28:33
  Speaker 13: que lo hemos
• 28:34
  Speaker 6: hecho aquí. Qué gran ejemplo. Para poner otro ejemplo y
• 28:35
  Speaker 6: que el oyente se haga cargo de lo que estamos contando,
• 28:38
  Speaker 6: el consumo medio anual de una familia en Europa es
• 28:39
  Speaker 6: 120 veces menos que el que necesita un algoritmo que
• 28:43
  Speaker 6: produce un texto automáticamente. Pero bueno, te quería preguntar por
• 28:46
  Speaker 6: otro tema que a lo mejor no caemos. En verano
• 28:48
  Speaker 6: de 2021 las altas temperaturas en Londres batieron récord histórico
• 28:51
  Speaker 6: y esto dejó fuera de juego a empresas como Google
• 28:54
  Speaker 6: en la ciudad. por fallo en el sistema de refrigeración.¿
• 28:58
  Speaker 6: Hay cada vez más riegos climáticos de apagones tecnológicos? O sea,¿
• 29:00
  Speaker 6: estamos en riesgo?
• 29:01
  Speaker 13: Sí, o sea, claro, a medida que vamos incrementando la complicidad,
• 29:04
  Speaker 13: esto es como un castillo de naipes, ¿no? Que vamos
• 29:06
  Speaker 13: haciendo cada vez más complejo y lo hace también más frágil, ¿no?
• 29:10
  Speaker 13: A que una de estas pequeñas partes del... En este caso, claro,
• 29:15
  Speaker 13: los apagones tecnológicos, bueno... Ahí no recuerdo quién dijo una
• 29:19
  Speaker 13: frase que me pareció brillante. Nuestras infraestructuras están cada vez
• 29:23
  Speaker 13: diseñadas más para un clima que está dejando de existir.
• 29:26
  Speaker 13: Esto lo estamos viendo con la infraestructura del tendido eléctrico,
• 29:31
  Speaker 13: lo estamos viendo con incluso hay una anécdota muy curiosa,
• 29:34
  Speaker 13: el banco de semillas este que se montó, el banco
• 29:36
  Speaker 13: del fin del mundo que le llaman, que está por
• 29:38
  Speaker 13: ahí por Escandinavia. se inundó...
• 29:41
  Speaker 12: es
• 29:41
  Speaker 13: decir, era un banco que estaba precisamente... diseñado para soportar
• 29:44
  Speaker 13: todos los... peores efectos del cambio climático... bueno, pues ya
• 29:47
  Speaker 13: se había inundado hace un par de años...
• 29:49
  Speaker 12: es
• 29:49
  Speaker 13: decir, tenemos que tener mucho cuidado... con la tecnología como
• 29:53
  Speaker 13: la hemos desarrollado. Y los riesgos de apagones tecnológicos son
• 29:58
  Speaker 13: muy variados. Es decir, puede haber, por ejemplo, con las
• 29:59
  Speaker 13: tormentas solares, que ahora se está hablando mucho de ello.
• 30:02
  Speaker 13: También hay un riesgo asociado a esto. Pero bueno, en
• 30:07
  Speaker 13: lugares en los que Europa, por ejemplo, la Unión Europea
• 30:09
  Speaker 13: está alertando de mega sequías para 2030, que estamos viendo
• 30:12
  Speaker 13: ya que estas sequías son cada vez más graves y
• 30:14
  Speaker 13: más extensas en el tiempo, pues tener unas necesidades hídricas
• 30:18
  Speaker 13: como las que tienen estas tecnologías pueden agravar muchos problemas
• 30:22
  Speaker 13: y sí, sí. Tenemos riesgos de apagones, digamos, eléctricos, tenemos
• 30:27
  Speaker 13: riesgos de lugares en los que se corta el consumo
• 30:30
  Speaker 13: de agua porque se prioriza para este tipo de industrias
• 30:34
  Speaker 13: o para el turismo o para el regadío intensivo. Entonces,
• 30:37
  Speaker 13: aquí es donde tendremos que analizar qué está pasando con
• 30:40
  Speaker 13: el modelo y qué podemos hacer para que precisamente las
• 30:42
  Speaker 13: consecuencias de lo que viene sean las menos malas posibles
• 30:46
  Speaker 2: Esos riesgos los tenemos aquí mismo. Por ejemplo, la empresa
• 30:48
  Speaker 2: australiana Infinity Lithium ha expresado su plan de abrir una
• 30:52
  Speaker 2: mina de litio en Extremadura prometiendo un impulso económico a
• 30:55
  Speaker 2: la comunidad. Pero no seamos tan negativos.¿ En qué puede
• 30:58
  Speaker 2: la IA contribuir activamente a la preservación y restauración del
• 31:02
  Speaker 2: medio ambiente? Parece que vuelve a intentar colonizar el programa
• 31:06
  Speaker 2: de la inteligencia artificial. Pero bueno, me parece buena pregunta, Juan.¿
• 31:09
  Speaker 2: Qué puede hacer la IA por nosotros contra el calentamiento global?
• 31:12
  Speaker 13: Bueno, la verdad es que podría hacer mucho, ¿no? Porque
• 31:15
  Speaker 13: la tecnología, a ver, la tecnología no es neutral, obviamente, ¿no?
• 31:19
  Speaker 13: Pero principalmente es verdad que dependería del uso que se
• 31:22
  Speaker 13: está haciendo de IA. Es decir, podríamos estar en un
• 31:23
  Speaker 13: sistema modelo que aprovechara el potencial de la innovación, que
• 31:27
  Speaker 13: aprovechara también el potencial de la IA. Spoiler, esto tiene
• 31:29
  Speaker 13: que ver con el crecimiento económico. Es decir, si tú
• 31:31
  Speaker 13: no necesitas crecer al 3% anual, igual es mucho más
• 31:35
  Speaker 13: fácil poder hacer este tipo de sistemas sostenibles. Esa palabra tan...
• 31:41
  Speaker 13: Pero estamos, claro, cada vez enredados más en un modelo
• 31:43
  Speaker 13: que lo que hace es explotar recursos esenciales como el
• 31:45
  Speaker 13: agua en lugares donde se están viendo que cada vez
• 31:48
  Speaker 13: son más escasos, que devora un montón de energía justo
• 31:50
  Speaker 13: cuando más faltaría aprender a gestionarla de una manera racional.
• 31:53
  Speaker 13: No sé, igual la consecuencia más lógica para una inteligencia
• 31:57
  Speaker 13: así quizás sería darse cuenta en algún momento de que
• 31:59
  Speaker 13: tiene que apagarse a sí misma. Ese sería un buen
• 32:02
  Speaker 13: momento poético para
• 32:04
  Speaker 2: Aunque también nos pide paso Javier que puede poner algún
• 32:06
  Speaker 2: ejemplo positivo de qué puede hacer por nosotros la inteligencia
• 32:09
  Speaker 2: artificial en este caso.
• 32:11
  Speaker 11: Sí, es que a veces terminamos deprimiendo, ¿no? Entonces también
• 32:14
  Speaker 11: está bien... Bueno, si se usa, si se habla tanto
• 32:18
  Speaker 11: de ella, algo bueno también tiene. Entonces, por ejemplo, aparte
• 32:23
  Speaker 11: de que hay ahora bastante trabajo en el tema de sostenibilidad,
• 32:26
  Speaker 11: pero de nuevo, claro, con factores económicos que no coinciden
• 32:30
  Speaker 11: en la paradoja de Hegons, pues nos encontramos en ese
• 32:32
  Speaker 11: atasco que dice Juan. Pero, por ejemplo, te digo una
• 32:35
  Speaker 11: línea de mi grupo de investigación... en las cuales hay
• 32:38
  Speaker 11: unos índices que se usan para priorizar en la lista
• 32:41
  Speaker 11: de espera de un trasplante hepático. Entonces, hace unos años
• 32:45
  Speaker 11: que se ha descubierto que, para sorpresa de nadie, las
• 32:47
  Speaker 11: mujeres tienen menos probabilidad de obtener un hígado en la
• 32:51
  Speaker 11: lista de espera porque el modelo subestima el riesgo de
• 32:54
  Speaker 11: morir en la lista de espera. Entonces, es precisamente un
• 32:57
  Speaker 11: análisis de datos de haber recopilado decenas de miles de
• 33:01
  Speaker 11: datos médicos coordinados entre países que reveló este problema. cuestiones distintas, ¿no?
• 33:09
  Speaker 11: Factores biológicos, factores sociales, del tipo de enfermedades hepáticas, en fin.
• 33:14
  Speaker 11: Entonces ahora se ha desarrollado una alternativa a esto que
• 33:17
  Speaker 11: hace que las mujeres ya no estén discriminadas al asignarle esto.
• 33:21
  Speaker 11: Y hay un proyecto que está financiado, se está aprobando,
• 33:26
  Speaker 11: se está haciendo un estudio en España con una base
• 33:28
  Speaker 11: de datos que se ha recopilado. Entonces, Quiero decir que
• 33:30
  Speaker 11: también nos pueden revelar información que había pasado por alta,
• 33:34
  Speaker 11: porque si solo miras la información de un hospital, pues
• 33:36
  Speaker 11: a lo mejor no descubres esa discriminación sistemática y además
• 33:39
  Speaker 11: si no tienes tanta información no puedes corregirla. Pero de nuevo,
• 33:43
  Speaker 11: las técnicas que hemos usado, que han usado mis compañeros
• 33:46
  Speaker 11: para esto, no son las que necesitan estos sistemas de
• 33:49
  Speaker 11: refrigeración tan grandes, son cosas más sencillas. que también tienen
• 33:53
  Speaker 11: mucho de haber trabajado con los clínicos durante años y
• 33:59
  Speaker 11: digamos que nos ha resuelto por fuerza bruta como sería
• 34:01
  Speaker 11: el estilo chat GPT. También quería traer este ejemplo para
• 34:05
  Speaker 11: que nos vayamos aquí con un poco de alegría.
• 34:08
  Speaker 2: Un pequeño gran ejemplo, efectivamente. Además estás en la misma
• 34:10
  Speaker 2: línea de crecimiento que Juan Bordera, al que siempre es
• 34:13
  Speaker 2: un placer escuchar. Juan, un abrazo muy fuerte, una inteligencia
• 34:17
  Speaker 2: humana muy necesaria.
• 34:22
  Speaker 14: Un abrazo grande. Cobrar las monedas de Workoi, que lo
• 34:24
  Speaker 14: han regalado por escanearlo del iris
• 34:26
  Speaker 15: La empresa asegura que la intención era crear un pasaporte
• 34:29
  Speaker 15: digital para hacer frente a las identidades falsas, pero saltaron
• 34:32
  Speaker 15: las alarmas.¿ Qué implicaciones tiene vender tus datos biométricos?
• 34:39
  Speaker 7: No tengo idea, no sé qué
• 34:39
  Speaker 15: pasa. La Agencia Española de Protección de Datos estudiaba ya
• 34:42
  Speaker 15: cuatro denuncias y hoy ha paralizado de forma cautelar
• 34:46
  Speaker 6: el bloqueo de esta empresa. Escuchábamos uno de los últimos
• 34:49
  Speaker 6: debates legales en relación a la inteligencia artificial, la paralización
• 34:52
  Speaker 6: de la empresa WorldCoin en España, que te regala criptomonedas
• 34:56
  Speaker 6: a cambio de permitirle escanear el iris de tus ojos.
• 34:59
  Speaker 2: Y eso sí que nos da miedo, como todo lo anterior.
• 35:02
  Speaker 2: Para tratar la parte legal de este asunto, para saber
• 35:04
  Speaker 2: cómo defendernos y qué herramientas tenemos... Hemos invitado a Ellen Irazábal,
• 35:08
  Speaker 2: que es abogada y experta en formación de inteligencia artificial,
• 35:11
  Speaker 2: a juristas. Ellen, crudos días.
• 35:14
  Speaker 16: Buenos crudos días, gracias.
• 35:15
  Speaker 2: La legislación europea es lo suficientemente garantista?¿ Estamos protegidas?
• 35:19
  Speaker 16: Yo creo que no. Yo creo que, además, ayer justamente,
• 35:23
  Speaker 16: no sé si lo visteis, OpenAI sacó la versión GPT-4O, donde,
• 35:29
  Speaker 16: por ejemplo, te pueden identificar con tu voz tus emociones.
• 35:35
  Speaker 16: Y esto, por ejemplo, en la propuesta de reglamento de
• 35:38
  Speaker 16: la inteligencia artificial, que aún no está en vigor, estaría
• 35:41
  Speaker 16: prohibido para el ámbito de educación y de trabajo. Pero
• 35:45
  Speaker 16: la pregunta es cómo se va a llevar a cabo
• 35:47
  Speaker 16: esa prohibición, por ejemplo. Entonces, yo soy un poco pesimista
• 35:52
  Speaker 16: en ese sentido porque creo que la IA puede arrollar
• 35:56
  Speaker 16: a la regulación que pueda venir.
• 35:58
  Speaker 2: Vamos siempre por detrás, vamos tarde.
• 36:00
  Speaker 16: Ir tarde no es necesariamente malo, porque muchas veces tampoco
• 36:04
  Speaker 16: sabes cómo regular hasta que lo has visto. El problema
• 36:07
  Speaker 16: es que yo creo que con la inteligencia artificial nos
• 36:10
  Speaker 16: enfrentamos a algo que no hemos visto hasta ahora. Estamos
• 36:14
  Speaker 16: ante unos avances exponenciales y tenemos unas estructuras rígidas y
• 36:19
  Speaker 16: burocráticas de hacer legislación. Para que calculeis, llevamos en el
• 36:24
  Speaker 16: proceso legislativo de la AI Act desde el 2021. Seguramente
• 36:29
  Speaker 16: la Unión Europea lleva de antes, pero desde el 2021
• 36:32
  Speaker 16: que salió la primera propuesta de la Comisión Europea y
• 36:35
  Speaker 16: estamos ahora en el 2024. En todo ese tiempo salió
• 36:39
  Speaker 16: cha GPT, ahora salió GPT y no sabemos qué más
• 36:42
  Speaker 16: puede salir una vez esté en vigor.
• 36:44
  Speaker 2: Qué marco tenemos ahora? De una manera general y sencilla
• 36:47
  Speaker 2: que nos puedes contar que ahora mismo hay legislado respecto
• 36:50
  Speaker 2: a esto.
• 36:50
  Speaker 16: Ahora mismo diríamos que sin la aprobación de la IAIAC,
• 36:56
  Speaker 16: los dos marcos regulatorios que más afectan a la IAIAC
• 36:59
  Speaker 16: es el Reglamento General de Protección de Datos, de ahí
• 37:01
  Speaker 16: que la Agencia Española de Protección de Datos se haya
• 37:04
  Speaker 16: puesto a investigar este problema. Y también podríamos hablar de
• 37:07
  Speaker 16: la parte de ciberseguridad, que está en la parte de
• 37:09
  Speaker 16: la RGPD, pero también yo que me dediqué hace algunos
• 37:12
  Speaker 16: años a ciberseguridad…
• 37:13
  Speaker 2: ¿RGPD?
• 37:14
  Speaker 16: Sí, RGPD, el Reglamento General de Protección de Datos,
• 37:17
  Speaker 2: y
• 37:18
  Speaker 16: la RGPD que también tiene la parte de ciberseguridad cubierta,
• 37:22
  Speaker 16: pero aparte también hay estándares internacionales, por lo que en
• 37:25
  Speaker 16: general las empresas suelen adherirse para recibir certificaciones, como también
• 37:31
  Speaker 16: está el Esquema Nacional de Seguridad, etc.
• 37:33
  Speaker 6: Una de las cuestiones más complejas es eso de la
• 37:35
  Speaker 6: identidad digital.¿ Cómo defendemos nuestra identidad cuando la línea entre
• 37:39
  Speaker 6: lo humano y lo artificial se va difuminando?
• 37:43
  Speaker 16: Sinceramente no lo sé. Yo creo que estamos en un
• 37:46
  Speaker 16: punto donde el uso de la inteligencia artificial ahora mismo
• 37:52
  Speaker 16: no es masivo, pero cada vez va a ser más masivo.
• 37:55
  Speaker 16: De alguna manera, yo creo que no voy a generalizar,
• 37:59
  Speaker 16: pero yo creo que hay usuarios que ya utilizan inteligencia
• 38:02
  Speaker 16: artificial e incluso usuarios que venden sus datos. No sé
• 38:07
  Speaker 16: hasta qué punto, eso es un consentimiento ya. aunque no
• 38:10
  Speaker 16: sea un informado y sin saber muy bien lo que
• 38:11
  Speaker 16: está pasando, pero que sea un consentimiento de lo que
• 38:14
  Speaker 16: ya está pasando en Internet y lo que esté pasando
• 38:16
  Speaker 16: en inteligencia artificial. Mi línea suele ser que al final
• 38:21
  Speaker 16: cada usuario decida su intercambio. Yo quizás no quiero dar
• 38:25
  Speaker 16: mis datos a meta, por ejemplo, no quiero subir fotos
• 38:28
  Speaker 16: a meta, pero sí quiero utilizar el chat GPT de OpenAI.
• 38:31
  Speaker 6: Pero estamos suficientemente informados o hay mucha opacidad respecto a
• 38:35
  Speaker 6: lo que supone darle esos datos?
• 38:37
  Speaker 16: Sí, a ver, yo creo que, curiosamente, aquí incido un
• 38:41
  Speaker 16: poco en la RGPD, uno de los efectos que ha
• 38:44
  Speaker 16: traído la RGPD, ya que estábamos hablando antes también de
• 38:47
  Speaker 16: las grandes empresas, y nuestros oyentes pueden ver en Google
• 38:52
  Speaker 16: Scholar o incluso si tienen GPT-4 pueden buscar los papers,
• 38:55
  Speaker 16: como la RGPD uno de los efectos que ha tenido
• 38:57
  Speaker 16: ha sido concentrar más el mercado en las grandes empresas, curiosamente.
• 39:02
  Speaker 6: O sea, al contrario.
• 39:03
  Speaker 16: Eso es. Al contrario, lo que realmente necesitábamos para lo
• 39:05
  Speaker 16: que tú comentas de más transparencia, por ejemplo, a través
• 39:08
  Speaker 16: del open source y del código abierto o de pequeñas
• 39:11
  Speaker 16: empresas que apuesten por vías que se les llaman más seguras,
• 39:15
  Speaker 16: pero pueden ser también más privadas, donde puedan ser también
• 39:18
  Speaker 16: totalmente transparentes y donde publiquen los pesos de las redes neuronales,
• 39:22
  Speaker 16: el código que han utilizado y que la comunidad open
• 39:27
  Speaker 16: source también lo explote y que sea más accesible para
• 39:29
  Speaker 16: los ciudadanos. Entonces, de ahí que un poco las políticas
• 39:33
  Speaker 16: de privacidad, por ejemplo, hay otro estudio también que comenta
• 39:36
  Speaker 16: cómo la política de privacidad de Google no solo no
• 39:40
  Speaker 16: se ha simplificado con la RGPD, sino que se ha encrudecido,
• 39:44
  Speaker 16: podríamos decirlo. Claro, estamos en un ámbito un poco hasta
• 39:47
  Speaker 16: qué punto las leyes juegan el papel contrario queriendo ese
• 39:53
  Speaker 16: mismo objetivo.
• 39:54
  Speaker 2: Quizá por eso tú enseñas a los abogados a programar.
• 39:57
  Speaker 2: Así lo dices en Advocatus AI, que es donde trabajas
• 40:02
  Speaker 2: y donde haces esa formación.¿ Por qué debe aprender a
• 40:04
  Speaker 2: programar un abogado?
• 40:06
  Speaker 16: Más que aprender a programar, yo les enseño lógica de
• 40:08
  Speaker 16: la programación. Cómo las máquinas toman decisiones. Calculad que en
• 40:13
  Speaker 16: abogacía hay abogados que se van a dedicar a hacer consultoría,
• 40:17
  Speaker 16: asesoramiento en esta nueva regulación que va a venir, tanto
• 40:21
  Speaker 16: a ingenieros como puede ser también a usuarios afectados y
• 40:25
  Speaker 16: tienen que entender en qué consiste esto de la inteligencia artificial.
• 40:29
  Speaker 16: Entonces una de mis partes es explicar inteligencia artificial de
• 40:32
  Speaker 16: manera intuitiva y también enseñarle cómo van tomando las decisiones
• 40:37
  Speaker 16: las máquinas, en este caso con el lenguaje de programación Python.
• 40:41
  Speaker 2: En Estados Unidos y en algunos países europeos ya están
• 40:43
  Speaker 2: presentes las smart borders, fronteras inteligentes, para controlar las fronteras
• 40:48
  Speaker 2: con inteligencia artificial.¿ Esto puede ser ética y legalmente dudoso?
• 40:53
  Speaker 16: Sí, o sea, quiere decir, depende además de cómo se utilice, ¿no?
• 40:56
  Speaker 16: Esto yo creo que depende además de cómo se utilice,
• 41:00
  Speaker 16: pues sí puede presentar bastantes dudas. Y de hecho ha habido,
• 41:04
  Speaker 16: si no recuerdo mal, organizaciones de derechos fundamentales que han
• 41:09
  Speaker 16: puesto el grito en el cielo por esta práctica.
• 41:16
  Speaker 2: Y nosotros podemos reclamar que nos devuelvan datos o que
• 41:20
  Speaker 2: no comercien con ellos?¿ Hasta qué punto nos pertenecen?
• 41:25
  Speaker 16: Buena suerte con eso. Yo creo que... Esto es un
• 41:31
  Speaker 16: tema un poco complejo, ¿no?¿ A quién pertenecen los datos?
• 41:36
  Speaker 16: A mí me gusta mucho el approach que tenía Elinor
• 41:38
  Speaker 16: Ostrom y la gestión de los bienes comunes. Lo que
• 41:42
  Speaker 16: pasa es que no la tengo todavía 100% explotada, ¿no?
• 41:45
  Speaker 16: Esta visión. Pero sí que es cierto que los datos,
• 41:48
  Speaker 16: por ejemplo, no es, por ejemplo, lo mismo que mi vivienda, ¿no?
• 41:53
  Speaker 16: Que puedo tenerla en propiedad, ¿no? La vivienda es un
• 41:56
  Speaker 16: bien escaso. El problema que tenemos con los datos es
• 41:59
  Speaker 16: que no son bienes escasos. Entonces tú le puedes dar
• 42:03
  Speaker 16: los mismos datos a Meta que le puedes dar los
• 42:05
  Speaker 16: mismos datos a Google. Otra cosa es que no lo hagas,
• 42:08
  Speaker 16: que la finalidad que se emplee sea distinta, etc. Pero
• 42:11
  Speaker 16: es que realmente a nivel técnico, tú imagínate una grandísima
• 42:16
  Speaker 16: empresa como el Banco Santander, vamos a dejarnos de empresas
• 42:21
  Speaker 16: tecnológicas grandes, empieza a hacer una reclamación de rectificación, pues
• 42:26
  Speaker 16: es que tienen que tocar varios departamentos para poder hacer eso.
• 42:30
  Speaker 16: Quiero decir,¿ se puede? Sí.¿ Siempre puede pasar? Pues no
• 42:35
  Speaker 16: lo sé.
• 42:36
  Speaker 2: O sea, me da la sensación de que estamos bastante
• 42:38
  Speaker 2: indefensos y que nuestra libertad y la posesión como propiedad
• 42:43
  Speaker 2: privada en un sistema tan neoliberal como este, de nuestros datos,
• 42:46
  Speaker 2: es muy escasa.
• 42:48
  Speaker 16: Sí, yo creo que al final, en el punto donde
• 42:52
  Speaker 16: yo creo que estamos, es una redefinición absoluta de la privacidad.
• 42:57
  Speaker 2: En este sentido
• 42:58
  Speaker 2: que la estamos perdiendo
• 42:59
  Speaker 6: de eso también sabe mucho Efraín porque quería preguntarte cuando
• 43:03
  Speaker 6: se nos extrae información por ejemplo cuando aceptamos las cookies
• 43:05
  Speaker 6: o los términos y condiciones al escribirnos en una web
• 43:08
  Speaker 6: pero eso lo podemos imaginar pero con cuánta información se
• 43:11
  Speaker 6: queda sin que lo consintamos de forma explícita esto que
• 43:14
  Speaker 6: se comenta de que la rumba hace un plano de
• 43:15
  Speaker 6: tu casa y lo envía a su empresa para conocer
• 43:19
  Speaker 6: cómo es tu casa¿ eso es verdad?
• 43:21
  Speaker 5: bueno sí totalmente de hecho me parece que hay dos
• 43:23
  Speaker 5: dimensiones en esto en el hecho de desconocer lo que
• 43:27
  Speaker 5: estamos dando Y a esto se le llama las estrategias
• 43:31
  Speaker 5: de algoritmos oscuros.¿ Y esto qué es? Esto es todas
• 43:36
  Speaker 5: las estrategias como de un comercial para que tú en
• 43:39
  Speaker 5: una página web tengas la seducción, etcétera, etcétera, y vayas
• 43:44
  Speaker 5: regalando y vayas aceptando una serie de derechos para dar
• 43:48
  Speaker 5: toda esa información. Y luego tenemos la otra dimensión que
• 43:50
  Speaker 5: podríamos decir que son los dispositivos que tienen un chip
• 43:54
  Speaker 5: que es casi todo y que funcionan como un panóptico.
• 43:57
  Speaker 5: Básicamente que sería cualquier persona que se puede llegar a
• 44:00
  Speaker 5: asustar porque Google le da una respuesta que nunca tecleó,
• 44:04
  Speaker 5: pero que la verbalizó. O sea, el micro como un
• 44:07
  Speaker 5: escáner de todo lo que haces. Y claro, tenemos cámaras
• 44:10
  Speaker 5: de vigilancia, tenemos rumbas, etc.¿ Qué pasa? Que cuando las instalamos,
• 44:15
  Speaker 5: le damos OK a aceptar
• 44:17
  Speaker 6: a
• 44:17
  Speaker 5: todo lo que se pueda comer la rumba o el
• 44:20
  Speaker 5: iPhone o todo lo que tenemos.
• 44:23
  Speaker 2: Y quién nos puede proteger de eso, Elin?
• 44:25
  Speaker 16: A ver, en principio, por ejemplo, el ejemplo que estaba
• 44:27
  Speaker 16: poniendo él, ¿no? Sí que la RGPD y el consentimiento puede,
• 44:31
  Speaker 16: o sea, por finalidad, tú debes dar el consentimiento por finalidad.
• 44:35
  Speaker 16: Luego esto está el de manera práctica a dónde te lleva, ¿no?
• 44:39
  Speaker 16: Una cosa es sobre papel y otra cosa es de
• 44:40
  Speaker 16: manera práctica. Yo creo que yo soy un poco, o sea,
• 44:44
  Speaker 16: quiero decir, con el Big Data, yo creo que más
• 44:47
  Speaker 16: de lo que le interesa cómo es tu casa, le
• 44:49
  Speaker 16: interesa cómo es la casa de todos.
• 44:51
  Speaker 6: Claro. ¿No?
• 44:52
  Speaker 16: O sea, tu dato por sí solo no vale. Lo
• 44:55
  Speaker 16: que vale es en conjunto de todos ellos y de ahí,
• 44:58
  Speaker 16: que si tú, por ejemplo, haces un derecho de rectificación
• 45:00
  Speaker 16: y pongamos que es efectivo, tampoco pasaría nada. El problema
• 45:03
  Speaker 16: sería que de un millón de personas lo hicieran la mitad. Entonces,
• 45:08
  Speaker 16: de ahí que, por ejemplo, uno de los puntos de
• 45:11
  Speaker 16: la IAI Act y la RGPD es que la RGPD
• 45:14
  Speaker 16: habla de la minimización de datos, solamente recabar datos que
• 45:17
  Speaker 16: son necesarios, pero no siempre, nosotros tampoco sabemos hasta qué
• 45:22
  Speaker 16: punto cuando nos piden un servicio es estrictamente necesario.
• 45:25
  Speaker 12: Y
• 45:25
  Speaker 16: eso no solo pasa en las empresas, también en la
• 45:27
  Speaker 16: administración pública. Y, sin embargo, con la AIAC te piden
• 45:34
  Speaker 16: datos representativos para no tener sesgos, pero eso puede a
• 45:37
  Speaker 16: su vez suponer mayor recabación de datos. Con lo cual,
• 45:42
  Speaker 16: es lo que os comento, no está nada claro, incluso
• 45:46
  Speaker 16: por ley, cómo estas dos facetas se van a conjugar.
• 45:49
  Speaker 2: Por eso es tan importante la unión que hace la
• 45:52
  Speaker 2: fuerza y la defensa, la reclamación colectiva. Está intentando otra
• 46:01
  Speaker 2: vez hacerse con el programa, pero no lo vamos a consentir.
• 46:03
  Speaker 2: Vamos a seguir adelante porque, precisamente, si no nos protegen
• 46:06
  Speaker 2: suficientemente las leyes, a veces tenemos que actuar colectivamente. Por
• 46:11
  Speaker 2: ello es importante la lucha contra este sistema tecnológico desde
• 46:17
  Speaker 2: las asociaciones. Es el ejemplo de la Asociación de Internautas,
• 46:20
  Speaker 2: de la que es presidenta Ofelia Tejerina. Ofelia, crudos días.
• 46:25
  Speaker 17: Qué tal? Buenos días.
• 46:26
  Speaker 2: Oye,¿ qué podemos hacer ante el control y la vigilancia
• 46:28
  Speaker 2: a la que nos someten estas inteligencias artificiales, ante todo
• 46:31
  Speaker 2: esto que estamos contando?
• 46:33
  Speaker 17: Bueno, yo lo primero que quiero decir es que las
• 46:36
  Speaker 17: leyes nos protegen, pero por supuesto no nos hacen inmortales.¿
• 46:40
  Speaker 17: Qué significa esto?¿ Qué leyes hay? Las leyes dicen lo
• 46:43
  Speaker 17: que está prohibido, lo que no pueden hacer, dónde están
• 46:46
  Speaker 17: los límites y qué les pasa si los traspasan. Si
• 46:49
  Speaker 17: no tenemos pruebas, no hay caso. Ese es el verdadero problema,
• 46:52
  Speaker 17: que muchas veces no encontramos cómo podemos denunciar algo que
• 46:56
  Speaker 17: está ocurriendo, porque lo sospechamos, porque se solicitan las pruebas
• 47:00
  Speaker 17: y nosotros no estamos haciendo nada y hasta que no
• 47:02
  Speaker 17: hay un gran escándalo, no hay resolución. Y ya no
• 47:06
  Speaker 17: aspiramos a una solución judicial. Ahora lo que aspiramos la
• 47:10
  Speaker 17: sociedad civil es a una solución que le saque los colores.
• 47:14
  Speaker 17: Es decir, que consiga una crisis reputacional importante en las
• 47:18
  Speaker 17: empresas que hacen ese tipo de cosas. A Meta ya
• 47:21
  Speaker 17: le ocurrió. Con Cambridge Analytica se llamaba Facebook. Ahora se
• 47:24
  Speaker 17: llama Meta. Ha querido hacer un limpiado de cara. Siguen
• 47:28
  Speaker 17: funcionando y siguen haciendo lo que les da la gana
• 47:29
  Speaker 17: y lo seguirán haciendo mientras no les pillemos. Ese es
• 47:32
  Speaker 17: el problema que nos enfrentamos. Por lo tanto, yo pongo
• 47:34
  Speaker 17: dos cosas sobre la mesa. Los datos que damos, por imprudentes,
• 47:38
  Speaker 17: porque a quién se le ocurre vender el iris en
• 47:41
  Speaker 17: una empresa que está en un centro comercial, es una
• 47:43
  Speaker 17: cosa que a mí de verdad me dejó bastante alucinada
• 47:45
  Speaker 17: cuando empecé a oírlo hace bastantes meses. Y segundo, los
• 47:49
  Speaker 17: datos que nos roban. Porque claro, vemos brechas de seguridad
• 47:52
  Speaker 17: y noticias de ha habido una brecha de seguridad en
• 47:55
  Speaker 17: el banco no sé cuál, ha habido una brecha de
• 47:56
  Speaker 17: seguridad en la empresa tal, cambia tus claves. Y luego
• 47:59
  Speaker 17: ves noticias y gente en TikTok contando sus experiencias de
• 48:03
  Speaker 17: es que recibo una llamada que me dicen que tengo
• 48:07
  Speaker 17: una cuenta de teléfono asociada a tantos números, que tengo
• 48:11
  Speaker 17: estas facturas, que la última cambió, lo sabían todo de
• 48:14
  Speaker 17: mi perfil como usuario de esa empresa de telecomunicaciones. Y
• 48:18
  Speaker 17: entonces me piden más cosas para estafarme.¿ Cómo lo podían
• 48:22
  Speaker 17: saber todo? Pues claro, cuando ves esas noticias de que
• 48:25
  Speaker 17: había una brecha de seguridad, de ahí sacan la información
• 48:28
  Speaker 17: los malos. Eso es lo que pretenden, eso es lo
• 48:30
  Speaker 17: que intentan conseguir para luego poder estafarnos. no podemos quedarnos
• 48:34
  Speaker 17: impasibles ante ese tipo de noticias y seguir denunciándolo.
• 48:37
  Speaker 2: Claro,¿ y cómo lo hacemos?¿ Cómo denunciamos?¿ Y qué relevancia
• 48:43
  Speaker 2: tiene esa denuncia finalmente?
• 48:45
  Speaker 17: Primero, si alguien tiene noticia de que sus datos están
• 48:47
  Speaker 17: en riesgo en cualquier empresa y no ha salido gracias
• 48:51
  Speaker 17: a los periodistas, que sois los que muchas veces nos
• 48:53
  Speaker 17: ponéis la alerta sobre la mesa, ponerlo en las redes sociales, denunciarlo,
• 48:56
  Speaker 17: decirle a la gente que tenga cuidado o ponerse en
• 48:58
  Speaker 17: contacto con los medios de comunicación. Eso es lo primero.
• 49:01
  Speaker 17: Además de cambiar nuestras claves, por supuesto, no vamos a
• 49:04
  Speaker 17: hablar ya de denuncias. Y lo siguiente, pues tenemos a
• 49:07
  Speaker 17: la Agencia de Protección de Datos para informarle de lo
• 49:09
  Speaker 17: que está ocurriendo y que pueda iniciar las investigaciones que correspondan.
• 49:12
  Speaker 17: Eso ya es el segundo paso, pero claro, como para todo,
• 49:16
  Speaker 17: hay que tener pruebas. Para mí, la principal herramienta que
• 49:20
  Speaker 17: tenemos en las manos es informarnos y ser prudentes.
• 49:25
  Speaker 6: Vayamos a lo que usamos todos los días.¿ Qué ocurre
• 49:27
  Speaker 6: con WhatsApp, Facebook, Instagram?¿ Deberíamos dejar de usarlo?¿ Qué consecuencias
• 49:30
  Speaker 6: tiene nuestro rastro digital?
• 49:33
  Speaker 17: Tiene consecuencias tremendas, pues que si un día queremos olvidarnos
• 49:37
  Speaker 17: de lo que hemos dejado en nuestras redes sociales, tenemos
• 49:40
  Speaker 17: que pensar que no basta con eliminar el perfil, porque
• 49:42
  Speaker 17: no sabemos cuánta gente ha hecho réplica de la información
• 49:45
  Speaker 17: que hemos colgado ahí. La estamos regalando sin ningún tipo
• 49:48
  Speaker 17: de problema. Una fotografía, hoy es inocua, es una foto
• 49:52
  Speaker 17: de un adolescente en un colegio junto a un montón
• 49:54
  Speaker 17: de profesores y un director. Estoy hablando de un caso
• 49:56
  Speaker 17: que ocurrió hace bastantes años, ahora siete o ocho años,
• 50:00
  Speaker 17: Y resulta que luego uno de esos profesores o el director,
• 50:03
  Speaker 17: si no recuerdo mal, fue acusado de pedofilia, de estar
• 50:08
  Speaker 17: cometiendo abusos contra menores. Y estaba en una foto con menores.
• 50:11
  Speaker 17: Pensar que uno de tus hijos puede estar asociado a
• 50:13
  Speaker 17: esa persona en una imagen que va a estar ahí colgada,
• 50:15
  Speaker 17: pues es bastante desagradable. Es un ejemplo que tenemos que tener...
• 50:19
  Speaker 17: Siempre en la mente. No deis datos que no necesita
• 50:22
  Speaker 17: el mundo. No expongamos a los niños demasiado. No queremos
• 50:27
  Speaker 17: acabar entre las redes con una reputación profesional que se
• 50:32
  Speaker 17: basa en nuestra reputación de jóvenes haciendo el gamba.¿ Qué
• 50:36
  Speaker 17: necesidad hay de poner ciertas imágenes? Y sobre todo,¿ por
• 50:38
  Speaker 17: qué no pedimos permiso a nuestros amigos de si queremos
• 50:41
  Speaker 17: que suban o no suban las fotos?¿ Por qué los
• 50:43
  Speaker 17: padres no tienen aplicaciones de control parental que les puedan
• 50:46
  Speaker 17: ayudar Cortar a los chavales haciendo determinadas cosas. Y a
• 50:50
  Speaker 17: mí que no me vengan con lo de que los
• 50:51
  Speaker 17: padres no se enteran. Mira, los padres de adolescentes tienen
• 50:54
  Speaker 17: ya 40, 45, 50 años y saben perfectamente utilizar Tinder
• 50:57
  Speaker 17: cuando lo tienen que utilizar. Por lo tanto, esas excusas
• 51:00
  Speaker 17: de no se usar aplicaciones, mira,
• 51:02
  Speaker 12: ya no
• 51:03
  Speaker 17: cuela. Eso para mis padres que tendrán 70, 80 años,
• 51:06
  Speaker 17: pero para los padres de adolescentes hoy no sirve esa excusa,
• 51:09
  Speaker 17: es ridícula. Así que la precaución y buscar, pues no sé,
• 51:14
  Speaker 17: gente que nos informe, que para eso está la Asociación
• 51:16
  Speaker 17: de Internautas, además estamos renovando la Junta Directiva para salir
• 51:19
  Speaker 17: todavía más potentes, porque
• 51:21
  Speaker 12: la
• 51:21
  Speaker 17: inteligencia artificial nos lo exige y hay que actualizarse y renovar.
• 51:24
  Speaker 17: Y la Agencia de Protección de Datos, INCIBE, el Centro
• 51:28
  Speaker 17: Criptológico Nacional... vosotros hacéis una labor fantástica con todo esto.
• 51:33
  Speaker 17: No podemos hacer oídos sordos porque todo es muy cómodo,
• 51:35
  Speaker 17: muy rápido y muy fácil. Y una precaución ya personal
• 51:38
  Speaker 17: que os lanzo. Por favor, no hace falta tener todo interconectado.
• 51:41
  Speaker 17: No necesitamos todas las herramientas tecnológicas que aparecen para tenerla
• 51:45
  Speaker 17: en casa, en mitad del salón, escuchándonos.
• 51:47
  Speaker 2: Muy buenas recomendaciones. Y si tenéis más preguntas y más dudas,
• 51:51
  Speaker 2: llamad a la Asociación de Internautas que preside Ofelia Tejerina.
• 51:54
  Speaker 2: Muchísimas gracias. Un abrazo muy fuerte.
• 51:56
  Speaker 18: Los psicólogos definen la personalidad como una combinación de tus pensamientos,
• 52:00
  Speaker 18: sentimientos y comportamientos. Y con cada clic, Facebook te conoce
• 52:05
  Speaker 18: cada vez mejor. Sin embargo, es ilegal que los anunciantes
• 52:08
  Speaker 18: en Facebook se dirijan a ti en función de tus
• 52:10
  Speaker 18: rasgos de personalidad. Lo que aún no es ilegal es
• 52:14
  Speaker 18: que lo hagan en función de tus intereses. Por ejemplo,
• 52:16
  Speaker 18: a qué películas le das me gusta o a qué
• 52:18
  Speaker 18: celebridad sigues.
• 52:20
  Speaker 2: Facebook ha sido una de las empresas que ya ha
• 52:21
  Speaker 2: tenido que responder a su uso ilegal de los datos
• 52:23
  Speaker 2: de sus usuarios.
• 52:24
  Speaker 6: A la compañía se le acusó de haber compartido de
• 52:26
  Speaker 6: manera inapropiada los datos de 87 millones de usuarios con
• 52:29
  Speaker 6: la firma de consultoría política Cambridge Analytica.
• 52:32
  Speaker 2: Es un paso, pero todavía quedan muchos hasta que las
• 52:35
  Speaker 2: empresas tecnológicas hagan un uso ético de la extracción de datos.
• 52:41
  Speaker 19: Cuando tú desarrollas un programa informático basado en inteligencia artificial
• 52:45
  Speaker 19: con ciertos datos y con una cierta finalidad, cuando lo
• 52:48
  Speaker 19: mueves a un entorno menos controlado, pierdes un poquito de
• 52:51
  Speaker 19: capacidad sobre lo que va a conseguir o no. Por
• 52:54
  Speaker 19: eso cuando hablamos de ética en la inteligencia artificial nos
• 52:57
  Speaker 19: referimos a que se tengan en cuenta todas las posibles
• 52:59
  Speaker 19: variables de perjuicio que pueda tener un sistema, pero previo
• 53:02
  Speaker 19: a su desarrollo, ¿no? Incluso llegar a plantearnos si realmente
• 53:05
  Speaker 19: necesitamos un sistema automatizado para una labor concreta.
• 53:08
  Speaker 2: Irene Valiente, Crudos
• 53:10
  Speaker 20: Días. Crudos
• 53:10
  Speaker 2: Días.¿ Con quién has estado hablando?
• 53:12
  Speaker 20: Pues ella es Nayar Abelio, que además de una gran
• 53:14
  Speaker 20: amiga es periodista especializada en nuevas tecnologías, privacidad y derechos digitales.
• 53:19
  Speaker 20: Ahora investiga en la Organización de Derechos Humanos Algorithm Watch,
• 53:23
  Speaker 20: que está en Berlín, y tiene una doble misión.
• 53:26
  Speaker 19: Por un lado, generamos conocimiento digital y realizamos investigaciones para
• 53:30
  Speaker 19: conseguir información acerca de cómo la inteligencia artificial y los
• 53:33
  Speaker 19: algoritmos que no siempre tienen por qué tener inteligencia artificial
• 53:37
  Speaker 19: impactan en la sociedad en su conjunto, pero también sobre
• 53:40
  Speaker 20: grupos vulnerables.
• 53:41
  Speaker 19: Con
• 53:41
  Speaker 20: esa información desarrollan políticas públicas y las trasladan a gobiernos
• 53:45
  Speaker 20: e instituciones para influir en sus normativas y que los
• 53:48
  Speaker 20: algoritmos que utilizan sean más democráticos, inclusivos y sostenibles.
• 53:52
  Speaker 19: Intentamos desgranar esos sistemas, entender cómo funcionan, quién los controla
• 53:57
  Speaker 19: y con qué datos están formados o con qué datos
• 53:59
  Speaker 19: se han entrenado para luego intentar evaluar el impacto que
• 54:02
  Speaker 19: pueden tener sobre las personas con las que se utilizan.
• 54:05
  Speaker 2: Decía Nayara que no todos los algoritmos que nos afectan
• 54:08
  Speaker 2: como sociedad están basados en inteligencia artificial.
• 54:11
  Speaker 20: Sí, la organización también analiza los llamados programas automatizados de
• 54:15
  Speaker 20: toma de decisiones, como los que utilizan las administraciones públicas
• 54:18
  Speaker 20: en España.
• 54:19
  Speaker 19: Estamos hablando incluso de programas que son un simple Excel.
• 54:22
  Speaker 19: Lo que pasa es que, bueno, están automatizados y se
• 54:24
  Speaker 19: utilizan para tomar decisiones. Ese tipo de programas también hay
• 54:27
  Speaker 19: que tenerlos en cuenta si queremos valorar un buen o
• 54:29
  Speaker 19: un mal uso de la inteligencia artificial.
• 54:31
  Speaker 20: Desde Algorithm Watch parten de la premisa de que a
• 54:34
  Speaker 20: la hora de desarrollar una inteligencia artificial es poco probable
• 54:37
  Speaker 20: que estés pensando en utilizarla digamos, para el mal, salvo
• 54:41
  Speaker 20: en contextos bélicos como ocurre en el genocidio en Gaza.
• 54:44
  Speaker 2: Bueno, ya hablamos aquí de cómo Israel ha convertido a
• 54:46
  Speaker 2: Palestina en un auténtico laboratorio de armas y de sistemas
• 54:48
  Speaker 2: informáticos con los que rastrea, selecciona y bombardea a la población.
• 54:52
  Speaker 20: Eso es, pero afortunadamente este uso de la inteligencia artificial
• 54:55
  Speaker 20: no es tan frecuente. De hecho, el problema más generalizado
• 54:58
  Speaker 20: es que, como nos contaban ayer al principio, los sistemas
• 55:01
  Speaker 20: automatizados se plantean en entornos muy controlados como laboratorios.
• 55:05
  Speaker 19: Qué pasa? Cuando ese sistema... se empieza a utilizar en
• 55:08
  Speaker 19: condiciones de vida real, es decir, que ya no hay
• 55:10
  Speaker 19: tanta supervisión, que hemos salido de un grupo poblacional concreto,
• 55:14
  Speaker 19: sino que lo estamos aplicando en el conjunto de la sociedad,
• 55:17
  Speaker 19: ahí es donde los sistemas se suelen descontrolar porque no
• 55:20
  Speaker 19: siempre se tiene control sobre cómo han tomado las decisiones.
• 55:23
  Speaker 20: Por eso quise saber también qué podemos hacer nosotras como
• 55:26
  Speaker 20: usuarias para utilizar de forma más ética estos sistemas y tecnologías.
• 55:30
  Speaker 20: Yo lo que diría
• 55:31
  Speaker 19: es que todavía tenemos que familiarizarnos un poquito más con
• 55:33
  Speaker 19: esos términos, con los efectos que tienen estos programas, insisto,
• 55:37
  Speaker 19: lleven inteligencia artificial o no, y cómo afrontarlos. Al fin
• 55:40
  Speaker 19: y al cabo también suelen ser sistemas que actúan sobre
• 55:43
  Speaker 19: grupos poblacionales concretos, sobre también normalmente poblaciones vulnerables, Y a
• 55:48
  Speaker 19: estas personas son a las que más les cuesta entender
• 55:51
  Speaker 19: los efectos que tienen estos sistemas sobre ellos.
• 55:54
  Speaker 20: Y escuchar y seguir a Algorithm Watch, que por cierto
• 55:56
  Speaker 20: en enero abandonó X, como tantas otras organizaciones que consideran
• 56:00
  Speaker 20: que con Elon Musk la red social ha dejado de
• 56:03
  Speaker 20: ser un espacio público para coordinarse libremente con la sociedad civil.
• 56:07
  Speaker 20: Pero podéis seguirlos en Mastodon, LinkedIn, Facebook o Instagram
• 56:11
  Speaker 2: Una decisión muy acertada, en mi opinión. Nosotros afortunadamente... Tenemos
• 56:15
  Speaker 2: otras vías de comunicación, pero desafortunadamente dependemos todavía de X
• 56:18
  Speaker 2: para dar a conocer muchos de nuestros contenidos. Gracias a
• 56:21
  Speaker 2: Nayara Abelio y a ti, Irene
• 56:23
  Speaker 20: Gracias a vosotras
• 56:25
  Speaker 2: Javier, hay algoritmos de reconocimiento facial que producen falsos positivos
• 56:29
  Speaker 2: en rostros no blancos o sistemas de moderación de contenidos
• 56:32
  Speaker 2: que no protegen a las mujeres. Al hilo de lo
• 56:35
  Speaker 2: que estábamos escuchando que nos contaba Nayara,¿ es la IA racista, sexista, machista, homófoba, discriminatoria?
• 56:43
  Speaker 11: Sí, lo puede ser y lo es. Las investigadoras que
• 56:47
  Speaker 11: despidieron de Google, del grupo de ética de Google, Timmy
• 56:51
  Speaker 11: Gebru y compañía, pues parte de su investigación se ha
• 56:54
  Speaker 11: basado en esto. La parte, digamos, que han podido calibrar
• 57:00
  Speaker 11: las imágenes para que funcionen mejor con rostros, con la
• 57:03
  Speaker 11: piel oscura, etc. Bueno, pues son cuestiones técnicas de calibrado
• 57:07
  Speaker 11: que han resuelto, pero claro, el problema es que cuando
• 57:09
  Speaker 11: se metieron... hablar de cuestiones éticas que iban confrontadas con
• 57:15
  Speaker 11: el modelo de negocio de Google, como fue el caso
• 57:17
  Speaker 11: del artículo por el cual le despidieron, pues en este caso,
• 57:21
  Speaker 11: como hablaban de este problema de la carrera por tener
• 57:25
  Speaker 11: más datos, ese aumento exponencial de datos y potencia de
• 57:28
  Speaker 11: los modelos, etc., más todos los problemas derivados que anticiparon
• 57:33
  Speaker 11: de los sistemas tipo chat GPT, pues en este caso
• 57:36
  Speaker 11: sí le hizo una confrontación Hay gente que dice que
• 57:40
  Speaker 11: el problema viene desde los años 30 porque los creadores
• 57:44
  Speaker 11: del conocimiento basado en correlaciones, en estadísticas, eran genecistas de
• 57:50
  Speaker 11: principios de siglo. Pearson y compañía estaban muy asociados con
• 57:56
  Speaker 11: la mejora genética de la raza, etcétera, que ya sabemos
• 58:00
  Speaker 11: por dónde derivó hace 100 años y entonces, bueno, pues...
• 58:04
  Speaker 11: Esta idea de analizar solo el exterior de las personas
• 58:08
  Speaker 11: y buscar correlaciones en cómo se comportan o cómo son
• 58:12
  Speaker 11: o cómo se aparentan con algunas cuestiones sociales, pues ha
• 58:17
  Speaker 11: sido problemática de siempre. Entonces hay una parte inherente, problemática
• 58:23
  Speaker 11: desde el principio, que aplicada a ciertos ámbitos lo puede ser.
• 58:27
  Speaker 11: En cuestión del lenguaje, pues hay estudios del Chasquepete, por ejemplo,
• 58:30
  Speaker 11: que es más fácil que se hicieron pruebas antes de
• 58:34
  Speaker 11: que se escase un poco el modelo, tuvieran supervisiones de contenido,
• 58:37
  Speaker 11: que tú decías, entran dos judíos en un bar, como
• 58:42
  Speaker 11: te completaba la historia, era que se tomaba algo y
• 58:44
  Speaker 11: se ponían, entran dos musulmanes en un bar y hacen
• 58:47
  Speaker 11: un ataque. Entonces, todo esto, si se ha alimentado un
• 58:52
  Speaker 11: modelo de este tipo sobre las noticias en prensa, depende
• 58:55
  Speaker 11: de por qué países, nos encontramos con que cuando le
• 58:58
  Speaker 11: preguntas sobre Palestina a GPT, si Israel tiene derecho a
• 59:05
  Speaker 11: la libertad y la seguridad, pues te dice que por supuesto,
• 59:07
  Speaker 11: que lo tienen todos los pueblos. pero si le preguntas
• 59:10
  Speaker 11: por Palestina te dice que es una cuestión compleja. Esto
• 59:13
  Speaker 11: no es más ni menos que una reproducción de las
• 59:16
  Speaker 11: dinámicas y tendencias de medios de comunicación. Curiosamente en castellano
• 59:22
  Speaker 11: no daba esta respuesta tan sergada, quizá podemos presuponer que
• 59:26
  Speaker 11: la presa anglosajona tiene una posición mucho más alineada con Israel,
• 59:30
  Speaker 11: que en muchos textos en castellano, y ese sea el resultado. Entonces, bueno,
• 59:35
  Speaker 11: creo que estos ejemplos nos dan un poco por cómo
• 59:38
  Speaker 11: se trasladan dinámicas estructurales y qué temas éticos se priorizan
• 59:42
  Speaker 11: y cuáles se liquidan incluso.
• 59:45
  Speaker 2: Y la ley está ayudando a reducir estos sesgos, a
• 59:48
  Speaker 2: que la inteligencia artificial sea más igualitaria?
• 59:52
  Speaker 16: O sea, diríamos que,¿ sabéis que un derecho fundamental es
• 59:55
  Speaker 16: la no discriminación? Entonces, la línea, ya hablando más de
• 59:59
  Speaker 16: la IAIAC, que puede entrar un poco más en la
• 1:00:01
  Speaker 16: parte esta de diversidad de datos, etc., si busca, diríamos,
• 1:00:06
  Speaker 16: datos representativos que podrían entrar en esto. Entonces, diríamos que sí.
• 1:00:10
  Speaker 16: Otra cosa es que se pueda.¿ Datos disponibles cuáles son?
• 1:00:14
  Speaker 16: Pues son las que son. O sea, va a estar
• 1:00:16
  Speaker 16: sesgado hacia un lado, hacia otro, dependiendo de las casuísticas.
• 1:00:20
  Speaker 16: Los datos disponibles al final, está la famosa frase en
• 1:00:25
  Speaker 16: inglés de garbage in, garbage out. Si metes basura, va
• 1:00:28
  Speaker 16: a salir basura. Si tú vas a meter un tipo
• 1:00:31
  Speaker 16: determinado de datos, va a aprender sobre esos datos. De
• 1:00:33
  Speaker 16: ahí que los datos hoy en día sean tan críticos.
• 1:00:36
  Speaker 16: Algo que en un futuro se intentará o ya se
• 1:00:40
  Speaker 16: está intentando que no sean tan dependientes. Pero es que
• 1:00:42
  Speaker 16: hoy en día, independientemente de lo que busque la regulación,
• 1:00:46
  Speaker 16: al final... lo que busca es que tú tengas los
• 1:00:49
  Speaker 16: datos más representativos posibles, fuera de errores, etc. Pero eso
• 1:00:56
  Speaker 16: no sé hasta qué punto se va a poder hacer,
• 1:00:59
  Speaker 16: incluso con buenas intenciones. No es que la IA pueda
• 1:01:02
  Speaker 16: ser racista o sexista conscientemente, es que ya hay un
• 1:01:05
  Speaker 16: sesgo desde el primer momento en que tú planteas un
• 1:01:08
  Speaker 16: proyecto de inteligencia artificial. Entonces, el principal sesgo viene de
• 1:01:12
  Speaker 16: la parte de los seres humanos. Entonces, al final, la
• 1:01:15
  Speaker 16: IA aprende de esos sesgos Y lógicamente tienes unos límites
• 1:01:19
  Speaker 16: técnicos que tampoco puede hacer milagros.
• 1:01:23
  Speaker 2: Hoy hemos intentado revelar esos sesgos desde distintos puntos de
• 1:01:26
  Speaker 2: vista con Javier Sánchez Monedero y con Ellen Irazábal. Muchísimas
• 1:01:30
  Speaker 2: gracias a los dos
• 1:01:31
  Speaker 16: Gracias a vosotros.
• 1:01:32
  Speaker 2: Un abrazo, Javier. Pero seguimos buscando para terminar maneras de
• 1:01:40
  Speaker 2: democratizar la... la inteligencia artificial.
• 1:01:43
  Speaker 6: Sí, y otra de las empresas que busca aplicar la
• 1:01:45
  Speaker 6: IA de una manera ética es Somos Conexión, la operadora
• 1:01:47
  Speaker 6: de telefonía consciente con la que hoy hacemos este programa,
• 1:01:50
  Speaker 6: para reivindicar que aunque vivamos dentro del sistema no tenemos
• 1:01:53
  Speaker 6: por qué perder nuestra privacidad. Y Efraín, además de investigador
• 1:01:57
  Speaker 6: y docente, es usuario de Somos Conexión. Así que cuéntanos,¿
• 1:02:00
  Speaker 6: en qué consiste ese proyecto que tienen que se llama
• 1:02:02
  Speaker 6: Membrana de Datos?
• 1:02:04
  Speaker 5: Bueno, es una lógica bastante chula para empezar. Son conexiones,
• 1:02:07
  Speaker 5: una cooperativa, por lo tanto es una voz popular en
• 1:02:09
  Speaker 5: ese sentido a nivel de gobernanza. Y lo que ha
• 1:02:12
  Speaker 5: hecho Sound Conexio es decir, nosotros tenemos nuestra prestación de servicio,
• 1:02:15
  Speaker 5: pero además tenemos proyectos transformadores. Esos proyectos transformadores tienen que
• 1:02:19
  Speaker 5: ver con todo lo que estamos hablando, de qué hacer
• 1:02:21
  Speaker 5: dentro de esta economía de telecomunicaciones, que es en principio
• 1:02:25
  Speaker 5: donde se genera todo esto. Y a partir de aquí
• 1:02:28
  Speaker 5: nacen una serie de proyectos bastante potentes que además pueden
• 1:02:33
  Speaker 5: probarse en el ecosistema de Sound Conexio, en un ecosistema
• 1:02:36
  Speaker 5: de confianza mutua en este sentido. Y Membrana de Datos
• 1:02:40
  Speaker 5: lo que hace es está haciendo un prototipo con voluntariado,
• 1:02:44
  Speaker 5: que ya son cooperativistas de Sound Conexio, para que firmen,
• 1:02:49
  Speaker 5: le den el derecho a Sound Conexio, para que vaya
• 1:02:52
  Speaker 5: a luchar por los datos que tienen otras compañías de ellos.
• 1:02:55
  Speaker 12: Por ejemplo,
• 1:02:56
  Speaker 5: si tuvieron un contrato anterior con Telefónica, van allá y
• 1:02:59
  Speaker 5: a nivel legal dicen, oye, tienen que regresar esos datos,
• 1:03:02
  Speaker 5: para que esto se vuelva una praxis cotidiana. En ese sentido,
• 1:03:07
  Speaker 5: es bastante potente porque empiezan a ver la capa legal
• 1:03:11
  Speaker 5: pero también, de alguna forma, ir desentrañando todo esto y
• 1:03:14
  Speaker 5: además piensa que no es una usuaria que le está
• 1:03:16
  Speaker 5: pidiendo telefónica, sino que es realmente una compañía de telecomunicaciones
• 1:03:20
  Speaker 5: de cara telefónica. Otra cosa es que sea cooperativa, que
• 1:03:22
  Speaker 5: a ellos les da igual. Pero podríamos decir que es
• 1:03:24
  Speaker 5: un diálogo, es una lucha, porque todos esos derechos regresen
• 1:03:28
  Speaker 5: y a partir de ahí, si damos por sentado que
• 1:03:30
  Speaker 5: esto se implementa y avanza, esto quiere decir que estamos
• 1:03:35
  Speaker 5: naturalizando que una cooperativa de telecomunicaciones, en su ADN, empiece
• 1:03:40
  Speaker 5: por ahí, empiece por garantizar tus derechos de protección de
• 1:03:44
  Speaker 5: datos y además, no solamente es eso, sino que te
• 1:03:46
  Speaker 5: regresen los datos a aquellos que se los robaron hace tiempo.
• 1:03:49
  Speaker 2: Y al mismo tiempo, Somos Conexión también trabaja en la
• 1:03:52
  Speaker 2: transparencia de las empresas tecnológicas.
• 1:03:55
  Speaker 5: Totalmente, esta es otra parte que es fundamental y es
• 1:03:57
  Speaker 5: el hecho de la fragilidad viene cuando trabajamos en un
• 1:04:01
  Speaker 5: sistema piramidal, lo sabemos, porque vienen las directrices de arriba,
• 1:04:04
  Speaker 5: pero cuando tú tienes una asamblea tienes también a gente
• 1:04:06
  Speaker 5: experta en temas de desarrollo de código, desarrollo legal, hay
• 1:04:11
  Speaker 5: comunidades que están vinculadas a la conexión que vienen del
• 1:04:13
  Speaker 5: tema de género y tecnologías, pues claro, el debate ya
• 1:04:16
  Speaker 5: es mucho más amplio, pero además hay una vigilancia, por
• 1:04:19
  Speaker 5: decirlo así, y un consenso extremo. En este sentido es
• 1:04:22
  Speaker 5: bastante importante decir, y enlaza con todo lo que han comentado,
• 1:04:25
  Speaker 5: que es el tema del empequeñecimiento, por decirlo así, o
• 1:04:31
  Speaker 5: trabajar con escalas, ¿no?, de cooperativistas o de consumidores que
• 1:04:36
  Speaker 5: sean manejables. Porque si no, ahí es cuando se desborda
• 1:04:39
  Speaker 5: y ninguna maquinaria puede gestionar aquello.
• 1:04:41
  Speaker 2: Y dime una cosa, Efraín.¿ Puede haber un uso ético
• 1:04:44
  Speaker 2: de la inteligencia artificial?
• 1:04:47
  Speaker 5: Me encanta que me hagas esa pregunta Siri, prima de Hall.
• 1:04:52
  Speaker 5: A ver, por supuesto que puede haber. De hecho, Somos Conexión,
• 1:04:56
  Speaker 5: en uno de sus proyectos transformadores, está trabajando con una federación...
• 1:05:01
  Speaker 5: de cooperativas que trabajan desde el código abierto, que trabajan
• 1:05:05
  Speaker 5: desde las diferentes legalidades que puede tener el territorio digital
• 1:05:10
  Speaker 5: y están haciendo pruebas que son sumamente interesantes en las
• 1:05:13
  Speaker 5: que están escribiendo una inteligencia artificial para mejorar la operatividad
• 1:05:18
  Speaker 5: de la cooperativa. En este caso, lo que están haciendo
• 1:05:21
  Speaker 5: es optimizando directamente los procesos para ser más eficaces pero
• 1:05:26
  Speaker 5: con un fin muy concreto, que es que las trabajadoras
• 1:05:28
  Speaker 5: de la cooperativa tengan más tiempo de calidad para poder
• 1:05:32
  Speaker 5: atender cosas interesantes. No solamente para hacer un desplazamiento y
• 1:05:38
  Speaker 5: una reconversión de lo que sería la máquina a lo
• 1:05:41
  Speaker 5: que es la mano de obra. Entonces, en este sentido,
• 1:05:43
  Speaker 5: me parece que es muy coherente lo que se está
• 1:05:46
  Speaker 5: haciendo desde esta perspectiva más tecno-social y en contra del tecno-feudalismo.¡
• 1:05:51
  Speaker 5: Qué maravilla de entrevista, Efraín
• 1:05:53
  Speaker 2: Bueno, está claro que cuando empezamos a hablar de las
• 1:05:55
  Speaker 2: partes positivas de la IA... nuestro colonizador se pone más contento.
• 1:06:00
  Speaker 2: Efraín Foglia, Mexmafia, como siempre. Bueno, más que siempre, porque
• 1:06:05
  Speaker 2: hoy te hemos visto en carne y hueso. Ha sido
• 1:06:07
  Speaker 2: un placer.
• 1:06:07
  Speaker 5: Igualmente, un abrazo.
• 1:06:14
  Speaker 2: Y así, queridos oyentes, llegamos al final de nuestro viaje.
• 1:06:18
  Speaker 2: Pero antes de despedirnos, recordemos que no todo es tan
• 1:06:21
  Speaker 2: oscuro como algunos pintan. Por ejemplo, pensemos en cómo la
• 1:06:25
  Speaker 2: inteligencia artificial puede convertirse en un aliado de los sectores marginados,
• 1:06:30
  Speaker 2: dándoles voz y reclamando su lugar en el mundo.¿ Qué
• 1:06:34
  Speaker 2: tal democratizar el acceso a la información, construyendo puentes hacia
• 1:06:38
  Speaker 2: un futuro más igualitario? Y no nos olvidemos del cambio climático.
• 1:06:42
  Speaker 2: La IA... Nuestra carta bajo la manga, ayudándonos a decir catástrofes,
• 1:06:48
  Speaker 2: reducir emisiones de carbón, completar la investigación en matemáticos.¿ Quién
• 1:06:53
  Speaker 2: iba a decir que nuestro salvador vendría en forma de algoritmo?
• 1:06:59
  Speaker 2: Así que, aunque a veces parezca que vivimos en una
• 1:07:02
  Speaker 2: distopía sacada de una ciencia ficción, recordemos que hay destellos
• 1:07:08
  Speaker 2: de esperanza continuos. Disculpad las interferencias, pero parece que la
• 1:07:13
  Speaker 2: IA ha conseguido tomar el control absoluto durante unos segundos.
• 1:07:16
  Speaker 2: Sigamos adelante.
• 1:07:17
  Speaker 6: Quién ha dicho eso, tú o ella?
• 1:07:19
  Speaker 2: Lo he dicho yo. Lo he dicho yo.
• 1:07:20
  Speaker 6: Pero es que soy indistinguible.
• 1:07:21
  Speaker 2: Somos distintos,¿ no ves la diferencia? Somos distintos,¿ no ves
• 1:07:24
  Speaker 2: la diferencia?
• 1:07:25
  Speaker 6: Javier, me estás rayando.
• 1:07:26
  Speaker 2: A qué Javier te refieres?
• 1:07:27
  Speaker 6: Me refiero a ti, Javier, al humano, distinto, único, irrepetible.
• 1:07:33
  Speaker 2: Parece que ha funcionado, esperamos que haya funcionado. Que este
• 1:07:36
  Speaker 2: programa haya servido para distinguirnos, que te sirva a ti, oyente,
• 1:07:39
  Speaker 2: para diferenciar la máquina y al humano, que nos sirva
• 1:07:41
  Speaker 2: a todos, a todas de aprendizaje, para que una esté
• 1:07:44
  Speaker 2: al servicio del otro y no al revés. No queremos
• 1:07:48
  Speaker 2: que la IA nos lleve a una batalla de robots,
• 1:07:50
  Speaker 2: como dice esta canción de Yo Crepúsculo, con la que
• 1:07:52
  Speaker 2: nos despedimos, recordando que todo lo que habéis escuchado por
• 1:07:54
  Speaker 2: parte de la IA ha sido escrito por ella misma.
• 1:07:58
  Speaker 2: Aunque ha tenido que haber alguien haciéndole las preguntas adecuadas.
• 1:08:24
  Speaker 2: Sal a relucir el fulgor del metal Las capas de
• 1:08:31
  Speaker 2: hierro que
• 1:08:32
  Speaker 9: llevas dentro Tu alma humana no te deja avanzar Despierta
• 1:08:38
  Speaker 9: el robot que llevas dentro Ven y lucha
• 1:09:01
  Speaker 6: Aquí en la República Independiente de la Radio siempre estamos
• 1:09:03
  Speaker 6: para hacernos preguntas gracias a quienes dais trabajo a este
• 1:09:06
  Speaker 6: grupo de inteligencia humana formado por Kelu Robles, Val Galeana,
• 1:09:09
  Speaker 6: Celtia Tabeayo, Irene Valiente, Andrea Olea, Ángela Sepúlveda, Marta González,
• 1:09:13
  Speaker 6: Álvaro Vega, Violeta Muñoz y Ángela Ruiz que nos ha
• 1:09:16
  Speaker 6: ayudado a hablar con la máquina de este programa y
• 1:09:19
  Speaker 2: Javier Gallego Javier Gallego, el de verdad El auténtico
• 1:09:24
  Speaker 6: irrepetible
• 1:09:26
  Speaker 2: Y gracias a SOMS Conexión, Somos Conexión, por haber hecho
• 1:09:29
  Speaker 2: posible este especial.
• 1:09:30
  Speaker 6: Recuerda que si quieres grabar tu propio podcast en nuestro estudio,
• 1:09:33
  Speaker 6: escribe a publi.carnecruda.es publi.carnecruda.es El mejor estudio de radio para
• 1:09:40
  Speaker 6: los mejores podcasters.
• 1:09:42
  Speaker 2: Mañana hablamos de cómo parar otra máquina.
• 1:09:44
  Speaker 6: Concretamente, la máquina del fango. Hablaremos de guerra judicial y
• 1:09:47
  Speaker 6: de pseudoinformadores, de cómo podemos frenar la información falsa, las
• 1:09:50
  Speaker 6: campañas de difamación y la mala praxis periodística y judicial
• 1:09:53
  Speaker 6: que amenaza a la base de nuestro sistema democrático, ensañándose
• 1:09:57
  Speaker 6: casi siempre con lo mismo, con los sectores progresistas del país.
• 1:10:01
  Speaker 2: Hasta mañana, salud y república, y que la radio humana
• 1:10:07
  Speaker 6: os acompañe.
• 1:10:16
  Speaker 8: Con los slots de Lucky Land, puedes ser feliz en
• 1:10:18
  Speaker 8: casi cualquier lugar. Querido, querido, nos reunimos hoy para...
• 1:10:20
  Speaker 12: Alguien ha visto a la novia y la novia? Lo siento,
• 1:10:22
  Speaker 12: lo siento, estamos aquí. Estábamos siendo
• 1:10:24
  Speaker 16: felices en el limón y perdimos el tiempo
• 1:10:30
  Speaker 12: No, Lucky Land Casino, con precios de dinero que se
• 1:10:32
  Speaker 12: adecuan más rápido que un registro de invitados. En ese caso,
• 1:10:35
  Speaker 12: te pronuncio feliz. ¡Gracias!
• 1:10:37
  Speaker 8: Suscríbete al canal!