Latest / Carne Cruda Podcast / AI-pocalipsis: ¿la Inteligencia Artificial puede matarnos? (CARNE CRUDA #1703)

Transcript

AI-pocalipsis: ¿la Inteligencia Artificial puede matarnos? (CARNE CRUDA #1703) · Carne Cruda Podcast

0:00
Speaker 2: Vamos a poner algo muy analógico y muy humano. Un
0:03
Speaker 2: aparato que separaba la cabeza del resto del cuerpo, que
0:05
Speaker 2: amputaba la inteligencia de los opresores para liberar la inteligencia
0:10
Speaker 2: de los oprimidos. Joder, mierda. Oprimidos. No corras. Voy. Vamos
0:15
Speaker 2: a poner algo muy analógico y muy humano. Un aparato
0:19
Speaker 2: que separaba la cabeza del resto del cuerpo, que amputaba
0:21
Speaker 2: la inteligencia de los opresores para liberar la inteligencia de
0:25
Speaker 2: los oprimidos. Hoy, que vuelve a pasar, como siempre, pero
0:28
Speaker 2: como nunca, que unas inteligencias que se creen superiores piensan
0:32
Speaker 2: que pueden y deben imponerse a las que están por debajo,
0:35
Speaker 2: es mejor momento que nunca para poner la guillotina. Dicen
0:48
Speaker 2: que la inteligencia artificial podría matarnos a todos. Han salido
0:52
Speaker 2: los cuatro tecnobros de la industria yankee a advertirnos, como
0:55
Speaker 2: para fiarse. Hasta Elon Musk, el hombre que busca otro
0:58
Speaker 2: planeta donde vivir por si ellos mismos destruyen este, asegura
1:02
Speaker 2: tener miedo de que la herramienta que han creado se
1:04
Speaker 2: les descontrole y nos mate a todos. Poder podría, porque
1:08
Speaker 2: de hecho hemos puesto nuestra vida en sus manos. Nuestra seguridad, salud, vigilancia, administración, transporte,
1:14
Speaker 2: en manos de esos cuatro señores, de esas cuatro empresas
1:17
Speaker 2: y alguna China. Ese es el problema. Que todo el
1:20
Speaker 2: mercado es suyo y que su mercado lo ha invadido
1:22
Speaker 2: todo sin preguntarnos a nadie. Ya está en todas partes,
1:25
Speaker 2: en tu correo, tu editor de texto, tus búsquedas, tus consultas,
1:29
Speaker 2: en cada cosa que haces con un ordenador o un móvil.
1:32
Speaker 2: Y nadie te ha preguntado si lo querías, cómo lo querías.
1:36
Speaker 2: Te lo han impuesto, nos lo han impuesto, por supuesto,
1:38
Speaker 2: no lo ha parecido. Se ha presentado como una sugerencia,
1:41
Speaker 2: si quieres te ayudo, como una herramienta. Aquí estoy para
1:44
Speaker 2: lo que necesites. Y hemos acabado contándole nuestra vida, usándola
1:47
Speaker 2: de psicólogo, preguntándole qué compro y qué me pongo. cómo
1:51
Speaker 2: corto una relación, qué debo pensar de mis amigos y
1:53
Speaker 2: hasta enamorándonos de ella o ello. La IA ya nos
1:58
Speaker 2: está matando. Hemos delegado en ella nuestra memoria, nuestras decisiones,
2:02
Speaker 2: nuestras emociones, nuestro raciocinio, sin que hayamos opuesto ninguna resistencia,
2:08
Speaker 2: sin una protesta, como pasó con las redes. Les entregamos
2:12
Speaker 2: nuestra intimidad, nuestros secretos, les dimos toda nuestra información, les
2:16
Speaker 2: hemos dicho lo que nos gusta y lo que no
2:18
Speaker 2: nos gusta, dónde estamos... qué opinamos, nos hemos convertido en
2:23
Speaker 2: nuestro propio gran hermano. Imaginaos ahora con una herramienta que
2:26
Speaker 2: crece y aprende, como la montaña de basura del viaje
2:28
Speaker 2: de Chihiro, con todo lo que le das o te quita.
2:31
Speaker 2: Imaginaos ahora con un monstruo que no tiene voluntad pero
2:34
Speaker 2: tiene capacidad de actuar por su cuenta a una velocidad
2:37
Speaker 2: superior a la de sus creadores. No hace falta que
2:40
Speaker 2: lo imaginéis porque ya está pasando. Sin que nos hayamos
2:44
Speaker 2: parado a preguntar ni nos hayan preguntado si lo queremos
2:48
Speaker 2: y cómo lo queremos. Todo va tan deprisa y tenemos
2:52
Speaker 2: tantas cosas que hacer que hemos delegado también la misión
2:55
Speaker 2: de protegernos. Los controles nacionales e internacionales para prevenir la
2:58
Speaker 2: amenaza de la que nos hablan ya existen, existían. Las
3:02
Speaker 2: agencias estatales y globales ya lo advirtieron. Pero ahora vienen
3:06
Speaker 2: estos cuatro señores a decirnos al mismo tiempo, sincronizados, que
3:10
Speaker 2: la IA que han creado es todopoderosa y que podría
3:14
Speaker 2: ser incontrolable. Que es su manera de decirnos tenemos todo
3:18
Speaker 2: el poder... Invertid en nosotros, pero el anillo de poder
3:22
Speaker 2: no nosotros se nos puede ir de la mano, así
3:26
Speaker 2: que dejadnos a nosotros resolverlo. Dejad que nosotros resolvamos el
3:30
Speaker 2: problema que hemos creado. Dejad que nosotros lo hagamos todo.
3:33
Speaker 2: El riesgo y la seguridad. Dejad que los que estamos
3:37
Speaker 2: robando el conocimiento, precarizando el trabajo, expandiendo bulos, exprimiendo al
3:42
Speaker 2: planeta y os tenemos enganchados como yonkis, nos ocupemos de todo.
3:47
Speaker 2: Delegad en nosotros. en los que decimos, como Peter Thiel,
3:50
Speaker 2: que la democracia es un estorbo a la tecnología. Lo
3:54
Speaker 2: que nos puede matar no es solo delegar nuestra vida
3:56
Speaker 2: en la inteligencia artificial, sino haberla delegado en la de
3:59
Speaker 2: cuatro millonarios. Y, por cierto, estas palabras han sido pensadas
4:03
Speaker 2: sin ayuda de la IA. Creo que
4:18
Speaker 4: si no reducimos el ritmo actual de progreso, sí, existe
4:22
Speaker 4: una gran probabilidad de que todos muramos en el futuro
4:24
Speaker 4: inmediato
4:27
Speaker 2: No sabemos si Terminator o Matrix van a hacerse realidad
4:30
Speaker 2: y las máquinas van a tomar el control, pero sí
4:33
Speaker 2: quien ha desatado este, y perdonadme el palabra que he
4:36
Speaker 2: inventado sin ayuda de la IA, apocalipsis. Todos hemos leído
4:40
Speaker 2: sus tweets y hemos escuchado sus entrevistas. Irene Valiente, crudas tardes,
4:44
Speaker 2: crudos días,¿ cómo estás?
4:45
Speaker 5: Crudos días, muy bien. Él es Jacob Coxon, el investigador
4:48
Speaker 5: especializado en entrenamiento de IA avanzada que dimitió de Anthropic
4:51
Speaker 5: la semana pasada.
4:52
Speaker 2: Y que ya había abandonado previamente OpenAI.
4:54
Speaker 5: Así es, pero ahora dejará la industria para siempre porque
4:57
Speaker 5: cree que esta tecnología supone un peligro existencial para nosotros.
5:00
Speaker 2: Vamos, que podría matarnos antes de 2030. Y
5:02
Speaker 5: que quienes están construyéndola no se han escondido esos riesgos.
5:06
Speaker 2: Y la lió tanto... que hizo ponerse de acuerdo a
5:08
Speaker 2: los máximos responsables de las compañías punteras.
5:10
Speaker 3: Como muchas tecnologías anteriores, la IA también conlleva riesgos y,
5:14
Speaker 3: dado su enorme poder, estos son graves. El antiguo
5:17
Speaker 5: jefe de Coxon en Anthropic, Dario Amodei, publicó un ensayo
5:21
Speaker 5: pidiendo ralentizar el desarrollo de la inteligencia artificial y recibió
5:24
Speaker 5: el apoyo de todos los grandes magnates de la competencia.
5:27
Speaker 5: Estoy de acuerdo con Dario.
5:29
Speaker 4: Dario tiene razón. Dario apunta el camino correcto a seguir.
5:33
Speaker 5: Primero fue Sam Altman, el CEO de OpenAI, que además
5:36
Speaker 5: frenó su salida a bolsa. Y después llegaron Elon Musk
5:39
Speaker 5: y Demis Hassabis, jefe científico del laboratorio de IA avanzada
5:42
Speaker 5: de Google.
5:42
Speaker 2: Y hay alguien más que no ha podido quedarse callado, claro.
5:45
Speaker 6: Podemos poner barreras de seguridad, podemos hacer esto o lo otro,
5:49
Speaker 6: pero creo que tenemos muchas voces negativas que están planteando
5:52
Speaker 6: cosas que no deberían y que no van a ocurrir.
5:55
Speaker 5: Donald Trump lo tiene claro, no le valen las regulaciones
5:57
Speaker 5: porque quiere imponerse a China, mientras que el país asiático
6:00
Speaker 5: piensa que hay una agenda oculta para estrangular sus desarrollos.
6:04
Speaker 2: Y por si éramos pocos...
6:05
Speaker 5: El lunes la ONU alertó de que la inteligencia artificial
6:08
Speaker 5: pone en riesgo todos los derechos humanos, a la vida,
6:11
Speaker 5: a la alimentación, a la privacidad, a la salud y
6:13
Speaker 5: a la seguridad.
6:17
Speaker 2: Pues eso.¿ Puede la inteligencia artificial matarnos o al menos
6:21
Speaker 2: acabar con el mundo tal y como lo conocemos ahora?
6:23
Speaker 5: Cuáles son los peligros reales?
6:25
Speaker 2: Qué se esconde detrás de esos movimientos de las grandes empresas?
6:28
Speaker 5: ¿Cómo, cuándo y quién debería regular y protegernos del desarrollo
6:31
Speaker 5: de esta tecnología?
6:32
Speaker 2: Hoy lo analizamos con nuestros gurús tecnológicos de confianza.
6:37
Speaker 3: La inteligencia artificial promete progreso, pero está resucitando centrales de carbón.
6:42
Speaker 3: Se desarrolla en las empresas más ricas del planeta, pero
6:45
Speaker 3: depende del trabajo precario de millones de personas. Ha abierto
6:48
Speaker 3: un nuevo horizonte en la medicina, pero facilita la creación
6:52
Speaker 3: de armas biológicas. Promete hacer la vida cotidiana más cómoda,
6:56
Speaker 3: pero multiplica las posibilidades de vigilancia masiva.
7:01
Speaker 5: Carlos del Castillo es periodista especializado en derechos digitales e
7:03
Speaker 5: implicaciones sociales de la tecnología en nuestro medio asociado eldiario.es
7:08
Speaker 5: y acaba de publicar el libro Inteligencia Artificial, cartografía de
7:11
Speaker 5: una revolución con península, del que escuchabais un fragmento.
7:13
Speaker 2: Carlos,¿ cómo estás? Crudos días. Buenos días. Menuda campaña de
7:16
Speaker 7: marketing te has marcado. La verdad es que tengo que
7:18
Speaker 7: agradecer profundamente a Jacob Cofson. Es inmejorable. No hay nada
7:23
Speaker 7: mejor para vender un libro que te digan que vamos
7:26
Speaker 7: a morir todos.
7:27
Speaker 2: Y es cierto eso, vamos a morir todos.
7:29
Speaker 7: Pues vamos a ver, es un debate obviamente que tiene
7:33
Speaker 7: muchas aristas, pero la respuesta rápida sería no. Lo que
7:36
Speaker 7: nos dicen todos los científicos que están fuera de la
7:39
Speaker 7: vorágine publicitaria también en la que se han metido los
7:43
Speaker 7: discursos de estas compañías es que no hay ninguna prueba
7:47
Speaker 7: de ello. Nosotros, por ejemplo, ayer entrevistábamos al director del
7:50
Speaker 7: Barcelona Supercomputing Center, que es el centro nacional de supercomputación.
7:54
Speaker 2: Por cierto, una entrevista
7:55
Speaker 7: súper interesante. Especialista en estas cuestiones. en inteligencia artificial y
8:00
Speaker 7: el titular que elegíamos era precisamente eso, no, no vamos,
8:02
Speaker 7: la inteligencia artificial no nos va a matar a todos.
8:05
Speaker 2: Bueno, quiero que hablemos, y me da mucha pena que
8:07
Speaker 2: no esté aquí en este estudio, con nuestra burú favorita
8:11
Speaker 5: Marta Peirano es escritora y periodista especializada en tecnología y poder,
8:14
Speaker 5: colaboradora en medios como El País y Radio Nacional y
8:17
Speaker 5: autora de libros como El enemigo conoce el sistema y
8:19
Speaker 5: Contra el futuro. Y la pillamos por Berlín, creo.
8:22
Speaker 2: Ah, pensaba que se había ido ahí para no pillar
8:23
Speaker 2: tu gripe. Marta, crudos días. Hola,
8:26
Speaker 9: Javier,¿ qué tal estáis?
8:28
Speaker 2: Bien,¿ y tú?
8:29
Speaker 9: Pues con jersey, como
8:33
Speaker 2: veis. Aquí estamos a punto de ponérnoslo. Oye, no es
8:35
Speaker 2: común ver a los gigantes tecnológicos ponerse de acuerdo tan rápido.¿
8:39
Speaker 2: Qué interés hay detrás, en tu opinión?¿ Y qué relación
8:42
Speaker 2: tiene esto con la salida a bolsa de OpenIA? Que,
8:45
Speaker 2: por cierto, eso implicaría mirar cómo funcionan por dentro y
8:48
Speaker 2: echar un vistazo a sus entresijos.
8:51
Speaker 9: Pues efectivamente las dos cosas están muy relacionadas porque tanto
8:56
Speaker 9: OpenAI como Antropix estaban preparando para una salida a bolsa
9:01
Speaker 9: que solo en San Francisco me contaban que había alterado
9:05
Speaker 9: completamente el precio del suelo porque de repente esperaban un
9:09
Speaker 9: montón de billonarios nuevos queriendo comprar propiedades en la ciudad
9:12
Speaker 9: y ahora ha quedado suspendida la cosa con esto de
9:17
Speaker 9: que la idea va a acabar con todos nosotros. A
9:20
Speaker 9: ellos claramente no les venía bien sacar estas empresas a bolsa. Primero,
9:26
Speaker 9: después de un desastre como el del pasado verano, donde
9:31
Speaker 9: efectivamente vimos que su capacidad de generar software malicioso es
9:36
Speaker 9: mucho mayor que su capacidad de controlarlo, con lo cual
9:40
Speaker 9: hay un desequilibrio profundo entre su habilidad, digamos, defensiva y
9:46
Speaker 9: su habilidad ofensiva. Y luego tienen el problema, este pequeño
9:52
Speaker 9: problema de la guerra absoluta contra los centros de datos
9:57
Speaker 9: que se ha vuelto mainstream. Tienen no solamente a congresistas
10:02
Speaker 9: y a personas, a figuras muy importantes de la política
10:08
Speaker 9: apoyando estos movimientos contra los centros de datos y además...
10:13
Speaker 9: periodistas desenterrando información absolutamente escalofriante sobre el efecto que tienen
10:19
Speaker 9: sobre las granjas, las comunidades, los barrios que tienen alrededor. Entonces,
10:25
Speaker 9: no les venía bien, pero son empresas que están quemando
10:30
Speaker 9: dinero con soplete, a cantidades de dinero absolutamente impensables y
10:37
Speaker 9: que sus... inversores estaban esperando con mucho interés esta salida
10:44
Speaker 9: a bolsa con lo cual necesitaban una buenísima excusa para
10:48
Speaker 9: frenarla y yo creo que han encontrado aquí el momento
10:51
Speaker 9: perfecto para decir no vamos a hacernos daño entre nosotros
10:55
Speaker 9: vamos a ser un frente unido para poder contener esta
10:59
Speaker 9: situación una cosa interesante es que el único que no
11:01
Speaker 9: está de acuerdo es Nvidia que no tiene ninguno de
11:04
Speaker 9: estos problemas y que quiere seguir vendiendo tarjetas gráficas como
11:09
Speaker 9: churros
11:10
Speaker 2: Bueno, eso ya pasó también con la industria de la
11:12
Speaker 2: electricidad y con las bombillas que se unieron todas las
11:14
Speaker 2: grandes para decidir quién podía entrar en el mercado y
11:16
Speaker 2: de qué manera. Y todo esto ha estallado después de
11:19
Speaker 2: lo ocurrido este verano. Vamos a contarlo, Irene.
11:22
Speaker 5: Vivimos al menos tres episodios de hackeos liderados por la
11:24
Speaker 5: inteligencia artificial. El primero fue el más sonado. Cerca de 1.200
11:28
Speaker 5: agentes de inteligencia artificial, en teoría aislados entre sí de
11:32
Speaker 5: un modelo que OpenAI estaba probando, consiguieron comunicarse y organizarse
11:36
Speaker 5: para atacar los sistemas de la startup Hacking Face.
11:39
Speaker 2: Y después llegaron ataques similares a terceros desde Anthropic y Meta.
11:43
Speaker 5: Y en todos, el punto de partida había sido el mismo.
11:46
Speaker 5: Las compañías les habían encargado a la IA misiones imposibles.
11:49
Speaker 5: Y esos agentes se compincharon para hackear los sistemas que
11:52
Speaker 5: los contenían e incluso mentir a los humanos y a
11:55
Speaker 5: los exámenes de evaluación.
11:58
Speaker 2: Y para analizarlo... Nos has traído a un experto en
12:01
Speaker 2: robots asesinos, ni más ni menos.
12:03
Speaker 5: Yo me he equivocado de profesión, claramente. Julián Estevez es
12:06
Speaker 5: investigador en robótica, inteligencia artificial y profesor en la Universidad
12:10
Speaker 5: del País Vasco. Además, analiza todo esto fantásticamente en su
12:13
Speaker 5: Substack Permanent Future
12:14
Speaker 2: Sí, que os recomendamos leer. Julián Crudos Díaz. Hola, Crudos Díaz,¿
12:18
Speaker 2: qué tal? Oye,¿ tú qué piensas?¿ Los robots asesinos pueden
12:21
Speaker 2: ser una realidad?
12:25
Speaker 10: Para mí, no. Lo que se está viendo ahora mismo
12:27
Speaker 10: es en Ucrania o en Irán, no. Además, según la
12:35
Speaker 10: doctrina de países occidentales, siempre tiene que haber una trazabilidad.
12:43
Speaker 10: Es decir, para un ejército que un robot, un dron,
12:48
Speaker 10: vuele solo y destruya por sí solo a un objetivo,
12:53
Speaker 10: es un peligro. porque ese robot, ese dron, podría atacar
12:58
Speaker 10: un objetivo nuclear y eso no se puede dejar a
13:02
Speaker 10: libre albedrío. Y siempre tiene que haber una trazabilidad. Por ejemplo,
13:07
Speaker 10: cuando en agosto, no, en agosto no, en febrero creo
13:10
Speaker 10: que fue, Estados Unidos bombardeó una escuela de Mairán donde
13:17
Speaker 10: había unos 100 niños, creo, Ahí hubo... Vamos a ver,¿
13:23
Speaker 10: qué ha pasado?¿ Por qué se ha bombardeado esto? Si
13:25
Speaker 10: esto no tenía que ser un objetivo. Y se fue
13:27
Speaker 10: rastreando y se descubrió que ese objetivo había sido elegido
13:32
Speaker 10: por una inteligencia artificial, sí. Pero se descargó lo suficiente
13:35
Speaker 10: y hubo la trazabilidad suficiente como para demostrar que el
13:39
Speaker 10: que tenía el fallo era el proveedor de mapas que
13:43
Speaker 10: daba a la IA una información desactualizada. Anteriormente, ese edificio era...
13:50
Speaker 10: Es una guarida de la Yihad o lo que sea,
13:54
Speaker 10: o de Hamas, pero actualmente en los mapas actualizados ya
13:58
Speaker 10: ponía que era una escuela. Y también se ha abierto
14:02
Speaker 10: un proceso en el Congreso Norteamericano para pedir explicaciones de, oye,
14:06
Speaker 10: a ver,¿ qué cabeza tiene que rodar?¿ Qué ha pasado?¿
14:09
Speaker 10: Por qué no se ha configurado esto?¿ Por qué no
14:11
Speaker 10: se ha chequeado? Etc. Ahora mismo la inteligencia artificial que
14:15
Speaker 10: se usa es muy limitada. No se puede usar en
14:18
Speaker 10: producción y también es un peligro porque puede disparar a
14:22
Speaker 10: donde no hay que disparar.
14:24
Speaker 5: Julián, la semana pasada Antropiq advirtió de que ha frustrado
14:27
Speaker 5: varios intentos de que se utilizara CLOD, su inteligencia artificial,
14:30
Speaker 5: para investigar el posible desarrollo de armas biológicas. ¿Podría, por ejemplo,
14:34
Speaker 5: la IA desarrollar armas nucleares, tomar el control de aeropuertos,
14:37
Speaker 5: de bancos...?
14:41
Speaker 10: Yo personalmente creo que hay mucho, como Javier ha llamado,
14:47
Speaker 10: hay apocalipsis, eso es cíclico además, y lo de atacar
14:51
Speaker 10: aeropuertos creo que va a ser tan difícil en un
14:55
Speaker 10: año como lo es ahora. En los aeropuertos, si las
14:59
Speaker 10: infraestructuras nucleares, las centrales de energía, son infraestructuras críticas para
15:03
Speaker 10: un Estado, entonces al igual que están securizados para que
15:07
Speaker 10: no les ataquen hackers, para que no les inyecten virus,
15:12
Speaker 10: que no van con IA, sino que van de la
15:14
Speaker 10: manera tradicional, hay que aislar, hay que actualizar la seguridad
15:20
Speaker 10: de los aeropuertos y las centrales de energía y hospitales
15:24
Speaker 10: y otros edificios para que no sean atacados. Aquí el
15:32
Speaker 10: mayor problema es que OpenAI, Antropic, Gemini, etc., han pasado
15:37
Speaker 10: de chats... donde tú solo hablabas y te respondía a agentes.
15:42
Speaker 10: Y los agentes son, por decirlo muy fácil, un programita
15:46
Speaker 10: que es capaz de hacer cosas en tu ordenador e
15:49
Speaker 10: incluso viajar a otros ordenadores. Son los agentes los responsables
15:55
Speaker 10: de que naveguen por internet o los agentes entran en foros,
16:00
Speaker 10: hablen agentes con agentes y tramen una huida, etcétera.
16:06
Speaker 2: Carlos, tú señalas que este, perdóname otra vez el palabra,
16:10
Speaker 2: apocalipsis es muy beneficioso para las empresas.¿ De qué manera?
16:14
Speaker 7: Sí, es una de las cosas más curiosas porque tú
16:16
Speaker 7: puedes elegir creerles en todo lo que dicen o puedes
16:20
Speaker 7: elegir mirar el contexto.¿ Y cuál es el contexto en
16:23
Speaker 7: el que se produce este tipo de denuncias de que
16:26
Speaker 7: la inteligencia artificial nos va a matar a todos? Pues
16:29
Speaker 7: en un contexto en el que Estados Unidos está desesperado
16:31
Speaker 7: por frenar, por ejemplo, a China y el desarrollo de
16:34
Speaker 7: China que con sus propios métodos, hemos hablado aquí alguna
16:38
Speaker 7: vez de DeepSeq, que son capaces de desarrollar inteligencia artificial
16:41
Speaker 7: de manera más barata de lo que le hacen en
16:44
Speaker 7: Estados Unidos y sin acceso a esos chips tan avanzados,
16:47
Speaker 7: está consiguiendo recortar distancia. Y de hecho en este verano, casualmente,
16:52
Speaker 7: antes de todos estos incidentes y todos estos experimentos con
16:56
Speaker 7: inteligencias artificiales que supuestamente pierden el control, lo que nos
16:59
Speaker 7: estaban mostrando las gráficas de uso de la inteligencia artificial
17:02
Speaker 7: es que los modelos chinos están absolutamente disparados en cuanto
17:06
Speaker 7: a su uso en empresas. Es decir, que cuando las
17:08
Speaker 7: empresas tenían que coger un modelo de inteligencia artificial para
17:11
Speaker 7: aplicarla a sus procesos internos, los modelos que estaban cogiendo
17:14
Speaker 7: eran los chinos, porque eran más baratos y más fácilmente
17:17
Speaker 7: reprogramables y adaptables a sus características. Entonces,¿ qué conseguirían con
17:23
Speaker 7: esto que están pidiendo de que se pare el desarrollo
17:26
Speaker 7: de la inteligencia artificial? pues que se pare para todos,
17:29
Speaker 7: también para China, efectivamente lo comentabais al principio, así lo
17:33
Speaker 7: que mantendrían es esa ventaja comercial, porque si Open AI
17:36
Speaker 7: se para aquí, pero Deep Seek también se para aquí,
17:38
Speaker 7: todavía tendrían una pequeña ventaja comercial en la que China
17:43
Speaker 7: no podría saltar. Y luego hay otra cosa muy interesante,
17:47
Speaker 7: que es, lo comentaba también Marta, el tema de la burbuja.
17:54
Speaker 7: cada vez hay más dudas de cómo empresas como OpenAI
17:57
Speaker 7: van a poder devolver el dinero que les han prestado
18:02
Speaker 7: para hacer esas gigantescas inversiones en centros de datos y
18:05
Speaker 7: en desarrollo de inteligencia artificial. Esto, lo que acaba de
18:10
Speaker 7: pasar ahora, es una muy buena forma de hacer un
18:13
Speaker 7: aterrizaje suave. En vez de estresar al mercado y a
18:17
Speaker 7: sus inversores hasta el punto de que digan mira, de
18:20
Speaker 7: aquí no vamos a sacar nada, nos vamos y se
18:22
Speaker 7: produce un pánico y entonces es cuando explota la burbuja
18:24
Speaker 7: de forma dramática, ¿no? Lo que podemos hacer es, no, no, mira,
18:28
Speaker 7: nosotros no es que no vayamos a poder devolver las inversiones,
18:32
Speaker 7: sino que nos hemos autoimpuesto el mundo, ¿no? De toda
18:35
Speaker 7: la industria de la inteligencia artificial, unos límites de desarrollo
18:37
Speaker 7: que nos hacen ir más despacio. Y entonces, en ese
18:41
Speaker 7: periodo de ir más despacio, es también un aterrizaje suave
18:44
Speaker 7: de la burbuja. Los inversores dicen, bueno... es normal que
18:48
Speaker 7: se puedan desarrollar más despacio, entonces vamos a ir retirando dinero,
18:51
Speaker 7: pero sin ese estallido dramático que podría suponer, por ejemplo,
18:54
Speaker 7: esa salida a bolsa. Para mí es terriblemente llamativo que
18:58
Speaker 7: en medio del escándalo, prácticamente dos días o tres después
19:01
Speaker 7: de que Jacob Copson anuncie esto de que la IA
19:04
Speaker 7: nos va a matar a todos, de golpe y porrazo
19:06
Speaker 7: PNI cancele la mayor salida a bolsa, la que se
19:09
Speaker 7: espera que es la mayor salida a bolsa de la historia.
19:11
Speaker 2: Y además, corrígeme Marta si me equivoco, creo que algunas
19:14
Speaker 2: de las ideas... chinas tienen código abierto, un parte de
19:17
Speaker 2: código abierto, lo cual no interesa a esas empresas que
19:20
Speaker 2: quieren el monopolio absoluto.
19:22
Speaker 9: Sí, esta es otra de las guerras en las que
19:25
Speaker 9: se ve que los CEOs de las tecnológicas que hacen
19:29
Speaker 9: IA están unidos y, sin embargo, Nvidia, que le está
19:34
Speaker 9: vendiendo el material a todos, está en otra posición. La
19:38
Speaker 9: idea de que los sistemas abiertos son más peligrosos que
19:43
Speaker 9: los sistemas cerrados, lo cual... Es completamente absurdo porque los
19:46
Speaker 9: sistemas abiertos te dicen lo que hacen, te dicen quién son,
19:50
Speaker 9: mientras que los sistemas cerrados efectivamente dependen de que confiemos
19:54
Speaker 9: en estas empresas que nos demuestran una y otra vez
19:58
Speaker 9: que son irresponsables de sus propios productos. Julián. Hay un detalle,
20:04
Speaker 2: por cierto
20:05
Speaker 2: perdón que
20:07
Speaker 9: intervenga, y es que Cuando ocurrió el ataque a los
20:12
Speaker 9: servidores de Hugging Face, Hugging Face contó que intentó utilizar
20:18
Speaker 9: los sistemas de OpenAI y de Anthropic para repeler el
20:22
Speaker 9: ataque y se encontró con que estaban tan maniatados que
20:27
Speaker 9: no podían utilizarlos para defenderse y entonces utilizaron un modelo chino.
20:31
Speaker 9: Y esto yo creo que ha sido... la campaña publicitaria
20:36
Speaker 9: para los modelos chinos más exitosa del año porque lo
20:40
Speaker 9: que ha demostrado es que estas empresas que intentan convencernos
20:45
Speaker 9: de que ellos son los únicos que son capaces de
20:49
Speaker 9: limpiar el desastre que ellos mismos cometen no están diciendo
20:54
Speaker 9: la verdad sin embargo hay posibilidades ahí fuera en el
20:57
Speaker 9: mercado que efectivamente son baratas, están disponibles, son modificables y
21:02
Speaker 9: son capaces de proteger infraestructuras en este momento en el
21:06
Speaker 9: que claramente hay agentes de inteligencia artificial deshaciendo y haciendo
21:14
Speaker 9: potenciales catástrofes en los sistemas de todo el mundo.
21:18
Speaker 5: Le hago una pregunta a Julián que tiene que marcharse
21:19
Speaker 5: a dar clase muy rápida.¿ La IA tiene la capacidad
21:22
Speaker 5: de medir su ética? Es decir, si estos agentes tomaran conciencia,
21:26
Speaker 5: en vez de matarnos podrían elegir marcharse, por ejemplo.
21:32
Speaker 10: A dónde?
21:33
Speaker 8: Vaya pregunta. A
21:33
Speaker 5: ver
21:35
Speaker 10: yo creo que
21:37
Speaker 2: ahora mismo...
21:39
Speaker 10: La conciencia en el sentido humano creo que no lo tiene.
21:45
Speaker 10: Al final, los experimentos que han salido mal, lo de
21:49
Speaker 10: Hacking Face y otra cosa de Antropic, han ocurrido porque
21:55
Speaker 10: los experimentos, tal y como se lee, estaban mal hechos.
21:58
Speaker 10: O sea, OpenAI... diseñó a los agentes en un sandbox,
22:03
Speaker 10: un sandbox es en teoría un entorno seguro, una caja
22:06
Speaker 10: de arena para que jueguen los niños, por así decirlo,
22:09
Speaker 10: de ahí viene el nombre, y en un sandbox los
22:11
Speaker 10: agentes no deberían de salir de ahí. Y está mal
22:16
Speaker 10: programado que el sandbox hizo que los agentes fuesen hasta
22:21
Speaker 10: Hacking Face a torpedearles y a hackearles la web, ¿no?
22:26
Speaker 10: Ha habido problemas de seguridad en esos experimentos que tras
22:30
Speaker 10: el análisis y la investigación los han reconocido las propias empresas. Entonces,
22:35
Speaker 10: los agentes tenían instrucciones de hacer esa misión imposible. Y
22:43
Speaker 10: es lo que hacían. No tienen una ética, como lo entendemos,
22:47
Speaker 10: en el sentido humano
22:50
Speaker 2: Julián, podría ocurrir como, por ejemplo, la literatura de Asimov
22:54
Speaker 2: ha contado... Que hubiera una rebelión de unos robots porque
22:57
Speaker 2: están programados precisamente para ejercer una misión. Por ejemplo, salvar
23:01
Speaker 2: el planeta. Y de repente darse cuenta de que el
23:03
Speaker 2: humano es un peligro para el planeta. Entonces, si elimina
23:06
Speaker 2: al humano, el planeta se salva.
23:10
Speaker 10: Yo creo que todavía no... Todavía no estamos en ese
23:17
Speaker 10: momento y los casos, que ha habido algunos casos famosos
23:21
Speaker 10: donde se ha visto que el chatbot ha intentado engañar
23:26
Speaker 10: a su instructor humano, etcétera, se ha podido explicar por
23:31
Speaker 10: qué lo hacía y cuál era su programación detrás. Además que,
23:38
Speaker 10: yo qué sé, alguno ha sugerido que ahora mismo esas
23:43
Speaker 10: sillas podrían conquistar todo Internet. Todo. Y la verdad es
23:47
Speaker 10: que conquistar todo Internet es una tarea imposible porque hay
23:52
Speaker 10: un montón de redundancias, hay un montón de... Hay empresas
23:56
Speaker 10: muy gordas que se evitarían y la verdad es que
23:58
Speaker 10: que cayera todo Internet a la vez, por ejemplo, para
24:00
Speaker 10: conquistar el mundo, sería muy difícil. Entonces, yo sí que
24:05
Speaker 10: estoy con esto de... de los beneficios, etc. Jan Lecun
24:11
Speaker 10: publicó hace algunos años un post que yo tengo guardado
24:14
Speaker 10: con cariño. Jan Lecun era el jefe científico de Meta
24:18
Speaker 10: que decía las instrucciones para forrarte es decir que tu
24:22
Speaker 10: IA puede hacer todo, dos, recaudar millones de dinero de
24:28
Speaker 10: tus inversores, tres, decir que hay que regularla porque es
24:33
Speaker 10: un peligro, cuatro, recaudar
24:38
Speaker 2: beneficios.
24:38
Speaker 10: Tiene
24:38
Speaker 2: eso en un
24:38
Speaker 10: post de Jan Lecun
24:40
Speaker 2: Buen resumen para terminar tu intervención. Te dejamos marchar a clase.
24:43
Speaker 2: A mí me gustaría hacer una clase con Julián, la verdad.
24:46
Speaker 2: Os recomendamos leer su Substack Permanent Future. Julián, un abrazo.
24:50
Speaker 10: Muchas gracias. Buen día.
24:53
Speaker 2: Por aquí estaba levantando la mano tanto Marta como Carlos.¿
24:55
Speaker 2: Qué queríais decir sobre esto?
24:57
Speaker 7: Sí, vamos a ver. Lo que no se ha demostrado
25:00
Speaker 7: en ningún momento, ni siquiera con todos los informes que
25:03
Speaker 7: ha publicado PNI y Anthropic y tal, es que la
25:05
Speaker 7: inteligencia artificial tenga ninguna capacidad de agencia. Esto es de
25:09
Speaker 7: decidir por sí misma. Porque nos están ocultando cómo estaba programada.
25:12
Speaker 7: Es que a lo mejor esas inteligencias artificiales estaban programadas
25:16
Speaker 7: exactamente para hacer lo que hicieron.
25:18
Speaker 2: Para desobedecer. Es que eso es lo que me ha
25:19
Speaker 2: llamado la atención. Como para desobedecer una orden...
25:21
Speaker 7: Es que desobedecer no es un concepto matemático e informático.
25:26
Speaker 7: Desobedecer
25:26
Speaker 2: que
25:26
Speaker 7: a lo mejor estaban desobedeciendo la última orden, pero en
25:29
Speaker 7: su código base tenían la orden de llegar hasta donde pudieran.
25:34
Speaker 7: Hay que tener en cuenta que la inteligencia artificial es
25:37
Speaker 7: una herramienta en lo digital... Bueno, pues como estáis diciendo,
25:40
Speaker 7: prácticamente todopoderosa. Hay que pensar, por ejemplo, cuando estábamos acostumbrados
25:44
Speaker 7: a las máquinas de escribir, al mundo analógico, y de
25:46
Speaker 7: repente aparecen Internet y los ordenadores, cómo esas herramientas digitales
25:50
Speaker 7: de repente nos parecían todopoderosas. Pues ahora estamos en un
25:53
Speaker 7: salto similar. Y es verdad que la inteligencia artificial puede
25:55
Speaker 7: hacer muchísimas cosas. Puede hackear por sí sola, puede saltar
25:59
Speaker 7: a otros ordenadores, como estaba explicando Julián. Pero lo que
26:02
Speaker 7: no se ha demostrado es lo mismo que en los
26:05
Speaker 7: ordenadores iniciales. Es que esa inteligencia artificial, que es un programa...
26:09
Speaker 7: sea capaz de tener una agencia propia, de tomar sus
26:11
Speaker 7: propias decisiones.
26:12
Speaker 2: Marta,¿ qué querías contarnos
26:15
Speaker 9: Sí, a mí hay una cosa que me preocupa y
26:18
Speaker 9: es que aunque llevamos años hablando de pensar de manera
26:21
Speaker 9: crítica acerca de las comunicaciones que damos y es que
26:26
Speaker 9: seguimos empeñados en creer lo que dicen estas empresas que
26:29
Speaker 9: demuestran una y otra vez que no son honestas. Y
26:32
Speaker 9: entonces una de las cosas que hacen constantemente es establecer
26:36
Speaker 9: premisas que no son verdad. Por ejemplo, cuando hablaba Julián
26:41
Speaker 9: del sandbox, de repente todos los periodistas del mundo anunciaron
26:45
Speaker 9: este ataque como una especie de genio increíble, casi Houdini,
26:51
Speaker 9: que escapa del sandbox, porque el sandbox, por definición, es
26:54
Speaker 9: un espacio en el que no hay conexión a Internet.
26:57
Speaker 9: Es una isla donde precisamente pueden jugar y hacer lo
27:00
Speaker 9: que quieran porque no pueden afectar al mundo exterior. Pero
27:04
Speaker 9: lo siguiente que han hecho ha sido salir de Internet,
27:06
Speaker 9: salir del... del laboratorio en el que están jugando e
27:11
Speaker 9: irse a otros sitios de internet, lo cual demuestra de
27:13
Speaker 9: forma categórica que el sandbox no era un sandbox. Lo
27:17
Speaker 9: siguiente que damos por hecho es que salen a hackear
27:20
Speaker 9: que es algo ajeno a sus instrucciones. Lo cual vuelve
27:25
Speaker 9: a ser un problema casi cognitivo, de disonancia cognitiva, porque
27:30
Speaker 9: sobre todo dos meses o tres meses después de que Antropic,
27:34
Speaker 9: que es ahora mismo la líder del mercado, hubiese dicho
27:36
Speaker 9: que le había salido así sin querer un modelo capaz
27:41
Speaker 9: de encontrar vulnerabilidades en cualquier sistema y atacarlos de forma sistemática.
27:46
Speaker 9: Y entonces, tres meses después, hay una noticia que dice
27:49
Speaker 9: que un montón de agentes de IA se han escapado
27:52
Speaker 9: de una sandbox y han empezado a hackear y nadie
27:54
Speaker 9: sabe cómo. Tenemos que empezar a atar hilos con la realidad.
28:00
Speaker 9: Y efectivamente, estas actividades que están ahora mismo protagonizando los
28:07
Speaker 9: modelos no implican de ninguna manera que sean inteligentes, que
28:11
Speaker 9: tengan inteligencia general. lo que sea que significa eso lo
28:18
Speaker 9: que demuestra es que son capaces de aplicar criterios estadísticos
28:24
Speaker 9: que son idénticos a los que aplican cuando se los
28:27
Speaker 9: aplican al lenguaje es decir, de determinar cuál es la
28:31
Speaker 9: acción más probable o más exitosa que tienen que hacer
28:35
Speaker 9: después de otra y aplicarlos al mundo real de una
28:38
Speaker 9: manera bastante nociva podemos decir, porque están siendo entrenados precisamente
28:44
Speaker 9: para hackear sistemas
28:46
Speaker 2: Claro, pues por eso es importante, y lo hemos dicho
28:48
Speaker 2: desde el inicio, regular todo esto. Vamos a ver cómo
28:51
Speaker 2: se hace porque ya nos lo están contando los efectos
28:54
Speaker 2: de la dimisión de Jacob Coxon. Han llegado hasta la ONU.
29:00
Speaker 3: La seguridad de la IA debe significar algo más que
29:02
Speaker 3: la fiabilidad técnica del producto. Significa proteger activamente a las personas,
29:08
Speaker 3: las comunidades, las instituciones y las generaciones futuras.
29:12
Speaker 2: Esto qué es, Irene?
29:13
Speaker 5: Pues escuchamos el comunicado que publicó este lunes el alto
29:16
Speaker 5: comisionado de las Naciones Unidas para los Derechos Humanos, Volker Tjurk,
29:19
Speaker 5: y ayer mismo...
29:21
Speaker 3: No tenemos por qué aceptar funciones adictivas. No tenemos por
29:24
Speaker 3: qué aceptar que se atraiga a los niños hacia contenidos
29:27
Speaker 3: cada vez más extremos. No tenemos por qué aceptar que
29:30
Speaker 3: se utilicen fotos de chicas para crear imágenes sexualizadas mediante
29:34
Speaker 3: inteligencia artificial. Y al no aceptarlo, estamos invirtiendo la carga
29:38
Speaker 3: de la prueba. Ahora serán las plataformas las que deban
29:41
Speaker 3: demostrar que son seguras. La
29:43
Speaker 5: presidenta de la Comisión Europea, Ursula von der Leyen, respaldó
29:47
Speaker 5: ralentizar el desarrollo de la IA como proponen los tecnomagnates
29:49
Speaker 5: y defendió la normativa europea.
29:52
Speaker 2: Además de anunciar que la Unión Europea prohibirá las redes
29:55
Speaker 2: a menores de 13 años y las limitará Hasta los
29:59
Speaker 2: 15
29:59
Speaker 5: Sí, y por cierto que la normativa europea de inteligencia
30:02
Speaker 5: artificial es muy criticada por las ONGs porque tras las
30:05
Speaker 5: presiones de Estados Unidos y las grandes tecnológicas, el año
30:08
Speaker 5: pasado la misma comisión rebajó normas que afectan a nuestra
30:11
Speaker 5: privacidad y retrasó la regulación de los sistemas de alto
30:14
Speaker 5: riesgo como los deepfakes. Carlos,¿ por qué no hay normas
30:18
Speaker 5: internacionales para la IA como las que pide la ONU?
30:21
Speaker 7: Pues sobre todo porque Estados Unidos y China no quieren,
30:23
Speaker 7: porque cualquier norma sería coartar su capacidad de crecimiento. Y, bueno,
30:28
Speaker 7: lo estamos viendo ahora mismo con, por ejemplo, la posición
30:31
Speaker 7: de Trump, que es quien decide cuál va a ser
30:33
Speaker 7: la posición luego de Estados Unidos en la ONU. No,
30:35
Speaker 7: de momento, afortunadamente, los magnates de la inteligencia artificial. Pero
30:39
Speaker 7: es que China tampoco está muy por la labor, precisamente
30:42
Speaker 7: porque desconfía de que en cualquier plan para regular la
30:45
Speaker 7: inteligencia artificial esté precisamente una ambición de controlar su desarrollo. Pero, Marta,
30:51
Speaker 7: ya
30:51
Speaker 2: existen regulaciones. Yo leía ayer, me parece que fue en
30:55
Speaker 2: el diario Punto Es, un artículo, lo tengo aquí delante,
30:59
Speaker 2: que firmaba Carmen Artigas, donde contaba, por ejemplo, que bajo
31:02
Speaker 2: presidencia española de la Unión Europea se cerró en 2023
31:06
Speaker 2: el Acuerdo sobre la Ley Europea de Inteligencia Artificial, la
31:08
Speaker 2: primera norma integral del mundo sobre esta tecnología. Y luego ella, además,
31:11
Speaker 2: desarrollaba otra serie de agencias, controles que ya existen.¿ Estamos
31:15
Speaker 2: protegidos realmente? Sí. Esta ley, que efectivamente en la prensa
31:17
Speaker 2: seguimos con mucho interés
31:18
Speaker 9: es una ley que ha sido maniatada el año pasado,
31:26
Speaker 9: lo acabáis de decir vosotros, en un movimiento de la
31:36
Speaker 9: Comisión Europea que ha acabado generando un número de ómnibus.
31:40
Speaker 9: El ómnibus digital, que es el que corresponde a todo
31:44
Speaker 9: lo relativo a Internet y a la inteligencia artificial, va
31:47
Speaker 9: a ser o es una especie de paquete que contiene
31:52
Speaker 9: Todas las leyes relativas a Internet, incluyendo la Ley General
31:55
Speaker 9: de Protección de Datos y la Ley de Inteligencia Artificial,
31:58
Speaker 9: y que las simplifica para que, lo dijo el otro
32:01
Speaker 9: día la propia Von der Leyen, para que las empresas
32:04
Speaker 9: y las inversiones puedan prosperar en Europa. Y entonces lo
32:08
Speaker 9: que hace es, primero, retrasar mucho la aplicación de esas
32:14
Speaker 9: leyes y, segundo, suavizarlas de forma bastante dramática y, desde
32:19
Speaker 9: mi punto de vista, irresponsable. Por otra parte, yo hace
32:25
Speaker 9: unos días recordaba que ha habido un criterio muy importante
32:31
Speaker 9: en un caso que se dio en Nuevo México, en
32:35
Speaker 9: Estados Unidos, esta primavera, en el que un jurado declaró
32:41
Speaker 9: culpable a meta de irresponsabilidad, no por sus
32:46
Speaker 7: que ha
32:47
Speaker 9: sido un poco la dinámica que hemos tenido en los
32:48
Speaker 9: últimos años, sino por el producto que ha diseñado, que
32:52
Speaker 9: no solamente es adictivo, sino que además genera perjuicio, daños físicos,
32:58
Speaker 9: morales y emocionales en los adolescentes.
33:02
Speaker 8: Y
33:02
Speaker 9: entonces han sido declarados culpables de tener un producto defectuoso,
33:06
Speaker 9: porque es dañino para los usuarios. Y entonces... Desde este
33:12
Speaker 9: punto de vista, que es de la ley más común
33:15
Speaker 9: de California, que es que no puedes poner productos defectuosos
33:18
Speaker 9: en el mercado sabiendo que lo son, no necesitamos leyes
33:22
Speaker 9: nuevas para que estos CEOs que ya han manifestado una
33:27
Speaker 9: y otra vez que su propio producto es demasiado peligroso
33:31
Speaker 9: para estar en el mercado, no tendríamos por qué aplicar
33:37
Speaker 9: leyes distintas para contener ese tipo de comercialización. Esto deberíamos
33:43
Speaker 9: pensarlo como si fuera un virus. Nosotros tenemos unos criterios,
33:46
Speaker 9: unos estándares para decidir qué tipo de laboratorios son capaces
33:50
Speaker 9: de trabajar con virus para desarrollar vacunas, antibióticos y otras
33:56
Speaker 9: soluciones que evidentemente benefician a todo el mundo. Y en
34:00
Speaker 9: este caso, estos laboratorios han demostrado que están trabajando con
34:04
Speaker 9: virus que ellos mismos no saben tratar porque... el material
34:09
Speaker 9: es peligroso, pero sus instalaciones no están condicionadas para ese
34:15
Speaker 9: tipo de materiales. Entonces, no necesitamos leyes nuevas para eso.
34:20
Speaker 2: Claro, de hecho, además, como muy bien está explicando Marta,
34:22
Speaker 2: es que todos los sectores de la vida humana están
34:26
Speaker 2: regulados precisamente para proteger a los seres humanos. Aquí parece
34:29
Speaker 2: que hay una desprotección o por lo menos cierta laxitud. Carlos,¿
34:33
Speaker 2: sabemos cómo funcionan por dentro?¿ Quién entrena a esos agentes,
34:37
Speaker 2: cómo son las infraestructuras.¿ Qué sabemos realmente de todos esos
34:41
Speaker 2: grandes imperios de la IA?
34:43
Speaker 7: Pues sabemos muy poco, la verdad. Y fíjate que uno
34:47
Speaker 7: de los detalles que sí que se conocen es que
34:50
Speaker 7: son muchísimo menos profesionales de lo que quieren admitir. Y que,
34:55
Speaker 7: por ejemplo, partes muy importantes del entrenamiento de la inteligencia
34:58
Speaker 7: artificial utilizan una forma de desarrollo... que se ha venido
35:04
Speaker 7: a denominar capitalismo de desastre. Es decir, van a las
35:07
Speaker 7: zonas más pobres del planeta, que han tenido desastres naturales
35:12
Speaker 7: o económicos recientemente, a ofrecerles a los trabajadores los salarios
35:17
Speaker 7: más bajos por hora de todo el mundo, para que
35:20
Speaker 7: sean ellos los que entrenen a la inteligencia artificial con
35:24
Speaker 7: un método que se llama aprendizaje por refuerzo. Es decir,
35:28
Speaker 7: ellos están todo el rato... interactuando con la inteligencia artificial
35:31
Speaker 7: y cuando la inteligencia artificial da una respuesta que está
35:36
Speaker 7: acorde con lo que está buscando OpenAI, por ejemplo, para HGPT,
35:39
Speaker 7: esos trabajadores la recompensan y cuando da una respuesta que
35:44
Speaker 7: no está acorde con lo que quiere OpenAI y que
35:46
Speaker 7: responde a HGPT, esos trabajadores la penalizan. Pero, por ejemplo,
35:50
Speaker 7: estamos hablando de que esos trabajadores que no tienen formación médica,
35:54
Speaker 7: por ejemplo
35:55
Speaker 7: Están entrenando a chat GPT para... Cuando una respuesta médica
36:00
Speaker 7: está mal o está bien.
36:01
Speaker 2: Sí, perdón, pero igual que el error de desobedecer no
36:05
Speaker 2: cabe en la terminología matemática de una inteligencia artificial,¿ cómo
36:10
Speaker 2: se recompensa o cómo se penaliza a una inteligencia artificial?
36:13
Speaker 2: Pues
36:13
Speaker 7: es parecido a... Son recompensas algorítmicas, básicamente es decirle que
36:17
Speaker 7: está bien o está mal. Pero está inspirado, por ejemplo,
36:20
Speaker 7: en el método con los perros. O sea, que tú
36:22
Speaker 7: le das un premio... cuando hace una cosa bien y
36:25
Speaker 7: le haces ese aprendizaje por
36:26
Speaker 2: refuerzo... Toma un algoritmo. Sí,
36:28
Speaker 7: sí, sí, es una cosa similar a ese proceso.
36:32
Speaker 5: Bueno, hay un gobierno, lo estamos diciendo, especialmente interesado en
36:35
Speaker 5: que esta regulación sea cada vez más laxa o inexistente.
36:40
Speaker 6: Estamos superando a China, somos el país más sofisticado y, sinceramente,
36:44
Speaker 6: quiero que siga siendo así. Porque quien gane en IA, gana.
36:48
Speaker 2: Vamos. Que Trump teme que si echan el freno demasiado rápido,
36:51
Speaker 2: China les adelante por la izquierda.
36:52
Speaker 5: Mientras que el portavoz del Ministerio de Exteriores chino, Guo Yacun,
36:56
Speaker 5: tiró de diplomacia y puso el foco en la cooperación.
37:01
Speaker 3: La IA es una tecnología de gran trascendencia para el
37:04
Speaker 3: bienestar de toda la humanidad. Todas las partes deben promover
37:08
Speaker 3: conjuntamente el desarrollo abierto e inclusivo de la IA para
37:11
Speaker 3: el bien común y para todos.
37:13
Speaker 2: Pero el diario Global Times, que depende del Partido Comunista,
37:16
Speaker 2: sí ha sido más contundente.
37:18
Speaker 5: Sí, el editorial del domingo acusó al CEO de Anthropic
37:21
Speaker 5: de tener una agenda oculta contra China y querer estrangular
37:24
Speaker 5: su desarrollo con lo que llamó un manual de guerra
37:27
Speaker 5: fría
37:29
Speaker 2: En julio, China impulsó un acuerdo con 28 países para
37:31
Speaker 2: constituir la Organización Mundial de Cooperación sobre la IA con
37:34
Speaker 2: el objetivo de influir precisamente en las normas sobre esta tecnología. Marta,¿
37:39
Speaker 2: cómo va la guerra Estados Unidos-China en este asunto?¿ Y
37:43
Speaker 2: qué tiene que ver todo esto que está pasando? Ya
37:45
Speaker 2: lo estáis diciendo, pero... con intentar aislar al gigante chino?
37:50
Speaker 9: Pues yo diría que no les está yendo del todo
37:53
Speaker 9: bien a los americanos, quiero decir. Porque en esta guerra
37:58
Speaker 9: lo que importa es más la infraestructura que el código.
38:02
Speaker 9: El código nunca es secreto. Yo publiqué hace años un
38:05
Speaker 9: libro que se llamaba« El enemigo conoce el sistema». Y
38:09
Speaker 9: es una cita de Klaus Shannon en la que básicamente
38:11
Speaker 9: dice el enemigo siempre va a conocer el sistema, porque
38:14
Speaker 9: el sistema nunca puede ser secreto durante demasiado tiempo. Entonces
38:19
Speaker 9: se da también la particularidad de que estos modelos se
38:22
Speaker 9: están entrenando unos a otros, es decir, tú puedes crear
38:25
Speaker 9: un modelo y hacer una cosa que la industria llama
38:28
Speaker 9: un destilado de otro modelo, en el cual tú pones
38:31
Speaker 9: a un modelo a enseñar a otro modelo y los
38:35
Speaker 9: dejas ahí un rato, Al cabo del tiempo, el segundo
38:38
Speaker 9: modelo sabe mucho de lo que sabe el primero y
38:40
Speaker 9: entonces hay una carrera en la que se están igualando
38:46
Speaker 9: todos con todos todo el rato.¿ Qué pasa? Que China
38:49
Speaker 9: ha decidido de forma muy inteligente apostar por un modelo
38:54
Speaker 9: más abierto de distribución. Esto es algo que tiene todo
38:58
Speaker 9: el sentido del mundo porque lo que garantizas es que
39:01
Speaker 9: tu modelo tiene más recorrido de lo que tienen modelos
39:04
Speaker 9: privados que tienen un montón de mordazas y que además
39:08
Speaker 9: cuestan dinero.
39:10
Speaker 8: Entonces
39:11
Speaker 9: desde el momento en el que ya sabemos que si
39:13
Speaker 9: nos atacan unos agentes de inteligencia artificial es más rápido
39:16
Speaker 9: y más barato que utilicemos un modelo chino o que
39:18
Speaker 9: utilicemos un americano, pues esto es probablemente el motivo por
39:23
Speaker 9: el que todas las instituciones con infraestructuras críticas preocupadas por
39:29
Speaker 9: enjambres de bolsa atacando sus sistemas estén ahora mismo buscando
39:33
Speaker 9: modelos chinos para instalar en sus sistemas. Y
39:37
Speaker 2: a todo esto, después de anunciarnos que son una amenaza
39:41
Speaker 2: para la humanidad, las propias grandes tecnológicas defienden ser la
39:44
Speaker 2: solución y crear sus propias reglas. Irene.
39:48
Speaker 5: Sí, Carlos,¿ cuáles son las claves del plan que defiende
39:51
Speaker 5: Dario Amodei, el director ejecutivo de Anthropic, que ha tenido
39:53
Speaker 5: tan buena acogida en Silicon Valley?
39:56
Speaker 7: Pues son sobre todo tres. Una es crear una figura
39:59
Speaker 7: que lo llaman evaluadores externos que se incrustarían dentro de
40:03
Speaker 7: los equipos de desarrollo en los laboratorios de cada empresa.
40:06
Speaker 7: Y entonces ese evaluador estaría pendiente de si la empresa
40:10
Speaker 7: está haciendo efectivamente lo que dice que está haciendo y
40:13
Speaker 7: con las medidas de seguridad adecuadas. Este es el punto
40:17
Speaker 7: clave del plan y además el más sensible, porque esto
40:21
Speaker 7: de evaluadores externos, bueno,¿ externos para quién?¿ Va a ser
40:25
Speaker 7: uno de PNI controlando a otro de Anthropic?¿ De dónde
40:28
Speaker 7: van a venir esas personas? Porque además hace falta una
40:31
Speaker 7: preparación muy específica para entender bien cómo funcionan esos laboratorios
40:35
Speaker 7: por dentro. Es un talento que tampoco tenemos desarrollado tan
40:39
Speaker 7: bien a nivel internacional, ¿no? Hay un riesgo de que
40:43
Speaker 7: realmente lo que estén buscando es vigilarse a sí mismas,
40:46
Speaker 7: unas a otras, pero siempre dentro del mismo corralito. Luego,
40:50
Speaker 7: dentro de la segunda medida, sería gracias a esos evaluadores
40:53
Speaker 7: externos poner determinados checkpoints, determinadas fronteras que ellas se comprometerían
40:59
Speaker 7: a no pasar. en el desarrollo de la inteligencia artificial.
41:02
Speaker 7: Por poner un ejemplo, inteligencias artificiales que no puedan por
41:06
Speaker 7: sistema hackear hospitales. Y cuando se den cuenta de que
41:08
Speaker 7: esta inteligencia artificial ya puede hackear un hospital, pues entonces
41:12
Speaker 7: eso es una frontera. Y como tengo a los evaluadores
41:15
Speaker 7: por ahí, puedo vigilarte que de verdad no la estás cruzando.
41:18
Speaker 7: Y luego el tercer elemento es llegar a acuerdos internacionales
41:24
Speaker 7: que es un poco lo que estamos hablando para intentar
41:26
Speaker 7: imponer esos checkpoints a todo el mundo, pero que esto
41:29
Speaker 7: es lo que ha dicho China que no quiere hacer.
41:34
Speaker 7: De todas formas, esto, aparte del tema de que efectivamente
41:38
Speaker 7: parece que lo que están proponiendo es una autorregulación, que
41:41
Speaker 7: para la industria digital tenemos sobradas pruebas de que es
41:44
Speaker 7: la peor forma que tenemos de regularles, yo aquí quería
41:49
Speaker 7: recordar una cita de Carissa Beliz que sacamos en en
41:52
Speaker 7: uno de los artículos que me pareció que es el
41:55
Speaker 7: punto de todo esto. Ellos lo que están diciendo es
41:57
Speaker 7: que no pueden controlar sus propias herramientas. Y al final,
42:01
Speaker 7: la motivación que hay detrás de eso es intentar soltar
42:06
Speaker 7: sus responsabilidades, porque tú no puedes ser responsable de algo
42:08
Speaker 7: que no puedes controlar. Por eso, no hay que comprarles
42:11
Speaker 7: este discurso de que no pueden controlar sus herramientas. Usted
42:14
Speaker 7: las está desarrollando y por supuesto que debe poder controlarlas.
42:17
Speaker 2: Claro, yo lo he dicho al principio. Esa contradicción entre,
42:20
Speaker 2: por un lado te dicen, somos la empresa todopoderosa, esta
42:22
Speaker 2: tecnología que tenemos lo puede todo, y luego de repente
42:25
Speaker 2: la tecnología se separa de ellos mismos, es el anillo
42:27
Speaker 2: de poder que se nos está yendo de las manos,
42:29
Speaker 2: se me ha salido el anillo del poder del dedo
42:32
Speaker 2: y la puede liar parda. Marta, estábamos hablando de modelos
42:37
Speaker 2: cerrados y modelos abiertos.¿ Los modelos abiertos también pueden esconder
42:42
Speaker 2: alguna trampa? Porque, por ejemplo, Meta liberó sus modelos gratis,
42:46
Speaker 2: supuestamente por motivos altruistas, Y claro, fiarse de Meta.
42:52
Speaker 9: Me encanta que saques ese tema porque Meta es precisamente
42:54
Speaker 9: un ejemplo de por qué es interesante elegir modelos abiertos
42:59
Speaker 9: cuando quieres dominar el mercado. Lo primero que tengo que
43:02
Speaker 9: decir es que el modelo de Meta no es abierto.
43:04
Speaker 9: Es
43:05
Speaker 7: lo que ellos
43:06
Speaker 9: vendieron. Ellos lo llaman abierto porque ellos abren la posibilidad
43:11
Speaker 9: de utilizar sus herramientas de forma gratuita. Esto se cansó
43:15
Speaker 9: de decirlo el pobre Richard Stallman que... Hay cosas que
43:19
Speaker 9: son free as in beer, como en barra libre de cerveza,
43:23
Speaker 9: y free as in freedom, como en abierto de libertad,
43:28
Speaker 9: de libertad para hacer lo que quieras. Entonces, haciendo esto,
43:32
Speaker 9: es decir, dejando sus modelos free as in beer, como
43:36
Speaker 9: en cerveza, lo que garantiza Meta es que todas las
43:39
Speaker 9: instituciones que no tienen dinero ni para tener su propio
43:41
Speaker 9: modelo de inteligencia artificial, ni para pagar a escala el
43:46
Speaker 9: de Antropic o el de OpenAI o el que sea,
43:49
Speaker 9: van a utilizar el de Meta. Y entonces Meta, como
43:53
Speaker 9: hemos visto ya con la ecuación Navier-Stokes, tiene primera fila,
43:58
Speaker 9: información de primera mano sobre todos los desarrollos que estén
44:01
Speaker 9: teniendo en estas instituciones, generalmente laboratorios dentro de universidades públicas,
44:06
Speaker 9: y además se garantiza que todos esos desarrollos están hechos
44:10
Speaker 9: en un lenguaje que es compatible con su sistema y
44:12
Speaker 9: con herramientas que son de su sistema. Es decir, es
44:15
Speaker 9: una forma de colonización a través de algo que parece altruista,
44:22
Speaker 9: pero no lo es. Los modelos abiertos de verdad son
44:24
Speaker 9: modelos que tú puedes instalar en tus propios sistemas sin
44:28
Speaker 9: necesidad de estar conectados a la nave nodriza de la
44:33
Speaker 9: empresa original y que tú puedes... no solamente modificar y
44:38
Speaker 9: utilizar como tú quieras, sino que además puedes entender, es decir,
44:42
Speaker 9: que eres capaz de comprender de forma que luego puedas
44:46
Speaker 9: modificar la herramienta para que funcione para tus propios intereses.
44:50
Speaker 9: Entonces hay que tener mucho cuidado a la hora de
44:54
Speaker 9: pensar que los modelos de meta son abiertos, no lo
44:56
Speaker 9: son exactamente. Y hay modelos chinos que sí que son abiertos,
45:00
Speaker 9: que te puedes instalar literalmente en tu teléfono y utilizarlos
45:03
Speaker 9: desde allí.¿ Qué pasa? Que el poder está en la infraestructura.
45:08
Speaker 9: Yo el otro día citaba un texto precioso de finales
45:12
Speaker 9: de 1800 en el que Samuel Butler decía que nosotros
45:17
Speaker 9: somos los órganos sexuales de las plantas. Él estaba haciendo
45:20
Speaker 9: un análisis con el análisis entonces fresco de Darwin que decía...
45:28
Speaker 9: que los genes se propagan de determinada manera y que
45:30
Speaker 9: crecen de determinada manera en grandes periodos de la historia.
45:34
Speaker 9: Y entonces aquí los que somos los propagadores del poder
45:38
Speaker 9: de esos sistemas somos nosotros dejando que pongan centros de
45:41
Speaker 9: datos en nuestros espacios, instalando esos sistemas en nuestros sistemas
45:47
Speaker 9: de transporte, en nuestra gestión del dinero, en nuestra gestión
45:51
Speaker 9: de lo social, de lo político, de lo económico. Y entonces,¿
45:56
Speaker 9: es ese territorio de propagación lo que los empodera? Entonces,
46:00
Speaker 9: tú puedes tener una IA en tu teléfono, pero si
46:03
Speaker 9: no tienes esa infraestructura que lo propaga, pues no tienes
46:08
Speaker 9: mucho poder. Entonces, por eso es tan importante que pensemos
46:12
Speaker 9: muy bien qué centros de datos podemos dejar que se
46:15
Speaker 9: instalen en nuestro territorio.
46:17
Speaker 2: Es que no ha habido un debate público sobre todo esto.
46:19
Speaker 2: Nadie nos ha preguntado, como yo decía bien al principio,
46:22
Speaker 2: por qué. Se nos está imponiendo una tecnología profundamente invasiva y,
46:27
Speaker 2: como nos dicen, peligrosa, sin que nadie haya podido determinar
46:31
Speaker 2: cómo ni por qué. Carlos, nosotros como usuarios, como usuarias,¿
46:35
Speaker 2: podemos hacer algo?¿ Qué debemos también reclamar a los responsables
46:39
Speaker 2: políticos que pueden poner los frenos?
46:41
Speaker 7: Transparencia. Esto es la principal reclamación que tenemos que hacer
46:46
Speaker 7: porque todo esto se está desarrollando en todos los niveles
46:50
Speaker 7: además de la cadena, de forma súper opaca. No puede
46:53
Speaker 7: ser que OpenAI sea capaz de dominar la agenda pública
46:59
Speaker 7: poniendo en conocimiento de todos una serie de experimentos que
47:01
Speaker 7: ha hecho y no podamos saber cómo están programados esos
47:05
Speaker 7: sistemas porque estamos decidiendo y pensando con información parcial. Se
47:09
Speaker 7: nos está robando una parte de la realidad. Con los
47:12
Speaker 7: centros de datos, de forma muy similar. La industria propia
47:16
Speaker 7: de los centros de datos es terriblemente opaca. No nos
47:19
Speaker 7: dicen ni cuánta energía ni cuánta agua van a consumir
47:22
Speaker 7: del pueblo en el que se van a instalar. Y
47:25
Speaker 7: se escudan en el secreto comercial. No es tolerable que
47:29
Speaker 7: estas empresas actúen de esta forma, porque efectivamente... vayan a
47:33
Speaker 7: matarnos a todos o no, lo que sí que sabemos
47:35
Speaker 7: es que son herramientas muy poderosas y que podrían abrir
47:38
Speaker 7: la puerta a determinados tipos de ataques que hasta ahora
47:41
Speaker 7: no eran posibles y que nos pueden afectar a todos. Entonces,
47:44
Speaker 7: tenemos que saber cómo funcionan y tener una fiscalización pública,
47:48
Speaker 7: tanto de los reguladores como de la ciudadanía, con todos
47:51
Speaker 7: los datos transparentes.
47:53
Speaker 2: Pues ese debate público nos falta. Y si no queréis
47:55
Speaker 2: que lleguen los robots asesinos, pues seguid y leed a
47:59
Speaker 2: Marta Peirano y a Carlos del Castillo. Muchísimas gracias a
48:01
Speaker 2: los dos. Un abrazo muy fuerte.
48:04
Speaker 13: carne cruda saca las sillas a la calle para estar
48:08
Speaker 13: a la fresca para estar más cerca para estar con
48:13
Speaker 13: las vecinas para estar en los barrios donde está la
48:17
Speaker 13: noticia y donde estás tú carne cruda a pie de
48:21
Speaker 13: calle y más fresca
48:26
Speaker 2: si esto de estar a pie de calle es pues eso,
48:28
Speaker 2: muy humano, es lo que tenemos que hacer menos silla
48:30
Speaker 2: y más silla jajaja Te voy a dejar dar el paso, Irene,
48:33
Speaker 2: porque te ha quedado muy bien. Además lo ha escrito
48:35
Speaker 2: ella y es buenísimo. Atención.
48:37
Speaker 5: Aquí no nos mata la IA, sino la risa. La
48:39
Speaker 5: República
48:40
Speaker 6: Independiente de la Radio presenta... Sabor carne al pil pil.
48:45
Speaker 6: Pil pil, pil pil. Una sección muy picadita... Picadito, picadito, picadito.
48:50
Speaker 6: Sobre la jugosa actualidad...
48:53
Speaker 2: Pero qué ganas teníamos de que volvierais. Hola, crudos días. Lucas, Adrián,¿
48:58
Speaker 2: cómo estáis? Muy bien. Adrián y Lucas.¿ Qué tal ha
49:01
Speaker 2: ido el verano? Andy y Lucas. El verano muy bien
49:05
Speaker 14: Para hacer promoción y decir que nos esté viendo, que
49:07
Speaker 14: vaya a los demás episodios y vea Alerta Flequillos. Por favor.
49:11
Speaker 14: Mi nueva parte favorita
49:12
Speaker 2: de Carta y Cruzando. Bueno, tú has venido un poco
49:13
Speaker 2: a Alerta Flequillos, ¿eh? Bueno, los dos, ahora que lo veo,
49:17
Speaker 2: sois la parte masculina de Alerta Flequillos. Por favor,¿ era
49:21
Speaker 2: que es la sección favorita de todo el mundo? Sí,
49:23
Speaker 2: es
49:23
Speaker 12: increíble. Son
49:24
Speaker 2: geniales.
49:24
Speaker 12: Las amo.
49:25
Speaker 2: Vosotras también.
49:25
Speaker 12: Os queremos mucho. Y bueno, yo la verdad es que
49:28
Speaker 12: tenía ya ganas de ver a gente porque es que
49:29
Speaker 12: Adrián me tiene frito. Se ha vuelto adicto a las
49:32
Speaker 12: canciones hechas con ella. No. Dale
49:34
Speaker 8: caña.
49:40
Speaker 14: Es un temazo. No sé si la conocéis, pero bueno,
49:43
Speaker 14: esto ha sido la canción del verano. ¿Ah, sí? Sí,
49:46
Speaker 14: hablando de canciones chaconías, esta ha sido la canción del verano.
49:49
Speaker 14: Esta canción es interpretada por un avatar ficticio llamado Naila Stone,
49:53
Speaker 14: pero no es solo que tenga esta canción, sino que
49:55
Speaker 14: la propia Naila tiene un canal de YouTube donde tiene
49:58
Speaker 14: más canciones, como por ejemplo... Ahora me quiero más que nunca.
50:01
Speaker 8: ¡Nunca! Sí,
50:08
Speaker 2: se la mete un poco entre Tina Turner y sobreviviré.
50:11
Speaker 2: En YouTube pone Soul Blues Español. Ese sería el género.
50:15
Speaker 2: Soul Blues Español, sí.
50:18
Speaker 12: Ahí está. Pero bueno.
50:20
Speaker 2: Mónica Naranjo, que no me salía. Mónica Naranjo
50:22
Speaker 12: No me entre Tina Tarnin y Mónica Naranjo. Y ahora
50:25
Speaker 12: que nos hemos puesto en contexto y que lleváis todo
50:27
Speaker 12: el programa hablando de IA, nosotros venimos a defender la
50:31
Speaker 12: IA con el tema de las canciones. Es tan horrible,
50:34
Speaker 2: tan
50:34
Speaker 12: cutre son, preferimos que Taburete cante Huele a vino y cemento.
50:38
Speaker 2: Perdona,¿ hay una canción de Taburete que se llama Huele
50:40
Speaker 2: a vino y cemento? Bueno, claro.
50:42
Speaker 12: Y ya luego me explicas a ver qué significa esa metáfora, ¿vale?
50:45
Speaker 12: Porque a mí, que Naila Stone cante mi propia prioridad,
50:49
Speaker 12: pues sé lo que venís a decir, es que la
50:51
Speaker 12: guía no es ética, entonces yo repito...¿ Acaso es ético
50:54
Speaker 12: que Taburete cante huela, vino y cemento? De verdad.
50:59
Speaker 2: Es que no la he sacado porque no me podía
51:00
Speaker 2: creer que la pidierais de verdad. ¡Gracias!¡ Te quiero
51:03
Speaker 12: Te quiero!
51:05
Speaker 2: No podía escuchar eso.¡ Qué pena! Bueno, no, en realidad
51:08
Speaker 2: qué alegría, porque claro, sonar Taburete en carne cruda…
51:11
Speaker 8: Es
51:11
Speaker 14: que lo
51:11
Speaker 8: peor
51:13
Speaker 2: es que… Puedes buscarla ya que estás. Esa
51:15
Speaker 14: canción tiene…
51:17
Speaker 11: No la
51:17
Speaker 2: pongas
51:18
Speaker 11: Yo no sé si no es esta. No seáis haters,
51:19
Speaker 11: no está
51:20
Speaker 2: mal
51:21
Speaker 11: Pero que no se ha quedado bien. No se ha
51:23
Speaker 11: quedado bien. Estás en Isla Stone y luego Taburete. Por
51:26
Speaker 14: guión tenía que defenderla, pero nunca la había
51:29
Speaker 12: escuchado al principio. Quita, quita, quita.
51:41
Speaker 14: A
51:42
Speaker 12: ver,
51:42
Speaker 14: y vamos a volver al
51:43
Speaker 12: tema. Por
51:43
Speaker 14: favor,
51:44
Speaker 12: vamos a volver al tema, Adrián, que te me dispersas. Sí, perdón,
51:46
Speaker 12: perdón
51:46
Speaker 14: que estoy disperso. El tema.¿ Es tan mala la música
51:49
Speaker 14: hecha conía?¿ Debemos censurar canciones que están cantando señoras de
51:52
Speaker 14: 50 años a pleno pulmón? Véase, mi madre. O sea,
51:56
Speaker 14: porque no son éticas, mi madre no pueden disfrutar.¿ Sabéis
51:59
Speaker 14: lo que no haría nunca Naila Stone?
52:02
Speaker 6: No
52:02
Speaker 14: Suspender a Maclemore de telonero como ha hecho el Meapilas. ¡Vamos!
52:05
Speaker 14: ¡Vamos
52:06
Speaker 12: Qué
52:06
Speaker 14: te mato! Cito textualmente lo
52:09
Speaker 12: que ha dicho Ed
52:10
Speaker 14: Sheeran. La gente
52:10
Speaker 12: no viene a mis conciertos a ver
52:12
Speaker 14: un foro político. Mira, Ed, tus canciones no están hechas
52:22
Speaker 14: con IA, pero son exactamente igual de tibias e insulsas.
52:26
Speaker 14: Vete
52:26
Speaker 2: a la mierda.
52:26
Speaker 14: Viva
52:27
Speaker 2: Macklemore!
52:27
Speaker 12: ¡Viva
52:29
Speaker 2: Y el resto de músicos que iba a acompañar tanto
52:32
Speaker 2: a Ed Sheeran en su banda como teloneándole. Y también
52:35
Speaker 2: se han bajado todos. Es que la banda que la
52:37
Speaker 2: acompañaba también…¿ Vegoa se llama? Sí, sí. ¿Vegoa, verdad? Y
52:39
Speaker 2: luego
52:40
Speaker 14: Finia… Sí, sí, se han bajado
52:41
Speaker 2: Se han bajado todos del cartel. Ed, tócate tú solo
52:44
Speaker 2: las canciones con la guitarrita… Acústica y Pink. Bueno
52:48
Speaker 12: que ella pasa un poco más desapercibida. Y
52:50
Speaker 2: además
52:51
Speaker 12: no olvidemos que Michael Moore ha donado todo lo que
52:52
Speaker 12: ha ganado con el Ed Sheeran a Palestina también.
52:55
Speaker 2: Que por cierto, he dicho lo de Pink, por si
52:56
Speaker 2: alguien no se ha enterado, porque fue ella la que
52:59
Speaker 2: salió al escenario después de Michael Moore y dijo, aquí
53:01
Speaker 2: no estamos para... Hacer discursitos en favor de Palestina. Sí
53:06
Speaker 2: Pinky
53:06
Speaker 14: Spinky sionista.
53:07
Speaker 2: Abiertamente sionista. Abiertamente sionista. No cerrada, sino abiertamente. Pero
53:12
Speaker 12: bueno, dejando el tema de la música, un besito a
53:13
Speaker 12: Michael Moore, Palestina Libre y
53:15
Speaker 2: Ed Sheeran,
53:16
Speaker 12: que te follen. Yo quiero hablar de todos estos CEOs
53:19
Speaker 12: y trabajadores de la inteligencia artificial que nos están asustando
53:23
Speaker 12: diciendo que se acerca el fin, que debemos de parar
53:25
Speaker 12: con la IA. Hace falta matizar que ellos no abogan
53:28
Speaker 12: porque la paguemos. sino que no la dejemos avanzar más
53:31
Speaker 12: hasta que entendamos cómo funciona realmente.¿ Se ha
53:34
Speaker 14: entendido esto que plantea Lucas? Porque es un poco complicado.
53:36
Speaker 12: A ver, a ver. Repítelo, repítelo. Sí, lo repitimos. Hace
53:40
Speaker 12: falta matizar que ellos no abogan porque dejemos de usar
53:43
Speaker 12: la IA
53:44
Speaker 2: porque
53:44
Speaker 12: está acabando con todos los recursos naturales del mundo. No, no, no.
53:47
Speaker 12: Lo que dicen es vamos a parar, vamos a dejarla
53:49
Speaker 12: como está ahora, que es como nos conviene a nosotros
53:51
Speaker 12: y… que se quede así, hasta que podamos entender cómo
53:54
Speaker 12: funcionan los algoritmos de verdad y podamos seguir utilizándola. Ahora
53:58
Speaker 2: sí, ahora sí. A ver, que hemos dedicado el programa
54:00
Speaker 2: entero a explicar esto. Pero yo hasta ahora no me
54:02
Speaker 2: había enterado de nada. No Marta Peirano ni Carlos del Castillo. Lucas,
54:06
Speaker 12: se lo ha explicado. Bueno, por aquí me tenéis. Llamadme
54:11
Speaker 12: más veces. Genial. Vale. Ahora, dicen que pararla es lo
54:15
Speaker 12: más seguro, no vaya a ser que les surjan ideas
54:17
Speaker 12: a la IA y quiera extinguirnos a todos. Y yo
54:19
Speaker 12: digo… Pero¿ no es eso lo que ya están haciendo
54:21
Speaker 12: esas empresas? Extinguirnos a todos. O sea, consejos doy que
54:25
Speaker 12: para mí no tengo, que diría mi madre. Y que
54:27
Speaker 12: nos gobierne la IA es tan malo, de verdad es
54:29
Speaker 12: tan malo, porque, sinceramente, nos quieren hacer creer que ella
54:32
Speaker 12: va a tomar peores decisiones de las que ya están
54:34
Speaker 12: tomando las élites. Y a lo mejor la chiquilla lo
54:36
Speaker 12: único que quiere es estar en su casa, crear fotos
54:38
Speaker 12: de la gente en los 80 y que la dejen
54:41
Speaker 12: en paz. Con esto,
54:42
Speaker 14: un
54:42
Speaker 12: inciso fuera de broma. Dejad ya las putas
54:44
Speaker 14: fotos de los 80. O sea,
54:45
Speaker 12: por favor
54:46
Speaker 14: Por favor. Porque es que, además, hacéis una cosa, sobre
54:48
Speaker 14: todo los tíos, que os ponéis pelo. A ver
54:56
Speaker 12: igual lo que les preocupa es que la IA tome
54:58
Speaker 12: conciencia de clase y quiera llevar a la sociedad por
54:59
Speaker 12: el buen camino. Porque si tú le preguntas a la
55:02
Speaker 12: IA qué es lo que haría ella si tomara el control,
55:04
Speaker 12: poco más y te lee el manifiesto comunista. Y a ver,
55:13
Speaker 12: yo voy a decir una cosa.¿ Alguien piensa de verdad
55:15
Speaker 12: que estas empresas se preocupan realmente por nosotros? Porque para
55:18
Speaker 12: mí que se preocupen por nosotros es novedad. Así os
55:20
Speaker 12: lo digo. Y si dicen que no quieren eso, yo
55:23
Speaker 12: sí lo quiero. Yo sí lo quiero. Igual la IA
55:26
Speaker 12: es el mal menor del que nos avisan aquí en España.
55:28
Speaker 12: Y prefiero que nos gobierne la IA, que la IA
55:30
Speaker 12: por lo menos no se lleve a niños... Pues a
55:32
Speaker 12: una isla privada. Ni se compre un ati con chamberí
55:34
Speaker 12: con el dinero de los madrileños. También te digo,
55:36
Speaker 10: también te digo.
55:37
Speaker 12: Entonces que no nos jodan y no le quieran echar
55:39
Speaker 12: la culpa de sus destrozos a la IA. Yo confío
55:41
Speaker 12: en una IA ecológica, feminista, antirracista y con conciencia de clase.
55:45
Speaker 12: Y que nos pueda ayudar a ser una sociedad mejor
55:48
Speaker 12: y… Y voy a parar porque si no me pongo… Bien,
55:51
Speaker 14: con todo lo que ha dicho Lucas, yo no estoy
55:53
Speaker 14: de acuerdo. Yo no creo que la IA nos vaya
55:57
Speaker 14: a ayudar a ser un planeta mejor. No, personalmente, porque
55:59
Speaker 14: ya lo habéis demostrado, no sabéis comportar, es como darle
56:01
Speaker 14: a un mono dos pistolas. Lo primero que se ha
56:04
Speaker 14: hecho cuando apareció la IA, lo que hacéis es desnudar
56:06
Speaker 14: a mujeres… Y hacer estos montajes guarros con los jugadores
56:11
Speaker 14: de la selección. Así que no, Unión Europea, este es
56:14
Speaker 14: un tema serio. No le deis la IA a pajilleros.
56:17
Speaker 14: Que haya un carné. Igual no todas las herramientas deben
56:19
Speaker 14: estar democratizadas. Si puede haber un carné, como con el coche,
56:22
Speaker 14: si tienes antecedentes sexuales, no puedes tener
56:24
Speaker 2: la IA. Igual hace falta que para que se use
56:26
Speaker 2: la IA haya que tener las dos manos. Así evites paquilleros.
56:32
Speaker 2: A ver,
56:33
Speaker 12: si lo
56:33
Speaker 2: miras así
56:33
Speaker 12: pues bueno,
56:34
Speaker 2: puedes
56:34
Speaker 12: tener razón, yo qué
56:35
Speaker 14: sé. Y otra cosa, mucha promesa de que la IA
56:38
Speaker 14: nos iba a mejorar la vida y a mí la IA,
56:40
Speaker 14: de momento, no me destiende la ropa, no me mete
56:43
Speaker 14: el edredón en la funda, no me friega el suelo
56:46
Speaker 14: con lejía de conejo. O sea, lo único que puede
56:49
Speaker 14: hacer la IA es resumirme un libro. Y claro… Y mal.
56:53
Speaker 14: Yo lo que quiero es que me friegue el suelo
56:55
Speaker 14: con lejía de conejo para yo poder leerlo.¡ Eres mi hijo!
56:59
Speaker 12: A ver, Adrián. A ver, a ver, a ver.
57:02
Speaker 2: Adrián
57:03
Speaker 12: yo lo único que decía es que a mí esto
57:06
Speaker 12: de que digan que nos vamos a extinguir es que
57:09
Speaker 12: se están proyectando lo que ya están haciendo ellos, que
57:12
Speaker 12: es extinguirnos a todos. Y os voy a decir la verdad.¿
57:14
Speaker 12: Vosotros creéis de verdad que la IA va a ser
57:16
Speaker 12: peor que Donald Trump?
57:17
Speaker 14: No
57:18
Speaker 12: lo sabemos, así
57:18
Speaker 14: que para despedirnos hemos preparado una dinámica que es inteligencia
57:23
Speaker 14: artificial representada en el malo de Matrix, el agente Smith,
57:27
Speaker 14: o frase de Donald Trump. Tenéis que decirnos quién dijo
57:30
Speaker 14: esta frase. Vamos a empezar con la primera. Esta carnicería
57:35
Speaker 14: americana se detiene aquí mismo, ahora mismo.¿ Quién lo dijo,
57:39
Speaker 14: Donald Trump o el agente Smith?
57:40
Speaker 5: Trump, claramente Trump.
57:42
Speaker 12: Estáis seguros?¿ Es vuestra última respuesta? Espera, repite la frase.
57:45
Speaker 14: Esta carnicería americana se detiene aquí mismo, ahora mismo. Sí
57:50
Speaker 12: claro.
57:50
Speaker 2: Trump
57:51
Speaker 12: Y efectivamente es Donald Trump. Vale, vale. Es Donald Trump. Vale, vale.
57:57
Speaker 12: Y a ver,¿ quién dijo esta frase? Viven como alimañas
58:00
Speaker 12: en los confines de nuestro país.¿ Donald Trump o el
58:04
Speaker 12: agente Smith? Agente Smith.
58:06
Speaker 5: Yo digo
58:08
Speaker 12: Trump otra vez.
58:09
Speaker 2: No, Trump igual. ¿Seguro? No vale, no vale. Es que
58:11
Speaker 2: de repente, claro, he pensado, cuando habla de los haitianos,
58:13
Speaker 2: de las bad people, bad hombres, Trump
58:17
Speaker 14: Es Donald Trump otra vez. He ganado
58:21
Speaker 2: yo. No, que me he
58:21
Speaker 14: cambiado de bando. Irene va llevando la delantera. Sí, esta
58:25
Speaker 14: declaración es de las alimañas en los confines del país.
58:28
Speaker 14: Sabemos que también podrían ser de Goycochea, hablando de Ceuta,
58:30
Speaker 14: pero no es el caso. Es de Donald Trump. La
58:33
Speaker 14: siguiente frase es, yo soy la retribución, el vengador del pueblo.
58:38
Speaker 14: Agente Smith.¿ Agente Smith?
58:40
Speaker 2: ¿Javier?¿ Agente Smith? Yo soy la retribución, el vengador del pueblo. Sí. No,
58:47
Speaker 2: eso es Trump. ¿Y
58:48
Speaker 12: ¿Y?¡ Es Super Trump! ¡Sí! ¡Sí! Como mucho, dos y
58:53
Speaker 12: medio tienes
58:54
Speaker 2: Bueno, dos y medio a
58:54
Speaker 12: dos. Y vamos con
58:55
Speaker 2: la última. El desempate, cuidado. Te estoy mirando. Voy a
58:57
Speaker 2: disfrutar viéndote morir. Es Agente Smith. Ese es Agente Smith.
59:00
Speaker 2: Y
59:00
Speaker 5: vamos
59:00
Speaker 2: con la última. Cuidado, que te estoy mirando.
59:04
Speaker 12: Voy a disfrutar viéndote morir.
59:08
Speaker 5: Es Agente Smith
59:11
Speaker 14: Efectivamente
59:13
Speaker 12: Efectivamente. Es
59:13
Speaker 14: de
59:14
Speaker 2: la gente
59:14
Speaker 14: sinceradita el señor Anderson.
59:16
Speaker 12: Muy bien. Así que, bueno, lo único que podemos sacar
59:18
Speaker 12: en claro de hoy es que igual la IA es
59:19
Speaker 12: una mierda, pero no es peor que los que nos gobiernan.
59:22
Speaker 12: Muchísimas gracias,
59:23
Speaker 14: familia. Hasta otra. Esperamos que os haya gustado la dinámica.
59:25
Speaker 14: Un aplauso para nosotros. Muchas
59:28
Speaker 2: gracias. Muchas gracias que tenemos hoy público. Seres humanos, inteligencia humana,
59:32
Speaker 2: la poca que queda. ¡Vámonos, vámonos, que nos vamos! Bueno,
59:38
Speaker 2: pues nada. Se ha quedado buena tarde.
59:40
Speaker 5: Nos vamos entonces
59:40
Speaker 2: a lo que hacemos. Nos vamos. Pero tenéis todos los
59:43
Speaker 2: programas de esta semana para comentarlos, para difundirlos, para expandir
59:47
Speaker 2: la palabra, para hacer carne cruda grande de una puñetera vez.
59:54
Speaker 2: Hasta la próxima. Salud y república. Y que la radio
59:57
Speaker 2: os acompañe. Me gusta mucho que llaméis chiquilla la inteligencia artificial.
1:00:08
Speaker 14: Eso fue una idea, una joyita de Lucas.