Latest / El beneficio de la duda / Para dudar de la Inteligencia artificial

Transcript

Para dudar de la Inteligencia artificial · El beneficio de la duda

0:00
Este es un podcast de Ibero 90 .9. La inteligencia
0:11
es la capacidad de tomar decisiones y resolver
0:14
problemas. Y aquí nos preguntamos si es realmente
0:17
inteligente dejarnos deslumbrar por la inteligencia
0:20
artificial o sería más inteligente de nuestra
0:23
parte, construir una desobediencia ante una tecnología
0:26
que parece producir en nosotros una servidumbre
0:29
voluntaria. La filosofía tiene la capacidad de
0:32
pensar los fenómenos a partir de sus relaciones
0:35
y de sus contradicciones. Para pensar hoy filosóficamente
0:39
la inteligencia artificial. Tendríamos que situarla
0:42
material y políticamente, pensar sus implicaciones
0:45
en temas de género, en temas ecológicos, en temas
0:48
culturales, laborales, geopolíticos y muchos
0:52
otros, porque lo que queremos entender es el
0:54
tipo de humanidad que podría naturalizar o que
0:57
ya está naturalizando esta tecnología. Hoy invitamos
1:01
a este Beneficio a la Duda a Gabriela Mendez
1:03
Cota. Ella es investigadora del Departamento
1:05
de Filosofía de la Ibero, donde también colabora
1:08
con el doctorado en estudios críticos de género.
1:10
En 2023 publicó un artículo en la revista Este
1:13
País, titulado Filosofía y análisis crítico de
1:16
la inteligencia artificial, en el cual nos basaremos
1:19
para esta conversación. Muchas gracias por estar
1:21
aquí, Gabriela, en el Beneficio a la Duda. Gabriela,
1:24
la inteligencia artificial pone en jaque aquello
1:27
que entendemos por humanidad y aquello que entendemos
1:29
por naturaleza. Para comenzar esta conversación,
1:32
quisiera preguntarte si tú consideras que la
1:35
inteligencia artificial es realmente inteligente
1:38
y si es realmente artificial. Bueno, yo creo
1:41
que habría que preguntarnos primero de qué hablamos
1:44
cuando hablamos de inteligencia artificial. Hablamos
1:47
solamente de computadoras, de programas informáticos,
1:51
de desarrollos de software, o nos referimos a
1:54
algo mucho más específico, más reciente, como
1:57
el aprendizaje de máquinas basado en el entrenamiento
2:01
de redes neuronales, lo que hoy se conoce como
2:04
IA generativa. Yo creo que en un sentido más
2:08
amplio que este, siempre ha existido la inteligencia
2:11
artificial, incluso lo que entendemos por inteligencia
2:14
humana, por ejemplo, la de estrés. analítica,
2:17
la destreza matemática de un individuo, pues
2:19
es en realidad algo muy artificial, presupone
2:22
ciertos componentes como, por ejemplo, la alfabetización,
2:26
la escolarización, la cultura que entrena a ese
2:29
individuo para realizar y privilegiar esas operaciones
2:32
mentales, todo lo cual es sumamente artificial
2:35
y da lugar a inteligencias artificiales que van
2:38
más allá de lo individual, como son las profesiones,
2:41
la profesión filosófica, los oficios, etcétera.
2:43
Y esto también nos invita a preguntarnos cuál
2:46
es la novedad, cuál es la originalidad de lo
2:48
que hoy se asocia con inteligencia artificial,
2:51
esta a la que antes me referí, grandes modelos
2:53
de lenguaje como ChatGPT, DeepSec, Ahora, cualquier
2:57
cantidad de chatbots que hoy nos ofrece la industria
2:59
tecnológica. Al final, lo que distingue a estas
3:02
inteligencias artificiales no es más que su capacidad
3:06
computacional. Por medio de algoritmos, estos
3:09
modelos logran predecir y simular algunos aspectos
3:13
del discurso humano. Y tú preguntes si tales
3:16
operaciones computacionales, predictivas, imitativas,
3:20
pues son realmente una cuestión de inteligencia.
3:22
Pero, pues, de nuevo, estamos en una profesión
3:25
que todo lo complica y entonces habría que pensar
3:28
en qué concepciones de la inteligencia estamos
3:30
manejando y habría que indagar un poco en los
3:33
debates sobre si la inteligencia, por ejemplo,
3:35
es un atributo exclusivamente racional, si no
3:39
hay inteligencias afectivas también, si la inteligencia
3:42
es ante todo teórica. puede ser práctica si es
3:45
algo exclusivamente humano o si es de hecho separable
3:49
de algún contexto social e incluso ambiental.
3:52
Creo que lo interesante es poner de relieve lo
3:54
que está en juego en estos debates sobre el significado
3:57
de la inteligencia. Y yo creo que tú has dicho
4:00
muy claramente al principio, yo estoy de acuerdo
4:02
en que lo que está en juego es ante todo una
4:04
cuestión ética y política, ¿verdad? Quién está
4:07
definiendo la inteligencia y cómo y desde cuándo
4:10
y por qué y en beneficio de quién, ¿cierto? Como
4:14
dices, hay muchas cosas que necesitamos hablar
4:17
sobre Inteligencia Artificial y a veces es difícil
4:20
porque este fenómeno es más o menos reciente
4:22
y el pensamiento filosófico no es tan rápido,
4:25
no es inmediato. Pero hasta este punto, 2025,
4:28
quisiera que relacionemos las implicaciones de
4:31
la IA en relación, por ejemplo, con la ecología.
4:33
Creo que se habla poco de esto porque parece
4:35
que la Inteligencia Artificial es una cosa inmaterial,
4:38
pero no. Implica minería, implica una materialidad
4:41
tecnológica que debemos considerar que debemos
4:44
tomar en cuenta, como dices tú, ética y políticamente,
4:46
y pensar, por ejemplo, las relaciones entre la
4:48
IA y el cambio climático, entre la inteligencia
4:51
artificial y el extractivismo, etcétera. ¿Cómo
4:53
lo ves tú? La inteligencia artificial no es solamente
4:56
estas aplicaciones, estas apps y estos servicios
5:00
tecnológicos, sino que es todo un conjunto de
5:03
narrativa, imaginarios tecnológicos, cuyas consecuencias
5:06
materiales son extremas. El entrenamiento de
5:10
modelos de IA generativa requiere una cantidad
5:12
impresionante de electricidad y esto obviamente
5:15
conlleva un aumento de emisiones, así como de
5:19
presión sobre la red eléctrica. Pero además del
5:22
entrenamiento, de los modelos, está el uso que
5:24
le damos a esos modelos millones de personas
5:27
en nuestra vida cotidiana. Además de electricidad,
5:30
se necesita una gran cantidad de agua para refrigerar
5:33
los centros de datos que alojan el hardware de
5:36
la inteligencia artificial, cuya fabricación
5:39
y transporte, me refiero a ese hardware, pues
5:41
tiene ya de por sí un costo ambiental alto. Amazon
5:45
tiene más de un centenar de centros de datos
5:47
alrededor del mundo. Y bueno, la IA generativa...
5:50
que es básicamente más poder computacional, porque
5:54
esto no es nuevo, lo de los centros de datos.
5:56
Antes de las inteligencias artificiales que se
5:58
hicieron presentes en 2023, pues ya existían
6:01
estos centros de datos y la nube y Amazon, etc.
6:05
Pero bueno, estos modelos de lenguaje requieren
6:07
más poder computacional y por lo tanto más energía
6:10
eléctrica, más agua. Y la energía está extrayéndose
6:13
de combustibles fósiles que, como sabemos, están
6:16
causando el cambio climático, todo dentro de
6:19
un agio político. imperial, de capitalismo extractivista,
6:23
que afecta de forma totalmente desproporcionada
6:25
y de manera muy violenta a la gente más vulnerable
6:28
del planeta. Entonces desde este punto de vista
6:30
sí hay un problema, incluso una contradicción
6:33
enorme entre nuestro entusiasmo por la IA generativa,
6:37
por ejemplo en el ámbito de la educación, y nuestro
6:39
compromiso con la justicia social y ambiental.
6:43
Si quisiéramos ser consistentes, yo creo que
6:45
no solo nos abstendríamos de utilizar o de promover
6:48
la... de la inteligencia artificial generativa
6:51
entre nuestros estudiantes, sino que incluso
6:54
nos dedicaríamos a denunciar y a tratar de frenar
6:56
la colonización tecnológica de nuestros espacios
6:59
formativos. Tenemos aquí un problema ético, moral,
7:04
evidente, ¿no? Y, bueno, es muy importante decir
7:07
eso, que no todo es entusiasmo. La filosofía
7:09
lo complica todo. Pero también es que deberíamos
7:12
estar pensando esto, ¿no? Urgentemente porque,
7:15
como dice Benjamin, el freno de emergencia a
7:17
veces es importante. Y a veces la filosofía parece
7:20
agua a fiestas, pero es que esta fiesta es muy
7:23
preocupante y muy emocionante. Es contradictoria.
7:25
Quisiera relacionar a la inteligencia artificial
7:28
con el trabajo doméstico, con el tema de género.
7:30
Pensando, por ejemplo, en Siri y Alexa, que no
7:33
estoy segura que sea inteligencia artificial,
7:34
no sé qué es, pero, por ejemplo, esta tecnología,
7:37
¿no? ¿Qué tipo de relación se establece con estas
7:39
tecnologías? muchas veces tienen nombre y voz
7:42
femenina y que a mí eso siempre me ha parecido
7:44
problemático. Es una gran pregunta que se está
7:48
abordando en el ámbito de los estudios culturales
7:51
feministas, los estudios feministas de la ciencia
7:54
y la tecnología, que pues tienen un desarrollo
7:58
notable, sobre todo en países anglófonos. Y bueno,
8:02
los estudios culturales de la ciencia y la tecnología,
8:05
los feministas, han evidenciado la dimensión
8:07
de género. Primero de la ciencia moderna y del
8:10
desarrollo tecnológico en Occidente está documentado.
8:13
históricamente que predominan ahí valores asociados
8:17
a una masculinidad hegemónica y que esto incluye
8:21
una concepción puramente instrumental de la técnica,
8:24
la cual a su vez tiene unas asociaciones culturales
8:27
mucho más profundas con lo femenino, desde la
8:30
filosofía por cierto, comprendido lo femenino
8:33
como servicio, como cuidado, obediencia, sometimiento
8:37
a los designios, las órdenes de una inteligencia
8:41
humana superior. La forma en que en occidente
8:43
se concibe a la técnica en términos puramente
8:46
instrumentales y antropológicos, pues tiene una
8:49
configuración de género que los estudios feministas
8:51
de la ciencia y la tecnología pues han reconocido
8:54
y continúan detectando en las representaciones
8:57
culturales de diferentes desarrollos tecnológicos
9:00
contemporáneos y actuales. De ahí se desprendería
9:04
la feminización de las tecnologías viejas y nuevas
9:08
que más allá de ser asignadas con una identidad
9:10
femenina como Siri y Ale. pues también se promueven
9:14
como tecnologías diseñadas para complacer, para
9:16
cuidar, para hacer trabajo afectivo. El primer
9:19
chatbot que se diseñó en los años 60 en el MIT,
9:23
que se llamó ELISA, fue de hecho un chatbot terapéutico.
9:26
Casi por casualidad, pero no tanto, porque digamos
9:29
que el diseño del modelo sí estaba informado
9:32
por ciertos desarrollos en la psicología, que
9:35
una estudiosa llamada Jennifer Rhee, pues ha
9:38
asociado con un momento una coyuntura de... feminización
9:42
de la propia psicología, es decir, que estuvo
9:44
marcado el diseño del primer chatbot Elisa por
9:48
una llegada de las mujeres blancas a la psicología
9:51
bajo un paradigma psicoterapéutico más enfocado
9:55
en los afectos. Es algo interesante lo que ella
9:58
señala, pero bueno, hay muchísimo más que hablar,
10:01
nada más de la dimensión de género, de los desarrollos
10:05
tecnológicos, de sus representaciones culturales
10:08
y de lo que implica para nosotros cotidianos.
10:10
es relacionarnos con las tecnologías como con
10:15
trabajadoras domésticas o esclavas incluso. Sí,
10:20
porque sí hay esa fantasía, ¿no? De los supersónicos
10:23
hasta robotina mujer y te va a hacer el servicio
10:25
doméstico y luego sí hay una tendencia a hablarle
10:28
feo a la Alexa. Hay algo en eso que habla de
10:31
la historia de la humanidad y de nuestros vínculos
10:33
y luego también muy interesante esto que dices
10:35
de Elisa era como una inteligencia emocional
10:37
artificial. Ahí surgieron nuestras fantasías.
10:40
Por otro lado, quisiera hablar para trabajar
10:42
las contradicciones de la Inteligencia Artificial
10:45
porque también tiene un potencial creativo de
10:47
las industrias de Inteligencia Artificial. Hay
10:50
arte, por ejemplo. Hay otro tipo que generan
10:53
otro tipo de experiencias del tiempo. Es decir,
10:56
si podemos empezar a pensar en la Inteligencia
10:58
Artificial no sólo como una caja de herramientas,
11:01
sino como una forma de experimentar nuevas posibilidades.
11:04
Como en su momento el cine, por ejemplo, cambió
11:07
la forma de percibir el mundo, ahora la inteligencia
11:09
artificial podría cambiar la forma de percibir
11:11
el mundo y que esto genere potencial creativo
11:14
y artístico. ¿Qué nos puedes contar sobre este
11:16
lado de la inteligencia artificial y cómo esto
11:18
podría transformar nuestra experiencia del tiempo?
11:21
Hay, por supuesto, arte con inteligencia artificial.
11:25
Es todo un campo que no carece de antecedentes.
11:30
Por ejemplo, el arte digital, el arte en internet.
11:34
Y hay arte más y menos crítico. Hay diferentes
11:39
tipos de arte con inteligencia artificial. A
11:42
lo mejor podríamos pensar en tres categorías
11:45
de entrada. Un arte que a lo mejor denuncia la
11:49
inteligencia artificial como parte de una industria
11:53
tecnológica que nos amenaza. Un poco en la tónica
11:57
de lo que estábamos diciendo. Es un arte que
11:59
denuncia. Hay un arte que celebra, digamos, el
12:02
arte que financia Google y que normalmente es
12:05
hecho por artistas ingenieros y que de alguna
12:08
manera están intentando demostrar que las inteligencias
12:12
artificiales pueden crear obras semejantes a
12:16
las obras ya canonizadas dentro de la historia
12:18
del arte occidental. Pero aquello sería, digamos,
12:21
una especie de proeza que es ejecutada por un
12:24
artista ingeniero que tiene acceso a las últimas
12:27
tecnologías. Es un arte, digamos, estetizante.
12:29
celebratorio. Y luego, pues hay un arte a lo
12:32
mejor más asociado a las vanguardias artísticas
12:35
que en relación con tu cita de Walter Benjamin,
12:39
pues es quizá el que más nos interesa, el que
12:42
tiene más relevancia para tu pregunta. Y aquí
12:44
traigo un solo ejemplo porque lo he trabajado
12:47
recientemente. Es un artista de lenguaje, un
12:50
poeta que se llama Mark America, es norteamericano,
12:54
tiene décadas haciendo arte. en internet, pero
12:58
desde una óptica muy informada por la poesía
13:02
y la escritura experimental de la segunda mitad
13:04
del siglo XX. Y en los últimos años ha estado...
13:08
colaborando con GPT, o sea, con las versiones
13:12
más tempranas de GPT, no con las que tenemos
13:14
ahora. Es decir, empezó a hacer esto yo creo
13:17
que en 2019 o por ahí. Y entonces es un artista
13:21
académico que tiene un proyecto llamado Error
13:24
Fatal, un proyecto en equipo en un laboratorio
13:27
de su universidad y que consiste en crear un
13:30
chatbot con todo su propio archivo de arte y
13:34
su biblioteca, etcétera. Y entonces para narrar.
13:37
el proceso pues colabora con ChatGPT 2 para escribir
13:42
un libro llamado Mi vida como una inteligencia
13:44
artificial creativa. Es un libro performance
13:47
y junto con ChatGPT pues va haciendo un argumento
13:52
contra el discurso de la creatividad computacional
13:55
que pretende prescindir del artista. Y entonces,
13:59
pues básicamente pone de manera experimental
14:02
su conversación con GPT en contacto con lo que
14:05
él llama su inconsciente creativo, pues no solo
14:08
hace un argumento crítico en favor de la experimentación
14:12
artística, a diferencia de la estetización de
14:16
estas tecnologías, sino que nos hace pensar mucho
14:20
ese trabajo sobre la cualidad de nuestra atención
14:25
y de nuestra implicación en la interacción con
14:28
estas nuevas tecnologías, cuando lo que pretendemos
14:31
no es meramente sacar una tarea en cinco minutos
14:34
o escribir un artículo en cinco minutos, sino
14:37
realmente pensar de qué manera estamos también
14:40
nosotros cambiando cuando empezamos a concebir
14:44
nuestra escritura como algo que se hace en colaboración,
14:47
que no nos pertenece como seres humanos, sino
14:50
que más bien dependemos de estas... tecnologías
14:53
para poder generar algo interesante. También
14:56
hay muchas exploraciones de co -creación con
14:59
la inteligencia artificial que están más orientadas
15:02
a esfuerzos de colectivización en relación con
15:06
problemáticas ecológicas, etcétera, que valdría
15:09
la pena revisar. Este es el lado laía que es
15:11
como todo más rápido, reducir tu tiempo. Ya no
15:14
te vas a tener que tardar en escribir un libro.
15:16
¿Cuál es el problema con tardarnos? Pero hay
15:19
otra parte que nos abre a un otro. Aunque no
15:22
sea humano, nos abre un otro que nos desapropie
15:24
a la escritura. Ahí sí ya se vuelve súper valioso
15:27
filosóficamente. Vamos a seguir pensando en esto
15:29
y a seguir conversando de esto. Gabriela, te
15:32
agradezco mucho esta conversación. Muchas gracias
15:34
por escuchar este podcast. Una producción de
15:36
Ibero 90 .9 y el Departamento de Filosofía. Este
15:40
episodio fue producido por Daniel Maldonado y
15:42
posproducido por Fernando Pérez García. Esto
15:44
es el beneficio de la duda. Mi nombre es Sandra
15:47
Loyola.