Latest / Inferencia / #01 - Inteligencia Artificial: ¿consciencia o contexto? con Andrés Campero

Transcript

#01 - Inteligencia Artificial: ¿consciencia o contexto? con Andrés Campero · Inferencia

0:00
José Luis: Hola, bienvenidos a Inferencia. Soy José Luis Sabau, de perpetuo, y me acompaña, como siempre, mi querido amigo y coanfitrión, José Antonio Murillo, de PrimeroAI. José Antonio. ¿Cómo estás? Está cañón.
0:10
No, estoy muy emocionado. Para esta conversión, vamos a hablar con Andrés Campero, que es una de las personas que probablemente más sabe de IA en español. Es una persona que desde muy joven representó a México en Olimpíadas Internacionales cuando aún estaba en la prepa, y además de eso, tiene un doctorado en inteligencia artificial por.
0:27
José Antonio: Sí. Total, ¿no? Y Andrés es, además, una persona que yo diría, la verdadera definición de polímata. O sea, Andrés es alguien que, si no mal recuerdo, estudió economía en el ITAM. De ahí decidió irse a estudiar el doctorado en economía, decidió después cambiarse a estudiar inteligencia artificial, fundó una empresa, se fue a trabajar a Monashis, donde hoy es, hace hace inversiones, dedicó 2 años de su vida a ser jugador de póquer profesional
0:53
José Luis: Eso es esencial, O sea, y creo y creo que la gente no entiende lo increíble que es hablar con Andrés de póquer, y cómo, a diferencia de muchos jugadores profesionales de póquer, no te hace sentir horrible cuando juegas póquer con él.
1:04
José Antonio: Sí, la verdad es muy generoso. Sí, sí, sí, sí, en general sí. Pero dime, dime. Me gustaría hablar con la frontera de IAI,
1:12
José Luis: José Antonio, sobre todo lo que quiero hablar el día de hoy es conciencia Sí, muy bien, es el proceso. No, digo, porque para ser
1:18
José Antonio: muy específicos, Andrés hizo su doctorado en inteligencia artificial y ciencias cognitivas en en MIT, y diría que es una de las personas en toda América Latina que ha estudiado más detalle la pregunta que vamos a resolver hoy, que es, ¿puede la inteligencia artificial ser consciente? Y seguramente conforme respondamos esa pregunta, van a haber muchas más preguntas que Claro, claro.
1:41
José Luis: No, y bueno, si logramos contestar el día de hoy si la inteligencia artificial está consciente, haremos un gran favor a la humanidad, desde la época de Frankenstein, hemos querido hacer esto. Claro, o sea, yo yo creo que esa
1:50
José Antonio: es de las preguntas más grandes que nos hemos hecho en mucho tiempo, y de las preguntas, y y 2, si si tenemos esta pregunta al frente hoy, y y vamos a hablar de esto ahora, porque todos los avances que han habido de inteligencia artificial van poniendo la pregunta de, ¿con quién estamos hablando? ¿Estamos hablando con una máquina o estamos hablando con un ser inteligente? Y y esa pregunta es una pregunta enorme. Claro. Porque si la la respuesta fuera que sí, que estamos hablando con un ser inteligente, entonces nos tenemos que preguntar cosas como, 1, parte ética.
2:22
¿Estamos compartiendo el mundo con alguien que es un que que es un ser inteligente? ¿Qué derechos tienen? ¿Debería, por ejemplo, una inteligencia artificial tener derecho a la propiedad? Sí. Y además mucho más de ello.
2:32
Si pudiéramos pensar que los humanos podemos convertir un sistema de cómputo metal en conciencia y en existencia, entonces tal vez nos llega la pregunta que nos hemos preguntado desde que los humanos existen, que es, ¿qué es ser humano y qué
2:49
José Luis: es existir? Y puede haber cosas más pragmáticas, José Antonio. Ok. Si realmente es el caso que la inteligencia artificial es consciente o está camino a ser consciente, ¿cómo deberíamos hablarle a ChatGPT hoy día? Deberíamos pedirle por favor y gracias
3:01
José Antonio: Sí, yo siempre frustro, yo sí le digo, ChatGPT ponto.
3:04
José Luis: Yo yo justo antes de eso estaba hablando con Clove y le escribí la oración, creo que no dormiste bien anoche. ¿Cuál es? Una ironía enorme, y tiene que ver con eso. Si nosotros como Richard Douggins ya han estado debatiendo sobre si la IA es consciente o no, y creo que esto va ser un cambio fundamental sobre cómo pensamos en interacciones con computadoras y cómo quizá pensamos en las interacciones entre nosotros mismos.
3:23
José Antonio: Oye, y tal vez no lo es, para ser claros, porque porque probablemente esta vez solo estamos hablando de una computadora a la que algunos locos le han querido decir que es inteligencia o que es un es es un ser existente. Sí. Y ahí también es parte donde está el el debate, sin duda.
3:39
José Luis: Me parece que ya está entrando Andrés a la llamada y es la persona a la que le íbamos a preguntar
3:43
José Antonio: Está bien, muy bien, vamos
3:44
José Luis: con Andrés. Andrés, ¿qué tal? ¿Cómo estás? Qué gusto tenerte aquí, Andrés.
3:49
Andrés Campero: No, hombre, un gusto y un honor estar con ustedes.
3:52
José Antonio: Qué honor.
3:53
José Luis: El honor es nuestro. Andrés, ahora que vamos a debatir un poco sobre la conciencia de la guía, tenemos una pregunta esencial. Si tuvieras que hacer el timeline, el tiempo que crees que va a tomar, ¿cuándo cuánto crees que falta para que la IA sea mejor que tú en póquer?
4:09
Andrés Campero: No, la la las mejores IAs ya son mejores que yo en póquer, güey. Desde 2017, en Facebook sacaron un bot que le ganaba a los mejores jugadores de póquer. Otra pregunta es de ahí a que se vuelva, se vuelva brother y la gente lo esté usando y así, que ya empiece a ser un problema, pero los mejores ya es, este, ya son mejores. Ahora, otra pregunta es que Cloud o ChatGPT sean mejores, eso sí está menos porque no lo entrenan para eso, pero
4:31
José Luis: Claro, ¿qué qué qué pasó en
4:32
José Antonio: el 17? ¿Cómo, o sea, qué qué fue lo que sacó Facebook?
4:36
Andrés Campero: Pues 1 1 1 simplemente que un equipo, por cierto, lo lideraba Noam Brown, que es un researcher de OpenAI bastante fuerte que he jugado póquer un 1 par de veces con él, Este, se se enfocó en entrenar a un modelo, digo, el clásico del momento, o sea, redes neuronales grandes al estado que estuviera en 2017 y 2018, a entrenarlo en jugar Pocker con 1.1, ahí, algoritmo que se llama CR M creo, counterfacture red minimization, creo, y y pues ya, entrenándolo con red neuronal combinado con eso, ya, por eso, por eso mejoró. Simplemente es el hecho de que dijeron, hay que entrenar un modelo en eso y y se pusieron a intentarlo, ¿sabes?
5:12
José Antonio: Podría preguntar mucho de eso, pero
5:13
José Luis: Sí, definitivamente, y, o sea, tengo tantas intrigas, pero creo que mejor vamos al al medio del asunto, ¿no, José Antonio?
5:19
José Antonio: Sí, sí, sí. No, Andrés, hoy hoy tenemos mucha emoción de hablar contigo sobre si la inteligencia artificial algún día puede ser consciente, y qué significa eso, cómo eso impacta nuestra propia definición de qué es la conciencia hacia los humanos. Y, evidentemente, con tu tu perfil, tu background en ciencias cognitivas y y ciencias de la computación, es es algo que que has pasado mucho tiempo pensando tú. Y fíjate, tal vez para arrancar esta esta conversación, una 1º pregunta que me gustaría hacerte va en, ¿qué es lo que Antropic ha estado investigando este último año? Y y tal vez para dar un poco de contexto a la audiencia de esto, yo yo creo que la pregunta de qué es conciencia y si algo, si podemos crear conciencia, es una pregunta que ha existido desde hace mucho tiempo en la humanidad.
6:09
Sí. Pero yo creo que este último año se ha vuelto especialmente importante, porque los modelos de AI han avanzado de manera muy rápida, y ya ahorita nos contarás a detalle, pero Antropic publicó 2 investigaciones este año, donde explican cómo la inteligencia artificial, sus modelos de LLMs van mostrando indicios tempranos que reflejan consciencia. 1 de ellos se hizo especialmente viral, que que fue el que que que que mostraba una investigación donde ponían a una IA a ver los correos electrónicos de un ejecutivo, y el y como, y el ejecutivo mencionaba en un correo que se había dado cuenta que la IA tenía acceso a una relación amorosa que tenía fuera de su matrimonio, y y que, un poco, al estar expuesto a eso, el el ejecutivo decía, voy a pagar la IA. Entonces, la IA se asustaba y decía como,, prefiero yo que, prefiero yo chantajear a esta persona a yo morir. Y entonces la IA va y amenaza a la persona, lo chantajea para que no apaguen la inteligencia artificial., bueno, todo eso se volvió muy mediático, se volvió una noticia amarillista, la IA va a destruir el mundo, pero creo que más allá de eso, había un trasfondo muy interesante, que era la investigación que estaba haciendo Antropic, y de cómo eso podía reflejar que la inteligencia artificial sintiera una emoción, y si eso reflejaba que fuera consciente.
7:28
Andrés, por eso estoy describiendo esto mal, tú lo entiendes mucho mejor que yo, pero sería genial que nos cuentes un poco de qué es lo que está investigando Antropic y por qué es por qué es interesante.
7:38
Andrés Campero: Sí, mira, tocaste demasiado temas, desde qué es la conciencia hasta el research de Antropic, nada más. Y y siéntase feliz de interrumpirme y todo porque tengo un buen de cosas que decir, pero así no hagas como contexto. Claro. O sea, cuando hablas de la, de la conciencia, normalmente estás pensando en conciencia fenomenológica, que es, se siente ser algo. Entonces, en el 74, un filósofo, filósofo, Tomás Nageldi, ahí escribió un paper donde decía, ¿qué se siente ser un 1, este, un 1?
8:02
Ajá, este, YYYYY esa es la pregunta, ¿no? O sea, cuando hay un sistema físico, una mesa, un laptop, un modelo de IA, un cerebro humano, ¿se siente ser algo, hacer ese sistema? Estereotípicamente, la la las 2 ejemplos más claros de conciencia, en el caso de los humanos, son la visual, o sea, cuando yo observo, eso como que se siente, ¿no? O sea, el rojo tiene un rednés Sí. De de ese rojo, y la otra es el dolor y el placer, ¿no?
8:29
Que son como muy estereotípicamente. Cuando me cuando me pellizcan, no nada más muevo el brazo y digo, quítalo, sino que se siente algo que me que me pellizquen o que me peguen. Entonces, esa es la pregunta que estamos, ¿qué hace en este universo? Que, por cierto, se me hace una de las, probablemente, 2 preguntas más puzzle link que hay en el universo, porque todo lo demás, como cómo surgió la vida, cómo funciona la inteligencia, como que tenemos, este, faltan muchos detalles y y hasta no detalles, pero tenemos como que el picture y, en cambio, ¿qué hace que un sistema sienta? Como que no sabemos.
9:00
Aunque, como bien dice José, ha venido habiendo atracción, por cierto, empezando con tu pregunta de cuándo va a haber un IA que me gane en póquer. En el 95 hubo una apuesta entre David Chalmers, que es el filósofo más importante de de la conciencia, y y, este, Christopher Cock, que es un neurocientífico que también ha hecho preguntas de la conciencia. Por cierto, los que hicieron que se volviera válido en la ciencia volver a preguntar sobre la conciencia después de que en todo el siglo 20 nadie hablaba de eso, fueron Christopher Cock YYY su mentor, que es Francis Creek, que fue 1 de los descubridores del DNA y que en los últimos años de su vida se enfocó en esa pregunta. Pero, este, apostaron en el 95 que si en 20 años ya íbamos a saber como humanidad la respuesta la conciencia, obviamente la respuesta fue no y perdió la apuesta y ya la pagó de todo. Creo que el que perdió fue David Charmers, pero anyway.
9:45
A partir de sus investigaciones y otras cosas, este, en neurociencia, la gente ha investigado algo que se llama neural quoragates of conshiusness, ¿qué pasa en tu cerebro cuando eres consciente versus cuando no eres? Entonces, me estoy desviando un poquitito, pero nada más. Sí, y a mí me enseñan una imagen muy... Si a mí me enseñan una imagen en ciertos paradigmas, por ejemplo, me la enseñan muy rápido y me dicen, ¿qué viste? Yo conscientemente digo, no, no vi nada, ¿no?
10:10
O lo pueden hacer, por ejemplo, me pueden enseñar el número 1, el 2, el 3 y entre el 3 y el 4 me enseñan una imagen de una casa, y si lo hacen bien, yo, conscientemente, te digo, no vi nada sobre una casa y, sin embargo, pueden detectar en mi cerebro que, hasta cierto nivel, sí se procesa y entonces pueden comparar qué pasa en el cerebro cuando veo la casa versus cuando no la veo conscientemente, aunque en ambos casos el cerebro sí la viva, hasta cierto nivel. Sí. Y entonces puedes estudiar, ok, en en el nivel cerebral, ¿qué pasa? Obviamente, no tenemos las técnicas de resolución ni temporal ni espacial para entender bien algorítmicamente qué pasa. Pero bueno, entonces, ha habido atracción, pero ciertamente en los últimos nada más como 2 años se volvió mucho más tractable de hacer avances en de en en los modelos de IA, ¿no?
10:56
Entonces, una de las preguntas, si eres materialista, sea, a ver, en en filosofía, podrías decir, güey, pues eres materialista, o sea, ¿crees que lo que hace que el humano sea consciente pasa en el cerebro? O podrías creer, no, tiene que ver con un alma, algo inmaterial o algo más. Si eres materialista, entonces lo más, lo lo lo que pasa más probablemente, y la mayoría de los científicos creen esto es, el cerebro procesa información de cierta manera, es decir, es una cuestión algorítmica computacional, el el el término, digamos, técnico es computational functionalistment, que es es cómo se acomoda el algoritmo y la representación de cosas y el procesamiento de información el que da lugar a la conciencia. Y si es, y si eso está bien, pues entonces, ¿por qué un IA no podía tener esos algoritmos o esa funcionalidad y replicarla y ser consciente, no? Lo cual implica sentir dolor, sentir amor, sentir tristeza, y y tener una experiencia visual y todo.
11:47
Aparte del problema metodológico es que los modelos, si tú les preguntas, pues te pueden decir cualquier cosa, pero eso no significa que sí o que no la sientan, ¿no? Claro. Okay. Entonces, dentro de Antropic, un equipo que, por cierto, viene de background de neurociencias, hace una cosa que se llama interpretability, mechanistic interpretability, que lo que tratan de entender es, dentro de los 1000000, billones y ahora trillones de parámetros en una red neuronal, dónde, o sea, qué qué es lo que sucede en en esos parámetros, qué se guarda, ¿Está pensando en cosas o no está pensando en cosas? Y en los últimos 2 años hubo una serie de papers y proyectos, o o probablemente más de 2 años, pero digamos, en en los últimos 2 años se volvió más hot, donde empezaron a encontrar, oye, como que en estos en esta parte está representado el Golden Gate Bridge, ¿no?
12:31
Fue fue algo famoso, o sea, el el el puente en San Francisco, y y si y si tú analizas y eso está prendido, el modelo está hablando del Golden Gate Bridge. Si tú causalmente lo lo disparas, estás hablando del Golden Gate Bridge.
12:43
José Antonio: Andrés Y ahí sí entender eso y hacerte una pregunta de eso, o sea, hoy como yo entiendo los modelos del LMS son muchas cajas negras, es difícil entender los 1000000 de parámetros matrices que están dentro de ello, y y lo que estás diciendo es, pero sí pueden identificar dónde, por ejemplo, están pensando de cierta cosa específica, como el el Golden Gate, y prender a pagar esa parte.
13:04
José Luis: Y también conceptos más abstractos, ¿no? Eso es lo que me ha parecido interesante otras cosas, como pueden hablar de cosas como justicia o de igualdad o cualquier otra cosa y sigue activándose distintas partes de la red neuronal.
13:15
Andrés Campero: Sí, sí, o sea, justamente, no, es muy difícil entender lo que está pasando en la red neuronal y hay todo un field que es relativamente chico comparado con el field de entrenar a los modelos, que es, oye, tratemos de entender qué sí pasa, y entonces hay varias técnicas que se han desarrollado, que todas funcionan más o menos. Igual que, por cierto, es muy difícil en el cerebro humano entender, oye, estas neuronas que disparan, ¿qué están haciendo? O cuando yo pienso en una ballena, donde en mi cerebro está representado eso, pero hay algo de progreso, en ella hay hay más progreso, porque, pues, puedes intervenir, pararlo, encenderlo, descomponerlo, quitarlo y y otras técnicas. Entonces, sí, José, justamente es, interpretability es la la la las técnicas que ahorita se desarrollan justamente con la intención de que deje de ser una casa una caja negra y entender qué pasa, y ha habido algo de progreso, que son justo estos papers, YYY, como dices, sí sí, este, sí sí, todo todo tipo de conceptos se los encuentras y se representan ahí. Entonces, tanto muy concretos como el puente, como más abstractos, y luego, inclusive, más como circuitos.
14:20
Es decir, por ejemplo, cuando tú le preguntas a un modelo, ¿cuál es la capital de México? Notas cómo representa el país México, representa el concepto capital y luego los une en una capa superior y entonces acaba con la conclusión Ciudad de México, y que justo si le cambias una parte, entonces, en vez de México puede ir ya a la mitad del proceso, se lo cambias por Colombia y entonces acaba con la conclusión Bogotá.
14:41
José Luis: A mí lo que más me pega de todo esto, Andrés, es que no le, no suena tan distinto a como pensamos nosotros, ¿no? Y sobre todo 1 de los papers de Antropic, ¿no? Habla de cómo eso que tú describías al principio, Andrés, que hay como una parte de la conciencia que tenemos presente y otra que tenemos más latente, parece ser que las IAs hacen exactamente lo mismo, ¿no? Y viendo todas esas cosas, en cada vez encuentro más difícil creer que que las IAs no son como los humanos, o a lo mejor solo tenemos un especismo, un superiorismo de los humanos que nos hace pensar que nuestra pobre computadora no tiene las mismas facultades que nosotros?
15:12
Andrés Campero: Sin duda, tenemos un especismo y un vayas a creer, güey. Obviamente, esta laptop no va a tener, este, fenomenología, no va a sentir nada, y y, al mismo tiempo, ciertamente, sí hay paralelismos. Ahora, obviamente, también hay diferencias, o sea, un niño que tiene que sobrevivir, tiene que comer, está mucho más embodyd en un cuerpo físico, mientras que un modelo, el tipo de inputs y de autos que tienes mucho más narrow. Entonces, aún si sí tienes cierto nivel de conciencia, probablemente sea distinto al que tiene un humano, ¿no? Y entonces eso ya nos trae a la pregunta inicial, que que, perdón por esta introducción tan larga, pero, este, AAA los 2 papers que a mí me emocionan mucho, y más con el caso de la conciencia, que salieron en el último año.
15:50
1 es, 1 que, y voy a hablar 1º de eso porque salió 1º, es el de emociones. Entonces, no solo el modelo, o puede hablar de del del puente y de la justicia, pero también entiende conceptos como felicidad y frustración, y no solo los entiende conceptualmente, sino que si tú modulas esos esas activaciones, déjame decirle, esos lectores, si tú los prendes, el modelo actúa más feliz o actúa más frustrado. Entonces, por ejemplo, con el punto de José, si activas la frustración, o sea, no es solo un entendimiento conceptual, sino que también tiene un rol funcional y el modelo empieza a actuar más desesperado y querer terminar la conversación y decirte, ya terminé, aunque no. En cambio, si al revés le activas el vector de calma o de felicidad, es mucho más paciente, te trata de responder, lo cual llevó al mismo al mismo equipo que hizo los 2 papers, igual que el del Golden Gate, a decir, estas emociones no solo son conceptuales, sino que son funcionales, o sea, de alguna forma, es es está justificado decir que el modelo está feliz o está desesperado, porque está cambiando su behavior Claro. Y y hace más cosas como las que describía José, que se llama reward hacking, como hacer cosas que el investigador no quiere, pero pero para obtener el resultado como black meilearte o acusarte o amenazarte, hace más eso o menos eso, dependiendo de si estás prendiéndole el vector de estate feliz, estate calmado, o el vector de estate frustrada.
17:10
Entonces, fue un 1º paper que dice, oye, como que estos modelos sí tienen emociones.
17:14
José Luis: Déjame te
17:15
José Antonio: Y luego un 1 poco de eso, Andrés, es, o sea Claro. Déjame resumir. Como, la parte que investigan, que que investigan Tropic es, oye, estos modelos pueden expresar y modular emociones, y y eso lo que significa es, yo te voy a responder de una manera distinta si estoy triste a cómo te respondo si estoy enojado o contento. Y ellos lo que ven es que estas emociones son vectores que pueden subir, bajar, y ver un cambio en la respuesta. Y esto de lo que te entiendo tiene 2 partes muy importantes.
17:51
La 1º es que esto es funcional, o sea, esto ya no es teórico, es, puedes modular un sentimiento que tiene la inteligencia artificial y ver cómo esa emoción impacta como como trabaja, y eso es lo que tú estás llamando función función, que es función funcional. Pero la 2º parte, y digo que que va al tema de qué es la conciencia, es que, como decíamos hace rato, una cosa es es, si definimos la conciencia como yo puedo imaginar lo que es sentir ser un murciélago, yo siento que es ser un humano, pues entonces esas, eso refleja esas emociones, y por eso el reflejar emociones es tan importante para la definición de conciencia. Quería saber si esa descripción es correcta, como lo estoy poniendo.
18:31
Andrés Campero: Sí, sí, muy bien, y justo vale la pena recalcar como 2 cosas en dirección opuesta. Una es, el hecho de que encuentren que hay un vector de felicidad que tiene consecuencias funcionales y que, por ende, cuando el modelo está feliz, actúa como si estuviera más feliz, no significa que el modelo sienta felicidad. No sabemos si se siente ser algo, ser ese modelo que le estás activando felicidad o desesperación, justo porque hay un fuzzle que, como humanidad, no sabemos las respuestas. Hay una pregunta que decimos, güey, ¿qué es lo que hace que se sientan? No sabemos.
19:00
Pero pero esa es una cosa, entonces hay que, vale la pena aclarar. Y justo Antropic, este, Antropic tiene cuidado de decir, no estamos claiming que el modelo siente enojo o felicidad porque no sabemos. Sí. Por un lado, pero por otro, al mismo tiempo estaba diciendo al inicio de la conversación como, probablemente, la hipótesis más buena, la que más gente cree, la que a mí me parece más razonable, es que son aspectos funcionales los que en el cerebro humano acaban haciendo, que como como se procesa la información de cierta forma y hay ciertas características que no sabemos cuáles son, que pero que podrían ser, por ejemplo, tienes una representación de de ti mismo, tienes una representación sobre la representación, y entonces que cuando hay esas propiedades funcionales algorítmicas, de hecho, se siente cómo, se siente el enojo y la tristeza. Entonces, si esa respuesta es correcta, es decir, si resulta que la explicación de por qué sentimos algo es funcional, pues entonces, oye, el hecho de que los modelos tengan los vectores funcionales, pues a lo mejor no está tan lejos de que de hecho sí sientan algo.
20:03
Obviamente, nuevamente, no es, no va a ser igual de rica que mi experiencia ahorita, porque porque tienen menos sensores, tienen, no no tienen una vida donde tienen una biografía narrativa, este, cada vez que empiezas, empiezas desde 0. O hay muchas características que han, que aún si sienten, no sientan igual, pero pero sí.
20:21
José Antonio: Pregunta rapísima, ya te Me perdí un poco en la 2º parte, pero de la 1º parte, que es como, lo lo que Andrés está diciendo que me parece muy interesante es, oye, a ver, una cosa es que funcionalmente esté mostrando miedo, y entonces que responda de manera distinta como miedo. Otra cosa es acertar que el modelo siente miedo, y y ese sentir es lo que no sabemos, ni siquiera podemos definirlo para los humanos qué es qué es sentir. Pero pero Andrés, como, yo cuando pensé en eso, como pensé, pues, la verdad, este paper no me pareció tan interesante, como que pensé, pues bueno, como que, o sea, como para mí me parece muy obvio, oye, le doy 1000000 de textos a la inteligencia artificial. Va a leer las novelas de de Shakespee y las novelas que se han escrito en toda la historia, y va a ver 1000000 de ejemplos de cuando un humano sentía miedo, y,
21:08
José Luis: pues sí, va a entender que cuando
21:10
José Antonio: se siente miedo, entonces, como chantajea. Y, entonces, como que
21:13
José Luis: yo lo siento, pues, bueno, realmente es como un loro que está, es
21:16
José Antonio: un perico que está como repitiendo lo que vio en ese 1000000 de textos. Y, entonces, como que no, como si no podemos, entonces, hacer una 1 conexión entre, es un perico que está repitiendo lo que sintió a decir que realmente sintió miedo, pues como que no no entiendo realmente por qué es especial este paper.
21:32
José Luis: No sé, a mí lo que, solo solo vuelve a este especismo que tenemos, ¿no? O sea, siento que cuál es la enorme diferencia con nosotros, y es lo que batallo mucho por entender. Tiene 1000000 de ejemplos de la historia de la humanidad que le hacen concluir que cuando tienes miedo tienes que chantajear a alguien. Qué triste que es la conclusión, o sea, que llegaste a la humanidad. Pero pero 2º, como no sé, ¿cuál es la diferencia entre nosotros, que tenemos 1000000 de segundos de entrenamiento que nos llevan a tener estas mismas conclusiones?
21:54
Aunque eso, aunque hay
21:55
José Antonio: una parte que eso es natural, ¿no? O sea, a ver, hay muchas que aprendes a tener miedo, pero sin duda hay una parte natural de sentir miedo, eso está en mi en en mi ser.
22:03
José Luis: Por eso, ¿no? Y también puede estar en el ser del del LM, o sea, el ser del LM tiene otra parte, perdón, Andrés, nos estamos metiendo así en en el debate esencial, pero pero pero ¿por qué esto? O sea, si podemos
22:14
Andrés Campero: Sí, no, y es que están tocando en un debate que es bastante profundo y que históricamente, digamos, surgió esto del, no no sé si usaste la la palabra de casualidad o si estás consciente de que existe este debate y este tepper del stocástico parot, donde hace 6 años salió un paper muy famoso que decía, güey, las redes neuronales no son más que stocástico parots, que lo único que hacen es asociación de palabras y se memorizan eso y y entonces escupen lo que sigue. Y, un poco a lo que dice José Luis, este, la cosa es que, a lo mejor, los humanos también hacen eso. Finalmente, asociaciones, asociaciones, asociaciones YYYY yo yo no sé de dónde viene la siguiente palabra que voy decir, nada más me me sale en mi cerebro y la digo, y hay 1 1 poco de stocastic paroledness en lo que yo estoy haciendo. Ahora, también tengo una mental imaginary, ¿no? O sea, que ya se acerca a la conciencia.
23:00
O sea, yo cuando estoy hablando como que tengo una concepción del mundo, tengo conceptos. Entonces, debate de si solo son stocastic parts o son mentes que tienen, por ejemplo, teoría de la mente, donde representan, soy un ente que está interlocutando con alguien, ese alguien tiene estos estas creencias y la... Bueno, en ese contexto empezó este debate y un poco como lo que lo que se entiende ahorita, y ahorita lo conecto con la conciencia, pero es, güey, es que justo para ser un buen stokastick barout, lo que necesitas es recrear una mente para poder de, o sea, justo si ya predices lo que quiere decir tener miedo y sabes lo que eso significa y todo, pues la mejor manera de modelar eso es es actuar como si tuvieras miedo y entonces puedes predecir lo que pasa YYYYY justo telle, pues eso justamente resulta en que sí se sienta miedo y, a lo mejor, eso es lo que hace el cerebro humano. Es como saber cómo actuar en una situación de miedo, pues implica reaccionar con ciertas formas que que vienen de sentir miedo,
23:57
José Luis: ¿no? Si me permiten, me gustaría quizá ir a otro lado. Hemos hablado ya mucho de las similitudes que tenemos con los LLMs y nuestro cerebro, hemos hablado de las ambigüedades, estos puntos medios. Andrés, quisiera ir a lo que sabemos que no es cierto, o sea, ¿cuáles son los puntos donde podemos decir, una LLM no es como un cerebro humano?
24:16
Andrés Campero: Ajá. Hay hay hay hay varias cosas y, por cierto, no he no he llegado al último paper de Antropic, que es con el que empezó José, pero pero a lo mejor ahorita, digamos, pero está está muy interesante esto y más interesante quizá. Este, por ejemplo, aquí hay una diferencia entre un LLM y nosotros. Si yo ahorita les digo, vamos a jugar un juego, estamos en el mismo 4º y les digo, este, pensé en un objeto y entonces vamos a jugar el juego de las de las creo que 21 preguntas. Entonces ustedes me dicen, ok, ¿es rojo sí o no?
24:44
O ¿de qué color es? Y yo digo, rojo.
24:45
José Antonio: Yo también
24:46
Andrés Campero: Entonces, ustedes ya van con la siguiente pregunta. Y va,
24:48
José Luis: YYY
24:49
Andrés Campero: lo tienen que adivinar. No no escuché su broma, pero como como como lo hago yo, es que yo, de hecho, pienso en un objeto y después, con sus preguntas, voy now in down, ¿no? Voy a voy diciéndole, sí, eso no es, sí, eso no es, sí, eso no es. El LLM no piensa en un objeto. De hecho, si ustedes lo piensan, en cada mensaje, el el el el modelo vuelve a arrancar desde 0, lee la conversación y continúa con lo siguiente., lo que hace, bien, es que, al mismo tiempo, contempla todas las posibilidades y y cuando ve la la siguiente pregunta y el narro, entonces elige el objeto., por ejemplo, tú puedes hacer trampa y cambiarle la última pregunta y cambiársela de sí, ¿no?
25:32
Y el modelo va a seguir actuando como como si, o sea, como si lo natural fuera el nuevo. Entonces, si tú le dijiste grande o chico, lo puedes cambiar. Tú la respuesta fue grande o fue chico y el modelo continúa como si nada jugando al juego. A lo que voy es que nunca, de hecho, representó un objeto y y luego respondió las preguntas, sino que más bien mantuvo toda la posibilidad de objetos y, conforme va viendo las preguntas, va recortándolo, y eso es por por el entrenamiento, porque cuando, o sea, a diferencia de yo, que yo pienso en un objeto, luego cierro los ojos y hago las preguntas, él, como se entrenó, es a tratar de predecir todo el texto que pudiera continuar de la conversación hasta ahorita. Y entonces, si hay 3 objetos que los 3 caben hasta las preguntas ahorita, el modelo trata de representar los 3 objetos y cuando le haces una nueva pregunta que cambia, pues ya nada más reduce a los otros 2.
26:19
Está un poquito técnico, pero no sé si me llegues a a explicar. Esa es una de las diferencias de de de cómo funciona el modelo y cómo funcionamos nosotros.
26:31
José Luis: No sé, no escucho esto. Es es, no sé, suena a que, de cierta forma, Andrés, si corriges, si te equivoco, es que también podemos jugar mucho más con los modelos, ¿no? Dado cómo están diseñados, podemos empujarlos a hacer ciertas cosas. Pienso mucho en mi sobrino Lucio, tiene 6 años y hace un par de días estábamos jugando, no sé ni qué juego de pregunta era. Ah, ¿cuál era su jugador favorito de la selección mexicana?
26:53
Y por varias preguntas logré hacer que Lucio concluyera que su jugador favorito es Quiñones, a pesar de que inició diciendo que era Memo Ochoa. Creo que es donde siento yo que es como, no sé, suena a que quizá estamos en la infancia. Creo que Darío Ammodeus usó la adolescencia, la tecnología como su su frase para esto, que solo, si modificáramos tantitas cosas, llegaríamos a algo más cercano a la conciencia humana. Suena a que hablas de las reglas del juego de cómo interactuamos con LMs. Yo tengo tengo un Antes,
27:21
José Antonio: y una 1 pregunta para Andrés, que es como
27:24
Andrés Campero: Nada más algo... Dale. Bueno, a ver. Dale, dale. No, algo rápido es que llegamos a tener modelos que ahora sí parece que tienen, por ejemplo, teoría de la mente, teoría de la mente es este concepto de Community Science, que soy un sistema que represento a los demás como seres con intenciones y con creencias, ¿no?
27:38
A su post, tú solo estoy escupiendo a a análisis, lo que hago es decir, ¿qué está preguntando José y qué es lo que quiere escuchar? Y en eso le respondo. Los modelos ya hacen eso muy bien y por eso entienden bromas, pueden saber pueden saber que la conversación tiene ironía o que no, que lo que sea. Y y eso, llegamos a eso, no porque, científicos que, digamos, hace 10 años sí estaba el debate de, no, para hacer eso necesitamos construírselos, y no, digamos que emergió solo solo por ponerles más datos, más computación y entrenarlos más tiempo, YYYYYY solito desarrolló estas capacidades de de eso. Pero ¿qué ibas a preguntar, José?
28:15
José Antonio: Sí, qué interesante el punto de desarrollar las capacidades... Sí, las que pidas solo. Lo lo que te iba a preguntar
28:23
Andrés Campero: Emergentemente, ¿no?
28:24
José Antonio: Emergentemente. Lo lo que te iba a preguntar es, a ver, José Luis preguntaba, ¿cuáles son unas cualidades que tenemos los humanos que no tienen, que que no tiene inteligencia artificial? Y a mí, por ejemplo, tal vez un punto que me parece muy interesante de esto es, algunas personas argumentan que el cerebro es una computadora, y lo que dicen es, una computadora igual es igual a, como, es es una computadora hecha de carne. Y y algo que a mí me parece como un punto muy convincente en contra de eso, es decir, que una gran diferencia es que las computadoras tienen una separación muy clara entre hardware y software. Entonces, como un modelo de LLMs puede correr en cualquier servidor y en cualquier y en cualquier computadora, es es un software.
29:07
El cerebro no es así. Yo cuando hago, estoy pensando algo, cuando hago una memoria, literalmente es una conexión, es un campo magnético que está ocurriendo entre neuronas en mi cerebro. Y como como hay algo que se siente muy convincente de que eso, ese proceso biológico es muy distinto a algo que pueda emular la un 1 computadora de metal.
29:29
José Luis: También que hay quizá un grado de individualismo, ¿no? José Antonio, o sea, el hecho de que solo yo puedo pensar como yo, mientras que yo puedo prompear a Cloud en esta computadora y si le doy a Sí, sale, se siente como muy,
29:41
José Antonio: este, me siento engañado. Así como se sentía el personaje de la película de Her al final, donde va y tiene como la novia que son como como que que está hablando con todos, como, así es Claud, como dice, me dice que yo soy guapo y a ti también.
29:53
José Luis: Sí, sí, sí. Podemos serles guapos, pero es horrible cuando se dice absolutamente todos y cada 1 de los usuarios. Aunque no sé
30:00
Andrés Campero: Mira, tengo varios.
30:01
José Luis: Adelante, ver, adelante, Andrés, mejor. Tú cuéntanos, él sí sabe
30:04
Andrés Campero: Varias varias cosas que decir. De lo del individualismo, fíjate que yo no creo que haya una diferencia fundamental, o sea, parte de la diferencia fundamental es que finalmente tu contexto es toda tu vida y todas las experiencias que tuviste, y si, y y además de que tu arquitectura es un poco diferente porque tienes diferentes genes y biología que la de José, pero digamos que la diferencia fundamental es que si yo ahorita te digo, este, oye, simula que estás enojado y a José también y lo van a hacer distinto por su, es porque tienen un contexto muy distinto de vidas. Si yo a un club le pongo toda una experiencia de vida y a otro toda y al final les los pronto igual, no van a actuar igual, ¿sabes? Van a actuar muy distinto. Entonces, la diferencia no es que sea tan fundamental, sino que viene del contexto que están teniendo.
30:43
Este, y y respecto a lo que decía José, fíjate que es un buen contraargumento. O sea, yo sí creo que el cerebro es una computadora, lo más probable. Para empezar, ni ni siquiera está bien, bien definido lo que quiere decir computar y lo que quiere decir una computadora. Digo, Alan Turing en el 36 definió lo que es una máquina de touring y blablablá, pero hay varios problemas que se han estudiado en filosofía y en teoría de la computación y así. No no está bien definida, pero tienes razón que en las computadoras actuales la separación de hardware y de software, y y se llama como Soft Strate o Medium Independence, ese ese axioma, digamos, es como muy fundamental.
31:17
Y tienes razón también que, aunque he oído muchos ejercicios, este, filosóficos, por ejemplo, oye, ¿y si agarramos una neurona del cerebro y la cambiamos por un chip que replique ese funcionamiento? Que cambiaría mi conciencia, pues digamos que no, ¿no? Ok, ¿y si me voy neurona por neurona, neurona por neurona, neurona por neurona? ¿No acabaría yo con un robot que que es de silicón, que hace exactamente lo mismo que tú y tiene la misma experiencia? Y, pues, hay un chingo de debates, ¿no?
31:43
1 de los, ese ese, digamos, este, experimento mental, que es muy famoso, este, a favor de que sí, finalmente, sí, sí podríamos ser de silicón, 1 de los argumentos es, güey, no, es que justo como tú dices, en el cerebro humano no puedes sustituir todo el behavior de una neurona porque simultáneamente está haciendo metabolismo, está haciendo procesamiento de información y está generando un campo magnético que todo. Entonces, está mucho más integrado todo. Si quitas una neurona, todo el sistema alrededor ya no es lo mismo, no no puedes, tendrías que replicar todo el cerebro y ahí es donde podrías decir, pero entonces ya es distinto. Entonces, esa 1º parte sí, pero sin embargo yo no estoy de acuerdo que eso signifique que no que no es probable YYYYYY básicamente porque no hay una alternativa muy clara. O sea, ¿qué es lo que hace el cerebro?
32:28
Es procesar información de una u otra forma. Entonces, ¿qué no? Eso se podría abstraer y simular con silicón, 0YY si me contestan, no, es que tiene que ser carbón. Entonces, si vex the question, oye, ¿y qué del carbón? ¿Es la geometría de la molécula del carbón?
32:43
O o ¿qué propiedad funcional de lo que tú le llamas?, por ejemplo, en el caso de la vida, había este gran debate de, güey, ¿qué es un ser vivo versus no un ser vivo? Y había como esta esta posibilidad de que fuera algo como vitalicim, como que es como, esta sustancia que está viva versus no. Y no, resulta que tienes que hacer doble clics y entender, oye, es que hay algo que se llama reproducción, que funciona con DNA y que funciona como una máquina y funciona así. Y hay otra cosa que se llama metabolismo, que es que agarras ese DNA y lo conviertes en proteínas, y eso es lo que es estar vivo YYYY en en los seres humanos se hace con biología, pero lo fundamental de que sea con biología es esto, es que hay reproducción, que hay metabolismo, que hay una frontera, que hay, y eso constituye la vida. Entonces, si tú me dices, es que en el cerebro humano es biología, yo te diría, ok, ¿qué propiedad de la biología es la que sientes que es especial aquí?
33:30
YYY si y y como, pero difícilmente me digas, es que es el, que el campo magnético tenga esta propiedad o que o que la el carbón tenga esta geometría, sino lo más probable a lo que llegues es que me digas, es que lo que hace esa biología es que te permite implementar estas relaciones funcionales y abstractas de información, como una representación de sí mismo combinada con 1.1 procesamiento de x forma del sensor, este, que te está llegando, y por eso ver se ve así. Pero bueno, obviamente esto está, este, filosófico y complicado. Y nada más por no dejar, el último paper de Antropic que se hizo famoso, lo que hizo es que encontró que en el cerebro, en el cerebro de, perdón, el cerebro de los AI, o sea,
34:08
José Luis: cerebro nada más, José Antonio, y ya ya habla de cerebros con con con AI. Quizás estamos más cerca de lo que pensamos.
34:15
Andrés Campero: Yo creo que sí, o sea, yo yo creo que es probable que sí sea cierto que es una computadora y que YYY que los EI vayan a ser conscientes. Si no es que ya son, pero de una manera muy narrow, o sea, que sí se sienta hacer algo, procesar la información de esa forma, solo mucho más. Pero bueno, lo que hizo el paper de de Antropic es que encontró que hay partes que, como dice José, hay unas latentes y hay otras que sí como que vienen a una parte del del LLM, que tienen propiedades muy similares a las teorías de la conciencia en el cerebro humano más más, este, prodigiosas, que se, en concreto se llama el Global Workspace Thirty, que dice, y y, por ejemplo, está mucho más bailable para hablar de él. Yo yo no te puedo explicar ahorita qué hizo mi cerebro para mover mis manos de esta forma, que que hacerlo, por cierto, en un robot es superdifícil, y, en cambio, sí te puedo hablar de que ahorita sentí alegría de verlo sonreír o lo que sea. En en un modelo, hay partes que sí tienen esas propiedades que se parecen y no.
35:09
Obvia, otra vez, no es prueba definitiva de que sean conscientes ni mucho menos, pero es como, oye, muchas de las propiedades que asociamos con la conciencia en el cerebro biológico las tiene el LLEM.
35:21
José Antonio: Sé que se nos está acabando el tiempo. Sí. ¿Cómo estamos?
35:23
José Luis: Estamos llegando al final y quizá, Andrés, quisiera hacer una última pregunta, si te parece bien. Hablado mucho de qué es lo que hace que una persona tenga conciencia. Hemos hablado mucho de este debate con con las máquinas. Me intriga mucho de tu lado. ¿Qué tendrías que ver para estar finalmente convencido de que las máquinas, de que la IA es consciente?
35:48
Andrés Campero: Está muy difícil. Mira, ultimadamente, yo no puedo demostrar que tú eres consciente, ¿no? O sea, yo sé que yo soy consciente porque lo experimento, pero existe esta figura que se llama zombie filosófico, que es que podría haber un humano que actúe exactamente como tú y que haga exactamente lo mismo que tú y, sin embargo, que no experimente nada. Esta figura retórica del filosófico zombie, este, pues finalmente yo no tengo forma de saber si tú sí sentiste dolor o solo lo actuaste como que tuviste dolor. Ahora, como tú y yo compartimos muchas similitudes, incluida la anatomía del cerebro, la la historia evolutiva, es muy probable que tú también sí sientas como yo.
36:23
En el modelo, por más que me diga, oye, sí, como es muy distinto, no, pero entonces justo tener propiedades como las que están descubriendo, como que tiene emociones que son, que tienen consecuencias funcionales, tiene propiedades como de acceso, privilegiadas que que no procesan todo, pero que procesan las partes más importantes de las que habla, y que comportan características como esa, más y más indican que eso. Últimadamente, si me dices, oye, pero ¿dónde tú ya me dirías, estoy convencido? No sé, y parte de la respuesta es como, no sé qué es lo que hace que algo sea consciente, no puedo responder. Pero lo que sí te digo es que yo sí creo que en unos 20 años, si no es que antes, ojalá, así como no, hace 100 años no te podíamos decir, ¿cómo qué me vas a, cómo voy a saber si algo está vivo o no? Y resultó que teníamos que descubrir el metabolismo y y la reproducción y el DNA, y entonces ahorita ya medio no hay debate de si algo está vivo o no está vivo.
37:14
Digo, todavía en la frontera, ¿y el virus cuenta o no cuenta? Ta ta ta. Pero ya es casi más un juego de palabras que una puzzle fundamental. Yo creo que con la conciencia también va a pasar que sí vamos a llegar a, mira, ya sabemos que cuando tienes representaciones con estas propiedades funcionales, que funciona así, ese sistema se siente como ser algo YYY solo yo no te puedo decir cuáles son esas propiedades ahorita, pero yo espero que en unos 20 años haya una historia convincente de, cuando hay esto, se siente y, por ende, este ya ahí sí lo tiene y este ya ahí no lo tiene, y el y y los cerebros humanos sí lo tienen.
37:44
José Luis: Pues en 20 años esperamos tenerte aquí de nuevo, Andrés, en Inferencia y poder practicarlo de nuevo.
37:49
José Antonio: Gracias por hacer el espacio. Andrés. Lindo. Muchísimas gracias, un gusto. Con 100 de preguntas.
37:54
José Luis: No, lo mismo digo, ojalá quieras venir de nuevo con nosotros.
37:58
Andrés Campero: Sí, con gusto, y si no, luego también off cámara nos echamos ahí una conversación, y on cámara y off cámara, feliz.
38:04
José Antonio: Increíble. A ver, Andrés. Gracias, Andrés. Antonio, creo
38:07
José Luis: que esta conversación genera muchas más preguntas que respuestas.
38:10
José Antonio: Total.
38:10
José Luis: Pero no sé, a mí lo que más me intrigó de todo fue que mientras más hablábamos con Andrés, más parecía que el debate no es tanto si la IA es consciente, es si nosotros somos máquinas.
38:21
José Antonio: Total, ¿te te puedo decir algo de eso? Fíjate que algo que Andrés dijo hacia el final del video, dio este ejemplo, que dijo, imagínate, tomamos el cerebro y vamos neurona por neurona y lo vamos reemplazando. Sí. Y la pregunta es si sigues siendo tú mismo. Y y digo, dio el argumento que decía, bueno, tal vez un cerebro no se puede porque si quitas la neurona, entonces, en el momento que quitas una neurona deja de funcionar.
38:45
Sí. Pero ese ejemplo que dio, no lo comentamos, es brutalmente similar al barco de Teseo. Claro. Que es que es muy, que es la famosa pregunta filosófica donde tienes un barco muy viejo llamado el barco ETCO, y vas quitando astilla por astilla del barco y lo quitas la astilla y lo reemplazas por otra astilla, y la pregunta es, una vez que quitaste todas las astillas, ¿sigue siendo el mismo barco? Y y entonces como que es superinteresante, porque si dijéramos que sí y que sí es posible quitar neurona por neurona del cerebro, la respuesta dura al final es que una vez que reemplazaste todas las neuronas, te reemplazaste a ti, o que podrías copiar la manera en las que las neuronas están puestas en un cerebro para poner otro cerebro.
39:26
Sí. Y y todo esto es relevante porque la pregunta de Andrés es, oye, ¿y por qué no podemos hacer, por qué no podemos replicar ese flujo de información, ese mecanismo con metal? Y y, entonces, a todo eso regresamos a una a la pregunta que es, bueno, entonces, ¿qué significa ser humano? Y si y si si eso, ¿qué qué significa hacer yo? Sí, no sé si es a donde tú ibas, pero eso es lo que a mí me vuela la cabeza.
39:48
José Luis: Estoy muy de acuerdo, ¿no? Que esta pregunta de marca Tessa tiene sus sus vertientes, ¿no? Sí cambiamos nuestras células, las células humanas mueren a cada rato. Y lo que yo pensé cuando Andrés hizo el comentario es que no es tan distinto a como describía que podemos modificar los vectores de una inteligencia artificial. Podemos tomar distintos medicamentos que activan distintas partes Bueno,
40:05
José Antonio: y todos los ejemplos que hay, por ejemplo, de las personas que se han metido golpes y que y que y
40:10
José Luis: eso cambia enteramente tu personalidad, claro. Entonces, me falta seguro de eso, Antonio, como yo salgo de esta conversión, quizá un poco sorprendido sobre cuánto de este debate es quizá quitarnos un elemento especial de humanos y dárselo a las máquinas, o hacernos nosotros más máquinas que hacer que las máquinas sean humanas. A ver, pero entonces te pregunto,
40:30
José Antonio: José Luis, porque si eso es cierto, y si tú sí crees, si tú sí crees que entonces como nos parecemos más a las máquinas, ¿qué, tú qué crees? ¿Crees que crees que una inteligencia artificial en 5 años debería tener el derecho de ser dueño de una propiedad?
40:43
José Luis: Sí, definitivamente. Yo yo yo voy a sostener esto. Mientras más estudio esto, más convencido estoy que tenemos que decirle, por favor, y gracias a Claudia, a ChatGPT.
40:52
José Antonio: Entonces, voy a ver protestando en las calles para el bienestar de la inteligencia artificial.
40:56
José Luis: Tenemos una protesta en 2 días de eso, te mando la celosita, gracias por venir a este episodio de Inferencia. Está bien,
41:03
José Antonio: José Luis está medio loco, no no le hagan tanto caso.
41:05
José Luis: Y nos veremos la semana que entra con conversaciones como esta. Adiós.