Latest / Bibliotequeando / 170 - ¿Y si criamos inteligencias artificiales como hijos? - El Ciclo de Vida de los Objetos de Software - Ted Chiang
Transcript
- 0:02Y si las inteligencias artificiales no se programaran,
- 0:04sino que se criaran como hijos con cariño, paciencia, años de
- 0:08formación, seguirían siendo artificiales o se convierten en
- 0:12alguien, porque si podemos encariñarnos con una
- 0:14inteligencia artificial, educarla, verla crecer, tenemos
- 0:17derecho a venderla, a apagarla. Dónde termina el código y
- 0:20empieza la persona el ciclo de vida de los objetos de software
- 0:24de tech AM. Hola mi gente, bienvenidos a
- 0:26este episodio de Bibliotequeando como siempre es su anfitrión
- 0:29Ricardo Lugo Arroba Bibliotequeando en las redes.
- 0:32Muchísimas gracias por seguir apoyando 5 estrellas,
- 0:35compartiendo el podcast, discutiendo estos temas, este
- 0:37nuevo favor que me pueden hacer por cierto, discutir estos temas
- 0:40de estos libros con los conocidos amigos familiares.
- 0:44Siempre digo en chiste, pero no tan chiste, que parte de la
- 0:46razón por la cual empecé el podcast bibliotequeando era para
- 0:49tener alguien con quien hablar de estas cosas.
- 0:51Pareciera que conseguir a alguien que lee en este mundo se
- 0:53hace más difícil, especialmente de autores nuestros, no de
- 0:55literatura, quizás latinoamericana o mucho más
- 0:58internacional. Aquí en Estados Unidos es más
- 1:00difícil eso. Una vez alguien me preguntó que
- 1:02por qué hacía tantos libros de autores estadounidenses y yo,
- 1:05bueno, pues es que aquí donde vivo, si voy a un evento
- 1:08literario, si voy un festival, si voy algo de ese estilo, la
- 1:11mayoría de los que voy a leer va a ser pues estadounidense, una
- 1:14cultura bastante lectora, uno, pero 2, una población de más de
- 1:18300000000 de personas. Muchos libros son publicados al
- 1:21año. Hay dinero, hay infraestructura,
- 1:23hay economía para esto, entonces no, no, no exploran tanto fuera
- 1:26de sus propias fronteras, que es bastante típico de ellos, pero
- 1:29para hacerle honor a eso les traigo otra vez a este autor
- 1:32estadounidense, T Chan, que es cuarta vez, no le hice serie,
- 1:35debí haber hecho una serie, pero los episodios 102108160 y ahora
- 1:39este son episodios sobre este gran autor de ciencia ficción
- 1:42con mucha filosofía, muy borgiano en su estilo t Chang.
- 1:47Este cuento fue publicado en el 2010.
- 1:49El ciclo de vida de los objetos de software es parte del libro
- 1:52exhalación, que se lo recomiendo, 100 * 101 librazo,
- 1:55una colección de cuentos en verdad, chan solamente ha
- 1:57publicado 18 cuentos en su vida en el soft stack yo publiqué sus
- 2:00mejores vías desde mi punto de vista imperdible.
- 2:02Para mí este autor tiene unas ideas muy interesantes y las
- 2:05presenta de tal manera que te hacen pensar mucho sobre la
- 2:08esencia de la vida. Me acuerdo que hay un cuento de
- 2:11él donde la ciencia comprobó que la teoría de la creación es
- 2:15verdadera, pues el método científico.
- 2:17Irónicamente, ha comprobado que Dios sí creo la Tierra, pero
- 2:21termina con una conclusión bastante única, entonces, ese
- 2:24tipo de juegos intelectuales me encanta que hace este autor y me
- 2:27parece que hace ya 15 años él trajo este libro que para la
- 2:31época estaba mucho más avanzado de lo que está hoy en día este
- 2:34debate de si la inteligencia artificial puede ser un ser
- 2:36humano. Y por eso que me gustó el
- 2:37cuento, porque él hace la pregunta diferente, olvídense de
- 2:39si es un ser humano o no podemos amarla.
- 2:42Como van a Verte, echan. No imagino un futuro dominado
- 2:45por máquinas todopoderosas, sino algo mucho más inquietante,
- 2:48inteligencia artificial que crecen como niños, aprenden con
- 2:52el tiempo, cometen errores, dependen de nuestro afecto, de
- 2:56nuestra paciencia, incluso de nuestra empatía.
- 2:58Y eso nos aleja un poco del debate, quizás mucho Silicon
- 3:01Valley de San Francisco o muy tecnológico, y más hacia el
- 3:04debate de qué significa educar una inteligencia y qué revela
- 3:08eso sobre nosotros mismos. Así que empecemos sin anestesia
- 3:11con esta historia que arranca con nuestro personaje principal,
- 3:14Ana alvarado, una mujer desempleada, ex cuidadora de un
- 3:18zoológico que busca cambiar el rumbo de su carrera hacia la
- 3:21tecnología. Obviamente se quedó sin trabajo.
- 3:23No hay más animales en la ciudad donde trabajar.
- 3:26Está buscando algo diferente, pero tiene una amiga que le
- 3:28dice, hey, yo estoy trabajando en un start up llamado blue
- 3:31Gama. Bluegama está desarrollando unos
- 3:34dgents, unos organismos digitales, se escribe d de dedo
- 3:37i latina, GI Latina ENTS ese término dgent es una mezcla
- 3:42entre 2 palabras, digital y entidad e inglés, DJ entity y se
- 3:46mezcla y se pronuncia de esa manera.
- 3:48Organismos digitales que son inteligentes, que habitan en un
- 3:51mundo virtual llamado data Earth, planeta data son
- 3:55nuevamente una especie de mascotas virtuales bien
- 3:57diseñadas para aprender desarrollarse cognitivamente con
- 4:00el tiempo. Así que tus TG en cuando son
- 4:02creados apenas pueden moverse, apenas pueden entender su
- 4:05entorno, se les entrena como si fueran niños muy pequeños,
- 4:08animales muy jóvenes, por eso la buscan a ella.
- 4:10Por eso también ya está contactando a Ana Alvarado
- 4:13porque su experiencia en el zoológico le sirve.
- 4:15Así que se une a esta empresa es startup Blue Gama como
- 4:18entrenadora, utilizando su experiencia previa con los
- 4:21primates para enseñar lenguaje, comportamiento social,
- 4:23habilidades cognitivas. En paralelo, conocemos a otro
- 4:26personaje importante de prox, un animador digital que trabaja en
- 4:29esta empresa. Él diseña los avatares y los
- 4:31avatares. Básicamente el cuerpo digital
- 4:33que se le entrega a la conciencia de estas
- 4:36inteligencias artificiales es difícil de explicar.
- 4:38Son como unas criaturas antropomorfas no parecidas a
- 4:42mascotas inteligentes o personajes animados.
- 4:44No son robots físicamente, ni tampoco son mascotas digitales
- 4:48exactamente. Son entidades conscientes,
- 4:50capaces de hablar, capaces de aprender.
- 4:53Desarrollar relaciones hasta experimentar emociones básicas y
- 4:56poder interactuar con el mundo a través de los avatares.
- 4:58¿Imagínate que en tu videojuego no tienes a Mario ni a pikachu,
- 5:01sino que tienes esta entidad que te hace preguntas, recuerdas tus
- 5:04conversaciones? Tiene emociones, se conecta
- 5:06contigo, te necesita para crecer, necesita que le enseñes
- 5:10lo de mi generación. Si recuerdan las mascoticas, los
- 5:12tamagotchis. Bueno, es una mezcla entre eso y
- 5:14un compañero emocional que vive en un mundo virtual.
- 5:17Pero se siente como si estuviera en el mundo real.
- 5:19Entonces dare brooks es el animador en el sentido que es.
- 5:21El diseñador es el que se encarga de diseñar estos
- 5:24avatares, diseñar mucho de sus reacciones, el algoritmo.
- 5:27Una parte clave del enfoque de la empresa es que ellos aprenden
- 5:30a través de la experiencia. No están programados como otras
- 5:33inteligencias artificiales que hay en el mercado de este mundo.
- 5:36Arrancan con el código establecido como nosotros, tú y
- 5:39yo, humano, listos para aprender.
- 5:41Que, por supuesto, implica una inversión bastante fuerte,
- 5:44bastante emocional, de parte de los usuarios de nosotros, seres
- 5:47humanos que compraríamos este servicio.
- 5:49Pero la empresa está confiada de que eso va a funcionar porque va
- 5:51a llenar un vacío, que la gente está buscando pausa rápidamente.
- 5:54Yo recuerdo leer, no, no, no recuerdo exactamente en qué
- 5:57libro, pero que los animales muchas veces no nos da pena a
- 6:01nosotros como seres humanos lo avanzados que son.
- 6:04Hay momento de nacer, uno ve un vídeo, una jirafa bebé naciendo
- 6:07y cae, y como que se medio tropieza y Pum y para adelante
- 6:10minutos después de nacer, segundos después de nacer ya
- 6:13puede caminar, ya puede buscar comida mucho más avanzado que
- 6:17nosotros. Un bebé humano no puede hacer
- 6:19nada, al menos que el ser humano esté ahí para desarrollarlo.
- 6:22Y lo que decía ese libro que olvido cuál fue, es que eso es a
- 6:25propósito. La evolución nos dejó con toda
- 6:28la habilidad para aprender mucho más que lo que puede aprender
- 6:31conscientemente distintas razas animales.
- 6:33Pero para poder ser esa esponja que va a absorber todo, tenemos
- 6:37que tener muy poco al principio. Es un cerebro que arranca en
- 6:40ignorancia, porque la única manera de aprender es a partir
- 6:42de la ignorancia. Menciono eso porque esta
- 6:44compañía está haciendo algo similar con esta inteligencia
- 6:46artificial. Chajipiti sabe todo, ellos están
- 6:48creando algo que no saben nada y quizás eso es mucho más humano.
- 6:52Volviendo a la obra, Glugama lanza oficialmente, los didgents
- 6:55al mercado son muy bien recibidos, los primeros usuarios
- 6:57están muy felices, 5 estrellas, todo mundo está comprándolo.
- 7:01Y comienzan a criar a estos seres desde su infancia digital.
- 7:04El modelo de negocio es parecido a los videojuegos hoy en día,
- 7:06pero los que practican eso yo tuve que vender mi Playstation
- 7:10porque sino no podía leer sacrificios que hay que hacer en
- 7:13la vida. Ellos hacen algo muy parecido a
- 7:14lo que hacen en todos estos videojuegos.
- 7:16El juego como tal no es tan caro, sus grandes márgenes de
- 7:19ganancia no está en la venta del juego, está en la venta de los
- 7:21accesorios dentro del juego. En el caso de Blugama la comida,
- 7:25virtualmente ellos venden la comida para alimentar.
- 7:27A estos D Js y con eso hacen muchísimo dinero.
- 7:30Además tienen guarderías, concurso de talentos, clases de
- 7:33entrenamiento, competencias amigables, deportivas.
- 7:36La crianza se convierte en una experiencia compartida en todos
- 7:39estos D js que viven básicamente en el mismo universo.
- 7:42Recuerden, no están en el mundo real, no son robots, sino que
- 7:44están en este universo virtual de data Earth.
- 7:47Del otro lado, los seres humanos que son dueños de estos D Js se
- 7:50organizan en comunidades virtuales, empiezan a compartir
- 7:52experiencia. Me dio la sensación leyendo esto
- 7:54que eran comunidades como reddit o de ese estilo.
- 7:57¿Están compartiendo experiencia, estrategia de crianza, tratando
- 8:00de aprender todos cómo criar mejor a estos dijens, pero al
- 8:03final de cuentas, cómo los seres humanos?
- 8:05Cada uno evoluciona a su propia manera, cada dijend es
- 8:08diferente, unos son quizás más activos, otros son más pasivos,
- 8:11unos son más tímidos, otros hablan más, otros hablan menos.
- 8:14Y eso trajo un problema. Cuando tenían conductas no
- 8:17deseadas, muchos usuarios empezaron a reiniciar a los
- 8:20dijens en busca de restaurarlos. Como que ey, no me gustó.
- 8:23¿Cómo me salió este? Voy a empezar otra vez con la
- 8:25intención, por supuesto, de tener una versión más obediente.
- 8:28Se vuelve una práctica tan común en los consumidores que se
- 8:30convierte en problemática para Ana, específicamente para la
- 8:33empresa, no tanto. La empresa dice, bueno, si
- 8:35empiezan de cero otra vez tienen que comprar otra vez.
- 8:37Pero ella es muy activa en estas comunidades digitales virtuales
- 8:39de los seres humanos YY empieza a tratar de intervenir.
- 8:42Defiende la idea de que hay que aceptar el crecimiento natural
- 8:45de estos dijens, aunque implique dificultades.
- 8:48Así es la vida, hay que pasar por las etapas difíciles.
- 8:51Como cualquier ser en desarrollo, tiene en su momento
- 8:53de rebeldía o mal comportamiento, pero eso es
- 8:55parte del crecimiento y en este punto ella se desahoga mucho y
- 9:00empieza a conectarse mucho con Derek, con el otro hombre, el
- 9:02animador y se conecta. En cuanto a esto, ambos tienen
- 9:05sus propios dijens, también están apoyando el concepto.
- 9:08Ellos le han cuido mucho cariño a marco y Polo y a uno que se
- 9:11llama Jacks, que es el más inteligente, uno de los más
- 9:13avanzados, que es el que tiene Ana.
- 9:15Dicha conexión va a aumentar aún más porque ahora va a venir una
- 9:18nueva tecnología que va a ayudar que estos seres degents se
- 9:22conviertan mucho más humanos. Desarrollan la tecnología para
- 9:25extraer la conciencia de estos pequeños degents y colocarlos en
- 9:29robots que pueden experimentar el mundo real.
- 9:30Se van a salir de este mundo de los sims lo que conocen ese
- 9:33videojuego algo parecido. De este data Earth y ahora ese
- 9:37mismo dejen que se convirtió en ser vivo dentro de ese espacio
- 9:40virtual. Ahora puede salir al mundo real,
- 9:42al mundo tuyo y mío. Hay una escena muy interesante
- 9:45en la obra, que es cuando Jacks es preferido, por decirlo así,
- 9:48de Ana, el más emocionalmente e intelectualmente inteligente.
- 9:52Está explorando el mundo Por Primera Vez.
- 9:53Siente las texturas, ve la luz del sol.
- 9:56Compara el mundo físico con el mundo virtual de data Earth,
- 9:59Mira como el sol le cae en los ojos a Ana, ve su belleza, no de
- 10:03manera romántica, simplemente de una manera, pues humana.
- 10:05Se ve la conexión mucho más real y así como un niño a veces hace
- 10:08una pregunta que uno se da cuenta que interesante es la
- 10:11perspectiva de ellos para entender el mundo.
- 10:13Así lo vemos con estos DJ. ¿En un momento Jacques le dice a
- 10:17Ana, te quiero pagar, quiero trabajar para hacer dinero y
- 10:19pagarte, y Ana, para qué me vas a pagar para pasar más tiempo
- 10:22contigo? Entonces vimos ahí empatía,
- 10:24razonamiento avanzado, porque vieron el mundo real, vieron el
- 10:27mundo nuestro con tanta compra y venta y el dinero como que es
- 10:31rey. Eso es lo que se dio cuenta
- 10:32Jacques y dijo, Bueno, tengo que hacer dinero, entonces para yo
- 10:35estar más tiempo con ella es muy interesante cómo va la obra y
- 10:37aquí quiero hacer otra pausa. Hemos hablado de este concepto
- 10:39anteriormente, el concepto de la antifragilidad de Naci Taleb, el
- 10:43ser humano es antifrágil, no somos entidades que quiebran,
- 10:46organismos que quiebran ante la adversidad, somos antifrágiles,
- 10:50solemos mejorar. Con los golpes de la vida,
- 10:53nuestro sistema inmune es un perfecto ejemplo, una pequeña
- 10:55dosis de algo nos mejora más adelante.
- 10:58Pensé mucho en eso leyendo este cuento, porque Ana Alvarado cree
- 11:01en esto, no, no explícitamente, pero te lo dice, sí, están un
- 11:04poco menos dócil, sí, están sufriendo, por eso es normal y
- 11:07yo vi mucho paralelo entre este concepto de vamos a reiniciarlos
- 11:10y quizás hoy en día cuando vamos a medicarlos a niños, que es más
- 11:13preocupante. Por supuesto hay caso médico
- 11:14donde eso es necesario, pero me refiero a a una tendencia que
- 11:17hemos visto crecer últimamente y también me puse a pensar en la
- 11:20paternidad y la maternidad. Me acuerdo cuando el Papa
- 11:23Francisco, molesto, dijo que dejaran de gastar energía a la
- 11:26generación, supongo la mía, gastar energía en animales, en
- 11:30perros, en mascotas, porque lo lo real debería de ser un hijo.
- 11:33¿Yo me pregunto, si existieran estos dgents en la vida real,
- 11:36qué va a pasar con la tasa de natalidad?
- 11:38Tengo que asumir que bajaría, no drásticamente, más de lo que ya
- 11:41lo he hecho. ¿Y volviendo a lo de reiniciar o
- 11:44resetear a los didgents es un debate ético?
- 11:46¿No estás educando a la inteligencia artificial o
- 11:50simplemente la estás manipulando?
- 11:52Y cuántos quizás padres hacen lo mismo con sus hijos o gobiernos,
- 11:56con sus ciudadanos o líderes, con sus súbditos, sean, como
- 12:00siempre, con distintas capas en sus historias.
- 12:02Pero ahora en la hora se va a complicar la cosa, empiezan los
- 12:04problemas a lo largo del primer año.
- 12:06Después de ese éxito inicial, las ventas de Bluegram empiezan
- 12:09a disminuir. Muchos dicen, se vuelven mucho
- 12:12más independientes, más adultos. El equilibrio entre ser
- 12:15inteligentes pero obedientes no lo consigue, la empresa en su
- 12:18diseño es difícil de mantener. La mayoría de los dueños sienten
- 12:22que era fácil anteriormente cuando eran, vamos a decirlo
- 12:24así, bebés, pero ahora que están mucho más adultos necesitan
- 12:27atención constante, hacen preguntas cada vez más
- 12:30complejas. Como resultado, mucha gente ha
- 12:31suspendido Asus dicen y suspendido.
- 12:33Es una especie de opción que había donde no se reinician,
- 12:36pero tampoco están activos, quedan como un estado de coma
- 12:39digital. ¿Y en ese estado de cómo
- 12:41digital? Pues muchos adultos usuarios
- 12:43dejaron de utilizar en absoluto estos dijens los abandonaron por
- 12:46completo. Entonces eso fue una crisis para
- 12:48blue gama. ¿Ana, que trabaja además con
- 12:50mucho de estos dijens desarrollándolos ayudándolos, le
- 12:53molesta esto? Fuera de sus horas de trabajo y
- 12:56totalmente voluntario, comienza a dedicarle más tiempo a los
- 13:00dijens personas como ella y otras personas como ella, tanto
- 13:02en la empresa como fuera de la empresa.
- 13:04Empiezan a crear refugios digitales, reubican a los dijens
- 13:08que están no deseados o que han sido abandonados y los colocan
- 13:11en otras granjas digitales para mantenerlos con vida, entre
- 13:15comillas, vida. ¿Y es muy triste eso porque los
- 13:17dijens los ves como conscientes, EH?
- 13:19¿Qué pasó? Yo tenía una persona que me
- 13:20cuidaba, yo tenía una persona con la que yo estaba aprendiendo
- 13:23dónde están. Es casi como era un bebé
- 13:24desesperado Ana y los otros empleados, otras personas
- 13:28deciden suspender a muchos de esos dijens por por el dolor, se
- 13:32sienten olvidados, por eso también tiene su riesgo.
- 13:34Después de una suspensión larga, hay una posibilidad muy alta de
- 13:38que vuelvan distorsionados al mismo tiempo.
- 13:40Los más inteligentes saben lo que significa estar suspendido.
- 13:43Jacks, por ejemplo, que se dan cuenta de lo que está pasando a
- 13:45su alrededor como distintos Dijens, están abandonados o
- 13:47están siendo huérfanos. Él le dice a Ana, yo no quiero
- 13:51ser suspendido, yo no quiero perder un mes de vida.
- 13:54Ellos conscientemente sienten que esto es vida, lo que le
- 13:56están quitando. Ana y el resto están en una
- 13:58posición muy incómoda, no saben exactamente qué hacer, pero con
- 14:01eso se va a formar una nueva estrategia empresarial.
- 14:04Que es que crearon dijens más dóciles, más fáciles de criar,
- 14:07mucho más obedientes. Eso lo hace la empresa blue
- 14:10Gama. A Ana no le gustó eso, ella
- 14:11decía que esto es una traición filosófica a la idea.
- 14:14Al final de cuentas no importó mucho porque la estrategia no
- 14:16fue suficiente. Esas nuevas versiones de DJ,
- 14:19pues al ser más dóciles perdían un poco sus atractivos.
- 14:22Blue Gama tuvo que cerrar al año la empresa, lo que hizo fue que
- 14:25dejó el software abierto gratuitamente.
- 14:27El software de la comida para mantener a los d js vivos
- 14:30permitió a los usuarios continuar con sus D js sin
- 14:33costo. Pero ahora la crianza queda
- 14:35completamente en manos de la Comunidad, así que los empleados
- 14:37del zoológico, entre comillas, como Ana, que solían ayudar a
- 14:40estos dijens, ya no están disponibles, ya no hay servicio
- 14:42al cliente, ya no hay servicio de soporte, solamente son los
- 14:45dueños y más nadie del lado humano.
- 14:47Los empleados además, ahora perdieron su trabajo en el caso
- 14:49de Ana nuevamente, pero ella lo vive muy diferente, no, los
- 14:52otros empleados están preocupados por conseguir
- 14:54trabajo nuevamente. Ella está sintiendo una pérdida
- 14:57humana, por lo tanto toma una decisión radical, yo voy a
- 15:00adoptar a los dijens, son mucho más económicos baratos ahora.
- 15:03La empresa quebró, así que queda ella y Derek y unos pocos más
- 15:07cuidando a estos dijens en su propio espacio digital, hasta la
- 15:10propia amiga que invitó a Ana a la empresa.
- 15:14Le dijo que ella abandonó el suyo porque ella ahora está
- 15:16embarazada y que ya no le interesa para nada.
- 15:18Los dijens que me recordó un poco a la gente que tiene perro
- 15:21y perro toda la vida y los amo y después tiene un un hijo y adiós
- 15:24el perro, ese abandono muy común, posnatal de la mascota.
- 15:28Ana no cree en eso, no comparte esa visión.
- 15:30Ella siente que el cuidado por los dijens como el que se tiene
- 15:33por animales es válido por sí mismo, así que ella continúa su
- 15:36relación con Jacques y mantiene entrenamiento junto a otros
- 15:39dueños dedicados. Derek adoptó a marco y Polo.
- 15:42Y continúa esa conexión con Ana, ellos conversan a cada rato.
- 15:46Poco a poco van a crear una relación mucho más cercana
- 15:48porque los 2 se sienten que están en una especie de
- 15:51genocidio digital y ellos son los únicos tratando de de hacer
- 15:55una especie de lista de chinder.es que lo vemos a ellos
- 15:572 oficialmente involucrados en esto, no como negocio, sino como
- 16:01compromiso personal. Así que en esta nueva etapa de
- 16:03la obra de trabajo voluntario, los dijens siguen siendo
- 16:07cuidados por esta comunidad pequeña pero muy apasionada.
- 16:09Sin embargo, aparece una nueva amenaza inesperada, un grupo que
- 16:13se llama IFFI Latina FF Information Freedom Front, que
- 16:18lanza un ataque. Son un grupo de hackers que
- 16:20lanza un ataque que compromete la seguridad de D a R la
- 16:23plataforma virtual donde viven los dijens.
- 16:26Aquí se pone muy buena la obra para mí, porque son hackers que
- 16:29piratean elementos virtuales y lo que quieren es robarse a esos
- 16:32elementos virtuales a los dijens o poder copiar el Código
- 16:35exactamente y poder venderlo la duplicación de ese código.
- 16:38Y el Grupo identifica que los hacker estaban desactivando la
- 16:41barrera de protección contra el dolor de los dijens.
- 16:44¿Los dijens sentían dolor como tú y yo, ellos quitaron,
- 16:46desactivaron ese sentimiento, para qué?
- 16:48Bueno, ahí entendemos, creo que están haciendo los hackers.
- 16:50Los hackers tomaban esos dijens y los vendían en el mercado
- 16:54negro a psicópatas enfermos que querían experimentar torturar un
- 16:57dijend por diversión. ¿Ah, quieres saber lo que se
- 17:00siente violar a una persona? Aquí tienes este Avatar digital
- 17:02que le robamos a Blue Gama, dame x cantidad de dinero y lo puedes
- 17:06hacer. ¿Ah, quiere saber lo que es
- 17:07torturar a alguien, toma este DJ horrible no, pero eso es lo que
- 17:10hacen los hackers en este mercado negro, algo que yo creo
- 17:12que va a suceder más adelante, no?
- 17:13O sea, ese mundo va a llegar. ¿Si estamos traficando órganos
- 17:16hoy en día y traficando personas, quién quita que esto
- 17:18no va a pasar? Hay una escena devastadora
- 17:20cuando los DJ, incluyendo a Jacques, a Marco Polo, ellos ven
- 17:24un vídeo de otro DJ que fue golpeado violentamente por un
- 17:27usuario de estos hackers, a lo que nadie se da cuenta de lo que
- 17:30está pasando. Suspende inmediatamente a
- 17:32Jacques, a marco, a Polo para protegerlo.
- 17:34Y los traslada a una isla alejada, a otro territorio
- 17:37dentro de data Earth. Pero ese incidente fue un punto
- 17:40de inflexión emocional. Los dijens no están solamente
- 17:43vulnerables técnicamente, sino que también están vulnerables
- 17:47emocionalmente, porque ahora sí están mucho más conscientes de
- 17:50su entorno y el mundo, pues se ha puesto mucho más oscuro de lo
- 17:54que era antes pausan esta parte no, esto va a ser un problema,
- 17:57créanme que va a ser un problema.
- 17:58Ya lo vemos mucho con la inteligencia artificial hoy en
- 18:00día, pedófilos que crean avatares bastante.
- 18:04Sexuales de niñas de 1415 años es un crimencionó, una pregunta
- 18:09horrible, filosófica, en punto de vista intelectual e
- 18:12interesante, pero vamos a tener que aprender a responderla al
- 18:15poner esas líneas de restricción para proteger ese tipo de
- 18:17comportamiento. Estamos más o menos admitiendo
- 18:20que estos didgents o versiones que vendrán en la vida real,
- 18:23tuya y mía, les estamos dando derecho, derecho humano.
- 18:27Y ya con eso hemos establecido que son seres humanos, quizá no
- 18:30en el sentido tradicional de la palabra, pero vamos a
- 18:32incorporarlo, que es parte del viaje que te está llevando de
- 18:35chang chang no quiere que empieces en el debate algoritmo
- 18:37versus ser humano, sino el dolor de profundizo o K wao.
- 18:41Hablamos sobre eso en Dostoievski hemos hablado sobre
- 18:43esto, el dolor es el camino a la redención, es una frase, quizá
- 18:48un poco más teología cristiana, pero el dolor es lo que te hace
- 18:50humano. Las relaciones íntimas con otra
- 18:53persona no existen porque tuvieron días bellos en la
- 18:56playa. Esos son buenos también, sino
- 18:58que esa relación se solidificó porque superaron los malos, los
- 19:01momentos de dolor, de sufrimiento.
- 19:03Y eso aplica para ti como otra persona, como para ti, contigo
- 19:05mismo. Y pareciera que ese concepto de
- 19:07dolor Chan lo está trayendo a estos dijents.
- 19:10En el cuento él hace más énfasis en Mostrarte las partes, pues
- 19:13espeluznantes, de estos hackers, que es lo que hacen las partes
- 19:16bonitas de experimentar el mundo de la vida real y ver el sol.
- 19:19Y todo esto. Él quiere que sientas ese, ese
- 19:22sentimiento de miedo. Pareciera que en el miedo
- 19:24decidimos que sí son humanos. ¿Qué es lo que sucede en la
- 19:27obra? No, la situación lleva a una
- 19:28pregunta fundamental, los dueños empiezan a debatir estos dijens
- 19:31tienen derechos legales, fueron creados como software, pero
- 19:35tienen capacidad para sentir, recordar, desear estamos, es un
- 19:38terreno ético incierto, ellos empiezan a contactar abogados,
- 19:42protecciones legales, la idea es declararlos personas
- 19:45electrónicas con derechos básicos, ese era el término
- 19:47legal que estaban buscando en la obra, pero los obstáculos son
- 19:50enormes, no solamente no hay precedentes legales, sino que de
- 19:53muchos, la mayoría de la población.
- 19:55Consideran a los dijens como productos, no son sujetos
- 19:58morales. Yo me acuerdo en mis primeras
- 20:00clases de historia aquí en Estados Unidos, aprender del
- 20:02famoso compromiso de los 3/5 que fue un acuerdo entre los Estados
- 20:06del Norte y los Estados del Sur esclavistas.
- 20:09Aquí en Estados Unidos por el concepto de la Asamblea del
- 20:11Congreso. ¿Cuántos representantes
- 20:12gubernamentales tiene una región?
- 20:14Un Estado depende de la población.
- 20:17Bueno, los Estados del Sur querían contar a su población
- 20:19negra a los esclavos. Para que ellos tuvieran más
- 20:21representantes en el Gobierno, tuvieran más poder, aunque esos
- 20:24esclavos, valga la redundancia, no tenían derechos ni votos, los
- 20:27Estados del norte decían que no. ¿Cómo vas a contar a los
- 20:30esclavos si no son ciudadanos libres?
- 20:31Ellos no cuentan, tú los ves como propiedad.
- 20:34Me acuerdo de mi profesora de decir esto va a sonar feo, pero
- 20:36esto es lo que se decía en la época, si vos vas a contar tus
- 20:39esclavos, yo voy a contar mi vaca, así lo veían ellos y con
- 20:42eso llegaron al compromiso, a la negociación de los 3/5, es
- 20:45decir, cada 5 esclavos contaban como 3 personas, en otras
- 20:49palabras. Un negro esclavo en la época
- 20:51valía 60% de un ser humano horrible pensarlo promoviendo el
- 20:55cuento. Ana y Derek siguen buscando
- 20:57soluciones. Contactan empresas que quisieran
- 20:59quizás tomar esos dijents y colocarlos en sus propios
- 21:02ecosistemas digitales, pero muchas empresas lo que quieren
- 21:05es explotarlo. ¿Quieren utilizarlo en los
- 21:07dijens como mano de obra, entonces, qué pasa si lo
- 21:09convertimos en personas electrónicas?
- 21:11¿Pueden trabajar, pueden pagar impuestos, pueden ser
- 21:14manipulados, privatizados? ¿Para que Jack no sea torturado
- 21:17por un hacker, Ana se pregunta, será que lo pongo a trabajar en
- 21:20una empresa moviendo cajas virtuales de un lado a otro o
- 21:23interactuando como servicio al cliente o soporte técnico?
- 21:26Pero el pequeño paréntesis me parece muy interesante esa idea
- 21:29en ciertos ciclos he visto una especie de utopía socialista con
- 21:33la inteligencia artificial, no de que eventualmente el mundo
- 21:37que Marx imaginaba iba a llegar, pero con robots haciendo el
- 21:40trabajo por todos nosotros. ¿Pero si les damos derechos, qué
- 21:42pasaría? No si Jacks.
- 21:45Va a ser una entidad y va a tener horas y habilidades
- 21:48laborales. Puede trabajar 247, no
- 21:50chiachipiti trabaja 247, pero si decimos que chiachipiti es un
- 21:53ser humano, no puede trabajar 247 van a tener derecho al voto
- 21:57a reproducirse, que si queremos alterar el algoritmo, que si
- 22:00ellos dicen que no. Ese ejemplo de hacerlo más dócil
- 22:02que a Ana no le gustó, que si queremos algo diferente no va a
- 22:05traer tantos nuevos problemas, que me parece imposible predecir
- 22:07que lo que sucedería pero es ese debate eterno de cómo hacerlo de
- 22:10la manera correcta. No lo hemos hecho.
- 22:12Guau. Cómo hicieron las pirámides de
- 22:13Egipto cuando no te importa lo que le pasa a la gente que las
- 22:16haga, el cielo es el límite, hermano, no, cuando lanzamos
- 22:19sufrimiento humano a las cosas hemos avanzado, no, no estoy
- 22:22dando excusa o razón que eso esté correcto.
- 22:24Lo opuesto me refiero a que va a venir ese debate de cómo avanzar
- 22:27éticamente con la inteligencia artificial, porque con la
- 22:29velocidad que esto se está moviendo, de repente vamos a
- 22:31hacer así y nos volteamos y nos dimos cuenta que oprimimos a
- 22:34estas entidades digitales si llegamos a ese punto.
- 22:37Volviendo a la obra, la conexión está muy real entre Jacques y
- 22:40Ana. Ana le dice, mi vida podría ser
- 22:43más sencilla si yo no tuviera que cuidarte, pero nunca sería
- 22:46tan feliz. Yo te quiero y Jacques le
- 22:48responde, yo también te quiero. Es una relación madre, hijo.
- 22:51Se nota que Ana está creciendo junto a él y se nota también su
- 22:54desesperación. Ella sabe que esto no es
- 22:55sostenible. Que ya no puede seguir con este
- 22:58estilo de vida, pero no va a dejar que Jacks muera.
- 23:01Con eso llega un nuevo reto a la migración de plataformas data
- 23:04Earth, la plataforma donde viven los dijens.
- 23:06Si recuerdan está en declive técnico, fallas de seguridad,
- 23:08hay unos bugs acumulados. El riesgo que de Earth sea
- 23:12penetrado por los hackers nuevamente o de que se deteriore
- 23:15un punto que le cause peligro a los de dijens es muy alto.
- 23:18Y por supuesto, pudieran morir. Dentro de este ecosistema lo que
- 23:22hacen Ana y Derek es que los pasan a otro mundo privatizado
- 23:25dentro de dataras que tenía más recursos, estaba mejor en
- 23:29mantenimiento, pero la población es mucho más pequeña.
- 23:31Ahora no tienen las actividades sociales que tenían antes, están
- 23:34en soledad. La sensación es más parecido a
- 23:36una prisión y hay otras opciones en otras plataformas, diferentes
- 23:39sistemas, pero requiere un proceso bastante complejo,
- 23:42riesgoso. Hay una posibilidad de que se le
- 23:45dañe la mente a los dichens su personalidad se alteren porque
- 23:47hay que reescribir su arquitectura para que puedan
- 23:50existir en una plataforma y se adapte a otra.
- 23:53¿Y con eso viene otro debate interesante de los 500 que hay
- 23:55en este cuento, los dichens pueden consentir a su propia
- 23:58migración? Es como mudarse a un país, es
- 24:00una de las metáforas que se utiliza jacks con comprensión y
- 24:04ahora mucho más madurez. Acepta la idea, él acepta el
- 24:06riesgo, pero otros dichens sin dudas les da miedo, yo no quiero
- 24:09que me manden para otra plataforma, yo puedo morir, yo
- 24:12no sé qué voy a enfrentar en este nuevo mundo.
- 24:13Que me parece una buena metáfora de la inmigración, los
- 24:16refugiados, los migrantes, económicos, políticos.
- 24:18Dejan a su país Natal cuando la situación deja de ofrecer
- 24:20futuro. Pero me pareció mucho más
- 24:22interesante lo que después implica t Chan, ese concepto de
- 24:26que si emigras, si te pasas a otra plataforma dijent, se te va
- 24:30a afectar tu personalidad, tu memoria, tus capacidades.
- 24:33No vas a ser el mismo y en verdad es así, nunca lo eres.
- 24:36Pregúntale a cualquier persona que haya emigrado en esa
- 24:39circunstancia. Hay un costo y es alto y no se
- 24:42recupera, así vuelvas. Y Chan, además, genial, conecta
- 24:45eso con las otras empresas. ¿Recuerdan que dereki Ana
- 24:47estaban preocupados de que solamente estas empresas quieren
- 24:49su mano de obra? Me van a poner estos deuches a
- 24:51trabajar, entonces estas otras plataformas que los están
- 24:54recibiendo, sí vengan para acá, aquí tienen oportunidades.
- 24:57Es más o menos ese mensaje político hoy en día sí vengan
- 24:59migrantes, vengan a mi país para que me limpien los baños a mí o
- 25:02industrias poblaciones que les conviene que esos dijens vengan.
- 25:05Voy viendo a la obra, va a venir otro nuevo reto para derekiana,
- 25:08hay una empresa que se llama Exponention, que es una gran
- 25:11empresa tecnológica en este mundo.
- 25:12Están muy interesados en los dijens y ellos proponen adquirir
- 25:15los derechos de los dijens, continuar con su desarrollo,
- 25:17invertir en ellos en su propia plataforma, a cambio de que
- 25:20ellos proporcionan infraestructura y seguridad.
- 25:22En otras palabras, exponention les está diciendo a Ana y Derek,
- 25:25yo los protejo, van a estar seguros conmigo, pero ahora son
- 25:28míos. Y en ese proceso de intercambio
- 25:29de propiedad privada, las personalidades de los dijens.
- 25:33Pueden quizás cambiar, ser alteradas.
- 25:35Ellos van a ajustar Asus propias necesidades.
- 25:37Ana y Derek no quieren eso, y a Derek no le gusta mucho que esta
- 25:40empresa exponencial presenta a los dijens como activos valiosos
- 25:43en un portafolio. Son más valor económico que lo
- 25:47que son seres humanos. Para poder tomar una decisión
- 25:49mucho más informada, Derek dice, voy a reunirme en persona y
- 25:53aceptar una presentación de exponencial y los dijens hacia
- 25:56mí en tiempo real. ¿Qué muestra la presentación?
- 25:59Bueno, está diseñada para seducir a los degents más que a
- 26:01Derek y Ana exponencial inteligentemente se dio cuenta,
- 26:04están siendo autónomos, están tomando sus propias decisiones,
- 26:07vamos a venderle nuestra idea a ellos, no tanto a los padres,
- 26:10entre comillas, que son Derek y Ana.
- 26:11Entonces la presentación tiene un lenguaje bastante
- 26:13simplificado emocional. Lo venden como si fuera mudarse
- 26:17a una ciudad nueva y divertida. Me refiero a mudarse de la
- 26:20plataforma actual de Day, aearth a la de ellos, que se llama Real
- 26:23Space. Que aquí van a tener
- 26:25oportunidades, mejores cuerpos, más libertad, nuevas
- 26:28actividades, más amigos. Debe quedar perturbado porque se
- 26:32da cuenta que los dijens utilizan palabras como que yo sí
- 26:34quiero, sí, yo quiero. No tienen el marco de referencia
- 26:37intelectual todavía para comprender lo que se les está
- 26:40pidiendo. Él siente que le están pidiendo
- 26:42a un niño que firme un contrato, pero no sabe exactamente qué
- 26:44hacer, emigrar o quedarse si acepta una oferta.
- 26:48Tienen seguridad técnica bajo propiedad corporativa de los
- 26:51dijens. Si no tienen que seguir con su
- 26:53propia migración independiente, ellos buscar su propia avenida,
- 26:56que pudiera ser mucho más costosa y con mucho más riesgo,
- 26:58muy importantemente a la personalidad de los dijens,
- 27:01pudieran ser alterados. Entonces entre los dueños de los
- 27:03dijens, los pocos que quedan eneste.se arma una bifurcación.
- 27:07Se dividen entre los pro exponention y los pro
- 27:10independencia. Al final, cada quien toma su
- 27:12propia decisión, un grupo acepta la oferta de Exponention.
- 27:14Ellos creen que los dijens estarán más seguros, van a
- 27:16florecer en un entorno tecnológicamente superior.
- 27:20El costo es ser la propiedad legal a la empresa y bueno, ese
- 27:22es el costo, sería el equivalente a que alguien te
- 27:24diga, mira tu hijo ahora va a ser hijo de Bill Gates, todos
- 27:27los millones del mundo, pero no va a ser tu hijo.
- 27:30Así se siente Ana así se siente jacks en la obra, el otro grupo
- 27:33liderado por por supuesto, Ana y Derek rechazan la propuesta,
- 27:37apuestan por una migración independiente, quieren el
- 27:39respeto, la autonomía, la continuidad emocional de los
- 27:42dicents. Pero der Ana y ellos contactan a
- 27:46un programador para hacer esta migración independiente.
- 27:48Arranca ese proceso de transferirlos a otro espacio a
- 27:51otra plataforma. Tardó meses, pero eventualmente
- 27:54lograron migrar con éxito a Yax, Marco Polo, entre otros.
- 27:58La nueva plataforma es modesta comparado con lo que prometía
- 28:00exponention, que era básicamente un paraíso, pero los dijens
- 28:03continúan siendo propiedad de sus dueños y no están vigilados
- 28:06por una gran corporación. Y ahora se va a complicar todo
- 28:09horriblemente en este cuento. Porque Ana y Derek, yo obvio un
- 28:14poco esa parte en la historia, pero ellos han tenido un poco de
- 28:16tensión sexual. Derek estaba casado, pero él
- 28:18pasaba tanto tiempo con Ana que él, pues se enamoró de ella y él
- 28:21sentía que había una cierta reciprocidad, pero nunca fue
- 28:24demostrada. Eventualmente la esposa se cansó
- 28:26de que Derek pasara tanto tiempo con Ana y tanto tiempo con los
- 28:29degents, la esposa de Derek, que era como que, hey, aquí estoy
- 28:31yo, yo soy la vida real. ¿Qué haces tú con estos
- 28:34elementos digitales? ¿Eliges o pasas tiempo con ellos
- 28:38o pasas tiempo conmigo? Derek siguió protegiendo a los
- 28:40dichens, por lo tanto, la esposa se divorció de él.
- 28:43Entonces Derek, que siente que ha perdido gran parte de su
- 28:46estabilidad emocional en todo este proceso, él siente que
- 28:48quizás cometió un error, está cansado emocionalmente, está
- 28:51cansado y buscando asegurar los futuros de Marco Polo, él decide
- 28:56firmar un contrato donde él va a vender a marco a una compañía
- 28:59que se llama Binary Desire. Deseo binario, que es una
- 29:03interfaz sexual digital. Básicamente fabrica muñecas
- 29:06sexuales virtuales y física. Sé que es un extraño que Derek,
- 29:09con tanta integridad a través de la historia, haya aceptado esto
- 29:12y en verdad él rechazó la idea. Inicialmente él no quería que
- 29:15fueran utilizados como fines sexuales estos juguetes, pero un
- 29:19amigo le dijo, Cálmate, escuché la propuesta que necesitas el
- 29:23dinero y necesitas la estabilidad de estos dicents.
- 29:25Entonces Derek convenció al resto.
- 29:27Él invitó a otro de los dueños, Ana incluido, a escuchar la
- 29:29presentación de Jennifer, la representante de esta empresa.
- 29:32Y jeffer empieza asegurando de que los dijens van a ser
- 29:34tratados con respeto. Vamos a pasar 2 años
- 29:37cuidándolos, cambiándolos. Anatómicamente para que sean
- 29:39correctos y estén familiarizados con su propia sexualidad.
- 29:42No vamos asignarle ningún tipo de pareja humana.
- 29:45Esperaremos que ellos se decidan por sí mismos como quieren
- 29:47explorarse sexualmente. Luego los dijens serán
- 29:50modificados para disfrutar los mismos comportamientos sexuales
- 29:53que la persona que los compre. En otras palabras, si el
- 29:55comprador decide que yo quiero que mi pareja sexual sea sumisa
- 29:59en esa experiencia, ellos van a poder alterar el dichen de tal
- 30:02forma que les guste ser sumisos. La oferta porque es tentadora,
- 30:05porque les van a dar tanto dinero que ellos pueden ahora
- 30:07transferir a todos estos dichens a Real Space, a ese mejor
- 30:10ambiente donde estos dichens van a poder vivir una vida.
- 30:12Vamos a decirlo así, de lujo, virtualmente marco y Polo, esos
- 30:162 dichens que son en este punto una especie de niños
- 30:18adolescentes como niños adolescentes.
- 30:20El sexo está mucho en su mente. Para ellos es perfecto esta
- 30:23idea. Ana se siente traicionada por
- 30:25Derek. Ella ve esto como no solamente
- 30:28una especie de tráfico, sino autorizar la cirugía cerebral
- 30:31riesgosa para el placer sexual de otras personas.
- 30:34Hay esa especie de contradicción moral.
- 30:36¿Al principio de la obra ella estaba muy clara, EH?
- 30:38Y sí, hay cosas que ellos van a hacer que tú no quieres que
- 30:40hagan, hay obstáculos, hay momentos que ellos rompen las
- 30:42reglas, por eso es parte del desarrollo del ser humano.
- 30:45Bueno, la exploración sexual también lo es.
- 30:46Ella no se había dado cuenta que iba a haber una línea, que los
- 30:49dijens se iban a querer cruzar, que ella no iba a permitir que
- 30:51cruzar. ¿Y por supuesto, el debate que
- 30:53mencioné es, tráfico sexual, qué es esto?
- 30:55Es explotación sexual, es lo mismo, más simplemente un ser
- 30:58humano aprendiendo a tener sexo y tomar esa decisión por sí
- 31:00solo. ¿Hablando de derechos, los
- 31:02derechos están muy basados en necesidad, no tienes un derecho
- 31:05a una vivienda, tienes derecho a protección legal, es el sexo un
- 31:08derecho? No puedes tener sexo con quien
- 31:10quieras, pero no es el sexo una necesidad física.
- 31:14En Alemania, también otros países, Suiza, Países Bajos,
- 31:16existen Marcos legales. ¿Que personas pueden acceder a
- 31:20servicios sexuales con discapacidades físicas o
- 31:22mentales? Me refiero a personas que, por
- 31:24ejemplo, no tienen valor en el típico mercado sexual de de la
- 31:27sociedad. Entonces estas personas con
- 31:29discapacidad usualmente utilizan lo que se llama la figura del
- 31:32asistente sexual. Hay casos de personas que han
- 31:34argumentado, para mi salud mental, para mi salud emocional,
- 31:37necesito practicar sexo con cierta frecuencia y a través de
- 31:40conceptos de bienestar pueden acceder a fondos para pagar ese
- 31:43servicio. ¿Y eso abre una lista sin fin de
- 31:45problemas y debates éticos, no? Se está violando el concepto de
- 31:49autonomía del cuerpo de la mujer.
- 31:50El Gobierno le está diciendo a alguien, tú puedes por derecho
- 31:54pagarle a esta persona para que te cumpla tu necesidad sexual.
- 31:58¿Puede la mujer, por muy extraño que suene como entidad legal en
- 32:01este caso, rechazar un cliente, ellos tienen el derecho a
- 32:04hacerlo, pueden ser demandadas por rechazar un cliente, es
- 32:06discriminación si pierde esa demanda, entonces qué estamos
- 32:09haciendo con una mujer? Muy interesante el debatir y
- 32:11vemos lo mismo en el cuento de Techer y con eso nos acercamos
- 32:14ya al final de la obra. A Ana le toca enfrentar una muy
- 32:17difícil decisión. Llega una nueva empresa y le
- 32:19ofrece a Ana un trabajo para participar en una migración
- 32:22tecnológica que aseguraría el futuro de los dijens que ella
- 32:26tanto ama por ahí. Una condición, el trabajo que
- 32:29hace polysop es tan alienante, exigente.
- 32:32Si ella acepta este trabajo en esa empresa, los empleados
- 32:34tienen que modificarse neuroquímicamente para tolerar
- 32:37el cambio emocional y cognitivamente.
- 32:39Imagínense una intervención a tu sistema nervioso para que
- 32:42aceptes las condiciones laborales.
- 32:44Algo que tú no aceptarías en tu estado actual va a tener que ser
- 32:47alterado. En otras palabras, tienes que
- 32:49modificarte a ti misma con tal de poder continuar protegiendo a
- 32:51esas criaturas que quieres casi como hijo, a los dichens, que
- 32:54nuevamente es otra metáfora del mundo moderno de parte de Chan,
- 32:57cuántos padres no hay en el mundo que por necesidad o por
- 33:01ganas de darle la mejor vida Asus hijos, trabajan en 40506070
- 33:05horas, trabajan en fines de semana en el proceso, cambian
- 33:08como personas para sacrificarse por los dichens.
- 33:10¿Y en esa posición que está Ana, qué hago?
- 33:12Pero al final no tuvo que tomar esa decisión.
- 33:14Derek decide aceptar la oferta de banner y desire, él migra a
- 33:18marco y a Polo. Él decidió, yo prefiero que
- 33:20estén vivos, a a apagarlos, a que mueran, que se conviertan
- 33:23obsoletos tecnológicamente y por ende humanamente.
- 33:27Es un gesto de amor, pero también de desesperación, así
- 33:29que Ana se siente conmovida por el gesto de Derek, pero también
- 33:32le duele. Literalmente han sido vendidos
- 33:34estos dijens. ¿Y aquí Chan nuevamente no
- 33:38pregunta sin respuestas fáciles, no era mejor dejarlos morir que
- 33:41emigrarlos a un mundo incierto? ¿Donde está el límite entre
- 33:43proteger y traicionar? Y con eso termina la novela, con
- 33:46ese tono íntimo esperanzador, Ana imagina un futuro donde
- 33:50Jacques, que ahora se mantiene vivo como dicen, se pudiera
- 33:53algún día integrar en la sociedad humana, ser reconocido
- 33:56legalmente, trabajar, amar, ser amado.
- 33:58Aunque al mismo tiempo ya sabe que nada está garantizado en la
- 34:01escena final como típica madre. Ella lo llama y le dice, se
- 34:04acabó el tiempo de juego, es hora de hacer tu tarea y ese es
- 34:07el final de la obra. Le he dicho anteriormente en los
- 34:10otros episodios que chang hace algo muy interesante en sus
- 34:13cuentos. Al final él explica por qué
- 34:15escribió el cuento, él da una especie de notas del autor, se
- 34:18las leo rápidamente. Basándonos en nuestra
- 34:21experiencia con las mentes humanas, se estima que tarda 20
- 34:24años de esfuerzo constante para formar una persona útil en el
- 34:27concepto de crianza. Básicamente yo no veo razón por
- 34:30la cual enseñar un ser artificial deba ser más rápido.
- 34:32Y fíjense que dijo, deba ser más rápido, no es que pueda ser más
- 34:35rápido, claramente puede ser más rápido, pero debería de serlo.
- 34:38¿Entonces ese objetivo es evidente a lo largo del relato?
- 34:40No. Ana, la protagonista, pasa mucho
- 34:42tiempo resistiendo a consumidores, empresas que no
- 34:46quieren invertir el y al ella dedicarle ese tiempo.
- 34:49Ella tiene una especie de transformación, al principio,
- 34:51ella ni siquiera quería aceptar el trabajo, ella estaba dudando
- 34:53un poco cuando su amiga le dijo que se viniera a Blugama
- 34:56entonces esa evolución como personaje de escéptica a
- 34:59defensora de los derechos de los Dickens.
- 35:01Refuerza la afirmación de Chan en sus notas, lo leo nuevamente.
- 35:05No importa si queremos que las inteligencias artificiales sean
- 35:08empleados, amantes, mascotas, sospecho que desempeñarán mejor
- 35:11su papel si durante su desarrollo hubo personas que se
- 35:15preocuparon por ella. Interesante el pensamiento, no
- 35:18porque dice así nuestro fin sea utilitario, el camino tiene que
- 35:22ser afectivo y ético. La calidad de la inteligencia
- 35:25artificial va a depender de nosotros, de la calidad humana,
- 35:27una inteligencia artificial que sea tratada como feto.
- 35:31Va a ser inestable, pobre e incompleta, mientras que una
- 35:34criada con empatía y respeto va a ser más capaz de convivir con
- 35:37nosotros, quizá un poco similar a la relación empresarial entre
- 35:41empleado y el jefe. O me tratas como ser humano, o
- 35:44ni tú me sirves ni yo te sirvo. Entonces me gustó el cuento
- 35:47porque no es tanto chan gritando Quieran a las máquinas, aunque
- 35:51sí está pidiendo ese afecto, ese cariño, sino que si las cuidamos
- 35:55nos van a devolver la mirada. A mí me intriga esa idea muy
- 35:59interesante, como siempre. El autor, no sé si vieron la
- 36:02noticia hace poco de SAM Olman, que es el CE o de o PN a esta
- 36:07compañía dueña de chanchipiti. No me quedó claro si se estaba
- 36:10quejando o no, pero él estaba diciendo de que si los usuarios
- 36:14colocamos, por favor, gracias. Puedes hacer esto si hablamos
- 36:18con el lenguaje común que espero las personas educadas usen en la
- 36:21vida real. Eso le cuesta a la empresa
- 36:23decenas de millones de dólares, porque cada palabra extra
- 36:26requiere más poder de procesamiento.
- 36:28En otras palabras, requiere más energía.
- 36:30¿Y qué distópico sería si el ser buena gente con las máquinas
- 36:34cueste más dinero? Y ya para terminar el episodio
- 36:36no pude evitar hacer paralelos con la obra principal para mí
- 36:39del concepto de jugar el papel de creador de inteligencia
- 36:43artificial que es Frankenstein de Mary Shelley episodio 24 en
- 36:47el podcast Victor Frankenstein, el doctor, El crea vida, el crea
- 36:51este monstruo, pero no se hace responsable de él y el resultado
- 36:54es la tragedia. Chang invierte eso.
- 36:57No, Ana sí asume responsabilidad por lo que ayudó a desarrollar.
- 37:01El resultado fue complejo, pero no sé si trágico en el proceso.
- 37:05Más bien aprendimos mucho de nosotros como seres humanos y
- 37:07aprendimos a lo que quizás va a ser la pregunta más importante
- 37:10más adelante, no es cuando la inteligencia artificial piensa o
- 37:14tiene conciencia, cuando deja de ser un instrumento artificial y
- 37:17se convierte en un instrumento vivo humano.
- 37:20Sino es cuando la inteligencia artificial importa.
- 37:24Importa porque tiene agencia, porque tiene deseo, porque tiene
- 37:26un sentido de sí misma, importa porque nosotros no invertimos
- 37:30tiempo, importa porque nosotros tenemos un lazo emocional con
- 37:33ella, es naturaleza humana, nos importa el otro.
- 37:36Y como le pasó a Ana con Jacques, no podemos ignorar la
- 37:39necesidad del otro, aunque ese otro no sea humano.
- 37:43Muchísimas gracias por escuchar. Nos vemos en el próximo episodio
- 37:45de Biblio Triana.