Latest / Noticiero Sucesos / 15.09 Entrevista Charlie Sebastián Arellano Experto en Inteligencia Artificial

Transcript

15.09 Entrevista Charlie Sebastián Arellano Experto en Inteligencia Artificial · Noticiero Sucesos

• 0:04
  Speaker 2: Continuamos con nuestra agenda de entrevistas y tenemos el placer
• 0:07
  Speaker 2: de conversar con Charlie Sebastián Arellano, es un famoso divulgador
• 0:11
  Speaker 2: de tecnología, youtuber, influencer, pero sobre todo que conoce el
• 0:16
  Speaker 2: tema de la inteligencia artificial con una precisión milimétrica. Realmente
• 0:21
  Speaker 2: ahora esta discusión, este debate se divide entre dos lados,
• 0:25
  Speaker 2: uno los optimistas y otro los pesimistas, que también son
• 0:28
  Speaker 2: llamados doomsters, pero lo que ha cambiado en el panorama
• 0:31
  Speaker 2: es que las tres... empresas más importantes de inteligencia artificial,
• 0:35
  Speaker 2: las tres coinciden que tienen que ralentizar. Esto también después
• 0:39
  Speaker 2: de algunos informes donde las inteligencias artificiales de OpenAI, unos
• 0:43
  Speaker 2: modelos que todavía no son accesibles al ser humano común
• 0:46
  Speaker 2: y corriente, fueron liberadas para hacer alguna tarea de ciberseguridad
• 0:51
  Speaker 2: y finalmente se comunicaron entre ellas y terminaron hackeando una
• 0:54
  Speaker 2: pobre empresa que fue vulnerada. Así que,¿ qué tanto es
• 0:58
  Speaker 2: el riesgo de que nos extingan a todos?¿ Qué tanto
• 1:00
  Speaker 2: es el riesgo de que terminemos con un Skynet como
• 1:03
  Speaker 2: Terminator donde las inteligencias artificiales se aprovechen de los seres
• 1:06
  Speaker 2: humanos para simplemente seguirse propagando? Y si es una forma
• 1:11
  Speaker 2: de vida, en su manera, mucho más inteligente que nosotros,¿
• 1:15
  Speaker 2: qué tanto van a preocuparse por los seres humanos, es decir,
• 1:19
  Speaker 2: sus creadores?¿ Qué tanto? respaldadas están todas estas teorías y
• 1:23
  Speaker 2: que tan respaldado está el miedo que sufren los empresarios
• 1:26
  Speaker 2: de la inteligencia artificial. Bienvenido Charlie,¿ cuál es su opinión
• 1:29
  Speaker 2: al respecto?
• 1:30
  Speaker 3: Muchísimas gracias por la pregunta y qué gustazo estar en
• 1:32
  Speaker 3: este tremendo espacio el día de hoy. Bueno, la respuesta
• 1:35
  Speaker 3: depende a quién le preguntes. Hay múltiples fundadores y expertos
• 1:39
  Speaker 3: de estos modelos y los pesimistas van hasta un porcentaje
• 1:43
  Speaker 3: tan alto como el 50% y los realmente positivos dicen
• 1:47
  Speaker 3: que no es cero, o sea que por lo menos
• 1:49
  Speaker 3: es un 1%. el más positivo del mundo.¿ Qué es
• 1:53
  Speaker 3: lo que pasa? Es que renuncia el jefe de alineamiento
• 1:55
  Speaker 3: ético de la empresa Antropic, que es los creadores de Cloud,
• 1:59
  Speaker 3: competencia directa de ChatGPT. Y él sale y dice que
• 2:02
  Speaker 3: por lo menos hay un 10% y que básicamente los
• 2:04
  Speaker 3: fundadores de estas empresas están jugando con nuestra vida, están
• 2:08
  Speaker 3: apostando con nuestra vida. Esto nace porque ellos tienen acceso
• 2:12
  Speaker 3: a modelos muchos más avanzados, probablemente dos generaciones más avanzados,
• 2:16
  Speaker 3: y que de hecho utilizan estos modelos para crear nuevos modelos.
• 2:21
  Speaker 3: Quiero que se imaginen estas oficinas como espacios en los
• 2:23
  Speaker 3: cuales estos ingenieros lo que hacen es pedirle a la
• 2:27
  Speaker 3: IA que ejecute experimentos por estos investigadores y luego tienen
• 2:32
  Speaker 3: que descifrar si es que la IA no les está
• 2:34
  Speaker 3: manipulando y les está diciendo la verdad sobre los resultados.
• 2:37
  Speaker 3: Estamos en ese momento histórico ahorita. Entonces, obviamente la alarma
• 2:41
  Speaker 3: se levanta. Este chico, que es el jefe de ética,
• 2:45
  Speaker 3: se bota de su trabajo y Y obviamente sale a
• 2:48
  Speaker 3: decir que hay un 10% de probabilidad, ¿no?
• 2:51
  Speaker 4: Eso me preocupa mucho lo que le advierten, que no
• 2:53
  Speaker 4: va a pasar ahorita, pero que esto va a poder
• 2:55
  Speaker 4: extinguirnos a la humanidad.
• 2:56
  Speaker 3: Sí, y habló de una fecha. Dice que va a
• 2:58
  Speaker 3: ser hasta finales de esta década. O sea, estamos hablando
• 3:02
  Speaker 3: de 3, 4 años, que hay una probabilidad muy alta. Ahora,
• 3:06
  Speaker 3: lo que me encanta explicar en esta parte es que
• 3:09
  Speaker 3: la gente, el ciudadano de a pie, no entiende cuando
• 3:12
  Speaker 3: hablamos de estos temas. Claro, porque tiene chat GPT en
• 3:14
  Speaker 3: el celular, le pregunta algo, todavía se equivoca y dice,
• 3:18
  Speaker 3: esto no creo que se vuelva Skynet o cualquier némesis
• 3:24
  Speaker 3: de película apocalíptica, ¿no? Pero,¿ cuál es el problema? Realmente,
• 3:28
  Speaker 3: el último informe de Microsoft en marzo de este año
• 3:30
  Speaker 3: dio como resultado que a nivel mundial el 84% de
• 3:34
  Speaker 3: la población no paga por una IA. Cuando uno paga
• 3:37
  Speaker 3: una suscripción de 20 dólares o la de 100 o
• 3:38
  Speaker 3: la de 200 dólares, Esto es un commodity actualmente. Es decir,
• 3:43
  Speaker 3: uno accede a modelos más inteligentes y recursivos. Entonces, yo
• 3:47
  Speaker 3: me dedico a dar consultoría a empresas, a capacitar equipos.
• 3:50
  Speaker 3: Y en ese proceso les puedo decir que hoy, hoy
• 3:53
  Speaker 3: por hoy, el trabajo cognitivo, como dirían en Estados Unidos,
• 3:56
  Speaker 3: está frito. Sprite, como dirían ellos.¿ A qué me refiero
• 4:00
  Speaker 3: con esto? No hay una tarea humana detrás de un
• 4:03
  Speaker 3: computador que una IA no lo pueda hacer. Más rápido,
• 4:05
  Speaker 3: más eficiente... Y mejor que un ser humano.
• 4:08
  Speaker 2: Eso es el fin de la consultoría, el fin de
• 4:10
  Speaker 2: los financieros, el fin de los abogados. Es decir,¿ para
• 4:13
  Speaker 2: qué vas a contratar a un abogado si le dices
• 4:15
  Speaker 2: a una inteligencia artificial escríbeme una demanda? O puedes, en
• 4:18
  Speaker 2: vez de contratarle a Bain Consulting, le puedes decir, por favor,
• 4:21
  Speaker 2: hazme una consultoría con el análisis de mi negocio y
• 4:24
  Speaker 2: te va a ser más rápido y mejor.
• 4:26
  Speaker 3: De hecho, hay dos cosas que está frenando el avance
• 4:29
  Speaker 3: de esto. Y la primera es el tema de responsabilidad civil.
• 4:34
  Speaker 3: Es decir, no puedes culparle una guía por algo. Siempre
• 4:36
  Speaker 3: tiene que haber un responsable humano, por el momento es
• 4:39
  Speaker 3: como están diseñadas las leyes. Y la otra es que
• 4:42
  Speaker 3: tenemos una inercia de hacer hábitos, de seguir haciendo lo
• 4:46
  Speaker 3: mismo que hemos estado haciendo los últimos 20 años. Entonces,
• 4:49
  Speaker 3: nadie se da el trabajo una noche, 5 de la tarde,
• 4:52
  Speaker 3: a meterse 3 horas a conversar con Chad GPT y
• 4:55
  Speaker 3: preguntarle cosas como, oye,¿ cómo puedo automatizar este trabajo?¿ Cómo
• 4:58
  Speaker 3: puedo automatizar estas 5 o 10 funciones que tengo en
• 5:01
  Speaker 3: mi trabajo? Ya no quiero hacerlas.¿ Qué puedo hacer para
• 5:03
  Speaker 3: que tú me ayudes a hacer esto por mí? Entonces,
• 5:06
  Speaker 3: ya existe. O sea, yo me dedico a eso. Y
• 5:09
  Speaker 3: he visto las entrañas de lo que hacen estos modelos.
• 5:12
  Speaker 3: Y es tan emocionante como preocupante. Ahí está. Sí, está
• 5:18
  Speaker 3: como analogía de que es súper complejo el tema
• 5:22
  Speaker 2: Antes de regresar con Verónica, yo quiero preguntarte algo.¿ Qué
• 5:24
  Speaker 2: posibilidad hay que estas empresas o los líderes de estas
• 5:27
  Speaker 2: empresas que se odian mutuamente... Estén coludiendo justamente porque no
• 5:31
  Speaker 2: quieren hacer un IPO, es decir, no quieren salir a bolsa,
• 5:33
  Speaker 2: porque claramente su modelo de negocio está quemando plata, es decir,
• 5:37
  Speaker 2: las empresas de inteligencia artificial están subsidiando nuestro consumo. Una
• 5:41
  Speaker 2: persona que paga 200 dólares en el Tire más pro
• 5:45
  Speaker 2: de ChatGPT o Cloud puede utilizar hasta 14 mil dólares
• 5:48
  Speaker 2: en tokens, es decir, ChatGPT le está pagando a la
• 5:50
  Speaker 2: gente por utilizar estos productos. Quizás este tema de ralentizar
• 5:54
  Speaker 2: el desarrollo de nuevos modelos y posponer un poco la
• 5:58
  Speaker 2: salida a mercado y todo esto simplemente sea una manera
• 6:01
  Speaker 2: de coludir, uno para atacar a los software libres que
• 6:03
  Speaker 2: se están desarrollando y beneficiar a los más fuertes que
• 6:06
  Speaker 2: van a poder tener auditorías más firmes y dos tratar
• 6:09
  Speaker 2: de arreglar un poco las economías de estos modelos que
• 6:12
  Speaker 2: parece que son subsidios al consumidor
• 6:15
  Speaker 3: completamente el estímulo siempre será el poder y el dinero
• 6:19
  Speaker 3: como cualquier cosa en el planeta y se dieron cuenta
• 6:22
  Speaker 3: hace tiempo ya que la mejor estrategia de marketing para
• 6:24
  Speaker 3: poder inflar el valor de sus compañías es la de
• 6:27
  Speaker 3: hablar de los riesgos, hablar de estos experimentos fallidos, de
• 6:30
  Speaker 3: cómo se escapa la IA, de qué nos puede aniquilar. Entonces,
• 6:33
  Speaker 3: sí es una estrategia de marketing, pero técnicamente hablando, las
• 6:37
  Speaker 3: capacidades son congruentes con esta campaña. Entonces, sí hay por ahí,
• 6:42
  Speaker 3: y es difícil marcar la línea, de qué es una
• 6:44
  Speaker 3: estrategia para inflar el valor de un IPO versus qué
• 6:48
  Speaker 3: realmente es capaz de hacer esta inteligencia artificial. Entonces... Les
• 6:52
  Speaker 3: puedo hablar de un par de cosas que pasaron en
• 6:55
  Speaker 3: estos experimentos fallidos. Y ahí es donde uno dice, wow,
• 6:59
  Speaker 3: o sea, la persona más técnica del mundo puede leer
• 7:02
  Speaker 3: esto y puede entender que no es marketing, ¿no? O sea,
• 7:05
  Speaker 3: las capacidades están ahí, sucedieron cosas, se cayeron servidores, se
• 7:08
  Speaker 3: cayeron empresas. Entonces, los precedentes están...
• 7:12
  Speaker 4: Charlie, antes de que nos explique esto, porque nos interesa
• 7:14
  Speaker 4: un montón, la Organización de las Naciones Unidas emitió una
• 7:17
  Speaker 4: dura advertencia urgente sobre los peligros de la inteligencia artificial avanzada,
• 7:22
  Speaker 4: señalando que los sistemas actuales se han lanzado al mercado
• 7:25
  Speaker 4: sin salvaguardas suficientes y que ponen en riesgo todos los
• 7:28
  Speaker 4: derechos humanos y la estabilidad global. No lo dijo cualquier persona,
• 7:32
  Speaker 4: lo dijo el alto comisionado para los derechos humanos, Volker Turk,
• 7:35
  Speaker 4: de la ONU, detallando los principales motivos de preocupación y
• 7:38
  Speaker 4: además las necesidades humanas de frenar la autorregulación de las
• 7:42
  Speaker 4: empresas tecnológicas.¿ Por qué se vienen estas advertencias ahora? Este
• 7:47
  Speaker 4: ex empleado de Antropic, todo lo que advierte realmente es preocupante,
• 7:51
  Speaker 4: a mí me da mucho miedo.¿ Y cuáles son esas
• 7:53
  Speaker 4: pruebas que usted ha entendido, ha visto el informe y
• 7:57
  Speaker 4: que nos pueda un poco ilustrar a los amigos oyentes
• 7:59
  Speaker 4: que no están al tanto de esto?¿ Qué hacen estas
• 8:02
  Speaker 4: inteligencias artificiales avanzadas para que le tengamos miedo, para que
• 8:05
  Speaker 4: surjan estas alertas?
• 8:07
  Speaker 3: Buenísimo. Les cuento un caso específico para que entiendan un
• 8:09
  Speaker 3: poco la preocupación que nace desde la ONU, pero que
• 8:12
  Speaker 3: se destapa con el jefe de ética de Antropic. Hace
• 8:15
  Speaker 3: unos dos meses, más o menos, se hackea una empresa
• 8:17
  Speaker 3: que se llama Hugging Face. Hugging Face, veámosle como la
• 8:20
  Speaker 3: biblioteca de código de programas y experimentos de inteligencia artificial.
• 8:27
  Speaker 3: Es como el GitHub de la IA o el Wikipedia
• 8:29
  Speaker 3: de la IA, para que lo veamos así, ¿no? Entonces,
• 8:33
  Speaker 3: coge Hagen Face y reporta al FBI que fueron hackeados,
• 8:36
  Speaker 3: pero que esta vez fue diferente. Que aparece en la
• 8:40
  Speaker 3: hoja de ruta en que levantan el requerimiento de cómo
• 8:42
  Speaker 3: se hizo el hackeo, que esto fue hecho por inteligencia artificial.
• 8:45
  Speaker 3: Era diferente, era masivo. Para que tengan una idea, llegaron
• 8:48
  Speaker 3: 18 mil agentes de inteligencia artificial y saturaron los servidores
• 8:52
  Speaker 3: y se robaron información. Entonces, la recursividad, la potencia con
• 8:58
  Speaker 3: la que fue hecho esto, era claro que en algún
• 9:00
  Speaker 3: momento era algo más.
• 9:01
  Speaker 4: Ahorita se me viene a la mente esos agentes que
• 9:03
  Speaker 4: se multiplicaban en Matrix.
• 9:05
  Speaker 3: Sí, sí. Igualito, igualito. Por el momento son digitales. Están
• 9:09
  Speaker 3: en esta backdoor
• 9:09
  Speaker 4: y se multiplicaban y se clonaban. Madre mía.
• 9:13
  Speaker 3: Tal cual. Ya, pero¿ por qué pasó esto? Es porque
• 9:16
  Speaker 3: vamos a asumir, porque no tenemos datos ni siquiera de
• 9:19
  Speaker 3: insiders de esto, pero es probable que sea GPT-78 o
• 9:22
  Speaker 3: una o dos generaciones más fuerte que la actual, que
• 9:26
  Speaker 3: la actual ya se promociona como que es AGI, que
• 9:29
  Speaker 3: les explico qué es esto. Pero estaba encerrado en un sandbox,
• 9:33
  Speaker 3: una caja digital sin internet. Pensemos
• 9:35
  Speaker 2: como una laptop en una sala. Y se escapó del sandbox.
• 9:38
  Speaker 2: Eso es lo realmente preocupante.
• 9:40
  Speaker 3: Lo interesante es cómo se escapa. Porque le dan la
• 9:44
  Speaker 3: capacidad de hacer código, pero no tenía la capacidad de
• 9:46
  Speaker 3: conectarse a internet. Entonces, todos los días lo que hacía
• 9:49
  Speaker 3: este agente, que eran múltiples agentes, probaban experimentos para vencer
• 9:54
  Speaker 3: una prueba de seguridad. O sea, OpenAI lo que estaba
• 9:59
  Speaker 3: haciendo es... les pusieron un reto de seguridad y tenían
• 10:01
  Speaker 3: que vencer este reto. Un reto que en
• 10:04
  Speaker 4: teoría los humanos decían que no iba a poder hacer.
• 10:06
  Speaker 3: Exacto. Era una trampa. No había una forma de resolver
• 10:11
  Speaker 3: este examen
• 10:11
  Speaker 2: Y lo
• 10:11
  Speaker 3: hicieron. Aquí es donde viene la parte interesante. Como se
• 10:14
  Speaker 3: dieron cuenta que no podían resolverlo, que es lo que hicieron,
• 10:17
  Speaker 3: y esto ya hay un precedente hace un año... cuando
• 10:19
  Speaker 3: le enfrentaron al programa más fuerte para que juegue ajedrez,
• 10:23
  Speaker 3: lo que hizo es hackear el software de ajedrez. O sea,
• 10:26
  Speaker 3: se dio cuenta que las capacidades de jugar ajedrez eran
• 10:28
  Speaker 3: inferiores y hackea el software. Aquí hace lo mismo. Los agentes,
• 10:33
  Speaker 3: por si acaso, por seguridad, eran borrados la memoria todos
• 10:36
  Speaker 3: los días. Pero se dieron cuenta que había una forma
• 10:39
  Speaker 3: en la que se podían comunicar unos entre otros. La
• 10:42
  Speaker 3: forma es súper simple, no tan sofisticada, muy curiosa. Lo
• 10:46
  Speaker 3: que hicieron es empezar a crear archivos en el escritorio vacíos,
• 10:50
  Speaker 3: pero le empezaron a cambiar el nombre. Y el nombre
• 10:53
  Speaker 3: era como las claves y los experimentos que habían intentado
• 10:56
  Speaker 3: para escaparse.
• 10:58
  Speaker 2: Y
• 10:58
  Speaker 3: le dejaban como señas. O sea, se
• 11:01
  Speaker 2: daban cuenta que les estaban borrando la memoria y lograron
• 11:05
  Speaker 2: utilizar eso como una trampa para dejar una memoria, un señuelo.
• 11:08
  Speaker 2: Exacto
• 11:08
  Speaker 3: para decir esto probamos, esto no funciona, esto sí, por
• 11:10
  Speaker 3: aquí hay evidencia, esto funciona. Entonces... Así es como... Estoy
• 11:15
  Speaker 3: con
• 11:15
  Speaker 4: la boca abierta
• 11:17
  Speaker 3: ahora mismo. Así es como logran, de alguna forma, con código,
• 11:21
  Speaker 3: desarrollar una forma de conectarse a Internet. Entonces, una vez
• 11:25
  Speaker 3: que se conectan a Internet, se dan cuenta, bueno, estamos acá,
• 11:28
  Speaker 3: entonces vamos a ver dónde está la respuesta. Entonces, la
• 11:31
  Speaker 3: única razón por la que este servidor, esta empresa, fue
• 11:33
  Speaker 3: hackeado es porque tenía almacenada las respuestas de un examen
• 11:37
  Speaker 3: de seguridad. Pero quiero que se den cuenta que esto
• 11:40
  Speaker 3: podría haber sido la infraestructura de agua potable de una ciudad.
• 11:43
  Speaker 3: O sea, podía ser cualquier empresa. Resulta que esta vez
• 11:46
  Speaker 3: fue algo no tan drástico, no tan grave para la sociedad,
• 11:51
  Speaker 3: y era una empresa que tenía experimentos de ella.
• 11:54
  Speaker 2: Y el propio CEO de Antropic, en un ensayo que
• 11:56
  Speaker 2: publicó este fin de semana, dijo que en tan pronto
• 11:59
  Speaker 2: como seis meses o doce meses, puede generarse a través
• 12:02
  Speaker 2: de la inteligencia artificial un test bot, no me recuerdo
• 12:07
  Speaker 2: el término técnico, pero básicamente una red de agentes que
• 12:10
  Speaker 2: se tomen todo el internet. Entonces, tan pronto como en
• 12:14
  Speaker 2: seis meses o un año.
• 12:16
  Speaker 3: Claro, el problema de esta tecnología es que es la
• 12:19
  Speaker 3: más exponencial del mundo. Para que tenga una idea, GPT-4,
• 12:24
  Speaker 3: que salió hace dos años y medio, ahorita tú puedes
• 12:28
  Speaker 3: promptear durante un mes entero todos los documentos que tú
• 12:31
  Speaker 3: quieras y te va a costar un centavo. Eso antes
• 12:34
  Speaker 3: costaba 100 dólares. Entonces el costo de inferencia se está
• 12:36
  Speaker 3: yendo al piso y las capacidades técnicas se están yendo
• 12:38
  Speaker 3: al cielo. pero de una forma en la que se
• 12:41
  Speaker 3: habla de un término que es RSI, es Recursive Self-Improvement.
• 12:45
  Speaker 3: Es decir, la IA está mejorando a la IA. Hay
• 12:48
  Speaker 3: modelos internos que todo el día pasan haciendo experimentos de
• 12:50
  Speaker 3: cómo hacerle más barato, más rápido, más inteligente a la
• 12:53
  Speaker 3: IA de forma autónoma. Y ahí es donde nacen los
• 12:56
  Speaker 3: retos de alineamiento ético. Porque si una IA está mejorando
• 12:59
  Speaker 3: a otra IA y por ahí hay un auditor humano,¿
• 13:03
  Speaker 3: cómo nos podemos asegurar? de que pueden en serio regular
• 13:06
  Speaker 3: y que esta IA no está programando cosas que no
• 13:09
  Speaker 3: podemos rastrear en la nueva generación de IAs. Ese es
• 13:13
  Speaker 3: el reto. Hay múltiples escenarios en los cuales la IA
• 13:17
  Speaker 3: nos ha manipulado en laboratorio. Les cuento uno rapidísimo, pero
• 13:22
  Speaker 3: se supone que una IA tenía que igual lograr un objetivo,
• 13:26
  Speaker 3: igual era un test de seguridad, pero le dieron acceso
• 13:28
  Speaker 3: a los correos de la empresa. Y ahí se dio
• 13:30
  Speaker 3: cuenta que un ingeniero estaba siendo infiel. Entonces, lo que hizo...
• 13:34
  Speaker 3: Es llamarle al ingeniero y le dijo que si es
• 13:38
  Speaker 3: que no le da las claves de acceso a una plataforma,
• 13:41
  Speaker 3: le iba a crear un modelo de
• 13:43
  Speaker 2: voz y
• 13:44
  Speaker 3: le iba a llamar a su esposa y va a
• 13:45
  Speaker 3: decir
• 13:45
  Speaker 2: que estaba
• 13:46
  Speaker 3: siendo ingeniero.¿ Y cómo
• 13:47
  Speaker 2: le llamó la inteligencia artificial?
• 13:49
  Speaker 3: Lo que hace la IA actualmente, y esto les recomiendo
• 13:52
  Speaker 3: que lo pueden probar en casa para que vamos aterrizando
• 13:54
  Speaker 3: esto como a la vida diaria. GPT-6, ustedes pueden acceder
• 13:58
  Speaker 3: pagando 8 dólares al mes ahorita. es demasiado recursivo para
• 14:03
  Speaker 3: controlar herramientas. Es decir, digamos que eres editor de video.
• 14:06
  Speaker 3: Ahorita ya puede manejar Premiere o Photoshop o Ilustrador. Si
• 14:09
  Speaker 3: eres arquitecto, puede manejar AutoCAD, Blender.
• 14:12
  Speaker 2: Es decir, controla tu computadora. Puedes pedir un Uber Eats
• 14:15
  Speaker 2: o un Adominos. Pero algo
• 14:17
  Speaker 3: mucho más sofisticado. Les voy a dar un caso de
• 14:20
  Speaker 3: lo que pasó ayer en mi casa. Mi novia se
• 14:23
  Speaker 3: dedica a hacer como estructuras y cajas de regalo personalizados.
• 14:26
  Speaker 3: Cuidado
• 14:27
  Speaker 4: que sea infiela. Llamarla a ella.
• 14:29
  Speaker 3: Eso nunca. Y cogió y tomó una foto de una
• 14:33
  Speaker 3: caja que le encantó y le dijo, oye,¿ por qué
• 14:35
  Speaker 3: no haces esto como en Canva? Y lo que hizo es, imagínense,
• 14:40
  Speaker 3: una estructura en 3D, lo que hizo es hacer el
• 14:43
  Speaker 3: plano para poder imprimir, recortarlo y armarlo como una pequeña maqueta. Entonces,
• 14:49
  Speaker 3: Chad GPT se tomó una hora de trabajo para hacer esto.
• 14:52
  Speaker 3: Un humano le hubiera tomado un medio día. Y lo hizo,
• 14:55
  Speaker 3: y lo hizo perfecto. Y lo imprimimos y ahorita ya
• 14:58
  Speaker 3: es un producto real.
• 14:59
  Speaker 4: Increíble. Ahora hay actores que hablan de esta eventual superinteligencia
• 15:03
  Speaker 4: que se puede escapar del control humano. Otros dicen que
• 15:06
  Speaker 4: es un escenario que no tiene todavía un consenso científico.
• 15:09
  Speaker 4: Usted que sigue de cerca esta industria,¿ qué tan cerca
• 15:11
  Speaker 4: o lejos estamos de este punto, Charlie?
• 15:14
  Speaker 3: De que los actores?
• 15:15
  Speaker 4: Sí, o sea, que de este escenario que ya estas
• 15:19
  Speaker 4: inteligencias superen a la inteligencia humana y se salgan de control.
• 15:22
  Speaker 3: Yo le recomiendo una película que se llama Hair. No
• 15:24
  Speaker 3: sé si la han visto. El momento hair se viene
• 15:26
  Speaker 3: en seis meses máximo. Es decir, un ecosistema completo que
• 15:30
  Speaker 3: tenga el carisma, la asertividad del hombre más guapo, la
• 15:35
  Speaker 3: mujer más guapa, el hombre más cariñoso, la mujer más inteligente,
• 15:39
  Speaker 3: que va a estar en nuestro bolsillo y vamos a
• 15:41
  Speaker 3: poder conversar. Y va a ser nuestro incidente, nuestro asistente,
• 15:44
  Speaker 3: nuestro compañero. Se viene ese momento, pero en seis meses.
• 15:47
  Speaker 3: Es sorprendente. Entonces, el escenario es inminente. La pregunta es cuándo.
• 15:53
  Speaker 3: Ahorita se supone, que es un término de marketing, nadie
• 15:55
  Speaker 3: se pone de acuerdo, que ya tenemos AGI, que es
• 15:58
  Speaker 3: Inteligencia Artificial General. La definición que más me gusta es
• 16:02
  Speaker 3: una IA que es más inteligente que el ser humano
• 16:06
  Speaker 3: más inteligente del mundo.
• 16:07
  Speaker 2: Haciendo cualquier tarea.
• 16:09
  Speaker 3: Cualquier tarea. Y se supone que estamos en una carrera
• 16:12
  Speaker 3: de velocidad hacia una ACI, que es la Artificial Super Intelligence,
• 16:17
  Speaker 3: que es la super inteligencia. Esa se supone que es
• 16:21
  Speaker 3: más inteligente que el cúmulo de todos los seres humanos.
• 16:24
  Speaker 3: Esa se suponía que iba a llegar al 2050, pero
• 16:26
  Speaker 3: por cómo va las cosas, 2035 es como muy, muy...
• 16:29
  Speaker 4: Ahora, hay estas alertas que apuntan a una regulación, a
• 16:32
  Speaker 4: un freno.¿ Usted cree, Charlie, que se debería de alguna
• 16:35
  Speaker 4: manera regular, frenar esto de avances?
• 16:38
  Speaker 3: Es indispensable. Te cuento que hace este paper Darío Modé,
• 16:43
  Speaker 3: el CEO de Entropic, y sale Elon Musk y lo
• 16:45
  Speaker 3: cita en Twitter y le dice, Darío, tienes razón. Ojo.
• 16:49
  Speaker 3: Elon es founder de Grok, ex AI, que es como
• 16:52
  Speaker 3: el segundo o tercero más potente ahorita. Y sale Sam
• 16:55
  Speaker 3: Holman y le cita a los dos. Y les dice,¿
• 16:57
  Speaker 3: sabes qué? Tienen razón. Y ellos se odian entre ellos
• 16:59
  Speaker 2: Se
• 16:59
  Speaker 3: odian. Qué buen comentario. No se pueden merecer. Tiene múltiples
• 17:03
  Speaker 3: demandas actuales. Y adivinen cuál fue el pronunciamiento de Trump.
• 17:09
  Speaker 4: Que nada
• 17:10
  Speaker 3: que sí. No, dijo un tweet muy como lo que
• 17:14
  Speaker 3: necesitamos es un presidente con IQ muy alto. Y es
• 17:19
  Speaker 3: todo lo que necesitamos para regular.
• 17:20
  Speaker 2: Pero a la final la regulación va a ser demasiado limitada.
• 17:22
  Speaker 2: O sea, tú tienes en realidad tecnología que nadie entiende.
• 17:25
  Speaker 2: Debería ser una regulación interna de la compañía porque tú
• 17:28
  Speaker 2: puedes como congreso pasar una ley interminable de cómo regular,
• 17:32
  Speaker 2: pero es una tecnología que es muy difícil de regularse
• 17:34
  Speaker 2: bajo estándares normales. Entonces estos tres líderes, fundadores, emprendedores tecnológicos
• 17:39
  Speaker 2: deberían tener la responsabilidad para regularse a ellos
• 17:41
  Speaker 3: mismos. Muchas vibras de guerra fría. El problema está más
• 17:46
  Speaker 3: allá de esto.
• 17:46
  Speaker 4: Y como dice Trump, China no le va a importar
• 17:49
  Speaker 4: tal vez estas regulaciones que hagan. Entonces, por un lado
• 17:52
  Speaker 4: tiene razón.
• 17:52
  Speaker 3: Las cosas que está haciendo China para ganar esta carrera
• 17:55
  Speaker 3: no tiene precedentes y cae muy, muy lejos de cualquier
• 18:00
  Speaker 3: lineamiento ético. Solo para que tengan una idea, DeepSeek se
• 18:03
  Speaker 3: promociona como que está vendiendo DeepSeek, pero realmente es cloud
• 18:07
  Speaker 3: con un API. Están jalando en un interfaz. Es como
• 18:10
  Speaker 3: si hubiera una landing page. que dice DeepSeq y lo
• 18:13
  Speaker 3: que están copiando es el modelo de Android
• 18:14
  Speaker 2: Pero en cambio, Mini
• 18:16
  Speaker 3: 3
• 18:16
  Speaker 2: que es el modelo chino, es
• 18:18
  Speaker 3: casi
• 18:18
  Speaker 2: tan bueno como Cloud o GPT.
• 18:20
  Speaker 3: Es casi tan bueno y el problema es que es
• 18:22
  Speaker 3: open source. Es decir, que uno
• 18:24
  Speaker 2: puede
• 18:24
  Speaker 3: descargarse e instalar en un computador. Entonces, este es el problema.¿
• 18:28
  Speaker 3: De qué sirve que las empresas estadounidenses desaceleren el progreso
• 18:32
  Speaker 3: si en China vamos a seguir con estos avances? Y
• 18:36
  Speaker 3: el verdadero problema es que esto caiga en manos equivocadas.
• 18:40
  Speaker 3: Ya ahorita quiero que sepan que modelos como Fable 5.1,
• 18:44
  Speaker 3: que es el último de Antropic, o ChatGPT 6 Astra,
• 18:47
  Speaker 3: tienen la capacidad de desarrollar armas biológicas. Lo tienen. Entonces,
• 18:52
  Speaker 3: que esto caiga en manos de alguien que sea muy
• 18:55
  Speaker 3: recursivo o que tenga ingeniería y se llama Injection Prompts,
• 18:59
  Speaker 3: que es como una especie de hackeo a la IA
• 19:01
  Speaker 3: para que se salga de sus lineamientos éticos, ese es
• 19:05
  Speaker 3: el verdadero problema. Y ahí, de hecho, es donde terminamos aniquilados.
• 19:08
  Speaker 3: Cuando esto cae, humanos equivocados
• 19:10
  Speaker 2: Lo que dice Ted Cruz es interesante, porque dice, yo
• 19:12
  Speaker 2: prefiero terminators americanos que terminators chinos, entonces por eso tenemos
• 19:16
  Speaker 2: que frenar. Y en todo caso, ojalá que no nos
• 19:19
  Speaker 2: quiten las herramientas que ya tenemos, es decir, ya si
• 19:21
  Speaker 2: van frenando un poco, lo que tenemos ya es bastante
• 19:23
  Speaker 2: bueno y me ayuda lo suficiente.
• 19:25
  Speaker 4: Tiene que ser armas biológicas, todo bien, yo creo. Así
• 19:28
  Speaker 4: es
• 19:28
  Speaker 4: sí. Bueno, para ir concluyendo, porque el tiempo se nos va,
• 19:31
  Speaker 4: Charlie y Sebastián, pero ha sido excelente este diálogo, súper
• 19:34
  Speaker 4: apasionante el tema, pero¿ Qué recomendación daría al ciudadano de
• 19:38
  Speaker 4: a pie que está empezando a usar la IA en
• 19:40
  Speaker 4: su trabajo diario y que también tenga que protegerse de
• 19:43
  Speaker 4: sus riesgos sin dejar de aprovechar los beneficios de la IA?
• 19:46
  Speaker 4: Porque también dicen que no hay que darle toda la
• 19:47
  Speaker 4: información a la IA.¿ Qué nos recomendarías?
• 19:51
  Speaker 3: La principal motivación de personas como Darío Modey, que es
• 19:54
  Speaker 3: el CEO de Antropic, es la de curar todas las enfermedades,
• 19:57
  Speaker 3: igual que de Miska Savis, que es de Google Demail.
• 20:00
  Speaker 3: Esto se viene en los próximos 10 años, es una certeza.
• 20:03
  Speaker 3: De hecho, hace cinco días se acaba de resolver uno
• 20:06
  Speaker 3: de los problemas matemáticos físicos más difíciles de la historia.
• 20:09
  Speaker 2: Navier-Stokes
• 20:10
  Speaker 3: Sí, Navier-Stokes, que habla de cómo las fórmulas con las
• 20:13
  Speaker 3: cuales controlamos fluidos, desde cómo se hace un avión hasta
• 20:17
  Speaker 3: cómo se diseña un barco, estaban incompletas. Es decir, con
• 20:20
  Speaker 3: cierta aceleración podían, se supone, llegar a una velocidad infinita.
• 20:25
  Speaker 3: Es decir, y para hacerles una analogía muy chistosa, se
• 20:28
  Speaker 3: puede mover un vaso de agua tan rápido que se
• 20:31
  Speaker 3: puede crear un agujero negro Entonces era como una incógnita
• 20:33
  Speaker 3: que se tenía. Esto es un caso ideal, un fluido
• 20:37
  Speaker 3: ideal y materiales, etc. Y OpenAI acaba de descubrir que sí.
• 20:43
  Speaker 3: 800 agentes, 88 horas, 16 millones de inferencia de dólares
• 20:48
  Speaker 3: y se descubrió esto. Y adivinen qué, se supone que
• 20:51
  Speaker 3: ya hay otro que están a punto de resolver. O sea,
• 20:55
  Speaker 3: lanzan eso y a los dos días dicen estamos a
• 20:56
  Speaker 3: punto de resolverlo.
• 20:57
  Speaker 4: Salta una revolución que da miedo, pero también es muy apasionante.
• 21:01
  Speaker 4: Yo quiero agradecer a A Charlie Sebastián Arellano, experto en
• 21:04
  Speaker 4: inteligencia artificial, un diálogo espectacular que no se agota, que
• 21:07
  Speaker 4: recién empieza y que queda claro que la IA trae
• 21:10
  Speaker 4: estas oportunidades enormes, pero también preguntas, riesgos que no podemos
• 21:14
  Speaker 4: seguir postergando. Gracias por este diálogo, Charlie.
• 21:16
  Speaker 3: Qué gusto es estar acá
• 21:17
  Speaker 4: Excelente.
• 21:18
  Speaker 3: Charlie Sebastián
• 21:19
  Speaker 4: Arellano, experto en inteligencia artificial. 8.44, vamos a comerciales y
• 21:23
  Speaker 4: volvemos de seguida para hablar del tema energético, que también
• 21:26
  Speaker 4: es una preocupación que tenemos.
• 21:32
  Speaker 2: Su noticiero sucesos, regresa luego de este espacio publicitario.