Latest / Diario de Sesiones / La Inteligencia Artificial en el Congreso - Diario de Sesiones - Cap. 9

Transcript

La Inteligencia Artificial en el Congreso - Diario de Sesiones - Cap. 9 · Diario de Sesiones

0:05
Speaker 2: Diario de Sesiones, un recorrido por el funcionamiento parlamentario y
0:09
Speaker 2: entrevistas a quienes hacen las leyes. Una producción de PSN Radio.
0:29
Speaker 3: Cómo le va? Esto es Diario de Sesiones. Nos volvemos
0:32
Speaker 3: a reencontrar por aquí, por BCN Radio, por la radio
0:34
Speaker 3: de la Biblioteca del Congreso Nacional, en un Congreso que está,
0:38
Speaker 3: sin dudas, atravesado por las discusiones que está planteando el
0:42
Speaker 3: Poder Ejecutivo. Por un lado, lo que tiene que ver
0:45
Speaker 3: con el tema netamente político y electoral, pensando en el
0:49
Speaker 3: año 2027, pensando en las elecciones presidenciales y pensando en
0:53
Speaker 3: una reforma política que el Presidente de la Nación busca
0:57
Speaker 3: junto a la Secretaria General de la Presidencia, Karina Milei,
1:01
Speaker 3: junto al Jefe de Gabinete, Diego Santilli, acuerdos con los
1:06
Speaker 3: gobernadores para que esos acuerdos parlamentarios, políticos, terminan en el
1:11
Speaker 3: recinto del Senado Nacional y en la Cámara de Diputados,
1:15
Speaker 3: lugares donde se tiene que discutir esta reforma política y
1:18
Speaker 3: que necesita, por ser cambios en legislación electoral, mayorías especiales.
1:23
Speaker 3: Un mínimo de 37 votos a favor en el Senado
1:25
Speaker 3: y un mínimo de 129 votos a favor en la
1:29
Speaker 3: Cámara de Diputados. No es fácil lograr esas mayorías en
1:33
Speaker 3: bloques del oficialismo que arrancan con menos legisladores, arrancan con
1:37
Speaker 3: 21 senadores y necesitan llegar a 37 y necesitan ahí
1:42
Speaker 3: acuerdos políticos y la construcción de mayorías. Y por el
1:46
Speaker 3: otro lado, los temas que también está planteando el Ejecutivo
1:49
Speaker 3: y que estamos viendo permanentemente, la discusión del presupuesto 2027,
1:53
Speaker 3: un tema central para cualquier administración, qué es lo que
1:57
Speaker 3: va a pasar con la ley de tierras, qué es
1:59
Speaker 3: lo que va a pasar con los fondos para discapacidad
2:02
Speaker 3: y qué es lo que va a pasar con el
2:03
Speaker 3: desendeudamiento de las familias. Por ahí está la actividad que
2:08
Speaker 3: cruza el Congreso de la Nación, que cruza ambas cámaras
2:10
Speaker 3: del Congreso en la República Argentina. Pero también hay otros temas.
2:15
Speaker 3: También hay temas que es de interés mundial y que
2:19
Speaker 3: Argentina empieza a prestarle atención. Veremos cuándo empieza también una
2:23
Speaker 3: discusión en los recintos de las cámaras o en las
2:28
Speaker 3: comisiones del Senado o de la Cámara de Diputados. Por
2:31
Speaker 3: ahora son jornadas. Empiezan a hablar en el Congreso y
2:35
Speaker 3: más específicamente en el Senado de la inteligencia artificial. Y
2:40
Speaker 3: quien estuvo motorizando esto de implementar la inteligencia artificial también
2:45
Speaker 3: en el marco de la modernización de la actividad en
2:48
Speaker 3: el Parlamento argentino es Dolores Martínez, prosecretaria parlamentaria de la
2:54
Speaker 3: Cámara Alta. Dolores, gracias por estar en Diario de Sesiones,
2:58
Speaker 3: por estar en BSN Radio, en la radio de la
3:00
Speaker 3: Biblioteca del Congreso.
3:01
Speaker 4: No, por favor, Fer, muchas gracias a vos y muchas
3:05
Speaker 4: gracias también al espacio que genera la Biblioteca del Congreso.
3:08
Speaker 4: Me parece fundamental para esto, ¿no? Podamos difundir ideas, propuestas,
3:13
Speaker 4: debates que están sobre la mesa de la discusión. En
3:17
Speaker 4: este caso, el tema que me convocaste, Inteligencia Artificial, que
3:22
Speaker 4: Por supuesto, no es un tema local nuestro, sino que
3:26
Speaker 4: es un tema global. Así que te súper agradezco que
3:29
Speaker 4: podamos estar conversando de esto.
3:30
Speaker 3: Bueno, es un poco la idea, ¿no? Porque estamos viendo
3:32
Speaker 3: permanentemente muchas discusiones que mencionábamos, grandes temas que discute el
3:37
Speaker 3: Congreso y que lo vemos en la mayoría de los medios.
3:41
Speaker 3: Tratamos también de volcar en nuestro espacio algunos temas que
3:45
Speaker 3: a veces pasan desapercibidos. Le prestan mucha atención cuando organizan
3:50
Speaker 3: estos eventos porque... la participación en la jornada de un
3:54
Speaker 3: solo día fue convocante, muy convocante, y es importante empezar
4:01
Speaker 3: a reflejarlo esto, porque en algún momento va a tener
4:04
Speaker 3: que llegar a la discusión de esos proyectos que los diputados,
4:08
Speaker 3: los senadores, van acumulando en las comisiones, pero que nunca
4:11
Speaker 3: se empiezan a tratar. Exactamente, es la
4:13
Speaker 4: idea... A veces es difícil porque, bueno, en el Congreso
4:20
Speaker 4: hay distintos roles que cumplir. Entonces, un rol cumple estrictamente
4:25
Speaker 4: la política y otro rol cumple estrictamente un funcionario, que
4:29
Speaker 4: es el rol que me toca a mí hoy particularmente.
4:33
Speaker 4: En mi caso, bueno, a veces por mi experiencia y
4:38
Speaker 4: por haber ocupado distintos lugares, por suerte tengo esa posibilidad
4:42
Speaker 4: de poder pasar un poquito esas barreras o esos límites.
4:46
Speaker 4: y siempre lo hago con mucho respeto, entendiendo cuáles son
4:51
Speaker 4: los roles de cada uno, es decir, yo entiendo la
4:55
Speaker 4: dificultad política de tratar la cuestión de la regulación de
4:59
Speaker 4: la inteligencia artificial a nivel nacional en la Argentina, sobre
5:04
Speaker 4: todo porque este es un debate que está en plena
5:08
Speaker 4: discusión a nivel global, pero me parece fundamental que con
5:14
Speaker 4: la responsabilidad que tenemos como funcionarios públicos veamos qué está
5:18
Speaker 4: pasando con el uso de la inteligencia artificial, al menos
5:22
Speaker 4: en el caso nuestro, en el marco del Senado de
5:24
Speaker 4: la Nación. Ayer hablaba un poco que me atrevo a
5:27
Speaker 4: hablar que es en el marco también del Congreso de
5:29
Speaker 4: la Nación y quería, y por eso invitamos también, mirar
5:33
Speaker 4: qué es lo que están haciendo las legislaturas provinciales al respecto.
5:38
Speaker 4: Por varios motivos, el principal, Fer, vos sabés y lo
5:42
Speaker 4: sabe todo el mundo porque esto está instalado en la
5:45
Speaker 4: opinión pública, lo que está pasando a nivel global con
5:48
Speaker 4: la inteligencia artificial. Por un lado, la avanzada que tiene
5:52
Speaker 4: su uso, porque es una herramienta que es muy accesible,
5:57
Speaker 4: aún hay modalidades gratuitas de utilizar inteligencia artificial, pero aún
6:03
Speaker 4: las modalidades pagas de uso de inteligencia artificial son son
6:07
Speaker 4: bastante accesibles, podríamos decir. Entonces, el uso que se está
6:11
Speaker 4: haciendo de este tipo de herramientas es tremendamente alto y
6:17
Speaker 4: muy difuso. Digamos, se utiliza en diversas actividades y en
6:22
Speaker 4: la vida personal incluso de las personas, ¿no? En la
6:25
Speaker 4: vida privada de las personas, de los chicos, de los niños,
6:28
Speaker 4: de niños y de adolescentes, de niños incluso. Y ha
6:33
Speaker 4: salido en las últimas semanas, ya venimos en realidad hace
6:37
Speaker 4: varios meses con este tema de que son los propios
6:41
Speaker 4: empleados de estas empresas gigantes de inteligencia artificial que están diciendo, ojo,
6:47
Speaker 4: que acá se están pasando límites muy graves respecto a
6:51
Speaker 4: su uso ético, responsable.¿ Qué significa esto? Porque todo el mundo,
6:54
Speaker 4: por ahí todos lo escuchamos y no sabemos muy bien Bueno,
6:58
Speaker 4: las herramientas tecnológicas tienen que tener alguna frontera al respecto,
7:02
Speaker 4: que está como de moda no decir regular, porque parece
7:06
Speaker 4: que estamos hablando como de una mala palabra. Pero bueno,
7:09
Speaker 4: esto es lo que se está diciendo.¿ Cuál es la frontera?
7:12
Speaker 4: Las inteligencias artificiales parece ser que están pasando esos límites.
7:16
Speaker 4: Estamos hablando de cuestiones que tienen que ver con la seguridad,
7:19
Speaker 4: con la seguridad, con la defensa nacional, con la soberanía.
7:23
Speaker 4: con cuestiones de sistematización de procesos que pueden ser que van,
7:30
Speaker 4: no sé, desde una aerolínea que alguien pueda, una inteligencia
7:33
Speaker 4: artificial pueda hackear una aerolínea. O sea, estamos hablando cosas
7:37
Speaker 4: que son graves y son muy difíciles de abordar porque
7:40
Speaker 4: son muy complejas.
7:41
Speaker 3: Claro, sin dudas. Ahora, cuando uno ve que los líderes
7:45
Speaker 3: mundiales empiezan a armar y llevar adelante cumbres con el
7:51
Speaker 3: tema inteligente artificial, personajes a lo mejor muy polémicos como
7:59
Speaker 3: el presidente de los Estados Unidos, Donald Trump, pero que dice, no,
8:02
Speaker 3: este tema tenemos que empezar a hablarlo. Cuando uno ve
8:05
Speaker 3: la primera encíclica del Papa León XIV que hace referencia
8:08
Speaker 3: a la inteligencia artificial, esto quiere decir que hay que
8:13
Speaker 3: hacer algo, que algo se está yendo de las manos.
8:16
Speaker 4: Lo dicen incluso los propios dueños, desarrolladores de la inteligencia artificial,
8:22
Speaker 4: lo cual es, en algún punto genera una tensión y
8:26
Speaker 4: genera que le prestemos realmente atención, porque, digo, cuando son
8:30
Speaker 4: los propios desarrolladores de la inteligencia artificial que están diciendo, no,
8:35
Speaker 4: ahora necesitamos del Estado que se fije a ver qué
8:39
Speaker 4: límites ponerle, porque a nosotros se nos está escapando de
8:42
Speaker 4: las manos, digo, es por lo menos un llamado de
8:46
Speaker 4: atención importante. Yo, a mí no me gusta, obviamente, ni demonizar,
8:50
Speaker 4: ni traer acá, digamos, cuestiones como si este fuese el
8:53
Speaker 4: fin del mundo, porque yo creo que lo que se
8:56
Speaker 4: está diciendo es, este es un tema que hay que
8:58
Speaker 4: darle bola. Mirá, para poner un ejemplo muy concreto, Fer,
9:03
Speaker 4: ayer lo hablábamos en la jornada.¿ Hace cuánto tiempo que
9:08
Speaker 4: venimos utilizando redes sociales? ¿10, 15 años masivamente? Bueno. Desde
9:14
Speaker 4: entonces se viene trabajando algunos países mucho más, otros nada,
9:19
Speaker 4: u otros solo debatiendo, como es el caso de la Argentina,
9:22
Speaker 4: sobre la regulación de los entornos digitales. Hoy eso sí
9:26
Speaker 4: es una agenda que está en ambas cámaras del Congreso.
9:29
Speaker 4: Yo creo que es un tema donde efectivamente en algún
9:31
Speaker 4: punto se va a avanzar, pero la verdad es que
9:34
Speaker 4: es un debate que viene hace 10 años. Y hoy
9:36
Speaker 4: vemos los resultados de en todo este tiempo no haber
9:40
Speaker 4: establecido contornos para el uso de las redes sociales, sobre
9:45
Speaker 4: todo en niños, niñas y adolescentes, y hoy vemos las consecuencias.
9:49
Speaker 4: Hoy vemos qué está pasando con la educación, qué está
9:51
Speaker 4: pasando con el aprendizaje y qué está pasando con la
9:54
Speaker 4: salud mental. Hoy en la Argentina tenemos, lamentablemente, cifras realmente
10:00
Speaker 4: escalofriantes sobre qué está pasando con los suicidios, sobre todo
10:03
Speaker 4: en adolescentes. Y en parte tiene que ver el impacto
10:09
Speaker 4: que vienen teniendo desde hace 10 años acumulado en las
10:12
Speaker 4: redes sociales en los chicos, en los niños, niñas y adolescentes.
10:18
Speaker 4: Y ahora sí estamos diciendo, no, efectivamente tenemos que encontrarle
10:22
Speaker 4: la vuelta jurídicamente a este asunto. Bueno, yo lo que
10:26
Speaker 4: planteo es que estamos en esa instancia con la inteligencia artificial.
10:30
Speaker 4: No esperemos 10 años más para ver qué impacto tiene
10:35
Speaker 4: porque ya es tarde. O sea, estamos viendo que las
10:37
Speaker 4: redes sociales, o en este caso, mal usada la tecnología,
10:41
Speaker 4: genera efectos indeseados en la educación y en la salud
10:47
Speaker 4: mental mundial. de todas las personas, pero específicamente de los chicos. Entonces,
10:52
Speaker 4: ese es un poco el disparador del debate. Y la
10:57
Speaker 4: verdad que, como bien decía, tuvo por suerte muy buena repercusión, porque, insisto,
11:02
Speaker 4: este tema, tanto con los senadores como con los diputados,
11:05
Speaker 4: hay que buscarle la vuelta para poder trabajarlo, porque son
11:08
Speaker 4: temas que no deberían caer en la grieta. Si nosotros
11:13
Speaker 4: caemos en la grieta, que de hecho la grieta a
11:15
Speaker 4: nivel global ya está instalada respecto a la inteligencia artificial,
11:18
Speaker 4: esto es la regulación sí o sí, pero si regulamos
11:23
Speaker 4: nos va a llevar al atraso tecnológico y la desregulación
11:27
Speaker 4: total y entonces no sabemos cuáles son los efectos indeseados
11:32
Speaker 4: que es el impacto del uso de la inteligencia. Yo
11:34
Speaker 4: creo que si podemos madurar al respecto deberíamos encontrar diversos
11:39
Speaker 4: caminos y los hay y ayer... Sobre esos diversos caminos
11:43
Speaker 4: estuvimos conversando la jornada.
11:44
Speaker 3: Se quedaron con ganas de más?¿ Se quedaron con ganas
11:47
Speaker 3: de una nueva jornada?¿ O dijeron, bueno, cumplimos, terminamos, organizamos
11:52
Speaker 3: esto y salió bárbaro, le ponemos punto final?
11:55
Speaker 4: No, nos quedamos con ganas de más porque efectivamente, mirá,
11:59
Speaker 4: ayer vinieron algunos especialistas, entre otros, Argentina, bueno, sabés que
12:05
Speaker 4: siempre expertos, por suerte, y buenos expertos, a nosotros nos
12:09
Speaker 4: sobran y sobre todo con temas de tecnología, economía del conocimiento.
12:14
Speaker 4: La verdad que Argentina produce unos profesionales bárbaros. Y ayer
12:19
Speaker 4: tuvimos la presencia de Juan Corbalán, a quienes invito, a
12:21
Speaker 4: quienes no lo conocen, que lo puedan seguir, y el
12:23
Speaker 4: trabajo que él hace desde el IALAB, que es un
12:26
Speaker 4: laboratorio de inteligencia artificial que tiene la Facultad de Derecho
12:29
Speaker 4: de la Universidad de Buenos Aires. Y habló de varias
12:33
Speaker 4: cosas que me parecen muy interesantes. En primer lugar... Hoy
12:38
Speaker 4: le escribí y le contaba, nos corrió la frontera. Nosotros
12:41
Speaker 4: estamos trabajando en el Senado de la Nación para tratar
12:45
Speaker 4: de que podamos llevar adelante un esquema de gobernanza dentro
12:49
Speaker 4: del ámbito del Senado de la Nación de la inteligencia artificial.
12:51
Speaker 4: Lo cuento rápidamente, que es que podamos establecer pautas de
12:55
Speaker 4: cómo la estamos usando.¿ Por qué? Porque todo el mundo
12:57
Speaker 4: la está usando en el Senado, un senador... un funcionario,
13:01
Speaker 4: un asesor, un agente, un trabajador del Senado de la
13:06
Speaker 4: Nación que utiliza cualquiera de estas inteligencias artificiales pagas para
13:10
Speaker 4: poder solucionar los cuellos de botella constantes que tenemos, que
13:13
Speaker 4: es la burocracia parlamentaria. Entonces nosotros sabemos que nos va
13:17
Speaker 4: a servir para eso. Lo que no sabemos bien es
13:19
Speaker 4: qué es lo que estamos haciendo con esos datos y
13:21
Speaker 4: con esa información. Y entonces eso puede correr riesgos por
13:24
Speaker 4: un lado, y por otro lado yo creo que nos
13:26
Speaker 4: estamos perdiendo la posibilidad de potenciar su uso. tanto para
13:30
Speaker 4: dentro del Senado como para afuera, que es brindarle mejor
13:33
Speaker 4: servicio respecto a la información que generamos al ciudadano, a
13:37
Speaker 4: los periodistas, a los académicos. Eso por un lado. Y
13:41
Speaker 4: vino Juan Corbanal y nos dijo, está bien esto, pero ojo,
13:44
Speaker 4: porque no es fácil de solucionarlo, hay que ir más allá. Entonces,
13:51
Speaker 4: él está hablando incluso de, hay un libro que publicó
13:54
Speaker 4: sobre el sedentarismo cognitivo,¿ Qué quiere decir esto? Que estamos
13:59
Speaker 4: todo el tiempo utilizando inteligencia artificial y estamos perdiendo nuestra
14:02
Speaker 4: propia masa crítica para hacer nuestro trabajo. Entonces, ojo con
14:07
Speaker 4: esas cuestiones. Ojo con esas cuestiones. Y también habló de
14:11
Speaker 4: esto que te traía hoy acá a la mesa, de
14:13
Speaker 4: las implicancias que tiene en este sedentarismo cognitivo, el uso
14:17
Speaker 4: de inteligencia artificial, sobre todo en niños y jóvenes. Entonces, digo,
14:23
Speaker 4: nos trajeron alertas. hablamos con Andy Williamson, que es un
14:27
Speaker 4: experto en monitorear la modernización parlamentaria en los parlamentos del mundo.
14:35
Speaker 4: Es un experto, la verdad, yo estoy muy contenta que
14:37
Speaker 4: haya participado ayer en el Senado porque es un lujo tenerlo.
14:43
Speaker 4: Y también nos dijo, bueno, están todos los congresos como
14:46
Speaker 4: en la misma situación. Algunos han avanzado un poco más
14:49
Speaker 4: y otros un poco menos. Y la verdad que nos
14:50
Speaker 4: brindó elementos para que nosotros podamos autoevaluarnos y ver en
14:55
Speaker 4: qué nivel estamos y hacia dónde podríamos establecer una hoja
15:01
Speaker 4: de ruta en este sentido que te digo, potenciar su
15:03
Speaker 4: uso para el bien de la eficiencia en la burocracia
15:06
Speaker 4: parlamentaria y minimizar riesgos. Y además estuvo presente Isolina Correa,
15:12
Speaker 4: que es la directora general de Relaciones Internacionales, que participó
15:17
Speaker 4: con la Presidenta del Cuerpo, Victoria Villarroel, y una delegación
15:20
Speaker 4: de senadores de distintos bloques políticos, en lo que fue
15:24
Speaker 4: el foro iberoamericano de parlamentos la semana pasada en Madrid.
15:30
Speaker 4: Y ahí uno de los temas principales fue qué está
15:33
Speaker 4: pasando con la inteligencia artificial, cómo la estamos usando y
15:36
Speaker 4: qué podemos hacer. Así que también nos contó las conclusiones
15:40
Speaker 4: que se llegaron en ese foro, Y la verdad que, bueno,
15:44
Speaker 4: por suerte fue una alegría porque dije, bueno, estamos encauzados.
15:47
Speaker 4: Nosotros también estamos con la misma mirada y con la
15:49
Speaker 4: misma preocupación. Y luego, otra cosa interesante, Fer, es que
15:54
Speaker 4: las legislaturas provinciales están en la misma situación. Claro. Entonces,¿
15:59
Speaker 4: buscamos herramientas que nos ayuden a ser más eficientes en
16:02
Speaker 4: nuestro trabajo? OK.¿ Lo necesitamos? Sí, porque nos permite desburocratizar,
16:08
Speaker 4: pero nos permite también tener mayor calidad en la información.
16:13
Speaker 4: tanto para aportarle mejor a los senadores al debate parlamentario
16:16
Speaker 4: y tanto para aportarle esa información a quienes consumen y
16:20
Speaker 4: a quienes merecen esa información porque es obligación del Senado,
16:24
Speaker 4: que son los ciudadanos.
16:25
Speaker 3: Claro, sin dudas. Me parece como que los parlamentos del
16:29
Speaker 3: mundo van avanzando lentamente. Obviamente hay coyunturas mundiales que impactan
16:38
Speaker 3: hoy La situación de guerra, lo que sucede entre Rusia
16:42
Speaker 3: y Ucrania, lo que sucede entre los Estados Unidos e
16:46
Speaker 3: Irán e Israel, impactan globalmente. Entonces es posible que los
16:51
Speaker 3: parlamentos estén utilizando mucho de los tiempos de cada uno
16:54
Speaker 3: de sus parlamentarios en discutir temas como qué pasa con
16:59
Speaker 3: el hambre, qué pasa con los combustibles, qué pasa con
17:03
Speaker 3: la inflación, qué pasa con las situaciones económicas. Y van descuidando...
17:08
Speaker 3: este otro debate. Y vemos también, un poco con lo
17:11
Speaker 3: que decíamos al principio, Argentina cruza temas que son muy interesantes,
17:18
Speaker 3: propuestos por el Ejecutivo, propuestos por los legisladores, pero que
17:22
Speaker 3: no están tratando este tema central de la inteligencia artificial.
17:26
Speaker 3: A lo mejor en algún momento, algún parlamento despega un
17:30
Speaker 3: poco más y termina marcando o una regulación o un encuadre,
17:35
Speaker 3: como uno lo quiera llamar, y empiezan el resto del
17:38
Speaker 3: mundo a copiar. A lo mejor todos juntos, y en
17:41
Speaker 3: eso sirve también la experiencia de Congreso Iberoamericano, que nucleó
17:47
Speaker 3: a grandes parlamentos de Europa y de la región.
17:50
Speaker 4: Sí, yo creo que hay que animarse a dar esa discusión.
17:54
Speaker 4: Y dar esa discusión, digamos, el objetivo final sería tomar
18:01
Speaker 4: una decisión si se regula o no se regula, o
18:04
Speaker 4: cómo se regula. Porque en definitiva puede ser una regulación
18:08
Speaker 4: muy hard, muy fuerte, muy al fondo de la cuestión,
18:11
Speaker 4: o soft, más leve, ¿sí? O por sectores. Pero lo
18:16
Speaker 4: que yo creo que no deberíamos hacer es poner abajo
18:21
Speaker 4: de la alfombra el tema, ¿no? Incluso para eso lo
18:24
Speaker 4: que primero se necesita hacer es saber de qué estamos hablando.
18:28
Speaker 4: Y yo creo que ese es lo más complejo de
18:33
Speaker 4: este tema. Entender muy bien, porque es muy difícil también.
18:36
Speaker 4: Yo estoy a favor de que regular per se la
18:39
Speaker 4: inteligencia artificial por solo regularla no tiene sentido porque en
18:43
Speaker 4: seis meses cambia. Y te
18:44
Speaker 3: digo,
18:44
Speaker 4: seis meses y es mucho. Eso también. En dos, en tres, mañana. Entonces...
18:50
Speaker 4: Yo creo que eso no tiene un sentido estricto, pero
18:54
Speaker 4: sí es importante que sepamos qué es, que sepamos a
18:59
Speaker 4: dónde impacta, que contemos con datos. que contemos con experiencias, que,
19:04
Speaker 4: de vuelta, tenemos gente muy experta en la Argentina que
19:07
Speaker 4: puede ayudarnos a pensar este tema en el Congreso de
19:10
Speaker 4: la Nación. Entonces, hacer un debate serio
19:13
Speaker 3: ¿sí? Y además plantear las advertencias. Es decir, ojo con
19:17
Speaker 3: los datos personales.
19:18
Speaker 4: Bueno, también está esa cuestión que la verdad que estoy
19:21
Speaker 4: empezando a estudiarla porque en un principio había una idea, digamos,
19:28
Speaker 4: con la que todos nos... Nos conversábamos al respecto, todos, digo,
19:34
Speaker 4: adentro del Senado, los que tenemos posibilidad de tomar algún
19:38
Speaker 4: tipo de decisión, decíamos, bueno, los datos son públicos,¿ qué
19:41
Speaker 4: problema hay que nosotros los trabajemos con las inteligencias artificiales?
19:45
Speaker 4: Y la verdad que no es así, o sea, son públicos,
19:49
Speaker 4: pero hay que cuidarlos. la privacidad de determinados datos. Y
19:52
Speaker 4: sí es muy importante que todos esos procesos nosotros terminemos institucionalizándolos. Entonces,¿
19:58
Speaker 4: la idea cuál es? No meter el tema abajo de
20:01
Speaker 4: la mesa. En cuanto a la gente que trabaja en
20:04
Speaker 4: el Senado, a nuestros empleados y a nuestros funcionarios, Brindar
20:08
Speaker 4: herramientas para que todos tengan el conocimiento sobre el uso
20:11
Speaker 4: de la inteligencia artificial. Y con los senadores, por supuesto,
20:14
Speaker 4: trabajar en buscar espacios de diálogo y que podamos nutrirnos
20:19
Speaker 4: todos de qué es la inteligencia artificial y qué amerita
20:23
Speaker 4: a que le pongamos foco y qué cosas no. porque
20:28
Speaker 4: todo el tiempo va cambiando, ¿no
20:29
Speaker 3: Claro, sin dudas. Así que
20:30
Speaker 4: un poco esa es la idea.
20:31
Speaker 3: Bueno, por último, es importante y ojalá te haya quedado
20:35
Speaker 3: también esa percepción que los senadores quieren discutir este tema.
20:39
Speaker 4: Sí, la verdad que más allá de los que acompañaron ayer,
20:43
Speaker 4: algunos no pudieron estar presentes, pero la verdad que me
20:46
Speaker 4: expresaron que están muy interesados. Digo, encuentro dificultades para la
20:52
Speaker 4: discusión política por esta cuestión más macro que te dije,
20:55
Speaker 4: que no es solo de la Argentina. Pero hay voluntad,
20:57
Speaker 4: hay voluntad de aprender, hay voluntad de conocer, hay voluntad
21:00
Speaker 4: de convocar a los que saben. Así que, bueno, espero
21:04
Speaker 4: y para eso trabajamos los que queremos que se pueda
21:07
Speaker 4: dar un debate serio en el Congreso de la Nación
21:09
Speaker 4: respecto a qué está pasando con la inteligencia artificial.
21:12
Speaker 3: Dolores Martínez, Prosecretaria Parlamentaria del Senado, gracias por haber estado
21:16
Speaker 3: aquí en BCN Radio, en la radio y en la
21:18
Speaker 3: biblioteca del Congreso Nacional.
21:20
Speaker 4: Muchísimas gracias, cuando quieras.
21:21
Speaker 3: Gracias. Vamos a ir a una pausa muy breve y
21:25
Speaker 3: enseguida nos vamos a conectar y vamos a estar conversando
21:28
Speaker 3: sobre este tema, sobre inteligencia artificial con un académico, Luis Lozano,
21:32
Speaker 3: de la Facultad de Ciencias Sociales de la Universidad de
21:35
Speaker 3: Buenos Aires. Muy bien, último bloque de diario de sesiones
22:00
Speaker 3: del día de hoy. Ya vamos a conectarnos con el
22:03
Speaker 3: profesor Luis Lozano. Luis, buenas tardes,¿ cómo le va?
22:07
Speaker 6: Hola, buenas tardes,¿ cómo están, Fernando?
22:09
Speaker 3: Bien, muy bien. Bueno, Luis Lozano es el co-coordinador de
22:13
Speaker 3: la Diplomatura en Inteligencia Artificial y Sociedad de la Facultad
22:16
Speaker 3: de Ciencias Sociales de la UBA. Profesor, veníamos hablando en
22:22
Speaker 3: el programa respecto a esta jornada que ha realizado también
22:27
Speaker 3: el Senado Nacional respecto a la implementación de la inteligencia
22:32
Speaker 3: artificial en el marco de la actividad parlamentaria, en el
22:36
Speaker 3: marco de la modernización del... de los congresos, y específicamente
22:42
Speaker 3: en el Congreso Argentino. Y queríamos consultarlo un poco sobre
22:45
Speaker 3: este tema, Luis.¿ Cómo se está preparando el mundo también
22:50
Speaker 3: en el tema de la inteligencia artificial? Porque se viene
22:52
Speaker 3: hablando hace mucho, vemos que los jefes de Estado vienen
22:56
Speaker 3: trabajando en ese tema, las empresas de la misma manera.
23:00
Speaker 3: Me parece que la sociedad en su conjunto tenemos que
23:03
Speaker 3: estar más amigados con la inteligencia artificial.
23:08
Speaker 6: Sí, me parece que el tema se volvió ineludible. Cuando
23:12
Speaker 6: algunos de nosotros empezamos a trabajar esto, en mi caso
23:15
Speaker 6: vengo de una trayectoria de estudio de la regulación de
23:20
Speaker 6: las comunicaciones en general. Hablábamos de telecomunicaciones, audiovisual, luego servicios
23:25
Speaker 6: de comunicación audiovisual. Ese debate fue permeando luego hacia la
23:29
Speaker 6: discusión sobre la necesidad de regular la responsabilidad de las
23:32
Speaker 6: plataformas en Internet, particularmente de las redes sociales. Te hago
23:37
Speaker 6: esta genealogía para que veamos que la discusión sobre la
23:40
Speaker 6: necesidad de gobernar la inteligencia artificial no nace de un
23:43
Speaker 6: día para el otro ni aparece por generación espontánea. Pero sí,
23:48
Speaker 6: por supuesto, la aceleración propia del fenómeno de la IA
23:52
Speaker 6: trajo también consigo nuevos desafíos. Pero esos desafíos, creo, estoy
23:55
Speaker 6: convencido de que abrevan en esta historia de regulación y
23:59
Speaker 6: de grandes ausencias de problemas de gobernanza. Principalmente,¿ por
24:03
Speaker 3: qué se pueden dar estos problemas?
24:09
Speaker 6: Creo que la velocidad de los cambios institucionales, esto lo
24:13
Speaker 6: dicen varios autores, no es para nada un descubrimiento mío,
24:16
Speaker 6: va muy por detrás de la aceleración del cambio tecnológico
24:23
Speaker 6: y de las decisiones que por acción o omisión toman
24:26
Speaker 6: los grandes capitales que son especialmente concentrados en estas industrias
24:32
Speaker 6: a un nivel que registra pocos antecedentes en la historia
24:35
Speaker 6: de la humanidad. Claro, sin
24:36
Speaker 3: lugar a dudas. Y es ahí el gran desafío que
24:40
Speaker 3: tienen los hombres y las mujeres de las instituciones públicas
24:47
Speaker 3: en cada uno de los países de este mundo
24:51
Speaker 6: Sí, es un desafío enorme. Primero estar al día de
24:54
Speaker 6: lo que está pasando en términos tecnológicos, conocerlo, entenderlo, por
24:58
Speaker 6: más que uno no se especialice en la cuestión técnica,
25:01
Speaker 6: no sea ingeniero, no sea desarrollador o experto en la
25:04
Speaker 6: ciencia de datos. tiene que lograr un conocimiento bastante avanzado
25:08
Speaker 6: del componente técnico para poder dar determinados debates. Eso ya
25:12
Speaker 6: es difícil para nosotros que nos dedicamos casi con la
25:17
Speaker 6: mayor exclusividad posible dentro de nuestras obligaciones profesionales, pero nos
25:20
Speaker 6: dedicamos a estudiar este tema. Me imagino y lo sé
25:23
Speaker 6: mucho más para un legislador o legisladora que tiene una
25:26
Speaker 6: agenda mucho más amplia. pero aún así es primordial que
25:30
Speaker 6: lo hagan, que le den a este tema la prioridad
25:33
Speaker 6: que fue adquiriendo, que se formen tanto en la cuestión
25:36
Speaker 6: técnica como en los temas, por supuesto, de usabilidad, y
25:40
Speaker 6: todo esto sin perder la escala humana. Ahí también aparece
25:45
Speaker 6: la encíclica del Papa, las demandas de los organismos internacionales
25:48
Speaker 6: de derechos humanos, los posicionamientos de UNESCO y de Naciones Unidas,
25:52
Speaker 6: del sistema interamericano de derechos humanos que reclaman retomar una
25:57
Speaker 6: gobernanza centrada en la persona humana. Eso me parece que
26:00
Speaker 6: para los legisladores y legisladoras debería ser un horizonte fundamental.
26:05
Speaker 6: Pero a la vez, tener esa buena intención, ese horizonte claro,
26:08
Speaker 6: como lo tienen, estoy seguro, muchos y muchas de ellas,
26:12
Speaker 6: pero desconocer los componentes técnicos y económicos de este fenómeno
26:16
Speaker 6: no alcanza. Hay que estar lo más empapado posible.
26:20
Speaker 3: Claro, sin dudas. Lo que se ve, y la sociedad
26:24
Speaker 3: ve también, en lo que tiene que ver con las agendas,
26:28
Speaker 3: por lo menos del Congreso de la República Argentina, son, digamos,
26:33
Speaker 3: excepciones las reuniones como la que vivió el Senado en
26:39
Speaker 3: las últimas horas, respecto al análisis y a la mirada,
26:46
Speaker 3: no solo de legisladores, sino también de especialistas sobre la
26:48
Speaker 3: inteligencia artificial. Hoy las agendas del Congreso pasan por otro lado.
26:53
Speaker 3: Parece como que el tema de la inteligencia artificial queda
26:57
Speaker 3: en las declaraciones de organismos internacionales, la declaración que hizo
27:02
Speaker 3: la encíclica del sumo pontífice, León XIV, pero que no
27:06
Speaker 3: está metida en la discusión diaria del Congreso Nacional.
27:12
Speaker 6: Sí, hay más o menos medio centenar de proyectos dando vueltas,
27:17
Speaker 6: pero no parece haber un reflejo en la actividad concreta
27:21
Speaker 6: de la agenda. Y además esto contrasta mucho con la
27:25
Speaker 6: actividad sectorial. Nosotros vemos... En el periodismo, en el marketing,
27:30
Speaker 6: en la publicidad, en el mercado editorial, en el mercado
27:35
Speaker 6: de producción audiovisual, en la industria, en las pymes industriales,
27:40
Speaker 6: en todos lados se está discutiendo inteligencia artificial. No hay
27:43
Speaker 6: reunión sectorial de sectores profesionales, productivos, etcétera, que no tengan
27:50
Speaker 6: en el centro de su agenda el impacto de la
27:52
Speaker 6: IA en el sector. Tanto y sobre todo en términos
27:55
Speaker 6: de empleo, de reconversión, de posible pérdida de empleo en
27:58
Speaker 6: algunos casos particulares, como de eficacia, cambio en los procesos, etcétera.
28:06
Speaker 6: Y esa discusión, que sectorialmente es muy rica hoy en Argentina,
28:10
Speaker 6: no parece tener su correlato todavía a nivel de legislatura nacional.
28:15
Speaker 6: Incluso sí ha permeado en algunas legislaturas provinciales que sancionaron leyes,
28:20
Speaker 6: inclusive a nivel municipal. Hay ordenanzas municipales, como en el
28:23
Speaker 6: caso de Rosario, que son bien interesantes en una adopción
28:27
Speaker 6: del tema. Pero el Congreso Nacional todavía parece estar en
28:31
Speaker 6: otras cosas.
28:31
Speaker 3: Claro, sin dudas.¿ Usted cómo lo ve cuando... tiene que
28:39
Speaker 3: avanzar con el tema de la inteligencia artificial frente a
28:42
Speaker 3: sus alumnos.¿ Los jóvenes están utilizando cada vez más la
28:47
Speaker 3: inteligencia artificial?¿ Están reemplazando actividades que antes desarrollaban de otra
28:52
Speaker 3: manera y ahora lo hacen vía inteligencia artificial?
28:56
Speaker 6: Sí, lo que nosotros vemos es que los niveles de
28:58
Speaker 6: adopción en los estudiantes, por lo menos a nivel universitario,
29:02
Speaker 6: que es lo que yo más conozco, crecen año tras
29:05
Speaker 6: año en las encuestas, en los relevamientos formales e informales
29:08
Speaker 6: que hacemos. La adopción es alta y lo vemos también
29:11
Speaker 6: los que estamos frente a un curso, es fácil distinguirlo.
29:15
Speaker 6: Pero lo que vemos es que hay un problema en
29:17
Speaker 6: el modo en que se está llevando adelante esa adopción,
29:21
Speaker 6: porque muchas veces es sin ningún tipo de capacitación acerca
29:24
Speaker 6: de un uso crítico de estas tecnologías. Los estudiantes entregan
29:28
Speaker 6: datos personales, entregan parte de su creatividad propia, de sus productos,
29:33
Speaker 6: de su imagen, de su voz, sin ningún tipo de resguardo. Además,
29:38
Speaker 6: a veces aparecen, por supuesto, usos digitales. la inteligencia artificial
29:41
Speaker 6: reñidos con los reglamentos éticos propios de una institución educativa,
29:45
Speaker 6: cuestiones de plagio, de resolución de ejercicios que se espera
29:50
Speaker 6: que den una creatividad personal con uso de la inteligencia artificial.
29:54
Speaker 6: Pero digo, no culpo de esto a los estudiantes. Lo
29:56
Speaker 6: que creo, una vez más, como decíamos al principio, es
29:58
Speaker 6: que las instituciones estamos yendo a un ritmo lento en
30:02
Speaker 6: comparación con la adopción. Entonces, lo que nuestros estudiantes, como
30:05
Speaker 6: nuestros trabajadores, como nuestros usuarios y consumidores necesitan es más acompañamiento,
30:12
Speaker 6: más formación en el uso de estas tecnologías y, por supuesto,
30:16
Speaker 6: algunas reglas que delimiten su gobierno. Claro, sin
30:19
Speaker 3: lugar a dudas. Es importante, es interesante... La utilización de
30:24
Speaker 3: la inteligencia artificial, la utilización en el buen sentido de
30:28
Speaker 3: la inteligencia artificial, porque como todo puede utilizarse de una
30:34
Speaker 3: manera o de otra.
30:40
Speaker 6: Y por eso también vemos resultados que son realmente muy
30:44
Speaker 6: alentadores de la aplicación de estas tecnologías, sobre todo en
30:47
Speaker 6: ámbitos de salud y otros, y que pueden tener una
30:50
Speaker 6: proyección de beneficio para la humanidad. Pero a la vez
30:55
Speaker 6: tenemos que tener en cuenta que son tecnologías que nacieron
30:58
Speaker 6: con un sesgo muy ligado al capital ultraconcentrado, cuyo gobierno
31:04
Speaker 6: está en manos de muy pocas personas, de estos tecnomagnates,
31:07
Speaker 6: en pos de intereses que a veces están reñidos con
31:09
Speaker 6: el bienestar general, muchas veces. que están reñidos con la democracia,
31:14
Speaker 6: que están reñidos con el respeto de los derechos fundamentales.
31:17
Speaker 6: Entonces ahí estas herramientas ya nacen desde su concepción con
31:22
Speaker 6: esos sesgos y lo que tenemos que buscar es la
31:24
Speaker 6: manera de contrarrestar.
31:26
Speaker 3: Claro, es por eso ahí lo importante y lo interesante
31:29
Speaker 3: de la regulación. Ponerse a trabajar pensando en cómo se
31:36
Speaker 3: puede acompañar el crecimiento tecnológico sin la necesidad de que
31:43
Speaker 3: este crecimiento y este impulso termine perjudicando a la humanidad.
31:51
Speaker 6: Exacto, y a la vez superando esa antinomia que para
31:54
Speaker 6: mí es falsa y que nos deja en un lugar
31:56
Speaker 6: de mucha incapacidad, que es la de que la regulación
32:01
Speaker 6: mata la innovación. De que la mejor ley sobre estos fenómenos,
32:05
Speaker 6: como se ha dicho sobre tantos otros, es la que
32:06
Speaker 6: no existe. Porque si regulamos, matamos la innovación. Realmente no
32:12
Speaker 6: es así. La experiencia de muchos países del mundo demuestra
32:16
Speaker 6: que no es así. Digo, desde Corea del Sur, Australia
32:20
Speaker 6: y más cerca Chile, lo que se está debatiendo en
32:23
Speaker 6: proyecto de ley en Brasil. Se puede regular y acompañar
32:28
Speaker 6: la innovación, pero a la vez gobernarla en función del
32:31
Speaker 6: bien común. Eso es lo que pienso.
32:33
Speaker 3: Y ahí está el desafío. Profesor,¿ cómo está trabajando la
32:37
Speaker 3: UBA este tema?
32:41
Speaker 6: Bueno, te digo, hay varias iniciativas en el ámbito de
32:44
Speaker 6: la universidad en sentido amplio. No conozco todas, yo te
32:49
Speaker 6: puedo hablar más de lo que trabajamos desde... Mi facultad,
32:52
Speaker 6: que es la Facultad de Ciencias Sociales, pero hay antecedentes
32:55
Speaker 6: de todas las facultades que están desarrollando asistentes, que están
32:59
Speaker 6: desarrollando protocolos, tanto herramientas técnicas como herramientas normativas al interior
33:06
Speaker 6: de cada facultad. En el caso puntual nuestro, desde la
33:09
Speaker 6: Facultad de Ciencias Sociales, en mi caso también desde la
33:11
Speaker 6: carrera de Ciencias de la Comunicación, en la que doy
33:13
Speaker 6: clases hace muchos años y en la que me gradué,
33:16
Speaker 6: en mi título de grado, lo que buscamos es reponer
33:21
Speaker 6: la mirada de las ciencias sociales en la regulación de
33:25
Speaker 6: este fenómeno. nos parece fundamental. Una mirada que en el inicio,
33:30
Speaker 6: en estos primeros años de aceleración del fenómeno de la
33:34
Speaker 6: inteligencia artificial, estuvo ausente y que creemos que tiene mucho
33:39
Speaker 6: para aportar. Esa mirada es la que va a hablar
33:41
Speaker 6: de la usabilidad, las condiciones de adopción, la escala humana,
33:46
Speaker 6: eso que pensábamos que te mencionaba antes, como retomar una
33:49
Speaker 6: escala humana. Bueno,¿ Qué impacto tienen estas tecnologías en la
33:53
Speaker 6: circulación del sentido en nuestras sociedades? Porque no podemos pensarlas
33:57
Speaker 6: ya como apenas una herramienta técnica. Creemos que son sistemas sociotécnicos.
34:03
Speaker 6: Que tienen una faz técnica, pero que también tienen, y
34:05
Speaker 6: sobre todo, un aspecto social que incide en nuestros vínculos
34:09
Speaker 6: muy profundamente. Hoy lo vemos, sin ir más lejos, en
34:12
Speaker 6: los casos de afectaciones de salud mental, en las consultas
34:17
Speaker 6: que muchos usuarios hacen a sistemas de inteligencia artificial por
34:20
Speaker 6: problemas de salud mental y los desafíos que esto plantea
34:23
Speaker 6: para estas plataformas para poder derivar a esos usuarios a
34:26
Speaker 6: un sistema de salud real y no contestar mediante un bot.
34:30
Speaker 6: Pero hay mucho para pensar en este campo.
34:33
Speaker 3: Claro, no es casualidad que el Papa León XIV, su
34:38
Speaker 3: primera encíclica, haya hecho referencia a la inteligencia artificial.
34:44
Speaker 6: No, para nada, y creo que fue también el resultado
34:47
Speaker 6: de una serie de reuniones, de encuentros que tuvo con
34:50
Speaker 6: líderes de las distintas empresas, y que se nota mucho
34:54
Speaker 6: en la encíclica, está este balance entre una direccionalidad, que
34:59
Speaker 6: es la propia, de la doctrina de la Iglesia, pero
35:04
Speaker 6: también mucha información acerca del fenómeno que nos permite tener
35:07
Speaker 6: pautas concretas para abordarlo. No es solo una declaración de
35:12
Speaker 6: buenas intenciones, sino que es mucho más.
35:14
Speaker 3: Claro, sin dudas. Para finalizar, profesor Luis Lozano, estamos en
35:19
Speaker 3: la radio de la Biblioteca del Congreso Nacional.¿ Qué mensaje
35:24
Speaker 3: le deja a los legisladores nacionales respecto a este tema?
35:29
Speaker 6: Bueno, Creo que los legisladores pueden tomar a su cargo
35:34
Speaker 6: un debate, que es el debate macro por una ley
35:36
Speaker 6: nacional que es necesaria. Hay antecedentes en la región y
35:40
Speaker 6: en el mundo para guiar ese debate. Hay proyectos de
35:43
Speaker 6: ley presentados, algunos de ellos con mucha... con mucho trabajo
35:48
Speaker 6: y con mucha dedicación detrás, me consta, y creo que
35:52
Speaker 6: está el camino dado para que los legisladores nacionales trabajen
35:56
Speaker 6: en la adopción y discusión de esos proyectos y la
35:59
Speaker 6: sanción de una ley nacional. Ahora también estamos viendo en
36:03
Speaker 6: otros países que este fenómeno desgrana en regulaciones menores, legislaciones
36:09
Speaker 6: a nivel provincial, instrumentos municipales, incluso normativas de gobernanza público-privada,
36:17
Speaker 6: acuerdos en las negociaciones colectivas de los sindicatos. Entonces me
36:21
Speaker 6: parece que quizá el Congreso también... No es necesario que
36:27
Speaker 6: se piense con la presión de regular hasta el aspecto
36:30
Speaker 6: más micro de la usabilidad de la IA. No creo
36:33
Speaker 6: que ese sea el rol del Congreso Nacional, sino más
36:36
Speaker 6: bien establecer un marco general bajo el cual puedan desarrollarse
36:41
Speaker 6: las otras iniciativas de gobernanza.
36:43
Speaker 3: Profesor Luis Lozano, co-coordinador de la Diplomatura en Inteligencia Artificial
36:49
Speaker 3: y Sociedad de la Facultad de Ciencias Sociales de la UBA,
36:53
Speaker 3: gracias por estos minutos con BCN Radio, con la radio
36:58
Speaker 3: de la Biblioteca del Congreso Nacional. Muchas gracias a
37:01
Speaker 6: ustedes, a disposición.
37:03
Speaker 3: Gracias. Muy bien, bueno, un debate muy interesante, un debate
37:08
Speaker 3: que sin lugar a dudas no finaliza aquí, no finaliza
37:12
Speaker 3: con lo que fue el último encuentro que realizó el
37:15
Speaker 3: Senado Nacional respecto al tema de la inteligencia artificial, un
37:19
Speaker 3: debate que se va a prolongar durante mucho tiempo, que
37:23
Speaker 3: vamos a ir viendo cómo diferentes países van sancionando normas,
37:27
Speaker 3: van sancionando leyes, y Argentina va a ir tomando también
37:31
Speaker 3: alguna de ellas, hasta que la dirigencia política, los legisladores nacionales,
37:37
Speaker 3: los diputados, los senadores, e incluso el Gobierno Nacional tomen
37:41
Speaker 3: la decisión de dar el paso y de plantear la
37:47
Speaker 3: discusión ya en los ámbitos del Congreso, en los ámbitos
37:51
Speaker 3: de las comisiones de cada una de las cámaras legislativas,
37:55
Speaker 3: de proyectos que tengan que ver con lo que nos
37:57
Speaker 3: decían nuestros invitados, la regulación para bien de la inteligencia
38:03
Speaker 3: artificial en Argentina y, por supuesto, en el mundo entero.
38:07
Speaker 3: Le ponemos punto final al programa Diario de Sesiones del
38:12
Speaker 3: día de hoy. Nos vamos a estar reencontrando próximamente. Como siempre,
38:16
Speaker 3: agradecerle con la producción de Mariana Salas, de Mariana Afranchino,
38:20
Speaker 3: de Nicolás Núñez, de todo el equipo técnico de BCN Radio.
38:25
Speaker 3: Soy Fernando Frakelly y nos vamos a reencontrar próximamente por aquí,
38:29
Speaker 3: por Diario de Sesiones, por BCN Radio, por la Radio
38:32
Speaker 3: de la Biblioteca del Congreso de la Nación. Gracias y
38:34
Speaker 3: hasta entonces. Just a part of it Comes when you're
38:45
Speaker 3: sick