Latest / CIMAC Radio / LA NUBE VIOLETA: "Algoritmos sexistas en la Inteligencia Artificial y las Tecnologías"
Transcript
- 0:00La nube violeta cimac radio. Presente limpia es un
- 0:04movimiento. La nube bien de viaje.
- 0:06Un. Espacio de difusión, reflexión y
- 0:10propuestas para transformar el algoritmo.
- 0:13Una nube violenta de las mujeres, las.
- 0:15Medios de educación digital. Riesgosamiento y medios de
- 0:19prevención de la violencia. Digital una mirada violeta, las
- 0:25título a otras. Por espacios digitales seguros
- 0:27para. Violencia que hasta entonces no
- 0:29era. Hola.
- 0:30¿Qué tal a todas y a todos? Estamos en un episodio más aquí
- 0:34en la nube violeta. Así que la lucha.
- 0:36Te agradecemos mucho al espacio de además y radio por brindarnos
- 0:39esta oportunidad de como parte del promover, como toda toda la
- 0:44parte de de tecnología de violencia contra.
- 0:47La reforma, la ley de Accesar. A los temas de general.
- 0:50Y de violencia y el Código Penal para reconocer y sancionar la
- 0:53violencia digital y bueno. En este episodio bueno, pues me
- 0:57encuentro actualmente y ahora ante María Palacios y.
- 1:00¿Y cómo están? Audios grave que muy.
- 1:02Fotografíe hola, hola a todas, todas agradecidas y felices de
- 1:09cine compartiendo y hablando de estos temas tan importantes e
- 1:11interesantes. Esperemos que sea mucho eso
- 1:15hablando. Es importante hablar de un tema
- 1:17bastante. Complejo.
- 1:18Porque por mí hemos estado hablando como de todas las que
- 1:21dan en la especiedad. De la integridad de la tal.
- 1:23Contra mujer a nivel. Federal.
- 1:25También contra las violaciones, el.
- 1:27Superbull. Y el.
- 1:28Nombre de acuerdo y Código Penal.
- 1:30De tu. Estado y así como los años de
- 1:31Internet, algunas prácticas que a veces no nos damos cuenta.
- 1:35De los padres o madre, la víctima es una.
- 1:37Persona con discapacidad o bien si todo es una agresora.
- 1:40¿De cómo afecta tiene? Una relación de con.
- 1:42El uso de las tecnologías para las mujeres, que es un poco más
- 1:46distinto a a todas las consecuencias, que hay violencia
- 1:50que que los hombres no hay, hay ciertas diferencias.
- 1:54¿Y el día de hoy vamos a estar hablando de un tema bastante
- 1:58importante, que es justo, como el uso de las tecnologías ahora
- 2:01que está muy en boga, pues también la inteligencia
- 2:03artificial y metaverso y todo esto este y cómo?
- 2:06Eso también también perpetúa, pero también amplifica la
- 2:11violencia contra las mujeres para entrar un poquito más en
- 2:16contexto. ¿La tecnología?
- 2:18Pues actualmente pues está creciendo de manera muy, muy
- 2:22acelerada. Y creo que.
- 2:24Pues para todos los que en mi caso que somos millennials, pues
- 2:27ha representado un cambio muy rápido, porque pues en los
- 2:30noventas en los 2 miles, pues estábamos apenas comenzando a
- 2:33usar los nuestros teléfonos celulares, que todavía no eran
- 2:37touch y que todavía no tenían muchas funciones, pero que pues
- 2:41tenían ahí que unos jueguitos este mensajes llamadas no y de
- 2:46un día para otro o más bien sí, sí fueron años, pero pues fueron
- 2:50muy rápido, de repente ya teníamos que que las.
- 2:54Que los teléfonos touch, que GPS, que para para buscar
- 2:59ubicaciones un montón de de funciones, no el Bluetooth.
- 3:04Entonces todo esto fue, pues amplificando un poquito más el
- 3:08progreso de las tecnologías. ¿Y este hasta llegar al día de
- 3:12hoy no? Que ya podemos usar chat GPT
- 3:15incluso entre nuestras conversaciones o en WhatsApp.
- 3:19Se ya hay una herramienta de meta que que es sobre
- 3:22inteligencia artificial, a lo cual pues pues hay hay muchas
- 3:26cosas. ¿No pareciera que todo está
- 3:27avanzando bonito, pero hay algunas cosas que todavía siguen
- 3:33siendo pues un poco discriminatorias para las
- 3:36mujeres, no? Por ejemplo, la inteligencia
- 3:38artificial en algún momento pues es se diría que es neutral.
- 3:44No podríamos decir que es neutral porque le preguntas algo
- 3:47y te va a responder, pero. Se han detectado algunos casos y
- 3:51algunas aplicaciones y algunas empresas que usan como que pues
- 3:55toda esta inteligencia artificial con algunos sesgos de
- 3:57género, porque cabe decir que que la inteligencia artificial
- 4:02se construye a través del aprendizaje de datos que ya
- 4:06existen anteriormente. Entonces, por ejemplo, para dar
- 4:09un ejemplo. Si si durante años la industria
- 4:13tecnológica ha sido dominada por hombres, sabemos que pues las
- 4:17mujeres tienen poca participación en esta industria
- 4:20y una empresa está reclutando, no sé, programadores para para
- 4:25justo alimentar la su inteligencia artificial.
- 4:28Ellos utilizan ciertas herramientas de selección de
- 4:30personal. Y como esta inteligencia
- 4:33artificial ya aprendió en años anteriores, no sé los últimos 10
- 4:38años. ¿A que la industria está
- 4:41dominada por hombres? Obviamente, cuando se presente
- 4:44la la la oportunidad de seleccionar al personal, ya sea
- 4:48a hombres o mujeres, en este caso los currículums o los hebes
- 4:52de alguna manera, pues se va a inclinar más por los hombres, no
- 4:56este entonces como que la palabra mujer no va a estar
- 4:59entre los datos de esa inteligencia artificial o de esa
- 5:02herramienta, al menos para seleccionar ese puesto de
- 5:05programador o programadora, no. Entonces, ese es un pequeño
- 5:09ejemplo de lo de los sesgos y de los múltiples sesgos que existen
- 5:13hoy en el desarrollo de las tecnologías.
- 5:16Y pues no sé qué opinan ustedes, amigas.
- 5:18¿Es algo este? ¿Pues un poco preocupante, no?
- 5:21Porque de alguna manera, pues la inteligencia artificial refleja
- 5:25lo que la sociedad hace, no, al final de cuentas, la
- 5:29inteligencia artificial proviene de los seres humanos.
- 5:32Y de todas estos metadatos y todos estos datos e información
- 5:36que van conduciendo hacia perpetuar ciertas creencias y
- 5:41ciertas violencias también. Sí, sí, a mí en lo particular me
- 5:45suena muy interesante dado el hecho que tú comentas, no que
- 5:49vamos alimentando de alguna manera que de manera de manera
- 5:53como paulatina todas esas violencias que se generan en
- 5:55contra, pues de de. De la persona no o sea mujer,
- 6:00sea o hombre, pero creo que las no, las más afectadas somos las
- 6:03mujeres en este en este aspecto, no desde la desigualdad en la
- 6:07que la que tú nos comentas, no en el momento en que se necesita
- 6:11seleccionar a a una persona para para ir a un trabajo como como
- 6:18ingeniero o como se se especifique el el puesto a la
- 6:22que esta persona o personas vayan a a abdicar.
- 6:26¿Entonces sí es, es muy importante entender y conocer la
- 6:31importancia que en este momento en la actualidad tiene una i a
- 6:35no, como nosotros mismos vamos alimentando esos estereotipos de
- 6:38alguna manera en las que no, todavía como que nosotros no, y
- 6:42nos conozco que está como que decimos, hay tanta tecnología,
- 6:45tantas situaciones y todavía no, no, no nos metemos en eso, no,
- 6:49no, no nos percatamos de la grandeza que tiene, de las
- 6:53repercusiones que vienen después, no?
- 6:57Está avanzando siendo muy, muy padre todo la tecnología, todas
- 7:00las cosas que están saliendo, todas las cosas y las
- 7:03herramientas que tenemos hoy en día, pero sí de alguna manera,
- 7:07pues repercuten no a nuestra persona.
- 7:10Al menos eso es lo que yo podría expresar.
- 7:13Claro, y además de esto, creo que otro punto importante e
- 7:17interesante a mencionar es el tema del lenguaje, no o sea
- 7:20bien, decía ISA al principio. Que se contratan como
- 7:26ingenieros, no, y está esta disputa que parece medio
- 7:30irrelevante, pero que es más relevante cuando ya la ponemos,
- 7:34como en estos contextos de las nuevas tecnologías y, por
- 7:38supuesto, la guía de de los ingenieros.
- 7:41No se contratan ingenieros, muy pocas veces se dice como se
- 7:44busca ingenieras no, o sea, o ingenieros e ingenieras.
- 7:49¿Normalmente es como el ingeniero, pues sigue abarcando
- 7:51a todos, no? Y qué pasa con.
- 7:53¿No sé, por ejemplo la las asistentes virtuales, no sé,
- 7:59pero por ejemplo, como Alexa o Siri, o sea siempre son son
- 8:03voces de mujeres con nombres de mujeres, no?
- 8:06Que esto ya lo habíamos tocado en en episodios pasados, pero me
- 8:09parece bastante relevante porque entonces las las cías que que
- 8:14pues ya también están cobrando como un poco más de vida real,
- 8:18me parece que se sigue perpetuando este sistema
- 8:21patriarcal. En todos los aspectos, no en en
- 8:25el aspecto físico, en el aspecto, no sé cómo cómo puede
- 8:30pensar una mujer y eso se se desarrolla en en la en la I a
- 8:35quizá dije muchas cosas, pero lo que quería recalcar acá era como
- 8:40el uso del lenguaje, también como para para este aspecto de
- 8:44de las nuevas tecnologías. Me parece un punto que que se
- 8:48debe tocar y que se debe analizar.
- 8:50No sé qué qué opinan ustedes chicas o qué opina también, pues
- 8:53la audiencia estaría lindo leerles.
- 8:55Sí estaría super bien trasladar este tema, este debate también a
- 8:59a redes sociales, si ustedes este pues quieren continuar el
- 9:02debate, pues estamos en redes sociales como red mexicana de
- 9:05prevención a la violencia, en Instagram, en en en Facebook,
- 9:10este, pues ahí pueden ustedes también comentarnos qué es lo
- 9:13que opinan, cuáles son sus percepciones y justo lo que dice
- 9:16sile, es algo bastante importante el lenguaje.
- 9:19YY justo me me trajo a la mente algo súper súper alarmante en el
- 9:24uso del lenguaje, que es que todas las tecnologías se hacen y
- 9:28se desarrollan en el norte global.
- 9:30O sea, obviamente también en Latinoamérica hay iniciativas,
- 9:33pero en nuestro imaginario social siempre tenemos en cuenta
- 9:37que meta está en Estados Unidos. Todas las grandes empresas están
- 9:40en en la mayoría y si no es por nada, pero también los mercados
- 9:44de explotación sexual digital, las llamadas o mal llamadas
- 9:47páginas porno. ¿Están en Estados Unidos o en
- 9:52Europa o en el norte global? ¿En general?
- 9:54No. Este creo que es algo que que
- 9:57está muy este, muy relacionado con toda la la parte de de que
- 10:04sola la tecnología se puede desarrollar en los países
- 10:07desarrollados. No, no debería de ser así, pero
- 10:11actualmente el mundo está dominado por por esa industria
- 10:14que está solamente en el norte de todo, de todo.
- 10:18¿De todo el planeta, no? ¿Entonces, y qué?
- 10:21¿Cuál es el el idioma? No que que se habla también en
- 10:25este en estos países generalmente, o que se les llama
- 10:28como el lenguaje universal, pues es el inglés.
- 10:32Y algo muy importante en el lenguaje es que, por ejemplo,
- 10:36todo el lenguaje. ¿Que que se habla, por ejemplo?
- 10:40Hay muchas cosas en las que, por ejemplo, Teacher es una palabra
- 10:43en inglés y es maestro o maestra, pero teacher no tiene
- 10:47género, entonces en inglés no tiene género.
- 10:50O sea, tú sólo pones dándole contexto a la conversación.
- 10:53Si estás hablando de una mujer y dices, teacher, pues obviamente
- 10:56te refieres a esa mujer, no este.
- 10:59Pero en en Latinoamérica no hay una palabra maestra para
- 11:03referirse a mujer y maestro para referirse a hombre.
- 11:07¿Entonces ese es otro gran sesgo en las tecnologías al
- 11:10desarrollarse, porque obviamente, cuando por ejemplo,
- 11:13en este caso que estamos hablando del desarrollo de la
- 11:15inteligencia artificial, cuando se dice pitcher muchas veces
- 11:20está relacionado con una mujer, no?
- 11:24Cuando dices engineer que es ingeniero, la inteligencia
- 11:28artificial lo lo asocia con un hombre, pero por ejemplo, cuando
- 11:32pones nurs que es enfermera, justamente lo relaciones con una
- 11:37mujer enfermera, entonces básicamente es un grave
- 11:41problema, porque en el desarrollo de estos algoritmos.
- 11:45¿La inteligencia artificial va aprendiendo como que ciertas
- 11:49palabras tienen género, no? Entonces, independientemente de
- 11:53que la palabra sea neutral, lo relaciona con ciertas con el
- 11:59género, no de alguna manera. ¿Y en Latinoamérica?
- 12:03Pues es un grave, grave problema, porque aquí sí, sí
- 12:06tenemos palabras que se relacionan con mujeres y que se
- 12:09relacionan con hombres. Y este y que, bueno, eso también
- 12:14es un gran sesgo. Porque más allá de hablar de
- 12:16sesgos de género, también estamos hablando de otras tipos,
- 12:19de de de de sesgos, no. Este tal vez un poco pudiéramos
- 12:25hablar también de discriminación, de racismo, de
- 12:27clasismo, de un montón de cosas que están sesgadas porque.
- 12:31También, hay que decirlo, todas las tecnologías están dominadas
- 12:34también por por hombres y por hombres anglosajones europeos
- 12:41que no tienen esta visión latinoamericana.
- 12:43Entonces ahí el. ¿S también replantearnos como
- 12:46mujeres este qué? ¿Qué podemos hacer y qué?
- 12:49También se puede hacer a través de la industria tecnológica, en
- 12:52la que también las mujeres puedan participar y hacer
- 12:54también un desarrollo de tecnologías en donde no tengan
- 12:58estos sesgos. ¿Entonces, bueno, eso, eso que
- 13:01trajiste a la Mesa Hill es muy importante porque pues justo el
- 13:04lenguaje no? Y justamente toda la tecnología
- 13:06es también un lenguaje, o sea, la lo.
- 13:09El diseño de los algoritmos es también un lenguaje y es
- 13:14impresionante cómo se relaciona con con con las percepciones
- 13:18sociales, culturales. Al momento de usarla no.
- 13:21O sea, al momento de que una empresa dice, voy a poner este
- 13:25un anuncio de se busca, pues no sé, un un maestra, una vacante
- 13:30de maestra, pues obviamente, o maestro, pues esas herramientas
- 13:34van a van a ir descartando todo lo que tenga palabra, mujer, por
- 13:39ejemplo. Hay de hecho, hay un caso de
- 13:40Amazon que tuvieron que eliminar su algoritmo porque ellos
- 13:44estaban. Seleccionando a través de
- 13:47herramientas de inteligencia artificial a su personal.
- 13:49Y en una de esas, pues se se encontraron que que creo que
- 13:54estaban buscando algo como programador o algo así.
- 13:57Y en una de esas publicaron el puesto, pero resulta que había
- 14:02puros candidatos hombres. Entonces se preguntaron por qué
- 14:05y era porque justamente en en el lenguaje para justamente ese ese
- 14:10ese puesto. Como era muy masculino, este no,
- 14:14no estaba la palabra mujer, y si había CBS de mujeres, pero no se
- 14:19tomaban en cuenta porque Amazon no los reconocía en sus
- 14:22algoritmos. Entonces tuvieron que eliminar
- 14:24esa herramienta y esa ese proceso porque pues sí, estaba
- 14:27discriminando a las mujeres. ¿Entonces ese es un pequeño
- 14:30ejemplo de de de todo lo que de cómo se relacionan, no?
- 14:34Entonces este pues es importante, como lo que decía
- 14:37Iliana de de de tener en cuenta el lenguaje a final de cuentas.
- 14:42Sobre eso se basa toda la construcción de de de las
- 14:46tecnologías. Por ejemplo, el el ejemplo de
- 14:48Amazon es que tuvo que eliminar pues su algoritmo para las
- 14:52elecciones, su personal, porque pues sí mostraba un sesgo de
- 14:54género y pues estaba penalizando los CBS que contenían la palabra
- 14:58mujer. Entonces ahí es un ese es el
- 15:01ejemplo. Pero también lo podemos
- 15:03encontrar en Bing. Bing es un buscador como de
- 15:07donde te pone noticias, es es, o sea tú entras a a Internet
- 15:11explorer te va a salir también ahí un como las noticias, el
- 15:15clima, todo eso, entonces ese portal.
- 15:17Hay un portal muy similar de de Microsoft que se llama Bing.
- 15:21Entonces ahí en Bing lo que hacen también es justo también
- 15:25discriminar un poco las imágenes.
- 15:28Este porque, por ejemplo, si tú buscas este fotos en palabras,
- 15:35por ejemplo, cálidos como sensible o emocional que tienen
- 15:38que ver con emociones, Bing te va a arrojar imágenes de
- 15:42mujeres. Pero, por ejemplo, si tú buscas
- 15:45la palabra inteligente o racional, Bing te va a arrojar
- 15:49fotografías de hombres porque tiene, o sea, a las mujeres se
- 15:52les relaciona más como con la con la sensibilidad con
- 15:55emocional. Y a los hombres con la
- 15:58inteligencia, con, con, con lo racional, con con este, con
- 16:03incluso también con estos roles de género que son, pues el
- 16:07crecimiento profesional, el el este, cómo se llama el el, el
- 16:11dador, el este, el que mantiene a la familia, no, entonces como
- 16:15que si tú buscas como cosas relacionadas con eso, te van a
- 16:18salir hombres y si buscas palabras emocionales te van a
- 16:21salir mujeres, entonces ahí también estamos encontrando un
- 16:24sesgo y bueno, pues para. Para seguir hablando de esto
- 16:29vamos a ir a un corte este no sin antes agradecer a simac
- 16:33radio por el espacio y pues vamos a seguir a tocando estos
- 16:36temas, vamos a poner a continuación unas cápsulas que
- 16:38esperemos que les sirvan para poder reflexionar.
- 16:41Estos temas nos pueden buscar también como red mexicana de
- 16:44prevención a la violencia en en Facebook, en en Instagram y pues
- 16:50en un momento volvemos. La nube violeta.
- 16:55¿Sabías que las tecnologías también reproducen y amplifican
- 16:58el machismo, el sexismo y la discriminación hacia las
- 17:01mujeres? Así es, en México las mujeres
- 17:04ocupan solamente el 12.9% en empleos en ciencia, tecnología,
- 17:09ingeniería y matemáticas y el 15.5% en empleos tecnológicos.
- 17:13A nivel global, el 19.7% de los puestos directivos en empresas
- 17:18de tecnología están ocupados por mujeres.
- 17:20Esto quiere decir que las. Se están desarrollando desde una
- 17:24mirada masculina. ¿Pero, cómo afecta esto a las
- 17:26mujeres? Supongamos que una mujer está
- 17:29solicitando empleo como desarrolladora de software en
- 17:31una empresa de tecnología. Esta empresa usa una herramienta
- 17:34de inteligencia artificial para revisar solicitudes de empleo.
- 17:38Sin embargo, la mujer no pasa el primer filtro de revisión porque
- 17:41el algoritmo discrimina la palabra mujer.
- 17:44Es decir, no la reconoce. Algo similar pasó con Amazon.
- 17:47La inteligencia artificial funciona a través de procesos de
- 17:50aprendizaje, es decir, sistemas que aprenden de una gran
- 17:54cantidad de ejemplos para entrenar su lenguaje.
- 17:56En esta minería de datos se pueden encontrar patrones que
- 17:59reproducen ideas machistas y sesgos de género, como el caso
- 18:02de Amazon. Si un sistema de guía aprende de
- 18:04currículums desde hace 10 años, cuando la inclusión de las
- 18:07mujeres en la tecnología era mucho menor, el algoritmo
- 18:10aprende por su cuenta que reclutar hombres para el puesto
- 18:13de desarrollo de software es la norma.
- 18:15En consecuencia, discriminará penalizando la palabra mujer y
- 18:18dejando sin oportunidades a las postulantes.
- 18:21Este ejemplo se puede trasladar también al ámbito de las
- 18:23búsquedas en Internet, el diseño de prototipos de robots y
- 18:27tecnologías de asistencia personal y automatización.
- 18:30Hasta hace no mucho en algunos buscadores como Bing de micro.
- 18:33Soft arrojaban resultados que perpetúan los roles de género al
- 18:36hacer algunas búsquedas. Por ejemplo, si buscamos la
- 18:39palabra emociones, el buscador arrojará imágenes de mujeres,
- 18:42pero al buscar palabras como líder o inteligencia, puede
- 18:45arrojar imágenes mayormente de hombres.
- 18:47El problema en el desarrollo de las tecnologías y en particular
- 18:50de la inteligencia artificial, es que está retomando datos del
- 18:53exterior, es decir, de todas y todos nosotros como sociedad.
- 18:57Si hubiera más inclusión en las oportunidades educativas y
- 19:00laborales para las mujeres en las tecnologías, no habría un.
- 19:03De género en un proceso de selección de personal.
- 19:06De igual forma, si las mujeres no estuviéramos sujetas a las
- 19:09normas sociales que imponen tareas de cuidado y limpieza, no
- 19:12habría prototipos de robots sexualizados que cumplen
- 19:15funciones de asistencia y cuidado como Alexa, y tal vez su
- 19:18voz sería promovida mayormente como masculina.
- 19:21La inteligencia artificial no es neutral.
- 19:24Si una sociedad replica creencias y conductas machistas
- 19:26se pueden reproducir e incluso amplificar durante el desarrollo
- 19:29de la I a y otras tecnologías como el mercado emergente de
- 19:32robots sexuales que simulan mujeres reales hipersexualizadas
- 19:36sin poder de consentimiento, lo cual nos llevaría a pensar en un
- 19:39riesgo inminente para las mujeres ante la cultura de la
- 19:42violación y la normalización de nuestros cuerpos como objetos
- 19:45sexuales. Gracias por continuar
- 19:55sintonizándonos. Estamos en un episodio más de la
- 19:58nube violeta. Agradecemos del espacio asimac
- 20:00radio y recuerda que pueden encontrar todos nuestros
- 20:03episodios que hemos tenido en soundcloud y en Spotify.
- 20:10Ahí también pueden encontrar todos los episodios de los
- 20:13diferentes programas muy interesantes, todos con
- 20:15perspectiva de género, desde el feminismo.
- 20:20Y bueno, pues. Aquí en en la nube violeta,
- 20:23estamos tumbando al patriarcado, un algoritmo a la vez.
- 20:26Seguimos hablando de las inteligencias artificiales de
- 20:29lenguaje de las asistentes virtuales, que bueno, pues son
- 20:34temas que hemos venido tocando a lo largo de todo la historia de
- 20:39este este programa. Pero bueno, ISA ahorita nos nos
- 20:43compartía un pero sí, algo que que sucedió con Amazon no
- 20:47referente a lenguaje, entonces me parece, ah, perdón, perdón.
- 20:51No sé justamente que era sobre Amazon.
- 20:54Sí, justo entonces me parece muy interesante que que podamos
- 20:58seguir abarcando estos temas y no sé a mí, la verdad es que sí
- 21:05me gustaría leer como. A la audiencia si nos pueden
- 21:08mandar, como sus comentarios o reacciones a través de las redes
- 21:11sociales, porque creo que es un tema muy importante y que está
- 21:15como muy muy en boga. No es algo de de lo que está
- 21:19está, se está hablando mucho, pero aparte es algo que está
- 21:23impactando directamente en nuestras vidas y algo muy
- 21:27interesante e importante es que está impactando en las nuevas
- 21:31generaciones. ¿Cómo va a ser el impacto de
- 21:33estos algoritmos? Patriarcales en las nuevas
- 21:38generaciones. ¿Qué estamos haciendo nosotros
- 21:40nosotras y qué están haciendo también las nuevas generaciones?
- 21:44Porque la forma de pensar de estas nuevas generaciones ya no
- 21:47es la misma. No sé qué opinan ustedes, chica.
- 21:49Sí, está bastante complejo las nuevas generaciones, pues
- 21:53también son, obviamente, como dicen, por ahí ya nacieron con
- 21:57el chip. ¿Pero es importante, si no, si
- 22:02no retomamos estos temas en la reflexión en las aulas, por
- 22:05ejemplo, vamos a seguir teniendo agresores también en el espacio
- 22:11digital? Recordemos también el caso de de
- 22:15del Politécnico, en donde un chico no recuerdo bien su
- 22:18nombre, pero. Él es el que agredió Asus
- 22:21compañeras, tomándoles fotografías haciendo deep fakes
- 22:24con ellas, que las deep fakes son fotografías hechas con disco
- 22:28de inteligencia artificial, pero con los rasgos físicos, con la
- 22:32cara, con la, con la imagen de personas reales, pero que
- 22:35simulando que están haciendo otras cosas.
- 22:37En este caso las metía en la inteligencia artificial en esta
- 22:41página y este con fotografías de sus compañeras normal, tomando
- 22:46clases en la escuela. Y este y pues a través de la de
- 22:50una I a, pues las desnudaban no, entonces es es muy importante y
- 22:55no conforme con eso las vendía. O sea, vendía el contenido en
- 22:59mercados de explotación sexual, o sea, algo.
- 23:01O sea, eso ya era trata virtual y.
- 23:05Creo que es importante saber porque lo vamos, lo vamos
- 23:07minimizando, porque muchas veces dicen, es que es en Internet.
- 23:10Es que pues no es real, obviamente es real, no tiene las
- 23:13mismas consecuencias, como por ejemplo una violación, que por
- 23:16supuesto es bastante, bastante, pues pues es impactante para las
- 23:21mujeres vivir un suceso así, pero en las tecnologías no
- 23:25quiere decir que sea peor o o o mejor, sino que más bien tiene
- 23:29otro tipo de consecuencias en las que las mujeres, pues.
- 23:32¿Pues siempre se se están como que en un peldaño más abajo
- 23:36tienen un montón de consecuencias psicológicas,
- 23:38sociales, laborales, o sea, básicamente tienen que
- 23:42desaparecer de todo, no? Y sabemos que hoy en día
- 23:44desaparecer de Internet es no existir, y eso es importante
- 23:49porque pues justo o sea, creo que los chavos tendrían que
- 23:52estar teniendo esa perspectiva en el uso de de las tecnologías
- 23:56y que usarlas también para otras cosas que no sean este tipo de
- 24:00conductas, no en. Estaría súper bien que que
- 24:05hubiera ciertas iniciativas. ¿Vamos a investigar también aquí
- 24:08qué iniciativas pueden haber feministas de construcción, de
- 24:12de, de, de de y haz feministas, de de tecnologías feministas?
- 24:17No. Actualmente se me vienen a la
- 24:18mente algunos proyectos. Que tienen que ver con la
- 24:21representación de las mujeres en las tecnologías.
- 24:23Pero como tal de esa perspectiva de género y feminista, creo que
- 24:28hace bastante falta todo esto, que justamente ya se empiezan a
- 24:32a vender estos prototipos de robots o de mujeres que simulan
- 24:38ser novias acompañantes con cubinas como se les llame de de
- 24:43hombres no, YY incluso se venden robots o incluso se venden algo.
- 24:49Se llama baby, Ay tiene un nombre muy asqueroso, no me lo
- 24:53aprendí porque pues todo me dio muchísimo asco.
- 24:55Pero tienen estos aparatos que simulan los aparatos
- 25:00reproductivos de mujeres y que los venden a través de de, pues
- 25:04de la de de mercados de de de explotación sexual este y que.
- 25:12¿Se te te lleguen a tu casa, o sea es como un Amazon este, pero
- 25:16en la Dark web no este, te pides ese ese robot o ese aparato te
- 25:21llega y con eso los hombres pueden como que a masturbarse
- 25:24no? Y ellos lo ven como que bueno,
- 25:25lo lo estamos haciendo porque si no lo si no tuviéramos estos
- 25:30robots o estos objetos saldríamos a violar mujeres en
- 25:32la vida real, no, ese es su su gran fundamento.
- 25:35Pero realmente hay detrás todo una filosofía que perpetúa
- 25:39justamente, pues. Estas agresiones a las mujeres y
- 25:42que al contrario, en vez de prevenir fomenta más toda la
- 25:50fomenta, fomenta más la las conductas violentas hacia las
- 25:53mujeres. ¿Porque al final de cuenta estas
- 25:55tecnologías se hacen desde desde desde el falo, no?
- 26:00Básicamente es, es, es es un sistema muy falocentrista el el
- 26:05el hecho de desarrollar este tipo de tecnologías.
- 26:09¿Que van fomentando la pedofilia, que van fomentando,
- 26:12pues todos los feminicidios, las agresiones a mujeres, porque se
- 26:17va normalizando, no haciendo una recapitulación de cómo, de cómo
- 26:23surgió, cómo aprendemos a tener relaciones sexuales?
- 26:26Generalmente es a través del porno, todos los hombres YY yo
- 26:30recuerdo mucho. En la secundaria pasaba mucho
- 26:32eso, todos los compañeros se reunían este en una esquina con
- 26:36sus celulares a ver pornografía. Así es como se aprende, o sea la
- 26:40es. Es falso que muchos de los de
- 26:42los chavos hoy aprendan este 100% a través de métodos de
- 26:47educación, de de aprendizaje este de educación sexual.
- 26:52Básicamente todo se aprenden a través de de de estos videos de
- 26:58de estas páginas web en los que se sigue perpetuando la
- 27:01violencia. Es muy normal ver en esos videos
- 27:04a a a mujeres sometidas a mujeres siendo golpeadas.
- 27:07En donde no se le ve la cara para nada a los hombres, sino
- 27:09que siempre las que siempre están expuestas son las mujeres.
- 27:13Y con eso se crean estas tecnologías o estos aparatos,
- 27:16estos robots que siguen fomentando, pues todas estas
- 27:19conductas de agresiones que se traspasan a la vida este real.
- 27:23¿Entonces es muy importante eso que mencionabas?
- 27:27Ile, porque estos este tipo de cosas pareciera como que el gran
- 27:31fundamento es es que si no lo hacemos aquí.
- 27:34¿Este si si no tenemos esas cosas virtuales lo vamos a hacer
- 27:37en la vida real, no? Y a veces se nos olvida que pues
- 27:40oscilamos en este mundo online y offline en el que todo puede
- 27:44pasar tanto de un lado como del otro.
- 27:47Entonces pues es es bastante difícil no el tener que que que
- 27:53lidiar con este tipo de iniciativas.
- 27:56Este que actualmente la Dark web, que es como la la web,
- 28:00pero. Sin censura no, básicamente YY
- 28:04que a ellos tienen acceso hackers.
- 28:06Este un un montón de personas también en en las organizaciones
- 28:11criminales. ¿Este todo esto no, entonces ha
- 28:15sido un gran mercado? Lamentablemente y pues sí, justo
- 28:19la idea a reflexionar para toda la audiencia de quienes nos
- 28:22escuchan es como estamos utilizando estas tecnologías.
- 28:25En mi caso, yo estoy a favor de tener herramientas de
- 28:28tecnologías. ¿Pienso que nos pueden servir
- 28:30muchísimo para resolver todos los problemas a nivel mundial,
- 28:33no solo de género, pero el problema está en el cómo las
- 28:37usamos, no? Y cómo las implementamos, cómo
- 28:39las formamos. Si hubiera una manera también de
- 28:43de de capacitar a todas estas personas que se dedican a a al
- 28:49desarrollo de tecnologías, pues cambiaría un poquito el chip.
- 28:51¿Sin embargo, está bastante difícil, no?
- 28:55¿Este cómo? ¿Cómo ves si la verdad está bien
- 28:58difícil poner eso? Porque pues sí.
- 29:03O sea, en en las tecnologías las mujeres siempre estamos en un
- 29:06peldaño más abajo y no se no se visibiliza mucho menos se
- 29:10visibiliza a las mujeres latinoamericanas.
- 29:14Claro, es como continuar perpetuando el el orden del
- 29:19género, no y no solo del género, justo como como mencionabas
- 29:22anteriormente. De la raza de la clase, poniendo
- 29:30primordialmente al al norte global.
- 29:33No que pues sigue sigue nada más perpetuando este este tipo de de
- 29:41ideologías, como como justo decías, no parece, pareciera que
- 29:45las mujeres en la realidad, en la virtualidad, estamos un
- 29:50peldaño más abajo y además pareciera.
- 29:55¿Recapitulando, como un poco sobre todo lo que hemos hablado
- 29:58en la en la en los episodios anteriores de la nube violeta,
- 30:02pareciera que estas mujeres o inteligencias artificiales que
- 30:13pues están hechas como a semejanza de una mujer, como
- 30:18como el lo que decías de esta de esta inteligencia no?
- 30:23En la novia de de John must es es muy interesante.
- 30:29¿Cómo puede recibir primero ella la categoría de mujer antes que
- 30:35una mujer negra, una mujer discapacitada, una mujer trans?
- 30:41¿Es esto? ¿Es muy interesante, no?
- 30:43Porque como como les decía, no se va perpetuando el orden del
- 30:47género. Pero aparte entra también la
- 30:50categoría. ¿De lo que Donna haraway, una
- 30:53feminista? Pues de del siglo pasado,
- 30:58finales del siglo pasado, pero que ya hablaba de estos temas de
- 31:02los cyborg, por ejemplo. ¿Justo cuestiona, cuestiona este
- 31:06tipo de de de cosas, no? ¿Cómo una inteligencia
- 31:09artificial o cómo un ente cyborg puede recibir primero la
- 31:13categoría de mujer antes que una mujer?
- 31:17Pues de de la vida real. Una mujer negra, una mujer del
- 31:22sur global, una mujer de clase baja.
- 31:25Me parece muy polémico poner estos temas sobre la mesa porque
- 31:32habrá quien diga, bueno, pues es que solamente es la acompañante
- 31:38o la compañera de esta persona. Ahora que de nuevo me gustaría
- 31:43trasladarlas a nuestra audiencia a quienes nos están escuchando,
- 31:47pues. ¿Nos gustaría leer sus
- 31:50comentarios, sus opiniones, siempre y cuando pues no sean
- 31:53discursos de odio, no? Porque bueno, los discursos de
- 31:55odio creo que pues ahorita ya no, ya no tiene lugar en estos
- 31:59en estos espacios que justo estamos tratando de de hacer,
- 32:04pues diferentes. Y está complejo todo esto, justo
- 32:09le diste del clavo hoyle esa es la gran, la gran gran.
- 32:14Pregunta la incógnita de justamente el pensamiento de de
- 32:18Donna haraway, que que también sí, justamente tenía este este
- 32:23este concepto de cyborg, en donde se planteaban estos temas
- 32:29de de género, de identidad también.
- 32:31Entonces creo que fue algo, tal vez sí, una visionaria quizá de
- 32:38lo que tenía que pasar, pero este justamente en esta.
- 32:43¿En esta idea de de cómo definimos mujer, cómo cómo
- 32:48definimos, qué es una mujer, no? ¿Y cómo eso se traslada a las
- 32:53tecnologías? Es bastante complejo entenderlo
- 32:58porque pues sí, o sea, como dices, ya se le está dando de
- 33:02por por hecho que ese robot es una mujer.
- 33:05Actualmente tenemos otros otros ejemplos de de robots también
- 33:10que que incluso hacen labores domésticas y que todas son
- 33:14mujeres o las presentadoras no. Actualmente se hacen prototipos,
- 33:20se están haciendo algunos prototipos, algunas pilotos con
- 33:24mujeres presentadoras de noticias.
- 33:26De hecho, aquí en México tenemos a.
- 33:30Anat NAT es una presentadora, es la primer conductora de
- 33:34radiofórmula hecha con inteligencia artificial.
- 33:37¿O sea, NAT no existe, es es una inteligencia artificial, es una
- 33:42presentadora de noticias y se es este pues es una mujer, no?
- 33:47Entonces justamente estaba viendo algunos opiniones de de
- 33:55actores en la industria de la comunicación.
- 33:57¿Analizando eso, no? ¿Por qué?
- 33:59Siempre cuando se habla de presentadoras, de de de
- 34:02conductoras, pues tiene que ser una mujer y una mujer
- 34:04sexualizada, una mujer súper maquillada, una mujer con todos
- 34:08esos estereotipos y es es importante ver cómo cómo se va,
- 34:13dijera por ahí una investigadora de la unam.
- 34:15No nada más se se expande nuestros, nuestras creencias
- 34:19machistas a la inteligencia artificial, sino que las
- 34:21expande, las amplifica. Entonces, es importante tomar en
- 34:26cuenta como la inteligencia puede también amplificar todo
- 34:29esto en vez de reprimirlo, en vez de de prevenirlo, pues va
- 34:32amplificando más todavía todas estas violencias.
- 34:36¿YY justamente en todos estos roles de género, por ejemplo,
- 34:40las alexas como mencionaban, no, las alexas que tienen están al
- 34:43servicio, son servidoras, son, son una, una bocina qué te sirve
- 34:47para que que esté al servicio tuyo?
- 34:50¿No? Así mismo tenemos otra otros
- 34:51dispositivos y otros robots, ya literal, robots físicos que se
- 34:56dedican a hacer tareas laborales, no de la casa, a
- 34:58recoger, a limpiar y que son mujeres, o sea, tienen esas
- 35:03figuras de mujer, tienen esas voces de mujer y que.
- 35:07¿Se van perpetuando los roles de género, no?
- 35:10Actualmente, pues eso afecta bastante.
- 35:12Sobre todo porque también estamos hablando de una
- 35:15industria que, por ejemplo, haciendo la última Revolución
- 35:19Industrial que sustituyó a los hombres por máquinas, por así
- 35:23decirlo, en estas grandes fábricas y que hubo despidos
- 35:27masivos actualmente también en elon Musk.
- 35:30Este, por ejemplo en Tesla, despidió a muchísimos, a
- 35:35muchísimos empleados. Y que en esta idea de de
- 35:38justamente una Revolución ahora tecnológica, estamos viendo que
- 35:42las mujeres también están siendo masivamente despedidas.
- 35:46¿Por qué? Porque todas estas servidoras
- 35:48no, que muchas veces antes eran mujeres que limpiaban la casa,
- 35:52que que o sea era un sustento, era un modo de vida.
- 35:55En el futuro, quizá no muy lejano, se tengan robots.
- 35:59¿Y quiénes van a ser las primeras en ser despedidas?
- 36:02Pues las mujeres, las trabajadoras, este.
- 36:05Pues todas estas personas, sobre todo mujeres, que se dedican a
- 36:09hacer tareas de de servicio de cuidado en este rol que se nos
- 36:13ha asignado socialmente por históricamente y por ende, vamos
- 36:18a hacer las más, las más despedidas, por así decirlo.
- 36:22Entonces ahí también hay otra otra, otro análisis bien, bien
- 36:25interesante. Pero bueno, es es momento de ir
- 36:28a un corte. En un momento regresamos.
- 36:31Es un tema bastante interesante, vamos a regresar ya para para
- 36:34cerrar este este episodio y ojalá que haya muchos episodios
- 36:37más donde podamos seguir tocando el tema y pueden escuchar
- 36:40nuestros episodios pasados en en las plataformas de Spotify y
- 36:44soundcloud y en vivo a través de todos los jueves de cada 15 días
- 36:48y bueno, en un momento volvemos para seguir platicando de estos
- 36:52temas. La nube violeta.
- 36:57Los robots sexuales son muñecas hiperrealistas, en su mayoría de
- 37:01apariencia femenina, que se pueden violar por 9995 USD.
- 37:06Estos objetos animatrónicos son una representación de las
- 37:08mujeres como juguetes sexuales que pueden cumplir con
- 37:11características y personalidades que más le convengan al cliente,
- 37:14desde ponerle un nombre que suene dulce, elegir vestimentas
- 37:18que sexualizan el cuerpo femenino e incluso hablar en
- 37:21tono sutil, creándole una personalidad tímida y sumisa.
- 37:24¿O, por el contrario, crear personalidades maduras y
- 37:27atrevidas que no muestran timidez al tocar zonas privadas?
- 37:31El límite lo programa el usuario.
- 37:33Existen robots sexuales que tienen diversas funciones como
- 37:36el mover los labios, el cuello, hablar e incluso funcionan con
- 37:39inteligencia artificial para simular una relación de pareja.
- 37:42Pueden recordar momentos y memorizar los gustos y
- 37:45preferencias de su dueño, creando la ilusión de una
- 37:48relación sentimental. El problema de estos robots es
- 37:51que se desarrollan en una industria androcéntrica en el
- 37:53que solo el 6% de las direcciones ejecutivas están a
- 37:56cargo de mujeres. En este contexto, la mirada
- 37:59masculina en el desarrollo de los robots sexuales sigue
- 38:02perpetuando los roles y la violencia de género a través de
- 38:05la producción de robots con funciones como la limpieza
- 38:08asistente con voz femenina y hasta la creación de réplicas
- 38:11robóticas de mujeres reales. Algunos robots están diseñados
- 38:14intencionalmente para imitar situaciones en la vida real, en
- 38:17donde las mujeres difícilmente darían su consentimiento.
- 38:20Pero a diferencia de una mujer real, los robots sexuales
- 38:23ofrecen una réplica de una pareja humana sin el obstáculo
- 38:26del consentimiento. Se están produciendo
- 38:28representaciones de mujeres. Pero sin autonomía que fungen
- 38:31como juguetes con los que el hombre puede jugar.
- 38:34Aunado a esto, hay investigaciones que han
- 38:36demostrado que los hombres heterosexuales que consumen
- 38:39contenido en mercados de explotación sexual digital,
- 38:42revistas eróticas para hombres y programas de telerrealidad que
- 38:45cosifican a las mujeres, tienen mayor tolerancia y aceptación
- 38:48ante la violencia de género. En este sentido, el sexo con
- 38:51robots normaliza conductas de violencia sexual y, a pesar de
- 38:55que hay quienes argumentan que estos robots pueden servir como
- 38:57preservativos para no lastimar a mujeres en la vida real, lo
- 39:01cierto es que en un sistema patriarcal, los potenciales
- 39:03agresores se ven alentados a incrementar conductas violentas
- 39:06en la realidad. Los encuentros sexuales con
- 39:08estos robots son en realidad actos de violencia sexual.
- 39:11¿Para qué brindar mujeres robóticas a los violadores?
- 39:14Decir que violar robots evitaría que se cometa este delito contra
- 39:18mujeres reales estaría sugiriendo que la.
- 39:20Violencia contra las mujeres es innata e inevitable.
- 39:23Por ende, no se puede prevenir, sino solo mitigar esta idea
- 39:26también implicaría dejar toda la responsabilidad de lidiar con la
- 39:30violencia a las mujeres. La idea de estos robots
- 39:33hipersexualizados es que resistan ante los deseos
- 39:35sexuales que implican violencia para que los usuarios puedan
- 39:38violarlos. Pero la violación no es un acto
- 39:40de erotismo, sino un crimen violento.
- 39:42¿Debemos establecer principios éticos en el ámbito de la
- 39:45robótica que amenacen la dignidad y derechos de las
- 39:48mujeres? Normalizar la violación a través
- 39:50de robots es darle un rostro socialmente aceptable a esta
- 39:53conducta. La nube violeta.
- 40:03La Ley Olimpia es un movimiento político feminista que busca que
- 40:06las mujeres estemos seguras también en Internet.
- 40:09Surgió a partir del caso de la activista Olimpia Coral Melo,
- 40:12nombrada en 2022 en la lista de las mujeres más influyentes del
- 40:16mundo por la revista Times y entre las 100 mujeres más
- 40:19poderosas de México de la revista Forbes.
- 40:22Su historia como sobreviviente de violencia sexual digital
- 40:25inspiró a otras mujeres a alzar la voz y hacer frente a una
- 40:28violencia que hasta entonces no era reconocida por el Estado.
- 40:32En el sistema patriarcal, lo que no se nombra no existe, así que
- 40:35la lucha comenzó por reconocer y sancionar la violencia digital a
- 40:38través de un conjunto de reformas nombradas ley Olimpia,
- 40:41como parte del proceso de resignificación de la historia
- 40:44de Olimpia y todas las víctimas. Esta iniciativa reformó la ley
- 40:48de acceso de las mujeres a una vida libre de violencia y el
- 40:51Código Penal para reconocer y sancionar la violencia digital a
- 40:55nivel estatal y federal. Por ende, actualmente ya puedes
- 40:58denunciar ante el ministerio público a quien video grave,
- 41:01audio grave, fotografíe, imprima, elabore, divulgue,
- 41:05comparta, distribuya o publique imágenes, videos o audios de
- 41:09contenido íntimo sexual sin tu consentimiento, aprobación o
- 41:13autorización. Es importante recalcar que la
- 41:16ley Olimpia sólo aplica para personas mayores de edad y debe
- 41:19haber de por medio contenido íntimo, sexual que dañe la
- 41:22dignidad e integridad de la víctima.
- 41:24A nivel federal el delito se llama violación a la intimidad
- 41:27sexual, pero puede variar el nombre de acuerdo al Código
- 41:30Penal de tu Estado, así como los años de sentencia que van desde
- 41:33los 3 a los 8 años de prisión y puede agravarse hasta 12 años si
- 41:37la víctima es una persona con discapacidad o bien si la
- 41:39persona agresora es servidor público.
- 41:42Tiene una relación de concubinato o relación
- 41:44sentimental, así como cuando se obtenga algún tipo de beneficio
- 41:47no lucrativo, cuando se haga con fines lucrativos o cuando la
- 41:50víctima atente contra su propia vida a consecuencia de este
- 41:54delito. Que te graben sin consentimiento
- 41:56o compartan el Pack ahora es un delito.
- 41:59Nuestros cuerpos desnudos no son para tu diversión en Internet.
- 42:02No seas cómplice, rompe la cadena y no compartas contenidos
- 42:05sexuales sin consentimiento. Continuamos aquí en la nube
- 42:13violeta y bueno, estamos hablando de temas muy
- 42:16interesantes, muy complejos, uh, muy, muy largos que tomarán,
- 42:22pues sí, pláticas, charlas largas, pero bueno, pues aquí
- 42:31intentamos poner como sobre la mesa algunos algunos puntos que
- 42:35nos parecen los los más interesantes.
- 42:37Hablábamos de la de las guías, de como esto.
- 42:42¿Perpetúa el el orden de género y de de los cyborg, no?
- 42:46También, ya estamos como entrando un poquito más en en
- 42:50aspectos teóricos con Donna Haraway, pero pues seguimos
- 42:55tratando de de hacer estos temas muy amenos, nos gustaría conocer
- 43:00la opinión de de la audiencia porque son temas que a todos y a
- 43:03todas nos están impactando. No creo que nadie se salva de la
- 43:06virtualidad en estos días y. Creo que que es muy importante
- 43:12crear espacios seguros y tratar de hacer de esto de este
- 43:16espacio, de la virtualidad un lugar seguro, no nada más para
- 43:21las mujeres, también para para las infancias YY también para
- 43:26los hombres. No me parece que que está la
- 43:30posibilidad de de crear espacios seguros de de construcción, tal
- 43:36vez. Para para los hombres, pero
- 43:39bueno, tal vez estamos como un poquito lejos todavía de eso,
- 43:43pero bueno, está ahí, como la la idea.
- 43:49Y el trabajo con hombres es súper importante.
- 43:51Creo que falta muchísimo por hacer.
- 43:53Falta. Yo creo que todo por hacer, al
- 43:55menos en las tecnologías, porque es una industria masculina y con
- 44:00esa visión se construye ahora sí que en esta ingeniería de datos,
- 44:03algo que que se llama el data Driven, que es.
- 44:06Todo lo que dirige, todo lo que va aprendiendo en la
- 44:08inteligencia artificial, pues está basada en esa visión
- 44:12masculina. Lamentablemente YYY,
- 44:15lamentablemente, porque pues sí. O sea, si si no hemos podido
- 44:18lograr avances en la vida real, en en el que digamos no de
- 44:24erradicar esas conductas machistas, pues todavía falta
- 44:28todo en la inteligencia, en el desarrollo de la I a.
- 44:31¿Este entonces? Pues faltan bastantes cosas.
- 44:34Yo creo que los roles de género también y el machismo en las
- 44:37tecnologías está muy, muy presente.
- 44:40De hecho, pues tan sólo cuántas mujeres están en en en la
- 44:44industria tecnológica, no este, no sé.
- 44:47O sea, tan sólo pensar en que pues es algo que que en el que
- 44:55ni siquiera estamos presentes. No hay una voz representativa.
- 44:58Tan solo en el 2024 Women touch a principios este mencionaba que
- 45:05en principios de este milenio, en Estados Unidos solo el 9% de
- 45:11de las personas en la tecnología era eran mujeres.
- 45:15Ahorita ya crecí un poco al 35%, pero en Estados Unidos no hay
- 45:19datos, en México o quizás los haya, pero seguramente son
- 45:23similares. En cuanto a que hay poca
- 45:26representación de las mujeres en las tecnologías y a nivel
- 45:29global, creo que pasa lo mismo y eso les da un poco más de
- 45:33ventaja a esta visión masculina de desarrollar este tipo de
- 45:37prototipos, como nos habíamos dicho que son estos robots
- 45:41sexualizados en en desarrollar, seguir perpetuando YY replicando
- 45:45estas tecnologías. Y que también ponen en en riesgo
- 45:48también a las mujeres en muchas cosas no.
- 45:50O sea, muchas veces creemos, por ejemplo, ahora se habla del
- 45:53Internet de las cosas, que más bien ya ahora ya se cambio el
- 45:56concepto del Internet del todo, porque pues Internet ya está en
- 45:59todas partes y este no nada más a través de los dispositivos
- 46:03este como Alexa o la Smart TV, sino que también este, pues
- 46:07estamos viendo en en la realidad aumentada este pues en todas
- 46:11estas tecnologías y robots. Entonces, pues bueno, en este
- 46:17Internet del todo pues se están, pues justamente estos
- 46:20dispositivos también electrónicos, que de repente en
- 46:24algún momento hubo una moda, por así decirlo, en el que las
- 46:28parejas de las mujeres, o sea las parejas sentimentales, sus
- 46:31novios, sus esposos, les regalaban teléfonos celulares
- 46:34Asus esposas, pero en realidad tenían un chip para espiarlas.
- 46:38Eso se supo bastante hace unos años.
- 46:40O sea, yo creo que en pandemia también fue muy sonado esto.
- 46:44¿También a través de que se se podía vigilar a las a las amas
- 46:48de casa, por ejemplo, a las mujeres que se quedan en las
- 46:51casas a a limpiar, ya sea porque trabajan ahí o porque también
- 46:54son, son, son unas esposas y como siempre se nos se nos este
- 46:58encasillan ese rol de cuidadoras y de y de limpieza y demás,
- 47:02entonces estas alexas o smart TVS?
- 47:05¿Este, pues vigilaban a a las mujeres, no en en dentro de qué
- 47:09estaban haciendo en sus casas y los maridos era como que tener
- 47:12el control de lo que están haciendo sus mujeres, no,
- 47:15entonces nos ponen un montón de de desventajas, todas estas
- 47:19todas estas tecnologías cuando no se saben usar de la manera
- 47:22correcta, no? Entonces, pues bueno, también.
- 47:27También es importante decir a a que que hay algunas ejemplos, no
- 47:32de. ¿Por ejemplo, en estas
- 47:34aplicaciones de de menstruación no que van midiendo, pues tu
- 47:39período, no de las mujeres, entonces eso incluso hubo algún
- 47:44caso? La verdad es que no conozco muy
- 47:47bien el caso ahorita, pero a hubo una mujer que o varias
- 47:50mujeres en en en Estados Unidos que usaban estas aplicaciones de
- 47:55pues son son herramientas no para las mujeres para un poquito
- 47:58llevar el control sobre nuestra menstruación y demás, entonces
- 48:02tú le picas ahí cada que que vas a.
- 48:03Mtruar que este también viene un poco sobre que le piques ahí
- 48:07sobre cómo está siendo el tu flujo, etcétera, etcétera,
- 48:10etcétera. Y todos esos son a lo que
- 48:12llamamos metadatos. Entonces todos esos datos
- 48:15alimentan esta estas aplicaciones, pero justamente en
- 48:19algunos países pasó se a a través de esas aplicaciones se
- 48:24podía medir la fertilidad de de una de una mujer.
- 48:28Entonces la idea aquí era identificar quiénes están en esa
- 48:32edad fértil, porque también te pide tu edad y con base en ello,
- 48:35también incluso se se podían pedir acciones legales contra
- 48:40las mujeres que no quieren ser madres y abortan, es decir.
- 48:45Si si tú estás en una edad fértil y la tecnología aquí te
- 48:47está diciendo que estás en edad fértil, que que estás muy bien,
- 48:50que estás sana y demás, pero no quieres ser mamá o ya abortaste
- 48:54ahí incluso se pueden tomar medidas legales en algunos
- 48:57países en contra de las mujeres que están abortando, no a través
- 49:00de los datos de estas tecnologías.
- 49:02Entonces ese es un ejemplo súper que tenemos que que poner en la
- 49:06mesa sobre cómo las tecnologías también nos ponen en una
- 49:09situación en la que siempre estamos vigiladas, controladas
- 49:12este. Etcétera, etcétera.
- 49:15Y que, pues sí, no, lo mismo que sucede con con con lo laboral,
- 49:20siempre estamos un peldaño más abajo, siempre estamos más en
- 49:22riesgo YY no sé qué opinen ustedes.
- 49:25O sea, eso es bastante, pues un poquito violento, no el que
- 49:30tengan que espiarnos tanto a través de las tecnologías y con
- 49:33base en ello, incluso hasta tomar medidas legales.
- 49:36¿Claro, ISA, de verdad es preocupante esa situación, sobre
- 49:39todo porque el desarrollo de las tecnologías?
- 49:44Considero que bueno, yo estoy a favor 100% en que se
- 49:48desarrollen, en que existan, en que sean herramientas, que de
- 49:51alguna manera nos brinden algún tipo de conocimiento, pero sobre
- 49:56todo que sean armoniosas y que no menoscaben los derechos de,
- 50:01en este caso de las mujeres. No considero que en eso todavía
- 50:07se tiene que que seguir. Viendo, siguen cerrando algún
- 50:12tipo de ley o algo, alguna situación que no menoscabe el
- 50:16derecho de las mujeres y, sobre todo, que no sea de de esa
- 50:19manera, no tal. Pareciera que la mujer es el el
- 50:24prototipo para todas esas tecnologías, pero no para algo
- 50:27bueno, sino para algo en el que degrada, pues ser de mujer no
- 50:32forma de de de. De ver en lo particular se
- 50:38pareciera, no este mujer y a eso nos vamos al estereotipo de la
- 50:44mujer tiene que estar en tal cosa, tiene que estar lavando,
- 50:46tiene que estar haciendo esto. Es cierto que que que es la
- 50:51tecnología no debe ser para eso, no como digo que debería ser
- 50:54para otro tipo de situaciones, para un desarrollo más de
- 50:58tecnologías de yo desconozco muchos de esos temas, pero.
- 51:03Considero, y esa es mi percepción eneste.no que
- 51:06degradar no va a ser que el el desarrollo de esas tecnologías
- 51:10sea un hincapié o un objetivo idóneo, no degradar a la mujer
- 51:16en en ese punto considero que no debe de ser, porque de alguna
- 51:20manera, pues ya estamos retrocediendo todo lo que ya
- 51:23estamos avanzando lo estamos retrocediendo, pero ya desde un
- 51:26aspecto y o desde un contexto tecnológico.
- 51:30Y pasando a la vida virtual, a la vida real.
- 51:33No estamos ya como que en esa situación de vamos a hacer lo
- 51:37mismo, vamos a hacer lo mismo que las mismas violencias que
- 51:40estamos generando en el ámbito real.
- 51:42Lo vamos a a crear también de alguna manera en el ámbito
- 51:45virtual. ¿Entonces esto hace bueno en mi
- 51:48particular punto de vista? Pues sí considero que ese
- 51:50desarrollo no debe de de hacer que en ese punto de la de la
- 51:54historia o del del tiempo degrade de esa forma a la mujer.
- 52:01¿Sí, así esto se basa también en los roles, en la percepción, no?
- 52:04Finalmente, pues es es replicar todo lo que ya existe aquí, pero
- 52:08ahora allá no. Y actualmente se hablan de
- 52:10nuevos derechos, o sea, el derecho al olvido, el derecho
- 52:13este, pues también a la desconexión YY habría que
- 52:18replantear, no en esa gobernanza digital que actualmente se habla
- 52:22mucho en dónde están las mujeres y qué se qué se está haciendo.
- 52:25Creo que también tiene mucho que ver con con el involucramiento
- 52:29de las empresas. Eso es súper súper fundamental y
- 52:32actualmente por ejemplo en los foros donde se habla de
- 52:34violencia digital a veces no hay empresas YY si hay pues es como
- 52:39que ah, bueno, pues ya tenemos un enlace de Google en donde si
- 52:42se publican fotos tuyas puedes tener opción a que se bajen,
- 52:46pero es un proceso súper largo. Pocas veces hay respuesta, nadie
- 52:50habla de lo difícil que es este, pues ir en contra de de de estas
- 52:55tecnologías cuando estás siendo vulnerada.
- 52:58Es algo bien difícil. No YYY nada más para abonar un
- 53:01poco en esto de cómo también las tecnologías se relacionan con
- 53:06siempre, siempre como que ponen o discriminan a las mujeres.
- 53:10Es porque porque a veces no. Ni siquiera existe en sus
- 53:15algoritmos o en sus conceptos, en sus percepciones de datos.
- 53:19Ni siquiera existe la palabra mujer, como en el caso del
- 53:21ejemplo que mencionaba al principio como de Amazon.
- 53:24No estaba la palabra mujer en la selección de del personal, no,
- 53:28entonces es algo súper, súper difícil de tal vez de de de
- 53:33entender el por qué y siempre las tecnologías siempre van a
- 53:37estar como ahí discriminando. Ya sea con dolo o no, porque a
- 53:42veces en esta falta de de capacitación y de
- 53:47sensibilización de de quienes hacen las tecnologías, pues no
- 53:50hay esa sensibilidad, no, no hay como esa percepción.
- 53:54Y y a veces lo hacen por ignorancia también, pero a veces
- 53:57también con todo el duelo del mundo, no de de crear, por
- 54:00ejemplo, estos videojuegos en donde se crean avatares de
- 54:03mujeres y juegan a violarlas. ¿Pero a torturarlas, eso es con
- 54:07todo el dolo del mundo, entonces?
- 54:08Pues a veces las tecnologías se usan de una manera, pues sin,
- 54:12sin, sin mesura, no. Aquí, por ejemplo, también hay
- 54:16aplicaciones de citas en donde pues de parejas no para buscar
- 54:21pareja, en donde por ejemplo, obviamente te piden tu edad, tu
- 54:24sexo, etcétera, etcétera. Todos estos datos nuevamente
- 54:27creo que la parte de los datos es bien esencial para tocarlo en
- 54:31este tema. Con base en los datos se puede
- 54:33hacer muchísimas cosas, entonces en estas aplicaciones de citas
- 54:36Tú vas, este pones tus datos. Entonces, si si la tecnología
- 54:40percibe que ya eres una mujer de 40 años, que que este quizá no
- 54:46tenga un trabajo tan estable, etcétera, etcétera, te va
- 54:49arrojando menos opciones de pareja que una mujer joven de de
- 54:5520 años. ¿Este universitaria o cosas así
- 54:58no se han detectado esas esas desigualdades, no en el que las
- 55:02mujeres, pues de pronto, ya mayores este, pues el algoritmo
- 55:07las limita en en cuanto a las opciones amorosas que ellas a
- 55:11las que ellas aspiran, no? ¿Y están cerrando ahí también
- 55:14las posibilidades de vida de una mujer, no?
- 55:17¿Entonces todo esto está dominado por todos los datos?
- 55:22¿No? Y creo que ahí también tendría
- 55:23que ver, pero ese es otro tema bastante amplio, el de los el de
- 55:27los datos, la privacidad, como las empresas manejan estos
- 55:30datos, pero ese es va como para otro tema.
- 55:33Entonces, pues la verdad ha sido un una charla bien, bien bien
- 55:36compleja, compañeras. La verdad es agradezco mucho que
- 55:39que hayamos tenido este espacio para poderlo platicar y que
- 55:43también la audiencia pueda reflexionar y que las cápsulas
- 55:45que hemos puesto les les hayan servido para para algo.
- 55:49¿Y pues bueno, qué estamos haciendo ahora?
- 55:52Este ayer justamente se presentó una inteligencia artificial
- 55:57creada con una perspectiva de género.
- 56:01De Ah, que viene de una lucha feminista que es ley Olimpia
- 56:04este. Ellas sacaron una inteligencia
- 56:08artificial, que es una un smart chat para que las mujeres que
- 56:13están siendo víctimas de violencia digital, en este caso
- 56:16de de la difusión de contenidos íntimos sin consentimiento,
- 56:20puedan hacer uso de este smart chat, que es como una
- 56:22inteligencia artificial llamada Olimpia I a.
- 56:26Pues tú puedes contactar, ahora sí que a Olimpia y a y ahí te
- 56:30van a te van a dar una serie de procedimientos que quieres hacer
- 56:34en cuanto a atención psicológica, orientación legal.
- 56:38En fin, un montón de cosas y que se está construyendo con una
- 56:41empresa de mexicanos que que se que sí surgió en Estados Unidos,
- 56:44pero que son mexicanos y que y que justamente me comentaban las
- 56:48compañeras que que este buscaron a las mejores personas, que
- 56:51tuvieran esa sensibilidad feminista para poderla
- 56:54desarrollar y que todo todo ese lenguaje que tiene esa.
- 56:58Esa esa inteligencia artificial que es Olimpia I a está
- 57:01construida con nuestros propios términos, como los términos de
- 57:05de de la lucha feminista contra la contra la violencia digital.
- 57:09¿Y este se está alimentando de esos conceptos feministas, no?
- 57:13Lo cual me parece que es es súper necesario.
- 57:17Y este y bueno, esto es solamente un ejemplo de de cómo
- 57:20sí hay de repente algunas iniciativas.
- 57:23Y ojalá, esperemos que en los próximos capítulos podamos
- 57:26conocer un poquito más acerca de esta iniciativa.
- 57:29¿Ustedes qué opinan chicas para para cerrar el capítulo de hoy?
- 57:33Bueno, de mi parte no me queda más que agradecer siempre que
- 57:37estar con ustedes, sobre todo porque desde mi desconocimiento
- 57:41de muchos de los temas que hablamos, este siempre me nutro.
- 57:46Considero que también la audiencia se nutre en su mayoría
- 57:50con esos temas tan importantes. Y de gran repercusión para
- 57:54nuestra sociedad hoy en hoy en la actualidad no, sobre todo
- 57:57para las mujeres. ¿Siempre va a estar agradecida
- 57:59por conocer sobre todo que interesante la la el lanzamiento
- 58:03de esta guía no? Y la importancia de de cómo se
- 58:06va desarrollando estas en estas nuevas tecnologías, el el
- 58:11empoderamiento y sobre todo el poder de tener alguna de alguna
- 58:19manera poder yo. Acudir a algún lugar en el que
- 58:22se me pueda ayudar cuando sean vulnerados mis derechos.
- 58:25¿Como mujer no me queda duda que va a ser un éxito esta guía YY
- 58:30de eso vamos a más, no a a conocer más y a aprender más,
- 58:35que es lo importante de esto, no?
- 58:37Justo me parece muy interesante e importante la creación de esta
- 58:41guía desde un espacio feminista y con una.
- 58:46Perspectiva de de género y feminismo, también muy necesaria
- 58:50en este momento que pareciera que no puede hacer contrapeso
- 58:53con las grandes ideas, pero que eventualmente este tipo de
- 58:57proyecto se vaya realizando, pues como dice, no es el pueblo
- 59:03para el pueblo, pero creo que es un proyecto bastante ambicioso,
- 59:10me parece muy importante y ojalá.
- 59:14Se le pueda y nosotras pues también podamos darle
- 59:18visibilidad para que para que siga creciendo y que
- 59:21eventualmente otros proyectos de este tipo pues puedan salir a la
- 59:26a la luz. ¿Y bueno, pues yo yo me quedo
- 59:30como con con esta parte no? Que mencionábamos anteriormente
- 59:33con con ISA sobre cómo cómo se le da reconocimiento a las IAS
- 59:41en la categoría de mujer, me parece que este es como.
- 59:44¿Una de las preguntas fundamentales de del feminismo
- 59:47no que estamos haciendo nosotras como feministas que está
- 59:50haciendo, pues el mismo feminismo o los feminismos?
- 59:54Más bien, y para tratar de de responder esta esta pregunta y
- 1:00:00expandirse hacia el ámbito de de la virtualidad.
- 1:00:04Muchas gracias chicas. La verdad sí, ha sido un espacio
- 1:00:06bastante bonito porque por la reflexión esperemos que les haya
- 1:00:11servido y estaremos de regreso en 15 días con un episodio más
- 1:00:15de la nube violeta. Agradecemos mucho a simac radio
- 1:00:18y esperemos que que pronto también podamos conocer más
- 1:00:22iniciativas de de de tecnologías y mujeres.
- 1:00:26Nos vemos la próxima gracias. Simac radio presentó.
- 1:00:32La nube violeta, un espacio de difusión, reflexión y propuestas
- 1:00:39para transformar el algoritmo la nube violeta.
- 1:00:43Hablemos de educación digital. Riesgos en Internet y medios de
- 1:00:48prevención ante la violencia digital.
- 1:00:51Una mirada violeta, las TIC. Por espacios digitales seguros
- 1:00:56para todas.