Latest / Frecuencia Odontológica: el Podcast / EP. 21 | 🤖 Investigar con inteligencia artificial: entre la innovación y la evidencia científica

Transcript

EP. 21 | 🤖 Investigar con inteligencia artificial: entre la innovación y la evidencia científica · Frecuencia Odontológica: el Podcast

• 0:01
  Speaker 2: Bienvenidas y bienvenidos a Frecuencia Odontológica, el podcast, un espacio
• 0:05
  Speaker 2: donde acercamos el conocimiento científico a nuestra vida cotidiana. En
• 0:10
  Speaker 2: este capítulo 21, titulado Investigar con Inteligencia Artificial, entre la
• 0:14
  Speaker 2: innovación y la evidencia científica, exploraremos cómo la inteligencia artificial
• 0:19
  Speaker 2: está transformando la manera en que buscamos información, analizamos datos
• 0:22
  Speaker 2: y generamos conocimiento en odontología. Pero qué tan confiables son
• 0:27
  Speaker 2: sus respuestas.¿ Puede una herramienta de inteligencia artificial sustituir el
• 0:31
  Speaker 2: pensamiento crítico de un investigador? Este capítulo complementa la emisión
• 0:35
  Speaker 2: 170 de frecuencia odontológica de UABC Radio, titulada IA y
• 0:40
  Speaker 2: Evidencia Científica.¿ Cómo está cambiando la investigación en odontología? Con
• 0:44
  Speaker 2: la participación del Dr. Osmar Alejandro Chánez Cuevas. Comencemos.
• 0:50
  Speaker 3: Haz de cuenta que una inteligencia artificial se sienta a
• 0:53
  Speaker 3: tomar el examen teórico para obtener una licencia
• 0:56
  Speaker 4: dental. Ajá.
• 0:57
  Speaker 3: Responde todas las preguntas, analiza los casos clínicos por escrito
• 1:00
  Speaker 3: y aprueba con un 99% de precisión. O sea, superando
• 1:05
  Speaker 3: por mucho a los estudiantes humanos.
• 1:07
  Speaker 4: Sí, claro. Suena a un triunfo absoluto de la tecnología.
• 1:11
  Speaker 3: Totalmente. Pero, y aquí viene lo interesante, al día siguiente
• 1:15
  Speaker 3: le pones enfrente a esa misma inteligencia artificial una radiografía
• 1:19
  Speaker 3: real de un paciente.
• 1:20
  Speaker 4: Ya en la clínica, ya en la vida real.
• 1:23
  Speaker 3: Exacto, en la clínica. pues reprueba de la forma más
• 1:26
  Speaker 3: estrepitosa posible. Comete errores que un estudiante de primer año
• 1:30
  Speaker 3: jamás cometería.
• 1:32
  Speaker 4: Es un contraste
• 1:33
  Speaker 3: brutal. Y justo hoy vamos a desempacar exactamente por qué
• 1:36
  Speaker 3: ocurre esto y qué significa para el futuro de la ciencia.
• 1:41
  Speaker 3: Es un enorme placer dar inicio a este análisis a fondo.
• 1:44
  Speaker 3: Bienvenidas y bienvenidos a Frecuencia Odontológica, el podcast. Así
• 1:49
  Speaker 4: es. Y bueno,
• 1:50
  Speaker 3: inmediatamente vamos a establecer el contexto. Este es el capítulo
• 1:54
  Speaker 3: 20 que titulamos Investigar con Inteligencia Artificial. Entre la innovación
• 1:58
  Speaker 3: y la evidencia científica.
• 2:00
  Speaker 4: Un tema que la verdad está súper vigente.
• 2:02
  Speaker 3: Sí, cañón. Y cabe destacar que esta inmersión profunda está
• 2:05
  Speaker 3: directamente vinculada con la emisión 170 de Frecuencia Odontológica de
• 2:09
  Speaker 3: UABC Radio.
• 2:10
  Speaker 4: Sí, la emisión donde tuvimos la participación del Dr. Osmar
• 2:14
  Speaker 4: Alejandro Chánez Cuevas. enfocada en cómo la inteligencia artificial y
• 2:18
  Speaker 4: la evidencia científica están cambiando las reglas de la investigación.
• 2:22
  Speaker 3: Exactamente. Y para arrancar, la premisa de hoy es bastante
• 2:25
  Speaker 3: provocativa para quienes nos escuchan. Si una inteligencia artificial puede
• 2:30
  Speaker 3: rastrear bases de datos y redactar textos súper complejos en segundos,¿
• 2:35
  Speaker 3: significa que ya puede hacer una investigación científica completa, autónoma
• 2:38
  Speaker 3: y confiable por su cuenta?
• 2:39
  Speaker 4: Esa es justo la pregunta que le está quitando el
• 2:41
  Speaker 4: sueño a muchísimos académicos ahorita. Porque lo que revelan los
• 2:45
  Speaker 4: artículos que vamos a diseccionar hoy es una dualidad fascinante.
• 2:50
  Speaker 3: Pero también peligrosa, ¿no?
• 2:51
  Speaker 4: Peligrosísima. Por un lado, tenemos que esta inteligencia artificial generativa
• 2:55
  Speaker 4: ahorra un tiempo monumental y acelera los descubrimientos.
• 2:59
  Speaker 3: Claro, optimiza todo.
• 3:00
  Speaker 4: Sí, pero por otro lado, cuando ya revisamos los datos fríos,
• 3:03
  Speaker 4: presenta riesgos altísimos de sesgos, de alucinaciones de datos y, bueno,
• 3:08
  Speaker 4: unos dilemas éticos profundísimos.
• 3:10
  Speaker 3: O sea, que exige una supervisión humana inquebrantable siempre.
• 3:13
  Speaker 4: Inquebrantable, exacto. Básicamente estamos caminando sobre una línea muy fina
• 3:17
  Speaker 4: entre la gran innovación y la contaminación total de la
• 3:21
  Speaker 4: evidencia científica.
• 3:22
  Speaker 3: Bueno, a ver, vamos a desempacar esto por partes, porque
• 3:26
  Speaker 3: para entender los riesgos de los que hablan estos artículos,
• 3:29
  Speaker 3: primero hay que comprender por qué esta inteligencia artificial de
• 3:31
  Speaker 3: hoy es tan diferente.
• 3:32
  Speaker 4: Sí, es clave hacer esa distinción.
• 3:35
  Speaker 3: Digo, porque la tecnología en el consultorio no es nueva.
• 3:37
  Speaker 3: Hemos usado software avanzado en la clínica por años.
• 3:40
  Speaker 4: Diez o quince años, fácil. Pero fíjate, históricamente usábamos lo
• 3:43
  Speaker 4: que llamamos inteligencia artificial tradicional o discriminativa.
• 3:47
  Speaker 3: Discriminativa.
• 3:48
  Speaker 4: Exacto. Estos sistemas están entrenados exclusivamente para reconocer, clasificar o segmentar.
• 3:55
  Speaker 4: Imagina un software de radiología al que le muestras 100.000
• 3:57
  Speaker 4: panorámicas con caries.
• 3:59
  Speaker 3: Ok, el sistema aprende el patrón visual
• 4:01
  Speaker 4: Justo eso. Entonces, cuando le das una radiografía nueva, simplemente
• 4:05
  Speaker 4: discrimina y te dice, ah, mira, aquí hay una caries.
• 4:08
  Speaker 4: O aquí hay pérdida de hueso.
• 4:10
  Speaker 3: Entiendo. Entonces es básicamente una máquina de reconocimiento de patrones.
• 4:13
  Speaker 4: Sí. Analiza datos que ya existen y los clasifica en
• 4:16
  Speaker 4: cajas predeterminadas. Pero recientemente dimos el salto a la inteligencia
• 4:20
  Speaker 4: artificial generativa o GNAI por sus siglas en inglés.
• 4:23
  Speaker 3: Que es la que está de moda ahorita.
• 4:25
  Speaker 4: Totalmente. Y aquí la palabra clave es generativa. Esta tecnología
• 4:29
  Speaker 4: usa arquitecturas súper complejas como las redes generativas antagónicas o
• 4:34
  Speaker 4: los modelos de difusión.
• 4:35
  Speaker 3: Suena a ciencia ficción.
• 4:37
  Speaker 4: Un poco, sí. El punto es que ya no se
• 4:39
  Speaker 4: conforma con clasificar. Aprende las distribuciones de datos y crea
• 4:43
  Speaker 4: contenido completamente nuevo y realista a partir de una simple
• 4:46
  Speaker 4: instrucción de texto, los famosos prompts.
• 4:49
  Speaker 3: A ver, pausa, porque hablamos de redes antagónicas y difusión
• 4:52
  Speaker 3: y para los que no pasamos el fin de semana programando,¿
• 4:55
  Speaker 3: cómo funciona exactamente una red antagónica?
• 4:57
  Speaker 4: Es una excelente pregunta y el mecanismo está increíble. Funciona
• 5:02
  Speaker 4: literalmente poniendo a competir a dos inteligencias artificiales entre sí.¿
• 5:05
  Speaker 4: A
• 5:05
  Speaker 3: competir?
• 5:06
  Speaker 4: Sí. Haz de cuenta un falsificador de arte intentando pintar
• 5:10
  Speaker 4: un cuadro falso y un detective experto intentando descubrir que
• 5:14
  Speaker 4: es falso.
• 5:14
  Speaker 3: Ok, ya voy entendiendo
• 5:15
  Speaker 4: La primera IA es el falsificador, el generador. Crea una
• 5:19
  Speaker 4: imagen de, digamos, una corona dental. Y la segunda IA
• 5:23
  Speaker 4: es el detective, el discriminador, que compara esa imagen con
• 5:26
  Speaker 4: coronas reales.
• 5:27
  Speaker 3: Entonces se pelean entre ellas. El falsificador trata de engañar
• 5:30
  Speaker 3: y el detective se vuelve más estricto.
• 5:32
  Speaker 4: Exactamente. Y repiten ese proceso millones de veces. El generador
• 5:38
  Speaker 4: se vuelve tan bueno creando coronas falsas que llega un
• 5:41
  Speaker 4: punto en que el discriminador ya no nota la diferencia.
• 5:44
  Speaker 3: Y ahí ya tienes un modelo capaz de generar estructuras
• 5:46
  Speaker 3: perfectas de la nada.
• 5:48
  Speaker 4: Así es, de la nada.
• 5:49
  Speaker 3: Fíjate que me gusta mucho verlo con una analogía respecto
• 5:52
  Speaker 3: a cómo manejamos la información. La IA tradicional era como
• 5:55
  Speaker 3: tener un bibliotecario rapidísimo.
• 5:57
  Speaker 4: Un asistente eficiente.
• 5:58
  Speaker 3: Le pedías un dato de endodoncia y corría y te
• 6:00
  Speaker 3: traía el libro exacto. Era útil, pero tú tenías que
• 6:03
  Speaker 3: hacer la lectura. En cambio, la IA generativa de hoy
• 6:06
  Speaker 3: es como un asistente que se lee la biblioteca entera
• 6:09
  Speaker 3: en 10 segundos.
• 6:10
  Speaker 4: Y te hace el resumen.
• 6:11
  Speaker 3: Sí, te escribe el resumen, te conecta teorías, te lo
• 6:13
  Speaker 3: traduce y hasta te diseña la portada del reporte.
• 6:16
  Speaker 4: Es una analogía inmejorable, la verdad. Pasamos de buscar a crear.
• 6:20
  Speaker 4: Y en investigación odontológica, esa capacidad de creación se traduce
• 6:24
  Speaker 4: en estructuras en 3D.
• 6:26
  Speaker 3: Que es algo que se menciona en los artículos que revisamos.
• 6:28
  Speaker 4: Sí, la IA está logrando hitos asombrosos en prostodoncia. Por ejemplo,
• 6:32
  Speaker 4: estas redes están diseñando modelos de coronas y restauraciones en
• 6:36
  Speaker 4: ley de forma totalmente automatizada.
• 6:38
  Speaker 3: O sea, no es nomás un dibujo en la pantalla.
• 6:40
  Speaker 4: No, para nada. El modelo toma en cuenta la morpología
• 6:43
  Speaker 4: del diente preparado, escanea los adyacentes, calcula puntos de contacto
• 6:47
  Speaker 4: y te genera una corona que se adapta a la
• 6:49
  Speaker 4: mordida del paciente.
• 6:51
  Speaker 3: Híjole, o sea que la máquina está inventando la anatomía
• 6:54
  Speaker 3: perfecta de un pedazo de diente que ya no existe.
• 6:56
  Speaker 4: Exacto. Y en ortodoncia van un paso más allá usando
• 6:59
  Speaker 4: modelos de difusión. A partir de una simple foto frontal
• 7:03
  Speaker 4: y lateral del paciente, antes de los brackets o la cirugía,
• 7:07
  Speaker 4: la inteligencia artificial predice y genera una imagen en 3D
• 7:10
  Speaker 4: súper realista de cómo van a cambiar los tejidos blandos
• 7:13
  Speaker 4: meses después del tratamiento. O
• 7:15
  Speaker 3: sea, cómo se le van a ver los labios y
• 7:17
  Speaker 3: el perfil.
• 7:18
  Speaker 4: Sí, todo el cambio facial.
• 7:20
  Speaker 3: Aquí es donde se pone realmente interesante. Y quiero volver
• 7:23
  Speaker 3: a la imagen con la que abrimos este análisis. Si
• 7:25
  Speaker 3: la IA es tan buena creando modelos y prediciendo cómo
• 7:29
  Speaker 3: se mueve el tejido,¿ cómo le va cuando la sentamos
• 7:32
  Speaker 3: a pasar una prueba de conocimiento odontológico duro y clínico?
• 7:36
  Speaker 4: Pues ahí es donde la fachada de perfección se empieza
• 7:38
  Speaker 4: a agrietar. Uno de los estudios analizó a 31 modelos diferentes,
• 7:42
  Speaker 4: como ChatGPT4 y CLOD.
• 7:44
  Speaker 3: Ok, los modelos de lenguaje grandes.
• 7:46
  Speaker 4: Sí, para ver si realmente sabían odontología. Y mira, los
• 7:49
  Speaker 4: resultados en pruebas escritas son impresionantes. Cha GPT-4 logró aprobar
• 7:54
  Speaker 4: exámenes teóricos para licencias dentales de Estados Unidos.
• 7:57
  Speaker 3: Exámenes para los que los humanos estudian años perdiendo el sueño. Digo,
• 8:01
  Speaker 3: y la máquina llega y los pasa.
• 8:03
  Speaker 4: Y supera la media de los estudiantes humanos. Incluso, fíjate,
• 8:07
  Speaker 4: en un escenario de diagnóstico en endodoncia, cuando le dieron
• 8:11
  Speaker 4: los síntomas en texto, alcanzó un 99% de precisión
• 8:15
  Speaker 3: 99% está de locos.
• 8:17
  Speaker 4: Prácticamente no se equivocaba. Superó a estudiantes avanzados por mucho.
• 8:22
  Speaker 3: A ver, tengo que hacer otra pausa aquí porque mi
• 8:24
  Speaker 3: cerebro encuentra una contradicción gigante. Si pasa el examen mejor
• 8:28
  Speaker 3: que el humano, con casi 100% de precisión,¿ por qué
• 8:31
  Speaker 3: todos los artículos advierten casi en pánico que no debemos
• 8:35
  Speaker 3: usar a la inteligencia artificial para tomar decisiones clínicas reales?
• 8:38
  Speaker 4: Es el debate central. Aprobar un examen de opción múltiple
• 8:42
  Speaker 4: donde la información ya te la dieron filtrada y estructurada
• 8:45
  Speaker 4: en texto limpio no es lo mismo que atender a
• 8:47
  Speaker 4: una persona de carne y hueso.
• 8:49
  Speaker 3: Claro, el mundo real es un caos
• 8:51
  Speaker 4: Exacto. Esos modelos son excelentes procesando teoría predecible. Pero fallan
• 8:57
  Speaker 4: cuando salen del texto estructurado y tienen que interpretar, por ejemplo, imágenes.
• 9:00
  Speaker 3: Como la radiografía que decíamos.
• 9:02
  Speaker 4: Justamente. Ese mismo estudio revela que, en radiología oral, la
• 9:06
  Speaker 4: precisión de la IA para interpretar imágenes cayó por debajo
• 9:10
  Speaker 4: del 35%. O sea,
• 9:12
  Speaker 3: reprueban estrepitosamente con una radiografía real.
• 9:15
  Speaker 4: Sí. Algo que un estudiante promedio haría mil veces mejor.
• 9:19
  Speaker 3: Entonces son como ese compañero de clase que es un
• 9:21
  Speaker 3: genio recitando el libro de memoria. Ándale
• 9:23
  Speaker 3: Pero en las prácticas clínicas, cuando le pasas una radiografía
• 9:25
  Speaker 3: borrosa del paciente, se congela y se equivoca en todo.
• 9:28
  Speaker 4: Es exactamente eso.
• 9:30
  Speaker 3: Carecen de razonamiento clínico integrador. Y a esto sumarle lo
• 9:34
  Speaker 3: que los investigadores llaman una visión de túnel anatómica.
• 9:37
  Speaker 4: Visión de túnel anatómica.
• 9:39
  Speaker 3: Sí, regresemos a los diseños de coronas en 3D. La
• 9:42
  Speaker 3: IA te puede diseñar una superficie oclusal perfecta para masticar.
• 9:46
  Speaker 3: Se ve increíble en pantalla.
• 9:47
  Speaker 4: Ajá, ¿pero?
• 9:49
  Speaker 3: Pero a menudo estos sistemas ignoran el contexto oculto. Ignoran
• 9:52
  Speaker 3: las raíces, el estado del ligamento periodontal o si hay
• 9:56
  Speaker 3: suficiente hueso maxilar.
• 9:57
  Speaker 4: Ya, te entendí.
• 9:58
  Speaker 3: O sea, te diseñan un techo hermoso. para una casa,
• 10:01
  Speaker 3: digno de revista.
• 10:02
  Speaker 4: Sí.
• 10:03
  Speaker 3: Pero ni siquiera calcularon si los cimientos o las paredes
• 10:05
  Speaker 3: están podridos y si van a aguantar el peso de
• 10:07
  Speaker 3: ese techo enorme.
• 10:08
  Speaker 4: Esa es su limitación invisible. Generan cosas que visualmente son perfectas,
• 10:13
  Speaker 4: pero a nivel biomecánico podrían ser inútiles.
• 10:16
  Speaker 3: O hasta causarle daño al paciente.
• 10:18
  Speaker 4: Totalmente, si no pasan por la evaluación de un especialista
• 10:20
  Speaker 4: que sí entienda el panorama completo. Y esta incapacidad de
• 10:24
  Speaker 4: ver más allá nos lleva al problema más grave en
• 10:26
  Speaker 4: la investigación científica.
• 10:28
  Speaker 3: Me imagino que esa incapacidad de conectar todo con el
• 10:30
  Speaker 3: mundo físico les afecta al investigar, porque investigar no es
• 10:33
  Speaker 3: nomás aventar datos, es encontrar la verdad, ¿no?
• 10:36
  Speaker 4: Lo fascinante y lo más preocupante es que esta visión
• 10:39
  Speaker 4: de túnel los hace inventar información solo para complacer al usuario.
• 10:43
  Speaker 3: Las famosas alucinaciones.
• 10:45
  Speaker 4: Exacto, alucinaciones de datos.
• 10:47
  Speaker 3: Y aquí es vital explicar cómo ocurre, porque, digo, alucinación
• 10:51
  Speaker 3: suena a que la máquina está soñando, pero es súper
• 10:54
  Speaker 3: matemático el asunto.
• 10:55
  Speaker 4: Sí, es un tema estadístico.
• 10:57
  Speaker 3: Es como un teclado predictivo del celular, pero con esteroides.
• 11:00
  Speaker 3: Si yo escribo feliz, me sugiere cumpleaños, no porque entienda
• 11:03
  Speaker 3: que es una fiesta, sino por pura probabilidad.
• 11:06
  Speaker 4: Y los modelos de lenguaje hacen eso con billones de parámetros.
• 11:10
  Speaker 4: No razonan sobre biología, solo encadenan las palabras que suenan
• 11:13
  Speaker 4: más plausibles juntas.
• 11:15
  Speaker 3: Y claro, si solo pones lo que suena bien estadísticamente,
• 11:17
  Speaker 3: pues vas a terminar inventando cosas.
• 11:19
  Speaker 4: Así es. Y cuando los pones a investigar evidencia científica,
• 11:23
  Speaker 4: las consecuencias son alarmantes. En una prueba sobre patología oral,
• 11:27
  Speaker 4: se descubrió que el 23.5% de las referencias bibliográficas que
• 11:31
  Speaker 4: generó la IA eran falsas.
• 11:34
  Speaker 3: Híjole, pensar en ese número me hace dudar de cualquier artículo.
• 11:38
  Speaker 3: Casi un cuarto de las referencias inventadas de la nada.
• 11:42
  Speaker 4: Y construyen referencias que son obras maestras del engaño. Mezclan
• 11:46
  Speaker 4: el apellido de un investigador real con un título súper
• 11:49
  Speaker 4: creíble y lo asignan a una revista prestigiosa. O
• 11:53
  Speaker 3: sea, todo suena perfecto, pero lo buscas y no existe.
• 11:55
  Speaker 4: Jamás existió. Y si un estudiante copia esa referencia sin checarla,
• 12:00
  Speaker 4: está construyendo su investigación sobre el aire.
• 12:02
  Speaker 3: Volvemos a las analogías. Esto es como usar el GPS
• 12:05
  Speaker 3: en una ciudad que no conoces. Confías porque la vocecita
• 12:08
  Speaker 3: suena muy segura.
• 12:09
  Speaker 4: Sí, te sientes seguro
• 12:10
  Speaker 3: Te evita el tráfico. Pero si de repente te dice
• 12:12
  Speaker 3: que gires hacia un lago y tú le haces caso, bueno,
• 12:15
  Speaker 3: la culpa de hundir el coche es tuya, no de
• 12:16
  Speaker 3: la aplicación. No puedes confiar ciegamente.
• 12:18
  Speaker 4: Esa analogía del conductor responsable refleja la postura que las
• 12:22
  Speaker 4: instituciones académicas están tomando. Y es una carrera contra el tiempo,
• 12:25
  Speaker 4: porque la cosa está escalando a praudes intencionales.¿ A
• 12:29
  Speaker 3: qué te refieres con intencionales?
• 12:30
  Speaker 4: A lo que en la literatura académica ya se conoce
• 12:32
  Speaker 4: como fábricas de artículos o paper mills.
• 12:35
  Speaker 3: Fábricas de artículos. Suena como a crimen organizado dentro de
• 12:39
  Speaker 3: la ciencia.
• 12:39
  Speaker 4: Pues esencialmente lo es. Son redes que explotan la velocidad
• 12:43
  Speaker 4: de la IA para fabricar manuscritos científicos completos basados en
• 12:47
  Speaker 4: datos totalmente inventados.
• 12:49
  Speaker 3: O sea que la IA les redacta la introducción, les
• 12:51
  Speaker 3: inventa los datos del laboratorio y las conclusiones.
• 12:53
  Speaker 4: Sí, artículos que parecen haber costado meses de sudor en
• 12:57
  Speaker 4: un laboratorio real. Y luego venden la autoría a investigadores
• 13:00
  Speaker 4: desesperados por inflar su currículum.
• 13:02
  Speaker 3: Pero a ver, yo aquí tengo que cuestionar el sistema.
• 13:05
  Speaker 3: Toda la ciencia moderna usa la revisión por pares,
• 13:07
  Speaker 4: ¿no? Así es, los famosos peer reviews.
• 13:10
  Speaker 3: Otros científicos revisan tu trabajo antes de publicarlo. Si todo
• 13:13
  Speaker 3: esto es inventado por un teclado predictivo,¿ cómo pasan los
• 13:16
  Speaker 3: filtros de las mejores revistas?
• 13:18
  Speaker 4: Porque la IA se ha vuelto peligrosamente buena imitando el
• 13:21
  Speaker 4: lenguaje académico. Para un revisor humano, sin acceso a los
• 13:24
  Speaker 4: pacientes reales del estudio, es casi imposible distinguir la prosa
• 13:28
  Speaker 4: auténtica del artificial.
• 13:30
  Speaker 3: Claro, sobre todo en artículos de revisión bibliográfica.
• 13:32
  Speaker 4: Justo ahí atacan. En los metaanálisis, donde solo resumes literatura existente,
• 13:38
  Speaker 4: algo que la IA falsifica de forma muy convincente. Esto
• 13:41
  Speaker 4: contamina toda la evidencia que leemos. Y
• 13:44
  Speaker 3: si la evidencia se contamina de basura artificial, tarde o
• 13:47
  Speaker 3: temprano eso llega a la clínica. Imagina un dentista basando
• 13:50
  Speaker 3: un tratamiento en un material nuevo.
• 13:52
  Speaker 4: Sí, confiando en un artículo reciente.
• 13:54
  Speaker 3: Y resulta que los datos de durabilidad fueron alucinados por
• 13:58
  Speaker 3: una IA en una de esas fábricas. O sea, estamos
• 14:00
  Speaker 3: hablando de daño directo a la salud de pacientes.
• 14:03
  Speaker 4: Es la pesadilla de cualquier profesional de la salud. La
• 14:06
  Speaker 4: mala ciencia malgasta presupuestos y pone en riesgo la atención médica.
• 14:10
  Speaker 4: Por eso surge la necesidad urgente de reglas éticas.
• 14:14
  Speaker 3: Lo cual abre un debate monumental. Si una IA inventa
• 14:18
  Speaker 3: un dato y un investigador lo publica inocentemente, causando daño,¿
• 14:22
  Speaker 3: de quién es la culpa?
• 14:23
  Speaker 4: De la empresa tecnológica o del investigador?
• 14:26
  Speaker 3: Exacto.¿ A quién demandas?
• 14:28
  Speaker 4: Pues mira, la respuesta de las grandes academias es unánime
• 14:31
  Speaker 4: e inflexible. La responsabilidad ética jamás se puede delegar a
• 14:35
  Speaker 4: un software. O
• 14:38
  Speaker 3: sea,¿ el investigador
• 14:39
  Speaker 4: humano es el único responsable? Así es. Y para frenar esto,
• 14:41
  Speaker 4: las coaliciones de editores médicos establecieron tres pilares innegociables. El
• 14:46
  Speaker 4: primero es la divulgación transparente.
• 14:48
  Speaker 3: Que me imagino es decir si usaste IA.
• 14:51
  Speaker 4: Sí, pero no basta con decir usé IA. Tienes que
• 14:53
  Speaker 4: especificar qué herramienta, qué versión, qué parámetros y para qué
• 14:58
  Speaker 4: partes del manuscrito la usaste. Transparencia total.
• 15:01
  Speaker 3: Y el segundo pilar supongo que es para combatir las
• 15:03
  Speaker 3: referencias inventadas.
• 15:05
  Speaker 4: Exactamente. El segundo pilar es la verificación rigurosa. El humano
• 15:09
  Speaker 4: tiene la obligación moral de verificar manualmente cada cita y
• 15:13
  Speaker 4: cada dato generado contra el mundo real.
• 15:16
  Speaker 3: La máquina propone, pero el humano corrobora.
• 15:18
  Speaker 4: Sí.
• 15:18
  Speaker 3: Es como firmar un cheque. Aunque tu asistente lo llene
• 15:21
  Speaker 3: a máquina perfecto, sería una locura firmarlo sin revisar la cantidad.
• 15:25
  Speaker 4: Porque tú eres quien pone la cara.
• 15:26
  Speaker 3: Pero a ver, la verificación suena muy bonita, pero si
• 15:28
  Speaker 3: me dices que las alucinaciones son casi indetectables…¿ Cómo se
• 15:32
  Speaker 3: cumple esto en la práctica
• 15:33
  Speaker 4: Con un escepticismo extremo. No puedes confiar en lo que
• 15:37
  Speaker 4: suena lógico. Tienes que rastrear la fuente primaria siempre. Y
• 15:41
  Speaker 4: eso nos lleva al tercer pilar, el etiquetado claro de
• 15:44
  Speaker 4: datos sintéticos.
• 15:45
  Speaker 3: Datos sintéticos.
• 15:47
  Speaker 4: Sí, si generaste una imagen en 3D con IA o
• 15:50
  Speaker 4: datos estadísticos simulados, ese material debe tener una etiqueta gigante
• 15:54
  Speaker 4: que diga generado por IA, para que en el futuro
• 15:57
  Speaker 4: nadie crea que son pacientes reales. Claro. Y
• 15:59
  Speaker 3: escuchando esto de regular, Fíjate que creo que hay otro
• 16:02
  Speaker 3: peligro que va más allá de los datos falsos y
• 16:05
  Speaker 3: son los sesgos del pasado.
• 16:07
  Speaker 4: Uy sí, ese es un tema gigantesco.
• 16:10
  Speaker 3: Si la IA aprende de montañas de textos que escribimos
• 16:12
  Speaker 3: por décadas, me imagino que absorbe todos nuestros prejuicios y desigualdades,
• 16:17
  Speaker 4: ¿no? Has tocado uno de los retos sociológicos más formidables.
• 16:20
  Speaker 4: La IA funciona como un espejo. Si a lo largo
• 16:23
  Speaker 4: del siglo XX, el 80% de los estudios de implantes
• 16:26
  Speaker 4: se hicieron en poblaciones caucásicas masculinas.
• 16:29
  Speaker 3: Marginando a poblaciones indígenas o latinas.
• 16:31
  Speaker 4: Exacto. La IA absorbe esa asimetría de los datos históricos.
• 16:35
  Speaker 4: O
• 16:35
  Speaker 3: sea, asume que la anatomía de esa población es la
• 16:38
  Speaker 3: norma para toda la humanidad. Y si le pido un
• 16:40
  Speaker 3: plan de tratamiento, podría darme algo subóptimo para el paciente
• 16:44
  Speaker 3: que tengo en visilla.
• 16:45
  Speaker 4: Solo porque se entrenó con datos desiguales. Y no solo
• 16:48
  Speaker 4: hereda la desigualdad, corre el riesgo de automatizarla y amplificarla.
• 16:52
  Speaker 3: Está el cañón.
• 16:53
  Speaker 4: Por eso, los investigadores tienen que identificar y mitigar estos
• 16:56
  Speaker 4: sesgos proactivamente. La tecnología avanza, pero la equidad en salud
• 17:01
  Speaker 4: no se puede quedar atrás.
• 17:02
  Speaker 3: Entonces, a manera de intentar destilar todo esto. Es innegable
• 17:06
  Speaker 3: que la inteligencia artificial está reescribiendo la odontología contemporánea. Es
• 17:10
  Speaker 3: un salto de innovación brutal.
• 17:11
  Speaker 4: Sin duda alguna.
• 17:12
  Speaker 3: Desde resumir literatura hasta predecir caras en 3D. Pero la
• 17:16
  Speaker 3: velocidad y fluidez no equivalen a conocimiento válido y seguro
• 17:19
  Speaker 3: para el paciente.
• 17:20
  Speaker 4: Totalmente de acuerdo. El futuro no exige elegir entre rendirnos
• 17:24
  Speaker 4: a la tecnología o aferrarnos al pasado. Se trata de integrarlos.
• 17:28
  Speaker 4: El pensamiento crítico y la verificación hoy son más indispensables
• 17:32
  Speaker 4: que nunca.
• 17:33
  Speaker 3: Y para cerrar esta inmersión, este análisis a fondo, quiero
• 17:36
  Speaker 3: dejar una idea provocativa sobre la mesa. Lo mencionamos. La
• 17:39
  Speaker 3: IA aprende de lo que hay en Internet. Sí. Pero
• 17:41
  Speaker 3: hoy el Internet se está llenando de artículos falsos y
• 17:43
  Speaker 3: basura científica, de esas fábricas que decíamos. Entonces,¿ qué va
• 17:47
  Speaker 3: a pasar en cinco años?
• 17:48
  Speaker 4: Es una excelente pregunta.
• 17:49
  Speaker 3: Cuando las nuevas versiones de IA necesiten más datos y
• 17:52
  Speaker 3: terminen devorando la basura científica que crearon las IAs del presente,¿
• 17:56
  Speaker 3: cómo vamos a proteger la verdad médica?
• 17:58
  Speaker 4: Pues mira, en informática a ese escenario de pesadilla se
• 18:01
  Speaker 4: le conoce como colapso del modelo. La IA se alimenta
• 18:04
  Speaker 4: de sus propios desechos y pierde todo anclaje con la realidad.
• 18:08
  Speaker 4: Si no supervisamos ahora, colapsará la confianza global.
• 18:11
  Speaker 3: Volvemos inevitablemente a nuestra radiografía inicial. Ante esta información turbia,
• 18:16
  Speaker 3: somos nosotros los humanos quienes mantenemos la responsabilidad ineludible de
• 18:20
  Speaker 3: diagnosticar la verdad.
• 18:21
  Speaker 4: Completamente de acuerdo.
• 18:23
  Speaker 3: Y así llegamos al final de este capítulo 20 de
• 18:25
  Speaker 3: Frecuencia Odontológica, el podcast, muy de la mano con la
• 18:28
  Speaker 3: emisión 170 de UABC Radio. Nos despedimos por hoy, deseando
• 18:32
  Speaker 3: que mantengan su curiosidad despierta, duden siempre y por favor
• 18:36
  Speaker 3: vayan a verificar las fuentes originales. Hasta la próxima.
• 18:40
  Speaker 2: La inteligencia artificial está abriendo nuevas posibilidades para la investigación odontológica.
• 18:45
  Speaker 2: Sin embargo, producir información rápidamente no significa necesariamente generar conocimiento confiable.
• 18:52
  Speaker 2: La evidencia científica, el pensamiento crítico y la responsabilidad de
• 18:55
  Speaker 2: quienes investigan siguen siendo indispensables. Gracias por acompañarnos en el
• 19:00
  Speaker 2: capítulo 21 de Frecuencia Odontológica, el podcast. Te invitamos a
• 19:05
  Speaker 2: escuchar también la emisión 170 de Frecuencia Odontológica de UABC
• 19:09
  Speaker 2: Radio y a seguir nuestros contenidos de divulgación científica en
• 19:12
  Speaker 2: nuestras plataformas digitales. Hasta nuestro próximo capítulo, donde seguiremos acercando
• 19:17
  Speaker 2: la ciencia a tu vida cotidiana.