(pdf)
SciELO 
SciELO 
Permalink
Preámbulo
La Academia Nacional de Medicina de México, como institución académica al servicio de la ciencia médica y en beneficio de la salud pública, tiene como parte de sus principios la observación y la vigilancia de las condiciones, las decisiones, los insumos, las innovaciones y los desarrollos tecnológicos vinculados con la salud individual y colectiva.
Como grupo de expertos en todas las áreas biomédicas, analiza las condiciones derivadas de la generación del conocimiento y los procesos que tienen impacto en la salud, y propone recomendaciones y acciones específicas orientadas a preservar la salud individual y colectiva, promoviendo la integridad científica en la generación del conocimiento biomédico, así como en sus aplicaciones clínicas y traslacionales, con altos estándares académicos y éticos.
La presente propuesta de revisión no representa un análisis técnico relacionado con el desarrollo tecnológico de la inteligencia artificial (IA) en la salud, sino una reflexión con bases documentales que pretende enfocar la atención de esta herramienta en las medidas precautorias de seguridad, y delimitar y disminuir los riesgos inherentes a su uso indiscriminado.
En general, la IA como concepto se remite a diferentes sistemas computarizados que pueden realizar tareas que típicamente son propias de la inteligencia humana, como resolver problemas, predecir eventos futuros o tomar decisiones. No obstante, debido a la gran cantidad de procesos en el tratamiento de datos a través de algoritmos con cierto automatismo, y diferentes desarrollos tecnológicos en el contexto de la IA, esta carece de una definición universalmente aceptada, lo cual ha propiciado diferentes interpretaciones y de acuerdo a los niveles de interacción de estas herramientas.
El segmento del aprendizaje automatizado (machine learning) describe a su vez uno de los ejes básicos a partir de los que se crean sistemas que aprenden datos y pueden hacer predicciones y decisiones sin una programación explícita. Este incluye aprendizaje automatizado supervisado, no supervisado, de refuerzo y el llamado aprendizaje profundo (deep learning), que representa el modelo de redes neuronales con diferentes niveles de interacción para modelar y entender patrones complejos de datos.
Actualmente se han considerado como grandes apartados de la IA que enmarcan una serie de herramientas y procesos automatizados, la IA general (AGI, artificial general intelligence), la IA en nivel humano (HLAI, human-level artificial intelligence), la IA transformativa (TAI, transformative artificial intelligence) y la superinteligencia artificial (ASI, artificial superintelligence), de acuerdo con los últimos reportes de grupos de expertos.1
La participación de la IA en las actividades de la vida diaria también ha generado efectos particulares en las áreas biomédicas, desde la investigación básica hasta la investigación aplicada, la investigación traslacional y la gestión y la transferencia del conocimiento. Dado que estos procesos se enlazan directamente con la toma de decisiones en la salubridad general, se ha considerado de alta pertinencia emitir una serie de consideraciones y recomendaciones sustentadas en el equilibrio entre la exaltación generada por el uso de la IA en áreas biomédicas y la cautela en sus aplicaciones pragmáticas, desde la postura crítica y reflexiva de la transdisciplina.
Generalidades de la inteligencia artificial
La descripción más elemental reside en el concepto de «máquinas que pueden desarrollar actividades propias de la inteligencia humana». Desde el punto de vista conceptual, la IA se origina a partir de sistemas digitales de aprendizaje automatizado como modelo básico. Su desarrollo ha tenido un crecimiento exponencial en todas las áreas del conocimiento, y la innovación y los cambios permanentes son una constante. De manera global se explica como un concepto sombrilla definido como «un sistema integrado por diferentes herramientas digitales que tienen la capacidad de utilizar algoritmos para detectar, clasificar, analizar datos, promover ambientes de aprendizaje y tomar decisiones, tal cual lo pudiese hacer un ser humano».1 Adicionalmente han surgido visiones de consenso, como la propuesta por el Consejo de Europa, que la propone como «el conjunto de ciencias, teorías y técnicas cuyo fin es reproducir mediante una máquina las capacidades cognitivas de un ser humano».2-4
La evolución de redes digitales sustentadas en el prototipo de las redes neuronales ha fortalecido los esquemas de lenguaje relacional a la manera de la IA semántica, lo que ha contribuido al desarrollo de los llamados modelos de lenguaje automatizado, que pueden realizar tareas más complejas. Pese a ello, algunos autores consideran que, además de los conceptos de «autonomía» y «orientación a tareas específicas», se requiere complementar con mayor exactitud su definición añadiendo variables como la «automatización» y la participación de «algoritmos» para ser consideradas en el marco de referencia de la IA.
Una de las herramientas con mayor aplicación en los escenarios académicos y biomédicos es la IA generativa, que se define como «un tipo de inteligencia artificial diseñada para crear contenido nuevo en función de patrones y datos que ha aprendido. Utiliza modelos avanzados, como redes neuronales profundas, que son entrenadas con grandes cantidades de datos para poder generar de manera autónoma texto, imágenes, audio, video y otros tipos de contenido».4
De esta forma han aumentado la velocidad de procesamiento y la capacidad de almacenaje de datos en una gran cantidad de dispositivos, y de tal manera que se han conformado diferentes estrategias y aplicaciones que hoy en día operan redes específicas de consumo de datos digitales en diferentes escenarios, entre ellos el biomédico.
Desde el surgimiento de la World Wide Web en 1990 y su inserción en la medicina a distancia (e-Health) como principio derivado de la telemedicina propuesto desde 1970, se generaron diferentes procesos como el monitoreo de signos vitales de forma remota, la telecirugía y diversas aplicaciones tecnológicas que operan a través de dispositivos como los teléfonos móviles; todos ellos relacionados con el diagnóstico, guías de manejo, recomendaciones y toma de decisiones en salud.5-7
La Organización Mundial de la Salud (OMS) ha reconocido estos eventos como una nueva literacidad en salud y los ha clasificado en cuatro niveles de acción de acuerdo con el área de injerencia en la salud individual y colectiva:
- El nivel relacionado con la comunicación entre usuarios y clientes.
- El nivel relacionado con los proveedores de los insumos para la salud.
- El nivel relacionado con la administración y la operación de los sistemas de salud.
- El nivel relacionado con los servicios vinculados al manejo de las bases de datos en salud.8
Para el caso del diagnóstico, se han propuesto una serie de herramientas que aumentan la sensibilidad y la especificidad en los estudios por imagen y los marcadores biométricos, por lo que se han planteado mecanismos de control sobre estos hallazgos en los exámenes rutinarios para evaluar la interacción en tiempo real entre la toma de decisiones médicas y los resultados de la IA, así como la necesidad de que exista un seguimiento posdesarrollo y una retroalimentación entre los algoritmos y las decisiones médicas.
La cibermedicina ofrece tres niveles de interacción que es necesario precisar en su organigrama de control:
- La identificación de la red de comunicación disponible con usuarios identificados.
- La interacción con el personal sanitario responsable del monitoreo y seguimiento.
- El sistema de análisis utilizado y sustentado en la IA.
De esta manera, la IA puede intervenir en las diferentes fases de la evolución natural de la enfermedad, citando como ejemplo el caso de las enfermedades infecciosas y la toma de decisiones en el marco de la pandemia: desde la advertencia temprana, la identificación de patógenos, la clasificación de riesgos, el reconocimiento de sus orígenes, la detección de zonas activas, el seguimiento y la previsión.9,10
Si bien los beneficios de la IA en la cibermedicina son claros, también representan retos y reflexiones precautorias respecto a los alcances y las limitaciones de sus resultados; no solo los inherentes a la interacción tecnológica con el humano como paciente, sino también a las implicaciones propias de la relación paciente-médico, que representa la esencia humana en esta interacción y en la cual la inteligencia humana es pertinente y necesaria.11,12
La vertiginosa velocidad con que se generan herramientas y dispositivos tecnológicos para la salud ha superado nuestra capacidad de análisis reflexivo sobre su eficacia, veracidad y seguridad. Por ello, se ha propuesto un llamado de atención precautorio para promover la inclusión, la transparencia y la declaración de conflictos de intereses en términos de ciberseguridad a partir de las aplicaciones sustentadas operativamente en la IA.
Esta medida ha permeado también en la industria tecnológica, que a través de un plan de revisión y análisis ha postulado un formato de criterios que a la manera de guía definan acciones sobre el rol de la IA en proyectos empresariales vinculados con la salud. Posterior a una exhaustiva revisión del conocimiento actual y la conformación de un grupo de consenso a través de la red Guidelines International Network se lograron acuerdos para el año 2025, entre los que destacan la transparencia en el manejo de los datos relacionados con las herramientas de IA; la preplaneación, asumiendo los riesgos, los beneficios y las limitaciones; la adicionalidad, como un valor agregado en términos utilitarios y no solo financieros; la credibilidad, en términos de calidad y eficiencia; la ética, como principio que respeta los derechos humanos, la equidad y los valores culturales; que sea auditable y adaptable a las regulaciones legales apropiadas, y con el compromiso de mantenerse bajo un proceso de autoevaluación permanente.13,14
Inteligencia artificial e integridad científica
No obstante las aplicaciones algorítmicas se encuentran dentro de una vertiente de derechos y regulaciones específicas aún en proceso, es imperativo replantear la necesidad de una vinculación desde sus orígenes entre las ciencias computacionales y la ética.
Para el caso de las herramientas generadoras, como ChatGPT (Chat Generative Pre-Trained Transformer), congéneres y nuevos desarrollos evolutivos, es conveniente considerar sus implicaciones académicas y científicas relacionadas con aspectos elementales de integridad científica en cuanto a originalidad, riesgos de prácticas inapropiadas, plagio y responsabilidad en las autorías. Por ello, el Comité de Editores de Revistas Médicas Internacionales15-17 ha modificado sus guías para estar al tanto de las intervenciones de estos modelos generativos que pueden producir documentos o textos «científicos», sin la supervisión o autoría de la inteligencia humana en su carácter analítico y crítico.
Así, se han puntualizado algunos aspectos básicos relacionados con las autorías en las guías para autores, revisores y editores:
- Que al autor haya contribuido sustancialmente con la idea original.
- Haber participado activamente en la redacción y la revisión crítica del manuscrito.
- Haber aprobado la versión definitiva que se enviará a publicación.
- Aceptar y asumir la responsabilidad de los contenidos en lo referente a la precisión y la veracidad de los datos, así como de la transparencia en los mecanismos de obtención, bitácoras y archivos que documenten la replicabilidad y atiendan a los criterios de integridad científica.
Estas mismas consideraciones aplican para el caso de los procesos educativos en pregrado y posgrado, formación y gestión del capital humano, comprometiendo nuevos estándares en los procesos curriculares y en los programas de entrenamiento clínico y quirúrgico, así como de los procesos de enfermería y de servicios de salud.15-17
Recomendaciones derivadas de los criterios de la Organización de las Naciones Unidas para la Cultura, las Ciencias y la Educación (UNESCO)
- Es pertinente que los promotores y los desarrolladores de sistemas de IA atiendan a códigos normativos y éticos de observancia general, en pleno respeto al derecho internacional, tanto en su diseño como en su producción, aplicación y uso en diferentes países.
- Es un objetivo prioritario que los desarrollos tecnológicos relacionados con la IA sean eficaces para mejorar la salud humana y el derecho a la vida, en particular atendiendo a las enfermedades prevalentes y emergentes, bajo un principio de solidaridad.
- Los nuevos programas y dispositivos tecnológicos deberán orientarse a mejorar la eficacia y la seguridad de sus procesos, sin subestimar el valor de la interacción humana.
- Debe prestarse la debida atención para que estos procedimientos se encuentren regulados y tengan claridad en cuanto al respeto a los derechos fundamentales de los participantes, especialmente de personas en condición vulnerable, como de hecho se percibe al paciente.
-
- La IA en medicina debe ofrecer mecanismos de supervisión, predicción y regulación para preservar la eficacia y la seguridad en la toma de decisiones, de acuerdo con:
Delimitar errores sistemáticos y sesgos.
Inclusión equitativa de profesionales, operadores y usuarios de los sistemas.
Promover atención especial a la salud mental de niños y jóvenes, asegurándose de la supervisión de estos sistemas en términos de veracidad, seguridad, eficiencia y probidad.
Preservar un equilibrio en los contenidos de datos digitales de los algoritmos en salud, tomando en cuenta la perspectiva de los usuarios o pacientes, y no solo la visión de expertos en el tema.
Verificar el cumplimiento normativo con aspectos relacionados con la privacidad, la confidencialidad y la custodia de datos, de acuerdo con las regulaciones vinculadas con la protección de datos personales y sensibles.
Establecer mecanismos de detección y control para que el acceso a algoritmos digitales en salud sustentados en IA contenga elementos supervisados que eviten riesgos en la conducta de los usuarios, en particular niños y jóvenes, relacionados con ansiedad, depresión, aislamiento social, conductas autodestructivas, adicciones, tráfico y radicalización de información errónea o falsa.
Los sistemas de IA en salud deberán ser verificables y auditables, además de ser validadas sus aplicaciones por los comités de ética correspondientes antes de trasladarlos al escenario clínico o de toma de decisiones.
Elaborar directrices que moderen la interacción de seres humanos y robots (entidad autónoma o máquina automatizada con software desarrollado a partir de IA), especialmente en el caso de la salud mental, la salud física, la educación, el acompañamiento, el uso lúdico en infantes, jóvenes, adultos mayores y personas con discapacidad. Es pertinente considerar también la vigilancia de riesgos en el caso de los robots con tareas ergonómicas en el escenario laboral y la robótica aplicada, con el fin de evitar sesgos y acciones automatizadas que representen riesgo de error o acciones potencialmente lesivas para los usuarios.
Tomar en cuenta las consideraciones éticas en el caso de las nuevas neurotecnologías y el uso de interfaces cerebro-máquina, privilegiando en todo momento la autonomía, la identidad, la dignidad y la integridad humanas.
Deberá promoverse la investigación científica y la deliberación ética respecto a los resultados y efectos a corto y largo plazo de la IA en la salud individual y colectiva, asumiendo una perspectiva de predicción y prevención sobre las consecuencias potenciales, tanto en el sistema sanitario como en la visión futura de sus aplicaciones y sus repercusiones en la vida diaria.18-20
Recomendaciones derivadas de los criterios de la Organización Mundial de la Salud (OMS) y de instituciones vinculadas con la salud
- Se recomienda cautela en el uso de herramientas derivadas del desarrollo tecnológico y de la IA, tanto de las de uso común como de aquellas diseñadas y aplicadas en la salud.
- Es una prioridad preservar como principio fundamental la seguridad, la autonomía y el bienestar en su sentido más amplio a través de la salud pública como un derecho fundamental.
- Es imperativo examinar los diferentes recursos lingüísticos de la IA en el diagnóstico y el abordaje de temas relacionados con la salud pública, con la finalidad de identificar los riesgos y lograr una atención equitativa en salud.
- Si bien es reconocido el relevante rol de la IA en biomedicina y el impacto potencial en muchos procesos diagnósticos, terapéuticos y de rehabilitación, también es necesario atender a medidas precautorias razonables antes de validar sus aplicaciones, en función de la transparencia, la inclusión y la eficacia en la salud pública, así como permitir un programa permanente de evaluaciones supervisadas por expertos.
- La adopción precipitada de nuevas herramientas tecnológicas sin controles regulatorios puede generar errores, sesgos, alucinaciones y confabulaciones que pueden comprometer la certidumbre traslacional, causar fallos que afecten a los sistemas de salud o producir daños a los pacientes por decisiones inapropiadas no supervisadas.
- Existe la posibilidad de que los datos y las rutas de información digital de diferentes modelos lingüísticos puedan haberse recabado sin el consentimiento de los usuarios, poniendo en riesgo la autonomía y la libertad de decisión de los pacientes, además de exponer datos confidenciales que son vulnerables y sensibles, atentando contra las medidas regulatorias de protección de datos personales.
- Los datos generados por estos modelos de IA puede difundir información inexacta e imprecisa, poniendo en entredicho la veracidad de la información elaborada a partir de algoritmos, por lo que la interpretación debe ser validada en todo momento por sistemas de supervisión tutelados por la inteligencia humana a través de expertos que certificarán que tales procesos sean fidedignos y confiables.
- Si bien existe una plena justificación para promover el desarrollo y los avances en la salud humana con el apoyo de modelos de IA en el área biomédica, es fundamental que se promuevan entidades normativas y figuras jurídicas específicas para garantizar la protección y la seguridad del paciente sin mediar conflictos de intereses vinculados a prácticas de consumo comercial promovidas por la industria tecnológica.
- Es imperativo promover las buenas prácticas de estos procesos relacionados con la IA desde el diseño, la producción, la innovación y las aplicaciones en la salud y la medicina, a partir de la ponderación de comités de ética en investigación y comités hospitalarios de bioética. La responsabilidad legal, la gobernanza y los mecanismos regulatorios con considerados como de alta pertinencia.
Las propuestas que puntualmente aplican como recomendaciones sobre el uso de la IA en medicina son acordes con las consideraciones propuestas por la OMS, y se resumen en los siguientes principios fundamentales:
- Proteger la autonomía del paciente.
- Promover el bienestar y la seguridad de las personas y el interés prioritario de la salud pública.
- Garantizar la transparencia y la claridad de los procesos de innovación tecnológica aplicados a la salud.
- Promover la responsabilidad y la rendición de cuentas.
- Garantizar la accesibilidad, la equidad y la inclusión de todas las aplicaciones tecnológicas en medicina.
- Promover tecnologías derivadas de la IA con capacidad de respuesta a las demandas y los retos en salud de la población de una manera responsable y sostenible.21-29
Recomendaciones de la National Academy of Medicine de los Estados Unidos de América
- Es un criterio de alta prioridad el fomentar las mejoras en la innovación de la infraestructura digital (Salud Digital), con la finalidad de que estos avances tecnológicos contribuyan de manera consistente a mejorar la salud de la población y de los pacientes.
- Bajo este criterio resulta fundamental generar códigos de conducta que preserven el equilibrio entre la atención médica convencional y el uso de la IA. Con este objetivo se ha propuesto desarrollar la figura de un consorcio que proponga y evalúe el impacto de las herramientas tecnológicas en la salud, para generar un código de conducta que se constituya como un marco de referencia elemental, y garantizar que los algoritmos de IA en salud funcionen de manera segura, confiable, precisa y ética. Esta estrategia representa una oportunidad para establecer pruebas de validación, monitoreo y mejora continua respecto a la IA en salud.
- El objetivo del consorcio textualmente señala de manera categórica que «un sistema de salud de aprendizaje es aquel en el que la ciencia, la informática, los incentivos y la cultura están alineados para la mejora continua, la innovación y la equidad, con las mejores prácticas».30
Recomendaciones básicas propuestas por la Academia Nacional de Medicina de México
- Si bien el desarrollo tecnológico debe asumirse como parte de los avances para mejorar la calidad de la atención biomédica desde la generación, la aplicación y la gestión del conocimiento científico, es pertinente mantener unas rutas reflexivas y críticas para monitorear las herramientas y los procesos derivados de la IA, en aras de mantener como prioridad la seguridad, la eficacia y el respeto a la autonomía y a los derechos fundamentales de todos los actores involucrados.
- Por lo anterior, los sistemas de IA deben constituir una herramienta que facilite el trabajo en el ámbito de la salud, mejorando su calidad y no con la pretensión de sustituir la relación entre el paciente y el personal de atención de la salud, sino procurando siempre reforzarla.
- En aquellos desarrollos digitales sustentados en modelos de lenguaje y otras herramientas generativas que han alcanzado efectos ejecutivos (cirugía robótica) y cierto grado de automatismo y toma de decisiones, es imprescindible mantener procesos de análisis y supervisión por parte de los expertos que evalúen a través de la ponderación crítica la aplicación de estos procesos en seres humanos.
- En todo momento es imperativo mantener mecanismos de revisión que de forma paralela consideren las implicaciones éticas y bioéticas relacionadas con la validación y la pertinencia de su uso en el diagnóstico, el tratamiento, la rehabilitación y las medidas preventivas vinculadas con la salud individual y colectiva.
- El uso de estrategias de IA generativa debe ser plenamente compatible con la certeza científica en la educación virtual (p. ej., simuladores, tutoriales, metaverso) y con las buenas prácticas clínicas, así como con las acciones apropiadas inherentes a la educación, la gestión del capital humano y la integridad científica.
- Es recomendable mantener una postura abierta y crítica ante las propuestas de innovación biomédica que no se encuentran plenamente valoradas y aprobadas, con la finalidad de promover una coexistencia racional, sin subordinación a los algoritmos digitales, y donde prevalezca la inteligencia humana como eje rector en ese vínculo creativo y empático de los valores éticos en los que se fundamenta la relación paciente-médico.
Conclusiones
- La relación paciente-médico es una vinculación humana sustentada en la empatía, la solidaridad y la responsabilidad ética y científica, que no puede reducirse a una relación contractual o a un ejercicio frívolo y deshumanizado de los profesionales y de las rutas de decisión sustentadas en algoritmos.
- Es necesario fortalecer la capacitación en aspectos educativos, en la educación virtual en todas sus modalidades, y en escenarios formativos y de gestión del capital humano, para preservar los códigos deontológicos vinculados con el desarrollo tecnológico y sus aplicaciones biomédicas.
- Es pertinente mantener una conducta precautoria ante las propuestas innovadoras que no han sido totalmente probadas en su seguimiento metodológico, precisión, veracidad y replicabilidad, para preservar que en la toma de decisiones en el ámbito médico prevalezcan la eficacia y la seguridad para el paciente y los usuarios.
- Resulta fundamental promover la investigación y la generación de conocimiento en IA y sus diferentes procesos y herramientas, con la finalidad de integrar los nuevos adelantos tecnológicos de una forma racional, inclusiva, accesible y segura.
- Es imperativo promover la deliberación y el discernimiento bioético en todos los pasos de la gestión de procesos mediados por la IA generativa, con la finalidad de preservar la autonomía, la integridad, la confidencialidad y la seguridad de los usuarios desde una perspectiva de respeto a los derechos fundamentales.
