La ética en el ámbito de la Inteligencia Artificial en Atención Primaria de la Salud.

La Inteligencia Artificial (IA) aplicada en Atención Primaria de la Salud, que se podría utilizar para dimensiones clínicas, docentes, de gestión y de investigación[1], plantea numerosos problemas éticos[2,3]. En consecuencia, la descripción de estos desafíos ha resultado el principal foco de la creciente literatura[4]. Algunos ejemplos concretos sobre preocupaciones éticas podrían ser: (a) el grave riesgo de inducir errores y perpetuar sesgos[5], (b) la falta de transparencia[6], y (c) la alteración de la rendición de cuentas[7].

De la misma manera que la lectura crítica -entendida como un proceso sistemático y riguroso de evaluar la calidad, validez y relevancia de la evidencia científica- fue una herramienta esencial para la Medicina Basada en Evidencia, es hora de abordar los principales aspectos éticos relacionados en la IA para una correcta interpretación y aplicación en la práctica clínica[8]. Así, la ética en IA en medicina y ciencias de la salud implica asegurar que las tecnologías sean seguras, justas y respeten la privacidad de los pacientes (garantizando la protección de los datos personales de salud)[3]. Esto incluye varios aspectos como: asegurar la privacidad de los datos, la equidad, la transparencia, la responsabilidad y la preservación de la relación médico-paciente (Tabla 1).

Tabla 1. Dimensiones éticas de la Inteligencia Artificial en Atención Primaria de la Salud
Privacidad y Confidencialidad	La recolección, almacenamiento y procesamiento de estos datos deben cumplir con estrictas normativas de privacidad para proteger la confidencialidad del paciente. En este proceso, resulta crucial la anonimización o desidentificación de datos personales para evitar la identificación de individuos y proteger su privacidad.
Equidad	Los sistemas de IA pueden inducir o exacerbar sesgos existentes si los datos de entrenamiento son sesgados. Es esencial desarrollar y utilizar algoritmos que sean justos y equitativos para todos los pacientes, independientemente de su raza, género, ó condición socioeconómica. Asimismo, los beneficios de la IA deberían estar disponibles para todos/as (no perpetuar barreras de accesibilidad tecnológicas, de alfabetización digital o socio-económicas).
Transparencia	Los pacientes deben ser informados de cómo se utilizan sus datos y las implicaciones del uso de IA en su atención médica. Deberían dar su consentimiento voluntario y explícito para el uso de sus datos en sistemas de IA.
Responsabilidad	Los sistemas de IA deben ser transparentes y explicables para que los/as profesionales de la salud puedan entender cómo y por qué un algoritmo llega a una determinada recomendación o decisión. En caso de discrepancias, la responsabilidad última de las decisiones clínicas tomadas con la asistencia de IA es del/la profesional.
Preservación de la relación médico-paciente	El uso de IA debe complementar y no reemplazar la relación humano a humano entre médicos y pacientes. Se debería evitar que la IA conduzca a una atención médica despersonalizada.

En APS, la IA socava una toma de decisiones compartida entre el médico y el paciente, planteando potencialmente una amenaza para la autonomía y la dignidad de las personas[9]. En este sentido, McDougall sostuvo que involucrar a la IA en las decisiones conlleva el riesgo de reintroducir un “modelo paternalista” disfrazado de una actitud de “la computadora sabe más”[9]. Sin embargo, no debemos permitir que la IA deteriore la humanización de dichos cuidados y no se trata de demonizar a la máquina, ni tampoco de tenerles miedo[10]. Se trata de ser cautelosos, de que tengamos muy claros sus límites, y nos obliguemos a reflexionar sobre un marco para su utilización. Hoy en día, nos encontramos forjando un recorrido sobre esta temática. Indudablemente, una implementación responsable de la IA, donde se cumplan los resguardos éticos, podrían mejorar la calidad de la atención médica y beneficiar a los pacientes y profesionales de la salud por igual.

Habiendo introducido esta discusión, tenemos el honor de invitarles al próximo XXII Congreso De la Federación Argentina de Medicina Familiar y General 2024, en la Provincia de Tucumán. Será una oportunidad única para: ampliar conocimientos, participar de debates, conocer trabajos científicos y establecer conexiones con colegas y redes con líderes de opinión. Estamos seguros de que las discusiones y aprendizajes que se generen durante estos días de encontrarnos de manera presencial contribuirán significativamente al progreso de nuestra práctica asistencial y, en última instancia, al bienestar de nuestros pacientes.

María Florencia Grande Ratti

https://orcid.org/0000-0001-8622-8230

Comité Editorial de Revista Archivos de Medicina Familiar y General

EDITORIAL

1

2

Bibliografía

1. Cacace, Patricio. Vista de La Inteligencia Artificial en el ámbito de la Atención Primaria de la Salud. ARCHIVOS DE MEDICINA FAMILIAR Y GENERAL • Vol. 21, N ̊°1 • Marzo 2024. Disponible en:

https://revista.famfyg.com.ar/index.php/AMFG/article/view/273/247

2. Gundersen T, Bærøe K. The Future Ethics of Artificial Intelligence in Medicine: Making Sense of Collaborative Models. Sci Eng Ethics. 2022 Apr 1;28(2):17.

3. Ética e inteligencia artificial. Rev Ordem Med. 2024 Mar 1;224(3):178–86.

4. Char DS, Shah NH, Magnus D. Implementing Machine Learning in Health Care - Addressing Ethical Challenges. N Engl J Med. 2018 Mar 15;378(11):981–3.

5. Jobin A, Ienca M, Vayena E. The global landscape of AI ethics guidelines. Nat Mach Intell. 2019 Sep 2;1(9):389–99.

6. Müller VC. Ethics of Artificial Intelligence and Robotics. 2020 Apr 30; Disponible en: https://plato.stanford.edu/archives/win2020/entries/ethics-ai/

7. de Laat PB. Algorithmic Decision-Making Based on Machine Learning from Big Data: Can Transparency Restore Accountability? Philos Technol. 2018;31(4):525–41.

8. Ethics in Online AI-Based Systems. 2024.

9. McDougall RJ. Computer knows best? The need for value-flexibility in medical AI. J Med Ethics. 2019 Mar;45(3):156–60.

10. Gallego MDC. Inteligencia artificial: ¿por qué no puede ser? Neurol Argent. 2020 Jan;12(1):1–3.

María Florencia, Grande Ratti

3