Cuando la IA falla en la salud
La IA en los últimos años está demostrando ser una herramienta muy importante para el sector de salud, tanto como para mejorar el diagnostico como para el tratamiento de enfermedades. Pero hay que tener cuidado ya que puede conllevar a riesgos y desafíos muy importantes, ya que al implementarse en el sector de salud se debe de utilizar con precaución.
En este blog presentaremos 5 riesgos de la IA en el ámbito sanitario:
1. Errores en los diagnósticos y tratamientos por fallos en los algoritmos
El algoritmo de la IA ha ido mejorando en la precisión de los diagnóstico pero pueden cometer errores. El sistema de la IA depende de la calidad de los datos en el que ha sido entrenado y si los datos no están completos, son incorrectos o tiene un sesgo, puede llevar a errores en los diagnósticos o tratamientos inadecuados.
En España un ejemplo reciente a sido que una incidencia en un hospital de un algoritmo de la IA dio un diagnóstico incorrecto a varios pacientes con cáncer de mama debido a un fallo en la programación.
Como estos fallos pueden conllevar consecuencias muy graves para la salud de los pacientes, sobre todo en los médicos que confina muchos en la IA y no corroboran los resultados. Este riesgo recalca la importancia de que hay que combinar la experiencia humana con la tecnológica.
2. Desigualdad en el acceso a la IA en salud
La introducción de la IA en los hospitales plantea preocupaciones sobre la desigualdad en la acceso a la atención médica, ya que no todos los centro de salud tiene acceso a las tecnologías avanzadas basadas en IA, sobre todo en zonas más rurales o de bajos recursos.
Varios hospitales privados están empezando a utilizar IA para poder mejorar sus servicios mientras que muchas instituciones públicas no tiene estos recursos, esto puedo crear una brecha entre quienes pueden beneficiarse de diagnóstico, tratamiento más rápido y precisos y quienes no tienen acceso a ellos.
3. Riesgos a la privacidad y seguridad de los datos médicos
Como se utilizan muchos datos personales para poder entrenar algoritmos de la IA, puede ser un riesgo sobre la privacidad y seguridad de los pacientes, ya que estos datos médicos sensibles se recopilan y se almacenan, esto aumenta el riesgo de ciberataques y filtración de información.
Este año 2024 se informó en España un caso, que se filtraron datos médicos de muchos pacientes debido a vulnerabilidades en un sistema de IA para gestionar los historiales clínicos. La instituciones sanitaras que utilizan IA tienen que garantizar que los datos de los pacientes están protegidos por un sistemas de seguridad avanzado.
4. Sesgos en los algoritmos que pueden afectar la equidad del tratamiento
Existe un sesgo en el algoritmo, que puede provocar que algunos grupos de personas reciban diagnósticos incorrectos o algunos tratamientos menos efectivos, esto pasa si el algoritmo tienen datos que no representa la diversidad de la población.
Un proyecto piloto sobre el uso de la IA para detectar enfermedades cardiovasculares, el algoritmo funcionó mejor en hombres que en mujeres ya que los datos de entrenamiento tenían mas registros de pacientes masculinos.
5. Reducción del contacto humano en la atención médica
El gran uso de la IA para automatizar procesos en hospitales puede reducir el contacto humano en la atención médica, y esto es muy importante para una atención centrada en el paciente.
En algunos hospitales están probando asistentes de IA para realizar evaluaciones preliminares antes de que los pacientes vean a un médico.
Esto puede reducir el tiempo de espera, pero a la vez puede llevar a una deshumanización de la atención médica, ya que los pacientes se sienten menos escuchados o menos comprendidos.
