Peligros de la Inteligencia Artificial en el sector salud

29 de julio del 2019

Su uso podría tener consecuencias involuntarias.

Peligros de la Inteligencia Artificial en el sector salud

El año pasado, la Dirección de Alimentos y Medicamentos de Estados Unidos (FDA) aprobó un dispositivo que puede capturar una imagen de la retina y detectar automáticamente señales de ceguera por diabetes.

Este nuevo tipo de tecnología se está difundiendo velozmente a través del ámbito médico, al tiempo que científicos desarrollan sistemas que pueden identificar señales de enfermedades en una amplia variedad de imágenes. Estos sistemas prometen ayudar a los doctores a evaluar a pacientes con mayor eficiencia y de manera menos costosa.

Es probable que formas similares de inteligencia artificial (IA) se utilicen en los sistemas computacionales usados por proveedores de cuidados de salud en todo el mundo. Pero podrían tener consecuencias involuntarias, advierte un grupo de investigadores de la Universidad de Harvard y del Instituto Tecnológico de Massachusetts.

En un estudio reciente, los investigadores plantean la posibilidad de “ataques adversarios”, manipulaciones que pueden cambiar la conducta de los sistemas de IA. Al cambiar unos cuantos pixeles en una resonancia, por ejemplo, alguien podría engañar a un sistema de IA para hacer que vea una enfermedad que no está ahí, o que no vea una que sí está. Los desarrolladores y reguladores deben tomar en cuenta escenarios así al desarrollar y evaluar tecnologías de IA, dicen los autores.

La IA es impulsada cada vez más por redes neuronales artificiales, complejos sistemas matemáticos que aprenden tareas en gran parte por su cuenta al analizar inmensas cantidades de datos. Este “aprendizaje de máquinas” se da a una escala tan enorme que pude producir conducta inesperada por sí mismo.

Las implicaciones son profundas, en vista del creciente predominio de dispositivos de seguridad biométricos y otros sistemas de IA.

India ha implementado el sistema de identidad basado en huellas dactilares más grande del mundo, para distribuir estipendios del Gobierno y servicios. Los bancos están introduciendo el acceso con reconocimiento facial a los cajeros automáticos. Compañías como Waymo, propiedad de la misma compañía matriz que Google, prueban autos autónomos en calles públicas.

Ahora, Samuel Finlayson, uno de los autores del nuevo estudio, y sus colegas han sonado la misma alarma en el ámbito médico. Si los reguladores desarrollan sistemas de IA para evaluar tecnología nueva, los creadores de dispositivos podrían alterar datos para hacer que el sistema otorgue aprobación regulatoria.

Los investigadores mostraron que al cambiar algunos pixeles en una imagen de una lesión benigna en la piel, un sistema de diagnóstico de IA podía ser engañado para identificar la lesión como maligna.
Cambiar diagnósticos así podría beneficiar a aseguradoras y agencias de atención médica. Una vez que la IA esté arraigada con profundidad en el sistema del cuidado de salud de Estados Unidos, argumentan los investigadores, los negocios adoptarán gradualmente la conducta que reditúe la mayor cantidad de dinero. Cambios a los datos podrían terminar en el historial permanente de un paciente y afectar decisiones posteriores.

“La ambigüedad inherente en la información médica, aunada a incentivos financieros a menudo rivales, permite que decisiones de alto riesgo dependan de fragmentos muy sutiles de información”, dijo Finlayson.

Ver comentarios
KONTINÚA LEYENDO