De la teoría a la práctica: ética en el diseño de aplicaciones médicas

En la intersección de la tecnología y la medicina, la ética en el diseño desempeña un papel crucial en cómo se desarrollan, implementan y utilizan las herramientas digitales. La revolución tecnológica, encabezada por la inteligencia artificial (IA) y el aprendizaje automático, ha transformado el ámbito de la medicina al ofrecer diagnósticos más precisos y tratamientos personalizados. Sin embargo, este progreso plantea importantes preguntas éticas que necesitan ser abordadas para garantizar que el desarrollo tecnológico respete los valores fundamentales de la sociedad. Aspectos como la manipulación algorítmica, los sesgos en el diseño y la privacidad de los usuarios emergen como desafíos críticos en este panorama.

Según Cennyd Bowles, destacado diseñador y autor de Future Ethics, el diseño no es neutral; tiene un impacto directo en la distribución del poder y la autoridad dentro de la sociedad. Bowles basa esta idea en el ensayo de Langdon Winner, ¿Los artefactos tienen política?, argumentando que incluso los objetos inanimados pueden influir en la estructura social. Un ejemplo revelador es el diseño de puentes en Nueva York, cuya altura fue deliberadamente reducida para limitar el acceso de personas de bajos ingresos a ciertas áreas recreativas. Este caso evidencia cómo el diseño puede ser utilizado como una herramienta de exclusión social.

En el ámbito de las aplicaciones médicas, esta realidad adquiere un matiz más crítico. Las decisiones de diseño pueden afectar directamente la vida de los usuarios, desde cómo interpretan sus datos de salud hasta las acciones que toman en base a la información proporcionada. Bowles introduce conceptos como la coerción y el "empujón" en el diseño, diferenciando entre influencias que restringen libertades y aquellas que guían decisiones sin imponer restricciones. Si bien los "empujones" pueden tener efectos positivos, como fomentar hábitos saludables, también pueden ser empleados de manera perjudicial, manipulando a los usuarios para favorecer intereses comerciales o políticos.

Patrones oscuros y manipulación algorítmica

Uno de los mayores riesgos en el diseño ético es el uso de patrones oscuros, interfaces diseñadas deliberadamente para explotar las debilidades cognitivas de los usuarios. Estas estrategias, comúnmente utilizadas para maximizar ganancias en redes sociales y aplicaciones comerciales, tienen implicaciones graves en la salud y el bienestar de las personas. La adicción a las redes sociales, fomentada por mecanismos de recompensas psicológicas, es un ejemplo de cómo estos patrones pueden causar daños significativos.

Un caso extremo de adicción a las redes sociales, es el de Guangzhou, quien sufrió un ataque isquémico transitorio después de pasar 40 horas seguidas usando su celular para jugar.

En el contexto de la informática médica, los algoritmos personalizados representan una amenaza particular debido a su capacidad para filtrar información según los sesgos individuales. Esto puede llevar a una "burbuja algorítmica" que limita el acceso de los usuarios a información imparcial y confiable. Como explica Bowles en su teoría del hiperempujamiento, esta manipulación es especialmente peligrosa por su invisibilidad, lo que dificulta que los usuarios reconozcan que están siendo influenciados. En aplicaciones médicas, esto podría traducirse en decisiones de salud basadas en información incompleta o sesgada, con consecuencias potencialmente graves.

Ética en la informática médica: una necesidad imperante

En el diseño de aplicaciones médicas, la ética no debe ser vista como un complemento, sino como el eje central que guía todas las etapas del desarrollo y la implementación de estas herramientas. Esto se debe a que estas aplicaciones no solo interactúan con datos sensibles, sino que tienen un impacto directo en la salud, el bienestar y los derechos fundamentales de los usuarios. La ética, en este contexto, se convierte en un criterio ineludible para garantizar que las herramientas tecnológicas sean seguras, inclusivas y equitativas. Los problemas éticos que surgen en el diseño de estas aplicaciones van más allá de cuestiones técnicas, abarcando implicaciones sociales, culturales y legales que deben ser abordadas de manera integral para prevenir consecuencias perjudiciales. Uno de los desafíos más críticos en el diseño de aplicaciones médicas es la presencia de sesgos implícitos en los algoritmos. Estos sesgos suelen derivarse de los datos utilizados para entrenar los sistemas de inteligencia artificial. Si estos datos no representan adecuadamente la diversidad demográfica, cultural o socioeconómica de la población a la que se pretende servir, los resultados generados por las aplicaciones pueden ser inexactos o incluso perjudiciales para ciertos grupos. Por ejemplo, si un algoritmo de diagnóstico no ha sido entrenado con suficientes datos de pacientes pertenecientes a minorías étnicas, podría fallar al identificar enfermedades comunes en estos grupos, perpetuando las desigualdades existentes en el acceso a la atención sanitaria. Este tipo de problemas no solo compromete la eficacia de las herramientas tecnológicas, sino que también pone en evidencia la necesidad de un enfoque inclusivo en la recopilación y el procesamiento de datos.

Además de los sesgos, la privacidad de los datos es un tema crítico en el diseño de aplicaciones médicas. Estas herramientas manejan información extremadamente sensible, que incluye historiales clínicos, información genética y registros de salud mental. La exposición o el uso indebido de estos datos puede tener consecuencias devastadoras, no solo para la reputación de las instituciones responsables, sino también para los individuos cuyos datos han sido comprometidos. Por ejemplo, una brecha de seguridad que exponga información genética podría dar lugar a discriminación laboral o de seguros, mientras que la divulgación de un historial de salud mental podría estigmatizar al paciente y afectar su calidad de vida. Estos riesgos subrayan la importancia de implementar medidas de seguridad robustas y de garantizar la transparencia en el manejo de los datos. Para mitigar estos riesgos, es esencial establecer estándares estrictos de protección de datos que incluyan políticas claras sobre su recolección, almacenamiento y uso. Estas políticas deben ser transparentes y estar diseñadas para cumplir con regulaciones internacionales como el Reglamento General de Protección de Datos (GDPR) en Europa o la Ley de Portabilidad y Responsabilidad de Seguros de Salud (HIPAA) en Estados Unidos. Además, es fundamental fomentar una cultura organizacional que priorice la ética en cada decisión, desde la selección de datos para el entrenamiento de algoritmos hasta la manera en que se comunican los resultados a los usuarios.

En última instancia, la ética en el diseño de aplicaciones médicas no solo es un imperativo moral, sino también una condición para el éxito y la sostenibilidad de estas herramientas. Al abordar los sesgos en los algoritmos, proteger la privacidad de los datos y garantizar la inclusividad y la transparencia, es posible desarrollar soluciones tecnológicas que realmente beneficien a la sociedad. Esto requiere un compromiso continuo con la reflexión ética y la mejora constante, asegurando que la innovación tecnológica esté alineada con los valores fundamentales de equidad, justicia y respeto por la dignidad humana.

Recomendaciones para un diseño ético

El diseño ético de aplicaciones médicas requiere un enfoque integral que abarque todas las etapas del desarrollo, desde la conceptualización hasta la implementación. En primer lugar, es fundamental realizar evaluaciones de impacto ético antes de lanzar cualquier producto al mercado. Estas evaluaciones deben identificar posibles riesgos y proponer estrategias para mitigarlos, garantizando que las aplicaciones sean seguras y beneficiosas para todos los usuarios. En segundo lugar, los desarrolladores deben priorizar la inclusión y la representación en los datos de entrenamiento, asegurándose de que los algoritmos sean imparciales y precisos para todos los grupos demográficos. Además, las interfaces deben diseñarse para ser transparentes y fáciles de entender, permitiendo que los usuarios tomen decisiones informadas sobre su salud. Esto incluye proporcionar explicaciones claras sobre cómo se generan las recomendaciones y qué datos se utilizan para ello.

Finalmente, es crucial establecer marcos regulatorios claros que obliguen a las empresas tecnológicas a rendir cuentas por el impacto de sus productos. Esto incluye auditorías externas de los algoritmos y la implementación de políticas de privacidad sólidas. También se debe fomentar una cultura ética dentro de las organizaciones, donde los diseñadores y desarrolladores consideren no solo la funcionalidad técnica de sus productos, sino también su impacto social y ético.

En un mundo donde la tecnología avanza rápidamente, la ética debe ser el pilar que guíe el diseño e implementación de aplicaciones médicas. Como señala Bowles, la ética en el diseño no es solo un ideal abstracto; es la base para construir herramientas que respeten la dignidad humana y promuevan el bienestar social. En la informática médica, esto significa desarrollar aplicaciones que sean inclusivas, seguras y equitativas, evitando los sesgos y la manipulación que podrían poner en riesgo la salud de los usuarios. Al incorporar la reflexión ética en cada etapa del desarrollo, podemos garantizar que el progreso tecnológico beneficie a la sociedad en su conjunto, respetando los valores fundamentales que nos definen como seres humanos.

---

Referencias

Bowles, C. Chapter 3: Persuasive Mechanisms en Future Ethics. [Internet]. East Sussex: NowNext Ltd; 2020 [consultado 15 junio 2024]. Disponible en: https://static1.squarespace.com/static/53cc84e7e4b0bcaba3c8b1ab/t/625d308221d72e4fdd626cff/1650274438991/Future%2BEthics%2Bpreview%2Bchapters%2B1%E2%80%933.pdf

 Descarga gratis este artículo aquí ↓

De la teoría a la práctica ética en el diseño de aplicaciones médicas..pdf

Descargar PDF • 149KB