Un estudi d’INGENIO, centre del Consell Superior d’Investigacions Científiques (CSIC) i la Universitat Politècnica de València (UPV), proposa un marc ètic per a incorporar la intel·ligència artificial (IA) als sistemes de suport a les decisions clíniques sense desplaçar el juí i la responsabilitat de les persones. El treball, publicat en la revista Science and Engineering Ethics, sosté que aquestos sistemes basats en IA haurien de dissenyar-se com a ferramentes de suport al juí humà. Proposa aplicar un marc basat en l’ètica discursiva que permeta incorporar la reflexió ètica al procés de presa de decisions.
Aquestes ferramentes informàtiques, conegudes com CDSS per les seues sigles en anglés, analitzen informació clínica i oferixen als professionals sanitaris dades, prediccions o recomanacions que poden ajudar-los a prendre decisions sobre el diagnòstic o tractament d’un pacient.
La seua incorporació a la pràctica mèdica planteja nous interrogants ètics: fins a quin punt ha de seguir-se una recomanació automatitzada en una decisió clínica; com pot justificar-se el resultat oferit per un algorisme; o qui assumix la responsabilitat sobre la decisió final. El respecte a l’autonomia, així com evitar la deshumanització i la dilució de responsabilitat són els grans reptes per a la integració de la IA en les preses de decisions clíniques.
Segons l’estudi, l’ètica discursiva part de la idea que les normes que afecten les persones han de poder justificar-se racionalment mitjançant el diàleg i la participació dels qui es veuen afectats per elles. Així ho explica Félix Lozano, investigador d’ENGINY i autor del treball: “Aplicat a l’àmbit clínic, este enfocament busca que les recomanacions generades per la IA puguen ser compreses, qüestionades i valorades dins d’un procés de deliberació humana”.
Com incorporar l’ètica?
El treball planteja que la reflexió ètica ha de ser present des del disseny i desenvolupament d’aquestos sistemes i mantindre’s durant la seua aplicació. En este procés haurien de participar no sols els desenvolupadors de programari, sinó també professionals sanitaris, experts en ètica i les persones afectades per les decisions del sistema, inclosos els pacients. “La IA en les decisions clíniques no hauria de valorar-se únicament per la seua precisió o capacitat per a realitzar prediccions”, afirma Lozano. El seu disseny, afig l’investigador, ha de garantir que aquestes ferramentes preserven l’autonomia de pacients i professionals i permeten comprendre i qüestionar les recomanacions que generen.
Perquè els sistemes de suport a les decisions clíniques prenguen decisions ètiques, haurien de funcionar com a ferramentes que faciliten la deliberació i aporten informació rellevant per a prendre una decisió, sense substituir el juí de les persones implicades. Les seues recomanacions haurien de ser comprensibles i traçables, de manera que puguen ser avaluades pels professionals sanitaris. La responsabilitat sobre les decisions, d’esta manera, continuaria recaient en els professionals sanitaris, al mateix temps que es preserva l’autonomia informada dels pacients.
Per a avançar cap a aquest model, el treball assenyala la necessitat d’incorporar la reflexió ètica durant tot el desenrotllament i aplicació d’estes tecnologies. Això requerix, segons l’autor, un treball interdisciplinari que connecte àmbits com la filosofia moral, l’enginyeria de dades i les polítiques públiques. Esta investigació va comptar amb el suport de la Conselleria de Cultura, Educació i Ciència de la Generalitat Valenciana (CIBEST/2024/270).
Referència: Lozano, JF. Discursive Ethics as a Normative Foundation for Integrating Ethics into AI Clinical Decision Support Systems. Sci Eng Ethics 32, 36 (2026). https://doi.org/10.1007/s11948-026-00603-1
