L'un des plus grands syndicat d'infirmières des États-Unis, le National Nurses United (NNU), demande que la sécurité des outils d'IA en santé soit prouvés avant leur déploiement. 

Selon elles, la plupart des algorithmes actuels ne répondent pas à ces critères et devraient être retirer des lieux de soins. 

Le NNU conteste l'argument selon lequel l'IA améliorerait la sécurité, estimant que cela n'est pas fondé sur des preuves suffisantes. 

Les infirmières craignent que l'IA ne dévalorise leur expertise et ne les éloigne des patients, donnant l'exemple d'algorithmes de prédiction moins performants que l'évaluation infirmière. 

Surtout, les infirmières ne peuvent pas passer  outre les recommandations des algorithmes, même en cas de divergence avec leur jugement clinique. 

Le NNU a publié une "Déclaration des droits sur l'IA" listant les protections nécessaires, dont l'approbation préalable par une agence de régulation et une surveillance continue. 

Le cadre réglementaire actuel est jugé insuffisant et inadapté aux spécificités de l'IA en santé. 

Pour le NNU, un déploiement trop rapide des solutions d'IA pourrait mettre en danger les patients et dégrader les conditions de travail des soignants. 

Ces infirmières demandent instamment que des garde-fous soient instaurés afin que l'IA tienne ses promesses sans se substituer à l'expertise humaine.

Présentation abrégée des droits revendiqués dans la  "Déclaration des droits sur l'IA dans la santé" (AI Bill of Rights in Healthcare) publiée par le syndicat des infirmières National Nurses United (NNU) :

1. Les patients doivent avoir accès à des soins dispensés par des professionnels de santé humains.

2. Les patients doivent donner leur consentement éclairé pour la collecte de leurs données. 

3. Les infirmières et patients doivent avoir accès aux données et recherches cliniques utilisées pour développer les algorithmes.

4. Les recommandations générées par l'IA doivent être explicites et compréhensibles.

5. Tous les outils d'IA doivent être validés par une agence de régulation avant déploiement et faire l'objet d'une surveillance.

6. Les infirmières doivent pouvoir passer outre les décisions de l'IA si elles diffèrent de leur évaluation clinique, sans répercussions professionnelles.

7. Les syndicats d'infirmières locaux doivent pouvoir discuter des modalités d'implémentation avant tout déploiement.

Sources : 

Emma Beavins. National Nurses United pushes back against deployment of 'unproven' AI in healthcare, Fierce Healthcare. 

Nurses and Patients’ Bill of Rights: Guiding Principles for A.I. Justice in Nursing and Health Care