Aux États-Unis, des soignants contraints de suivre les consignes d'un algorithme

"Les logiciels d’aide au diagnostic ou d’alerte sont utilisés depuis des années dans les centres hospitaliers. Mais depuis peu, les préconisations de l’algorithme prendraient le pas sur celles des soignants, s’alarment certains d’entre eux exerçant dans des hôpitaux aux États-Unis.

Quand des infirmières sont contraintes de suivre les indications d’un algorithme, alors qu’elles savent qu’il s’agit d’une erreur… C’est ce que relate le Wall Street Journal le 15 juin dernier, à propos de ces outils d’intelligence artificielle qui aident les soignants dans le secteur médical. Outre le suivi administratif et médical, ces logiciels permettent dans des unités de soins de surveiller et de lancer des alertes si l’état d’un patient change brusquement, en plus d’être des outils d’aide au diagnostic ou au traitement. Mais dans certains hôpitaux aux États-Unis, l’algorithme aurait pris le dessus sur les décisions des soignants, expliquent nos confrères, rapportant le cas de professionnels de santé contraints de suivre les consignes de l’algorithme, même s’ils sont persuadés qu’il s’agit d’une erreur. Tout dépendrait des règles internes de la structure médicale en question, qui rendrait possible, ou pas, le fait de s’affranchir des préconisations de ce type d’IA..." Lire la suite