E-santé: sommes-nous prêts à faire confiance à l’IA?

"Après une année remplie de prise de conscience forcée sur l’hygiène, le port du masque et la crème hydratante pour soulager nos mains de tout ce gel hydroalcoolique, 2021 se place sous le signe de la « cleanovation », avec en tête de liste, les technologies « touchless » (voix, détecteur à distance…) et la sempiternelle récolte de data que les IA savent de mieux en mieux analyser et utiliser.
Mais « touchless » pourrait aussi, si on va plus loin, se traduire par insaisissable – et comment faire confiance à quelque chose que l’on ne peut ni voir, ni toucher, surtout en ce qui concerne notre santé ? L’intelligence artificielle révolutionne la médecine depuis quelques années déjà, mais la défiance règne toujours, et à juste titre : la technologie a eu son lot de ratés et de sous-représentation de la donnée causant des discriminations fort préjudiciables.
Confiance technique VS. confiance humaine
La confiance est l’interface qui relie l’IA au système de santé. On a besoin de standards et de règlementations sur la mise en place et le déploiement de ces technologies, car il est important de
- s’assurer que la machine fonctionne correctement – c’est la confiance technique
- s’assurer que les humains savent l’utiliser correctement – c’est la confiance humaine.
Pour cela, les techniciens, les régulateurs et le personnel soignant devront prendre en compte les différences culturelles et les différences de compréhension suivant les générations quand ils expliquent le fonctionnement de la technologie au patient final. On ne le dira jamais assez, la transparence est clé. Mais les médecins ou les techniciens eux-mêmes ne comprennent pas forcément ce qui se passe dans les diagnostics donnés par l’IA..." Lire la suite