Intelligence artificielle : l’avis de la CNIL et de ses homologues sur le futur règlement européen

"Le 18 juin 2021, la CNIL, ses homologues et le Contrôleur européen de la protection des données ont adopté un avis sur la proposition de règlement de la Commission européenne sur l'IA. Une première étape essentielle pour construire une stratégie européenne numérique cohérente et respectueuse des libertés et droits fondamentaux.

La CNIL et ses homologues européens se félicitent de la proposition de la Commission européenne visant à établir des règles harmonisées en matière d'intelligence artificielle afin de préserver les libertés individuelles. Si celle-ci est susceptible d’évoluer encore fortement, au gré des amendements du texte effectués par le Parlement ou le Conseil européen, les autorités de protections européennes ont jugé indispensable de prendre position à travers la publication d’un avis.

En particulier, la CNIL relève 4 points fondamentaux :

La nécessité de tracer des lignes rouges aux futurs usages de l’IA

Les autorités de protection des données ont salué la volonté de la Commission européenne de préciser les usages interdits afin de construire une IA éthique et de confiance au sein de l’UE. Dans leur avis du 18 juin, le Comité européen de la protection des données (CEPD) et le Contrôleur européen de la protection des données indiquent toutefois la nécessité d’élargir le champ des systèmes d’IA interdits et de clarifier leur définition, les garde-fous envisagés dans la proposition de règlement n’étant pas considérés satisfaisants.

Ainsi, compte tenu des risques extrêmement élevés posés par l'identification biométrique à distance des personnes dans les espaces publics (reconnaissance des visages, de la démarche, des empreintes digitales, de la voix, etc.), les autorités de protection des données européennes proposent que soient retirées les exceptions à l’interdiction générale. L’avis recommande également une interdiction des systèmes biométriques utilisés aux fins de classer les individus dans des groupes basés sur l'ethnicité supposée, le sexe, l'orientation politique ou sexuelle, ou d'autres motifs pour lesquels la discrimination est interdite en vertu de l'article 21 de la Charte des droits fondamentaux de l’Union européenne. L'utilisation de systèmes d'IA pour déduire les émotions d'une personne physique est par ailleurs considérée comme hautement indésirable et devrait également être soumise à une interdiction de principe (sauf cas très spécifiques, tels que certains objectifs de santé). Enfin, les systèmes utilisés pour la notation sociale (« social scoring ») doivent être systématiquement interdits..." Lire la suite