La CNIL crée un service de l'intelligence artificielle et lance des travaux sur les bases de données d'apprentissage
Le Conseil d'État préconisait, dans une étude publiée en août dernier, « une transformation profonde de la CNIL en autorité de contrôle nationale responsable de la régulation des systèmes d'IA, notamment publics, pour incarner et internaliser le double enjeu de la protection des droits et libertés fondamentaux, d'une part, et de l'innovation et de la performance publique, d'autre part ». Ce lundi 23 janvier 2023, la CNIL, en réponse à ces enjeux, communique sur la création d'un service de l'intelligence artificielle, service transversal et pluridisciplinaire, pour renforcer son expertise sur ces systèmes et sa compréhension des risques pour la vie privée tout en préparant l'entrée en application du règlement européen sur l'IA. Par ailleurs, elle annonce des premières recommandations sur le sujet des bases de données d'apprentissage dans les prochaines semaines.
Service de l'intelligence artificielle (SIA). - Composé de juristes et d'ingénieurs spécialisés, ce service vient structurer et consolider une dynamique initiée de longue date par la CNIL. Il aura pour principales missions de :
- faciliter au sein de la CNIL la compréhension du fonctionnement des systèmes d'IA, mais aussi pour les professionnels et les particuliers ;
- consolider l'expertise de la CNIL dans la connaissance et la prévention des risques pour la vie privée liées à la mise en œuvre de ces systèmes ;
- préparer l'entrée en application du règlement européen sur l'IA (en cours de discussion au niveau européen) ;
- développer les relations avec les acteurs de l'écosystème.
Bases de données d'apprentissage. - Les systèmes d'IA, en particulier ceux reposant sur l'apprentissage automatique, nécessitent très souvent l'utilisation d'importants volumes de données personnelles pour l'entraînement des algorithmes. La CNIL publie un programme de travail pour accompagner les professionnels et garantir le respect des droits des personnes. Les travaux à venir ont pour objet de préciser la position de la CNIL sur la question de la légalité de certains usages et de promouvoir des bonnes pratiques, au titre des exigences posées par le
Le périmètre des réflexions lancées par la CNIL couvre :
- les systèmes d'IA dont le développement ou l'amélioration nécessite la constitution d'une base de données (systèmes d'apprentissage automatique et systèmes experts) ;
- la collecte de données auprès de tous types de sources (collecte de données auprès des personnes concernées, collecte de données auprès de data brokers, collecte de données en sources ouvertes, etc.) ;
- les phases du développement d'un système d'IA nécessaires à sa mise en production ou à son amélioration (conception du système, prétraitement des données, entraînement, entraînement en continu, etc.). La phase de production est donc exclue de ce projet ;
- divers usages relatifs au développement ou à l'amélioration d'un système d'IA (recherche scientifique, recherche et développement, amélioration d'un produit commercial, etc.), quels que soient l'objectif du système d'IA en production et le régime juridique applicable au traitement (règlement général sur la protection des données, directive « Police-Justice » et
En revanche, les questions ayant trait aux modèles d'IA appris à partir des données ainsi collectées, et en particulier celles concernant leur diffusion et leur réutilisation, sont exclues de ce projet et feront l'objet de travaux séparés.
La CNIL publiera, courant 2023 :
- des outils pour accompagner la constitution et l'utilisation de bases de données : ces réflexions seront menées en lien étroit avec le groupe de travail de la CNIL sur l'ouverture et le partage des données ;
- des fiches pratiques pour répondre aux situations les plus courantes rencontrées par les utilisateurs de base de données d'apprentissage (constitution d'un entrepôt, usage de données pseudonymisées, etc.).