Il y a quelques jours, la CNIL (Commission nationale de l’informatique et des libertés) a présenté un plan d’action visant à encadrer l’intelligence artificielle (IA), en particulier l’intelligence générative. Et c’est notamment Marie-Laure Denis, présidente de la CNIL, auditionnée par la mission d’information de l’Assemblée nationale dédiée à l’IA. Décryptage.
IA : En quoi consiste ce plan d’action ?
Ces dernières années, la CNIL a entrepris une série d’initiatives visant à anticiper et répondre aux défis posés par l’intelligence artificielle (IA). En 2023, elle compte poursuivre ses efforts en se concentrant sur les caméras augmentées et en élargissant son champ d’action aux IA génératives, aux grands modèles de langage, et aux applications dérivées, notamment les chatbots. Concrètement, son plan d’action repose sur quatre piliers essentiels à savoir :
– Comprendre le fonctionnement des systèmes d’IA et évaluer leurs répercussions sur les individus ;
– Favoriser et encadrer le développement d’IA respectueuses de la vie privée ;
– Unir et soutenir les acteurs innovants de l’écosystème de l’IA en France et en Europe ;
– Examiner les systèmes d’IA pour assurer la protection des droits des personnes.
Évaluer leurs répercussions sur les individus
L’utilisation croissante des techniques innovantes dans le fonctionnement des outils IA soulève de nombreuses questions en ce qui concerne la protection des données personnelles des utilisateurs, comment celles-ci sont utilisées, les conséquences générées sur les droits de ces mêmes personnes et leurs données, sans oublier leur protection contre de possibles discriminations.
Encadrer le développement d’IA respectueuses de la vie privée
En parallèle à cela, de nombreux intervenants ont exprimé à la CNIL leur préoccupation quant à l’application du RGPD à l’intelligence artificielle, notamment en ce qui concerne la formation des IA génératives. Afin de soutenir les acteurs du domaine de l’intelligence artificielle et de se préparer à la mise en œuvre du règlement européen sur l’IA, actuellement en discussion au niveau européen (sur lequel la CNIL et ses homologues européennes ont émis un avis en 2021), la CNIL a déjà pris quelques mesures qui sont :
– des premières fiches sur l’IA et ses principes fondamentaux ainsi qu’un guide pour aider les professionnels à se conformer à la réglementation ;
– la mise en place d’une position concernant l’utilisation de la vidéosurveillance « augmentée », qui intègre l’IA pour analyser des images captées dans l’espace public.
La CNIL a annoncé poursuivre ses travaux relatifs à la conception de systèmes d’IA et à la constitution de bases de données pour l’apprentissage automatique. Ces travaux ont aboutit à plusieurs publications à partir de l’été 2023, suite à des consultations préalables menées en collaboration avec divers acteurs. L’objectif est de fournir des recommandations concrètes, notamment en ce qui concerne la conception de systèmes d’IA tels que ChatGPT.
Accompagner les acteurs innovants de l’écosystème IA en France
Concernant l’accompagnement des acteurs innovants de l’écosystème IA en France et en Europe, la CNIL ambitionne d’engager un dialogue avec les centres de R&D (recherche&développement), entreprises françaises et équipes de recherche souhaitant « développer des systèmes d’IA dans une logique de conformité aux règles de protection des données personnelles. »
Veiller à la protection des individus face aux systèmes IA
Afin de garantir le développement de systèmes d’intelligence artificielle respectueux des droits et des libertés individuelles, la CNIL s’engage à surveiller leur conformité. Pour cela, l’agence publique a pour projet de mettre en place des outils permettant d’auditer les systèmes d’IA soumis à son examen, que ce soit avant ou après leur mise en service. En 2023, les activités de contrôle de la CNIL se concentrent sur les points suivants :
– Vérifier que les acteurs publics et privés respectent la position énoncée en 2022 concernant l’utilisation de la vidéosurveillance « augmentée » ;
– Évaluer l’utilisation de l’IA dans la lutte contre la fraude (notamment la fraude à l’assurance sociale) en examinant les implications liées à l’utilisation de tels algorithmes ;
– Traiter les plaintes déposées auprès de la CNIL et engager des enquêtes concrètes en réponse à ces plaintes.
Qu’est-ce que la CNIL ?
Tu ne le sais peut-être pas, mais la CNIL (Commission nationale de l’informatique et des libertés) est une autorité administrative indépendante en France, chargée de veiller à la protection des données personnelles et des libertés individuelles dans le contexte de l’utilisation des technologies de l’information. Elle voit le jour en 1978 et est régie par la loi française relative à l’informatique, aux fichiers et aux libertés.
Concrètement, la CNIL s’assure que les données personnelles des individus sont collectées, traitées, et utilisées de manière légale et éthique. Elle émet des recommandations et des lignes directrices pour aider les entreprises et les organisations à respecter la réglementation en matière de protection des données. Elle informe également le public sur ses droits en matière de protection des données et sur les risques liés à la vie privée en ligne. Comment ? Grâce à des ressources éducatives pour aider les citoyens à mieux comprendre les enjeux de la protection des données.
Tu l’auras compris, la CNIL joue un rôle majeur dans la protection de la vie privée et des droits individuels en France, en veillant à ce que les données personnelles soient traitées de manière appropriée et sécurisée, et en sanctionnant les violations de la réglementation lorsque cela est nécessaire. C’est donc tout naturellement que ce plan d’action vient s’assurer que le déploiement de systèmes d’IA respectent en tout point à la vie privée des individus.
Lire aussi : Meta dévoile Code Llama, une IA à destination des développeurs
