Accueil / Actualité / La CNIL remet l’Homme au centre du jeu

La CNIL remet l’Homme au centre du jeu

La Commission Nationale Informatique et Liberté (CNIL) publie le rapport de synthèse du débat public qu’elle a animé sur les enjeux éthiques des algorithmes et de l’intelligence artificielle. Premier constat, dans notre monde de plus en plus numérique, les algorithmes et l’intelligence artificielle sont partout. Des tâches complexes, parfois critiques, sont ainsi déléguées à des systèmes de plus en plus autonomes à mesure que les techniques d’apprentissage propres à l’intelligence artificielle se développent.

Ces usages multiples et croissants, indissociables des masses de données inédites à disposition dans tous les secteurs, soulèvent de nombreuses questions.Le rapport de la CNIL s’appuie sur les résultats d’un débat public ouvert et décentralisé que la CNIL a animé de janvier à octobre 2017 : 3 000 personnes ont participé à 45 manifestations. Pour Isabelle Falque-Pierrotin, Présidente de la CNIL : « L’objectif de ce débat est de garantir que l’intelligence artificielle augmente l’homme plutôt qu’elle ne le supplante et participe à l’élaboration d’un modèle français de gouvernance éthique de l’intelligence artificielle. Nous devons collectivement faire en sorte que ces nouveaux outils soient à la main humaine, à son service, dans un rapport de transparence et de responsabilité. »

 Les débats ont permis de dégager deux principes fondateurs pour une intelligence artificielle au service de l’homme.

•             Tout algorithme, qu’il traite ou non des données personnelles, doit être loyal envers ses utilisateurs, non pas seulement en tant que consommateurs, mais également en tant que citoyens, voire envers des communautés ou de grands intérêts collectifs dont l’existence pourrait être directement affectée.

•             Un principe de vigilance/réflexivité : il s’agit d’organiser une forme de questionnement régulier, méthodique et délibératif à l’égard de ces objets mouvants.

 Ces principes fondateurs sont complétés par six principes organisationnels :

1.           Former à l’éthique tous les acteurs-maillons de la « chaîne algorithmique » (concepteurs, professionnels, citoyens)

2.            Rendre les systèmes algorithmiques compréhensibles en renforçant les droits existants et en organisant la médiation avec les utilisateurs ;

3.            Travailler le design des systèmes algorithmiques au service de la liberté humaine, pour contrer l’effet « boîtes noires »

4.            Constituer une plateforme nationale d’audit des algorithmes ;

5.            Encourager la recherche sur l’IA éthique

6.            Renforcer la fonction éthique au sein des entreprises

 

 

cnil

 

 

A voir

Taster trouve les moyens de ses ambitions

Taster crée et déploie des concepts de restauration dédiés à la livraison en s'appuyant sur des plateformes comme Deliveroo ou UberEATS.