Marie-Hélène Gostiaux- Marie-Hélène Gostiaux
Le difficile arbitrage public entre éthique et transformation numérique
Dernière mise à jour : 12 mai 2021
Un article synthétique sur les impacts de la transformation numérique sur l'action publique, publié initialement le 31/03/2021 sur http://observatoire-asap.org/index.php/2021/03/31/le-difficile-arbitrage-public-entre-ethique-et-transformation-numerique/
La protection des données portant sur des personnes physiques est née en France dans les années 70, suite à une controverse sur un projet dénommé « SAFARI », acronyme pour « Système Automatisé pour les Fichiers Administratifs et le Répertoire des Individus ». Ce système visait à construire une base de données mutualisant les données des citoyens en provenance des différentes administrations autour d’un identifiant unique, le numéro de sécurité sociale[1].
Au regard des débats populaires enflammés autour de ce projet, Pierre Messmer, Premier Ministre en fonction, l’a retiré et a créé la Commission Nationale de l’Informatique et des Libertés (CNIL) par une loi du 6 janvier 1978, la fameuse loi dite « Informatique et Libertés ». A l’origine, celle-ci visait donc à limiter le fichage numérique des individus par l’Etat et encadrer toute utilisation des données les concernant.
Internet s’est considérablement développé à partir des années 90, est devenu accessible au grand public et a pris une place croissante dans nos vies et celles des organisations. Nous sommes passés d’une société industrielle à une société de l’information[2]. Les administrations ont dû intégrer dans l’exercice même du service public la transformation digitale[3] qu’entraînaient Internet et les technologies numériques.
Les « technologies numériques » désignent ici l’informatique et les outils numériques, tels que les services dans le Cloud, les réseaux sociaux, l’intelligence artificielle, la blockchain, mais aussi l’Internet des objets, les drones, etc.
Ces technologies permettent de développer de nouveaux services et modes de communication mais offrent aussi la possibilité de surveiller et d’influencer de plus en plus facilement les individus à leur insu, ce dont nombre d’entreprises privées peuvent aujourd’hui se targuer avec le recours massif au Big Data et au profilage.
De la même manière, le recours aux technologies numériques peut permettre à l’Etat de devenir le « Big Brother[4] » tant redouté il y a presque 50 ans.
Atteintes aux droits et libertés fondamentaux
Le Ministère de l’Intérieur a été rappelé à l’ordre par la CNIL en janvier dernier[5] pour avoir procédé à des vols de drones équipés de caméras en mai 2020, en dehors de tout cadre normatif[6].
La CNIL a tiré la sonnette d’alarme dans son avis sur la proposition de loi « Sécurité globale »[7] sur la tentation « du « solutionnisme technologique », cette tendance à transformer des problématiques humaines, sociales ou encore sociétales en des questions dont la résolution passe essentiellement par des dispositifs techniques, alors que ceux-ci peuvent avoir des effets propres et potentiellement attentatoires aux libertés publiques dans le champ desquelles ils interviennent.[8] »
De la même manière, les différents cas d’usage de l’intelligence artificielle (IA), du secteur de la santé au militaire en passant par la justice[9], ne sont pas encore tous connus et encore moins maîtrisés. Les technologies numériques peuvent évoluer d’une façon qui n’a pas été envisagée lors de leur conception. Si l’outil en lui-même n’est pas condamnable, les cas d’usage doivent être encadrés par une éthique[10] des technologies qui soit applicable et appliquée par le secteur privé et le secteur public[11].
Au regard de l’évolution rapide de la société de l’information[12], le législatif comme l’exécutif doivent se saisir du sujet, car la menace identifiée il y a 50 ans est plus forte que jamais, avec un contexte sociétal (à la fois historique, social et culturel) bien différent, propice à rogner une partie de nos droits et libertés fondamentaux[13].
Notes
[1] Projet révélé dans un article du Monde du 21 mars 1974 intitulé « Safari ou la chasse aux français » de Philippe Boucher : https://www.senat.fr/evenement/archives/D45/context.html
[2] Peut se définir comme un « état de la société dans lequel les technologies de l’information et de la communication jouent un rôle fondamental ».
[3] Les termes de transition digitale, transition numérique, transformation digitale, transformation numérique peuvent être utilisés pour désigner le même objet : le processus de mutation des organisations lié à Internet et au numérique avec l’assimilation des nouvelles technologies et outils de communication.
[4] Orwell G., 1984, Gallimard
[5] CNIL, Délibération SAN-2021-003 du 12 janvier 2021 https://www.legifrance.gouv.fr/cnil/id/CNILTEXT000042960768 Le Conseil d’Etat avait par ailleurs rendu deux décisions sur le même sujet, mais à portée plus restreinte (surveillance des mesures de confinement et des manifestations à Paris) : Conseil d’État, 18 mai 2020, n°s 440442 et 440445 et Conseil d’Etat, 22 décembre 2020, n° 446155
[6] Les drones captaient des images sur lesquelles des personnes étaient identifiables. Peu important qu’un mécanisme de floutage était disponible a posteriori, la collecte des données était en clair et le floutage ultérieur pouvait être désactivé à des fins d’identification des personnes. En outre, le public filmé n’était pas informé de la collecte de leur image par drones (articles 13 et 14 du RGPD) et aucune analyse d’impact relative à l’utilisation de ces drones n’avait été communiquée à la CNIL.
[7] Notre propos vise en particulier les dispositions relatives à l’usage des drones, des caméras-piétons et caméras de surveillance fixe et à la reconnaissance faciale dans l’espace public. Proposition de loi relative à la sécurité globale (procédure accélérée) : http://www.senat.fr/dossier-legislatif/ppl20-150.html
[8] La CNIL rend son avis sur la proposition de loi « sécurité globale », 3 février 2021, accessible https://www.cnil.fr/fr/la-cnil-rend-son-avis-sur-la-proposition-de-loi-securite-globale
[9] L’intelligence artificielle peut notamment être utilisée pour la prise de décisions automatisées ayant un impact juridique notable sur une personne physique (ex : décision d’octroi de crédit, de prêt, d’assurance, d’acceptation dans une école, décision de justice, etc.) ou pouvant infliger un dommage corporel à une personne physique (voitures autonomes, systèmes automatisés d’armes létales, etc.)
[10] En matière d’IA par exemple, l’OCDE et le Conseil de l’Europe ont publié des propositions, telle que la Charte éthique européenne d’utilisation de l’intelligence artificielle dans les systèmes judiciaires et leur environnement en 2018. https://rm.coe.int/charte-ethique-fr-pour-publication-4-decembre-2018/16808f699b
[11] Un pas a été fait via le RGPD, avec la formalisation de grands principes, tel que celui de « privacy by design » ou « penser le respect de la vie privée dès la conception ».
[12] Il s’agit d’évoquer l’évolution technique des outils numériques mais aussi l’évolution des pratiques (habitudes des consommateurs, procédés marketing, etc.)
[13] Zuboff, S. (2021, 31 janvier). Opinion | Facebook and the Surveillance Society : The Other Coup. The New York Times. https://www.nytimes.com/2021/01/29/opinion/sunday/facebook-surveillance-society-technology.html
Zuboff, S. (2020). The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power (Illustrated éd.). PublicAffairs.
