Quand l’administration s’automatise
Quand l’administration s’automatise : quel est le niveau d’utilisation de systèmes algorithmiques dans l’administration vaudoise ?
Interpellation
Les systèmes algorithmiques – ou d’intelligence artificielle – sont de plus en plus utilisés dans tous les domaines pour établir des pronostics, faire des recommandations, générer des contenus, voire prendre de véritables décisions. Dans l’administration publique spécifiquement, ces systèmes s’avèrent toujours plus utilisés dans différents contextes, par exemple pour répondre à des demandes via des chatbots, pour traiter automatiquement les déclarations d’impôts ou les demandes d’aide sociale, pour détecter les abus en matière de prestations sociales, pour le travail prédictif de la police, pour évaluer le risque de récidive des délinquant·e·s ou encore pour prévoir l’intégration de certaines personnes (réfugié·e·s, personnes au chômage, etc.) sur le marché du travail. De même, ces systèmes sont aussi fréquemment appliqués pour prendre certaines décisions automatisées, par exemple dans le cadre du recrutement de candidat·e·s à certains postes.
Par sa position et ses compétences, l’administration publique fournis certains services qui font partie du service universel et bénéficie d’un accès particulier aux données sensibles. Une situation qui explique notamment qu’elle soit soumise à des obligations strictes en matière de respect, de protection et d’accomplissement des droits fondamentaux. Des obligations particulièrement importante lorsque l’on traite de systèmes algorithmiques ainsi que de décisions individuelles automatisées, dans la mesure où l’utilisation d’algorithmes peut avoir des impacts directs sur la sphère privée et les droits des personnes concernées : biais algorithmiques et transparence dans la prise de décision sont deux thèmes parmi beaucoup d’autres qui doivent être considérés. Un sujet qui a d’ailleurs directement été traité dans le cadre de la révision de la Loi fédérale sur la protection des données (FF 2020 7397 ; RS 235.1) entrant en vigueur le 1er septembre 2023 (« nLPD » ; art. 21 nLPD) et sera, très vraisemblablement, aussi couvert dans l’avant-projet de révision de la Loi vaudoise sur la protection des données personnelles (RSV 172.65 ; « LPrD ») que l’on attend encore.
A la lumière de ces éléments, il est évident que pour que la population accepte et ait confiance dans les décisions de l’État et pour que ces décisions soient compréhensibles, il est particulièrement important que les personnes concernées et le public intéressé sachent dans quels domaines et à quelles fins l’administration utilise des systèmes algorithmiques. Une transparence qui peut notamment être assurée par une cartographie des cas d’application de tels systèmes algorithmiques, puis par la tenue d’unregistre facilement accessible au public. A titre d’exemple, le canton de Zurich prépare actuellement l’introduction d’un tel registre.[1]
Afin cas échéant d’évaluer l’opportunité de mettre en place un tel registre au sein de l’administration vaudoise, il est nécessaire d’abord de comprendre si et dans quelle mesure de tels systèmes algorithmiques y sont déjà utilisés, respectivement si et dans quel domaine ils sont prévus pour être introduits à l’avenir. Or, à l’heure actuelle, une telle identification n’est pas possible, faute d’une vue d’ensemble disponible librement.
Dans ce contexte, les signataires adressent respectueusement au Conseil d’État les questions suivantes :
- L’administration vaudoise utilise-t-elle des systèmes algorithmiques pour générer des contenus ou opérer des tris, ou encore pour prendre des décisions individuelles automatisées?
- Si oui, quelles mesures sont prises pour assurer la transparence dans le cadre de l’utilisation actuelle de systèmes algorithmiques?
- Dans quels domaines le Conseil d’État estime-t-il qu’il existe un potentiel pour l’utilisation future de systèmes algorithmiques tels que décrits à la question 1?
- Le Conseil d’Etat prévoit-il de créer et tenir à jour un registre public listant les cas d’utilisation dans l’administration publique de systèmes algorithmiques et intégrant, inter alia, leur but, les instances responsables, leur fonctionnement (logique sous-jacente) et les données impliquées?
[1] L’introduction se fait dans le cadre de la révision de la loi sur l’information et la protection des données (IDG) du canton de Zurich, répondant ainsi au postulat 9/2022 : https://www.kantonsrat.zh.ch/geschaefte/geschaeft/?id=7eaa64973b454a6ca4e5eceb86b13941
