Fonction publique : un rapport recommande d’encadrer le déploiement de l’IA

De France Travail à la Caisse d’allocations familiales, en passant par l’éducation nationale ou les collectivités locales, l’intelligence artificielle (IA) est déjà très intégrée aux différents secteurs de l’action publique. Lutte contre la fraude, orientation des usagers, recrutement, agents conversationnels, les usages se multiplient. Et les transformations vont encore s’amplifier à l’avenir.

C’est pour cette raison que le centre de réflexion Le Sens du service public publie un rapport, jeudi 3 juillet, en partenariat avec la Fondation Jean Jaurès, intitulé « Le service public à l’épreuve de l’intelligence artificielle ». Alors que la fonction publique est déjà confrontée au développement et aux expérimentations de l’IA, le document appelle à la création d’un cadre politique clair pour que le sujet ne soit pas seulement appréhendé d’une manière technique et technologique.

« On voit bien que l’IA se développe de manière effrénée dans toutes les organisations, explique Johan Theuret, cofondateur du Sens du service public et coordinateur du rapport. L’objectif était d’essayer de voir s’il est possible de définir un mode de développement de l’IA qui soit respectueux des principes fondamentaux des services publics. » Souveraineté, soutenabilité écologique, respect de la démocratie… Autant d’enjeux qui réclament une vraie politique publique et une vision stratégique de long terme.

Tirer les leçons du passé

Pour cela, le texte fait 15 propositions, telles que renforcer la recherche pour une IA d’intérêt général, former correctement les agents publics et les élus sur les usages de l’IA, soutenir la création de modèles d’IA français ou européen, créer un observatoire public indépendant ou encore imposer des études d’impacts environnementaux, éthiques et sociaux avant le déploiement de l’IA.

Le rapport tire également les leçons du passé afin que les erreurs commises lors de la dématérialisation ne se répètent pas avec l’IA. « La dématérialisation a créé un sentiment d’éloignement de l’Etat, de délaissement, ce qui entraîne aussi un moindre consentement à l’impôt, analyse Emilie Agnoux, cofondatrice du Sens du service public et également coordinatrice de l’étude. Il est important de se poser les bonnes questions avec l’IA ; quand on utilise la technologie, il faut savoir pourquoi, pour répondre à quel besoin, et quelle maîtrise on veut garder. »

Car, comme l’écrivent les auteurs du rapport, l’IA, comme tout outil technologique, n’est pas neutre. Dès lors, son déploiement dans les services publics nécessite de vrais choix politiques, stratégiques, voire philosophiques. Pour le think tank, il faut rapidement répondre à certaines interrogations. Qui programme les algorithmes ? A partir de quelles données ? Avec quelle transparence ? Qui valide la décision finale ?

« La technologie est toujours une question de rapport de force, car elle vient d’acteurs privés dont la logique ne correspond pas aux principes des services publics, précise Emilie Agnoux. Tout doit donc être réfléchi, pensé. » Selon Johan Theuret, il est même légitime de se demander « si les droits fondamentaux sont menacés ». « Ce n’est pas parce qu’on questionne l’IA qu’on y est opposé, mais il est important que le législateur prenne conscience des risques pour les corriger et mettre des garde-fous. » L’objectif du rapport est ainsi de sortir des postures binaires du débat public entre l’enthousiasme technosolutionniste d’un côté et une sorte de frilosité, de l’autre côté, qui conduirait à prendre du retard.

« Il va falloir recruter »

Le document met notamment l’accent sur l’indispensable formation à mettre en place. « Pour bâtir la meilleure stratégie avant d’utiliser l’IA, il faut s’appuyer sur des formations extrêmement robustes pour bien comprendre la spécificité de ces technologies », commente Emilie Agnoux. Car tous ces outils ont été pensés pour des services privés dans un souci de rentabilité, ce qui n’est pas la finalité des services publics. Il est donc recommandé de créer une agence, ou un service dédié dans un ministère, avec un élu référent, bref une vraie armature institutionnelle qui puisse garantir le cadre dans lequel se déploie l’IA dans la fonction publique.

Sur la question de la rentabilité, le rapport alerte sur une éventuelle volonté d’utiliser l’IA pour réduire les coûts. « Aucune réduction des effectifs des agents en contact direct avec les usagers ne doit être mise en œuvre sans évaluation préalable des conséquences potentielles sur la qualité et l’accès au service public », écrivent les auteurs. Si le risque de voir l’IA remplacer concrètement des emplois existe, les choses se font pour l’instant de manière plus pernicieuse et moins évidente. Des tâches peuvent être automatisées, mais de manière très progressive, et l’IA ne remplace presque jamais l’intégralité d’un emploi. « L’IA peut améliorer la productivité, libérer du temps pour de nouvelles missions mais ne doit pas être un prétexte pour supprimer des postes », prévient Johan Theuret, qui va même plus loin : « Si on veut rester maître de notre destin, il va falloir recruter et mettre des moyens humains sur le développement de l’IA. »

Enfin, le déploiement de l’IA doit être une occasion de penser de façon décentralisée. Le rapport met en exergue plusieurs exemples de collectivités locales qui ont pris les devants et dont l’Etat pourrait s’inspirer. C’est le cas de Nantes Métropole, qui impose par exemple dans ses marchés publics un audit éthique des algorithmes utilisés avec des chercheurs et des citoyens.

[Source: Le Monde]