MOOC
Les fondamentaux de l’IA
Les caractéristiques des IA adaptées au service public
Jacques PRIOL
Les différences importantes entre une IA pour l’entreprise et une IA pour le service
public
Il faut tout d’abord noter que l’IA est tout autant présente dans le service public que dans
le monde de l’entreprise. Contrairement à quelques clichés faciles et aux idées reçues,
le service public n’est pas en retard. Le baromètre de l’Observatoire Data
Publica, montre que quasiment une collectivité sur deux a déjà testé des IA en ce début
d’année 2025. Et ce, quelle que soit la taille de la collectivité.
Mais pour passer du simple test d’une IA à sa mise en œuvre effective, à partir d’outils
en ligne ou en utilisant les services d’une entreprise du numérique par exemple, il y a des
éléments de méthode à mettre en œuvre.
Certains éléments sont communs à tous les utilisateurs d’IA, qu’ils soient publics ou
privés. Il s’agit notamment des garanties que l’on doit obtenir, ou parfois construire, pour
que l’IA soit efficace et fiable. Ce que l’on appelle aussi « l’IA de confiance ». Parce que
nous sommes confrontés aujourd’hui à un drôle de paradoxe : d’un côté des IA de plus
en plus puissantes, et même bluffantes ; et de l’autre de plus en plus d’exemples
d’erreurs et de fragilité dans ces systèmes pourtant très coûteux et à la pointe de
l’innovation mondiale.
Alors, que l’on soit une entreprise ou un service public, on doit veiller à plusieurs choses.
o Identifier, et si possible définir et vérifier les jeux de données qui servent à
l’apprentissage des systèmes d’IA pour éviter des sources d’erreurs, des biais,
voire des discriminations.
o Veiller à l’explicabilité de l’IA, et ce n’est pas simple car beaucoup de ces
nouveaux outils intègrent des systèmes opaques, c’est le fameux effet « boîte
noire » de l’IA. C’est pourtant essentiel vis-à-vis des collaborateurs, mais aussi
des partenaires, des clients pour les entreprises et bien sûr vis-à-vis des usagers
pour le service public.
o Veiller à l’accompagnement des salariés qui vont utiliser les IA. On a beaucoup
parlé de la réglementation européenne sur l’IA pour évoquer la régulation de
l’innovation ; mais ce que l’on sait moins c’est que le législateur européen a créé
pour tous les employeurs des obligations de formation des salariés qui utiliseront
des IA.
o Veiller à organiser la supervision humaine car les IA, même les plus efficaces,
commettent des erreurs. Et là aussi l’enjeu est commun au public et au privé.
Mais pour le service public, il y a des enjeux, et même des obligations spécifiques.
La première obligation concerne la prise en compte de l’impact environnemental de l’IA.
Vous me direz, tout le monde peut s’en préoccuper, y compris les entreprises privées.
Mais le service public en France a des obligations légales, notamment du fait de la loi
REEN, la loi visant à Réduire l’empreinte environnementale du numérique en France.
Depuis le 1er janvier 2025, toutes les communes et toutes les intercommunalités de plus
de 50 000 habitants ont l’obligation d’adopter une stratégie qui limite l’empreinte de
leurs outils numériques. Il y a là comme une injonction contradictoire. Parce que les
nouveaux systèmes d’IA, même ceux qui sont utilisés pour faire des économies
d’énergie, pour améliorer la gestion de l’eau, des déchets, pour réduire la pollution liée
à la mobilité… tous, ont une empreinte carbone supérieure aux anciens systèmes. Les
collectivités locales doivent donc, non seulement se préoccuper de cet impact, mais
être capables de le mesurer. Il y a des outils pour cela, notamment à travers le référentiel
de l’IA frugale, qui a été développé par le ministère de l’environnement et l’AFNOR.
Il y a un second enjeu majeur qui est propre au service public. Le service public utilise de
plus en plus d’algorithmes. Je ne parle pas d’IA. Je parle de Parcours Sup, mais aussi
d’outils simples utilisés dans nos villes, dans nos CCAS, dans nos départements. Des
logiciels qui appliquent des délibérations votées par les élus, pour calculer un tarif au
quotient familial, pour attribuer une aide sociale ou une subvention… Depuis bientôt 5
ans, il y a en France une obligation de transparence algorithmique, c’est-à-dire que l’on
doit informer les usagers que l’on utilise des algorithmes, et on doit pouvoir leur
expliquer comment ils fonctionnent. C’est une application concrète, à l’ère du
numérique, d’un principe de redevabilité de l’action publique qui date de 1789 et de la
Déclaration des Droits de l'Homme et du Citoyen.
Le problème avec l’intelligence artificielle, c’est que nous avons une vraie difficulté à en
expliquer le fonctionnement. Il y a un problème de transparence. Et donc de droits
fondamentaux des usagers. C’est la raison pour laquelle le Conseil Constitutionnel a
interdit l’utilisation des IA pour automatiser des décisions individuelles. Plus
précisément, il interdit les décisions automatiques prises par des « algorithmes
susceptibles de réviser eux-mêmes les règles qu’ils appliquent », ce qui est une bonne
définition de l’IA et de l’apprentissage par des machines. Voilà un enjeu et une contrainte
que n’a pas le secteur privé. Et il touche aux fondamentaux du service public.
L’organisation des acteurs publics pour garantir le respect de ces principes
Il n’y a sans doute pas encore aujourd’hui de modèle type d’organisation pour intégrer
l’IA dans une administration locale. Mais on voit quand même émerger quelques bonnes
pratiques.
o Se former, s’acculturer : cela concerne les élus, les équipes de direction mais
aussi tous les collègues qui pourraient être amenés à utiliser des IA. Pour
superviser une IA demain, vérifier s’il y a des risques de biais ou d’erreurs,
anticiper l’impact environnemental… il faut d’abord comprendre comment cela
marche.
o Se doter d’une doctrine. On l’appelle comme on veut : une charte, une feuille de
route, un guide interne… Peu importe. Ce qui compte c’est d’avoir quelques
lignes directrices pour faire le tri dans les centaines de propositions d’IA qui
arrivent ou vont arriver sur les bureaux des décideurs et des agents publics. Et les
choix peuvent être très différents d’une collectivité à l’autre. Certaines seront très
volontaristes, d’autres seront plus prudentes. Certaines vont décider de tester
différents systèmes d’IA dans différentes politiques publiques. D’autres vont se
focaliser sur une ou deux priorités du mandat des élus. Et c’est tout à fait légitime.
o S’organiser en interne. Quelques collectivités ont fait le choix de créer des postes
et même des services en charge de l’intelligence artificielle. D’autres s’appuient
sur les équipes en place. Mais dans tous les cas il faut un pilotage spécifique de
l’introduction de l’intelligence artificielle. Il faut contrôler les outils qui sont
déployés. Il faut mesurer leur efficacité et voir si les promesses du départ sont au
rendez-vous. Souvent il s’avère que l’on découvre un problème qui est lié à la
quantité et à la qualité des données de la collectivité. Et donc pour aller plus loin,
pour utiliser ces outils, il faut s’organiser et améliorer la gestion des données.
Beaucoup d’administrations, mais aussi d’entreprises, sous-estiment cette
difficulté.
o Être ferme et vigilant vis-à-vis des partenaires qui utilisent de l’IA. Pour limiter
l’impact environnemental, par exemple, il faut exiger des informations des
fournisseurs. Ce n’est pas simple. Quel volume de données a été utilisé pour
l’apprentissage ? Où sont vos serveurs ? Combien consomment-ils ? Les
entreprises du numérique sont conscientes de ces enjeux, mais pas toujours
transparentes. Le service public doit avoir des exigences fortes, par exemple à
travers des clauses juridiques sur l’IA que l’on va mettre dans la commande
publique.
La mutualisation des services numériques : une solution pour les collectivités ?
La mutualisation des services numériques en général s’accélère. On le constate tous les
jours à travers l’offre de service d’opérateurs publics de services numériques (OPSN) ou
de syndicats mixtes qui élargissent leurs domaines de compétence.
Mais, concernant l’intelligence artificielle, ce n’est pas simple car nous sommes à une
étape qui fait une large place aux tests, aux essais de chaque collectivité. Et après tout,
c’est peut-être une bonne chose car c’est le meilleur moyen de comprendre comment
fonctionnent les IA.
On pourra noter d’ailleurs qu’il y a des dispositifs d’aide pour soutenir des projets locaux.
Il y a des appels à projets nationaux mais aussi des initiatives régionales, je pense par
exemple à la Corse ou aux Hauts-de-France.
Peut-on envisager une mise en commun de systèmes d’IA au service des politiques
publiques locales ?
C’est une question essentielle car si on ne met pas les choses en communs, il y aura
beaucoup d’échecs et de déceptions.
Il y a aujourd’hui différentes formes de réponses à votre question.
o Il y a d’abord des entreprises, des start-up, des grandes entreprises numériques,
des éditeurs de logiciel ou même des délégataires de service public, qui
préparent des IA dédiées au monde territorial en les entraînant avec les données
de leurs collectivités clientes. Mais cela, ce n’est pas une véritable mise en
commun, vous en conviendrez. Cela soulève même des questions juridiques car
ces données ne sont pas toutes des données publiques. Il y a des enjeux de
protection de ces données, mais aussi de propriété intellectuelle.
o En parallèle, des projets importants sont développés en open source, notamment
dans le cadre d’appels à projet nationaux largement subventionnés par l’Etat.
Mais, je le dis très clairement, en 2025, ils ne sont pas encore suffisamment
entraînés et suffisamment performants pour être mis à disposition de tous les
territoires.
o Il y a aussi des projets de « bibliothèques d’algorithmes » territoriaux. Là aussi
c’est une excellente chose, mais cela ne suffit pas non plus. Car une IA, pour être
utile dans de nombreux territoires, devrait d’abord être entraînée avec les
données de nombreux territoires, urbains, ruraux, péri-urbains, riches ou moins
riches, littoraux ou montagnards...
La vraie question selon moi, n’est pas tout de suite de mutualiser des IA, mais celle de
mutualiser des données. Et cela, aujourd’hui, personne ne le fait. Pour économiser des
coûts et mutualiser demain l’apprentissage d’IA utiles à de nombreux territoires, quelle
que soit leur taille, il va falloir aujourd’hui les entraîner avec une grande variété de
données. Il faut que les territoires acceptent de partager leurs données. Il va falloir
généraliser des standards et des formats de données communs et décider de qui sera
autorisé à les utiliser. Mais cela c’est un autre sujet.
Et cela ne doit empêcher les collectivités d’avancer et de faire leurs propres tests. C’est
aujourd’hui qu’il faut apprendre et comprendre les ressorts des IA qui seront dédiées au
service public, pour savoir les utiliser et les contrôler demain.