IA dans le secteur public, les établissements publics et l'ESS — Enjeux, usages et précautions

Une organisation publique ou ESS ne peut pas évaluer un usage IA uniquement par son efficacité opérationnelle. Elle doit aussi répondre à la question : cet usage sert-il réellement la mission ? Un outil qui accélère un processus mais réduit l'accessibilité du service pour certains publics, fragilise la qualité de l'accompagnement, ou diminue la capacité à traiter des situations complexes n'est pas un progrès. Dans ces organisations, l'évaluation d'un usage doit donc intégrer à la fois le gain opérationnel et l'impact sur la mission d'intérêt général ou d'utilité sociale.

Les usagers, bénéficiaires et partenaires d'une organisation publique ou ESS ont des attentes spécifiques que n'ont pas nécessairement les clients d'une entreprise :

• Équité — l'IA ne doit pas créer ou amplifier des inégalités de traitement entre usagers
• Transparence — les décisions ou services influencés par l'IA doivent pouvoir être expliqués
• Confiance — les personnes doivent comprendre que le service reste sous responsabilité humaine
• Accessibilité — l'IA ne doit pas devenir un filtre qui éloigne les publics fragiles du service humain dont ils ont besoin

La plupart des organisations publiques et ESS opèrent avec des ressources contraintes. Cette réalité conditionne les choix possibles :

• Les coûts d'abonnement, de formation et de maintenance des outils IA s'évaluent différemment quand les budgets sont limités et les marges inexistantes
• Les équipes sont souvent peu nombreuses — un usage qui exige une forte maintenance ou une expertise technique permanente est plus difficile à soutenir
• Le temps de formation est une ressource rare — ce qui impose des choix d'usages réellement utiles et un déploiement progressif

La sobriété des choix technologiques est donc souvent une condition de réussite, pas une contrainte secondaire.

• Intérêt : les services publics et ESS reçoivent souvent de grands volumes de demandes similaires (demandes d'aide, questions réglementaires, dossiers d'accès aux droits) — l'IA peut aider à trier, orienter, préparer des réponses types et réduire les délais de traitement
• Conditions de réussite : les demandes traitées doivent être suffisamment standardisées ; un processus de validation humaine sur les cas complexes doit être maintenu
• Vigilance : les personnes qui contactent un service public sont souvent dans des situations vulnérables — une réponse automatique inappropriée peut avoir des conséquences sérieuses ; maintenir un accès humain pour les situations complexes est indispensable

• Intérêt : les agents, éducateurs, travailleurs sociaux, agents administratifs passent un temps considérable à produire, mettre à jour ou synthétiser des documents — l'IA peut accélérer la rédaction de notes, de comptes rendus, de guides internes ou de réponses à des consultations
• Conditions de réussite : travailler sur des contenus génériques ou anonymisés ; maintenir une relecture humaine systématique avant toute diffusion officielle
• Vigilance : les documents officiels, les décisions administratives et les correspondances engageant l'organisation doivent rester entièrement sous responsabilité humaine

• Intérêt : l'IA peut aider les agents à trouver plus rapidement une règle, un texte de référence, une procédure interne, ou à formuler une réponse adaptée à une situation complexe — sans les remplacer dans le jugement et la décision
• Conditions de réussite : l'outil doit être simple, fiable sur les textes de référence utilisés, et les agents doivent être formés à ses limites
• Vigilance : l'IA peut produire des interprétations inexactes de textes réglementaires — toute référence juridique ou réglementaire doit être vérifiée depuis une source officielle avant usage

• Intérêt : classification de courriers entrants, aide à l'orientation vers les services compétents, structuration de tableaux de bord, préparation de synthèses pour les instances de gouvernance
• Conditions de réussite : périmètre limité à des tâches répétitives et bien définies ; données utilisées non nominatives ou encadrées contractuellement
• Vigilance : toute classification influençant le traitement d'une personne (accès à une prestation, qualification d'une demande) doit faire l'objet d'une validation humaine avant effet

Les organisations publiques et ESS traitent régulièrement des données très sensibles : situations de santé, données sociales, situations de précarité, dossiers judiciaires, données d'identité, situations familiales complexes. Ces données sont protégées par le RGPD et, pour certaines d'entre elles, par des règles sectorielles spécifiques (secret médical, secret social, secret professionnel). Avant tout usage IA impliquant ces données, il faut vérifier :

• La base légale du traitement dans le contexte de l'usage IA
• La compatibilité de cet usage avec la finalité initiale de collecte
• Les garanties offertes par l'outil sur la confidentialité et la non-réutilisation des données
• La possibilité d'exercer les droits des personnes concernées

Les organisations publiques ont une obligation de transparence particulièrement forte vis-à-vis des personnes qu'elles servent. Quand une IA intervient dans un service ou dans une décision, cette intervention doit pouvoir être expliquée :

• L'usager ou le bénéficiaire doit pouvoir savoir qu'un outil IA a participé au traitement de sa demande
• Il doit pouvoir obtenir une explication sur les critères appliqués si la décision l'affecte
• La transparence algorithmique n'est pas seulement une bonne pratique — c'est une attente de légitimité pour les organisations publiques et sociales

L'AI Act renforce ces exigences pour les systèmes IA utilisés dans des contextes à fort impact sur les personnes.

Dans les contextes de service public et d'utilité sociale, certaines situations ne doivent jamais être traitées de façon entièrement automatisée :

• Décisions d'accès ou de refus d'une prestation sociale ou administrative
• Orientation d'une personne vers un service ou un parcours d'accompagnement
• Qualification d'une situation individuelle ayant des conséquences significatives
• Traitement de dossiers impliquant vulnérabilité, urgence ou forte dimension humaine

Dans ces cas, l'IA peut aider à préparer ou à structurer — elle ne doit pas décider seule.

Les collectivités territoriales et les administrations étatiques partagent plusieurs contraintes spécifiques :

• Continuité du service public — l'IA ne peut pas créer des ruptures de service ; les solutions doivent être maintenues et récupérables en cas d'incident
• Redevabilité démocratique — les élus et les dirigeants doivent pouvoir rendre compte des systèmes déployés et de leurs effets
• Mutualisation — les collectivités ont intérêt à partager des solutions, des expériences et des ressources plutôt que de réinventer des solutions individuelles à fort coût
• Conformité réglementaire renforcée — certains systèmes IA utilisés dans des missions de service public peuvent relever du haut risque au titre de l'AI Act

Les établissements publics (hôpitaux, établissements scolaires, organismes de sécurité sociale, établissements culturels...) combinent les contraintes du secteur public et des spécificités métier fortes. Leurs données sont souvent parmi les plus sensibles — données de santé, données éducatives, données sociales. Leurs agents ont des formations spécialisées et des responsabilités professionnelles propres qui ne peuvent pas être déléguées à un outil. L'IA peut y apporter de la valeur sur les tâches administratives et documentaires, mais les usages touchant directement aux missions de soin, d'éducation ou d'accompagnement exigent un cadrage spécifique et une supervision experte.

Les structures de l'ESS — associations, coopératives, mutuelles, fondations — partagent les enjeux de confiance et de responsabilité des organisations publiques, avec des moyens souvent plus contraints et une proximité directe avec des publics vulnérables. Plusieurs considérations spécifiques :

• Le budget disponible pour des solutions IA peut être très limité — les solutions mutualisées, sobres ou open source peuvent donc être plus pertinentes
• Les équipes sont parfois peu formées au numérique avancé — la simplicité d'usage et la formation sont déterminantes
• Les publics accompagnés peuvent être en situation de fragilité sociale, administrative, psychologique ou économique — ce qui impose une vigilance accrue sur les usages influençant leur parcours

Quatre raisons expliquent que les critères de souveraineté, mutualisation, open source et frugalité structurent davantage les arbitrages dans les organisations publiques et sociales :

1. Dépendance vis-à-vis de fournisseurs privés — une collectivité ou une association doit limiter les risques d'enfermement technologique
2. Contraintes budgétaires — les solutions coûteuses ou très consommatrices en maintenance sont difficilement soutenables
3. Exigence démocratique et de confiance — l'opacité ou l'extraterritorialité de certains services posent des problèmes plus sensibles dans le secteur public
4. Culture de partage — les solutions réutilisables entre structures ont une valeur particulière dans ces écosystèmes

La DINUM et l'ANCT ont mis en place des initiatives concrétisant ces orientations :

• Albert API — la plateforme d'IA générative de l'État, conçue pour les besoins des administrations dans un cadre souverain
• ALLiaNCE — l'incubateur IA de l'ANCT, visant à accompagner les collectivités dans des usages concrets et mutualisables
• Logique de réutilisation — partage d'outils, de retours d'expérience, de briques techniques et de méthodes plutôt que développement isolé structure par structure

Une approche souveraine garantit que les données restent sous juridiction nationale ou européenne et que l'organisation garde le contrôle sur ses systèmes. Une approche frugale cherche à minimiser les ressources consommées — énergétiques, financières, humaines — pour obtenir le service rendu. L'approche open source renforce quant à elle la transparence, l'auditabilité et la réutilisation possible. Dans le public et l'ESS, ces approches ne sont pas idéologiques : elles répondent à des contraintes réelles de confiance, de budget, de pérennité et de gouvernance.

Les critères d'un bon premier usage IA dans un contexte d'intérêt général :

• Utilité directe — l'usage améliore la qualité ou la rapidité du service rendu, ou allège une charge administrative sans valeur pour les agents
• Compréhensibilité — les agents, les usagers et les responsables peuvent comprendre ce que fait l'outil et pourquoi
• Faible risque — les données impliquées sont non sensibles ou correctement anonymisées ; une erreur de l'IA est détectable et corrigeable sans conséquence grave
• Maîtrisabilité — l'organisation peut auditer, maintenir et faire évoluer l'usage sans dépendance totale vis-à-vis d'un fournisseur externe

Les usages à éviter en premier lancement dans un contexte public ou ESS :

• Tout usage impliquant des données de santé, de situation sociale ou judiciaire sans cadre de conformité spécifique
• Tout usage produisant des décisions ou des recommandations sur des personnes sans supervision humaine garantie
• Tout système dont les critères de fonctionnement ne peuvent pas être expliqués aux personnes concernées
• Tout outil hébergé hors Union européenne sans garanties contractuelles adaptées pour des données personnelles

Ces usages peuvent être adressés ultérieurement, avec un cadre spécifique — pas comme point de départ.

Checklist minimale avant tout premier déploiement IA dans un contexte public ou ESS :

• Le référent métier a validé la pertinence de l'usage pour la mission
• Le DPO ou le responsable protection des données a vérifié la conformité RGPD
• Le responsable SI a validé la sécurité de l'outil et les conditions d'hébergement
• Les agents utilisant l'outil ont reçu une information ou une formation adaptée
• Les usagers ou bénéficiaires concernés seront informés de l'existence de l'usage IA si celui-ci les touche
• Un processus de signalement et de correction est prévu pour les cas d'erreur ou d'inadaptation

L'AI literacy n'est pas réservée aux entreprises technologiques. Dans les organisations publiques et ESS, elle est d'autant plus importante que les agents et bénévoles qui utilisent des outils IA agissent dans des contextes où les erreurs peuvent affecter des personnes vulnérables. Comprendre ce que fait l'outil, reconnaître ses limites, savoir quand escalader une situation complexe et exercer un jugement critique sur les sorties : ces compétences sont indispensables, quelles que soient la taille et la nature de l'organisation. L'AI Act les rend explicitement obligatoires pour les organisations qui déploient des systèmes d'IA.

Dans les organisations publiques et ESS, la formation à l'IA doit être adaptée au contexte et aux personnes :

• Partir des tâches réelles et des situations connues des agents, pas de la technologie abstraite
• Valoriser les compétences existantes — la connaissance métier, la connaissance des usagers, le jugement professionnel — comme compléments indispensables à l'outil
• Traiter les inquiétudes légitimes (impact sur les emplois, surveillance, perte d'autonomie) avec franchise et concrètement
• Privilégier des formations courtes, progressives et reliées à des usages immédiatement pertinents pour l'équipe

Dans la plupart des organisations publiques et ESS, des agents utilisent déjà des outils IA — souvent de façon spontanée et non coordonnée. Passer d'initiatives dispersées à une adoption cohérente suppose :

• Cartographier les usages existants pour identifier les zones de risque non encadrées
• Formaliser un cadre minimal (quels outils, quelles données, quelles validations) avant d'élargir les usages
• Piloter l'adoption en équipe avec une méthode structurée plutôt que de laisser chaque agent naviguer seul

La page dédiée au pilotage du passage à l'IA dans une équipe et la page sur la politique d'usage de l'IA proposent des méthodes directement applicables dans ces contextes.