Les 6 et 7 juillet 2026, le premier Dialogue mondial sur la gouvernance de l’intelligence artificielle a réuni à Genève près de 4 000 représentants de gouvernements, d’entreprises, de la recherche, d’organisations internationales et de la société civile.
Pour les villes et les territoires, cette rencontre n’a rien d’abstrait. Elle annonce les questions auxquelles les collectivités seront rapidement confrontées à mesure que l’IA s’intègre dans les infrastructures, les services publics et les processus de décision.
António Guterres, secrétaire général des Nations unies, a résumé l’enjeu :
« Nos institutions ont été conçues pour gouverner des machines qui exécutent des ordres. Elles ne sont pas prêtes pour des machines qui décident. »
Cette formule prend une dimension particulière à l’échelle urbaine. Les systèmes numériques ne servent déjà plus seulement à collecter des données ou à produire des tableaux de bord. Ils commencent à anticiper des incidents, recommander des arbitrages et automatiser certaines interventions.
La prochaine étape sera celle des agents d’IA capables d’accéder à plusieurs systèmes, d’utiliser des logiciels, de coordonner des actions et d’exécuter des tâches avec une supervision humaine réduite.
Pour les villes et les territoires, cette rencontre n’a rien d’abstrait. Elle annonce les questions auxquelles les collectivités seront rapidement confrontées à mesure que l’IA s’intègre dans les infrastructures, les services publics et les processus de décision.
António Guterres, secrétaire général des Nations unies, a résumé l’enjeu :
« Nos institutions ont été conçues pour gouverner des machines qui exécutent des ordres. Elles ne sont pas prêtes pour des machines qui décident. »
Cette formule prend une dimension particulière à l’échelle urbaine. Les systèmes numériques ne servent déjà plus seulement à collecter des données ou à produire des tableaux de bord. Ils commencent à anticiper des incidents, recommander des arbitrages et automatiser certaines interventions.
La prochaine étape sera celle des agents d’IA capables d’accéder à plusieurs systèmes, d’utiliser des logiciels, de coordonner des actions et d’exécuter des tâches avec une supervision humaine réduite.
De la donnée à l’action
Les usages potentiels sont nombreux.
Un agent pourrait analyser les données d’un réseau d’eau, détecter une anomalie, hiérarchiser les interventions et préparer un ordre de maintenance. Un autre pourrait croiser consommation énergétique, occupation des bâtiments et prévisions météorologiques afin d’optimiser le chauffage ou la climatisation d’un patrimoine public.
Dans les mobilités, des systèmes pourraient coordonner feux, transports collectifs, voirie et information voyageurs lors d’un incident. Dans la gestion de crise, ils pourraient agréger des données météorologiques, techniques et sociales afin d’aider les opérateurs à anticiper une inondation, une canicule ou une rupture d’approvisionnement.
Ces applications peuvent améliorer la réactivité des services publics et la résilience des territoires. Mais l’accès à la technologie ne garantit pas le résultat.
Les bénéfices dépendent de la qualité des données, des compétences disponibles, de l’intégration dans les processus métier et de la capacité des institutions à agir sur les recommandations. L’IA apporte les meilleurs résultats lorsqu’elle complète des organisations solides, plutôt que lorsqu’elle cherche à s’y substituer.
Une collectivité ne devient donc pas plus intelligente en ajoutant simplement un modèle à un système existant. Elle doit aussi repenser les responsabilités, les processus et les mécanismes de contrôle.
Un agent pourrait analyser les données d’un réseau d’eau, détecter une anomalie, hiérarchiser les interventions et préparer un ordre de maintenance. Un autre pourrait croiser consommation énergétique, occupation des bâtiments et prévisions météorologiques afin d’optimiser le chauffage ou la climatisation d’un patrimoine public.
Dans les mobilités, des systèmes pourraient coordonner feux, transports collectifs, voirie et information voyageurs lors d’un incident. Dans la gestion de crise, ils pourraient agréger des données météorologiques, techniques et sociales afin d’aider les opérateurs à anticiper une inondation, une canicule ou une rupture d’approvisionnement.
Ces applications peuvent améliorer la réactivité des services publics et la résilience des territoires. Mais l’accès à la technologie ne garantit pas le résultat.
Les bénéfices dépendent de la qualité des données, des compétences disponibles, de l’intégration dans les processus métier et de la capacité des institutions à agir sur les recommandations. L’IA apporte les meilleurs résultats lorsqu’elle complète des organisations solides, plutôt que lorsqu’elle cherche à s’y substituer.
Une collectivité ne devient donc pas plus intelligente en ajoutant simplement un modèle à un système existant. Elle doit aussi repenser les responsabilités, les processus et les mécanismes de contrôle.
Évaluer le système, pas seulement le modèle
L’un des principaux enseignements du rapport scientifique présenté à Genève est que le modèle d’IA ne doit plus être considéré comme la seule unité d’évaluation.
Le risque dépend du système déployé dans son ensemble : le modèle, les outils auxquels il est connecté, les données qu’il peut consulter, les actions qu’il peut exécuter et son environnement opérationnel.
Le même modèle peut présenter un risque limité lorsqu’il résume un document administratif, et devenir critique lorsqu’il peut modifier un planning de maintenance, intervenir sur un système énergétique ou déclencher une transaction.
La première question ne devrait donc pas être : « Quel modèle utilisons-nous ? », mais : « Que peut réellement faire ce système ? »
Cela suppose de préciser les données et applications accessibles, les actions autorisées, les décisions nécessitant une validation, les conditions d’arrêt, les mécanismes de retour en arrière et les responsabilités en cas d’incident.
Cette approche est particulièrement importante pour les infrastructures critiques. L’IA agentique élargit à la fois les possibilités de cyberdéfense et la surface d’attaque. Des instructions malveillantes peuvent être dissimulées dans les documents, sites ou dépôts de code consultés par l’agent, puis l’inciter à exécuter une action non autorisée.
La cybersécurité doit donc être intégrée dès la conception, dans l’architecture, les droits d’accès et les procédures d’exploitation.
Le risque dépend du système déployé dans son ensemble : le modèle, les outils auxquels il est connecté, les données qu’il peut consulter, les actions qu’il peut exécuter et son environnement opérationnel.
Le même modèle peut présenter un risque limité lorsqu’il résume un document administratif, et devenir critique lorsqu’il peut modifier un planning de maintenance, intervenir sur un système énergétique ou déclencher une transaction.
La première question ne devrait donc pas être : « Quel modèle utilisons-nous ? », mais : « Que peut réellement faire ce système ? »
Cela suppose de préciser les données et applications accessibles, les actions autorisées, les décisions nécessitant une validation, les conditions d’arrêt, les mécanismes de retour en arrière et les responsabilités en cas d’incident.
Cette approche est particulièrement importante pour les infrastructures critiques. L’IA agentique élargit à la fois les possibilités de cyberdéfense et la surface d’attaque. Des instructions malveillantes peuvent être dissimulées dans les documents, sites ou dépôts de code consultés par l’agent, puis l’inciter à exécuter une action non autorisée.
La cybersécurité doit donc être intégrée dès la conception, dans l’architecture, les droits d’accès et les procédures d’exploitation.
Le contrôle humain doit devenir opérationnel
Le principe d’«humain dans la boucle » reste indispensable, mais il ne suffit pas.
Faire valider chaque action par un agent public peut rapidement créer des ralentissements et une fatigue décisionnelle. À l’inverse, placer un humain uniquement à la fin d’un processus complexe ne lui permet pas toujours de comprendre les décisions prises en amont.
L’enjeu est de définir précisément les moments où l’intervention humaine apporte une réelle valeur.
Elle doit être prioritaire lorsque l’incertitude est élevée, lorsque le contexte local est déterminant, lorsqu’un jugement éthique est nécessaire ou lorsque le résultat ne peut pas être vérifié automatiquement.
L’objectif n’est pas de maintenir un humain dans chaque micro-action. Il est de garantir une autorité humaine réelle, capable de comprendre, d’interrompre et de contester le système.
Faire valider chaque action par un agent public peut rapidement créer des ralentissements et une fatigue décisionnelle. À l’inverse, placer un humain uniquement à la fin d’un processus complexe ne lui permet pas toujours de comprendre les décisions prises en amont.
L’enjeu est de définir précisément les moments où l’intervention humaine apporte une réelle valeur.
Elle doit être prioritaire lorsque l’incertitude est élevée, lorsque le contexte local est déterminant, lorsqu’un jugement éthique est nécessaire ou lorsque le résultat ne peut pas être vérifié automatiquement.
L’objectif n’est pas de maintenir un humain dans chaque micro-action. Il est de garantir une autorité humaine réelle, capable de comprendre, d’interrompre et de contester le système.
La commande publique devient un levier de gouvernance
Les collectivités développent rarement elles-mêmes les modèles qu’elles utilisent. Elles les achètent sous forme de logiciels, de plateformes ou de services intégrés.
La commande publique devient donc un instrument central de gouvernance.
Les appels d’offres ne pourront plus se limiter aux performances fonctionnelles, au prix et à des engagements généraux de conformité. Ils devront préciser les exigences relatives à l’auditabilité, à la documentation, à la localisation des données, aux droits d’accès, au signalement des incidents et à la réversibilité.
Les acheteurs publics devront notamment demander comment le système a été testé dans le contexte réel d’utilisation, quelles données sont conservées, comment les décisions peuvent être reconstituées, comment les mises à jour modifient le niveau de risque et quelles garanties existent en cas de changement de fournisseur.
Cette vigilance est d’autant plus nécessaire que les méthodes d’évaluation sont encore largement définies par les entreprises qui développent les systèmes.
La commande publique devient donc un instrument central de gouvernance.
Les appels d’offres ne pourront plus se limiter aux performances fonctionnelles, au prix et à des engagements généraux de conformité. Ils devront préciser les exigences relatives à l’auditabilité, à la documentation, à la localisation des données, aux droits d’accès, au signalement des incidents et à la réversibilité.
Les acheteurs publics devront notamment demander comment le système a été testé dans le contexte réel d’utilisation, quelles données sont conservées, comment les décisions peuvent être reconstituées, comment les mises à jour modifient le niveau de risque et quelles garanties existent en cas de changement de fournisseur.
Cette vigilance est d’autant plus nécessaire que les méthodes d’évaluation sont encore largement définies par les entreprises qui développent les systèmes.
La souveraineté ne se limite pas à l’hébergement de la donnée
Une ville peut accéder à un modèle performant tout en restant incapable d’en évaluer les limites, de l’adapter à ses besoins ou de contrôler les conditions dans lesquelles il évolue.
La souveraineté ne se résume donc pas à la localisation des serveurs. Elle concerne aussi les compétences, la maîtrise des données, la capacité d’audit, l’interopérabilité et la possibilité de changer de fournisseur sans perdre la continuité du service.
Cette question est particulièrement importante pour les petites et moyennes collectivités, qui ne disposent pas toujours des ressources nécessaires pour évaluer seules des systèmes complexes.
La mutualisation des compétences, des référentiels, des tests et des retours d’expérience deviendra probablement indispensable.
La souveraineté ne se résume donc pas à la localisation des serveurs. Elle concerne aussi les compétences, la maîtrise des données, la capacité d’audit, l’interopérabilité et la possibilité de changer de fournisseur sans perdre la continuité du service.
Cette question est particulièrement importante pour les petites et moyennes collectivités, qui ne disposent pas toujours des ressources nécessaires pour évaluer seules des systèmes complexes.
La mutualisation des compétences, des référentiels, des tests et des retours d’expérience deviendra probablement indispensable.
Vers une gouvernance locale par la preuve
Pour les villes, le principal enseignement de Genève est clair : la gouvernance de l’IA ne peut plus reposer uniquement sur une charte éthique ou une déclaration d’intention.
Elle doit être traduite dans les architectures techniques, les marchés publics, les droits d’accès, les procédures d’exploitation, les mécanismes d’audit et la formation des agents.
Avant de déployer une IA, une collectivité devrait pouvoir répondre à cinq questions : quelle décision le système influence-t-il ? De quelles données et de quels outils dispose-t-il ? Qui peut l’arrêter ? Comment prouver ce qu’il a fait ? Que se passe-t-il lorsqu’il se trompe ?
La prochaine génération de villes intelligentes ne sera pas seulement définie par sa capacité à utiliser l’IA.
Elle sera jugée sur sa capacité à démontrer que cette IA améliore réellement les services publics, reste sous contrôle et renforce la résilience du territoire sans créer de nouvelles dépendances.
Après la donnée et l’automatisation vient désormais le temps de la gouvernance par la preuve.
Elle doit être traduite dans les architectures techniques, les marchés publics, les droits d’accès, les procédures d’exploitation, les mécanismes d’audit et la formation des agents.
Avant de déployer une IA, une collectivité devrait pouvoir répondre à cinq questions : quelle décision le système influence-t-il ? De quelles données et de quels outils dispose-t-il ? Qui peut l’arrêter ? Comment prouver ce qu’il a fait ? Que se passe-t-il lorsqu’il se trompe ?
La prochaine génération de villes intelligentes ne sera pas seulement définie par sa capacité à utiliser l’IA.
Elle sera jugée sur sa capacité à démontrer que cette IA améliore réellement les services publics, reste sous contrôle et renforce la résilience du territoire sans créer de nouvelles dépendances.
Après la donnée et l’automatisation vient désormais le temps de la gouvernance par la preuve.
