Si vous ne l’utilisez pas déjà dans votre entreprise, vous en avez au moins entendu parler : l’intelligence artificielle ou IA n’a jamais été aussi présente, tant dans nos vies que dans les médias. Pour apporter une réponse locale à ces nouveaux enjeux passionnants, Nantes Métropole se dote d’un cadre de confiance pour le recours à l’intelligence artificielle dans le cadre de ses politiques publiques. Afin de contribuer au débat sur cet enjeu public, Nantes Métropole lance également la démarche « Nantes Débat de l’IA » en y associant l’ensemble des habitantes et habitants, des actrices et acteurs volontaires du territoire.
Mais au fait, l’intelligence artificielle, à quoi ça sert ?
Cette évolution rapide de l’IA et les progrès constants de l’IA générative peuvent enthousiasmer. Utilisés au service de l’intérêt général, les bénéfices sont réels. L’IA peut par exemple être une aide aux professionnels et professionnelles de santé en matière de diagnostic, aux analyses des météorologues, à la réalisation d’économies d’énergie à grande échelle ou encore à la détection de fuites d’eau. Dans les entreprises, l’IA peut être utilisée pour la planification logistique, l’optimisation de la chaîne d’approvisionnement ou encore la communication et le support clients. Mais son usage pose aussi de nombreuses questions qui nécessitent une vigilance particulière.
Écologie, emploi et démocratie : trois grands enjeux de l’intelligence artificielle
Un des trois grands enjeux de l’IA est écologique. L’impact environnemental des systèmes informatiques, gourmands en ressources énergétiques est rarement mesuré. Le second enjeu, en particulier l’IA générative, c’est l’emploi. On le voit déjà avec ChatGPT, une large gamme de métiers peut être impacté.Le troisième enjeu est démocratique : se pose la transparence des algorithmes ou encore de la multiplication de fausses informations de plus en plus difficiles à discerner des vraies.
Une « boussole » commune pour encadrer les projets qui utilisent l’IA
Aujourd’hui il n’existe pas de cadre juridique sur l’IA en dehors de certains usages très spécifiques. Récemment, l’Union Européenne a été l’une des premières institutions au monde à proposer un cadre protecteur pour les citoyens avec l’IA Act, qui devrait entrer en vigueur en 2025. De son côté, Nantes Métropole s’est positionnée dès 2019 sur les enjeux de l’intelligence artificielle (IA), dont elle reconnaît les bénéfices, mais aussi les risques. Elle propose aujourd’hui une « doctrine » afin d’encadrer le développement de projets intégrant, dans le cadre des politiques publiques, ces nouveaux outils.
En 2024, Nantes Métropole souhaite actualiser la charte métropolitaine de la donnée en y intégrant les éléments de doctrine actuellement travaillés sur l’IA. Cette doctrine prévoit que l’utilisation de l’IA ne pourra se faire que dans un cadre prédéfini, évaluant à travers une « boussole », la contribution réelle à l’amélioration du service public, la sobriété environnementale, ou encore les exigences de transparence.
7 critères à respecter pour les projets numériques incluant l’intelligence artificielle
La « boussole » proposera sept critères qui serviront de base pour instruire tout projet numérique intégrant de l’intelligence artificielle :
- Absence d’identification biométrique et absence de collecte de données sensibles qui pourraient caractériser un ou des individus susceptibles de générer des biais discriminatoires (notamment caractérisation physique, comportementale, vestimentaire, etc.).
- Conformité au cadre juridique (absence de risque juridique) et à la politique de cybersécurité.
- Contribution à l’amélioration du service public.
- Contribution à l’amélioration des conditions de travail des agents publics.
- Respect des engagements en matière de sobriété énergétique.
- Exigence de transparence et de redevabilité.
- Évaluation du bénéfice par rapport à une solution alternative sans intelligence artificielle
Lancement de « Nantes Débat de l’IA »
Différents rendez-vous vont permettre de mener des échanges sur ce sujet avec les actrices et acteurs économiques et académiques notamment le collectif NoanedIA, celles et ceux de la médiation numérique et le grand public lors du « Nantes Débat de l’IA ». L’ensemble de ces travaux feront l’objet d’une restitution dans le cadre d’un Forum de la société civile sur l’IA organisé le 17 septembre 2024 en marge du Salon de la Data Nouvelle fenêtre et de la Nantes Digital Week Nouvelle fenêtre. Cette démarche, qui permettra d’ajuster les critères de la boussole, aboutira à la révision courant 2025 de la charte métropolitaine de la donnée, devenant la « charte métropolitaine donnée et de l’IA ».