« Ce qui fait et fera les êtres humains ne se décide pas moins dans la forme de nos outils que dans l’action des hommes d’État et des mouvements politiques. » Cette citation d’Andrew Feenberg, vient nous le rappeler : la politique et la technique sont intimement liées.
En matière d’IA, son développement sur la Ville appelle à répondre à de nombreux enjeux dont nous venons de discuter.
Pour décliner l’action de la Ville, cette délibération vise à créer un comité d’éthique. C’est essentiel car on ne peut se borner au laisser-faire cher à la droite. Permettez-moi de prendre le contre-exemple des annonces macronistes. En février, Emmanuel Macron a annoncé la création de plus de 35 nouveaux centres de données en France, en lien avec Microsoft ou Amazon. Mais sans aucune condition de la part de l’État. En matière écologiques, ou de souveraineté. L’État se borne encore et toujours à intervenir sans contrepartie, c’est insupportable.
Heureusement, certaines collectivités ont développé une approche responsable. Montpellier a été pionnière en exigeant une évaluation préalable des projets d’IA pour en mesurer l’utilité, le coût social, environnemental et financier. La métropole de Nantes, a choisi une gouvernance collaborative, associant élus, services, acteurs associatifs, citoyens et économiques. Elle a mis en place une “boussole de l’IA”, fondée sur des critères précis : respect des libertés publiques, exclusion de la reconnaissance faciale, sobriété énergétique, transparence et amélioration des conditions de travail. Ces initiatives montrent qu’une IA ambitieuse, éthique, démocratique et au service des politiques publiques est possible.
Le comité d’éthique créé par la présente délibération aura notamment pour but d’écrire une charte locale de l’IA. Elle est essentielle. Elle devra aborder tous les enjeux : protection des données, souveraineté des outils utilisés, amélioration des conditions de travail, contrôle démocratique, sobriété énergétique... Elle devra aborder le respect des cadres réglementaires comme le RGPD et l’IA Act. Nous proposons notamment qu’elle intègre les préconisations du Manifeste pour une IA responsable qui promeut une IA éthique, compréhensible et démocratique.
Un deuxième sujet structurant que je voudrais aborder est la gouvernance de l’IA. L’IA ne doit pas être un simple outil comme un autre confié à la direction des services informatiques comme un outil technique. L’IA n’est pas un sujet d’experts, mais un sujet pour tout le monde.
L’IA peut bouleverser la façon de travailler à la Ville, et doit être développée de façon partagée, et co-construite. Je propose donc que la Ville mette en place une gouvernance de l’IA décloisonnée. Qui ne soit pas simplement déléguée à la DSI. Mais qui implique toutes les directions de la Ville concernées, tout en associant bien sûr l’expertise de la DSI qui reste incontournable. Et qui implique les usager.es et les agent.es.
Permettez-moi aussi de revenir sur la question des coopérations, entre collectivités ou entre collectivités et l’État. Car face aux mastodontes américains ou chinois, la coopération entre acteurs publics est décisive pour doter à la démocratie, les moyens de ses besoins. Paris a le pouvoir et la capacité d’impulser une coordination avec d’autres collectivités. Pour le partage d’expériences bien sûr. Mais aussi pour développer des solutions algorithmiques. Nous avons l’exemple d’Albert, une IA générative mise en place par l’État, à destination de ses services. Nous pourrions la partager ou l’implémenter en lien avec les collectivités.
Nous pourrions aussi développer des fédérations de serveur d’inférence pour mutualiser les outils de calcul. Les idées ne manquent pas, mais c’est bien par la coopération que nous pourrons peser. Et nous pourrions aussi parler de :
- La mise en place d’un registre public des systèmes d’IA
- Et de la possibilité de garantir un recours humain en parallèle des outils d’IA
Enfin, permettez-moi de souligner que les enjeux de l’IA sont tellement multiples que nous proposons que ce comité d’éthique soit adossé à un observatoire. Qui aurait pour but de faire la veille sur un sujet en profonde évolution, d’analyser les actions des autres collectivités, de l’État et du secteur, en lien avec les spécialistes, les universitaires, les experts du sujet mais aussi les services de la ville. Qui aurait pour but d’analyser de façon indépendante, les évolutions parisiennes, et de faire des préconisations sur les politiques à mener sur un sujet en évolution aussi exponentielle. C’est une proposition que je verse au débat pour l’avenir.
Pour conclure, je dirais que si l’IA nous fait vivre une révolution anthropologique, sa maitrise démocratique reste à construire. La bonne nouvelle, c’est que les moyens existent pour le faire. IA fermées, coopérations, charte, les propositions pullulent pour que l’intelligence artificielle contribue réellement à l’intelligence humaine.
