Intelligence artificielle et achat public : solutions, risques, perspectives

Summary

Ce script explore l'intégration de l'intelligence artificielle (IA) dans les achats publics, en abordant les différents outils disponibles, les risques associés et les perspectives d'évolution. Les intervenants discutent des applications de l'IA pour le sourcing, la rédaction des contrats et l'analyse des offres, en mettant l'accent sur les risques de biais, de discrimination et de déconnexion avec la réalité du terrain. Des recommandations sont proposées pour garantir un usage éthique et transparent de l'IA, tout en soulignant l'importance de l'intervention humaine dans les processus décisionnels, notamment dans la commande publique.

Takeaways

• 😀 L'IA est de plus en plus utilisée dans l'achat public, en particulier avec des outils spécifiques et dédiés, bien qu'il existe encore des limitations et des bugs.
• 😀 Les institutions publiques, notamment le Conseil d'État, examinent de près les implications de l'IA dans les métiers publics, en particulier dans le sourcing et la rédaction des appels d'offres.
• 😀 L'IA générative, comme ChatGPT ou Bing, permet d'aider dans des tâches simples, comme la recherche de nomenclature ou la simplification de clauses contractuelles.
• 😀 Des outils plus spécialisés et intégrés sont désormais utilisés pour améliorer les processus d'achat public, de l'identification des fournisseurs à la gestion des contrats.
• 😀 L'IA intégrée, répondant à des besoins spécifiques, implique des développements sur mesure et des appels d'offres classiques, parfois dans un partenariat d'innovation.
• 😀 Les principaux risques associés à l'IA en commande publique incluent la confidentialité des données, les biais dans les sélections des fournisseurs, et la déconnexion de la réalité sur le terrain.
• 😀 L'un des plus grands dangers de l'IA dans les marchés publics est la création de discriminations dans la sélection des entreprises, notamment en faveur des grandes entreprises déjà présentes sur le marché.
• 😀 Il est crucial d'intégrer un contrôle humain dans l'utilisation de l'IA pour garantir la transparence, la qualité et l'équité des décisions prises dans les marchés publics.
• 😀 L'IA doit être accompagnée d'une réglementation solide et d'une vérification continue des algorithmes pour éviter les biais et garantir une gouvernance des données responsable.
• 😀 À court terme, des projets concrets pour l'IA en commande publique se concentreront sur des aspects comme le sourcing, l'analyse des candidatures et l'intégration d'outils dans le modèle numérique du bâtiment, particulièrement en Île-de-France.

Q & A

Quelles sont les solutions actuelles en matière d'intelligence artificielle dans le domaine de la commande publique ?

Il existe plusieurs solutions d'IA dans la commande publique, allant des outils généraux accessibles au grand public (comme ChatGPT, Bing ou Clod), jusqu'aux logiciels spécialisés, intégrés ou développés sur mesure pour répondre à des besoins spécifiques des organisations publiques.

Quels sont les risques associés à l'utilisation de l'IA dans la commande publique ?

Les risques principaux incluent la confidentialité des données, le secret des affaires, la perte de savoir-faire, la déconnexion du réel (notamment dans la gestion de projets complexes), ainsi que les risques de discrimination dans la sélection des entreprises et des fournisseurs.

Pourquoi est-il important d'avoir un regard humain dans l'utilisation de l'intelligence artificielle pour la commande publique ?

Il est essentiel d'avoir un regard humain pour vérifier l'adéquation des solutions proposées par l'IA aux réalités du terrain, notamment pour éviter les biais discriminants ou les erreurs dans les choix des offres, surtout pour des projets complexes.

Quels sont les types de solutions d'IA disponibles dans le domaine public ?

Les solutions d'IA disponibles incluent des applications génératives accessibles au public (comme ChatGPT ou Bing), des outils spécialisés qui répondent à des besoins spécifiques des acheteurs publics (gestion de fournisseurs, analyse des dépenses), et des solutions sur mesure qui nécessitent une adaptation spécifique.

Comment l'IA pourrait-elle aider dans le sourcing des marchés publics ?

L'IA peut faciliter le sourcing en identifiant rapidement des codes de nomenclature appropriés pour les fournitures, services ou travaux, ou encore en reformulant des clauses contractuelles, simplifiant des documents administratifs ou offrant des traductions.

Quelles sont les préoccupations juridiques liées à l'usage de l'IA dans la commande publique ?

Les préoccupations juridiques concernent principalement les risques de discrimination des entreprises, notamment contre les petites et moyennes entreprises, et la nécessité d'adapter les contrats publics de manière spécifique et sur mesure, plutôt que de se fier à des solutions génériques proposées par l'IA.

Quels sont les dangers de la déconnexion du réel dans l'utilisation de l'IA ?

La déconnexion du réel peut mener à des solutions proposées par l'IA qui ne prennent pas en compte les spécificités des projets sur le terrain, comme les retards de chantiers ou la coactivité, ce qui pourrait entraîner des erreurs ou des mauvaises décisions dans l'exécution des projets.

Comment garantir que l'IA ne crée pas de discrimination dans le processus de passation des marchés publics ?

Il est crucial d'avoir des contrôles humains réguliers pour vérifier les algorithmes et s'assurer qu'aucun biais discriminatoire n'est intégré dans le processus de sélection des entreprises, comme cela peut être observé dans certains cas sur les réseaux sociaux ou lors de processus électoraux.

Quels sont les principes directeurs pour une intégration responsable de l'IA dans la commande publique ?

Les principes directeurs incluent la dignité humaine, une réglementation claire, la transparence des algorithmes, la protection des données, la formation des utilisateurs, un contrôle interne ou externe indépendant, et une gouvernance des données pour garantir une intégration éthique et responsable.

Comment la région Île-de-France envisage-t-elle d'utiliser l'IA pour améliorer la commande publique en 2025 ?

La région Île-de-France prévoit d'investir dans l'IA pour améliorer le sourcing, l'expression des besoins, l'identification des codes de nomenclature, la rédaction de pièces administratives et l'analyse des candidatures, tout en menant des analyses d'impact pour garantir une intégration raisonnée de l'IA.