Legal implications of the Artificial Intelligence Act for cities, regions, and communities 20240619

Summary

Le script d'une conférence aborde en détail les implications du futur AI Act de l'UE, expliquant les obligations légales pour les fournisseurs et les utilisateurs d'IA, ainsi que les risques et les contrôles associés. Il met en lumière les systèmes d'IA à haut risque, la nécessité d'une évaluation des impacts sur les droits fondamentaux et la conformité avec la réglementation existante, comme le Règlement Généal sur la Protection des Données (RGPD). Les intervenants discutent également des défis et des stratégies pour l'adoption responsable de l'IA au sein des gouvernements régionaux et locaux.

Takeaways

• 📋 Le système de notation sociale en Chine est interdit pour le secteur public et privé, bien que certaines exceptions soient autorisées sous certaines circonstances.
• 🚦 La catégorisation biométrique et la reconnaissance facial sont des technologies sensibles qui ne sont pas autorisées sans autorisation préalable d'un juge, même si elles sont interdites.
• 🈲 L'IA prédictive et l'IA de reconnaissance des émotions dans le lieu de travail sont interdites, sauf si elles sont utilisées dans des contextes spécifiques et contrôlés.
• 🔏 La collecte non ciblée de données faciales est interdite, et les exceptions pour les cas de sécurité médicale sont soigneusement réglementées.
• ⚠️ Les systèmes à haut risque d'IA sont soigneusement définis et nécessitent des critères de qualité minimum pour assurer la sécurité et la protection des droits fondamentaux.
• 🛠️ Les systèmes d'IA à haut risque concernent des infrastructures critiques et des domaines tels que l'éducation, l'emploi, et les services essentiels, nécessitant une évaluation des impacts sur les droits fondamentaux.
• 🏛️ Les autorités publiques ont des obligations spécifiques en matière d'évaluation des impacts sur les droits fondamentaux et doivent être conscientes des obligations de l'AI Act.
• 📈 L'AI Act introduit un nouveau système de régulation pour les systèmes d'IA à grande portée et potentiellement à risque systémique, avec un bureau centralisé pour l'enforcement.
• 🔄 L'AI Act entrera en vigueur progressivement, avec des délais différents pour les interdictions, les systèmes à haut risque et les applications physiques à haut risque.
• 🤝 L'AI Pact a été créé pour encourager les entreprises à s'engager à appliquer les règles de l'AI Act avant leur entrée en vigueur officielle, montrant une approche proactive de la régulation de l'IA.

Q & A

Qu'est-ce que le scoring social et pourquoi est-il interdit ?

Le scoring social est une pratique d'origine chinoise où les individus commencent l'année avec un certain nombre de points, qui diminuent en fonction de leurs infractions (comme traverser un feu rouge). Lorsque le score devient trop bas, certaines libertés, comme prendre le train, sont restreintes. Cette pratique est interdite pour éviter une surveillance excessive et des restrictions injustes des libertés individuelles.

Dans quelles conditions la reconnaissance faciale est-elle autorisée pour les autorités publiques ?

La reconnaissance faciale est interdite sauf dans des circonstances spécifiques telles qu'une menace imminente d'attentat terroriste. Dans ce cas, une autorisation préalable par un juge est nécessaire.

Pourquoi l'émotion et la reconnaissance biométrique sont-elles interdites sur le lieu de travail ?

Ces pratiques sont interdites pour protéger les droits des travailleurs et éviter la surveillance intrusive. Par exemple, vérifier le sourire d'un employé lorsqu'il interagit avec des clients n'est pas autorisé.

Quelles sont les obligations des employeurs concernant l'utilisation de systèmes d'IA à haut risque ?

Les employeurs doivent suivre les instructions d'utilisation fournies par le fournisseur de l'IA, garantir une surveillance humaine adéquate, surveiller les systèmes d'IA pour les risques systémiques et les incidents graves, et informer les travailleurs et leurs représentants de l'utilisation de l'IA.

Qu'est-ce qu'un 'usage de haute risque' en matière d'IA selon l'AI Act ?

Un usage de haute risque implique des systèmes d'IA utilisés dans des infrastructures critiques, la sécurité publique, l'éducation, l'emploi, et l'accès aux services essentiels, où des erreurs peuvent avoir des conséquences graves sur les individus.

Comment l'AI Act prévoit-il d'assurer la transparence et la sécurité des systèmes d'IA ?

L'AI Act impose des exigences de transparence accrues pour les systèmes d'IA à usage général, incluant des évaluations de la conformité, l'enregistrement dans une base de données publique, et la divulgation obligatoire de l'utilisation de l'IA aux individus concernés.

Qu'est-ce que l'AI Pact et comment les entreprises peuvent-elles y participer ?

L'AI Pact est une initiative permettant aux entreprises de s'engager à appliquer les règles de l'AI Act avant leur entrée en vigueur officielle. Environ 500 entreprises ont déjà rejoint cette initiative.

Quels sont les principaux domaines de focus pour l'utilisation de l'IA au niveau régional en Flandre ?

Les domaines de focus incluent la définition d'une vision à long terme, la préparation des personnes et des organisations, l'assurance de la confiance dans les applications, la stimulation de l'innovation, et le développement de composants réutilisables d'IA.

Comment la Flandre se prépare-t-elle à l'introduction de l'AI Act ?

La Flandre prépare des directives pour l'utilisation de l'IA générative, évalue l'utilisation du co-pilote Microsoft 365, et développe des outils pour aider les autorités locales à se conformer aux exigences légales et garantir la confiance dans les solutions d'IA gouvernementales.

Quels sont les impacts potentiels des systèmes d'IA sur la gestion et la compétitivité des entreprises ?

Les systèmes d'IA peuvent améliorer l'efficacité et la prise de décision, mais ils nécessitent une gestion prudente pour éviter des risques élevés et garantir le respect des droits des individus, ce qui peut influencer la compétitivité et la réputation des entreprises.