L'éthique de l'IA - EP04 - Grands récits autour de l’intelligence artificielle

Summary

Dans cette dernière vidéo de la série sur l'éthique de l'IA, Joan Rochel explore le rôle crucial du cadrage et du récit autour de l'intelligence artificielle. Il démontre comment la manière dont on parle de l'IA influence notre comportement, tant en tant qu'utilisateurs que décideurs. Le cadrage détermine ce que l'on choisit de voir, tandis que les récits influencent la perception de la technologie. L'éthique doit accompagner chaque étape du développement des outils d'IA, du début à la mise sur le marché, pour garantir des produits meilleurs et plus acceptés. Un appel à une réflexion éthique intégrée dans tous les projets technologiques.

Takeaways

• 😀 L'éthique de l'IA doit être intégrée dès le début du projet et tout au long de son développement, de l'idée à la mise sur le marché.
• 😀 Le cadrage (framing) et le récit (narrative) influencent notre perception de l'IA et sont cruciaux pour les développeurs, utilisateurs et décideurs politiques.
• 😀 Le cadrage désigne la sélection de la réalité qu'on choisit de regarder, en fonction de ce que l'on considère comme pertinent.
• 😀 Le récit, quant à lui, donne un sens à la réalité que l'on observe, et il est profondément influencé par la culture, les films, les livres, et autres représentations collectives.
• 😀 Les récits autour de l'IA peuvent être instrumentaux ou compétitifs, influençant ainsi la manière dont les humains et les machines interagissent.
• 😀 Les récits qui opposent l'humain à la machine comme compétiteurs sont très puissants, mais il existe aussi des récits où les machines sont des outils au service des humains.
• 😀 Les récits sur la technologie doivent tenir compte des spécificités humaines, comme la créativité, la capacité à jouer ou inventer, pour questionner ce qui rend l'humain unique.
• 😀 L'arrivée de machines capables de réaliser des tâches humaines soulève des questions sur le sens du travail et de la vie, ainsi que sur l'impact symbolique de la technologie sur les individus.
• 😀 Les récits autour de l'IA ne touchent pas tout le monde de la même manière, et des critiques comme la critique genrée peuvent être appliquées pour remettre en question certains récits dominants.
• 😀 L'éthique n'est pas un frein au développement, mais un moyen de rendre les outils technologiques meilleurs, plus durables et mieux acceptés par les utilisateurs et les clients.

Q & A

Qu'est-ce que le 'framing' ou cadrage en éthique de l'IA?

Le 'framing' fait référence à la sélection de la partie de la réalité qu'on choisit de regarder. C'est une manière de définir ce qui est pertinent ou important, influençant ainsi la façon dont on perçoit et comprend la technologie, comme l'exemple de la rédaction choisissant les titres principaux dans un journal.

Quel est le rôle des récits dans l'éthique de l'IA?

Les récits jouent un rôle crucial car ils façonnent notre compréhension et nos interactions avec la technologie. Ils sont influencés par des facteurs culturels, historiques, et émotionnels, et déterminent la manière dont nous percevons l'IA, qu'elle soit vue comme une menace, un outil ou un partenaire.

Pourquoi est-il important de comprendre les récits autour de l'IA?

Les récits autour de l'IA influencent notre comportement en tant que consommateurs, créateurs d'outils et citoyens. Ils façonnent nos choix, nos attentes, et nos réactions vis-à-vis des technologies, ce qui en fait un élément clé de la réflexion éthique.

Comment les récits peuvent-ils avoir un impact sur les individus et les équipes de développement d'IA?

Les récits peuvent affecter les individus en renforçant ou en modifiant leurs perceptions de la technologie. Pour les équipes de développement, choisir un récit approprié permet de mieux comprendre les impacts émotionnels et symboliques des outils qu'elles créent, influençant ainsi la manière de les développer et de les introduire sur le marché.

Quels sont les deux principaux récits associés à l'IA générative?

Les deux récits principaux sont : un récit à long terme, centré sur des risques existentiels (comme l'esclavage de l'humain par la machine) et un récit à court terme, qui se concentre sur des défis actuels tels que la protection des données et les biais dans les outils d'IA.

En quoi les récits de l'IA sont-ils liés à des questions de pouvoir?

Les récits autour de l'IA sont une forme de pouvoir car les entreprises et les individus qui promeuvent certains récits peuvent influencer les comportements et les décisions de la société. Ils dirigent l'attention vers certains aspects de l'IA tout en en occultant d'autres, comme les implications sociales ou éthiques.

Quel est l'impact des récits sur la perception des robots humanoïdes?

Les récits qui dépeignent les robots humanoïdes comme des concurrents ou des menaces influencent la perception du public, les amenant à voir ces machines comme des rivales de l'humain. En revanche, un récit où les machines sont vues comme des outils au service des humains change cette dynamique et favorise une vision plus collaborative.

Comment les récits technologiques influencent-ils notre conception de l'humain?

Les récits qui comparent l'humain et la machine en compétition peuvent conduire à une vision mécaniste de l'humain, où l'on considère le corps et l'esprit humains comme des machines. Cela soulève des questions sur la spécificité humaine et notre rôle dans un monde de plus en plus technologique.

Pourquoi est-il important de réfléchir au sens du travail dans un monde de plus en plus automatisé?

Avec l'automatisation croissante, il est crucial de réfléchir à la place de l'humain dans le travail. Si une machine prend en charge une tâche accomplie par l'humain, cela soulève des questions sur la valeur du travail humain, son sens et ses implications symboliques pour ceux dont les carrières sont remises en question.

Quel est le lien entre l'éthique de l'IA et les processus de développement dans une entreprise?

L'éthique de l'IA doit être intégrée dès le début du processus de développement, depuis l'idée du projet jusqu'à sa mise sur le marché. Cela permet de s'assurer que les valeurs humaines sont cohérentes avec les outils créés et que les produits finaux sont mieux acceptés, plus durables et socialement responsables.