ESCRIME: Anna Choury , IA et esprit critique Mathématique

Summary

Anna Chouri, ingénieure mathématicienne militante, explore l'impact politique et social de l'intelligence artificielle (IA). Elle démontre que l'IA n'est pas neutre, mais véhicule des biais et opinions politiques, qu'elle soit générative ou non. Chouri critique également la captation de l'attention des utilisateurs via les publicités et les réseaux sociaux, soulignant le danger des bulles de filtre, en particulier pour les collégiens. Elle aborde les deepfakes, les biais algorithmiques et l'importance de l'esprit critique dans l'ère numérique, tout en plaidant pour une utopie technologique positive où l'IA sert à améliorer l'humanité.

Takeaways

• 😀 La technologie n'est pas neutre politiquement, en particulier l'intelligence artificielle, qui a des racines géopolitiques et idéologiques fortes, allant de la guerre froide aux aspirations humanistes des chercheurs.
• 😀 L'intelligence artificielle véhicule des opinions politiques, même si elle ne pense pas. Par exemple, des modèles d'IA comme GPT-4 ou ceux associés à Elon Musk reflètent des idées libérales et politiques dominantes.
• 😀 L'IA génère des biais, comme des tendances sexistes et racistes, en reproduisant les inégalités culturelles et sociales présentes dans les données d'apprentissage, et ce n'est pas dû à un défaut inhérent des créateurs de l'IA.
• 😀 Les publicités en ligne sont vendues par enchères en fonction de l'attention des utilisateurs, ce qui exploite des données personnelles pour maximiser l'engagement et les profits.
• 😀 Les plateformes de réseaux sociaux, en utilisant des modèles de recommandation, créent des 'bulles de filtre' qui limitent la vision du monde des utilisateurs en leur montrant uniquement ce qui correspond à leurs intérêts et comportements précédents.
• 😀 Les deep fakes, ou images et vidéos manipulées par IA, sont de plus en plus difficiles à détecter, et nécessitent un esprit critique et des recherches pour éviter d'être manipulé.
• 😀 L'éducation aux médias et à l'esprit critique est essentielle pour naviguer dans un monde saturé de contenu manipulé et de désinformation, et il est possible de briser les bulles de filtre par une éducation politique.
• 😀 L'IA ne 'se retourne pas contre nous' de manière autonome. Si elle engendre des problèmes, c'est la conséquence de décisions humaines et non d'une volonté propre de l'IA.
• 😀 La peur de l'IA en tant que menace autonomisée provient principalement des récits de science-fiction et ne reflète pas la réalité technologique actuelle. L'IA peut être utilisée pour améliorer l'humanité et la relation à la planète.
• 😀 L'utopie technologique a été largement oubliée. Il est possible d'imaginer un avenir où l'intelligence artificielle sert le bien commun et non pour nuire ou contrôler les individus.

Q & A

Pourquoi Anna Chouri affirme-t-elle que la technologie, en particulier l'intelligence artificielle, est politique ?

Anna Chouri explique que l'intelligence artificielle a des racines dans des projets militaires et géopolitiques, notamment financés par la DARPA pendant la guerre froide. De plus, l'IA reflète les tensions entre des intérêts privés, comme ceux des entreprises technologiques, et des aspirations utopistes pour un bien commun, ce qui en fait une technologie intrinsèquement politique.

Quel est l'impact de l'IA sur les opinions politiques ?

L'IA générative véhicule des opinions politiques, bien qu'elle ne soit pas un être pensant. Les modèles de langage, comme GPT-4, tendent à refléter des idéologies libérales, mais il existe aussi des exceptions, comme l'IA chinoise qui évite de parler politique ou l'IA d'Elon Musk, qui est orientée politiquement.

L'IA est-elle biaisée en raison de son développement par des hommes ?

Non, l'IA n'est pas biaisée en raison de son développement par des hommes, mais plutôt à cause des biais présents dans les données d'apprentissage. L'IA reproduit les injustices sociétales et culturelles, comme les inégalités de genre et de race, qui sont présentes dans les données utilisées pour l'entraîner.

Comment l'IA reproduit-elle les biais sexistes dans les professions ?

L'IA reproduit des biais sexistes, comme dans le cas de GPT-4, qui représente principalement des hommes dans des professions où les femmes sont majoritaires, telles que la pédiatrie. Ce biais provient des représentations culturelles et des stéréotypes véhiculés sur Internet.

Qu'est-ce que la captation de l'attention des utilisateurs sur Internet ?

La captation de l'attention sur Internet consiste à collecter des données sur les utilisateurs, leurs comportements et préférences, pour leur vendre des publicités ou recommander du contenu. Cette attention est souvent mise aux enchères, où les publicités sont affichées en fonction des intérêts prédits des utilisateurs.

Comment les réseaux sociaux exploitent-ils notre attention ?

Les réseaux sociaux exploitent l'attention des utilisateurs en créant des bulles de filtres, où le contenu est personnalisé en fonction des intérêts et comportements passés. Ce modèle économique repose sur le temps passé sur la plateforme, qui permet de vendre de la publicité et générer de l'engagement.

Qu'est-ce qu'un deep fake et comment cela manipule-t-il l'opinion publique ?

Un deep fake est une image ou vidéo générée artificiellement qui peut être utilisée pour manipuler l'opinion publique ou générer de l'engagement sur les réseaux sociaux. Bien qu'il soit de plus en plus difficile de repérer ces contenus, il est important d'adopter un esprit critique et de se poser des questions sur la provenance et l'intention derrière ces images.

Est-il possible de lutter contre les bulles de filtre créées par les réseaux sociaux ?

Oui, il est possible de lutter contre les bulles de filtre en développant une éducation aux médias et un esprit critique. Bien que certaines bulles puissent être difficiles à briser sans une intervention politique, une prise de conscience et une réflexion personnelle peuvent aider à sortir de ces silos d'information.

Pourquoi Anna Chouri pense-t-elle que l'IA ne se retournera pas contre nous ?

Anna Chouri réfute l'idée que l'IA se retournera contre l'humanité, car l'IA n'a pas de conscience ou d'intention propre. Si l'IA cause des problèmes, cela résulte des choix humains qui ont guidé son développement, et non d'une volonté autonome de l'IA.

Comment pouvons-nous imaginer un avenir positif pour l'IA ?

Un avenir positif pour l'IA peut être envisagé si nous l'utilisons de manière éthique et responsable, en l'intégrant dans des projets qui améliorent l'humanité et la planète. Chouri suggère des imaginaires positifs, comme ceux du solar punk, où l'IA est utilisée pour le bien commun plutôt que pour des fins destructrices.