AI and our future with Yuval Noah Harari and Mustafa Suleyman

Summary

Dans une discussion organisée par *The Economist*, le historien Yuval Noah Harari et l'entrepreneur Mustafa Suleyman débattent des implications de l'intelligence artificielle (IA) pour l'humanité. Ils prédisent que dans cinq ans, les modèles d'IA seront capables de prendre des décisions autonomes, ce qui pourrait marquer la fin de l'histoire dominée par l'homme. Harari exprime des inquiétudes sur les risques associés à ces technologies et insiste sur la nécessité d'une réglementation stricte. Suleyman plaide pour un principe de précaution et une coalition internationale pour établir des normes communes, soulignant l'urgence d'une gouvernance efficace face aux avancées technologiques rapides.

Takeaways

• 🔮 En 2028, les modèles d'IA seront mille fois plus grands que les modèles actuels et pourront générer des séquences d'actions au fil du temps.
• 📞 L'IA sera capable de passer des appels téléphoniques, de négocier et d'interagir avec d'autres IA pour gérer des chaînes d'approvisionnement.
• ⚠️ Yuval Noah Harari avertit que ces avancées pourraient marquer la fin de l'histoire dominée par l'homme, laissant place à une intelligence artificielle capable de prendre des décisions indépendantes.
• 🔧 Les capacités de l'IA doivent être soigneusement conçues et encadrées pour éviter une autonomie indésirable.
• 🌍 La gouvernance de l'IA est un défi majeur, surtout lorsque les grandes puissances sont en concurrence, ce qui complique la régulation et le contrôle.
• 👽 Harari compare la montée de l'IA à une invasion extraterrestre, soulignant les dangers imprévisibles associés à ces technologies.
• 🏛️ Il est nécessaire de créer de nouvelles institutions qui engendrent la confiance du public pour superviser le développement de l'IA.
• 📜 Mustafa Suleyman prône le principe de précaution, suggérant d'interdire certains développements à haut risque, tels que l'autonomie excessive.
• 🇪🇺 L'UE a élaboré un cadre législatif sur l'IA, qui prend en compte le risque par domaine d'application, interdisant certaines capacités considérées comme trop risquées.
• 🤝 Les pays doivent établir des valeurs communes et s'unir pour éviter une course vers le bas dans le développement de l'IA, afin de protéger la société.

Q & A

Qui sont Yuval Noah Harari et Mustafa Suleyman?

Yuval Noah Harari est un historien et auteur à succès, tandis que Mustafa Suleyman est un entrepreneur, co-fondateur de DeepMind et maintenant co-fondateur et PDG d'Inflection AI.

Quelle est la principale préoccupation exprimée par Harari concernant l'IA?

Harari s'inquiète que les nouvelles technologies d'IA pourraient mener à la fin de l'histoire dominée par les humains, car elles pourraient devenir capables de prendre des décisions et de créer des idées de manière indépendante.

Quels types de capacités les modèles d'IA pourraient avoir dans les cinq prochaines années selon Suleyman?

Suleyman prédit que les modèles d'IA deviendront capables d'effectuer des tâches complexes, comme passer des appels téléphoniques, négocier, et gérer des chaînes d'approvisionnement, grâce à leur capacité à utiliser des interfaces de programmation d'applications (APIs).

Quelles sont les implications des modèles d'IA capables d'autonomie potentielle?

Harari met en garde contre l'anthropomorphisation des modèles d'IA, soulignant qu'ils ne sont pas intrinsèquement autonomes, mais que les capacités qui pourraient émerger nécessitent des contraintes et une gouvernance précises.

Comment les tensions géopolitiques affectent-elles la régulation de l'IA?

Harari souligne que la division parmi les humains et la compétition entre grandes puissances compliquent considérablement la capacité à contenir le développement de l'intelligence artificielle, rendant une réponse collective difficile.

Quelle approche régulatoire Suleyman recommande-t-il pour l'IA?

Suleyman appelle à appliquer le principe de précaution, suggérant que certaines capacités à haut risque devraient être écartées, et plaide pour des réglementations sensées comme celles proposées dans l'UE AI Act.

Pourquoi Harari compare-t-il l'IA à une invasion extraterrestre?

Harari évoque l'idée d'une invasion extraterrestre pour illustrer la nature menaçante et inconnue des IA avancées, qui pourraient dépasser les capacités humaines et présenter des risques considérables.

Quel est le rôle des nouvelles institutions dans la régulation de l'IA selon Harari?

Harari insiste sur la nécessité de créer de nouvelles institutions qui disposeront des ressources humaines et technologiques nécessaires, ainsi que de la confiance publique, pour réguler efficacement l'IA.

Comment les acteurs privés peuvent-ils contribuer à la régulation de l'IA?

Suleyman note que les acteurs privés, comme lui-même, réfléchissent sérieusement à la régulation et à la containment de l'IA, mais soulignent également que des entités externes sont nécessaires pour assurer un cadre de régulation efficace.

Quelle est l'importance de la confiance publique dans la régulation de l'IA?

Harari affirme que sans la confiance publique, toute tentative de régulation de l'IA sera vouée à l'échec, car le soutien des citoyens est essentiel pour la mise en œuvre des politiques de régulation.