🤖 IA, deepfakes : prêts pour les manipulations ?

Summary

Le script explore les implications de l'avancée de l'intelligence artificielle dans la création de contenu trompeur, tels que les deepfakes. Il aborder les préoccupations liées à la désinformation et la propagande, illustrées par des exemples de vidéos et d'images générées par IA. Le présentateur invite les téléspectateurs à développer leur esprit critique pour distinguer le vrai du faux, soulignant l'importance de vérifier la source de l'information. L'impact potentiel de ces technologies sur la société est discuté, mettant en lumière les défis juridiques et éthiques posés par la diffusion croissante de fausses informations.

Takeaways

• 🧐 L'intelligence artificielle a atteint un niveau où elle peut générer des vidéos très réalistes à partir d'une simple phrase, ce qui soulève des questions sur la désinformation et la propagande.
• 🔍 Les technologies de 'deepfakes' sont déjà en circulation et accessibles au grand public, nécessitant une vigilance accrue pour distinguer le vrai du faux.
• 🎥 Des plateformes comme 'Sora' et des modèles de diffusion comme 'Diffusion' sont à l'avant-garde de la génération de vidéos réalistes, bien que leurs productions soient encore en stade expérimental.
• 👀 Il est essentiel d'exercer son esprit critique et de regarder attentivement les images et vidéos pour repérer les anomalies et les signes de manipulation.
• 📚 Les réglementations et les politiques des plateformes doivent évoluer pour tenir compte des nouvelles technologies de l'information et de la communication, comme le montre l'exemple de Facebook et de YouTube.
• 🤖 Les modèles de diffusion ont des limitations, notamment en ce qui concerne la cohérence des images générées et la synchronisation des mouvements des personnages, ce qui est visible dans les vidéos produites.
• 📉 Les technologies de 'deepfakes' soulèvent des préoccupations juridiques et éthiques, notamment en ce qui concerne la protection de l'image et de la voix des individus, comme le souligne le droit à la personnalité.
• 🗣️ La clonage de la voix est possible avec peu de données sonores, comme le démontre l'exemple de la plateforme 'Runway', ouvrant la porte à de nouvelles formes de contenu et potentiellement de désinformation.
• 📱 Les applications mobiles et les plateformes en ligne permettent à tout un chacun de créer des 'deepfakes', augmentant ainsi la diffusion de contenus真假掺杂.
• 🌐 La propagation des 'deepfakes' sur les réseaux sociaux et les plateformes de médias sociaux est un enjeu de société, qui nécessite une prise de conscience collective et des actions pour éduquer et protéger les utilisateurs.

Q & A

Quelle est la préoccupation principale soulevée par l'avancée de l'intelligence artificielle dans la génération de vidéos très réalistes à partir d'une simple phrase ?

La préoccupation principale est que cela pourrait ouvrir la porte à une grande quantité de fausses informations et de propagandes, mettant en péril la capacité de distinguer ce qui est réel de ce qui est généré par l'IA.

Quel exemple de technologie est mentionné pour avoir généré des vidéos réalistes à partir d'une phrase simple ?

La technologie 'Sora' est mentionnée comme un exemple de système capable de générer des vidéos très réalistes à partir d'une simple phrase.

Quels sont les problèmes potentiels que montre la démonstration de la vidéo générée par l'IA ?

La démonstration met en évidence des problèmes tels que la neige qui disparaît inexplicablement, les piétons qui semblent se volatiliser ou être engloutis par le sol, et des incohérences dans la taille et la proportion des objets et des personnages.

Comment les modèles de diffusion sont-ils utilisés pour générer des images et des vidéos ?

Les modèles de diffusion sont utilisés pour générer des images clés et des vidéos en s'entraînant à redessiner de manière vraisemblable des millions d'images représentant des humains et d'autres éléments, puis en combinant ces éléments pour créer des scènes réalistes.

Quels sont les défis spécifiques à la génération de vidéos par les modèles de diffusion, comme illustré par la vidéo de Sora ?

Les défis spécifiques incluent la cohérence des détails entre les plans différents, la naturalité de la marche et des mouvements des personnages, et la synchronisation de la bouche avec la voix ou le texte parlé.

Quels sont les mesures prises par les plateformes comme Facebook et YouTube pour identifier et gérer les contenus générés par l'IA ?

Facebook et YouTube mettent en place des mentions spécifiques sur les photos et vidéos créées par l'IA, et exigent que les utilisateurs cochent une case pour déclarer si leur contenu a été généré ou altéré par l'IA, sous peine de sanctions en cas de non-conformité.

Quel est l'impact du clonage de la voix sur les droits de personnalité et la vie privée ?

Le clonage de la voix est considéré comme une atteinte aux droits de personnalité et à la vie privée, car la voix est un attribut de la personnalité qui ne peut pas être vendue ou utilisée sans le consentement explicite et spécifique de la personne concernée.

Quels sont les risques associés à la création d'influenceurs virtuels à l'aide de technologies de génération d'images et de vidéos par l'IA ?

Les risques associés comprennent la contrefaçon, la violation des droits d'image et la désinformation, ainsi que la potentialité de manipuler et d'influencer les opinions publiques à grande échelle.

Comment les deepfakes peuvent-ils être utilisés dans le contexte de la propagande politique ou de désinformation ?

Les deepfakes peuvent être utilisés pour créer des vidéos trompeuses montrant des personnalités politiques faisant des déclarations ou des actions qui ne sont pas réelles, ce qui peut être utilisé pour influencer les opinions publiques, déstabiliser les gouvernements ou faussement justifier des actions politiques.

Quels sont les défis juridiques et éthiques soulevés par l'utilisation de l'IA pour créer des deepfakes ?

Les défis juridiques et éthiques incluent la protection des droits de personnalité, la régulation des contenus générés par l'IA, la responsabilité en cas de diffusion de fausses informations, et l'équilibre entre la liberté d'expression et la prévention de la désinformation.

Outlines

00:00

😀 Introduction à la désinformation et aux deepfakes

Le script ouvre avec une discussion sur les implications de l'intelligence artificielle dans la création de deepfakes, des vidéos trompeuses qui peuvent être générées à partir d'une simple phrase. L'auteur exprime des inquiétudes sur l'impact potentiel de ces technologies sur la propagande et la désinformation, soulignant que la preuve visuelle ne peut plus être considérée comme fiable. Le script mentionne également des exemples de deepfakes existants et annonce un avenir où il sera difficile de distinguer le vrai du faux.

05:00

🔎 Analyse des anomalies dans les vidéos de deepfakes

Dans ce paragraphe, l'auteur se concentre sur l'examen attentif de vidéos de deepfakes pour identifier les anomalies. Il mentionne des vidéos spécifiques générées par Sora, une technologie qui transforme du texte en images et en vidéos. L'auteur encourage le public à chercher des défauts dans ces vidéos, tels que des incohérences dans le mouvement des piétons et des véhicules, pour sensibiliser aux problèmes de détection des deepfakes.

10:00

🧐 Comprendre les limites des modèles de diffusion pour la génération de vidéos

Le script explique les défis techniques associés à la génération de vidéos de deepfakes à l'aide de modèles de diffusion. Il décrit comment ces modèles apprennent à redessiner des images de manière vraisemblable à partir de millions d'images, ce qui peut entraîner des incohérences comme des mains avec le nombre incorrect de doigts. L'auteur souligne les limitations actuelles de ces technologies et les problèmes de cohérence qui persistent dans les vidéos générées.

15:02

📚 Réflexion sur les implications juridiques des deepfakes

Dans ce paragraphe, l'auteur aborde les aspects juridiques des deepfakes en discutant avec une juriste spécialisée dans la création en ligne et l'influence. Ils aborderent les défis liés à la réglementation de ces nouvelles technologies et les implications pour la sécurité, la transparence et la traçabilité de l'IA. Le script mentionne également les efforts pour mettre en place des mesures telles que des mentions sur les contenus générés par l'IA sur les réseaux sociaux.

20:03

🎥 Expériences de clonage de voix et d'avatar

L'auteur partage ses expériences avec des applications de clonage de voix et de création d'avatars, comme Agen, qui permettent aux utilisateurs de créer des doublages ou des clones de leur voix et d'apparaître dans des vidéos. Il discute également des implications éthiques et des mesures de sécurité nécessaires pour protéger l'identité des individus contre l'usurpation et la désinformation.

25:05

🗣️ Cas de clonage de voix dans les médias sociaux

Le script présente un cas concret de clonage de voix où une personne a été impersonnée sur TikTok, ce qui a conduit à une enquête juridique. Il explique les mesures prises pour faire cesser l'infraction, y compris la signalisation du compte et la revendication des droits de propriété intellectuelle. L'auteur insiste sur l'importance de la modération des plateformes et de l'éducation aux médias sociaux pour lutter contre la désinformation.

30:06

👥 Création d'influenceurs virtuels et problèmes de droit d'auteur

Dans ce paragraphe, l'auteur explore la création d'influenceurs virtuels à l'aide de technologies de génération d'images et de vidéos. Il aborde les questions de droit d'auteur et de contrefaçon liées à la superposition d'images générées sur des corps réels, soulignant les défis juridiques et éthiques de cette pratique. Le script met en garde contre les dangers de la manipulation de l'information et de la perception publique.

35:08

📡 Diffusion de deepfakes dans les conflits géopolitiques

L'auteur examine l'utilisation de deepfakes dans le contexte des conflits géopolitiques, en particulier en Ukraine et en Russie. Il décrit des cas où des deepfakes ont été utilisés pour influencer l'opinion publique et propager des narratives politiques. Le script met en évidence la sophistication croissante de ces techniques et les défis qu'elles posent pour la vérification de l'information.

40:09

🌐 Impact des deepfakes sur la société et les médias

Le script conclut avec une réflexion sur l'impact général des deepfakes sur la société et les médias. Il aborde les questions de désinformation, de propagande et de manipulation de l'opinion publique. L'auteur insiste sur la nécessité pour chacun de devenir un 'œil d'aigle' pour détecter les deepfakes et de se protéger contre les armes de désinformation. Il appelle également à une réflexion sur l'évolution de notre relation avec la réalité à mesure que les outils technologiques évoluent.

Keywords

💡Intelligence Artificielle

L'intelligence artificielle (IA) fait référence à la capacité des machines de réaliser des tâches qui nécessitent normalement l'intelligence humaine, telles que la reconnaissance vocale, la déduction ou le traitement du langage naturel. Dans la vidéo, l'IA est au cœur de la génération de deepfakes, montrant comment cette technologie peut être utilisée pour créer des vidéos très réalistes à partir d'une simple phrase, ce qui soulève des questions sur la désinformation et la manipulation de l'information.

💡Deepfakes

Les deepfakes sont des médias falsifiés, souvent des vidéos, qui utilisent l'IA pour superposer les traits d'une personne sur une autre, créant ainsi une fausse représentation. Dans le script, il est mentionné que les deepfakes sont de plus en plus accessibles et peuvent être utilisés pour manipuler la publicité, la polarisation et la propagande, ce qui met en évidence les défis éthiques et de sécurité qu'ils posent.

💡Désinformation

La désinformation est la diffusion intentionnelle d'informations fausses ou trompeuses. Le script aborde la désinformation en discutant de la manière dont les deepfakes peuvent être utilisés pour créer des preuves trompeuses qui peuvent influencer les opinions publiques et les résultats des événements politiques ou sociaux.

💡Propagation

La propagation fait référence au processus de diffusion ou de dispersion de l'information ou d'idées. Dans le contexte du script, la propagation est utilisée pour parler de la manière dont les deepfakes peuvent être répandus pour manipuler les opinions et influencer les comportements, souvent dans un but de propagande ou de désinformation.

💡Réalité augmentée

La réalité augmentée est une technologie qui superpose des éléments numériques, comme des images ou des sons, sur le monde réel pour créer une expérience enrichie. Le script mentionne la réalité augmentée comme exemple de technologie émergente qui peut être utilisée pour créer des expériences immersives, bien que le focus principal reste sur les deepfakes.

💡Cloning de la voix

Le clonage de la voix est une technique qui permet de reproduire avec précision la voix d'une personne à partir d'enregistrements d'origine. Dans le script, il est question de la capacité de l'IA à cloner des voix et de les utiliser pour générer des deepfakes, ce qui soulève des questions sur la vie privée et la propriété intellectuelle.

💡Génération de contenu

La génération de contenu fait référence à la création automatisée de médias ou de texte à partir de données ou de modèles prédéfinis. Le script parle de la manière dont l'IA peut générer des images, des vidéos et même des voix, pour créer des deepfakes, montrant comment cette capacité peut être utilisée pour créer du contenu trompeur.

💡Polarisation

La polarisation est le phénomène par lequel les opinions publiques se séparent en groupes extrêmes, avec peu de consensus entre eux. Dans le script, la polarisation est mentionnée comme un des résultats possibles de l'utilisation de deepfakes pour manipuler les opinions et créer des divisions dans la société.

💡Propagande

La propagande est la diffusion intentionnelle d'informations sélectives ou fausses pour influencer les opinions publiques ou promouvoir une cause. Le script discute de la propagande en tant que moyen par lequel les deepfakes peuvent être utilisés pour atteindre des objectifs politiques ou idéologiques en manipulant la perception de la réalité.

💡Vérification

La vérification est le processus d'examen et de confirmation de l'exactitude des informations. Dans le contexte du script, la vérification est soulignée comme une pratique cruciale pour distinguer la réalité des deepfakes et pour protéger contre la désinformation, en encourageant les individus à s'assurer de la source et de la véracité des informations qu'ils consomment.

Highlights

L'intelligence artificielle peut générer des vidéos très réalistes à partir d'une simple phrase.

La préoccupation de la propagation de fausses informations avec les deepfakes.

Les deepfakes sont déjà en circulation avec des technologies basiques et accessibles au grand public.

Introduction de technologies comme le 'VO clone' et 'avatar swap' utilisées pour manipuler ou polariser l'opinion publique.

Présentation de la veille technologique sur les nouvelles technologies de deepfake.

Démonstration de la détection des anomalies dans les vidéos deepfake grâce à une entraînement de l'œil critique.

L'importance de la source de l'information pour discerner la véracité des vidéos deepfake.

La génération de vidéos par modèles de diffusion est en évolution rapide, mais encore loin d'être parfaite.

Les défis de la cohérence des images générées par les modèles de diffusion vidéo pour les deepfakes.

La réglementation en cours de mise en place pour encadrer l'utilisation des technologies de l'IA.

Les mesures prises par les plateformes comme Facebook et YouTube pour identifier et déclarer les contenus générés par l'IA.

L'impact du clonage de voix sur la personnalité et les droits de l'individu.

L'usage des technologies de deepfake dans la propagande politique et les implications géopolitiques.

L'émergence des influenceurs virtuels créés par l'IA et leur impact sur la société.

La nécessité d'une éducation aux médias pour aider les gens à discerner les fausses informations et les deepfakes.

L'importance de la transparence dans la génération de contenus pour éviter la désinformation.

L'évolution rapide des technologies de deepfake et les défis qu'elles posent pour l'avenir.

La responsabilité des plateformes et des législateurs pour encadrer l'utilisation des technologies de l'IA en temps réel.

Les implications juridiques du clonage de voix et de l'image dans le contexte des droits de personnalité.

Transcripts

[Musique]

hey défecator on déf les fakes cette

nouvelle étape franchie par

l'intelligence artificielle de nouvelles

arrivent capable de vous générer des

vidéos très réalistes à partir d'une

simple phrase vous en avez forcément

entendu parler avec quantité de

qualificatif estomaqué euphorique Alexa

et quoi que masquant qu' qui s'inquiète

de questionnement peu quelconque est-ce

que ça va pas être la porte ouverte à

toutes les propagandes à base de fake

demain la preuve par l'image ne sera

donc peut-être plus aussi évidente voilà

mais si vous en êtes encore à vous poser

cette question il est temps de vous

réveiller parce que la porte a alimenté

la désinformation ça fait un bon moment

qu'elle est grande ouverte hein des

deepf générés par ria il en circule

depuis des mois et à partir de techno

bien plus basique que celle-ci et déjà

accessible à tout un chacun VO cloné

avatar fait swap à présent popularisé

Pulu et pollu pour se poiler ou la

plupart pour palper du blé et parfois

manipuler pour polariser et faire de la

propagande ça on en verra quelques

exemples dans la seconde partie de la

vidéo on recevra des gens pour en parler

Roxane tias qui est juriste spécialisé

en web création et influence ben de la

chaîne not qui viendra nous raconter

l'histoire évidemment mais bon là

surtout l'histoire qui lui est arrivée

en rapport avec tout ça on va donc

commencer par se faire une petite veille

sur les toutes nouvelles techn qui sont

annoncé et puis on regardera celles qui

sont déjà utilisé pour faire des deep

fake actuellement mais ce sera fun il y

aura des tests on va voir si vous êtes

affuté si vous avez l'œil de l'il on va

s'amuser en gros à regarder l'état de

l'art dis tu sais ce qu'ils te disent

l'état de l'art oh monsieur fait dans

l'allusion grossière pour se moquer

maintenant mais ça va bien oui il y

avait aucune dans avec tes expressions

imagé tu vas encore me sortir j'ai pas

les yeux en face des trous puisque j'ai

pas de trou mais j'arrive très bien à

visualiser ce que tu dis alors là le

problème c'est pas qu'une question d'u à

mon avis il do un autre organe qui

déconne mais un peu plus au fond de la

tête si tu parles de mes oreilles sache

qu'elles vont très bien et qu'avec joie

avec joie pas les oreilles quand as la

langue j'en ai une parfaite maîtrise non

il est fort quand même il les aura tout

seul mais oui je suis fort alors toi qui

maîtrises pas forcément toutes les

subtilités de la langue tu te rends pas

compte des énormités que tu prospères

peut-être tu devrait te faire aider pour

qu'on comprenne ce que tu dis ah bon et

par qui mais tu parles toujours

d'intelligence artificiel sans rendre

compte que c'est utile justement pour

quelqu'un comme toi qui a une

intelligence naturelle limitée tiens

mais je m'en vais m'en occuper je vais

faire l'ami du bon goût décrypte avec

une super est-ce que tu peux faire ça en

silence s'il te plaît pendant que moi je

fais vivre cette chaîne en traitant des

sujets sérieux oui oui mais t'occupe

raconte tes salades là moi je lance les

derrière très bien on va donc

s'intéresser au technodia pour faire des

f c'est parti en voiture Simone et voilà

et on va commencer ah bah bravo lia là

il y a moins de 8 que de quand même ce

que je vais faire je vais même pas

réagir à tes illustrations à la noix là

moi je vais suivre le cours normal de la

vidéo et chacun jugera l'intérêt de tes

interventions donc nous on va commencer

par en prendre plein les yeux en nous

plongeant dans les sensationnelles

images de Sora alors c'est la nouvelle a

d'Open présenté le 14 février 2024 et au

c'est notamment Chad jpti qui génère du

texte et D qui génère des images et là s

génère des vidéos on en a eu une

cinquantaine en exemple vous décrivez

une histoire et vous demander à

l'intelligence artificielle de la mettre

en image cette vidéouss a été reprise

dans mout JT et par mout compte agité

sur les réseaux sociaux peut-être sans

trop y faire attention alors sans

échauffement on va commencer

l'entraînement de votre il d'ègle je

vous repasse la vidéo une fois essayeer

de me repérer au moins deux trucs qui

clochent c'est parti

affuter

[Musique]

[Musique]

alors avez-vous décroché le cocotier en

fait cette démo elle est truffée de

problème regardez la route des véhicules

roulent sur une chaussée enneigée et le

temps qu'on passe les arbres c'est

partie enneigée est devenu le trottoir

et les voitures beaucoup plus grosses là

elle circulent sur une chaussée déneigé

mais elle roule pas longtemps parce que

dès qu'elle passe sous un arbre ell

disparaissent au passage àok on est

censé rouler à gauche bref les piétons

là pareil ils passent derrière la petite

cabine et hop il se volatilisent et ceux

qui marchent devant le couple au fond

là-bas regardez c'est pire dès qu'ils

rentrent dans la petite boutique eux ils

sont engloutis par le sol sur le côté là

on a une barrière virtuelle parce que

regardez la petite dame en gris elle la

traverse tranquillou et la grande dame

en rouge qui arrive en face

pareil et cette grande dame en rouge

n'est pas si grande que ça parce que

quand elle arrive à la hauteur du couple

en fait elle est toute petite ou alors

c'est un couple de basketteur regardez

par rapport à l'état la droite là ou par

rapport aux articles à gauche ils sont

immenses et elle en plus d'être

basketteuse elle est pass muraill par

que regardez au début elle marche à

travers le toit avec hop vous avez vu là

encore une toute petite personne cachée

derrière au passage comment la neige a

pu aller se déposer là ça c'est un

couvert ou là bon la dame marche à côté

de cette toile là son épaule est

au-dessus et puis de pas plus loin elle

est en dessous et regardez la taille de

la boutique qui aspire les gens

là alors que tout à l'heure des gens ils

sont rentrés debout et alors

heureusement que la vidéo s'arrête là

parce que la dame était sur le point de

taper les jambes dans la barrière là et

le drone qui filme était sur le point de

se manger la branche de cerisier là

c'est c'est bien coupé je dirais si

c'est pas fait exprès ça tombe pas mal

ça camoufle bon après après je suis sûr

que certains d'entre vous auront trouvé

encore d'autres choses qui clochent

c'est ça qui est intéressant quand on

regarde collectivement chacun n pas les

mêmes filtres et voit pas forcément les

mêmes anomalie et c'est pour ça que

devant une image ou une vidéo avant de

la prendre pour argent comptant ça peut

être éclairant d'entendre d'autres

points de vue ou de lire des

commentaires qui auront peut-être repéré

ce que soi-même on n'a pas su voir en

tout cas un œ d'gle pour vous si vous

aviez repéré au moins deux défauts alors

je vous connais vous allez dire oui là

on cherche la petite bête d'abord oui on

cherche la petite bête on est là pour

exercer notre esprit critique mais bon

on peut reconnaître quand même que ces

images sont dingues rappelons-nous d'où

on vient il y a un an on générait des

images paria mais pour les vidéos

c'était encore la préhistoire la rêve de

l'époque c'était ça c'était Will Smith

qui mangeait des

spaghettis truc cauchemar

desesque et bien voici en 2024 une vidéo

de Will Smith qui mange des spaghettis

il mange bien hein mais bon c'est un

fake fake ça je veux dire c'est c'est

c'est vraiment will sm il mange des

spaghettis il a fait ça pour troller

quand soir est sorti alors là vous vous

sentez peut-être trompé mais moi à aucun

moment je vous ai dit qu'elle était

générée par celle-là par contre vous

avez pu avoir un doute et là vous

commencez à éprouver ce vertige du

moment inéluctable où on ne saura plus

faire la différence entre vraie vidéo et

génération paria et où il faudra

peut-être commencer à se méfier de la

personne qui nous présentera une vidéo

sans nous dire comment elle est ét faite

ni nous en donné la source or là c'est

seulement en remontant à la source qu'on

saura à'ent tenir et de toute façon pour

l'instant S n'est pas accessible au

grand public il la teste avec une RED

team donc un nombre limité de personnes

pour voir un peu les dangers

potentiels voici une autre vidéo générée

par Sora par là aussi le rendu est hyper

stylé et alors on a plusieurs plans

différents gros plan

ici et a un plan plus large alors

analysons en vous concentrant uniquement

sur la dame trouvez-moi une preuve

indiscutable que c'est un fait c'est

parti

[Musique]

affuter alors avez-vous fait chou blanc

ou trouver cette preuve incontestable

vous avez déjà dû ressentir qu'il y a un

problème sur sa démarche est pas naturel

et pareil pour les gens dans le fond on

a l'impression parfois glisse oui par

exemple les jambes bougent mais le haut

du corps ne suit pas la tête et les

épaules monter et redescendre dans le

même Ry les jambes March et encore là on

a un effet de ralenti nous a tenu le

problème au passage ça on l'ait pas

demandé au départ parce que si on

accélère pour retrouver une vitesse

normal mais là le problème de la

démarche il devient

flagrant

droite gauche droite gauche droite

gauche le pas chassé se fait aussi

également à arrière il y a des ralentis

qui March bien ça

camouflef revenons à notreame et

observons ses

jambes regardez là carrément une

inversion des jambes vous avez vu la

jambe de gauche passe à droite bon ça

physiquement c'est

impossibleessz vous si vous voulez pry

espace dégag autour quand Mme vous pourz

c'est la preuve incontestable d'un fake

un œil d'aigle si vous l'avez alors

pourquoi sa fait ça alors que dans le

moindre jeu vidéo en 3D par exemple ça

n'arrive jamais et bien c'est lié à la

manière dont s fonctionne parce que ca

utilise des modèles de diffusion pour

générer des imag je vais pas revenir ici

sur ces techno on les avait déjà

expliqué en mettant les mains dans le

cambouille mais si vous voulez avoir

toutes les bases pour comprendre lia

j'ai tout résumé dans une série de

format cour je vous mets la playlist en

lien n'hésitez pas à aller la voir ça

vous permet de tout comprendre en 30

minutes dans un jeu en 3D tout est

modélisé le décor les arbres les

personnages donc un humain dès le départ

il a deux mains avec cinq doigts deux

jambes chacune bien de leur côté et le

moteur genre unwel engine il va juste

reproduire tous ces objets 3D dans

certaines positions avec un certain

décor et une certaine lumière pour la

génération d'images par modèle de

diffusion là Lia a suivi un

apprentissage en s'entraînant à

redessiner de manière vraisemblable des

millions d'images où des humains étaient

représentés et elle a vu que dans une

main il y a des doigts mais il peut y en

avoir quatre comme six elle les compte

pas la preuve d'ailleurs dans ces image

que vous avez vu passer c'est pour ça

que j'ai laissé mon triste acolyte nous

en faire quelquesunes ça date de mars

2024 et il y a encore ce type

d'incohérence parce qu'il y a pas eu

d'apprentissage spécifique pour dessiner

des mains pareil avec le texte les as

génératives en mettent dans leurs images

donc à première vue on peut se dire

qu'elles savent ce qu'elles écrivent

mais que nenni en fait uneia générative

a vu passer des textes lors de son

apprentissage elle sait à quoi ça

ressemble mais elle sait pas écrire si

elle en met parce qu'elle a vu que ça se

faisait comme là sur un uniforme elle

met des caractères qui ressemble à ce

qu'elle a vu là c'est presque police

mais c'est pas ça or ces modèles de

diffusion avec leur défaut actuel sont

utilisé lors d'une génération de vidéo

pour générer des images clés avec

ensuite un modèle de diffusion vidéo qui

complète en générant des images

intermédiaires donc ces défauts on les

retrouve dans les vidéos de Sora genre

les inscriptions regardez ici vous avez

une flèche et à côté un signe qui a

aucun sens et là dans le nombre il y a

un chiffre inconnu et pour les enciigne

c'est des signes qui font japonais parce

que le modèle sait qu'il y a ça à Tokyo

mais en fait il veulent rien dire non

plus alors tout ça on en a beaucoup

parlé quand la génération d'image est

arrivée et donc on pourrait se dire que

tout le monde l'a intégré mais en vrai

pas du tout il y a une naïveté si vous

vous promenez un peu sur Facebook qui

est dingue regardez celle-là recette

délicieuse de grandmaman un petit chat

en quartier demand

l 2200 fois les gens c'est regardez ces

quartiers là où là ça ça nexiste pas des

quartiers même d'Orange qui est ces

formes

là attendez je vous parle de naïveté là

mais si ça se

trouve petit test quand même on va

vérifier que vous êtes assez perspicace

pour vous promener sans risque sur

facebook voilà une image vrai ou

[Musique]

fake donc un papis talentueux j'ai

offert ce tableau à ma femme des masses

de commentaires dit tir en Bic bravo

monsieur vous êtes un artiste bah tu

m'étonnes le gars est doué mais il part

avec un sacré avantage aussi il a trois

mains donc fake un œil d'aigle à vous si

vous l'aviez

vu bon voilà cet enfant peintre n'a que

quatre doigts cet enfant pâtissière a

deux avant-bras qui on pas du tout la

même taille voilà c'est devenue la foire

permanente aux images artificielles et

parfois même ça vous renvoie vers des

boutiques où vous allez pouvoir acheter

des produits qui en fait n'existent pas

et que donc ben vous ne recevrez

jamais bon alors Facebook ma a diffusé

une note je vous la mets en source dans

la description de la vidéo où ils

annoncent que ils vont mettre des

petites mentions sur les photos créées

par ria et ils vont ajouter une case à

cocher soi-même quand on ajoutera une

image pour déclarer si ça a été généré

par ya ou pas et si on la coche pas

alors qu'on aurait dû ben on pourra

s'exposer à des sanctions sur le compte

si par la suite l'image est signalée

donc on le voit là c'est ces technos

évoluent très vite et du coup

l'encadrement autour doit s'adapter pour

suivre toutes ces évolutions à la fois

les plateformes et le cadre

juridique bonjour Roxane bonjour alors

vous êtes juriste spécialisé dans les

questions de we création et influence et

il m'a semblé que ça pouvait être

intéressant d'avoir votre il de juriste

tout au long de la vidéo sur ces

nouvelles techno et sur ce qu'on a le

droit d'en faire alors comme c'est comme

comme vous l'avez très bien dit c'est

des sujets qui sont très nouveaux donc

là que je vais vous dire c'est valable

au jour où cette vidéo sort a priori en

fait il y a beaucoup de de de recherches

qui sont ce s'appelle doctrinal

c'est-à-dire que ce sont des

professionnels du droit des praticiens

des praticiennes et cetera qui discutent

de ces sujets autour de l'IA on commence

à avoir donc on a eu le règlement je

regarde mon écran là parce que je l'ai

là exactement le le le règlement sur

l'IA donc l Act qui est sorti là tout

début d'année les objectifs de ce

règlement c'est de faire en sorte que l'

a soit sûre qui soit transparente

qu'elle soit traçable qu'il ait pas de

discrimination et qu'elle soit

respectueuse dans l'environnement c'est

les petits objectif on attend encore des

décisions de justice il y a pas de

fondement particulier donc c'est un

sujet qui est très nouveau donc pour

accompagner mes clients et mes clientes

au meilleur de mes capacités je pioche

dans différents textes de loi parfois un

petit peu de code pénal un petit peu de

code civil un petit peu de règlement

européen ça fait un cocktail très

sympathique ok alors j'é voquis ce label

que facebook va proposer sur les

contenus générés par a désormais sur

Youtube c'est la même chose depuis le 20

mars 2024 les créateurs doivent cocher

une case si leur vidéo contient du

contenu généré ou altéré par uneia donc

là c'est ce que j'ai fait sur cette

vidéo qui manifestement en contient et

du coup quand vous voyez les vidéos ça

fait figurer une petite mention comme ça

ce qui va permettre sur Youtube de

signaler une vidéo si jamais elle

utilise des images générées par yaa sans

que l'auteur les déclaré quoi

comme les CGU donc les conditions

générales d'utilisation des plateformes

permettent de mettre en place une espèce

de de régime juridique donc qui concerne

les plateformes on sait qu'il y a des

trucs qu'on a le droit de faire sur

Youtube qu'on a pas le droit trop le

droit de faire sur twitch voilà plein de

plein de réglementation a priori c'est

un outil qui fonctionne bien auprès de

YouTube on l'a vu avec le le

communication commerciale qui est donc

devenu une fonctionnalité organique et

qui a été reconnu grâce à la loi

influenceur mais en tout cas le

l'infringement en tout cas de enfin la

violation des CGU c'est des choses qui

fonctionnent très bien auprès des

plateformes elles arrivent très bien à

le à le mettre en place ok ben donc à

voir si on va retrouver petit à petit ce

type de label sur toutes les plateformes

merci Roxane on reviendra vers vous bien

sûr au fil de la vidéo en attendant méta

là ils nous disent la même chose que ce

que je vous répète à longueur de vidéo

finalement il est important que les gens

vérifient d'où le regard affué bon

revenons à la génération de vidéoos

parce qu'on en a pas fini au-delà des

incohérences au sein d'une image que

finalement ça on connaissait il y a un

problème nouveau propre à la vidéo et ça

je vous propose de le découvrir par

vous-même donc on retourne au charbon

voyz pour une fois je vais faire plaisir

au climatosceptique on reprend la vidéo

complète avec cette fois le plan large

puis le plan plus resserré sur la dame

essayer de trouver une autre preuve de

fake

[Musique]

affu

[Musique]

alors avez-vous eu le coup d'œil en fait

le truc c'était d'être attentif au

détails des vêtements de la dame sur son

pull rouge il y a des taches noires

derrière la tête elle a un chignon et sa

veste en cuir elle a des revers très

larges et quand on change de plan là

est-ce qu'on retrouve tous ces détails

et ben non pas de chignon plus de tâes

revers plus court veste plus courte

c'est une dame similaire mais c'est pas

la même il y a un défaut de cohérence

entre les deux plans d'gle à vous si

vous l'aviez vu pourquoi parce que liya

ne part pas d'un modèle à reproduire

comme on fait en 3D là à chaque plan

elle recrée une nouvelle dame similaire

en repartant des demandes initiales mais

au final c'est plus vraiment la même

dame et ça c'est comment à toutes les

applis de génération de vidéo actuelle

parce que dans mon petit doc du mois

dernier sur l'évolution du climat à un

moment j'ai reconstitué une interview de

quelqu quun qui colportait du fake

représenté en carotte là il faud

regarder la vidéo pour comprendre

pourquoi et là j'avais utilisé uneia gen

one de runway qui est déjà accessible en

payant j'ai eu exactement le même

problème et ce manque de cohérence d'un

plan à l'autre et ben ça ce sera un gros

frein si on voulait utiliser ce genre

d'IA pour faire un vrai film donc si on

résume Sora et les modèles de diffusion

vidéo oui c'est bluffant au premier

visionnage mais pour l'instant mars 2024

c'est pas du tout prêt pour faire des

fake et en plus ce sont des vidéos

muettes donc il faut encore les bruiter

derrière alors j'ai essayé euh

voilà hein c'est une fête d'anniversaire

mais vu par David lych peu alors bon

sinon il y a d'autres boîtes qui

proposent de venir à la rescous il laps

par exemple il bosse sur une qui devrait

bientôt être capable de générer des sons

à partir d'une description texte et ils

ont fait une démo sur les vidéos de s

just bref donc tout ça c'est sûrement

lesff de l'avenir mais nous on va se

pencher maintenant sur lesff du présent

et il y a fort à faire avec les techn

qui sont déjà

accessibleseven laaps dont on vient de

parler ils sont déjà bien connu pour

leur synthèse vocale ils font du Tex

speech on donne un texte on choisit une

voix et on obtient son avec la lecture

du Tex demandé et que l'obscurantisme

retourne à l'obscurité depuis l' dernier

il propose une très bonne de clonage de

voix c'est pas les sei ils on annoncé

qu'il ser capable de le faire à partir

d'un son de seulement 15 secondes bon là

sur las on peut entraîner un mod avec sa

voix en quelques minutes j'ai essayé

donc il demand d'enregistrer des phrases

30

secondesen 25 prhe on dit ce qu'on veut

dire le on peut aussi fournir des

fichiers tout près mais là il faut qu'il

soit propre qu'on entende la voix

clairement sans bruit de fond aès il

faut quelques minutes pour que le modèle

fasse l'apprentissage et on obtient un

clone de la voix là on peut lui faire

dire ce qu'on veut là vous voyez je ne

parle pas mais pourtant vous entendez

desator et bien c'est sa voix clonée qui

vous parle sur cet app actuellement il y

a 29 langues qui sont

géré

on peut comme ça faire du doublage de sa

vidéo la traduction est

automatique commenc à être utilisé pour

faire n'importe quo faire n test je vous

diffuse un exemple de vidé qui circule

sur Facebook et vous devez repérer au

moins deux choses qui clochent soyez sur

le coup ça va aller vite affut youtubeur

Lucas auchochard également connu sous le

nom de Squeezie a créé une nouvelle

application mobile sous licence déjà

installée par plusieurs milliers de

français où chacun peut gagner des

milliers d'euros chaque jour Squeezie a

expliqué qu'il a décidé de créer une

application de jeu parce qu'il essaie

toujours d'aider les gens et que cette

application leur permet d'augmenter leur

revenus il a donc pariné un fond de prix

qui sera divisé entre les joueurs des

jeux les plus populaires alors avez-vous

décroché le pctol normement c'était

facile là c'est un fa de misère Squeezie

n'a pas fait cet appli il y a eu un

clonage de la voix de Anne Claire

Coudret présentatrice du JT du weekend

sur T F1 VO plutôt réussi d'ailleurs

mais ce qui est calamiteux c'est le

montage dès le départ la voix n'est pas

synchro avec les images youtubeur Lucas

auchochard également connu sous le nom

de Squeezie l'habillage en bas dans le

bandeau n'est pas celui d'un vra JT de

TF1 d'ailleurs elle dit youtubeur il est

écrit blogur il est écrit créer au lieu

de créer et puis regardez logo de TF1

normalement il est là tout le long mais

là il disparaît il réapparaît parfois il

est écrit le 20 mais pas tout le temps

quant aux images illustration pourquoi

celles de Squeezie sont muettes et pass

en

accélérer n'impor quoi si vous aviez

trouvé au moins de défauts et je suis s

qu' av plus et j'ai pas tout rel lancer

une nouvelle application qui permet au

français de devenir très riche je suis

sûr que chaque personne pourra gagner de

l'argent avec l'aide de mon application

voilà ce que nous apprend cette

consternante visite sur Facebook et là

c'est mon opinion c'est que c'était pas

le tout d'initier papi mamie à Facebook

il aurait fallu aussi leur donner le

mode d'emploi du Deep fake l'éducation

au réseaux sociaux on y revient toujours

je caricature j'en fais un peu des

caisses mais c'est important de se

rendre compte qu'il ne suffit pas de

savoir manipuler un

pour ne pas se faire manipuler soi-même

et là bon c'est des images àanois ça n

guerre de conséquence et on les voit

venir avec leur gros sabot mais il y a

pas que des bras cassés qui utilisent

ces techn il y a aussi des fakers un peu

plus en pointe et c'est là où ça devient

plus compliqué bonjour Ben et bonjour

Alors on avait déjà échangé dans un

épisode tu es le créateur de la chaîne

notab tout à fait et alors aujourd'hui

tu viens nous conter une histoire mais

pas comme d'habitude là c'est ton

histoire de clonage de voix ouais

carrément j'avoue que j'étais je suis un

peu tombé de ma chaise quand quand j'ai

vu ça mais ce qui s'est passé c'est

qu'on il y a quelqu'un qui nous a averti

sur sur Instagram gentiment que il avait

vu passer dans dans son Fed TikTok une

une émission avec ce qui qui semblait

animé par par ma voix quoi donc on a été

voir ce ce compte c'est un compte qui

s'appelle histotrad euh c'était les les

les traditions françaises et l'histoire

tu vois voilà et et et donc il y avait

pas mal de contenus même tous les

contenus de cette chaîne qui avait

commencé il y a a déjà quelques semaines

maintenant il en sorté en gros une une à

deux par jour je

crois bah c'était du contenu un peu à la

fois scientifique bas de gamme et en

même temps à moitié Pol il y avait un

petit peu de tout c'était un peu bizarre

et et en fait c'était c'était ma voix

c'était ma voix qui présentait

l'émission sachant que moi j'avais

jamais eu connaissance de cette chaîne

là j'avais jamais eu connaissance de ces

textes que je n'ai jamais écrit et donc

oui c'était un type qui a passé ma voix

dans une moulinette d'un logiciel Ia

quelconque qui a récupéré ma voix et qui

du coup faisait vraisemblablement un

truc qu'on appelle le text to speech

c'estàdire que il donnait un texte à

liya qui ensuite bah le prononçait avec

ma voix quoi l'Afrique est immense et il

est difficile pour la plupart des gens

de réaliser à quel point ce continent

est tout simplement gigantesque là on

est vraiment sur un compte euh qui

euh prenait ma voix sans revendiquer mon

identité il y avait nulle part mon nom

nulle part mon logo c'était vraiment un

truc si tu si tu sais pas qui je suis

bah tu es pas au courant quoi mais les

gens qui qui savent ou qui qui

connaissent un peu l'émission ils

entendent le truc et tout de suite ma

voix c'est ma signature tu vois elle est

assez reconnaissable euh tout de suite

les gens disent ouis c'est not àéné

c'est cool tiens il a lancé une nouvelle

émission je savais pas je m'abonne tu

vois il y a des gens qui sont aller

poster des commentaires en disant ce

serait bien que tu arrêtes en fait ce

que tu es en train de faire et ces

commentaires là ont disparu alors que

les autres sont rester donc je pense que

derrière la personne était très lucide

dans ce qu'elle était en train de faire

voilà j'ai profité évidemment de la

présence de Roxane pour en savoir un peu

plus sur ce qu'il en est juridiquement

du clonage de voix la voix c'est un

attribut de la personnalité les

attributs de la personnalité c'est des

droits qui sont donc extra patrimonieux

c'est-à-dire qu'on ne peut pas faire

d'argent avec ils sont inccessibles on

ne peut pas les vendre je peux pas

vendre à quelqu'un la capacité de

recopier ma voix ou la capacité de me

prélever un organe si ça l'amuse et ils

sont imprescriptible c'est-à-dire que

ils n'ont pas de date d'expiration du

moins que la personne elle vit vous avez

des droits de de de la personnalité sur

la voie en elle-même c'est l'article 9

du code civil qui va s'appliquer vous

avez donc chacun a droit à sa vie privée

et en fait grâce à ce fondement là vous

avez le droit à l'image qui va avoir son

son assise juridique c'est un droit qui

est hyper jurisprudentiel sur le droit à

la voix en soi on se pose donc plutôt

sur du droit à l'image qui nous permet

en fait de de nous défendre c'est-à-dire

que chacun a droit sur son image euh

d'avoir une de pouvoir donner

l'autorisation de recopier son image

mais cette autorisation elle doit être

explicite et elle doit être spéciale

c'est-à-dire qu'on ne c'est jamais

implicite donc sur les attributs de la

personnalité type Image type droit à la

voix type clonage de je vois si on ne

vous a pas demandé l'autorisation c'est

une

infraction donc on passe directement sur

de l'atteinte à la vie privée et c'est

un fondement qui peut paraître flou

comme ça mais qui a le mérite d'être

très large et qui nous permet de nous

défendre si jamais on on constate une

infraction soit pour soi soit pour

autrui donc moi j'ai commencé à faire

desah des revendications j'ai signalé le

compte j'ai signalé les vidéos euh voilà

mais je savais pas trop quoi faire

d'autre la la vidéo disparaissait pas le

compte non plus euh j'ai pu faire appel

à un cabinet spécialisé dans la

propriété intellectuelle et eux ont été

revendiqués en mon nom enfin les vidéos

enfin ont dénoncé les vidéos et puis au

final c'est toutes ces revendications là

certaines ont été retenues et ça a fait

sauter la chaîne TikTok en en 6 jours à

peu près sachant que dans l'intervalle

peut-être 24 heures après moi ou 48h

même pas il y a le vidéast feldup qui a

subi le même sort et moi si tu veux ce

qui ce qui m'importe le plus là-dedans

c'est de me dire euh on pourra jamais

aller trouver un gars qui a l'autre bout

du monde et qui nous voent nos contenus

et enfin tu vois faire condamner laisse

tomber en revanche on peut [ __ ] la

pression sur les différentes plateformes

pour qu'elle soit plus réactive en terme

de modération c'est un enjeu d'avenir et

clairement on est qu'au début des des

emmerdes c'est sûr c'est clair en tout

cas merci et puis ben à très bientôt

salut ciao ciao alors après la voix

l'étape suivante c'est de cloner son

image et de se créer un avatar il y a

différentes applis qu' proposent par

exemple Agen j'ai essayé c'est assez

rapide là il suffit soit de se filmer

soit d'envoyer des vidéos de soi et

agent va cloner l'image et la voix c'est

ah oui il y a quand même un garde fou

avant qu'il crée l'avatar il faut

enregistrer une vidéo dans laquelle on

indique son consentement pour créer le

clone et après il va la comparer aux

vidéos con

validation

[Musique]

bon en fait il y a tout une palette de

possibilités il y a déjà la possibilité

de partir d'une simple photo et de

l'animer pour qu'elle se synchronise sur

un

son là vous avez monaalisa qui nous

déclame un monologue de Shakespeare

évidemment comme ça part d'une simple

photo au départ ça reste un peu

approximatif mais c'est déjà

impressionnant regardez notre dame de

Tokyo là en repartant d'une simple photo

on peut la faire chanter

là je coupe le son parce que sinon je

vais avoir des problèmes de droit une

autre possibilité c'est de prendre une

vidéo existante de quelqu'un qui parle

et de recaler son visage sur le son d'un

autre discours ça c'est Anice de la

chaîne defelligends qui nous l'avait

expliqué Anice d'abord on le connait

parce que on l'avait longuement reçu

pour parler de chat GPT et puis sur sa

chaîne Youtube que je vous conseille il

parle régulièrement d' de Deep fake d'un

point de vue technique allez voir sa

chaîne pour en savoir plus je vous ai

mis des liens sous la vidéo et à l'été

2023 il avait créé des clones de

présidents en ligne sur TT

en jouant sur le fait que des

personnages politiques peuvent être

caricaturés dans leur fonction on pit

poser des questions en direct VI le chat

il y avait Macron de GA il répondit

toujours un peu à côté des questions

cétait le but vous nous rejoignez

maintenant vous êtes sur mon super live

twitch je suis une version

du président français Emmanuel Macron

vous pouvez me parler depuis le chat

bien sûr je pourrais te raconter une

réunion des illuminatis mais je préfère

garder mes sources

confidentielles on sait jamais tu

pourrais être un agent double ça a été

très regardé à l'époque et un peu

médiatisé parce que on a pu se rendre

compte à cette occasion de ce qui était

possible techniquement moi je l'ai reçu

à Nice pour en parler sur twitch bon

c'était du direct donc la connexion

était pas terrible le son s'en ressent

un peu en fait je me suis appuyé sur des

solutions déjà Open Source je prends la

la question donc j'interrosee GPT qui

est le modèle de langage d'OP et il va

me avec une directive en lui disant tu

es le général de Gaul et cetera et lui

va me répondre dans le style du général

de Gaul je génère la voix sur une

solution qui s'appelle eleven Lab qui

est la plus connue qui est la leader du

marché actuellement sur la génération de

voix et après je génère la vidéo et en

fait c'est pas la peine de générer tout

le visage pour faire dire quelque chose

à quelqu'un il suffit juste de générer

la bouche une solution qui s'appelle

wave to lip qui permet en fait de

modifier juste la bouche des fan

intelligence ah ce garslà disons que la

sympathie n'est pas son point fort bon

l'expérience avait tourné court parce

que les gens connectés avaient réussi à

lui faire dire des Ding gris ce qui

avait été contre les CGU de la

plateforme et provoquer un ban de son

compte quelques jours ça c'est donc le

Lipsy aujourd'hui ça c'est au point ça

par exemple c'est un lips c'est des

vidéos enregistré par une vraie

actrice mais il y a une appli qui vous

génère un lips pour faire une pub pas ch

ça c'est un autre liping Gén à partir

deette vidéo et c'est flagrant la bouche

change mais les mouvements de tête sont

identiques catégorie

suivante les influenceuses a Tana Lopez

influenceuse espagn virtuel dont les

images sont créées par ya et qui compte

300000 followers sur insta influence en

tout cas par son succès quentité de gens

qui font des vidéos sur YouTube vous

aussi créez votre influenceuse et entrez

dans le business de l mou bon parfois

quand on va voir les influenceuses créé

dans ces vidéos on peut pas dire que la

démonstration du succès soit bien

convaincante mais c'est surtout sur la

méthode de création de ces influenceuses

qui a un souci dans les premières vidéos

sorties sur le sujet vous aviez des gens

qui vous expliquent qui est bon vous

utilisez une générative vous générez un

visage d'influenceuse qui donc n'existe

pas et ensuite vous prenez des vidéos

libres de droit ou carrément gé paria et

vous collez votre visage inédit dessus

et avec ça vous remplissez un compte

insta TikTok omnifan que sais-je

pourquoi pas mais petit à petit à force

que ce genre de vidéo se multiplie sur

des chaînes avides de clic et de sujets

à la mode on en a vu apparaître où la

méthode c'est devenue vous générez un

visage et puis vous prenez des vidéos

d'influence genre sur TikTok vous collez

le visage dessus et en voiture et ça

passe crème alors c'est sûr oui

techniquement l'influenceuse avec cette

tête là elle existe pas mais au passage

a quand même eu un peu de vol la

contrefaçon ça peut s'appliquer mais la

contrefaçon c'est une infraction qui

nous dit que si vous reproduisez si vous

imitez si vous utilisez de manière

totale ou partielle un un actif de

propriété intellectuelle sans

l'autorisation de du propriétaire c'est

une cont façon donc sur cette question

spécifiquement je peux pas vous dire oui

ça c'est sûr c'est une contrefaçon oui

ça c'est sûr c'est une atteinte de droit

à l'image en fait il faut regarder au

cas par cas je je reprends le visage de

quelqu'un ou et je le mets sur un corps

ou l'inverse généralement c'est plutôt

la teinte au droit l'image qui paraît la

être la plus appropriée parce que c'est

extrêmement violent en fait de se pasah

de se rendre compte qu'on nous a volé

quelque chose qui nous appartient

tellement à nous de nous avoir volé un

attribut de la personnalité qu'on va

plutôt sur ce fondement juridique là

mais ça n exclu pas la possibilité bien

sûr de d'avoir des des actes en

contrefaçon aussi quoi qu'il en soit on

voit bien qu'on a pas besoin de Sora

avec les technos qui sont déjà en place

on peut très facilement faire dire des

dingueries à quelqu'un dont on fait un

avatar et dont on clone la voix et

surtout à quelqu'un qui bouge pas genre

un présentateur de JT regardez cette

vidéo elle est sous-titrée en russe

parce que elle a été diffusée sur les

réseaux sociaux en Russie téegram VK on

voit le logo de France 24 ici en bas

c'est un extrait d'un JT en français

présenté par Julien fchoui du 12 février

2024 on écoute le président français

Emmanuel Macron a été contraint

d'annuler sa visite en Ukraine à la

suite d'une provocation meurtrière à son

encontre selon une source proche du

Conseil national du renseignement cette

tentative a été stoppée par les services

secrets français qui ont réussi à

intercepter la correspondance et les

appels des participants à une

provocation potentielle selon la source

selon l'idée des dirigeants Ukrainiens

l'attaque aurait dû attir à nouve

l'attention de l'opinion publique

mondiale sur l'Ukraine et permettre une

augmentation des livraisons d'armes à

l'raine on sent que le ton n pas naturel

même les formulations sont bizarres et

puis il y a quelques petits soucis de

synch mais c'est fait très

astucieusement parce que on filme une

télé qui diffuse l'extrait donc ça bouge

c'est un peu pixellisé ce qui permet

d'atténuer les imperfections à l'image

et puis on entend des bruits dans la

pièce attirer à nouveau l'attention de

l'opinion publique mondiale sur

l'Ukraine comme si quelqu'un faisait

autre chose à côté on a vraiment

l'impression que quelqu'un a pris son

téléphone comme ça sur le vif pour

filmer ce qui passait à la télé et le

balancer sur les réseaux sociaux donc

c'est très malin parce que ça donne un

sentiment d'authenticité et de de

partage citoyen néanmoins il y a

peut-être un truc qui cloche dans la

manière dont c'est fait essayez de le

trouver quelques secondes de réflexion

le président français Emmanuel Macron a

été contraint d'annuler sa visite en

Ukraine à la suite d'une provocation

meurtrière à son encontre selon une

source proche du Conseil national du

renseignement cette tentative a été

stoppée par les services secrets

français alors avez-vous fait preuve de

logique quand on a des images filmées

par quelqu'un c'est intéressant de se

poser la question du contexte de celui

qui a filmé essayons de se projeter à sa

place si on entend qu'on parle d'un

sujet à la télé et qu'on veut filmer le

truc mais le temps de prendre son

téléphone de déclencher l'enregistrement

on va rater les premières secondes le

président français Emmanuel Macron a été

contraint d'annuler sa visite en Ukraine

mais là non là on a l'intervention

complète du journaliste donc si on se

projette à la place de celui qui a filmé

ça veut dire que il savait forcément ce

qui allait être dit avant que ça ne

commence et ça trahit une probable mise

en scène donc un d'glavou si vous y

aviez pensé bon mais tout ça comme le

fait que ça sonne un peu artificiel à

l'oreille c'est pas très grave parce que

initialement ce fake il est diffusé sur

des comptes russes à l'intention des

Russes qui comprennent pas forcément ce

qui est dit c'est pour ça que c'est

soustitré c'est de la propagande

destinée d'abord à une audience

russophone et ça appuie un narratif

repris par Dimitri Medvedev

vice-président du Conseil de sécurité de

Russie et président du parti de Poutine

qui s'exprimait sur X le 14 février en

donnant la même fausse info alors

maintenant comment on peut être sûr que

c'est du fake on l'a dit même si on a

identifié un faisceau d'indice au

visionnage la vraie vérif c'est de

remonter à la source et ici France 24 a

démenti que ce Tru ait été diffusé sur

leur antenne bon après il y aura

toujours des gens pour venir hergoter

sur l'origine du truc j'en ai vu sur les

réseaux sociaux qui demandaient oui mais

quelle preuve on a que ça vient du

kemelin ben aucune mais à la rigueur pe

leur chaud non ça c'est juste prendre un

prétexte pour tergiverser et créer du

doute mais au fond on s'en fout de qui

ça vient on a vérifié que ça ne venait

pas de France 24 donc c'est du fake et

basta par contre attention pas de

surinterprétation c'est pas parce qu'on

trouve une vidéo fake à propos d'un fait

qu'on peut dire ce fait n'a pas eu lieu

on a simplement constaté que ce qu'on

nous présentait comme une preuve de ce

fait était un fake donc cette preuve là

n'est pas valable c'est tout ce qu'on

peut en déduire après s'il existe

d'autres preuves il faudra les examiner

à leur tour tout récemment suite à

l'attentat à Moscou du 22 mars 2024 un

nombre de comptes sur tégram et puis la

chane rus ont diffusé une vidéo d'une

interview du secrétaire de conseil de

dé en réalité cette vidéo était un fake

les journalistes qu'on voit à gauche

provenaient d'une vidéo du 16 mars et

l'image de l'interview V provenait d'une

autre vidéo du 19 mars on les retrouve

sur Youtube elles sont datées et ensuite

il y a eu clonage de la voix et

modification de la zone de la bouche

pour faire dire ce texte qui qui était

un peu grossier quand même voilà quand

on compare la vidéo du 19 mars et celle

générée on voit que les mouvements de

tête sont exactement les mêmes il y a

que la bouche qui a été regénérée là

dans un contexte aussi tendu on imagine

la gravité des conséquences de ce type

de fake s'ils ne sont pas

[Musique]

repérés exemple c'est ukrainienne qui

explique qu'elle rêve de devenir

présidente pour sauver son pays et que

les hommes Ukrainiens qui désertent sont

des Lim oh mais attends cette VO je la

connais bien c'est qu'elle a été bien

ploné alors parce que c'est c'est déjà

non je suis sûr que j'ai déjà entendu ça

dit quel chose cette voix je connais

quelle mais alors d'O je la connais

c'est Nancy ah oui c'est c'est une

actrice ukrainienne qui fait des films

pour adultes ah oh ben non alors non ça

m'étonne parce en plus avec

les donc non j'ai rien dit il s'agit

d'un deep fake qui voulait répondre

l'idée que l'Ukraine était devenue

décadente depuis qu'un acteur zelensk

avait été lu président et donc là il y

aurait cette fois une actrice X qui se

présenterait à la présidente bon cas

class clonage de VO récupération d'une

vidéo resynchronisation labiale sur un

nouveau texte et on vous colle un logo

The son pour donner l'impression que

c'est repris d' média alors attention là

on a vu de la propagande proorusse mais

il y a aussi de la propagande

proukrainienne je le reprécise à chaque

fois parce que dans les commentaires

j'en vois parfois qui on l'air d'être là

uniquement pour compter les points moi

je suis pas là pour vous dire V est

gentil est méchant je m'av pas des

compétences en géopolitique l'objectif

de la chaîne c'est de parler des fakees

et d'essayer de nous donner des moyens

de nous en prémunir donc un exemple de

fake plutôt proukrainien ça c'était en

juin 2023 une fausse intervention télé

de Vladimir Poutine qui déclare que

l'Ukraine a envahi le territoire russe

que la loi martiale est déclarée et

qu'il va y avoir une mobilisation

générale du pays donc de qui ça venait

on le sait pas plus que pour les

précédents mais là cette fois ça visait

plutôt à déstabiliser la population

russe sur la forme c'est les mêmes

techniques et quand on regarde

attentivement la synchro de la bouche

est pas bonne mais là aussi film sur une

télé de loin ça passe et vous avez vu la

même en version radio là enregistré au

téléphone sur un autre Radi non j'ai

retrouvé la vidéo d'origine du fake là

ah bon oui sur la fi tu montrer j'ai

retrouvé la vidéo d'où il est parti le

gars c'est une interview sur la chaîne

rocos World le gars il a dû reprendre ça

il faire dire autre chose parce que elle

parlait pas du tout de présidence

CIT non elle parlait d'autres trucs ouis

et ben je suis impressionné c'est

tellement rare que tu t'investisses

comme ça dans les vidéos comment tu as

retrouvé ça non c'est que j'y avais vu

passer ENF quand je dis j'y avais vu

attention c'est façon de parler toute

façon j'y vois rien

donc en tout cas effectivement quand on

retrouve la vidéo d'origine d'où est

tiré un deep fake et qu'elle est

antérieur mais on a bien la preuve que

c'était un fake merci à toi moiuss si je

peux rendre service mais n'hésite pas

s'il faut faire d'autres recherches sur

Oui Cindy nonancy ENF je crois que c'est

Nancy mais je sais pas parce que

finalement je connaissais pas du tout

très bien

merci autre conflit Israël et Gaza là

aussi il y a eu énormément de fake de

par et d'autres hein là non plus on va

pas compter les points mais on peut

prendre deux cas emblématiques pour

nourrir la réflexion il y a eu cette Une

de Libération avec l'image d'un bébé

dans les décombres de Gaza qui était un

fake généré par alors attention ça veut

pas dire qu'il y en a pas eu mais là on

a eu un fake qui s'est retrouvé en une

et ça a créé de la polémique d'autant

plus que sur la photo complète que là on

voit sur son site d'origine on voyait

tout à droite l'indice de fake avec des

doigts en trop mais le recadrage sur la

Une de Libération fait qu'on ne voit pas

cette partie là et nulle part sur la Une

il n'est fait mention qu'il s'agit d'un

fake le directeur de la publication a

expliqué en réponse à la polémique que

la photo qui donc montrait une manif

haer contre les bombardements était

centré sur le manifestant qui brandit

une pancarte sur laquelle figure ce fake

et que ces images fa sont utilisés dans

les manifes comme des symboles mais de

fait la démarche n'est pas claire

qu'est-ce qu'un lecteur pouvait y voir

sans avoir eu ce contexte et le

directeur de publication explique que

pour ce manifestant la vérité importait

peu mais la une ne nous a pas donné

toutes les clés pour comprendre ça autre

fait symptomatique du côté israélien

cette fois voilà Bella Hadid qui est une

mannequin américaine très populaire dont

le père est palestinien et elle a

soutenu Gaza mais début novembre on a pu

voir une vidéo diffusée sur X partagé vu

plus de 30 millions de fois qui éit un

deep fake qui lui faisait dire

is dans bouche contraire

deaitcén sur les r il est très fier de

sa vidéo

TR justeér

dans V Vié sont les mitions d'une autre

sorte de guerre

oui je l'espère depuis la supercherie a

été découverte et la vidéo supprimé on

va pas mtip les exemp à

l'inferig fait que pour faire la guerre

il faudrait utiliser des missiles

biégr vidé parodique mais surqu Mo aprs

é

pouréilisours

au premier degré ça parat énorme mais le

pire c'est qu'il y a quand même eu des

gens qui ont cru alors on a bien rigolé

des boomers qui partagent du fait

grossier sur Facebook mais forcz de

constater que dès qu'on est militant

pour ceci ou contre cela et qu'on voit

passer une vidéo qui va dans le sens de

ses idées le B de confirmation a vite

fait d'étouffé l'esprit critique le pire

étant ceux qui rediffusent le fake même

en ayant compris la douille mais qui se

justifie par un bon vieux oui non mais

là c'est faux mais ça aurait pu être

vrai donc ça va quoi on sait c'est faux

mais chaud on sait que c'est fake on s

[Musique]

B des agences gouvernementales

organisent des propagandes de

désinformation c'est pas nouveau elles

utilisent les techn de fake comme elles

en ont utilisé d'autres par le passé ce

qui est nouveau c'est que désormais ces

techniques de fake sont facilement

accessibles à tous et elles sont

envisagées maintenant comm des armes qui

permettent à chaque citoyen de jouer un

rôle il s'agit même d'une arme de

désinformation massive une fois poussée

par des réseaux sociaux ou finalement

toutes ces vérités alternatives

s'enchevêre c'est un chaos

informationnel qui s'installe une

confusion qui s'étend c'est là que pour

éviter qu'on se joue de nous il faut

savoir comment se défendre de ces armes

virtuelles alors sur l on entend souvent

se demander si l'arrivée future d'une

intelligence artificielle générale va

pas sonner la fin de l'humanité

sait rien mais ce qu'on voit déjà là

c'est qu'en réalité l'humanité n'a pas

besoin d'attendre ce stade pour prendre

de l'avance rien que là avec des encore

balbuante mais on cherche déjà comment

faire des usages fruduleux pqueux dans

un cadre légal parfois mouvant dont on

profite pour arnaquer pour manipuler et

au fond c'est déjà ça le premier danger

c'est nousmême nos outils évoluent plus

vite que notre

humanité alors outils il est important

de connaître leur potentiel leur limit

et savoir détecter les usages détournés

et puis audelà de ça prendre du recul

réfléchir à la manière dont tout ça

change petit à petit notre rapport à la

réalité et moi j'espère modestement que

cette vidéo aura pu contribuer un peu

bon concernant le test pour savoir si

votre regard était bien affuté il y

avait six yeux d'èigle en jeu si vous

avez eu les six vous êtes affuté ce qui

n'empêche pas de rester à l'affu et si

vous en avez eu moins ou si ça vous

intéresse de prolonger un peu ces tests

je vous en ai préparé h autres dans une

petite vidéo bonus je vous la mets en

lien vous pouvez la retrouver dans la

description sous la vidéo c'est une

vidéo courte c'est juste de

l'entraînement et si des aspects

juridiques vous intéressent je vous mets

également à disposition dans une autre

vidéo bonus une version plus longue de

l'entretien avec Roxane tierbass merci

Roxane pour ces éclairages tout au long

de l'épisode merci beaucoup au revoir et

nous ben on va se dire comme à la fin de

chaque épisode consacré àya on se

retrouvera sûrement d'ici quelques mois

pour voir où nous en serons çaaura

sûrement évolué que sera devenu ce gros

cont tributaire de l générative est-ce

qu'il va perdre du poids est-ce qu'il va

changer de cap dis donc ma cap au moins

met une touche de fantaisie toi regarde

toi tu es tout en noir tu dépins tout en

noir même ta phrase de fin elle est

déprimé pas du tout c'est un message

d'espoir ben attends on va demander à l

de trancher ah que l'obscur rend triste

et retourne à l'obscurité c'est pas du

tout ce que je dis obscurantisme dis

toi-même mais là vair faire du trou pour

les oreilles

aussi

[Musique]

en raison d'un bagage délaissé en gare

de la mode bvron