🤖 IA, deepfakes : prêts pour les manipulations ?
Summary
TLDRLe script explore les implications de l'avancée de l'intelligence artificielle dans la création de contenu trompeur, tels que les deepfakes. Il aborder les préoccupations liées à la désinformation et la propagande, illustrées par des exemples de vidéos et d'images générées par IA. Le présentateur invite les téléspectateurs à développer leur esprit critique pour distinguer le vrai du faux, soulignant l'importance de vérifier la source de l'information. L'impact potentiel de ces technologies sur la société est discuté, mettant en lumière les défis juridiques et éthiques posés par la diffusion croissante de fausses informations.
Takeaways
- 🧐 L'intelligence artificielle a atteint un niveau où elle peut générer des vidéos très réalistes à partir d'une simple phrase, ce qui soulève des questions sur la désinformation et la propagande.
- 🔍 Les technologies de 'deepfakes' sont déjà en circulation et accessibles au grand public, nécessitant une vigilance accrue pour distinguer le vrai du faux.
- 🎥 Des plateformes comme 'Sora' et des modèles de diffusion comme 'Diffusion' sont à l'avant-garde de la génération de vidéos réalistes, bien que leurs productions soient encore en stade expérimental.
- 👀 Il est essentiel d'exercer son esprit critique et de regarder attentivement les images et vidéos pour repérer les anomalies et les signes de manipulation.
- 📚 Les réglementations et les politiques des plateformes doivent évoluer pour tenir compte des nouvelles technologies de l'information et de la communication, comme le montre l'exemple de Facebook et de YouTube.
- 🤖 Les modèles de diffusion ont des limitations, notamment en ce qui concerne la cohérence des images générées et la synchronisation des mouvements des personnages, ce qui est visible dans les vidéos produites.
- 📉 Les technologies de 'deepfakes' soulèvent des préoccupations juridiques et éthiques, notamment en ce qui concerne la protection de l'image et de la voix des individus, comme le souligne le droit à la personnalité.
- 🗣️ La clonage de la voix est possible avec peu de données sonores, comme le démontre l'exemple de la plateforme 'Runway', ouvrant la porte à de nouvelles formes de contenu et potentiellement de désinformation.
- 📱 Les applications mobiles et les plateformes en ligne permettent à tout un chacun de créer des 'deepfakes', augmentant ainsi la diffusion de contenus真假掺杂.
- 🌐 La propagation des 'deepfakes' sur les réseaux sociaux et les plateformes de médias sociaux est un enjeu de société, qui nécessite une prise de conscience collective et des actions pour éduquer et protéger les utilisateurs.
Q & A
Quelle est la préoccupation principale soulevée par l'avancée de l'intelligence artificielle dans la génération de vidéos très réalistes à partir d'une simple phrase ?
-La préoccupation principale est que cela pourrait ouvrir la porte à une grande quantité de fausses informations et de propagandes, mettant en péril la capacité de distinguer ce qui est réel de ce qui est généré par l'IA.
Quel exemple de technologie est mentionné pour avoir généré des vidéos réalistes à partir d'une phrase simple ?
-La technologie 'Sora' est mentionnée comme un exemple de système capable de générer des vidéos très réalistes à partir d'une simple phrase.
Quels sont les problèmes potentiels que montre la démonstration de la vidéo générée par l'IA ?
-La démonstration met en évidence des problèmes tels que la neige qui disparaît inexplicablement, les piétons qui semblent se volatiliser ou être engloutis par le sol, et des incohérences dans la taille et la proportion des objets et des personnages.
Comment les modèles de diffusion sont-ils utilisés pour générer des images et des vidéos ?
-Les modèles de diffusion sont utilisés pour générer des images clés et des vidéos en s'entraînant à redessiner de manière vraisemblable des millions d'images représentant des humains et d'autres éléments, puis en combinant ces éléments pour créer des scènes réalistes.
Quels sont les défis spécifiques à la génération de vidéos par les modèles de diffusion, comme illustré par la vidéo de Sora ?
-Les défis spécifiques incluent la cohérence des détails entre les plans différents, la naturalité de la marche et des mouvements des personnages, et la synchronisation de la bouche avec la voix ou le texte parlé.
Quels sont les mesures prises par les plateformes comme Facebook et YouTube pour identifier et gérer les contenus générés par l'IA ?
-Facebook et YouTube mettent en place des mentions spécifiques sur les photos et vidéos créées par l'IA, et exigent que les utilisateurs cochent une case pour déclarer si leur contenu a été généré ou altéré par l'IA, sous peine de sanctions en cas de non-conformité.
Quel est l'impact du clonage de la voix sur les droits de personnalité et la vie privée ?
-Le clonage de la voix est considéré comme une atteinte aux droits de personnalité et à la vie privée, car la voix est un attribut de la personnalité qui ne peut pas être vendue ou utilisée sans le consentement explicite et spécifique de la personne concernée.
Quels sont les risques associés à la création d'influenceurs virtuels à l'aide de technologies de génération d'images et de vidéos par l'IA ?
-Les risques associés comprennent la contrefaçon, la violation des droits d'image et la désinformation, ainsi que la potentialité de manipuler et d'influencer les opinions publiques à grande échelle.
Comment les deepfakes peuvent-ils être utilisés dans le contexte de la propagande politique ou de désinformation ?
-Les deepfakes peuvent être utilisés pour créer des vidéos trompeuses montrant des personnalités politiques faisant des déclarations ou des actions qui ne sont pas réelles, ce qui peut être utilisé pour influencer les opinions publiques, déstabiliser les gouvernements ou faussement justifier des actions politiques.
Quels sont les défis juridiques et éthiques soulevés par l'utilisation de l'IA pour créer des deepfakes ?
-Les défis juridiques et éthiques incluent la protection des droits de personnalité, la régulation des contenus générés par l'IA, la responsabilité en cas de diffusion de fausses informations, et l'équilibre entre la liberté d'expression et la prévention de la désinformation.
Outlines
😀 Introduction à la désinformation et aux deepfakes
Le script ouvre avec une discussion sur les implications de l'intelligence artificielle dans la création de deepfakes, des vidéos trompeuses qui peuvent être générées à partir d'une simple phrase. L'auteur exprime des inquiétudes sur l'impact potentiel de ces technologies sur la propagande et la désinformation, soulignant que la preuve visuelle ne peut plus être considérée comme fiable. Le script mentionne également des exemples de deepfakes existants et annonce un avenir où il sera difficile de distinguer le vrai du faux.
🔎 Analyse des anomalies dans les vidéos de deepfakes
Dans ce paragraphe, l'auteur se concentre sur l'examen attentif de vidéos de deepfakes pour identifier les anomalies. Il mentionne des vidéos spécifiques générées par Sora, une technologie qui transforme du texte en images et en vidéos. L'auteur encourage le public à chercher des défauts dans ces vidéos, tels que des incohérences dans le mouvement des piétons et des véhicules, pour sensibiliser aux problèmes de détection des deepfakes.
🧐 Comprendre les limites des modèles de diffusion pour la génération de vidéos
Le script explique les défis techniques associés à la génération de vidéos de deepfakes à l'aide de modèles de diffusion. Il décrit comment ces modèles apprennent à redessiner des images de manière vraisemblable à partir de millions d'images, ce qui peut entraîner des incohérences comme des mains avec le nombre incorrect de doigts. L'auteur souligne les limitations actuelles de ces technologies et les problèmes de cohérence qui persistent dans les vidéos générées.
📚 Réflexion sur les implications juridiques des deepfakes
Dans ce paragraphe, l'auteur aborde les aspects juridiques des deepfakes en discutant avec une juriste spécialisée dans la création en ligne et l'influence. Ils aborderent les défis liés à la réglementation de ces nouvelles technologies et les implications pour la sécurité, la transparence et la traçabilité de l'IA. Le script mentionne également les efforts pour mettre en place des mesures telles que des mentions sur les contenus générés par l'IA sur les réseaux sociaux.
🎥 Expériences de clonage de voix et d'avatar
L'auteur partage ses expériences avec des applications de clonage de voix et de création d'avatars, comme Agen, qui permettent aux utilisateurs de créer des doublages ou des clones de leur voix et d'apparaître dans des vidéos. Il discute également des implications éthiques et des mesures de sécurité nécessaires pour protéger l'identité des individus contre l'usurpation et la désinformation.
🗣️ Cas de clonage de voix dans les médias sociaux
Le script présente un cas concret de clonage de voix où une personne a été impersonnée sur TikTok, ce qui a conduit à une enquête juridique. Il explique les mesures prises pour faire cesser l'infraction, y compris la signalisation du compte et la revendication des droits de propriété intellectuelle. L'auteur insiste sur l'importance de la modération des plateformes et de l'éducation aux médias sociaux pour lutter contre la désinformation.
👥 Création d'influenceurs virtuels et problèmes de droit d'auteur
Dans ce paragraphe, l'auteur explore la création d'influenceurs virtuels à l'aide de technologies de génération d'images et de vidéos. Il aborde les questions de droit d'auteur et de contrefaçon liées à la superposition d'images générées sur des corps réels, soulignant les défis juridiques et éthiques de cette pratique. Le script met en garde contre les dangers de la manipulation de l'information et de la perception publique.
📡 Diffusion de deepfakes dans les conflits géopolitiques
L'auteur examine l'utilisation de deepfakes dans le contexte des conflits géopolitiques, en particulier en Ukraine et en Russie. Il décrit des cas où des deepfakes ont été utilisés pour influencer l'opinion publique et propager des narratives politiques. Le script met en évidence la sophistication croissante de ces techniques et les défis qu'elles posent pour la vérification de l'information.
🌐 Impact des deepfakes sur la société et les médias
Le script conclut avec une réflexion sur l'impact général des deepfakes sur la société et les médias. Il aborde les questions de désinformation, de propagande et de manipulation de l'opinion publique. L'auteur insiste sur la nécessité pour chacun de devenir un 'œil d'aigle' pour détecter les deepfakes et de se protéger contre les armes de désinformation. Il appelle également à une réflexion sur l'évolution de notre relation avec la réalité à mesure que les outils technologiques évoluent.
Mindmap
Keywords
💡Intelligence Artificielle
💡Deepfakes
💡Désinformation
💡Propagation
💡Réalité augmentée
💡Cloning de la voix
💡Génération de contenu
💡Polarisation
💡Propagande
💡Vérification
Highlights
L'intelligence artificielle peut générer des vidéos très réalistes à partir d'une simple phrase.
La préoccupation de la propagation de fausses informations avec les deepfakes.
Les deepfakes sont déjà en circulation avec des technologies basiques et accessibles au grand public.
Introduction de technologies comme le 'VO clone' et 'avatar swap' utilisées pour manipuler ou polariser l'opinion publique.
Présentation de la veille technologique sur les nouvelles technologies de deepfake.
Démonstration de la détection des anomalies dans les vidéos deepfake grâce à une entraînement de l'œil critique.
L'importance de la source de l'information pour discerner la véracité des vidéos deepfake.
La génération de vidéos par modèles de diffusion est en évolution rapide, mais encore loin d'être parfaite.
Les défis de la cohérence des images générées par les modèles de diffusion vidéo pour les deepfakes.
La réglementation en cours de mise en place pour encadrer l'utilisation des technologies de l'IA.
Les mesures prises par les plateformes comme Facebook et YouTube pour identifier et déclarer les contenus générés par l'IA.
L'impact du clonage de voix sur la personnalité et les droits de l'individu.
L'usage des technologies de deepfake dans la propagande politique et les implications géopolitiques.
L'émergence des influenceurs virtuels créés par l'IA et leur impact sur la société.
La nécessité d'une éducation aux médias pour aider les gens à discerner les fausses informations et les deepfakes.
L'importance de la transparence dans la génération de contenus pour éviter la désinformation.
L'évolution rapide des technologies de deepfake et les défis qu'elles posent pour l'avenir.
La responsabilité des plateformes et des législateurs pour encadrer l'utilisation des technologies de l'IA en temps réel.
Les implications juridiques du clonage de voix et de l'image dans le contexte des droits de personnalité.
Transcripts
[Musique]
hey défecator on déf les fakes cette
nouvelle étape franchie par
l'intelligence artificielle de nouvelles
arrivent capable de vous générer des
vidéos très réalistes à partir d'une
simple phrase vous en avez forcément
entendu parler avec quantité de
qualificatif estomaqué euphorique Alexa
et quoi que masquant qu' qui s'inquiète
de questionnement peu quelconque est-ce
que ça va pas être la porte ouverte à
toutes les propagandes à base de fake
demain la preuve par l'image ne sera
donc peut-être plus aussi évidente voilà
mais si vous en êtes encore à vous poser
cette question il est temps de vous
réveiller parce que la porte a alimenté
la désinformation ça fait un bon moment
qu'elle est grande ouverte hein des
deepf générés par ria il en circule
depuis des mois et à partir de techno
bien plus basique que celle-ci et déjà
accessible à tout un chacun VO cloné
avatar fait swap à présent popularisé
Pulu et pollu pour se poiler ou la
plupart pour palper du blé et parfois
manipuler pour polariser et faire de la
propagande ça on en verra quelques
exemples dans la seconde partie de la
vidéo on recevra des gens pour en parler
Roxane tias qui est juriste spécialisé
en web création et influence ben de la
chaîne not qui viendra nous raconter
l'histoire évidemment mais bon là
surtout l'histoire qui lui est arrivée
en rapport avec tout ça on va donc
commencer par se faire une petite veille
sur les toutes nouvelles techn qui sont
annoncé et puis on regardera celles qui
sont déjà utilisé pour faire des deep
fake actuellement mais ce sera fun il y
aura des tests on va voir si vous êtes
affuté si vous avez l'œil de l'il on va
s'amuser en gros à regarder l'état de
l'art dis tu sais ce qu'ils te disent
l'état de l'art oh monsieur fait dans
l'allusion grossière pour se moquer
maintenant mais ça va bien oui il y
avait aucune dans avec tes expressions
imagé tu vas encore me sortir j'ai pas
les yeux en face des trous puisque j'ai
pas de trou mais j'arrive très bien à
visualiser ce que tu dis alors là le
problème c'est pas qu'une question d'u à
mon avis il do un autre organe qui
déconne mais un peu plus au fond de la
tête si tu parles de mes oreilles sache
qu'elles vont très bien et qu'avec joie
avec joie pas les oreilles quand as la
langue j'en ai une parfaite maîtrise non
il est fort quand même il les aura tout
seul mais oui je suis fort alors toi qui
maîtrises pas forcément toutes les
subtilités de la langue tu te rends pas
compte des énormités que tu prospères
peut-être tu devrait te faire aider pour
qu'on comprenne ce que tu dis ah bon et
par qui mais tu parles toujours
d'intelligence artificiel sans rendre
compte que c'est utile justement pour
quelqu'un comme toi qui a une
intelligence naturelle limitée tiens
mais je m'en vais m'en occuper je vais
faire l'ami du bon goût décrypte avec
une super est-ce que tu peux faire ça en
silence s'il te plaît pendant que moi je
fais vivre cette chaîne en traitant des
sujets sérieux oui oui mais t'occupe
raconte tes salades là moi je lance les
derrière très bien on va donc
s'intéresser au technodia pour faire des
f c'est parti en voiture Simone et voilà
et on va commencer ah bah bravo lia là
il y a moins de 8 que de quand même ce
que je vais faire je vais même pas
réagir à tes illustrations à la noix là
moi je vais suivre le cours normal de la
vidéo et chacun jugera l'intérêt de tes
interventions donc nous on va commencer
par en prendre plein les yeux en nous
plongeant dans les sensationnelles
images de Sora alors c'est la nouvelle a
d'Open présenté le 14 février 2024 et au
c'est notamment Chad jpti qui génère du
texte et D qui génère des images et là s
génère des vidéos on en a eu une
cinquantaine en exemple vous décrivez
une histoire et vous demander à
l'intelligence artificielle de la mettre
en image cette vidéouss a été reprise
dans mout JT et par mout compte agité
sur les réseaux sociaux peut-être sans
trop y faire attention alors sans
échauffement on va commencer
l'entraînement de votre il d'ègle je
vous repasse la vidéo une fois essayeer
de me repérer au moins deux trucs qui
clochent c'est parti
affuter
[Musique]
[Musique]
alors avez-vous décroché le cocotier en
fait cette démo elle est truffée de
problème regardez la route des véhicules
roulent sur une chaussée enneigée et le
temps qu'on passe les arbres c'est
partie enneigée est devenu le trottoir
et les voitures beaucoup plus grosses là
elle circulent sur une chaussée déneigé
mais elle roule pas longtemps parce que
dès qu'elle passe sous un arbre ell
disparaissent au passage àok on est
censé rouler à gauche bref les piétons
là pareil ils passent derrière la petite
cabine et hop il se volatilisent et ceux
qui marchent devant le couple au fond
là-bas regardez c'est pire dès qu'ils
rentrent dans la petite boutique eux ils
sont engloutis par le sol sur le côté là
on a une barrière virtuelle parce que
regardez la petite dame en gris elle la
traverse tranquillou et la grande dame
en rouge qui arrive en face
pareil et cette grande dame en rouge
n'est pas si grande que ça parce que
quand elle arrive à la hauteur du couple
en fait elle est toute petite ou alors
c'est un couple de basketteur regardez
par rapport à l'état la droite là ou par
rapport aux articles à gauche ils sont
immenses et elle en plus d'être
basketteuse elle est pass muraill par
que regardez au début elle marche à
travers le toit avec hop vous avez vu là
encore une toute petite personne cachée
derrière au passage comment la neige a
pu aller se déposer là ça c'est un
couvert ou là bon la dame marche à côté
de cette toile là son épaule est
au-dessus et puis de pas plus loin elle
est en dessous et regardez la taille de
la boutique qui aspire les gens
là alors que tout à l'heure des gens ils
sont rentrés debout et alors
heureusement que la vidéo s'arrête là
parce que la dame était sur le point de
taper les jambes dans la barrière là et
le drone qui filme était sur le point de
se manger la branche de cerisier là
c'est c'est bien coupé je dirais si
c'est pas fait exprès ça tombe pas mal
ça camoufle bon après après je suis sûr
que certains d'entre vous auront trouvé
encore d'autres choses qui clochent
c'est ça qui est intéressant quand on
regarde collectivement chacun n pas les
mêmes filtres et voit pas forcément les
mêmes anomalie et c'est pour ça que
devant une image ou une vidéo avant de
la prendre pour argent comptant ça peut
être éclairant d'entendre d'autres
points de vue ou de lire des
commentaires qui auront peut-être repéré
ce que soi-même on n'a pas su voir en
tout cas un œ d'gle pour vous si vous
aviez repéré au moins deux défauts alors
je vous connais vous allez dire oui là
on cherche la petite bête d'abord oui on
cherche la petite bête on est là pour
exercer notre esprit critique mais bon
on peut reconnaître quand même que ces
images sont dingues rappelons-nous d'où
on vient il y a un an on générait des
images paria mais pour les vidéos
c'était encore la préhistoire la rêve de
l'époque c'était ça c'était Will Smith
qui mangeait des
spaghettis truc cauchemar
desesque et bien voici en 2024 une vidéo
de Will Smith qui mange des spaghettis
il mange bien hein mais bon c'est un
fake fake ça je veux dire c'est c'est
c'est vraiment will sm il mange des
spaghettis il a fait ça pour troller
quand soir est sorti alors là vous vous
sentez peut-être trompé mais moi à aucun
moment je vous ai dit qu'elle était
générée par celle-là par contre vous
avez pu avoir un doute et là vous
commencez à éprouver ce vertige du
moment inéluctable où on ne saura plus
faire la différence entre vraie vidéo et
génération paria et où il faudra
peut-être commencer à se méfier de la
personne qui nous présentera une vidéo
sans nous dire comment elle est ét faite
ni nous en donné la source or là c'est
seulement en remontant à la source qu'on
saura à'ent tenir et de toute façon pour
l'instant S n'est pas accessible au
grand public il la teste avec une RED
team donc un nombre limité de personnes
pour voir un peu les dangers
potentiels voici une autre vidéo générée
par Sora par là aussi le rendu est hyper
stylé et alors on a plusieurs plans
différents gros plan
ici et a un plan plus large alors
analysons en vous concentrant uniquement
sur la dame trouvez-moi une preuve
indiscutable que c'est un fait c'est
parti
[Musique]
affuter alors avez-vous fait chou blanc
ou trouver cette preuve incontestable
vous avez déjà dû ressentir qu'il y a un
problème sur sa démarche est pas naturel
et pareil pour les gens dans le fond on
a l'impression parfois glisse oui par
exemple les jambes bougent mais le haut
du corps ne suit pas la tête et les
épaules monter et redescendre dans le
même Ry les jambes March et encore là on
a un effet de ralenti nous a tenu le
problème au passage ça on l'ait pas
demandé au départ parce que si on
accélère pour retrouver une vitesse
normal mais là le problème de la
démarche il devient
flagrant
droite gauche droite gauche droite
gauche le pas chassé se fait aussi
également à arrière il y a des ralentis
qui March bien ça
camouflef revenons à notreame et
observons ses
jambes regardez là carrément une
inversion des jambes vous avez vu la
jambe de gauche passe à droite bon ça
physiquement c'est
impossibleessz vous si vous voulez pry
espace dégag autour quand Mme vous pourz
c'est la preuve incontestable d'un fake
un œil d'aigle si vous l'avez alors
pourquoi sa fait ça alors que dans le
moindre jeu vidéo en 3D par exemple ça
n'arrive jamais et bien c'est lié à la
manière dont s fonctionne parce que ca
utilise des modèles de diffusion pour
générer des imag je vais pas revenir ici
sur ces techno on les avait déjà
expliqué en mettant les mains dans le
cambouille mais si vous voulez avoir
toutes les bases pour comprendre lia
j'ai tout résumé dans une série de
format cour je vous mets la playlist en
lien n'hésitez pas à aller la voir ça
vous permet de tout comprendre en 30
minutes dans un jeu en 3D tout est
modélisé le décor les arbres les
personnages donc un humain dès le départ
il a deux mains avec cinq doigts deux
jambes chacune bien de leur côté et le
moteur genre unwel engine il va juste
reproduire tous ces objets 3D dans
certaines positions avec un certain
décor et une certaine lumière pour la
génération d'images par modèle de
diffusion là Lia a suivi un
apprentissage en s'entraînant à
redessiner de manière vraisemblable des
millions d'images où des humains étaient
représentés et elle a vu que dans une
main il y a des doigts mais il peut y en
avoir quatre comme six elle les compte
pas la preuve d'ailleurs dans ces image
que vous avez vu passer c'est pour ça
que j'ai laissé mon triste acolyte nous
en faire quelquesunes ça date de mars
2024 et il y a encore ce type
d'incohérence parce qu'il y a pas eu
d'apprentissage spécifique pour dessiner
des mains pareil avec le texte les as
génératives en mettent dans leurs images
donc à première vue on peut se dire
qu'elles savent ce qu'elles écrivent
mais que nenni en fait uneia générative
a vu passer des textes lors de son
apprentissage elle sait à quoi ça
ressemble mais elle sait pas écrire si
elle en met parce qu'elle a vu que ça se
faisait comme là sur un uniforme elle
met des caractères qui ressemble à ce
qu'elle a vu là c'est presque police
mais c'est pas ça or ces modèles de
diffusion avec leur défaut actuel sont
utilisé lors d'une génération de vidéo
pour générer des images clés avec
ensuite un modèle de diffusion vidéo qui
complète en générant des images
intermédiaires donc ces défauts on les
retrouve dans les vidéos de Sora genre
les inscriptions regardez ici vous avez
une flèche et à côté un signe qui a
aucun sens et là dans le nombre il y a
un chiffre inconnu et pour les enciigne
c'est des signes qui font japonais parce
que le modèle sait qu'il y a ça à Tokyo
mais en fait il veulent rien dire non
plus alors tout ça on en a beaucoup
parlé quand la génération d'image est
arrivée et donc on pourrait se dire que
tout le monde l'a intégré mais en vrai
pas du tout il y a une naïveté si vous
vous promenez un peu sur Facebook qui
est dingue regardez celle-là recette
délicieuse de grandmaman un petit chat
en quartier demand
l 2200 fois les gens c'est regardez ces
quartiers là où là ça ça nexiste pas des
quartiers même d'Orange qui est ces
formes
là attendez je vous parle de naïveté là
mais si ça se
trouve petit test quand même on va
vérifier que vous êtes assez perspicace
pour vous promener sans risque sur
facebook voilà une image vrai ou
[Musique]
fake donc un papis talentueux j'ai
offert ce tableau à ma femme des masses
de commentaires dit tir en Bic bravo
monsieur vous êtes un artiste bah tu
m'étonnes le gars est doué mais il part
avec un sacré avantage aussi il a trois
mains donc fake un œil d'aigle à vous si
vous l'aviez
vu bon voilà cet enfant peintre n'a que
quatre doigts cet enfant pâtissière a
deux avant-bras qui on pas du tout la
même taille voilà c'est devenue la foire
permanente aux images artificielles et
parfois même ça vous renvoie vers des
boutiques où vous allez pouvoir acheter
des produits qui en fait n'existent pas
et que donc ben vous ne recevrez
jamais bon alors Facebook ma a diffusé
une note je vous la mets en source dans
la description de la vidéo où ils
annoncent que ils vont mettre des
petites mentions sur les photos créées
par ria et ils vont ajouter une case à
cocher soi-même quand on ajoutera une
image pour déclarer si ça a été généré
par ya ou pas et si on la coche pas
alors qu'on aurait dû ben on pourra
s'exposer à des sanctions sur le compte
si par la suite l'image est signalée
donc on le voit là c'est ces technos
évoluent très vite et du coup
l'encadrement autour doit s'adapter pour
suivre toutes ces évolutions à la fois
les plateformes et le cadre
juridique bonjour Roxane bonjour alors
vous êtes juriste spécialisé dans les
questions de we création et influence et
il m'a semblé que ça pouvait être
intéressant d'avoir votre il de juriste
tout au long de la vidéo sur ces
nouvelles techno et sur ce qu'on a le
droit d'en faire alors comme c'est comme
comme vous l'avez très bien dit c'est
des sujets qui sont très nouveaux donc
là que je vais vous dire c'est valable
au jour où cette vidéo sort a priori en
fait il y a beaucoup de de de recherches
qui sont ce s'appelle doctrinal
c'est-à-dire que ce sont des
professionnels du droit des praticiens
des praticiennes et cetera qui discutent
de ces sujets autour de l'IA on commence
à avoir donc on a eu le règlement je
regarde mon écran là parce que je l'ai
là exactement le le le règlement sur
l'IA donc l Act qui est sorti là tout
début d'année les objectifs de ce
règlement c'est de faire en sorte que l'
a soit sûre qui soit transparente
qu'elle soit traçable qu'il ait pas de
discrimination et qu'elle soit
respectueuse dans l'environnement c'est
les petits objectif on attend encore des
décisions de justice il y a pas de
fondement particulier donc c'est un
sujet qui est très nouveau donc pour
accompagner mes clients et mes clientes
au meilleur de mes capacités je pioche
dans différents textes de loi parfois un
petit peu de code pénal un petit peu de
code civil un petit peu de règlement
européen ça fait un cocktail très
sympathique ok alors j'é voquis ce label
que facebook va proposer sur les
contenus générés par a désormais sur
Youtube c'est la même chose depuis le 20
mars 2024 les créateurs doivent cocher
une case si leur vidéo contient du
contenu généré ou altéré par uneia donc
là c'est ce que j'ai fait sur cette
vidéo qui manifestement en contient et
du coup quand vous voyez les vidéos ça
fait figurer une petite mention comme ça
ce qui va permettre sur Youtube de
signaler une vidéo si jamais elle
utilise des images générées par yaa sans
que l'auteur les déclaré quoi
comme les CGU donc les conditions
générales d'utilisation des plateformes
permettent de mettre en place une espèce
de de régime juridique donc qui concerne
les plateformes on sait qu'il y a des
trucs qu'on a le droit de faire sur
Youtube qu'on a pas le droit trop le
droit de faire sur twitch voilà plein de
plein de réglementation a priori c'est
un outil qui fonctionne bien auprès de
YouTube on l'a vu avec le le
communication commerciale qui est donc
devenu une fonctionnalité organique et
qui a été reconnu grâce à la loi
influenceur mais en tout cas le
l'infringement en tout cas de enfin la
violation des CGU c'est des choses qui
fonctionnent très bien auprès des
plateformes elles arrivent très bien à
le à le mettre en place ok ben donc à
voir si on va retrouver petit à petit ce
type de label sur toutes les plateformes
merci Roxane on reviendra vers vous bien
sûr au fil de la vidéo en attendant méta
là ils nous disent la même chose que ce
que je vous répète à longueur de vidéo
finalement il est important que les gens
vérifient d'où le regard affué bon
revenons à la génération de vidéoos
parce qu'on en a pas fini au-delà des
incohérences au sein d'une image que
finalement ça on connaissait il y a un
problème nouveau propre à la vidéo et ça
je vous propose de le découvrir par
vous-même donc on retourne au charbon
voyz pour une fois je vais faire plaisir
au climatosceptique on reprend la vidéo
complète avec cette fois le plan large
puis le plan plus resserré sur la dame
essayer de trouver une autre preuve de
fake
[Musique]
affu
[Musique]
alors avez-vous eu le coup d'œil en fait
le truc c'était d'être attentif au
détails des vêtements de la dame sur son
pull rouge il y a des taches noires
derrière la tête elle a un chignon et sa
veste en cuir elle a des revers très
larges et quand on change de plan là
est-ce qu'on retrouve tous ces détails
et ben non pas de chignon plus de tâes
revers plus court veste plus courte
c'est une dame similaire mais c'est pas
la même il y a un défaut de cohérence
entre les deux plans d'gle à vous si
vous l'aviez vu pourquoi parce que liya
ne part pas d'un modèle à reproduire
comme on fait en 3D là à chaque plan
elle recrée une nouvelle dame similaire
en repartant des demandes initiales mais
au final c'est plus vraiment la même
dame et ça c'est comment à toutes les
applis de génération de vidéo actuelle
parce que dans mon petit doc du mois
dernier sur l'évolution du climat à un
moment j'ai reconstitué une interview de
quelqu quun qui colportait du fake
représenté en carotte là il faud
regarder la vidéo pour comprendre
pourquoi et là j'avais utilisé uneia gen
one de runway qui est déjà accessible en
payant j'ai eu exactement le même
problème et ce manque de cohérence d'un
plan à l'autre et ben ça ce sera un gros
frein si on voulait utiliser ce genre
d'IA pour faire un vrai film donc si on
résume Sora et les modèles de diffusion
vidéo oui c'est bluffant au premier
visionnage mais pour l'instant mars 2024
c'est pas du tout prêt pour faire des
fake et en plus ce sont des vidéos
muettes donc il faut encore les bruiter
derrière alors j'ai essayé euh
voilà hein c'est une fête d'anniversaire
mais vu par David lych peu alors bon
sinon il y a d'autres boîtes qui
proposent de venir à la rescous il laps
par exemple il bosse sur une qui devrait
bientôt être capable de générer des sons
à partir d'une description texte et ils
ont fait une démo sur les vidéos de s
just bref donc tout ça c'est sûrement
lesff de l'avenir mais nous on va se
pencher maintenant sur lesff du présent
et il y a fort à faire avec les techn
qui sont déjà
accessibleseven laaps dont on vient de
parler ils sont déjà bien connu pour
leur synthèse vocale ils font du Tex
speech on donne un texte on choisit une
voix et on obtient son avec la lecture
du Tex demandé et que l'obscurantisme
retourne à l'obscurité depuis l' dernier
il propose une très bonne de clonage de
voix c'est pas les sei ils on annoncé
qu'il ser capable de le faire à partir
d'un son de seulement 15 secondes bon là
sur las on peut entraîner un mod avec sa
voix en quelques minutes j'ai essayé
donc il demand d'enregistrer des phrases
30
secondesen 25 prhe on dit ce qu'on veut
dire le on peut aussi fournir des
fichiers tout près mais là il faut qu'il
soit propre qu'on entende la voix
clairement sans bruit de fond aès il
faut quelques minutes pour que le modèle
fasse l'apprentissage et on obtient un
clone de la voix là on peut lui faire
dire ce qu'on veut là vous voyez je ne
parle pas mais pourtant vous entendez
desator et bien c'est sa voix clonée qui
vous parle sur cet app actuellement il y
a 29 langues qui sont
géré
on peut comme ça faire du doublage de sa
vidéo la traduction est
automatique commenc à être utilisé pour
faire n'importe quo faire n test je vous
diffuse un exemple de vidé qui circule
sur Facebook et vous devez repérer au
moins deux choses qui clochent soyez sur
le coup ça va aller vite affut youtubeur
Lucas auchochard également connu sous le
nom de Squeezie a créé une nouvelle
application mobile sous licence déjà
installée par plusieurs milliers de
français où chacun peut gagner des
milliers d'euros chaque jour Squeezie a
expliqué qu'il a décidé de créer une
application de jeu parce qu'il essaie
toujours d'aider les gens et que cette
application leur permet d'augmenter leur
revenus il a donc pariné un fond de prix
qui sera divisé entre les joueurs des
jeux les plus populaires alors avez-vous
décroché le pctol normement c'était
facile là c'est un fa de misère Squeezie
n'a pas fait cet appli il y a eu un
clonage de la voix de Anne Claire
Coudret présentatrice du JT du weekend
sur T F1 VO plutôt réussi d'ailleurs
mais ce qui est calamiteux c'est le
montage dès le départ la voix n'est pas
synchro avec les images youtubeur Lucas
auchochard également connu sous le nom
de Squeezie l'habillage en bas dans le
bandeau n'est pas celui d'un vra JT de
TF1 d'ailleurs elle dit youtubeur il est
écrit blogur il est écrit créer au lieu
de créer et puis regardez logo de TF1
normalement il est là tout le long mais
là il disparaît il réapparaît parfois il
est écrit le 20 mais pas tout le temps
quant aux images illustration pourquoi
celles de Squeezie sont muettes et pass
en
accélérer n'impor quoi si vous aviez
trouvé au moins de défauts et je suis s
qu' av plus et j'ai pas tout rel lancer
une nouvelle application qui permet au
français de devenir très riche je suis
sûr que chaque personne pourra gagner de
l'argent avec l'aide de mon application
voilà ce que nous apprend cette
consternante visite sur Facebook et là
c'est mon opinion c'est que c'était pas
le tout d'initier papi mamie à Facebook
il aurait fallu aussi leur donner le
mode d'emploi du Deep fake l'éducation
au réseaux sociaux on y revient toujours
je caricature j'en fais un peu des
caisses mais c'est important de se
rendre compte qu'il ne suffit pas de
savoir manipuler un
pour ne pas se faire manipuler soi-même
et là bon c'est des images àanois ça n
guerre de conséquence et on les voit
venir avec leur gros sabot mais il y a
pas que des bras cassés qui utilisent
ces techn il y a aussi des fakers un peu
plus en pointe et c'est là où ça devient
plus compliqué bonjour Ben et bonjour
Alors on avait déjà échangé dans un
épisode tu es le créateur de la chaîne
notab tout à fait et alors aujourd'hui
tu viens nous conter une histoire mais
pas comme d'habitude là c'est ton
histoire de clonage de voix ouais
carrément j'avoue que j'étais je suis un
peu tombé de ma chaise quand quand j'ai
vu ça mais ce qui s'est passé c'est
qu'on il y a quelqu'un qui nous a averti
sur sur Instagram gentiment que il avait
vu passer dans dans son Fed TikTok une
une émission avec ce qui qui semblait
animé par par ma voix quoi donc on a été
voir ce ce compte c'est un compte qui
s'appelle histotrad euh c'était les les
les traditions françaises et l'histoire
tu vois voilà et et et donc il y avait
pas mal de contenus même tous les
contenus de cette chaîne qui avait
commencé il y a a déjà quelques semaines
maintenant il en sorté en gros une une à
deux par jour je
crois bah c'était du contenu un peu à la
fois scientifique bas de gamme et en
même temps à moitié Pol il y avait un
petit peu de tout c'était un peu bizarre
et et en fait c'était c'était ma voix
c'était ma voix qui présentait
l'émission sachant que moi j'avais
jamais eu connaissance de cette chaîne
là j'avais jamais eu connaissance de ces
textes que je n'ai jamais écrit et donc
oui c'était un type qui a passé ma voix
dans une moulinette d'un logiciel Ia
quelconque qui a récupéré ma voix et qui
du coup faisait vraisemblablement un
truc qu'on appelle le text to speech
c'estàdire que il donnait un texte à
liya qui ensuite bah le prononçait avec
ma voix quoi l'Afrique est immense et il
est difficile pour la plupart des gens
de réaliser à quel point ce continent
est tout simplement gigantesque là on
est vraiment sur un compte euh qui
euh prenait ma voix sans revendiquer mon
identité il y avait nulle part mon nom
nulle part mon logo c'était vraiment un
truc si tu si tu sais pas qui je suis
bah tu es pas au courant quoi mais les
gens qui qui savent ou qui qui
connaissent un peu l'émission ils
entendent le truc et tout de suite ma
voix c'est ma signature tu vois elle est
assez reconnaissable euh tout de suite
les gens disent ouis c'est not àéné
c'est cool tiens il a lancé une nouvelle
émission je savais pas je m'abonne tu
vois il y a des gens qui sont aller
poster des commentaires en disant ce
serait bien que tu arrêtes en fait ce
que tu es en train de faire et ces
commentaires là ont disparu alors que
les autres sont rester donc je pense que
derrière la personne était très lucide
dans ce qu'elle était en train de faire
voilà j'ai profité évidemment de la
présence de Roxane pour en savoir un peu
plus sur ce qu'il en est juridiquement
du clonage de voix la voix c'est un
attribut de la personnalité les
attributs de la personnalité c'est des
droits qui sont donc extra patrimonieux
c'est-à-dire qu'on ne peut pas faire
d'argent avec ils sont inccessibles on
ne peut pas les vendre je peux pas
vendre à quelqu'un la capacité de
recopier ma voix ou la capacité de me
prélever un organe si ça l'amuse et ils
sont imprescriptible c'est-à-dire que
ils n'ont pas de date d'expiration du
moins que la personne elle vit vous avez
des droits de de de la personnalité sur
la voie en elle-même c'est l'article 9
du code civil qui va s'appliquer vous
avez donc chacun a droit à sa vie privée
et en fait grâce à ce fondement là vous
avez le droit à l'image qui va avoir son
son assise juridique c'est un droit qui
est hyper jurisprudentiel sur le droit à
la voix en soi on se pose donc plutôt
sur du droit à l'image qui nous permet
en fait de de nous défendre c'est-à-dire
que chacun a droit sur son image euh
d'avoir une de pouvoir donner
l'autorisation de recopier son image
mais cette autorisation elle doit être
explicite et elle doit être spéciale
c'est-à-dire qu'on ne c'est jamais
implicite donc sur les attributs de la
personnalité type Image type droit à la
voix type clonage de je vois si on ne
vous a pas demandé l'autorisation c'est
une
infraction donc on passe directement sur
de l'atteinte à la vie privée et c'est
un fondement qui peut paraître flou
comme ça mais qui a le mérite d'être
très large et qui nous permet de nous
défendre si jamais on on constate une
infraction soit pour soi soit pour
autrui donc moi j'ai commencé à faire
desah des revendications j'ai signalé le
compte j'ai signalé les vidéos euh voilà
mais je savais pas trop quoi faire
d'autre la la vidéo disparaissait pas le
compte non plus euh j'ai pu faire appel
à un cabinet spécialisé dans la
propriété intellectuelle et eux ont été
revendiqués en mon nom enfin les vidéos
enfin ont dénoncé les vidéos et puis au
final c'est toutes ces revendications là
certaines ont été retenues et ça a fait
sauter la chaîne TikTok en en 6 jours à
peu près sachant que dans l'intervalle
peut-être 24 heures après moi ou 48h
même pas il y a le vidéast feldup qui a
subi le même sort et moi si tu veux ce
qui ce qui m'importe le plus là-dedans
c'est de me dire euh on pourra jamais
aller trouver un gars qui a l'autre bout
du monde et qui nous voent nos contenus
et enfin tu vois faire condamner laisse
tomber en revanche on peut [ __ ] la
pression sur les différentes plateformes
pour qu'elle soit plus réactive en terme
de modération c'est un enjeu d'avenir et
clairement on est qu'au début des des
emmerdes c'est sûr c'est clair en tout
cas merci et puis ben à très bientôt
salut ciao ciao alors après la voix
l'étape suivante c'est de cloner son
image et de se créer un avatar il y a
différentes applis qu' proposent par
exemple Agen j'ai essayé c'est assez
rapide là il suffit soit de se filmer
soit d'envoyer des vidéos de soi et
agent va cloner l'image et la voix c'est
ah oui il y a quand même un garde fou
avant qu'il crée l'avatar il faut
enregistrer une vidéo dans laquelle on
indique son consentement pour créer le
clone et après il va la comparer aux
vidéos con
validation
[Musique]
bon en fait il y a tout une palette de
possibilités il y a déjà la possibilité
de partir d'une simple photo et de
l'animer pour qu'elle se synchronise sur
un
son là vous avez monaalisa qui nous
déclame un monologue de Shakespeare
évidemment comme ça part d'une simple
photo au départ ça reste un peu
approximatif mais c'est déjà
impressionnant regardez notre dame de
Tokyo là en repartant d'une simple photo
on peut la faire chanter
là je coupe le son parce que sinon je
vais avoir des problèmes de droit une
autre possibilité c'est de prendre une
vidéo existante de quelqu'un qui parle
et de recaler son visage sur le son d'un
autre discours ça c'est Anice de la
chaîne defelligends qui nous l'avait
expliqué Anice d'abord on le connait
parce que on l'avait longuement reçu
pour parler de chat GPT et puis sur sa
chaîne Youtube que je vous conseille il
parle régulièrement d' de Deep fake d'un
point de vue technique allez voir sa
chaîne pour en savoir plus je vous ai
mis des liens sous la vidéo et à l'été
2023 il avait créé des clones de
présidents en ligne sur TT
en jouant sur le fait que des
personnages politiques peuvent être
caricaturés dans leur fonction on pit
poser des questions en direct VI le chat
il y avait Macron de GA il répondit
toujours un peu à côté des questions
cétait le but vous nous rejoignez
maintenant vous êtes sur mon super live
twitch je suis une version
du président français Emmanuel Macron
vous pouvez me parler depuis le chat
bien sûr je pourrais te raconter une
réunion des illuminatis mais je préfère
garder mes sources
confidentielles on sait jamais tu
pourrais être un agent double ça a été
très regardé à l'époque et un peu
médiatisé parce que on a pu se rendre
compte à cette occasion de ce qui était
possible techniquement moi je l'ai reçu
à Nice pour en parler sur twitch bon
c'était du direct donc la connexion
était pas terrible le son s'en ressent
un peu en fait je me suis appuyé sur des
solutions déjà Open Source je prends la
la question donc j'interrosee GPT qui
est le modèle de langage d'OP et il va
me avec une directive en lui disant tu
es le général de Gaul et cetera et lui
va me répondre dans le style du général
de Gaul je génère la voix sur une
solution qui s'appelle eleven Lab qui
est la plus connue qui est la leader du
marché actuellement sur la génération de
voix et après je génère la vidéo et en
fait c'est pas la peine de générer tout
le visage pour faire dire quelque chose
à quelqu'un il suffit juste de générer
la bouche une solution qui s'appelle
wave to lip qui permet en fait de
modifier juste la bouche des fan
intelligence ah ce garslà disons que la
sympathie n'est pas son point fort bon
l'expérience avait tourné court parce
que les gens connectés avaient réussi à
lui faire dire des Ding gris ce qui
avait été contre les CGU de la
plateforme et provoquer un ban de son
compte quelques jours ça c'est donc le
Lipsy aujourd'hui ça c'est au point ça
par exemple c'est un lips c'est des
vidéos enregistré par une vraie
actrice mais il y a une appli qui vous
génère un lips pour faire une pub pas ch
ça c'est un autre liping Gén à partir
deette vidéo et c'est flagrant la bouche
change mais les mouvements de tête sont
identiques catégorie
suivante les influenceuses a Tana Lopez
influenceuse espagn virtuel dont les
images sont créées par ya et qui compte
300000 followers sur insta influence en
tout cas par son succès quentité de gens
qui font des vidéos sur YouTube vous
aussi créez votre influenceuse et entrez
dans le business de l mou bon parfois
quand on va voir les influenceuses créé
dans ces vidéos on peut pas dire que la
démonstration du succès soit bien
convaincante mais c'est surtout sur la
méthode de création de ces influenceuses
qui a un souci dans les premières vidéos
sorties sur le sujet vous aviez des gens
qui vous expliquent qui est bon vous
utilisez une générative vous générez un
visage d'influenceuse qui donc n'existe
pas et ensuite vous prenez des vidéos
libres de droit ou carrément gé paria et
vous collez votre visage inédit dessus
et avec ça vous remplissez un compte
insta TikTok omnifan que sais-je
pourquoi pas mais petit à petit à force
que ce genre de vidéo se multiplie sur
des chaînes avides de clic et de sujets
à la mode on en a vu apparaître où la
méthode c'est devenue vous générez un
visage et puis vous prenez des vidéos
d'influence genre sur TikTok vous collez
le visage dessus et en voiture et ça
passe crème alors c'est sûr oui
techniquement l'influenceuse avec cette
tête là elle existe pas mais au passage
a quand même eu un peu de vol la
contrefaçon ça peut s'appliquer mais la
contrefaçon c'est une infraction qui
nous dit que si vous reproduisez si vous
imitez si vous utilisez de manière
totale ou partielle un un actif de
propriété intellectuelle sans
l'autorisation de du propriétaire c'est
une cont façon donc sur cette question
spécifiquement je peux pas vous dire oui
ça c'est sûr c'est une contrefaçon oui
ça c'est sûr c'est une atteinte de droit
à l'image en fait il faut regarder au
cas par cas je je reprends le visage de
quelqu'un ou et je le mets sur un corps
ou l'inverse généralement c'est plutôt
la teinte au droit l'image qui paraît la
être la plus appropriée parce que c'est
extrêmement violent en fait de se pasah
de se rendre compte qu'on nous a volé
quelque chose qui nous appartient
tellement à nous de nous avoir volé un
attribut de la personnalité qu'on va
plutôt sur ce fondement juridique là
mais ça n exclu pas la possibilité bien
sûr de d'avoir des des actes en
contrefaçon aussi quoi qu'il en soit on
voit bien qu'on a pas besoin de Sora
avec les technos qui sont déjà en place
on peut très facilement faire dire des
dingueries à quelqu'un dont on fait un
avatar et dont on clone la voix et
surtout à quelqu'un qui bouge pas genre
un présentateur de JT regardez cette
vidéo elle est sous-titrée en russe
parce que elle a été diffusée sur les
réseaux sociaux en Russie téegram VK on
voit le logo de France 24 ici en bas
c'est un extrait d'un JT en français
présenté par Julien fchoui du 12 février
2024 on écoute le président français
Emmanuel Macron a été contraint
d'annuler sa visite en Ukraine à la
suite d'une provocation meurtrière à son
encontre selon une source proche du
Conseil national du renseignement cette
tentative a été stoppée par les services
secrets français qui ont réussi à
intercepter la correspondance et les
appels des participants à une
provocation potentielle selon la source
selon l'idée des dirigeants Ukrainiens
l'attaque aurait dû attir à nouve
l'attention de l'opinion publique
mondiale sur l'Ukraine et permettre une
augmentation des livraisons d'armes à
l'raine on sent que le ton n pas naturel
même les formulations sont bizarres et
puis il y a quelques petits soucis de
synch mais c'est fait très
astucieusement parce que on filme une
télé qui diffuse l'extrait donc ça bouge
c'est un peu pixellisé ce qui permet
d'atténuer les imperfections à l'image
et puis on entend des bruits dans la
pièce attirer à nouveau l'attention de
l'opinion publique mondiale sur
l'Ukraine comme si quelqu'un faisait
autre chose à côté on a vraiment
l'impression que quelqu'un a pris son
téléphone comme ça sur le vif pour
filmer ce qui passait à la télé et le
balancer sur les réseaux sociaux donc
c'est très malin parce que ça donne un
sentiment d'authenticité et de de
partage citoyen néanmoins il y a
peut-être un truc qui cloche dans la
manière dont c'est fait essayez de le
trouver quelques secondes de réflexion
le président français Emmanuel Macron a
été contraint d'annuler sa visite en
Ukraine à la suite d'une provocation
meurtrière à son encontre selon une
source proche du Conseil national du
renseignement cette tentative a été
stoppée par les services secrets
français alors avez-vous fait preuve de
logique quand on a des images filmées
par quelqu'un c'est intéressant de se
poser la question du contexte de celui
qui a filmé essayons de se projeter à sa
place si on entend qu'on parle d'un
sujet à la télé et qu'on veut filmer le
truc mais le temps de prendre son
téléphone de déclencher l'enregistrement
on va rater les premières secondes le
président français Emmanuel Macron a été
contraint d'annuler sa visite en Ukraine
mais là non là on a l'intervention
complète du journaliste donc si on se
projette à la place de celui qui a filmé
ça veut dire que il savait forcément ce
qui allait être dit avant que ça ne
commence et ça trahit une probable mise
en scène donc un d'glavou si vous y
aviez pensé bon mais tout ça comme le
fait que ça sonne un peu artificiel à
l'oreille c'est pas très grave parce que
initialement ce fake il est diffusé sur
des comptes russes à l'intention des
Russes qui comprennent pas forcément ce
qui est dit c'est pour ça que c'est
soustitré c'est de la propagande
destinée d'abord à une audience
russophone et ça appuie un narratif
repris par Dimitri Medvedev
vice-président du Conseil de sécurité de
Russie et président du parti de Poutine
qui s'exprimait sur X le 14 février en
donnant la même fausse info alors
maintenant comment on peut être sûr que
c'est du fake on l'a dit même si on a
identifié un faisceau d'indice au
visionnage la vraie vérif c'est de
remonter à la source et ici France 24 a
démenti que ce Tru ait été diffusé sur
leur antenne bon après il y aura
toujours des gens pour venir hergoter
sur l'origine du truc j'en ai vu sur les
réseaux sociaux qui demandaient oui mais
quelle preuve on a que ça vient du
kemelin ben aucune mais à la rigueur pe
leur chaud non ça c'est juste prendre un
prétexte pour tergiverser et créer du
doute mais au fond on s'en fout de qui
ça vient on a vérifié que ça ne venait
pas de France 24 donc c'est du fake et
basta par contre attention pas de
surinterprétation c'est pas parce qu'on
trouve une vidéo fake à propos d'un fait
qu'on peut dire ce fait n'a pas eu lieu
on a simplement constaté que ce qu'on
nous présentait comme une preuve de ce
fait était un fake donc cette preuve là
n'est pas valable c'est tout ce qu'on
peut en déduire après s'il existe
d'autres preuves il faudra les examiner
à leur tour tout récemment suite à
l'attentat à Moscou du 22 mars 2024 un
nombre de comptes sur tégram et puis la
chane rus ont diffusé une vidéo d'une
interview du secrétaire de conseil de
dé en réalité cette vidéo était un fake
les journalistes qu'on voit à gauche
provenaient d'une vidéo du 16 mars et
l'image de l'interview V provenait d'une
autre vidéo du 19 mars on les retrouve
sur Youtube elles sont datées et ensuite
il y a eu clonage de la voix et
modification de la zone de la bouche
pour faire dire ce texte qui qui était
un peu grossier quand même voilà quand
on compare la vidéo du 19 mars et celle
générée on voit que les mouvements de
tête sont exactement les mêmes il y a
que la bouche qui a été regénérée là
dans un contexte aussi tendu on imagine
la gravité des conséquences de ce type
de fake s'ils ne sont pas
[Musique]
repérés exemple c'est ukrainienne qui
explique qu'elle rêve de devenir
présidente pour sauver son pays et que
les hommes Ukrainiens qui désertent sont
des Lim oh mais attends cette VO je la
connais bien c'est qu'elle a été bien
ploné alors parce que c'est c'est déjà
non je suis sûr que j'ai déjà entendu ça
dit quel chose cette voix je connais
quelle mais alors d'O je la connais
c'est Nancy ah oui c'est c'est une
actrice ukrainienne qui fait des films
pour adultes ah oh ben non alors non ça
m'étonne parce en plus avec
les donc non j'ai rien dit il s'agit
d'un deep fake qui voulait répondre
l'idée que l'Ukraine était devenue
décadente depuis qu'un acteur zelensk
avait été lu président et donc là il y
aurait cette fois une actrice X qui se
présenterait à la présidente bon cas
class clonage de VO récupération d'une
vidéo resynchronisation labiale sur un
nouveau texte et on vous colle un logo
The son pour donner l'impression que
c'est repris d' média alors attention là
on a vu de la propagande proorusse mais
il y a aussi de la propagande
proukrainienne je le reprécise à chaque
fois parce que dans les commentaires
j'en vois parfois qui on l'air d'être là
uniquement pour compter les points moi
je suis pas là pour vous dire V est
gentil est méchant je m'av pas des
compétences en géopolitique l'objectif
de la chaîne c'est de parler des fakees
et d'essayer de nous donner des moyens
de nous en prémunir donc un exemple de
fake plutôt proukrainien ça c'était en
juin 2023 une fausse intervention télé
de Vladimir Poutine qui déclare que
l'Ukraine a envahi le territoire russe
que la loi martiale est déclarée et
qu'il va y avoir une mobilisation
générale du pays donc de qui ça venait
on le sait pas plus que pour les
précédents mais là cette fois ça visait
plutôt à déstabiliser la population
russe sur la forme c'est les mêmes
techniques et quand on regarde
attentivement la synchro de la bouche
est pas bonne mais là aussi film sur une
télé de loin ça passe et vous avez vu la
même en version radio là enregistré au
téléphone sur un autre Radi non j'ai
retrouvé la vidéo d'origine du fake là
ah bon oui sur la fi tu montrer j'ai
retrouvé la vidéo d'où il est parti le
gars c'est une interview sur la chaîne
rocos World le gars il a dû reprendre ça
il faire dire autre chose parce que elle
parlait pas du tout de présidence
CIT non elle parlait d'autres trucs ouis
et ben je suis impressionné c'est
tellement rare que tu t'investisses
comme ça dans les vidéos comment tu as
retrouvé ça non c'est que j'y avais vu
passer ENF quand je dis j'y avais vu
attention c'est façon de parler toute
façon j'y vois rien
donc en tout cas effectivement quand on
retrouve la vidéo d'origine d'où est
tiré un deep fake et qu'elle est
antérieur mais on a bien la preuve que
c'était un fake merci à toi moiuss si je
peux rendre service mais n'hésite pas
s'il faut faire d'autres recherches sur
Oui Cindy nonancy ENF je crois que c'est
Nancy mais je sais pas parce que
finalement je connaissais pas du tout
très bien
merci autre conflit Israël et Gaza là
aussi il y a eu énormément de fake de
par et d'autres hein là non plus on va
pas compter les points mais on peut
prendre deux cas emblématiques pour
nourrir la réflexion il y a eu cette Une
de Libération avec l'image d'un bébé
dans les décombres de Gaza qui était un
fake généré par alors attention ça veut
pas dire qu'il y en a pas eu mais là on
a eu un fake qui s'est retrouvé en une
et ça a créé de la polémique d'autant
plus que sur la photo complète que là on
voit sur son site d'origine on voyait
tout à droite l'indice de fake avec des
doigts en trop mais le recadrage sur la
Une de Libération fait qu'on ne voit pas
cette partie là et nulle part sur la Une
il n'est fait mention qu'il s'agit d'un
fake le directeur de la publication a
expliqué en réponse à la polémique que
la photo qui donc montrait une manif
haer contre les bombardements était
centré sur le manifestant qui brandit
une pancarte sur laquelle figure ce fake
et que ces images fa sont utilisés dans
les manifes comme des symboles mais de
fait la démarche n'est pas claire
qu'est-ce qu'un lecteur pouvait y voir
sans avoir eu ce contexte et le
directeur de publication explique que
pour ce manifestant la vérité importait
peu mais la une ne nous a pas donné
toutes les clés pour comprendre ça autre
fait symptomatique du côté israélien
cette fois voilà Bella Hadid qui est une
mannequin américaine très populaire dont
le père est palestinien et elle a
soutenu Gaza mais début novembre on a pu
voir une vidéo diffusée sur X partagé vu
plus de 30 millions de fois qui éit un
deep fake qui lui faisait dire
is dans bouche contraire
deaitcén sur les r il est très fier de
sa vidéo
TR justeér
dans V Vié sont les mitions d'une autre
sorte de guerre
oui je l'espère depuis la supercherie a
été découverte et la vidéo supprimé on
va pas mtip les exemp à
l'inferig fait que pour faire la guerre
il faudrait utiliser des missiles
biégr vidé parodique mais surqu Mo aprs
é
pouréilisours
au premier degré ça parat énorme mais le
pire c'est qu'il y a quand même eu des
gens qui ont cru alors on a bien rigolé
des boomers qui partagent du fait
grossier sur Facebook mais forcz de
constater que dès qu'on est militant
pour ceci ou contre cela et qu'on voit
passer une vidéo qui va dans le sens de
ses idées le B de confirmation a vite
fait d'étouffé l'esprit critique le pire
étant ceux qui rediffusent le fake même
en ayant compris la douille mais qui se
justifie par un bon vieux oui non mais
là c'est faux mais ça aurait pu être
vrai donc ça va quoi on sait c'est faux
mais chaud on sait que c'est fake on s
[Musique]
B des agences gouvernementales
organisent des propagandes de
désinformation c'est pas nouveau elles
utilisent les techn de fake comme elles
en ont utilisé d'autres par le passé ce
qui est nouveau c'est que désormais ces
techniques de fake sont facilement
accessibles à tous et elles sont
envisagées maintenant comm des armes qui
permettent à chaque citoyen de jouer un
rôle il s'agit même d'une arme de
désinformation massive une fois poussée
par des réseaux sociaux ou finalement
toutes ces vérités alternatives
s'enchevêre c'est un chaos
informationnel qui s'installe une
confusion qui s'étend c'est là que pour
éviter qu'on se joue de nous il faut
savoir comment se défendre de ces armes
virtuelles alors sur l on entend souvent
se demander si l'arrivée future d'une
intelligence artificielle générale va
pas sonner la fin de l'humanité
sait rien mais ce qu'on voit déjà là
c'est qu'en réalité l'humanité n'a pas
besoin d'attendre ce stade pour prendre
de l'avance rien que là avec des encore
balbuante mais on cherche déjà comment
faire des usages fruduleux pqueux dans
un cadre légal parfois mouvant dont on
profite pour arnaquer pour manipuler et
au fond c'est déjà ça le premier danger
c'est nousmême nos outils évoluent plus
vite que notre
humanité alors outils il est important
de connaître leur potentiel leur limit
et savoir détecter les usages détournés
et puis audelà de ça prendre du recul
réfléchir à la manière dont tout ça
change petit à petit notre rapport à la
réalité et moi j'espère modestement que
cette vidéo aura pu contribuer un peu
bon concernant le test pour savoir si
votre regard était bien affuté il y
avait six yeux d'èigle en jeu si vous
avez eu les six vous êtes affuté ce qui
n'empêche pas de rester à l'affu et si
vous en avez eu moins ou si ça vous
intéresse de prolonger un peu ces tests
je vous en ai préparé h autres dans une
petite vidéo bonus je vous la mets en
lien vous pouvez la retrouver dans la
description sous la vidéo c'est une
vidéo courte c'est juste de
l'entraînement et si des aspects
juridiques vous intéressent je vous mets
également à disposition dans une autre
vidéo bonus une version plus longue de
l'entretien avec Roxane tierbass merci
Roxane pour ces éclairages tout au long
de l'épisode merci beaucoup au revoir et
nous ben on va se dire comme à la fin de
chaque épisode consacré àya on se
retrouvera sûrement d'ici quelques mois
pour voir où nous en serons çaaura
sûrement évolué que sera devenu ce gros
cont tributaire de l générative est-ce
qu'il va perdre du poids est-ce qu'il va
changer de cap dis donc ma cap au moins
met une touche de fantaisie toi regarde
toi tu es tout en noir tu dépins tout en
noir même ta phrase de fin elle est
déprimé pas du tout c'est un message
d'espoir ben attends on va demander à l
de trancher ah que l'obscur rend triste
et retourne à l'obscurité c'est pas du
tout ce que je dis obscurantisme dis
toi-même mais là vair faire du trou pour
les oreilles
aussi
[Musique]
en raison d'un bagage délaissé en gare
de la mode bvron
Посмотреть больше похожих видео
Intelligence Artificielle | Que dit la loi sur les droits d'auteur et le droit à l'image ?
HGGSP - S'informer : L'information à l'heure d'internet
Comment ces IA inventent-elles des images ?
C’est quoi l’intelligence artificielle ? Découvrir #1
HGGSP - Histoire et Mémoires 1/4 Thème 3 Terminale - Débat historique, La Première Guerre mondiale
Liberté ou contrôle de l'information : un débat politique fondamental (Axe 2 info média 1ère HGGSP)
5.0 / 5 (0 votes)