Intelligence Artificielle | Que dit la loi sur les droits d'auteur et le droit à l'image ?
Summary
TLDRDans cette vidéo, les droits d'auteur et le droit à l'image sont discutés dans le contexte de l'intelligence artificielle. L'avocat Simon Mills, spécialisé dans le droit de la propriété intellectuelle, aborde des questions juridiques complexes liées à la création d'œuvres par des IA. Il explore les implications légales pour les créateurs et les utilisateurs de ces technologies, mettant en lumière les défis et les spéculations actuelles dans un domaine encore largement non réglementé.
Takeaways
- 📚 Les droits d'auteur et le droit à l'image sont des domaines juridiques clés pour comprendre l'impact de l'intelligence artificielle (IA) dans le domaine de la création.
- 🤖 L'IA pose des questions juridiques complexes, notamment en ce qui concerne la protection des œuvres créées par des algorithmes plutôt que par des humains.
- 🎨 L'originalité et la personnalité de l'auteur sont des critères importants pour la protéction du droit d'auteur, mais ils sont difficiles à appliquer à la création assistée par l'IA.
- 🖼️ Des exemples de cas pratiques, tels que la création d'œuvres photographiques automatisées, mettent en évidence les défis liés à l'attribution des droits d'auteur.
- 🌐 Le Copyright Office américain a décidé que les œuvres créées par l'IA ne sont pas protégées par le droit d'auteur, soulignant l'incertitude juridique internationale.
- 🔄 L'association d'œuvres humaines et d'œuvres issues de l'IA peut permettre d'obtenir une protection partielle par le droit d'auteur.
- 👥 Des discussions sur les droits d'auteur et l'IA incluent la question de savoir qui devrait détenir les droits sur les œuvres créées avec l'aide de l'IA.
- 🔍 La question de la reprise du style artistique par l'IA est complexe et peut entraîner des problèmes de concurrence déloyale ou de parasitisme.
- 🚫 La protection du droit à l'image s'applique également aux images créées par l'IA, nécessitant le consentement préalable de la personne représentée.
- 💡 Des solutions potentielles pour gérer les droits liés à l'IA incluent des partenariats avec des entreprises, des fonds pour les auteurs et des étiquettes pour empêcher l'utilisation non autorisée des œuvres.
- 🌟 L'avenir de la création assistée par l'IA est incertain, mais les professionnels du domaine doivent s'adapter rapidement aux nouvelles technologies et aux réglementations qui les entourent.
Q & A
Quels sont les deux domaines de droit que les créateurs devraient connaître avant d'aborder l'intelligence artificielle dans leur travail?
-Les deux domaines de droit essentiels sont le droit d'auteur et le droit à l'image.
Pourquoi la création d'œuvres par des intelligences artificielles complique-t-elle la question du droit d'auteur?
-La création par des IA pose des problèmes car les œuvres ne reflètent pas nécessairement l'empreinte de la personnalité de l'auteur, critère essentiel pour la protéction du droit d'auteur.
Comment l'intelligence artificielle peut-elle influencer l'avenir des graphistes et des photographes?
-Les IA peuvent potentiellement remplacer les graphistes et photographes dans certaines tâches, ce qui pourrait les rendre obsolètes et mettre fin à leur travail traditionnel.
Quelle est la décision récente du Copyright Office américain concernant les œuvres créées par des intelligences artificielles?
-Le Copyright Office américain a décidé qu'une œuvre créée par une IA n'était pas protégeable par le droit d'auteur.
Comment les créateurs peuvent-ils protéger leurs droits sur les œuvres générées par des intelligences artificielles?
-Les créateurs peuvent retravailler les œuvres générées par les IA en ajoutant leur propre apport original, ce qui pourrait constituer un élément protégé par le droit d'auteur.
Quelle est la notion d'œuvre composite en droit d'auteur?
-L'œuvre composite est une œuvre qui contient plusieurs œuvres protégées par des droits d'auteur, appartenant à différentes personnes. Les droits sur ces œuvres peuvent varier et nécessitent une gestion complexe.
Comment les conditions générales des intelligences artificielles influencent-elles les droits d'auteur?
-Les conditions générales des IA souvent transfèrent tous les droits sur les œuvres créées à l'utilisateur, mais ces droits ne sont pas exclusifs, ce qui laisse la porte ouverte à la réutilisation par d'autres.
Quels sont les risques liés à l'utilisation d'images générées par des intelligences artificielles dans des campagnes commerciales?
-Les risques incluent la réutilisation non autorisée des images par des concurrents, la création de confusion entre les marques et les œuvres originales, et le potentiel manque à gagner pour les auteurs originaux.
Comment les artistes peuvent-ils se protéger contre la réutilisation de leur style par des intelligences artificielles?
-Bien que le style en lui-même ne soit pas protégé par le droit d'auteur, les artistes peuvent se tourner vers la responsabilité civile ou la concurrence déloyale pour faire valoir leurs droits si leur style est utilisé de manière déloyale.
Quelles sont les solutions potentielles pour gérer les droits d'auteur et à l'image dans le contexte de l'intelligence artificielle?
-Les solutions potentielles incluent la création de bases de données spécifiques pour l'entraînement des IA, l'utilisation de tags pour empêcher l'utilisation non autorisée des œuvres, et la mise en place de fonds pour indemniser les auteurs affectés par la création automatique.
Outlines
🤖 Introduction aux enjeux juridiques de l'IA
Le paragraphe introduit les questions juridiques liées à l'intelligence artificielle (IA), en particulier en ce qui concerne le droit d'auteur et le droit à l'image. On y évoque la nécessité de se familiariser avec les notions de ces deux domaines pour comprendre les enjeux de l'IA. L'intervention d'un avocat spécialisé dans le droit de la propriété intellectuelle est annoncée pour aborder ces questions, soulignant l'importance de s'adapter aux nouvelles technologies et de trouver des solutions juridiques innovantes.
🎨 Les droits d'auteur et l'IA
Dans ce paragraphe, on explore les implications du droit d'auteur avec l'IA. On se concentre sur la question de savoir si les créations automatiques d'IA sont protégées par le droit d'auteur et si elles reflètent l'empreinte de la personnalité de l'auteur. Des exemples sont donnés pour illustrer la complexité de l'application du droit d'auteur dans ce contexte, et l'on évoque les décisions de justice et les spéculations actuelles sur la protection juridique des créations d'IA.
🖼️ Les implications juridiques de l'utilisation de l'IA dans la création artistique
Ce paragraphe examine les implications juridiques pour les créateurs et leurs clients lorsqu'ils utilisent l'IA pour créer des œuvres. On discute des droits d'auteur potentiels sur les images générées par l'IA et de la nécessité de combiner des éléments créés par l'IA avec des éléments de réelle création humaine pour obtenir une protection juridique. L'importance de la contribution de l'auteur dans le processus de création est mise en évidence.
🌐 Les réactions variées face aux IA dans le secteur de la création
Le paragraphe présente les différentes attitudes des acteurs du secteur de la création envers les IA. Certains sont ouverts à collaborer avec l'IA et à explorer de nouvelles formes de création, tandis que d'autres sont plus réticents et craignent que l'IA ne remplace les artistes et les photographes. On mentionne également les efforts de certaines entreprises pour protéger les œuvres d'artistes en utilisant des balises pour éviter qu'elles ne soient utilisées par des IA sans autorisation.
👤 Le droit à l'image et les créations d'IA
On aborde les questions liées au droit à l'image dans le contexte des créations d'IA. On se demande si les images générées par l'IA qui représentent des personnes sont soumises au droit à l'image et si l'on doit obtenir le consentement des personnes représentées avant de les utiliser. Des hypothèses juridiques sont avancées pour tenter de répondre à ces questions, en soulignant l'importance de la reconnaissance de l'identité et la protection de la dignité de la personne.
🚨 Conclusion et perspectives pour l'avenir
En conclusion, le paragraphe résume les enjeux juridiques discutés et souligne l'importance de continuer à explorer et à adapter les solutions juridiques aux défis posés par l'IA dans le domaine de la création. On évoque également la perspective d'une table ronde pour discuter plus en détail de ces questions, invitant les spectateurs à participer et à suivre les discussions à venir.
Mindmap
Keywords
💡Droits d'auteur
💡Droit à l'image
💡Intelligence Artificielle
💡Créations autonomes
💡Empreinte de la personnalité
💡Prompt artiste
💡Caricature
💡Œuvre composite
💡Parasitisme
💡Data mining
Highlights
L'intelligence artificielle (IA) pose des questions juridiques complexes sur les droits d'auteur et le droit à l'image.
Pour qu'une œuvre soit protégée par le droit d'auteur, elle doit refléter l'empreinte de la personnalité de l'auteur, critère dégagé par les tribunaux.
Les créations automatiques ou faites par des animaux ne sont pas protégées par le droit d'auteur car elles ne sont pas issues d'un humain.
L'IA peut créer des images qui ne sont pas protégées par le droit d'auteur, car elles ne reflètent pas nécessairement l'empreinte de la personnalité de leur créateur.
Le Copyright Office américain a décidé qu'une œuvre créée par IA n'est pas protégeable par le droit d'auteur.
Il est possible d'associer des créations humaines et des créations d'IA pour obtenir une protection par le droit d'auteur.
Le droit à l'image s'applique théoriquement aux images générées par IA, à condition que la personne représentée soit identifiable.
La création d'images caricaturales de personnes connues peut être protégée par le droit à la liberté artistique, mais doit respecter la dignité de la personne.
Les personnes qui utilisent des IA pour créer des images peuvent se voir attribuer des droits d'auteur sur les éléments de leur intervention créative.
Les conditions générales des IA peuvent donner tous les droits sur les créations, mais non exclusifs, ce qui ouvre la possibilité de réutilisation par des tiers.
Les IA peuvent créer des images de personnes qui n'existent pas, ce qui soulève des questions sur la protection de la propriété intellectuelle et la concurrence déloyale.
Les auteurs peuvent demander aux IA de ne pas utiliser leurs œuvres pour éviter le data mining, mais la mise en place de cette protection reste théorique.
Des solutions pratiques comme le tag 'no eye' ont été mises en place pour éviter l'utilisation non autorisée des œuvres par les IA.
Des partenariats entre les banques d'images et les IA sont établis pour permettre la création d'images sans droits d'auteur, mais ils peuvent inclure des fonds pour indemniser les auteurs.
La question de la protection des droits d'auteur et du droit à l'image dans le contexte de l'IA est encore largement non réglementée et en cours d'évolution.
Des mesures comme la mention obligatoire de la création par IA sur les images pourraient être envisagées pour protéger les auteurs et éviter la confusion.
Les implications juridiques de l'IA sur le droit d'auteur et le droit à l'image sont un sujet d'actualité et de débat, nécessitant une réflexion collective et la prise de décisions informées.
Transcripts
salut tout le monde c'est Nico et on se
retrouve encore une fois dans le sud de
la brique avec maître Simon mins salut
tout le monde alors si vous nous
découvrez maintenant je vous conseille
d'aller voir les deux précédentes vidéos
qu'on a fait ensemble la première qui
traite des droits d'auteur et la seconde
du droit l'image parce que si vous
n'avez pas un minimum de notions dans
ces deux domaines-là ben vous risquez de
pas comprendre ce qu'on va dire
aujourd'hui tout à fait c'est un
préalable intéressant parce que vous
avez les bases sur le droit d'auteur et
droit à l'image et ensuite on va les
appliquer à la question de
l'intelligence artificielle
mais avant je vais te laisser te
présenter parce que il y a des gens qui
ne te connaissent pas encore
pour les quelques irréductibles qui
n'auraient pas vu les vidéos précédentes
déjà merci Nico pour pour l'invitation
donc je suis toujours avocat j'existe
j'exerce toujours en droit de la
propriété intellectuelle sur Marseille
et puis plus précisément entre Marseille
et Paris et voilà la propriété
intellectuelle c'est assez vaste je
traite des questions de droit d'auteur
de droit à l'image dont on a déjà parlé
de droit du numérique évidemment mais ça
peut aussi concerner des questions de
marque de brevet de création technique
et bah c'est pour ça que pour moi le
sujet de l'intelligence artificielle
c'est
ultra intéressant parce que c'est le
cœur des innovations d'aujourd'hui et
que ça pose plein de questions sur
comment adapter des solutions juridiques
qui existaient avant à cette nouvelle
technique et donc je suis ravi de
pouvoir en parler avec toi
voilà donc aujourd'hui on va aborder la
fin du monde on va aborder la mort des
graphistes et des photographes qui vont
perdre leur travail à cause des
intelligences artificielles et qui vont
mourir du coup et qui vont mourir aussi
du coup et mais surtout légalement
qu'est-ce qu'on peut faire et qu'est-ce
qu'on peut faire avec des images créer
par ou avec des intelligences
artificielles sachant que une bonne
partie des réponses qui seront données
c'est beaucoup d'interprétations parce
que il y a pas encore de de
loi vraiment à proprement parler qui
traite de ces questions là et du coup on
va essayer d'appliquer des choses
préexistantes à une solution nouvelle et
donc il y a une grande part
d'interprétation et il y a pas non plus
beaucoup de décision de justice donc
voilà c'est un peu de spéculation un peu
d'analyse mais
c'est des solutions concrètes mais qui
seront peut-être provises en tout cas
ouais parce que actuellement c'est un
peu un gros flou juridique autour des
intelligences artificielles c'est
quelque chose de très nouveau surtout
dans le milieu du graphisme et c'est
pour ça aussi qu'on voulait faire un peu
cette vidéo c'était pour voir en l'état
où est-ce qu'on en est qu'est-ce qu'on
peut faire qu'est-ce qu'on peut va faire
et toutes les implications juridiques
que ça peut avoir pour nous les
créateurs mais aussi pour nos clients
[Musique]
bon du coup premier point qu'on va
aborder ça va être les droits d'auteur
moi en tant qu'artiste auteur je facture
des droits d'auteurs c'est d'ailleurs
enfin mon statut est basé là-dessus
maintenant si jamais j'utilise une
intelligence artificielle pour créer
est-ce que est-ce que c'est protable je
te rends pas le droit d'auteur alors
c'est une question qui est qui est hyper
intéressante parce que
ce qu'on a vu dans les précédentes
vidéos c'est qu'est ce qui définit ce
qui est protégé par le droit d'auteur il
y a un critère en droit français en
particulier c'est
pour qu'une œuvre soit protégéeable il
faut qu'elle reflète l'empreinte de la
personnalité de l'auteur ça c'est
critères qui est dégagé par par les
tribunaux
en pratique c'est très compliqué à
appliquer à ce cadre là parce que
il y a une grande partie de la création
qui est automatique c'est à dire que
l'utilisateur va mettre du texte et
l'intelligence artificielle va sortir
des images sauf que les images ne sont
pas issues du cerveau de la de l'auteur
et c'est très compliqué de dire que ça
reflète l'empreinte de sa personnalité
et donc c'est en fait ça rejoint deux
questions à peu près valables c'est que
on a toujours établi en matière de droit
d'auteur que une création devait être
l'offre d'un humain et c'est pour ça
qu'on a exclu de la protection des
créations
automatiques ou des créations faites par
des animaux enfin tout ça il n'y a pas
droit d'auteur parce que c'est pas fait
par un humain et le deuxième point ce
que je disais c'est qu'en fait c'est à
partir du moment où la création elle se
fait de manière autonome ou automatique
on considère que il y a pas
d'intervention humaine et pas de pas de
droit d'auteur un exemple d'affaires qui
a pu y avoir c'était un artiste qui
avait mis qui avait accroché un appareil
photo sous un avion qui avait survolé
Paris prenait des photos de manière
automatique et en fait on a décidé que
c'était pas protégea par le droit
d'auteur parce que bah en fait la
création se faisait de manière
automatisée de manière un peu un peu
autonome et là on est encore plus dans
l'autonomie parce que ben c'est
l'algorithme lui-même qui va élaborer le
la création d'accord mais du coup quid
du du prompartiste parce que ça c'est un
terme qu'on retrouve souvent maintenant
sur le web prompte il y a une catégorie
dans Malte dédiée à ça on peut embaucher
les propres artistes couettes du
probatiste qui qui passe des heures
voire des jours à élaborer le bon
prompte qui va faire des itérations sur
des itérations sur des itérations pour
obtenir l'image c'est une question qui
est super intéressante parce que tu vois
il y a eu un exemple comme ça il y a
justement un pont artiste qui a qui a
créé une œuvre qui a gagné un concours
de photos aux Etats-Unis je crois que ça
s'appelait théâtre d'opéra cosmique
quelque chose comme ça gagner en en
scrude ou alors il avait affiché que
c'était il a dit il me semble il me
semble qu'il a dit après coup et en fait
ce qu'il a expliqué ensuite quand il
expliquait sa démarche c'est qu'il avait
passé énormément de temps pour tester
les différents mots clés les différents
trucs qu'il avait passé au total je sais
pas plus de 80 heures pour arriver à la
photo parfaite donc dans ce cas là la
question se pose en fait est-ce que
est-ce que ça traduit l'empreinte de sa
personnalité est-ce que tout ce travail
de test d'itération justifient que bah
le résultat est issu de son de son
imagination ou est-ce que on considère
quand même que la majeure partie vient
d'algorithme et que du coup c'est une
création autonome la réponse est pas et
pas encore fixe un élément intéressant
c'est que assez récemment au mois de
février tu as le Copyright Office
américain petite parenthèse le droit
d'auteur en France aux États-Unis est
différent aux États-Unis tu l'obtiens
par enregistrement par dépôt auprès du
coopératophisme en France tu n'as pas de
formalités à faire en France tu es
protégé c'est ce qu'on disait dans la
précédente
donc mais c'est quand même intéressant à
titre de comparaison le Copyright Office
américain a décidé qu'une œuvre créée
par par intelligence artificielle était
pas protégeable par le droit d'auteur
mais c'était un cas assez spécifique où
c'était une bande dessinée qui avait été
créée et donc le le coopéra est Office a
dit que les images qui avaient été
créées par Ia était pas protégeable mais
par contre
le texte de la bande dessinée et
l'histoire qui eux avaient été écrit par
une personne physique eux pouvaient être
protégeable tu vois ta dans ce cadre là
tu as une distinction entre les éléments
purement issu lya qui ne sont pas
protégeables en l'état des du droit et
les éléments qui sont ajoutés par
l'auteur qui eux peuvent être
protégeables d'accord donc ça veut dire
que une œuvre elle peut englober des
éléments fait par Unia mais il faut
qu'il y ait quand même qu'il y a un
retravaille humain derrière exactement
et ça peut être ça peut être une idée de
solution pour obtenir des droits
d'auteur c'est d'associer les deux soit
d'implémenter dans le moteur de l'IA des
œuvres originales que l'auteur a fait
soit faire du texte ou image quelque
chose de juste parler mais le
retravailler par la suite avec Photoshop
avec peu importe la solution et dans ce
cas là on considèrera pas que l'oeuf
dans son entier est original et
protégeable mais que
l'adaptation ou l'apport qui a été fait
par l'auteur peut constituer un élément
un élément protégé parce que moi il y a
c'est quelque chose que j'utilise
maintenant dans mon process de travail
en photo mais en graphisme et déjà je
passe beaucoup de temps à générer des
promptes qui arrivent à me sortir des
images potables et même avec ça
personnellement les images qui me sort
il y a c'est jamais ouf et je suis tout
le temps obligé de refaire une passe
Photoshop derrière ou Illustrator
et dans ce cas là ça je peux le protéger
ouais alors après faut être capable de
définir quel est ton apport à toi parce
que pour obtenir une protection par le
droit d'auteur il faut justifier il faut
expliquer qu'est-ce qui est original
quelle est l'apport type dans Photoshop
tu modifies je sais pas la lumière
l'éclairage tu rajoutes des éléments ça
peut être protégeable mais il faut
expliquer en quoi
ces ajouts que tu as fait traduisent ta
personnalité c'est un peu la difficulté
mais potentiellement ça peut marcher ok
ouais donc j'aimerais juste revenir sur
lia en tant qu'outil parce que donc il y
a effectivement des IA qui permettent de
générer des photos à partir d'un prompte
et dans ce cas là bon vu que c'était a
priori pour le moment pas protégé
il y a adopterfly qui est une autre Ia
qui est intégré à Photoshop donc
Photoshop qui est the outil utilisé par
par les photographes retoucheurs ou même
des graphistes
et ils ont implémenté une
IA à l'intérieur qui permet non pas de
créer une image mais de modifier une
image qui à la base est ta création par
exemple j'ai une zone et dans cette zone
je pouvais lui ajouter une maison une
voiture en personnage une montagne en
volcan ce que je veux en gros ça permet
juste de faire du photomontage mais
beaucoup plus rapidement là on est un
peu dans le cas inverse ce qu'on disait
tout à l'heure c'est à dire que c'est
pas une image créparia que toi tu vas
modifier et du coup tu auras des droits
sur tu as de la modification que tu as
fait c'est l'inverse c'est toi tu as une
image que toi tu as créé et sur laquelle
potentiellement tu as le droit d'auteur
sur laquelle une modification est faite
parlia et dans ce cas là toi tu n'auras
potentiellement pas de droit sur la
modification qui a été faite mais tu
pourras en avoir sur l'image initiale
donc de la même manière tu auras une
combinaison des deux corps protégée pas
protégé
ça c'est un truc qui est qui est assez
courant en droit d'auteur mais que tout
le monde comprend pas forcément c'est la
notion d'oeuvre composite c'est à dire
que dans une même œuvre c'est tu as une
combinaison de plusieurs œuvres donc
quand c'est des œuvres classiques et ben
tu vas avoir différentes personnes qui
ont des droits sur le même objet et là
dans ce cas là tu auras différentes
personnes qui ont des droits donc une
qui est une IA et qui en fait n'a pas de
droit donc en fait tu as une combinaison
de personnes physiques il y a des droits
et Dia qui n'en a pas c'est assez
nouveau mais potentiellement ça peut
être qualifié d'oeuvre composite du coup
là là on dit qu'il y a une partie où il
y a n'a pas de droit
du coup ça appartient à qui à tout le
monde alors ça c'est la question c'est
en fait on a vu la question de est-ce
que c'est protégeable et ensuite dans le
deuxième temps si c'est protégeable qui
allait droit on raisonne de manière un
peu abstraite puisqu'on a dit qu'a
priori c'était pas protégéable mais
imaginons imaginons que ça soit protable
peut-être que ça arrivera un jour il y a
plusieurs options parce que tu as
plusieurs intervenants dans le processus
de création tu peux avoir
la personne qui utilise lien qui met les
commandes tu peux avoir la personne qui
a consulia qui a conçu l'algorithme la
personne qui a développé le la solution
et éventuellement troisième personne
concernée tu pourrais avoir la personne
qui a créé des offres préexistantes de
et les oeuvres dont il y a ces nourri
pour alimenter l'algorithme donc
potentiellement tu peux avoir trois
personnes concernées par les par les
droits
et on n'a pas de réponse concrète à ça
on n'a pas de réponse tu as des
suppositions notamment en
un des rares droits nationaux qui traite
de cette question c'est le c'est le
droit anglais et le droit britannique
nous dit que dans le cas d'une œuvre
créée par ordinateur l'auteur ça aurait
pu être réputé être la personne ayant
pris les dispositions nécessaires pour
la création de l'œuvre
c'est assez abstrait mais en pratique
les trois personnes ont pris les
disposition ça suppose de l'interpréter
c'est ça qui a pris les dispositions
est-ce que celui qui a pris les
expositions c'est celui qui a rencontré
des commandes est-ce que c'est celui qui
a créé l'IA etc et en fait là on est
plus dans une logique non pas
d'empreinte de la personnalité et de
très personnaliste à la française mais
plus de celui qui a fait le taf entre
guillemets pour que l'oeuvre puisse
advenir c'est une autre logique mais
c'est une manière de voir les choses un
autre point à prendre en compte parce
que ça c'est une interprétation par
rapport à la aux choses concrètes et au
texte c'est aussi de voir ce qu'il y a
dans les conditions générales des
différentes dire et en fait si tu
regardes en pratique la plupart des IA
donnent tous les droits à la personne
qui l'utilise ils vont donner tous les
droits en gros toi tu utilises mes
journées ou enfin peu importe en gros
l'oeuvre qui est créé tu as tous les
droits dessus
sachant que c'est des droits non
exclusifs donc en fait tu as des droits
dessus mais en fait tout le monde aussi
potentiellement a le droit de l'utiliser
donc c'est une solution qui qui est un
peu abstraite parce que en fait on va te
donner des droits sur quelque chose dont
à la base on n'est pas sûr qu'il est
déjà des dents mais ça peut être cool
quoi voilà et pour amener une sorte de
cadre légal au cas où sort de cadre
légal une manière d'encadrer de
sécuriser un petit peu dans ce cas là ça
veut dire que en utilisant l'IA genre
mi-journée pour créer une image que je
vais revendre à un client
quelque part je peux le mettre en défaut
parce que ça veut dire que cette image
peut être réutilisable par n'importe qui
ouais alors la limite à ça ce serait
l'image créée paria qu'ensuite toi tu as
modifié oui si jamais je la modifie dans
ce cas là il est à minima protégé mon
client mais si par contre je prends une
image brute de décoffrage
là par contre
il peut se retrouver avec exactement les
images sur une affiche un affichage 4
par 3 en concurrent du coup ça c'est
quand même assez dangereux pour nos
clients parce que si jamais je produis
une image non retouchée uniquement créée
par une IA c'est à dire que n'importe
qui peut la réutiliser mais du coup je
pense à Undiz qui a fait une campagne de
com il y a pas très longtemps il y a
quelques semaines avec deux images
générées par des IA donc ça veut dire
que techniquement un concurrent on peut
prendre les images et les réutiliser
pour notre campagne de com ouais ouais
bah vu que les images a priori enfin
sauf si elles ont pas été modifiées par
la suite et quand bien même elle sera
modifié il faut encore que les
modifications soient originales vu qu'a
priori elles sont pas protégés oui
n'importe qui peut les reprendre après
là on parle uniquement dans le cadre du
droit d'auteur je pense à une autre
limite c'est que la personne enfin si
quelqu'un les reprend un 10 pourrait
éventuellement se fonder sur la
concurrence déloyale en disant que
certes les images sont libres de droit
mais en fait en les réutilisant vous
créez une confusion entre notre activité
et la vôtre et bah ça ça peut être
sanctionné au titre de la concurrence
déloyale parfois tu peux avoir des
actions de repli aussi qui qui te
permettent de
protéger dans certains cas mais sur le
plan du droit d'auteur et oui si c'est
des images purement générées par
ailleurs tu ne peux pas interdire le la
reprise après j'imagine que si Undiz a
fait une campagne de comme international
avec des images et à part des IA c'est
que quelque part ils ont dû se
renseigner quand même sur le fait qu'on
puisse réutiliser ou pas ces images là
j'imagine j'imagine mais après tout le
monde prend pas toujours les précautions
nécessaires et
elle me dit c'est une marque connue donc
en fait si eux ont utilisé ces images là
et qu'elles sont associées à leur marque
ils pourront se reprocher la reprise
comme je disais pas sur le fondement du
droit d'auteur mais par exemple sur la
sur la concurrence déloyale ou le
parasitisme qui sont des actions
subsidiaires puisque ça aurait été
associé à leur marque et que les gens
créent un risque de confusion mais mais
ce serait enfin c'est pas applicable
dans tous les cas c'est une action qui
est plus flou qui est un peu moins un
peu moins certaine un peu moins fiable
que le droit d'auteur et en faisant ça
je pense qu'il y a une certaine manière
ils prennent un risque ouais d'autant
plus que sur mi-journée entre autres
quand tu te crées un compte et que tu
utilises mes journées bah tu as un
compte qui est créé tu as une galerie
qui était associée et on peut retrouver
tes créations en fait en ligne
c'est-à-dire que tu peux aller dans
explore et tu peux retrouver toutes les
créations faites par mille journées et
tout est public tout est nécessairement
public tout est née alors je crois qu'il
y a peut-être possibilité de rendre
certaines créations privées mais en tout
cas si tu le sais pas c'est à dire que
tout ce que tu fais le public on prend
tes publics tes images sont publiques et
tu peux les télécharger c'est un peu
dans la logique de leurs conditions
d'utilisation où il donne tous les
droits mais non exclusifs et en gros ils
disent bah tout le monde peut réutiliser
ce que vous avez fait puisque puisque
c'est le droit non c'est un peu la même
logique ouais c'est vrai un peu comme
une bande d'image quoi donc d'image
gratuites
donc ça veut dire que d'un côté le
client prend un risque parce que ben on
peut réutiliser ces images mais dans
notre il fait de grosses économies parce
qu'il a pas le droit d'auteur à payer
c'est une balance à estimer entre le
risque et le bénéfice mais je suis pas
sûr que le le bénéfice du fait de pas
payer des des photographes des artistes
soit la hauteur du risque pris
que quelqu'un qui reprend une campagne
de pub potentiellement ça peut faire
chuter les ventes ça peut présenter
beaucoup d'argent à mon avis c'est quand
même un peu supérieur à ce que j'ai pas
les chiffres en tête comme on peut payer
à une agence de com ou un photographe
pourquoi on a encore de l'espoir nous
les photographes ne vous en faites pas
[Musique]
du coup je me permets je reviens sur les
trois personnes qui pouvaient
potentiellement
revendiquer les droits donc il y avait
les personnes qui créent l'algo la
personne qui crée le prompte et la
personne dont on peut le style entre
guillemets parce que en ce moment il y a
une grosse polémique entre sur
artstation sur desiantart aussi même si
desiantes n'existent plus vraiment mais
bon bref
c'est que ils sont vraiment pas contents
parce qu'on a pompé leur style et c'est
à dire que maintenant dans le middournay
par exemple je peux dire ok je veux
telle illustration avec le style de
telle personne je peux carrément la
nommer pour avoir une illustration à sa
manière et ça ça peut être un énorme
manque à gagner pour pour les artistes
et alors ça c'est une question qui est
vraiment
pas simple parce que en fait le principe
en droit d'auteur c'est que un style
n'est pas protégeable en fait ce qui est
protégeable ça va être une œuvre
concrète avec des caractéristiques
précises que tu peux identifier et à
l'inverse on va considérer que ce qui
relève de l'Idée ou du concept n'est pas
protégeable or facile c'est quelque
chose d'un peu abstrait un peu
conceptuel et et en l'état du droit
d'auteur il est absolument impossible de
demander la protection d'un d'un style
donc ça c'est problématique pour les
auteurs
une voix de alternative comme moi je
verrai j'ai déjà vu évoquer par d'autres
à part des auteurs en
doctrine juridique c'est de s'appuyer
non pas sur le droit d'auteur parce que
l'absence de protection des idées ça
c'est quelque chose qui est établi très
longtemps qui est difficilement
négociable c'est ce serait de s'appuyer
sur ce que je te disais là par exemple
la concurrence déloyale en fait la
concurrence déloyale pour te la faire
courte c'est la responsabilité civile de
droit commun en fait on te demande juste
de prouver l'existence d'une faute d'un
dommage d'un lien de causalité et en
pratique
c'est beaucoup plus flou et de la ici la
faute la faute ce serait la reprise des
éléments qui caractérisent l'univers
d'un auteur le dommage c'est le manque à
gagner pour l'auteur et le lien de
causalité bah c'est en fait le fait que
cette reprise là à causer à cause d'un
dommage et du coup tu pourrais
argumenter en disant que la reprise du
style crée un risque de confusion dans
l'esprit des gens qui qui accèdent aux
œuvres et que du coup il pourrait croire
que ça vient de l'artiste initial s'ils
sont pas informés et cet artiste là ça
lui fait ça lui fait un manque à gagner
voire une mauvaise pub donc sur le plan
du droit d'auteur a priori c'est pas
négociable un style ça va être difficile
de dire que c'est protégeable mais on
peut tenter une voie alternative je l'ai
pas vu encore pour à mon sens il y a pas
encore de décision de justice sur ce sur
ce point mais ça pourrait être une
solution pour contourner ce point
d'accord donc ça me semble facilement
gérable si jamais par exemple mon style
réutilisé pour promouvoir quelque chose
qui me fait clairement du mal ou défaut
typiquement je sais pas moi de
installation à la violence ou ce genre
de choses là je pensais assez facile à
gagner par contre si c'est juste pour un
manque à gagner
peut-être moi je ferais même pas cette
distinction là parce qu'en fait le
déjà la première question c'est est-ce
qu'on peut identifier ton style dans la
Love nouvelle et tu as certains cas où
c'est assez facile parce que les IA sont
pas toujours parfaites et tu vois qu'il
y a une signature qui reste ou là tu dis
bon ok c'est assez évident donc déjà
premier truc est-ce que le style est
vraiment est vraiment identifiable et
ensuite que ce soit quelque chose de
positif ou négatif peu importe dans tous
les cas il aurait fallu te demander ton
autorisation pour le pour le reprendre
donc quand bien même c'est quelque chose
de positif bah c'est un manque à gagner
parce que même si c'est positif
normalement on te paye quelque chose
pour utiliser quelque chose que tu as
créé et si c'est négatif bah là c'est
encore pire parce que tu as un préjudice
parce que tu es associé à quelque chose
de négatif mais pour moi la question
c'est plus démontrer la reprise du style
est-ce qu'on est capable vraiment de
l'identifier j'imagine que pour les
bibliothèques publiques où tu vois les
pompes bah là tu peux le savoir parce
que tu vas dans le style 2 quand tu as
pas cette info là c'est un peu plus flou
et à moins que ce soit vraiment évident
ou quelqu'un te fait dans le style de
Picasso où là vraiment tu vois mais pour
des artistes moins connus ou des styles
un peu plus subtiles c'est c'est pas
tant une question de protection qu'une
question de preuve donc même si on peut
pas forcément interdire le fait d'être
utilisé par des IA il y a peut-être un
espoir si jamais notre style est
vraiment réutilisé de pouvoir quelque
part
se défendre quoi ouais ouais pour moi
l'argumentation elle tient la route
vraiment c'est un truc qui peut se
tenter et moi j'aimerais beaucoup le
tenter la vie aux artistes mais
après c'est une question aussi de
d'évidence de la reprise est-ce que
est-ce que quand tu vois la l'oeuvre
créée paria est-ce que ça saute aux yeux
que le style a été repris ou pas et
peut-être que pour certains artistes
pour eux ça sera évident que ça a été
repris mais
[Musique]
votre façon pour éviter d'en arriver à
de telles extrémités il est possible
maintenant je crois de se protéger
contre le data mining et de demander aux
Ia de ne pas utiliser nos œuvres tout à
fait
est-ce que le data mining en fait on
utilise le terme en français de de c'est
un peu moins élégant le droit de fouille
les gens avec leurs pinceau la Jurassic
Park mais en fait c'est une directive
européenne de 2019 la consacré ça et en
fait qui dit que il y a un droit qui est
absolu dans le domaine de la recherche
d'explorer le web pour récupérer des
oeuvres consulter toutes sortes de
choses et les utiliser notamment dans
les algorithmes
ça c'est dans le cadre de la recherche
par contre le data mining est pas et
plus encadré dans un cadre commercial et
en fait ce que ce que ce que dit cette
directive qui a été transposée en France
c'est que dans un cadre commercial c'est
possible de l'utiliser sauf s'il y a
opposition du titulaire de l'oeuvre
concernée et dans ce cas là ce que font
certains et notamment il me semble que
c'était Déviantart qui avait mis ça en
place de mettre une sorte de tag qu'on
mettait dans la dans la à coller à la
photo ou à l'oeuvre qui était par
exemple no eye et qui est censé empêcher
les les robots des différentes Ia de
d'utiliser ces œuvres là ça c'est la
théorie en pratique c'est assez
compliqué de vérifier que ça a été pris
en compte seul moyen de vérifier c'est
de taper son nom dans l'IA pour savoir
si elle ressort des images qui ressemble
à ce qu'on fait quoi ouais ou accéder
aux bases de données pour certaines
quand elles sont publiques mais c'est
vrai que c'est ça reste encore un peu
théorique c'est vrai que les créations
générées par desia ou les y en elle-même
il y a un peu de manière de les voir il
y a ceux qui pensent que c'est
clairement l'avenir et c'est génial
d'autres qui pensent que c'est le mal
c'est Satan en personne qui vient
détruire nos métiers à tous donc il y a
un peu différentes manières d'aborder
les IA
tu as des sociétés ou des banques
d'image qui sont très complaisantes et
qui montent des partenariats avec on a
d'autres qui c'est un peu jeté moi non
plus type art station ou en
eux ils sont assez sympas avec mais la
communauté déteste ça et d'autres au
contraire qui essaient de faire mes
portes au maximum ouais c'est vrai qu'il
y a différentes réactions des
différentes banques d'image concernées
et ça peut donner des pistes
d'indications sur les sur des solutions
concrètes à venir en fait par exemple tu
as on a vu que Getty Images eux ils sont
ils sont contre ils veulent pas que tu
ils veulent pas vendre d'images créées
par ailleurs c'est une position et à
l'inverse tu peux avoir Shutterstock qui
eux ont fait un partenariat avec une
IA pour que les utilisateurs puissent
créer avec leurs solutions maison et
pour compenser ça ils ont créé un fond à
destination des auteurs pour qu'ils
puissent être indemnisés en pratique à
ma connaissance le fond n'est pas encore
opérationnel donc on sait pas vraiment
comment ils vont rémunérer les auteurs
ça peut être un peu une sorte de de
licence légale comme ça existe déjà avec
la copie privée le ce genre de droit
pour les auteurs ça peut être une idée à
l'avenir comment associer les auteurs en
fait ils sont ils sont skyper on utilise
leurs œuvres sur le web du coup ils ont
une petite compensation sauf que on peut
pas imaginer que ce soit des des acteurs
privés qui qui gèrent ce truc là
peut-être ça peut être une solution à
l'avenir que ce soit institutionnalisé
et puis tu as d'autres tas d'autres
solutions par exemple le fait de mettre
un tag ce qu'on disait sur les sur les
images pour empêcher qu'elle soit
qu'elle soit utilisée par les par les
algorithmes
c'est pas une solution définitive parce
que il y a pas vraiment de moyens de
vérifier et puis je crois qu'il y a pas
de conscien homme encore pour le moment
sur le tag à utiliser ouais ou sinon une
autre idée tu vois ça pourrait être de
je sais pas si certains le font déjà ou
pas mais de mettre une mention
obligatoire ceci est une une image créée
par ailleurs où les gens se passent au
courant que c'est que c'est pas l'œuvre
d'un artiste humain
ou tu peux avoir enfin il y a pas mal de
ou sinon tu vois par exemple création
d'un d'un de base de données sur
lesquelles les i peuvent s'entraîner
avec uniquement des œuvres de droit ça
peut être une solution tu as quelques
solutions pratiques tu as quelques
solutions juridiques c'est des pistes de
d'idées mais pour le moment on n'a pas
encore de de
protection de technique un peu
institutionnelle quoi tout reste à faire
c'est ça et c'est ça qui est excitant et
qui est intéressant aussi c'est un peu
le Far West pour le moment et c'est nous
qui créons l'histoire c'est beau
donc maintenant qu'on a vu que les
agences de pub ou les clients n'avaient
plus besoin de payer des droits d'auteur
auprès des photographes
peut-être on va voir les droits à
l'image est-ce que maintenant
alors déjà est-ce que si jamais
j'utilise une IA pour créer une image
qui ressemble à quelqu'un ou qui met en
scène quelqu'un est-ce que il y a un
droit à l'image applicable sur cette
photo sur cette création alors le
droit à l'image n'a pas été pensé pour
les IA en particulier donc la seule
manière de répondre à cette question
c'est d'appliquer les principes
classiques du droit à l'image et pour le
moment la condition c'est juste est-ce
que la personne est
identifiable est-ce qu'elle est
reconnaissable et du coup à partir du
moment où tu as une personne qui est
représentée via une intelligence
artificielle a priori le droit à l'image
s'applique et en théorie si tu veux
utiliser cette photo quand bien même
c'est généré par une intelligence
artificielle tu as besoin de
l'autorisation préalable et écrite de la
personne d'accord la question avait déjà
été un peu abordée
pour un
technologies qui étaient un peu
similaire la question des deep fucks en
fait ou ta coller l'image de quelqu'un
et ça pouvait des trucs assez nuisibles
assez malsain et en fait ce qu'on avait
dit à ce moment-là c'est que tu as un
article du code pénal qui s'applique à
ce à cette situation là
peu importe le numéro mais l'article dit
que en fait le fait de publier par
quelques voix que ce soit le montage
réalisé avec les paroles l'image d'une
personne sans son consentement s'il
n'apparaît pas à l'évidence qu'il s'agit
d'un montage ou s'il en est pas fait
mention et puni par de la prison
d'amande etc et donc en fait ça à mon
sens ça pourrait s'appliquer à
l'intelligence artificielle parce que
Ben clairement une sorte de montage
c'est une sorte de montage donc à mon
sens les principes de droit à l'image
classique s'applique
ça veut dire que si je veux utiliser ton
image généré par Unia pour la vignette
de cette vidéo je dois avoir ton
autorisation écrite à priori oui le seul
problème en fait c'est que normalement
tu es censé être reconnaissable or moi
de ce que j'ai vu pour le moment j'avais
pas l'impression que ça me ressemblait
tant que ça même
interprétation il y en a qui m'ont
reconnu moi je me reconnais pas
on ira peut-être pas jusque devant le
juge pour trancher si c'est
reconnaissable ou pas mais ça va ok donc
ça c'est pour le cas des gens qu'on peut
reconnaître alors le droit à la
caricature s'applique quand même là
aussi c'est à dire que je peux générer
des images caricaturales de gens connus
ouais ouais en fait de la même manière
que pour le droit à l'image classique tu
as des exceptions qui s'appliquent et
notamment tu peux avoir le droit à la
caricature qui rentre un peu dans la
critère globale du droit à la liberté
artistique et c'est pour ça que dans
certains cas on considère que le droit à
l'image peut céder devant la liberté
artistique ou par exemple devant le
droit à la liberté d'expression qui a un
autre sujet dans le cadre journalistique
et voilà si tu essaies de créer une
caricature et que tu as une démarche un
peu artistique un peu créative tu
pourrais éventuellement essayer de
t'abriter derrière ça pour pour le faire
sachant que tu as quand même une limite
à la limite qu'on expliquait la dernière
fois c'est que tu dois quand même
respecter la dignité de la personne
concernée donc en fait tu as le droit à
une liberté de création artistique
potentiellement qui peut faire céder
droit à l'image mais tu peux pas faire
n'importe quoi et représenter la
personne dans des situations dégradantes
dans des choses qui portent atteinte à
son honneur ça considération etc ouais
du coup un point qui me semble assez
évident pour tout ce qui est des gens
créer de toutes pièces parisiennes aucun
droit à l'image qui s'applique on fait
ce qu'on veut non mais ça c'est une
un cas spécifique que j'ai eu que j'ai
lu
je sais pas si ça peut arriver en
réalité mais théoriquement c'est
possible c'est-à-dire tu crées quelque
chose paria complètement de toute pièce
il paraît qu'on a tous des sosies
quelque part dans le monde et ça se
trouve en fait ça va ressembler à
quelqu'un qui existe comme de goutte
d'eau et bah potentiellement cette
personne là aurait quelque chose à dire
d'accord donc ça c'est un cas de figure
qui est hyper théorique mais ce sera
quand même amusant de que tu commences à
faire une campagne de pub avec un
personnage créé par ailleurs et en fait
quelqu'un a dit c'est moi
et dans ce cas là qu'est-ce que tu fais
ben en théorie c'est une représentation
donc tu as besoin de l'autorisation
c'est très théorique mais vu les limites
un peu
l'absence de limite à la créativité
parisien
potentiellement ça pourrait arriver un
jour OK et si on va encore plus loin si
jamais je crée une personne que je
l'utilise je sais pas moi comme mascotte
par exemple FAMAS code ça peut réducteur
pour la personne mais bon plutôt comme
égérie de
ma marque et donc j'utilise plusieurs
fois voilà je l'ai créé mais vu que
cette personne n'existe pas il y a pas
de droit à l'image donc c'est à dire que
théoriquement quelqu'un pourrait la
réutiliser mais peut-être que là aussi
on peut se protéger parce que on peut
dire que attention ça porte un teintes à
risque de parasitisme parce que le
parasite exactement exactement ça c'est
en théorie vu que la personne n'existe
pas tu as pas de droit à l'image vu que
c'est créé paria a supposé que tu as pas
fait de modifications à côté il y a pas
de droit d'auteur donc en théorie tout
le monde peut la réutiliser mais la
limite que je verrai c'est exactement ce
que tu dis c'est de créer une confusion
entre
cette marque là qui l'utiliserait et une
autre qui la reprendrait parce que si ça
a été suffisamment exploité que dans les
yeux du public dans l'esprit public
c'est associé à cette marque là le fait
de le reprendre pourrait créer un risque
de confusion et éventuellement être SAN
ctionnable sur le terrain de la
concurrence déloyale ou du parasitisme
ok donc on n'est pas tout à fait démuni
non plus
il y a des solutions de repli mais après
c'est beaucoup d'interprétations parce
qu'on n'a pas on n'a pas encore beaucoup
de recul sur le sur la question on n'a
pas de texte on a très peu de
jurisprudence donc c'est beaucoup de
spéculation on en saura je pense un peu
plus dans les prochains mois les
prochaines années parce que ça va vite
se mettre en place quand il y aura eu
des jugements qui ont eu des juristes
prudents ce genre de choses mais pour le
moment c'est beaucoup d'interprétation
bon on a passé en revue un peu tous les
aspects juridiques autour du droit
d'auteur et du droit à l'image donc ces
choses qui qui nous intéressent nous
graphiste et photographe alors il y a
plein de choses à dire sur
l'intelligence artificielle on a fait
que survoler le sujet il y a plein de
choses à dire au niveau de l'éthique au
niveau de la technique au niveau de de
l'utiliser comme un outil ou d'être
complètement soumis à l'IA enfin c'est
un sujet qui est super vaste et on va
d'ailleurs faire une table ronde tous
les deux mais pas que parce qu'on va
être 4 normalement dans cette table
ronde donc on va faire une table ronde
dans 10 jours 11 jours ce sera le 15 au
soir
si jamais vous êtes sur Marseille vous
invite parce que c'est une table ronde
qui est ouverte à tout le monde ça se
passe à la briqueterie sur la plaine à
Marseille et si vous avez le malheur de
ne pas habiter Marseille je vous plains
mais c'est pas grave vous pourrez quand
même assister à l'événement puisqu'il
sera retransmis en direct non pas sur ma
chaîne mais sur ma chaîne de la
briqueterie du coup bon je vous mets
tous les liens en description je vous
mets le lieu aussi pour que vous
puissiez venir comme ça vous pourrez
nous voir en live en live vous pourrez
pourquoi pas cette chance demandez des
autographes soyons fous convention
aurait attention à cette incroyable
plus sérieusement j'ai une lumière qui
s'est éteinte
j'avais pas branché je vais la rallumer
de vie d'un pavot tube et de un peu
moins de deux heures donc je disais la
briqueterie venait ce sera trop cool
c'est un apéro puis une table ronde puis
encore un apéro parce qu'on aime bien le
pastis ici pour discuter un petit peu de
ce qui s'est dit autour de la table
ronde
voilà bon on a essayé de passer le sujet
en revue il est possible qu'on ait
oublié des choses si vous avez des
questions si vous avez des
interrogations si on n'a pas été assez
clair ça peut arriver n'hésitez pas à
poser vos questions en commentaire vos
remarques aussi donnez votre avis
pourquoi pas allez-y on est là pour
discuter tous ensemble
tant que vous restez poli et courtois je
te remercie encore une fois de t'être
déplacé d'être venu à la brique pour
répondre à mes questions merci de
m'avoir invité toujours merci d'avoir
tenu jusqu'au bout de cette vidéo si
c'est le cas n'hésitez pas à la liker à
la partager si vous n'êtes pas abonné
abonnez-vous cliquez sur la cloche allez
voir les précédentes vidéos qu'on a
faites avec métro Simon Mills
et
et au revoir au revoir on va rentrer
chez vous rentrez chez vous c'est fini
maintenant
[Musique]
OK
donc on va commencer par dire que que
quoi que qu'on fait une nouvelle vidéo
sur la chaîne que je t'invite qu'on va
parler de la destruction de l'humanité
et que et que tu as te présenter
voilà ça commence
[Musique]
Ver Más Videos Relacionados
![](https://i.ytimg.com/vi/czw4elcw2n0/hq720.jpg)
Midjourney et droit d'auteur : les réponses d’une avocate ⚖️
![](https://i.ytimg.com/vi/rvkkgeeRlzA/hq720.jpg)
Le droit d'auteur - EDUCATION MUSICALE
![](https://i.ytimg.com/vi/iAy-cw4uSpE/hq720.jpg)
🤖 IA, deepfakes : prêts pour les manipulations ?
![](https://i.ytimg.com/vi/tdelUss-5hY/hq720.jpg)
Comment ces IA inventent-elles des images ?
![](https://i.ytimg.com/vi/HKL99gJEaW4/hq720.jpg?v=5d4ae27e)
CEJM - Th4 Chap3 : Le numérique dans l'entreprise et la protection des personnes
![](https://i.ytimg.com/vi/yIBH9brvBPk/hqdefault.jpg?sqp=-oaymwEXCJADEOABSFryq4qpAwkIARUAAIhCGAE=&rs=AOn4CLB6Kd1TxfhC7M3Hq39wIx9MBo2noA)
L'IA DÉTRUIRA-T-ELLE L'HUMANITÉ !?
5.0 / 5 (0 votes)