MISTRAL AI : Comment installer GRATUITEMENT le Chat GPT Français en local ? (WebUI)
Summary
TLDRCette vidéo présente l'interface web open source Text Generation UI qui permet d'interagir localement avec des modèles d'intelligence artificielle comme Mistral. On explique comment installer et configurer cet outil, choisir un modèle IA parmi ceux proposés sur Hugging Face, et discuter avec lui via l'interface de chat. On montre aussi comment personnaliser les paramètres et créer différents avatars pour avoir des conversations adaptées au contexte.
Takeaways
- 😀 Présentation de l'interface text generation web UI pour interagir avec le modèle d'IA Mistral
- 👩💻 Installation facile via des scripts préconfigurés pour Windows, Linux ou WSL
- 🤖 Choix du modèle de langage à utiliser (Mistral, Lama, etc) et chargement dans l'interface
- ⚙️ Accès à de nombreux paramètres pour personnaliser et spécialiser l'IA selon vos besoins
- 🗣️ Possibilité de créer différents avatars/personnalités pour l'IA avec des contextes dédiés
- 🔁 Fonctionnement 100% en local, aucune donnée partagée en ligne
- ⏱️ Génération de réponses plus lente qu'avec des IA en ligne comme Google Bard
- 💡 Construire de bons « prompts » est essentiel pour obtenir de bonnes réponses de l'IA
- 📝 De nombreux cas d'usage : rédaction de contenu, développement, résumés, traduction...
- ✅ Solution adaptée pour traiter des données sensibles localement avec une IA privée
Q & A
Quel est le nom du projet open source présenté dans la vidéo ?
-Le projet open source présenté est Text Generation Web UI. Il s'agit d'une interface web permettant d'utiliser localement différents modèles de langage comme Mistral.
Quelle est la particularité du modèle Mistral par rapport aux autres modèles d'IA ?
-La particularité de Mistral est qu'il s'agit de 8 modèles en un. Mistral est capable de sélectionner les 2 meilleurs experts parmi les 8 pour répondre à chaque question.
Quelle est la différence entre le modèle Mistral 7B et Mistral Mix ?
-Mistral 7B est un modèle plus léger (5-6 Go) permettant de rivaliser avec des modèles beaucoup plus lourds. Mistral Mix est la version avec les 8 experts fusionnés, plus gourmande en ressources (30 Go).
Quels sont les avantages d'utiliser une IA conversationnelle en local ?
-Les avantages sont : pas besoin de connexion internet, confidentialité des données, possibilité d'installer plusieurs modèles et de les personnaliser sans limite, rapidité une fois configuré.
Comment personnaliser le comportement d'une IA conversationnelle ?
-On peut personnaliser le comportement de l'IA via les paramètres disponibles dans l'interface, mais aussi en rédigeant un pré-prompt, c'est-à-dire des instructions sur le rôle attendu de l'IA dans la conversation.
Qu'est-ce que le "prompt engineering" ?
-Le "prompt engineering" désigne l'art de formuler de bons prompts, c'est-à-dire les questions et les instructions données à l'IA, pour obtenir les meilleures réponses possibles.
Quelle est la différence entre cette interface et L.M. Studio présenté précédemment ?
-Cette interface est plus technique et offre plus de paramètres pour personnaliser finement les modèles d'IA. Elle est destinée aux développeurs contrairement à L.M. Studio qui vise le grand public.
Quels sont les inconvénients d'une IA conversationnelle en local ?
-Les inconvénients sont : nécessite une config PC puissante, temps de génération des réponses plus lent, prise en main plus complexe que des solutions clé en main.
Peut-on créer plusieurs avatars d'IA avec des personnalités différentes ?
-Oui, on peut créer plusieurs avatars d'IA conversationnelle, chacun avec sa propre personnalité et son propre contexte métier par exemple.
Quels sont les modèles alternatifs à Mistral?
-Les principaux modèles alternatifs sont Anthropic, Alphabet, Google Bard. On peut aussi citer Vikuna, Guanako ou L.M.A.
Outlines
👨💻 Présentation de Mistral AI et Text Generation Web UI
Cette vidéo introduit Mistral AI, un modèle d'intelligence artificielle développé en France, et explique comment l'interagir à travers le projet Text Generation Web UI, conçu principalement pour les développeurs et les passionnés de nouvelles technologies. Le narrateur souligne que cette interface offre plus de paramètres et de liberté pour l'utilisateur car elle est open source, permettant le développement de plugins et l'utilisation de Python. Le projet, qui peut être trouvé sur GitHub, est comparé à l'interface automatique 11 11 de stable diffusion, offrant un accès complet au code source et la possibilité d'installer différents mods de langage pour personnaliser l'expérience utilisateur.
🌐 Installation et utilisation de Text Generation Web UI
La vidéo guide l'utilisateur à travers l'installation de Text Generation Web UI, en commençant par télécharger le projet de GitHub et exécuter le script adapté au système d'exploitation de l'utilisateur. Après le téléchargement et l'extraction du fichier, l'utilisateur doit lancer un script qui initie automatiquement l'installation, nécessitant uniquement la spécification du type de carte graphique utilisé. Une fois l'installation terminée, le narrateur démontre comment accéder à l'interface via un navigateur web et précise que par défaut, l'interface est vide sans aucun modèle d'IA intégré, nécessitant l'installation de modèles de langage pour pouvoir interagir avec un agent conversationnel.
🔧 Configurer et personnaliser l'IA avec des modèles
Dans ce segment, l'explication se concentre sur la configuration de l'interface pour interagir avec des modèles d'intelligence artificielle spécifiques, tels que Mistral 7b ou le modèle mixte 'mixral'. L'utilisateur est dirigé vers le site de Mistral AI pour choisir et télécharger des modèles de langage. Le processus inclut la navigation sur le site Hugging Face pour copier le nom du modèle souhaité et le coller dans l'interface Web UI pour le téléchargement. Après le chargement des modèles, l'utilisateur peut sélectionner le modèle souhaité, ajuster les paramètres et commencer à interagir avec l'IA, soulignant la flexibilité de créer des personnages fictifs et de personnaliser l'expérience d'interaction.
Mindmap
Keywords
💡intelligence artificielle
💡modèle de langage
💡Mistral
💡prompting
💡préprompte
💡paramètres
💡avatars
💡local
💡open source
💡datasets
Highlights
Présentation de comment interagir avec Mistral AI dans le contexte du projet Text Generation Web UI
Explications sur comment installer le projet Text Generation Web UI
Indications sur le choix du modèle de langage à utiliser avec l'interface
Présentation du modèle Mistral 7B et de ses performances
Introduction du modèle Mistral Mix capable de combiner 8 experts
Explications sur le téléchargement de modèles depuis le site Hugging Face
Démonstration du chargement du modèle Vikuna dans l'interface
Rappel que l'art de poser les bonnes questions à une IA s'appelle le prompt engineering
Présentation du pré-prompt permettant de donner des instructions et un contexte à l'IA
L'interface donne accès à de nombreux paramètres pour personnaliser l'IA
Possibilité de créer différents personnages et avatars pour l'IA
Les IA peuvent être utilisées en local pour traiter des données sensibles
En local, les réponses sont plus lentes mais il n'y a pas besoin de connexion internet
Comparaison avec Google Bard : local est plus lent mais garantit la confidentialité
Invitation à s'abonner, liker et commenter la vidéo
Transcripts
bonjour à tous et bienvenue dans cette
vidéo dans laquelle je vais vous
présenter comment vous allez pouvoir
interagir avec Mistral ai donc le modèle
d'intelligence artificielle made in
France mais cette fois-ci je vais vous
présenter ça dans le contexte de du
projet text generation web ui j'ai fait
une vidéo précédemment sur comment
l'utiliser avec LM studio ma vidéo
précédente c'est vraiment une vidéo
grand public qui s'adresse à tout le
monde tous ceux qui veulent discuter
avec Mistral et avoir une intell
artificielle puissante en local donc sur
son ordinateur là ce que je vais faire
c'est vous présenter des notions un peu
plus avancé puisque l'interface que je
vais utiliser est destinée plutôt aux
développeurs ou aux passionnés de
nouvelles technologies et cette
interface l'avantage qu'elle a c'est
juste que elle vous offre un petit peu
plus de paramètres euh et plus de
liberté puisque c'est un projet
totalement open source et vous avez la
possibilité de développer des plugins et
tout un tas d'outils si vous maîtrisez
notamment python donc voilà ça va être
une vidéo assez similaire mais plus
orienté tech que que grand public donc
le projet s'appelle text generation web
ui vous pouvez le retrouver sur
GitHub donc vous recherchez ça sur votre
moteur de recherche préféré et vous
allez tomber donc sur la page officielle
et c'est ici que vous allez pouvoir donc
récupérer cet
outil pour ceux qui connaissent
l'interface automatique 11 11 de stable
diffusion et bien là en fait c'est la
même chose c'est le même type
d'interface donc ici on a tous les
dossiers bon ça nous intéresse pas trop
mais on a accès à tout tout le code
source du projet vous allez retrouver
des captures d'écran du logiciel donc
c'est ce logiciel que
euh que l'on va avoir donc en en local
vous avez accès aux
fonctionnalités en
réalité le le le but de cet outil c'est
simplement de pouvoir installer un mode
mod de langage par exemple Mistral ai et
de pouvoir
l'utiliser via une interface
conviviale comment installer le projet
donc en fait c'est là que ça vafin c'est
là que on va rentrer dans le cœur du du
sujet Comment installer le projet on
vous dit de cloner ou de télécharger le
le dossier donc là on va le faire
ensemble ensuite il faut lancer le
script qui correspond à votre système
d'exploitation vous avez des scripts
pour Windows Linux et également si vous
êtes sur des sur WSL pour ceux qui
utilisent docker par exemple donc vous
avez un script à lancer qui va gérer
l'installation automatiquement pour vous
c'est très simple vous n'avez rien à
faire si ce n'est juste indiquer votre
carte graphique quel est le type de de
carte graphique que vous utilisez bon
ben moi je vais faire la manipulation
bon je vais cliquer sur Download ça va
automatiquement me lancer le
téléchargement du
zip voilà donc donc le zip a été
téléchargé c'est assez léger une
vingtaine de még 30 même je vais juste
extraire ça sur mon ordinateur quelque
part où vous voulez ça n'a pas trop
d'importance et là j'ai bien récupéré
text generation web
ui bon une fois que vous êtes là vous
devez rentrer dans le dossier et ensuite
faire ce que on vous a demandé de faire
à savoir lancer le script qui correspond
à votre système d'exploitation donc moi
je suis sur windows je vais donc lancer
windows.bat ça va m'ouvrir une petite
fenêtre de commande ici alors je vais
essayer de zoomer un peu même si c'est
pas forcément très intéressant je vais
zoomer un peu et là ça va lancer des
téléchargements je vais pas aller au
bout des téléchargements parce que c'est
très très long ça va télécharger
plusieurs gigas de de de données de
dépendance donc c'est très très long je
vais pas je vais pas le faire comme je
vous l'ai dit mais il va falloir laisser
tourner tout ça il va falloir laisser
tourner l'installeur et à un moment
donné on va vous poser la question
quelle est votre carte graphique
euh il faudra juste choisir le modèle
donc vous aurez par exemple a Nvidia B
AMD et il faudra juste choisir a si vous
êtes sur
Nvidia bon voilà grosso modo au niveau
de l'installation comme je vous l'ai dit
moi je vais arrêter ça parce que là ça
va prendre beaucoup de temps sinon je
l'ai déjà fait en préparant cette vidéo
j'ai déjà installé l'outil avant donc
moi euh tout est tout est déjà prêt
euh donc je suis dans le dossier text
generation web ui c'est le dossier qu'on
a téléchargé ensemble et le script a
fini de tourner ce que je vais faire
c'est que je vais lancer
euh start Windows encore une fois je
vais relancer le script sauf que cette
fois-ci j'aurai pas de téléchargement ou
quoi que ce soit ça va juste lancer le
logiciel et me donner une URL sur lequel
l'interface sera
accessible voilà donc après 5 secondes
vous avez l'URL qui apparaît le
le projet est disponible en local donc
vous pouvez mettre
127.0.0.1
2.7860 78 60 étant le port proposé par
par l'interface donc ce que je vais
faire c'est tout simplement me rendre
dans mon navigateur à cette url
là donc je tape
127001 78 60 je valide et là l'interface
charge et j'arrive sur la Web UI par
défaut vous ne pourrez rien faire ici
par défaut vous ne pouvez pas parler
avec une intelligence artificielle parce
que la web ui c'est une coquille vide il
y a aucune Ia il y a aucun modèle le
modèle c'est vraiment ce qui représente
l'intelligence artificielle c'est la
masse de données qui a été regroupée
dans un fichier c'est une sorte de
grosse base de données qui est donc le
le modèle de langage et c'est ce modèle
qui va vous permettre de de discuter
avec un agent conversationnel il y a pas
de modèle embarqué dans la web ui vous
arrivez vraiment sur une coquille vide
vous ne pouvez parler à personne ce qui
est bien avec les IA que vous pouvez
faire tourner en local c'est que vous
pouvez choisir à qui vous voulez parler
vous avez le modèle Lama officiel de ma
mais vous avez plein de modèles qui sont
super connus et assez puissants comme le
guanako ou le vikuna euh vous avez des
modèles qui sont
totalement comment dire absolument pas
censurés parce que il y a donc il y a
une certaine censure qui s'applique sur
les modèles génériques mais il y a des
modèles qui sont pas du tout censurés et
vous avez le Fame le fameux modèle al
qui qui fait beaucoup parler de lui ces
derniers temps donc vous pouvez
installer ce que vous voulez et vous
pouvez potentiellement installer des
dizaines de modèles différents sans
aucun problème vous faites ce que vous
voulez en local c'est juste qu'après les
fichiers ont un certain poids et ça sera
limité par l'espace sur votre disque dur
euh ce que je vais faire c'est que je
vais aller sur le site de Mistral ai
donc c'est
mistral.ai et là je vais aller sur
product ici on va retrouver les modèles
il y a deux modèles qui sont disponibles
il y a le Mistral 7b qui est un modèle
très léger euh parce queil faut savoir
que les modèles peuvent être plus ou
moins lourd ils peuvent avoir été
entraînés avec un certain nombre de
données quelques milliards quelques
dizaines de milliards quelques centaines
de milliards forcément au plus il y a de
données au plus le modèle est lourd et
au plus il vous faudra une configuration
vraiment puissante pour pouvoir faire
tourner ce
modèle pour le grand public comme vous
et moi on utilise en général des modèles
7b parce que au-delà il faut vraiment
avoir des cartes graphiques très très
très très puissantes déjà là pour le
modèle 7 7b il va vous falloir 4 ou 6 Go
de VRAM si vous n'avez pas ça vous ne
pourrez pas faire tourner le modèle ou
alors ça risque d'être très très très
très
lent la puissance de Mistral c'est que
ils arrivent à rivaliser avec les
meilleurs
modèles avec leur modèle 7b Mistral 7b
est capable de rivaliser avec des
modèles euh 30 ou 70b par exemple sur
certains points le modèle très léger de
Mistral fait mieux que des modèles très
lourds de concurrents je vous laisserai
vous renseigner sur ça sur internet il y
a plein de tableaux comparatif c'est
vraiment super puissant et là là où
Mistral a fait force c'est qu'ils ont
sorti un autre modèle qui s'appelle le
mixral donc faites attention c'est pas
pareil et là le truc c'est que c'est h
modèles en un ils ont réussi à fusionner
h experts si vous voulez en un seul
modèle et quand vous allez poser une
question à ce modèle ça va sélectionner
les deux experts parmi les H qui
pourront vous apporter la meilleure
réponse possible donc c'est vraiment
c'est vraiment assez exceptionnel par
contre la contrepartie de ça c'est que
ça demande un tout petit peu plus de
puissance de calcul et le modèle est
très très
lourd en moyenne vous allez avoir un
modèle à 30 Go un peu plus de 30 Go donc
c'est assez lourd comparé à Mistral 7b
qui fait 5 ou 6 Go on va voir ça tout de
suite donc je clique sur le mistral 7b
classique je vais aller sur le site
hugging face qui qui est un site sur
lequel vous allez pouvoir retrouver
plein de modèles dont le fameux Mistral
ici je suis sur la page officielle on
peut avoir des informations mais au
final ça nous intéresse pas plus que ça
nous ce qu'on veut c'est télécharger le
modèle on peut aller sur fileine version
et là vous pouvez voir les informations
du modèle ainsi que le poids le poids
des fichiers vous ce que vous allez
devoir faire c'est surtout cliquer ici
vous allez cliquer ici sur ce petit
icône qui va vous de copier le nom du
modèle parce que c'est ça dont on a
besoin c'est le nom du modèle je vais
retourner sur mon interface web ui et je
vais aller sur l'onglet modèle ici sur
l'onglet modèle je vais venir ici faire
clic droit coller pour coller le nom du
modèle donc là je veux récupérer Mistral
7b et vous cliquez sur Download je ne
vais pas le faire parce que je l'ai déjà
fait mais là dans l'idée vous pouvez
donc donc télécharger le modèle MISTRAL
je vous laisserai regarder sur ING face
il y a vraiment plein de modèles
différents comme je vous l'ai dit il y a
vikuna ou guanako qui sont également
assez connus il y a Lama qui est le
modèle de méta et puis différentes
versions de Mistral comme ça un modèle
open source il y a plein de personnes
qui peuvent créer leur propre version de
Mistral bref vous allez mettre ici le
modèle que vous voulez télécharger vous
pouvez en télécharger autant que vous
voulez ça prend du temps parce que ça
fait plusieurs gigas donc vous cliquez
sur don ça lancer tout ça une fois que
c'est fait une fois que vous avez
télécharger le modèle vous avez juste à
cliquer ici pour rafraîchir la liste des
modèles une fois que la liste est
rafraîchie vous avez un menu déroulant
ici et dans ce menu déroulant vous allez
retrouver les modèles qui sont
disponibles sur votre ordinateur donc là
pour l'exemple moi
j'ai je par exemple le vikuna qui n'a
rien à voir avec Mistral mais c'est
juste pour l'exemple donc je prends le
viuna lorsque je sélectionne le modèle
ça me met les paramètres adaptés à ce
modèle et je clique sur load donc là ce
que ça fait c'est que ça charge le
modèle en mémoire pour dire à ma web ui
que c'est ce modèle que je veux utiliser
et euh et puis une fois que c'est chargé
j'ai un message de confirmation je peux
ensuite retourner sur le chat et là je
peux poser ma question 1 + 1 point
d'interrogation je clique sur generate
et dans l'idée je veux juste voir que ça
marche je veux juste voir que Liam me
répond
elle me répond de c'est bon on voit
qu'on peut commencer à chatter et euh et
interagir avec uneia le message que vous
écrivez ici ça s'appelle un prompte
parler à Unia c'est très facile mais
bien lui parler c'est compliqué c'est ça
s'appelle le prompt engineering l'art de
construire un bon prompte pour avoir une
bonne réponse évidemment là j'ai fait
l'exemple le plus basique possible avec
1+1 mais vous pouvez demander à unea
vous rédiger le contenu de votre site
web de faire un brain brainstorming pour
vous de vous aider à travailler sur des
projets
euh vous pouvez créer des résumés
traduire des textes faire du
référencement web bref il y a plein de
possibilités l'interface ici à première
vue elle est assez simple mais en
réalité vous avez pas mal de
fonctionnalités vous allez pouvoir créer
le préprompte le préprompt c'est un
petit peu les instructions que vous
donnez à lia en lui expliquant voilà le
contexte voilà quel est qu'est-ce que
quel est ton rôle qu'est-ce que tu vas
faire pour m'aider et cetera vous allez
pouvoir euh euh mettre en place un petit
contexte vous avez accès à tous les
paramètres de liia ça c'est ce que je
vous disais par rapport à LM studio que
j'avais présenté dans une vidéo
précédente là vous avez accès à encore
plus de paramètres pour vraiment euh
personnaliser très très très précisément
votre intelligence artificiel et
indiquer comment elle doit se comporter
c'est des sujets assez complexes j'ai
fais une formation complète sur sur ça
mais c'est des sujet assez complexe
sachez que vous avez la main sur tous
les paramètres euh vous pouvez même
créer des petits personnages fictif vous
pouvez créer votre propre personnage et
puis créer des avatars pour lia de façon
à pouvoir chatter avec des personnalités
différentes et chaque personnalité peut
avoir un contexte différent par exemple
moi à titre perso j'ai créé une IA
spécialisé dans le développement je lui
ai dit tu es un développeur JavaScript
tu dois m'aider à écrire des scripts tu
fais du code propre commenter et cetera
et cetera et dès que je lui pose une
question la réponse elle est très
adaptée à mon problème après je peux
avoir une IA pour spécialiser dans dans
la rédaction de contenu pour site
e-commerce et quand j'ai une question
quand j'ai une demande pour créer une
fiche produit je vais plutôt
sélectionner cette seconde
Ia voilà vous avez donc la possibilité
de créer ces petits personnages de gérer
les modèles
euh et puis c'est à peu près tout
finalement ça reste assez simple c'est
un peu plus technique que LM studio ça
demande un petit peu plus
d'investissement de temps pour pour
maîtriser tout ça mais une fois que vous
savez configurer votre outil i vous avez
la possibilité de discuter avec
n'importe quel Ia dont
Mistral et pouvoir interagir en local il
y a pas besoin de connexion internet
tout fonctionne en local euh aucune
donnée n'est partagée euh donc si vous
travaillez sur pour des entreprise sur
des sujets sensibles privés vous pouvez
utiliser des IA en local pour justement
pouvoir lui fournir votre documentation
histoire que l'a soit capable de
comprendre votre documentation et de
vous aider sans que vos données soient
publiées en et ensuite vous pouvez donc
travailler comme ça sur votre PC la
seule contrepartie c'est bah le temps de
génération au niveau de la réponse sera
plus longent que si vous utilisez par
exemple Google Bard parce Queau lieu
d'être sur des serveurs super puissants
de chez Google vous êtes juste sur votre
ordinateur donc la réponse sera plus
lente mais voilà il y a des pour il y a
des contes moi je vous présente les
principaux outils qui existent sur le
marché ensuite c'est à vous de à vous de
choisir le la meilleure solution selon
la situation voilà j'espère que cette
vidéo vous aura plu pensez comme
d'habitude à vous abonner à liker
commenter la cloche et cetera et puis je
vous dis à bientôt pour d'autres tutos
Посмотреть больше похожих видео
Les Tutos: Docker No. 33: Linkwarden - Gérez et partagez vos sites webs favoris!
Comment utiliser la nouvelle App ChatGPT (sans attendre)
5 Crucial Steps to Set Up Novelcrafter | A Complete AI Novel Guide
Home Assistant & Scrypted: HomeKit Secure Video for any PoE Camera
Unveiling the Power of GPT-4o in Novelcrafter
Best FREE Speech to Text AI - Whisper AI
5.0 / 5 (0 votes)