MISTRAL AI : Comment installer GRATUITEMENT le Chat GPT Français en local ? (WebUI)

Summary

Cette vidéo présente l'interface web open source Text Generation UI qui permet d'interagir localement avec des modèles d'intelligence artificielle comme Mistral. On explique comment installer et configurer cet outil, choisir un modèle IA parmi ceux proposés sur Hugging Face, et discuter avec lui via l'interface de chat. On montre aussi comment personnaliser les paramètres et créer différents avatars pour avoir des conversations adaptées au contexte.

Takeaways

• 😀 Présentation de l'interface text generation web UI pour interagir avec le modèle d'IA Mistral
• 👩‍💻 Installation facile via des scripts préconfigurés pour Windows, Linux ou WSL
• 🤖 Choix du modèle de langage à utiliser (Mistral, Lama, etc) et chargement dans l'interface
• ⚙️ Accès à de nombreux paramètres pour personnaliser et spécialiser l'IA selon vos besoins
• 🗣️ Possibilité de créer différents avatars/personnalités pour l'IA avec des contextes dédiés
• 🔁 Fonctionnement 100% en local, aucune donnée partagée en ligne
• ⏱️ Génération de réponses plus lente qu'avec des IA en ligne comme Google Bard
• 💡 Construire de bons « prompts » est essentiel pour obtenir de bonnes réponses de l'IA
• 📝 De nombreux cas d'usage : rédaction de contenu, développement, résumés, traduction...
• ✅ Solution adaptée pour traiter des données sensibles localement avec une IA privée

Q & A

Quel est le nom du projet open source présenté dans la vidéo ?

Le projet open source présenté est Text Generation Web UI. Il s'agit d'une interface web permettant d'utiliser localement différents modèles de langage comme Mistral.

Quelle est la particularité du modèle Mistral par rapport aux autres modèles d'IA ?

La particularité de Mistral est qu'il s'agit de 8 modèles en un. Mistral est capable de sélectionner les 2 meilleurs experts parmi les 8 pour répondre à chaque question.

Quelle est la différence entre le modèle Mistral 7B et Mistral Mix ?

Mistral 7B est un modèle plus léger (5-6 Go) permettant de rivaliser avec des modèles beaucoup plus lourds. Mistral Mix est la version avec les 8 experts fusionnés, plus gourmande en ressources (30 Go).

Quels sont les avantages d'utiliser une IA conversationnelle en local ?

Les avantages sont : pas besoin de connexion internet, confidentialité des données, possibilité d'installer plusieurs modèles et de les personnaliser sans limite, rapidité une fois configuré.

Comment personnaliser le comportement d'une IA conversationnelle ?

On peut personnaliser le comportement de l'IA via les paramètres disponibles dans l'interface, mais aussi en rédigeant un pré-prompt, c'est-à-dire des instructions sur le rôle attendu de l'IA dans la conversation.

Qu'est-ce que le "prompt engineering" ?

Le "prompt engineering" désigne l'art de formuler de bons prompts, c'est-à-dire les questions et les instructions données à l'IA, pour obtenir les meilleures réponses possibles.

Quelle est la différence entre cette interface et L.M. Studio présenté précédemment ?

Cette interface est plus technique et offre plus de paramètres pour personnaliser finement les modèles d'IA. Elle est destinée aux développeurs contrairement à L.M. Studio qui vise le grand public.

Quels sont les inconvénients d'une IA conversationnelle en local ?

Les inconvénients sont : nécessite une config PC puissante, temps de génération des réponses plus lent, prise en main plus complexe que des solutions clé en main.

Peut-on créer plusieurs avatars d'IA avec des personnalités différentes ?

Oui, on peut créer plusieurs avatars d'IA conversationnelle, chacun avec sa propre personnalité et son propre contexte métier par exemple.

Quels sont les modèles alternatifs à Mistral?

Les principaux modèles alternatifs sont Anthropic, Alphabet, Google Bard. On peut aussi citer Vikuna, Guanako ou L.M.A.

Outlines

00:00

👨‍💻 Présentation de Mistral AI et Text Generation Web UI

Cette vidéo introduit Mistral AI, un modèle d'intelligence artificielle développé en France, et explique comment l'interagir à travers le projet Text Generation Web UI, conçu principalement pour les développeurs et les passionnés de nouvelles technologies. Le narrateur souligne que cette interface offre plus de paramètres et de liberté pour l'utilisateur car elle est open source, permettant le développement de plugins et l'utilisation de Python. Le projet, qui peut être trouvé sur GitHub, est comparé à l'interface automatique 11 11 de stable diffusion, offrant un accès complet au code source et la possibilité d'installer différents mods de langage pour personnaliser l'expérience utilisateur.

05:00

🌐 Installation et utilisation de Text Generation Web UI

La vidéo guide l'utilisateur à travers l'installation de Text Generation Web UI, en commençant par télécharger le projet de GitHub et exécuter le script adapté au système d'exploitation de l'utilisateur. Après le téléchargement et l'extraction du fichier, l'utilisateur doit lancer un script qui initie automatiquement l'installation, nécessitant uniquement la spécification du type de carte graphique utilisé. Une fois l'installation terminée, le narrateur démontre comment accéder à l'interface via un navigateur web et précise que par défaut, l'interface est vide sans aucun modèle d'IA intégré, nécessitant l'installation de modèles de langage pour pouvoir interagir avec un agent conversationnel.

10:02

🔧 Configurer et personnaliser l'IA avec des modèles

Dans ce segment, l'explication se concentre sur la configuration de l'interface pour interagir avec des modèles d'intelligence artificielle spécifiques, tels que Mistral 7b ou le modèle mixte 'mixral'. L'utilisateur est dirigé vers le site de Mistral AI pour choisir et télécharger des modèles de langage. Le processus inclut la navigation sur le site Hugging Face pour copier le nom du modèle souhaité et le coller dans l'interface Web UI pour le téléchargement. Après le chargement des modèles, l'utilisateur peut sélectionner le modèle souhaité, ajuster les paramètres et commencer à interagir avec l'IA, soulignant la flexibilité de créer des personnages fictifs et de personnaliser l'expérience d'interaction.

Keywords

💡intelligence artificielle

L'intelligence artificielle, ou IA, fait référence aux systèmes informatiques capables d'effectuer des tâches normalement réservées à l'intelligence humaine. Dans la vidéo, l'IA est représentée par les modèles de langage comme Mistral qui permettent de converser avec un agent conversationnel.

💡modèle de langage

Un modèle de langage est une intelligence artificielle entraînée sur de grandes quantités de données textuelles, capable de générer du texte de façon autonome. Mistral 7B et Mixral sont des exemples de modèles de langage présentés dans la vidéo.

💡Mistral

Mistral est un modèle de langage français développé par Anthropic. Deux versions sont présentées : Mistral 7B, plus léger, et Mixral, plus puissant car combinant 8 modèles en un.

💡prompting

Le prompting désigne l'art de formuler des instructions, appelées « prompts », destinées à un modèle d'IA afin d'obtenir les meilleures réponses possibles.

💡préprompte

Le préprompte permet de donner des instructions initiales au modèle d'IA pour établir le contexte de la conversation et définir le rôle qu'il doit jouer.

💡paramètres

Les paramètres permettent de régler finement le comportement du modèle d'IA, comme le niveau de créativité ou le style de langage.

💡avatars

Les avatars sont des personnages fictifs que l'on peut créer pour que le modèle d'IA adopte différentes personnalités, comme un développeur web ou un rédacteur de contenus.

💡local

Faire tourner l'IA en local signifie l'utiliser directement sur son ordinateur, sans passer par des serveurs distants, ce qui offre plus de confidentialité.

💡open source

Un logiciel open source a son code source librement accessible, ce qui permet de le modifier ou d'y contribuer. Le projet text generation web UI présenté est open source.

💡datasets

Les datasets sont les quantités massives de données textuelles utilisées pour entraîner les modèles de langage comme Mistral.

Highlights

Présentation de comment interagir avec Mistral AI dans le contexte du projet Text Generation Web UI

Explications sur comment installer le projet Text Generation Web UI

Indications sur le choix du modèle de langage à utiliser avec l'interface

Présentation du modèle Mistral 7B et de ses performances

Introduction du modèle Mistral Mix capable de combiner 8 experts

Explications sur le téléchargement de modèles depuis le site Hugging Face

Démonstration du chargement du modèle Vikuna dans l'interface

Rappel que l'art de poser les bonnes questions à une IA s'appelle le prompt engineering

Présentation du pré-prompt permettant de donner des instructions et un contexte à l'IA

L'interface donne accès à de nombreux paramètres pour personnaliser l'IA

Possibilité de créer différents personnages et avatars pour l'IA

Les IA peuvent être utilisées en local pour traiter des données sensibles

En local, les réponses sont plus lentes mais il n'y a pas besoin de connexion internet

Comparaison avec Google Bard : local est plus lent mais garantit la confidentialité

Invitation à s'abonner, liker et commenter la vidéo

Transcripts

bonjour à tous et bienvenue dans cette

vidéo dans laquelle je vais vous

présenter comment vous allez pouvoir

interagir avec Mistral ai donc le modèle

d'intelligence artificielle made in

France mais cette fois-ci je vais vous

présenter ça dans le contexte de du

projet text generation web ui j'ai fait

une vidéo précédemment sur comment

l'utiliser avec LM studio ma vidéo

précédente c'est vraiment une vidéo

grand public qui s'adresse à tout le

monde tous ceux qui veulent discuter

avec Mistral et avoir une intell

artificielle puissante en local donc sur

son ordinateur là ce que je vais faire

c'est vous présenter des notions un peu

plus avancé puisque l'interface que je

vais utiliser est destinée plutôt aux

développeurs ou aux passionnés de

nouvelles technologies et cette

interface l'avantage qu'elle a c'est

juste que elle vous offre un petit peu

plus de paramètres euh et plus de

liberté puisque c'est un projet

totalement open source et vous avez la

possibilité de développer des plugins et

tout un tas d'outils si vous maîtrisez

notamment python donc voilà ça va être

une vidéo assez similaire mais plus

orienté tech que que grand public donc

le projet s'appelle text generation web

ui vous pouvez le retrouver sur

GitHub donc vous recherchez ça sur votre

moteur de recherche préféré et vous

allez tomber donc sur la page officielle

et c'est ici que vous allez pouvoir donc

récupérer cet

outil pour ceux qui connaissent

l'interface automatique 11 11 de stable

diffusion et bien là en fait c'est la

même chose c'est le même type

d'interface donc ici on a tous les

dossiers bon ça nous intéresse pas trop

mais on a accès à tout tout le code

source du projet vous allez retrouver

des captures d'écran du logiciel donc

c'est ce logiciel que

euh que l'on va avoir donc en en local

vous avez accès aux

fonctionnalités en

réalité le le le but de cet outil c'est

simplement de pouvoir installer un mode

mod de langage par exemple Mistral ai et

de pouvoir

l'utiliser via une interface

conviviale comment installer le projet

donc en fait c'est là que ça vafin c'est

là que on va rentrer dans le cœur du du

sujet Comment installer le projet on

vous dit de cloner ou de télécharger le

le dossier donc là on va le faire

ensemble ensuite il faut lancer le

script qui correspond à votre système

d'exploitation vous avez des scripts

pour Windows Linux et également si vous

êtes sur des sur WSL pour ceux qui

utilisent docker par exemple donc vous

avez un script à lancer qui va gérer

l'installation automatiquement pour vous

c'est très simple vous n'avez rien à

faire si ce n'est juste indiquer votre

carte graphique quel est le type de de

carte graphique que vous utilisez bon

ben moi je vais faire la manipulation

bon je vais cliquer sur Download ça va

automatiquement me lancer le

téléchargement du

zip voilà donc donc le zip a été

téléchargé c'est assez léger une

vingtaine de még 30 même je vais juste

extraire ça sur mon ordinateur quelque

part où vous voulez ça n'a pas trop

d'importance et là j'ai bien récupéré

text generation web

ui bon une fois que vous êtes là vous

devez rentrer dans le dossier et ensuite

faire ce que on vous a demandé de faire

à savoir lancer le script qui correspond

à votre système d'exploitation donc moi

je suis sur windows je vais donc lancer

windows.bat ça va m'ouvrir une petite

fenêtre de commande ici alors je vais

essayer de zoomer un peu même si c'est

pas forcément très intéressant je vais

zoomer un peu et là ça va lancer des

téléchargements je vais pas aller au

bout des téléchargements parce que c'est

très très long ça va télécharger

plusieurs gigas de de de données de

dépendance donc c'est très très long je

vais pas je vais pas le faire comme je

vous l'ai dit mais il va falloir laisser

tourner tout ça il va falloir laisser

tourner l'installeur et à un moment

donné on va vous poser la question

quelle est votre carte graphique

euh il faudra juste choisir le modèle

donc vous aurez par exemple a Nvidia B

AMD et il faudra juste choisir a si vous

êtes sur

Nvidia bon voilà grosso modo au niveau

de l'installation comme je vous l'ai dit

moi je vais arrêter ça parce que là ça

va prendre beaucoup de temps sinon je

l'ai déjà fait en préparant cette vidéo

j'ai déjà installé l'outil avant donc

moi euh tout est tout est déjà prêt

euh donc je suis dans le dossier text

generation web ui c'est le dossier qu'on

a téléchargé ensemble et le script a

fini de tourner ce que je vais faire

c'est que je vais lancer

euh start Windows encore une fois je

vais relancer le script sauf que cette

fois-ci j'aurai pas de téléchargement ou

quoi que ce soit ça va juste lancer le

logiciel et me donner une URL sur lequel

l'interface sera

accessible voilà donc après 5 secondes

vous avez l'URL qui apparaît le

le projet est disponible en local donc

vous pouvez mettre

127.0.0.1

2.7860 78 60 étant le port proposé par

par l'interface donc ce que je vais

faire c'est tout simplement me rendre

dans mon navigateur à cette url

là donc je tape

127001 78 60 je valide et là l'interface

charge et j'arrive sur la Web UI par

défaut vous ne pourrez rien faire ici

par défaut vous ne pouvez pas parler

avec une intelligence artificielle parce

que la web ui c'est une coquille vide il

y a aucune Ia il y a aucun modèle le

modèle c'est vraiment ce qui représente

l'intelligence artificielle c'est la

masse de données qui a été regroupée

dans un fichier c'est une sorte de

grosse base de données qui est donc le

le modèle de langage et c'est ce modèle

qui va vous permettre de de discuter

avec un agent conversationnel il y a pas

de modèle embarqué dans la web ui vous

arrivez vraiment sur une coquille vide

vous ne pouvez parler à personne ce qui

est bien avec les IA que vous pouvez

faire tourner en local c'est que vous

pouvez choisir à qui vous voulez parler

vous avez le modèle Lama officiel de ma

mais vous avez plein de modèles qui sont

super connus et assez puissants comme le

guanako ou le vikuna euh vous avez des

modèles qui sont

totalement comment dire absolument pas

censurés parce que il y a donc il y a

une certaine censure qui s'applique sur

les modèles génériques mais il y a des

modèles qui sont pas du tout censurés et

vous avez le Fame le fameux modèle al

qui qui fait beaucoup parler de lui ces

derniers temps donc vous pouvez

installer ce que vous voulez et vous

pouvez potentiellement installer des

dizaines de modèles différents sans

aucun problème vous faites ce que vous

voulez en local c'est juste qu'après les

fichiers ont un certain poids et ça sera

limité par l'espace sur votre disque dur

euh ce que je vais faire c'est que je

vais aller sur le site de Mistral ai

donc c'est

mistral.ai et là je vais aller sur

product ici on va retrouver les modèles

il y a deux modèles qui sont disponibles

il y a le Mistral 7b qui est un modèle

très léger euh parce queil faut savoir

que les modèles peuvent être plus ou

moins lourd ils peuvent avoir été

entraînés avec un certain nombre de

données quelques milliards quelques

dizaines de milliards quelques centaines

de milliards forcément au plus il y a de

données au plus le modèle est lourd et

au plus il vous faudra une configuration

vraiment puissante pour pouvoir faire

tourner ce

modèle pour le grand public comme vous

et moi on utilise en général des modèles

7b parce que au-delà il faut vraiment

avoir des cartes graphiques très très

très très puissantes déjà là pour le

modèle 7 7b il va vous falloir 4 ou 6 Go

de VRAM si vous n'avez pas ça vous ne

pourrez pas faire tourner le modèle ou

alors ça risque d'être très très très

très

lent la puissance de Mistral c'est que

ils arrivent à rivaliser avec les

meilleurs

modèles avec leur modèle 7b Mistral 7b

est capable de rivaliser avec des

modèles euh 30 ou 70b par exemple sur

certains points le modèle très léger de

Mistral fait mieux que des modèles très

lourds de concurrents je vous laisserai

vous renseigner sur ça sur internet il y

a plein de tableaux comparatif c'est

vraiment super puissant et là là où

Mistral a fait force c'est qu'ils ont

sorti un autre modèle qui s'appelle le

mixral donc faites attention c'est pas

pareil et là le truc c'est que c'est h

modèles en un ils ont réussi à fusionner

h experts si vous voulez en un seul

modèle et quand vous allez poser une

question à ce modèle ça va sélectionner

les deux experts parmi les H qui

pourront vous apporter la meilleure

réponse possible donc c'est vraiment

c'est vraiment assez exceptionnel par

contre la contrepartie de ça c'est que

ça demande un tout petit peu plus de

puissance de calcul et le modèle est

très très

lourd en moyenne vous allez avoir un

modèle à 30 Go un peu plus de 30 Go donc

c'est assez lourd comparé à Mistral 7b

qui fait 5 ou 6 Go on va voir ça tout de

suite donc je clique sur le mistral 7b

classique je vais aller sur le site

hugging face qui qui est un site sur

lequel vous allez pouvoir retrouver

plein de modèles dont le fameux Mistral

ici je suis sur la page officielle on

peut avoir des informations mais au

final ça nous intéresse pas plus que ça

nous ce qu'on veut c'est télécharger le

modèle on peut aller sur fileine version

et là vous pouvez voir les informations

du modèle ainsi que le poids le poids

des fichiers vous ce que vous allez

devoir faire c'est surtout cliquer ici

vous allez cliquer ici sur ce petit

icône qui va vous de copier le nom du

modèle parce que c'est ça dont on a

besoin c'est le nom du modèle je vais

retourner sur mon interface web ui et je

vais aller sur l'onglet modèle ici sur

l'onglet modèle je vais venir ici faire

clic droit coller pour coller le nom du

modèle donc là je veux récupérer Mistral

7b et vous cliquez sur Download je ne

vais pas le faire parce que je l'ai déjà

fait mais là dans l'idée vous pouvez

donc donc télécharger le modèle MISTRAL

je vous laisserai regarder sur ING face

il y a vraiment plein de modèles

différents comme je vous l'ai dit il y a

vikuna ou guanako qui sont également

assez connus il y a Lama qui est le

modèle de méta et puis différentes

versions de Mistral comme ça un modèle

open source il y a plein de personnes

qui peuvent créer leur propre version de

Mistral bref vous allez mettre ici le

modèle que vous voulez télécharger vous

pouvez en télécharger autant que vous

voulez ça prend du temps parce que ça

fait plusieurs gigas donc vous cliquez

sur don ça lancer tout ça une fois que

c'est fait une fois que vous avez

télécharger le modèle vous avez juste à

cliquer ici pour rafraîchir la liste des

modèles une fois que la liste est

rafraîchie vous avez un menu déroulant

ici et dans ce menu déroulant vous allez

retrouver les modèles qui sont

disponibles sur votre ordinateur donc là

pour l'exemple moi

j'ai je par exemple le vikuna qui n'a

rien à voir avec Mistral mais c'est

juste pour l'exemple donc je prends le

viuna lorsque je sélectionne le modèle

ça me met les paramètres adaptés à ce

modèle et je clique sur load donc là ce

que ça fait c'est que ça charge le

modèle en mémoire pour dire à ma web ui

que c'est ce modèle que je veux utiliser

et euh et puis une fois que c'est chargé

j'ai un message de confirmation je peux

ensuite retourner sur le chat et là je

peux poser ma question 1 + 1 point

d'interrogation je clique sur generate

et dans l'idée je veux juste voir que ça

marche je veux juste voir que Liam me

répond

elle me répond de c'est bon on voit

qu'on peut commencer à chatter et euh et

interagir avec uneia le message que vous

écrivez ici ça s'appelle un prompte

parler à Unia c'est très facile mais

bien lui parler c'est compliqué c'est ça

s'appelle le prompt engineering l'art de

construire un bon prompte pour avoir une

bonne réponse évidemment là j'ai fait

l'exemple le plus basique possible avec

1+1 mais vous pouvez demander à unea

vous rédiger le contenu de votre site

web de faire un brain brainstorming pour

vous de vous aider à travailler sur des

projets

euh vous pouvez créer des résumés

traduire des textes faire du

référencement web bref il y a plein de

possibilités l'interface ici à première

vue elle est assez simple mais en

réalité vous avez pas mal de

fonctionnalités vous allez pouvoir créer

le préprompte le préprompt c'est un

petit peu les instructions que vous

donnez à lia en lui expliquant voilà le

contexte voilà quel est qu'est-ce que

quel est ton rôle qu'est-ce que tu vas

faire pour m'aider et cetera vous allez

pouvoir euh euh mettre en place un petit

contexte vous avez accès à tous les

paramètres de liia ça c'est ce que je

vous disais par rapport à LM studio que

j'avais présenté dans une vidéo

précédente là vous avez accès à encore

plus de paramètres pour vraiment euh

personnaliser très très très précisément

votre intelligence artificiel et

indiquer comment elle doit se comporter

c'est des sujets assez complexes j'ai

fais une formation complète sur sur ça

mais c'est des sujet assez complexe

sachez que vous avez la main sur tous

les paramètres euh vous pouvez même

créer des petits personnages fictif vous

pouvez créer votre propre personnage et

puis créer des avatars pour lia de façon

à pouvoir chatter avec des personnalités

différentes et chaque personnalité peut

avoir un contexte différent par exemple

moi à titre perso j'ai créé une IA

spécialisé dans le développement je lui

ai dit tu es un développeur JavaScript

tu dois m'aider à écrire des scripts tu

fais du code propre commenter et cetera

et cetera et dès que je lui pose une

question la réponse elle est très

adaptée à mon problème après je peux

avoir une IA pour spécialiser dans dans

la rédaction de contenu pour site

e-commerce et quand j'ai une question

quand j'ai une demande pour créer une

fiche produit je vais plutôt

sélectionner cette seconde

Ia voilà vous avez donc la possibilité

de créer ces petits personnages de gérer

les modèles

euh et puis c'est à peu près tout

finalement ça reste assez simple c'est

un peu plus technique que LM studio ça

demande un petit peu plus

d'investissement de temps pour pour

maîtriser tout ça mais une fois que vous

savez configurer votre outil i vous avez

la possibilité de discuter avec

n'importe quel Ia dont

Mistral et pouvoir interagir en local il

y a pas besoin de connexion internet

tout fonctionne en local euh aucune

donnée n'est partagée euh donc si vous

travaillez sur pour des entreprise sur

des sujets sensibles privés vous pouvez

utiliser des IA en local pour justement

pouvoir lui fournir votre documentation

histoire que l'a soit capable de

comprendre votre documentation et de

vous aider sans que vos données soient

publiées en et ensuite vous pouvez donc

travailler comme ça sur votre PC la

seule contrepartie c'est bah le temps de

génération au niveau de la réponse sera

plus longent que si vous utilisez par

exemple Google Bard parce Queau lieu

d'être sur des serveurs super puissants

de chez Google vous êtes juste sur votre

ordinateur donc la réponse sera plus

lente mais voilà il y a des pour il y a

des contes moi je vous présente les

principaux outils qui existent sur le

marché ensuite c'est à vous de à vous de

choisir le la meilleure solution selon

la situation voilà j'espère que cette

vidéo vous aura plu pensez comme

d'habitude à vous abonner à liker

commenter la cloche et cetera et puis je

vous dis à bientôt pour d'autres tutos