Open WebUI : Installation, configuration et exécution de LLMs sécurisée pour exploiter Mistral AI

Comment installer Open WebUI : une interface web Open Source pour exécuter des LLMs ?

Introduction à Open WebUI

Open WebUI est une interface web open source, riche en fonctionnalités et conviviale, qui permet d'exécuter des modèles de langage de grande taille (LLMs) en utilisant Ollama et des API compatibles avec OpenAI.

Vous pouvez étendre Open WebUI avec divers modèles d'IA et plugins pour répondre à vos besoins spécifiques. Cet article explique comment installer Open WebUI et exécuter des LLMs sur une instance Vultr Cloud GPU, tout en configurant des certificats SSL pour sécuriser l'accès via un domaine personnalisé.

Prérequis pour installer Open WebUI

Avant de commencer :

• Déployez un serveur avec GPU avec une grosse proportion de Ram, les LLMs sont gourmands donc on préconise à minima la taille du LLMs en Go de RAM pour les exécuter.
• L'installation de Ollama comme nous l'avons vu ici ainsi qu'un 1er LLM déployé
• Configurez un enregistrement DNS de type A pointant vers l'adresse IP publique de votre instance, par exemple openwebui.greenhoster.fr
• Accédez à l'instance en utilisant SSH pour exécuter les commandes 

Installation d'Open WebUI sur votre machine

Vous pouvez installer Open WebUI en utilisant Python Pip ou Docker. La méthode Pip nécessite Python 3.11, tandis que Docker utilise une image conteneur préconstruite.

Suivez les étapes ci-dessous pour installer Open WebUI en utilisant les deux méthodes.

Option 1 : Installation d'Open WebUI avec Pip

1. Installez Python 3.11 :

   apt install python3.11 python3-pip pipx python3.11-venv

2. Installez Open WebUI dans un environnement virtuel python :

   cd /opt
   mkdir project/openwebui -p # choissisez votre propre répertoire et utilisateur
   cd project/openwebui
   python3.11 -m venv webui-env
   source webui-env/bin/activate
   pip install open-webui

3. Exécutez Open WebUI et vérifiez qu'il ne retourne pas d'erreurs :

   open-webui serve

    

Création d'un service système pour exécuter Open WebUI

Si vous installez Open WebUI avec Pip, l'application s'exécute avec la commande open-webui serve. Vous devez créer un service système pour gérer les processus d'Open WebUI sans exécuter directement la commande.

1. Créez un nouveau fichier de service /usr/lib/systemd/system/openwebui.service :

   vi /etc/systemd/system/open-webui.service

2. Ajoutez les configurations de service suivantes au fichier :

   [Unit]
   Description=open-webui Application
   After=network.target

   [Service]
   User=webui
   WorkingDirectory=/opt/project/openwebui
   ExecStart=/bin/bash -c "source /opt/project/openwebui/webui-env/bin/activate && /opt/project/openwebui/webui-env/bin/open-webui serve"
   Restart=always
   StandardOutput=inherit
   StandardError=inherit

   [Install]
   WantedBy=multi-user.target

3. Rechargez systemd pour appliquer la nouvelle configuration de service :

   systemctl daemon-reload

4. On Active le service pour le démarrage au boot et on lance Open WebUI :

   systemctl enable open-webui.service
systemctl start open-webui
systemctl status open-webui

    

Configuration de Nginx comme reverse proxy et exécutez Open WebUI proprement sur votre machine

Open WebUI est accessible sur le port 8080 en utilisant l'adresse IP de votre serveur
Nous vous conseillons de mettre en place un serveur proxy qui va gèrer le point d'entrée ssl de votre domaine.

Voici la configuration nginx que nous mettons en place :

1. Installez Nginx et Certbot
   apt install nginx certbot python3-certbot-nginx/stable

2. Ajoutez les configurations Nginx suivantes au fichier :

3. server { listen 80; server_name openwebui.greenhoster.fr; access_log /var/log/nginx/openwebui_access.log; error_log /var/log/nginx/openwebui_error.log; location / { proxy_pass http://127.0.0.1:8080; proxy_set_header Host $host; proxy_set_header X-Real-IP $remote_addr; proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for; proxy_set_header X-Forwarded-Proto $scheme; }}

4. Mettez un certificat https/ssl en place pour sécuriser au minimum votre connexion
   
   
5. certbot --nginx -d openwebui.greenhoster.fr -m admin@example.com --agree-tos

6. Testez Nginx pour détecter les erreurs de configuration et relancez Nginx:

   nginx -t && systemctl restart nginx

7. Votre interface web est prête
   
   

Accès à Open WebUI depuis un nom de domaine

Vous pouvez accéder à Open WebUI en utilisant votre domaine configuré précédemment. Créez un nouveau compte administrateur pour exécuter des LLMs sur le serveur.

1. Accédez à votre domaine Open WebUI :

   https://openwebui.greenhoster.fr

2. Cliquez sur "Get started" pour accéder à l'interface web d'Open WebUI.

3. Entrez un nom d'utilisateur, une adresse e-mail et un mot de passe pour créer le premier compte administrateur.

4. Sélectionnez le modèle LLM que vous avez préinstallé, MistalAI par exemple que vous avez installé précédemment et entrez une nouvelle invite pour générer un résultat.

Installation et exécution de LLMs dans Open WebUI

Open WebUI est livré avec quelques modèles d'IA par défaut. Vous pouvez également installer de nouveaux modèles directement en utilisant Ollama sur le serveur ou en téléchargeant les fichiers de modèle via l'interface Open WebUI.

1. Visitez la bibliothèque Ollama et trouvez de nouveaux modèles.
   https://ollama.com/library

2. Téléchargez un nouveau modèle, par exemple Openhermes, un modèle opensource alternatif à Mistral AI :

   $ sudo ollama pull openhermes

3. Accédez à Open WebUI dans un nouveau navigateur web et vérifiez que les nouveaux modèles sont disponibles.