LLMUI est une plateforme on-premise de gestion et d'orchestration de modèles LLM, disponible en deux versions : Core v0.5.0 (open-source AGPLv3 + Common Clause, gratuit) et Entreprise v4.3 (licence propriétaire) avec Agent Andy multi-rôles, gestion multi-instances Ollama, connecteurs Git, tests Proxmox, PWA mobile, notifications push et sécurité enterprise complète. Développée au Québec par Nexios TF inc.
Exclusif à LLMUI Entreprise v4.3
Andy est l'agent central de LLMUI Entreprise v4.3 (licence propriétaire). Il exécute chaque message dans un pipeline multi-rôles configurable — task analyser, tools manager, workers parallèles, merger et reviewer — avec boucle ReAct pour l'orchestration d'outils, streaming SSE et support de conversations parallèles simultanées. Exclusif à LLMUI Entreprise — non disponible dans LLMUI Core.
Trois modes d'exécution — conversation, analyse, programmation — chaque rôle assignable indépendamment avec LLM primaire et fallback
3 workers traitent simultanément par angles analytique, technique et pratique ; le merger synthétise une réponse cohérente
Jusqu'à 5 itérations d'enchaînement d'outils — Proxmox, Git, webcrawler, notes — avec décision autonome à chaque passe
Exécution SSH sur Windows (PowerShell) et Linux, clés AES-256 ; application desktop installable (Windows/Linux) avec rotation de clé SSH automatique
Andy sauvegarde des notes par utilisateur (préférences, contexte, rappels) et adapte ses réponses selon le feedback reçu
Canal bidirectionnel Andy ↔ utilisateurs avec Web Push natif (RFC 8291) ; personas spécialisés activables — Review PR, TDD, QA, Reverse Engineering et plus
Core vs Entreprise : Deux niveaux de sophistication
Architecture simple et efficace
Workers: phi3:3.8b, gemma2:2b • Merger: granite4:micro-h
Pipeline consensus 12 étapes pour qualité enterprise
Workers: mistral, ministral-3.2:14b, phi4-reasoning:14b • Merger: devstral • Mémoire: glm4 • Vision: qwen2.5-vl:14b
Choisissez la version adaptée à vos besoins
Workers (phi3, gemma2) + Merger (granite4) pour des réponses par consensus. Architecture éprouvée.
Assistant DevOps autonome pour installation automatisée en une commande. Menu interactif complet.
Hébergement local complet. Aucune dépendance cloud. Vos données restent chez vous.
Support PDF, DOCX, TXT, MD, images (PNG, JPG), données (CSV, JSON), et code source.
Mémoire de conversation avec SQLite. Historique complet et contexte persistant.
Authentification JWT, chiffrement sessions, pare-feu configuré, isolation des services.
Interface web complète via Nginx. Proxy llmui-proxy pour gestion sessions et auth.
Support natif Linux (Debian, Ubuntu, Rocky, RHEL) et Windows via WSL2.
Gestion professionnelle via systemd. Logs journalctl. Auto-restart configuré.
Pipeline configurable — task analyser, tools manager, workers parallèles, merger, talker, reviewer — avec boucle ReAct et streaming SSE.
Instances locales et cloud avec auto-sync, flag is_cloud pour les grands contextes. Délégation LLM : Andy sous-traite à d'autres modèles.
Synchronisation de dépôts GitHub/GitLab, source pour RAG, lecture et écriture de fichiers directement depuis Andy.
Tests de modèles LLM sur infrastructure Proxmox. Gestion complète VMs et LXC — cycle de vie, snapshots, exécution, migration — via SSH depuis Andy.
Deux Progressive Web Apps installables — interface Andy et centre de notifications — sur Android et iOS (Safari). Icône barre de notifications sous Windows/Linux.
Canal bidirectionnel Andy ↔ utilisateurs. Web Push RFC 8291 (EC P-256, AES-128-GCM). Les utilisateurs répondent à Andy sans passer par email.
RBAC complet Users → Groups → Roles → Permissions. TOTP obligatoire pour les admins (QR SVG, tolérance ±30 s). Rate limiting 5 tentatives / 15 min par IP.
Accord de confidentialité 3 niveaux (user / guest_admin / admin) obligatoire au premier login. Audit log immuable, traçabilité complète de toutes les actions.
Espaces de fichiers partagés entre utilisateurs et Andy, créables via le panel admin ou directement dans le chat. Journal d'activité complet.
Personas spécialisés activables — Review PR, TDD, Jira Manager, QA Tester, Reverse Engineering, API Reverser, Littérature & Écriture et plus.
Boutons 👍/👎 sur chaque réponse. Un unlike avec commentaire crée une note mémoire pour adapter les futures réponses. Rapport de bugs par email aux admins.
6 langues supportées avec interface i18n complète. Thème sombre/clair persisté, appliqué avant rendu CSS pour éviter le flash.
Architecture moderne et performante
LLMUI Core (open-source) et LLMUI Entreprise (propriétaire)
Gratuit • Open-Source
Licence Propriétaire
Consulting & Formation
Démarrez avec Andy en moins de 30 minutes • v0.5.0 Open-Source
Linux (Debian/Ubuntu/Rocky/RHEL) ou Windows 10/11 avec WSL2. 8GB+ RAM recommandé (16GB idéal).
Récupérez le code source depuis GitHub
L'assistant DevOps autonome installe tout automatiquement
Ouvrez votre navigateur et commencez à utiliser LLMUI Core
Pour LLMUI Entreprise, contactez-nous
Questions, support, ou projet entreprise ?
Que vous ayez besoin de support, de consulting, ou d'un déploiement enterprise, notre équipe est là pour vous accompagner.