Tu veux tester une IA qui reste chez toi, sans envoyer tes fichiers à un nuage américain et sans transformer ton ordinateur en laboratoire de recherche ? LocalAI 4.8.0 vient de sortir avec une promesse très concrète : réunir texte, voix, images, vidéo et 3D derrière un seul moteur local. La version ajoute surtout des briques utiles, mais plusieurs restent expérimentales et ton matériel fera toujours office de videur à l’entrée.
Une IA locale qui dépasse enfin le simple chatbot
LocalAI sert de moteur compatible avec plusieurs interfaces connues. Tu peux donc brancher des outils qui parlent déjà les API OpenAI, Anthropic ou ElevenLabs, tout en faisant tourner les modèles sur ta machine ou ton serveur. Le projet est open source, sous licence MIT, et propose des chemins CPU, Apple Silicon, AMD, Intel, Vulkan et NVIDIA.
La différence n’est pas seulement une question de confidentialité. Une installation locale te donne aussi un service disponible même quand le fournisseur distant tousse, une facture prévisible et la possibilité de choisir précisément les modèles autorisés. En contrepartie, tu gères les mises à jour, les téléchargements de modèles et la consommation électrique. La liberté, comme souvent, arrive avec une petite pile de tâches administratives.
Crédit : LocalAI, schéma officiel du noyau composable — https://github.com/mudler/LocalAI/blob/master/docs/static/images/diagrams/composable-core.png
Trois nouveautés qui changent vraiment l’usage
Première nouveauté visible : la génération 3D. LocalAI 4.8.0 ajoute une route dédiée, un moteur basé sur TRELLIS.2 et une page web capable d’afficher un fichier GLB. En clair, tu peux partir d’une image et obtenir un objet 3D exploitable, par exemple pour une maquette, une visualisation ou une préparation d’impression. Ce n’est pas encore le bouton magique qui remplace un modeleur 3D : les résultats dépendent fortement de l’image source et la fonction est lourde pour une petite machine.
Deuxième morceau intéressant : audio.cpp. Un même moteur prend en charge la transcription, la détection de voix, la séparation des sources, la diarisation et plusieurs formes de synthèse vocale. Pour l’utilisateur, cela ouvre la porte à un dictaphone local, à des comptes rendus de réunions ou à une interface vocale sans téléverser les enregistrements. Là encore, ne confonds pas « disponible » avec « instantané » : la vitesse et la qualité varient énormément selon le modèle et le processeur.
Troisième amélioration, moins spectaculaire mais beaucoup plus pratique : la galerie sait proposer plusieurs variantes d’un même modèle. LocalAI choisit la version qui tient dans la mémoire disponible et sur le matériel détecté, au lieu de te laisser comparer quinze fichiers aux noms cryptiques. Pour démarrer, c’est probablement le changement le plus utile : moins de chasse à la bonne quantification, moins de téléchargement raté, moins de soirée passée à lire des tableaux de compatibilité.
Ce que tu peux faire chez toi sans carte graphique
Le projet insiste sur ses chemins CPU, et ce n’est pas qu’un slogan : transcription, petits modèles de conversation, recherche dans des documents et certaines fonctions vocales peuvent tourner sur un ordinateur courant. Une machine récente avec 16 Go de mémoire devient un terrain de jeu crédible pour les petits modèles. Avec 8 Go, il faudra rester raisonnable et accepter que « local » ne signifie pas « rapide comme un service distant ».
L’installation peut passer par Docker, un paquet Linux, une image pour GPU ou un binaire macOS. Une fois le serveur lancé, l’interface web permet de télécharger un modèle, puis les clients compatibles se connectent à l’adresse locale. Tu peux aussi garder un usage très simple : poser des questions, résumer un dossier, transcrire un enregistrement ou interroger un document sans exposer son contenu.
Pour un foyer, les usages les plus réalistes sont ceux qui évitent un transfert de données : notes personnelles, transcription d’une réunion associative, classement de fichiers, assistant de recherche dans un dossier ou synthèse de vidéos. Les agents et les outils capables d’exécuter des actions demandent davantage de prudence. Une IA locale peut rester locale tout en faisant une bêtise locale, ce qui est une consolation assez maigre quand elle supprime le mauvais fichier.
Le nouveau moteur vllm.cpp reste à surveiller
La version introduit aussi vllm.cpp, un moteur C++20 maintenu par l’équipe LocalAI. Il reprend des idées de l’architecture vLLM, comme la gestion plus efficace du contexte et le traitement de plusieurs demandes, mais il est explicitement livré en alpha dans les versions de développement. Les chiffres annoncés par le projet sont donc à lire comme des mesures internes, pas comme une garantie universelle.
Pour le grand public, le point important n’est pas le nom du moteur. C’est la possibilité de faire tourner des modèles plus efficacement, sans installer une énorme pile Python et sans choisir entre dix environnements concurrents. Mais si tu cherches un service stable à confier à toute ta famille aujourd’hui, reste sur les moteurs marqués comme stables et garde l’alpha pour les tests.
Les limites à connaître avant de remplacer le nuage
LocalAI ne rend pas les modèles moins gourmands par magie. La 3D, la vidéo et les gros modèles de langage réclament de la mémoire, parfois beaucoup. La compatibilité matérielle est large, mais « compatible CPU » peut vouloir dire « ça démarre » plutôt que « c’est agréable à utiliser ». Vérifie toujours la taille du modèle, la mémoire disponible et les besoins du moteur avant de lancer un téléchargement de plusieurs gigaoctets.
Il faut aussi garder un œil sur les modèles téléchargés et leurs licences. LocalAI fournit le moteur, pas une garantie automatique sur les droits d’utilisation de chaque modèle proposé dans la galerie. Enfin, une installation exposée sur Internet sans authentification est une mauvaise idée, même si elle tourne chez toi. Un service local doit être protégé comme n’importe quel autre service, avec des sauvegardes et des mises à jour.
Le verdict : une boîte à outils, pas un bouton magique
LocalAI 4.8.0 devient plus intéressant parce qu’il ne se contente plus de servir un modèle de texte. La voix, la vision, la 3D, les variantes matérielles et l’interface allègent les premiers pas pour celles et ceux qui veulent garder leurs usages chez eux. Les utilisateurs avancés apprécieront les nouveaux moteurs et le mode distribué, tandis que les débutants devront encore accepter quelques réglages et une bonne dose de patience.
Si tu veux essayer, commence petit : un modèle léger, une tâche précise et aucune exposition publique. Ajoute ensuite la transcription ou la vision quand tu sais mesurer ce que ta machine supporte. L’IA locale ne remplace pas encore tous les nuages, mais elle peut déjà leur retirer quelques fichiers sensibles et une partie de ton abonnement.
Sources
LocalAI 4.8.0 — notes de version officielles : https://github.com/mudler/LocalAI/releases/tag/v4.8.0
Site officiel LocalAI — présentation, installation et documentation : https://localai.io/
Dépôt officiel LocalAI — architecture, compatibilité et démarrage : https://github.com/mudler/LocalAI
—
Recherche, relecture et illustration assistées par IA. Le contenu reflète le travail éditorial de la rédaction.
No comments yet