Unsloth Desktop : une IA locale gratuite qui tourne sur ton PC

Unsloth Desktop est un programme gratuit pour Windows, macOS et Linux qui rassemble toute l'IA locale dans une seule application. Au lieu de jongler entre plusieurs outils pour télécharger un modèle, ouvrir une interface de discussion et régler la mémoire, tu fais tout depuis une même fenêtre. L'éditeur derrière le projet s'appelle Unsloth, connu pour accélérer l'entraînement et l'exécution de modèles de langage sur des cartes graphiques classiques.

Une seule fenêtre pour toute l’IA locale

Le principe est simple : tu choisis un modèle de langage, il est téléchargé sur ta machine, et tu peux discuter avec lui sans qu'aucune donnée ne parte sur un serveur distant. Les modèles de langage (LLM, pour large language model) sont ces programmes qui répondent en texte, comme ChatGPT, mais qui ici tournent entièrement en local.

Tu n'as pas besoin d'un gros GPU pour démarrer. Unsloth Desktop sait s'adapter à la carte graphique présente dans l'ordinateur et propose aussi des modèles optimisés pour ne consommer que la mémoire nécessaire. Le tout reste gratuit, ce qui en fait une alternative sérieuse aux applications payantes qui expédient tes conversations vers le cloud.

Crédit : Unsloth — aperçu officiel de l’interface, tiré de la page du projet (unsloth.ai).

Des conversations qui dépassent la limite de contexte

Un des points forts de la version récente est l'auto-compaction, une fonction expérimentale qui permet de poursuivre une discussion même quand elle dépasse la limite de contexte du modèle. La limite de contexte, c'est le nombre d'éléments qu'un modèle peut garder en mémoire d'un coup : une conversation très longue finit par la saturer et oublier le début.

Avec l'auto-compaction, les tours les plus anciens sont rangés dans une archive consultable au lieu d'être jetés. Tu peux donc revenir sur une question posée il y a longtemps sans avoir à la répéter, et chercher dans l'historique comme dans un index. C'est pratique pour les longues sessions de travail où l'on enchaîne les questions.

Ton IA locale accessible depuis un autre appareil

La nouvelle version ajoute aussi un accès à distance sur ton réseau local. Une fois activé dans les réglages, tu peux ouvrir Unsloth Desktop depuis un autre appareil branché sur la même box, en scannant un code QR ou en saisissant l'adresse affichée.

Pratique si ton PC est trop lent pour faire tourner un gros modèle, ou si tu préfères discuter depuis un portable pendant que la machine puissante travaille dans la pièce d'à côté. Par défaut, cet accès est désactivé, et il faut définir un mot de passe administrateur avant de pouvoir l'activer, histoire de ne pas ouvrir ta porte au premier venu sur le réseau.

Ce qu’il faut savoir avant de foncer

Avant de t'élancer, garde en tête que la version est encore en bêta : certaines fonctions, justement l'auto-compaction et l'accès réseau, sont marquées comme expérimentales ou en aperçu. Elles fonctionnent, mais peuvent évoluer ou réserver des surprises.

Tout dépend aussi de ton matériel. Si l'application est gratuite et accessible, un grand modèle de langage reste gourmand en mémoire et en calcul. Sur une machine modeste, préfère des modèles plus petits, optimisés pour tourner sur du matériel grand public, plutôt que de vouloir charger la version la plus lourde et de te retrouver avec une application qui rame.

Pourquoi tu devrais y jeter un œil

Si tu veux une IA qui reste chez toi, sans abonnement ni envoi de données vers un serveur, Unsloth Desktop est une porte d'entrée facile. L'installation se fait en quelques clics sur les trois principaux systèmes, et l'interface est pensée pour ne pas exiger de connaissances techniques.

Garde aussi un œil sur l'évolution du projet : les mises à jour sont fréquentes et ajoutent régulièrement des modèles plus rapides ou des fonctions de confort. Lance une discussion avec un modèle local dès maintenant : le meilleur moyen de comprendre l'intérêt est encore d'essayer, avec une conversation qui ne quitte jamais ton ordinateur.

Pour celles et ceux qui veulent pousser plus loin, on a testé comment faire tourner des modèles d’IA géants sur ta propre carte graphique, avec des outils open source qui restent gratuits.