Kimi K3 sur un MacBook Pro : le modèle de 2 800 milliards de paramètres tourne depuis 4 SSD

Un modèle de 2 800 milliards de paramètres, le genre qu'on fait tourner sur des grappes de serveurs à des millions d'euros, vient de répondre à des questions sur un MacBook Pro. Une seconde par token, certes. Mais il a répondu, avec ses poids exactement comme Moonshot les a publiés, rien de compressé, rien de sauté.

L'exploit vient d'un projet open source nommé deltafin, présenté sur Hacker News le 8 septembre et repris dans la journée par plus de 250 votes et 130 commentaires. Le moteur est conçu par le développeur derrière gavamedia, et l'équipe Argonaut Labs l'a poussé plus loin : elle a ajouté des SSD externes branchés en Thunderbolt 5 et publié des mesures complètes. Et surtout, l'auteur est honnête sur les limites. C'est rare, ça se raconte.

Un moteur qui refuse de tricher

D'abord, les chiffres. Kimi K3, c'est le modèle MoE, pour « mixture of experts », un modèle découpé en petits spécialistes appelés experts, dont seuls 16 sur 896 sont actifs pour chaque token. Ses poids d'experts pèsent environ 1,45 To. Sur l'architecture cible de Moonshot, ça prend 16 serveurs et près de 4,8 To de mémoire vidéo. Un MacBook Pro M5 Max avec 128 Go de mémoire unifiée, c'est près de 40 fois moins.

Sur la page du projet deltafin, le principe est posé dès la description : faire tourner Kimi K3 en entier sur une seule machine, avec un serveur compatible OpenAI pour le chat local et les agents de code. Le moteur lit chaque expert directement depuis le disque, un fichier de 17,5 Mo par expert et par couche, au moment exact où le modèle en a besoin. Rien n'est réduit en précision, rien n'est amputé : le petit modèle qui devine le mot suivant propose, mais K3 garde le dernier mot sur chaque token.

Source : le dépôt GitHub argonautlabsai/deltafin

Ce que disent les chiffres du test réel

Les mesures ont été prises sur un M5 Max de 128 Go, avec quatre SSD branchés via des boîtiers Thunderbolt 5. En débit continu, le modèle génère 1,0 token par seconde sur une réponse de 512 tokens, et jusqu'à 1,13 sur 128 tokens. C'est nettement mieux que la référence d'origine du projet, un M1 Max qui plafonnait à 0,29 token par seconde.

Source : le dépôt GitHub argonautlabsai/deltafin

Détail intéressant : ça ne scale pas linéairement. Avec un seul disque, tu gardes 52 % de la vitesse finale, avec deux, 73 %, avec trois, 90 %. La raison est étonnante : chaque couche attend le plus lent de ses 16 lectures, ce n'est pas la bande passante totale qui compte, c'est la course entre les disques. C'est le genre de résultat qu'on ne devine pas, on le mesure.

Autre leçon, moins flatteuse : un prompt de 512 tokens met près de 6 minutes et demie avant de produire son premier token. Le moteur relit les experts de chaque couche 8 fois pendant cette phase de lecture initiale, soit environ 9 To de lectures disque pour un modèle de 1,4 To. La correction est identifiée, elle n'est pas encore construite.

À quoi ça sert, vraiment ?

À 1 token par seconde, pas à la discussion en direct. L'auteur le dit lui-même sur Hacker News : ce n'est pas fait pour le chat, c'est fait pour les travaux programmés, ceux où personne ne regarde l'écran. Son usage quotidien, générer des rapports du matin en 30 à 40 minutes et les recevoir en PDF. Un classement, une revue de code, une synthèse du week-end : tous les traitements où tu lances la machine et tu vas boire ton café.

Et c'est exactement le genre de sujet qui nous intéresse ici : l'IA locale, celle qui tourne chez toi, sur ton matériel, sans abonnement ni envoi de documents à un service en ligne. On a déjà vu combien de mémoire il faut pour un modèle local raisonnable ; deltafin pousse l'idée dans l'absurde, et c'est ce qui la rend lisible.

Les limites, soyons honnêtes

Trois points à garder en tête avant de rêver de K3 sur ton propre Mac.

La machine coûte cher : un MacBook Pro M5 Max 128 Go avec quatre SSD externes rapides, on parle de plusieurs milliers d'euros pour un débit d'un token par seconde.

Le contexte reste minuscule : la configuration n'accepte qu'environ 4 400 tokens de contexte, là où Kimi K3 est prévu pour 1 million. La mémoire vive ne suit pas encore.

Le tronc résident est légèrement différent des poids originaux selon les termes du projet lui-même, et le préremplissage reste le point noir, en attente de correction.

À l'inverse, le projet assume sa philosophie : pas de compression agressive des experts comme le font d'autres approches, parce que personne ne sait mesurer ce que cette compression coûte en qualité. Un choix assumé, pas un argument marketing.

Et maintenant ?

Ne t'attends pas à installer ça ce soir pour remplacer ton assistant en ligne. Ce qui est fascinant, c'est la direction : un modèle frontier, exactement comme publié, tourne sur un seul appareil grand public. Il y a deux ans, personne n'y croyait. En 2024, faire tourner un modèle de 70 milliards sur un laptop tenait déjà de la performance. En 2026, on streame 1,45 To depuis quatre SSD.

La vraie question n'est plus « est-ce possible ? » mais « quand ce sera pratique ? ». Si la correction du préremplissage arrive et que la mémoire unifiée continue de grossir, la réponse approche. La frontière entre le modèle qui dort dans un datacenter et celui qui tourne dans ta pièce, elle, vient de bouger d'un cran.

Sources

Le dépôt argonautlabsai/deltafin, avec les benchmarks publics, les journaux d'exécution et la méthodologie du test.

Le projet original gavamedia/deltafin, le moteur conçu par le développeur à l'origine du projet.

La fiche du modèle Kimi K3 sur Hugging Face, les poids publiés par Moonshot AI.

La discussion Hacker News du 8 septembre 2026, avec les réponses de l'auteur aux questions techniques.

—

Recherche, relecture et illustration assistées par IA. Le contenu reflète le travail éditorial de la rédaction.