IA locale
Que peut faire tourner votre ordinateur ?
Le moteur local de Convira garde le modèle sur votre propre ordinateur. Ce qui décide des modèles qui conviennent, c'est une seule chose : votre mémoire. Dites-nous quel est votre ordinateur et cette page fait le même calcul que l'application.
Dites-nous quel est votre ordinateur
Trois entrées. Chacune mène à la même réponse.
La vérification se fait dans votre navigateur. Rien de ce qui concerne votre ordinateur ne nous est envoyé.
31 modèles locaux · 64 000 tokens de mémoire de conversation, toujours
Tous les modèles locaux, par la mémoire dont ils ont besoin
Classés par la mémoire dont chaque modèle a besoin pour tenir une conversation de 64 000 tokens.
- Une ligne se place ici, au budget mémoire propre à votre ordinateur.
5,2 Go le plus petit modèle local, Qwen 3.5 4B, à 64 000 tokens
Mémoire
Pourquoi la mémoire décide de ce que vous pouvez faire tourner.
Tout ce qu'un modèle a appris doit rester dans la mémoire de votre ordinateur pendant tout son travail, à côté de la conversation qu'il tient. Ce qui entre dans cette part, vous pouvez le faire tourner.
La part que votre ordinateur lui accorde
Sur un Mac, Convira donne au modèle 65 pour cent de votre mémoire et garde le reste pour votre système d'exploitation. Sur un PC avec carte graphique, il donne au modèle 65 pour cent de la carte plus environ un cinquième de la mémoire système, et vous dit quand une partie du modèle tourne sur le processeur.
Les milliards ne vous apprennent presque rien
Sur cette liste, un modèle de 14 milliards de paramètres a besoin de 21 Go avant de démarrer. Un modèle de 29.6 milliards de paramètres en demande 20 Go. La différence tient à la façon dont le modèle tient une conversation, pas à sa taille. C'est pour cela que cette page est une liste de gigaoctets et non une liste de milliards, et que nous calculons la réponse au lieu d'imprimer un tableau.
Le plancher, et ce qui se trouve en dessous
Chaque exécution reçoit au moins 64 000 tokens de mémoire de conversation, donc un modèle ne compte comme adapté que s'il reste de la place pour la conversation à côté. Quand rien sur la liste ne convient d'après ce calcul, Convira recommande le moteur cloud et vous dit pourquoi.
C'est une recommandation, pas un verdict. Vous pouvez quand même faire tourner un modèle sur cet ordinateur depuis l'application, et l'application vous le permettra. Cette page vérifie la mémoire, pas l'espace libre ; l'application vérifie les deux, elle peut donc refuser un modèle que cette page autorisait si le téléchargement ne tient pas.
Private Box
Plus que ce qu'un seul ordinateur contient.
Une Private Box est le serveur de votre équipe. Elle fait tourner la même liste qu'un ordinateur de bureau, avec plus de mémoire derrière.
Un serveur ordinaire mais puissant
Une machine qui reste allumée, sans carte graphique obligatoire, fait tourner la même liste qu'un ordinateur de bureau, simplement avec plus de mémoire : la classe de 80 à 128 milliards de paramètres sur une machine de 128 Go à 256 Go.
Les modèles de pointe
Ceux-là demandent un serveur avec deux cartes graphiques de datacentre ou plus, et leurs téléchargements vont de 242 Go à 756 Go. Voilà la forme honnête des choses, et c'est pourquoi cette page s'arrête à ce qu'un seul ordinateur contient.
Questions
Ce qu'on nous demande ensuite.
Les réponses à presque tous les messages que nous recevons sur le matériel.
Plus de milliards veut-il toujours dire plus de mémoire ?
Non, et c'est là que presque tout le monde se trompe. Le nombre de paramètres d'un modèle vous dit sa taille, pas la mémoire dont il a besoin pour tenir une conversation, et sur cette liste un modèle plus petit demande parfois plus de mémoire qu'un modèle bien plus grand. C'est pour cela que la page calcule la réponse pour votre ordinateur au lieu de classer les modèles par leur nom.
Ai-je besoin d'une carte graphique ?
Non. Sans carte, le modèle tourne sur le processeur. Une longue demande attend des minutes plutôt que des secondes avant le premier mot, et Convira est conçu pour attendre plutôt que pour abandonner. Deux cartes ne s'additionnent pas non plus ici : Convira charge le modèle sur une seule carte, donc une deuxième carte n'augmente pas ce qui tient.
Et si mon ordinateur n'est pas dans la liste ?
Choisissez plutôt votre carte graphique et votre mémoire. Tout ordinateur avec la même carte graphique et la même mémoire obtient la même réponse. Vous pouvez aussi saisir les composants vous-même, et les deux portes mènent à une vraie réponse plutôt qu'à un haussement d'épaules.
Mon ordinateur n'est pas un ordinateur sur lequel Convira s'installe. Et maintenant ?
Convira s'installe sur les Mac Apple Silicon sous macOS 12 Monterey ou plus récent, sur Windows 10 et 11 avec un processeur x64, et sur Ubuntu 22.04 ou plus récent, Debian 12 ou plus récent et Fedora 38 ou plus récent en x86_64. Sur tout le reste il n'y a aucune version à exécuter, donc cette page ne donne pas de réponse sur les modèles.
Et si cette page recommande le cloud pour mon ordinateur ?
Alors le moteur cloud est le meilleur choix sur cet ordinateur, et vous pouvez quand même y faire tourner un modèle. L'application propose le moteur local de toute façon, parce que cette page part de la mémoire avec laquelle votre ordinateur est vendu et que l'application part de la machine qu'elle a devant elle. La recommandation est un conseil, pas un verrou.
Combien de disque prennent les modèles ?
D'environ 3 Go à environ 76 Go. L'application montre la taille avant de télécharger. Nous ne pouvons pas voir votre espace libre depuis une page web, donc l'application peut encore refuser un modèle que cette page autorisait.
Convira mesure-t-il la vitesse de mon ordinateur ?
Non. Nous publions si un modèle convient. Nous ne publions pas de tokens par seconde, parce que nous n'avons pas mesuré votre ordinateur, et un chiffre que nous n'avons pas mesuré ne vaut pas la peine d'être imprimé.
Un même modèle peut-il demander deux quantités de mémoire très différentes ?
Oui. Quelques modèles existent en plusieurs versions, et ces versions tiennent une conversation différemment, donc une version peut demander plusieurs fois la mémoire d'une autre pour le même modèle. L'application propose la version que votre ordinateur peut contenir, et cette page montre celle-là plutôt que la moyenne des deux.
Pourquoi un modèle demande-t-il plus de mémoire que son téléchargement ?
Parce que le téléchargement n'est que ce que le modèle a appris. En mémoire, il garde cela plus la conversation sur laquelle il travaille, et le chiffre de mémoire compte les deux. Le plus petit modèle de cette liste télécharge 3.1 Go et demande 5.2 Go de mémoire.
D'où viennent ces chiffres ?
De la même liste que celle de l'application. La page contient la taille de téléchargement de chaque modèle et la mémoire que prend sa conversation, et calcule tous les chiffres à partir de ces deux-là, il n'y a donc pas de second tableau à devenir obsolète. Les sources de chaque puce et de chaque carte sont publiées à côté des données.