IA local
¿Qué puede ejecutar tu computadora?
El motor local de Convira mantiene el modelo en tu propia computadora. Qué modelos caben lo decide una sola cosa: tu memoria. Dinos cuál es tu computadora y esta página hace el mismo cálculo que la aplicación.
Dinos cuál es tu computadora
Tres formas de entrar. Cualquiera de ellas acaba en la misma respuesta.
La comprobación se hace en tu navegador. No se nos envía nada sobre tu computadora.
31 modelos locales · 64.000 tokens de memoria de conversación, siempre
Todos los modelos locales, por la memoria que necesitan
Ordenados por la memoria que necesita cada modelo para sostener una conversación de 64.000 tokens.
- Una línea cae aquí, en el presupuesto de memoria de tu propia computadora.
5.2 GB el modelo local más pequeño, Qwen 3.5 4B, con 64.000 tokens
Memoria
Por qué la memoria decide lo que puedes ejecutar.
Todo lo que un modelo ha aprendido tiene que estar en la memoria de tu computadora durante todo el tiempo que trabaja, junto a la conversación que sostiene. Lo que entra en esa parte es lo que puedes ejecutar.
La parte que le cede tu computadora
En un Mac, Convira da al modelo el 65 por ciento de tu memoria y guarda el resto para tu sistema operativo. En un PC con tarjeta gráfica le da al modelo el 65 por ciento de la tarjeta más alrededor de una quinta parte de la memoria del sistema, y te avisa cuando parte del modelo se ejecuta en el procesador.
Los miles de millones casi no dicen nada
En esta lista, un modelo de 14 mil millones de parámetros necesita 21 GB antes de arrancar. Un modelo de 29.6 mil millones de parámetros necesita 20 GB. La diferencia está en cómo sostiene el modelo una conversación, no en lo grande que sea. Por eso esta página es una lista de gigabytes y no una lista de miles de millones, y por eso calculamos la respuesta en vez de imprimir una tabla.
El suelo, y lo que queda por debajo
Cada ejecución recibe al menos 64.000 tokens de memoria de conversación, así que un modelo solo cuenta como válido cuando queda sitio para la conversación a su lado. Cuando con ese cálculo no cabe nada de la lista, Convira recomienda el motor en la nube y te dice por qué.
Es una recomendación, no un veredicto. Aun así puedes ejecutar un modelo en esa computadora desde la aplicación, y la aplicación te dejará. Esta página comprueba la memoria, no el espacio libre; la aplicación comprueba las dos cosas, así que puede rechazar un modelo que esta página permitía si la descarga no cabe.
Private Box
Más de lo que cabe en una sola computadora.
Una Private Box es el servidor propio de tu equipo. Ejecuta la misma lista que una computadora de escritorio, con más memoria detrás.
Un servidor normal y potente
Una máquina que se queda encendida, sin necesidad de tarjeta gráfica, ejecuta la misma lista que una computadora de escritorio, solo con más memoria: la clase de 80 mil millones a 128 mil millones de parámetros en una máquina de 128 GB a 256 GB.
Los modelos de frontera
Estos necesitan un servidor con dos o más tarjetas gráficas de centro de datos, y sus descargas van de 242 GB a 756 GB. Esa es la forma honesta del asunto, y es la razón por la que esta página se detiene en lo que cabe en una sola computadora.
Preguntas
Lo que nos preguntan a continuación.
Las respuestas a casi todos los mensajes que recibimos sobre hardware.
¿Un número mayor de miles de millones necesita siempre más memoria?
No, y esta es la parte que casi todo el mundo entiende mal. El número de parámetros de un modelo te dice lo grande que es, no cuánta memoria necesita para sostener una conversación, y en esta lista un modelo más pequeño necesita a veces más memoria que uno mucho mayor. Por eso la página calcula la respuesta para tu computadora en vez de ordenar los modelos por su nombre.
¿Necesito una tarjeta gráfica?
No. Sin ella, el modelo se ejecuta en el procesador. Una petición larga espera minutos en vez de segundos antes de la primera palabra, y Convira está hecho para esperar en vez de rendirse. Dos tarjetas tampoco se suman aquí: Convira carga el modelo en una sola tarjeta, así que una segunda tarjeta no amplía lo que cabe.
¿Y si mi computadora no está en la lista?
Elige en su lugar tus gráficos y tu memoria. Cualquier computadora con los mismos gráficos y la misma memoria obtiene la misma respuesta. También puedes introducir las piezas tú mismo, y las dos puertas acaban en una respuesta real y no en un encogimiento de hombros.
Convira no se instala en mi computadora. ¿Y ahora?
Convira se instala en Mac con Apple Silicon y macOS 12 Monterey o posterior, en Windows 10 y 11 con procesador x64, y en Ubuntu 22.04 o posterior, Debian 12 o posterior y Fedora 38 o posterior en x86_64. En todo lo demás no hay versión que ejecutar, así que esta página no da ninguna respuesta sobre modelos.
¿Y si esta página recomienda la nube para mi computadora?
Entonces el motor en la nube es la mejor elección en esa computadora, y aun así puedes ejecutar un modelo en ella. La aplicación ofrece el motor local de todos modos, porque esta página parte de la memoria con la que se vende tu computadora y la aplicación parte de la máquina que tiene delante. La recomendación es un consejo, no un cerrojo.
¿Cuánto disco ocupan los modelos?
De unos 3 GB a unos 76 GB. La aplicación muestra el tamaño antes de descargar. Desde una página web no podemos ver tu espacio libre, así que la aplicación todavía puede rechazar un modelo que esta página permitía.
¿Convira mide lo rápido que es mi computadora?
No. Publicamos si un modelo cabe. No publicamos tokens por segundo, porque no hemos medido tu computadora, y un número que no hemos medido no merece imprimirse.
¿Puede un mismo modelo necesitar dos cantidades de memoria muy distintas?
Sí. Algunos modelos se publican en más de una versión, y las versiones sostienen una conversación de forma distinta, así que una versión puede necesitar varias veces la memoria de otra para el mismo modelo. La aplicación ofrece la versión que tu computadora puede albergar, y esta página muestra esa y no la media de las dos.
¿Por qué un modelo necesita más memoria que su descarga?
Porque la descarga es solo lo que el modelo ha aprendido. En memoria guarda eso más la conversación en la que trabaja, y la cifra de memoria cuenta las dos cosas. El modelo más pequeño de esta lista descarga 3.1 GB y necesita 5.2 GB de memoria.
¿De dónde salen estas cifras?
De la misma lista que usa la aplicación. La página guarda el tamaño de descarga de cada modelo y la memoria que ocupa su conversación, y calcula todas las cifras a partir de esas dos, así que no hay una segunda tabla que pueda quedarse anticuada. Las fuentes de cada chip y cada tarjeta se publican junto a los datos.