IA local
O que seu computador consegue rodar?
O motor local da Convira mantém o modelo no seu próprio computador. Quais modelos cabem é decidido por uma só coisa: sua memória. Diga qual é o seu computador e esta página faz a mesma conta que o app faz.
Diga qual é o seu computador
Três caminhos. Todos terminam na mesma resposta.
A verificação roda no seu navegador. Nada sobre o seu computador é enviado para nós.
31 modelos locais · 64.000 tokens de memória de conversa, sempre
Todos os modelos locais, pela memória que pedem
Ordenados pela memória que cada modelo pede para manter uma conversa de 64.000 tokens.
- Uma linha cai aqui, no orçamento de memória do seu próprio computador.
5,2 GB o menor modelo local, Qwen 3.5 4B, em 64.000 tokens
Memória
Por que a memória decide o que você consegue rodar.
Tudo o que um modelo aprendeu precisa ficar na memória do seu computador durante todo o tempo em que ele trabalha, ao lado da conversa que está mantendo. O que couber nessa parte é o que você consegue rodar.
A parte que o seu computador cede a ele
Em um Mac, a Convira dá ao modelo 65 por cento da sua memória e guarda o resto para o sistema operacional. Em um PC com placa de vídeo, dá ao modelo 65 por cento da placa mais cerca de um quinto da memória do sistema, e avisa quando parte do modelo roda no processador.
Os bilhões quase não dizem nada
Nesta lista, um modelo de 14 bilhões de parâmetros precisa de 21 GB antes de iniciar. Um modelo de 29.6 bilhões de parâmetros precisa de 20 GB. A diferença está em como o modelo mantém uma conversa, não em como ele é grande. É por isso que esta página é uma lista de gigabytes e não uma lista de bilhões, e por isso calculamos a resposta em vez de imprimir uma tabela.
O piso, e o que fica abaixo dele
Cada execução recebe pelo menos 64.000 tokens de memória de conversa, então um modelo só conta como adequado quando sobra espaço para a conversa ao lado dele. Quando nada da lista cabe por essa conta, a Convira recomenda o motor na nuvem e diz por quê.
Isso é uma recomendação, não um veredito. Você ainda pode rodar um modelo naquele computador pelo app, e o app vai permitir. Esta página verifica a memória, não o espaço livre; o app verifica os dois, então ele pode recusar um modelo que esta página liberou se o download não couber.
Private Box
Mais do que um computador comporta.
Uma Private Box é o servidor do seu time. Ela roda a mesma lista que um computador de mesa roda, com mais memória por trás.
Um servidor comum e forte
Uma máquina que fica ligada, sem precisar de placa de vídeo, roda a mesma lista que um computador de mesa roda, só com mais memória: a classe de 80 bilhões a 128 bilhões de parâmetros em uma máquina de 128 GB a 256 GB.
Os modelos de fronteira
Esses precisam de um servidor com duas ou mais placas de vídeo de datacenter, e os downloads vão de 242 GB a 756 GB. Esse é o desenho honesto da coisa, e é por isso que esta página para no que um computador comporta.
Perguntas
O que as pessoas perguntam em seguida.
As respostas para quase toda mensagem que recebemos sobre hardware.
Um número maior de bilhões sempre precisa de mais memória?
Não, e esta é a parte que quase todo mundo entende errado. A contagem de parâmetros de um modelo diz o quanto ele é grande, não quanta memória ele precisa para manter uma conversa, e nesta lista um modelo menor às vezes precisa de mais memória do que um bem maior. É por isso que a página calcula a resposta para o seu computador em vez de ordenar os modelos pelo nome.
Preciso de uma placa de vídeo?
Não. Sem ela o modelo roda no processador. Um pedido longo espera minutos em vez de segundos antes da primeira palavra, e a Convira foi feita para esperar em vez de desistir. Duas placas também não se somam aqui: a Convira carrega o modelo em uma placa, então uma segunda placa não aumenta o que cabe.
E se o meu computador não estiver na lista?
Escolha seus gráficos e sua memória no lugar dele. Qualquer computador com os mesmos gráficos e a mesma memória recebe a mesma resposta. Você também pode informar as peças você mesmo, e as duas portas terminam em uma resposta de verdade, não em um encolher de ombros.
A Convira não se instala no meu computador. E agora?
A Convira se instala em Macs com Apple Silicon no macOS 12 Monterey ou mais recente, no Windows 10 e 11 com processador x64, e no Ubuntu 22.04 ou mais recente, Debian 12 ou mais recente e Fedora 38 ou mais recente em x86_64. Em qualquer outra coisa não há versão para rodar, então esta página não dá resposta sobre modelos.
E se esta página recomendar a nuvem para o meu computador?
Então o motor na nuvem é a melhor escolha naquele computador, e você ainda pode rodar um modelo nele. O app oferece o motor local de todo jeito, porque esta página parte da memória com que o seu computador é vendido e o app parte da máquina que está na frente dele. A recomendação é um conselho, não uma trava.
Quanto disco os modelos ocupam?
De cerca de 3 GB a cerca de 76 GB. O app mostra o tamanho antes de baixar. De uma página web não conseguimos ver o seu espaço livre, então o app ainda pode recusar um modelo que esta página liberou.
A Convira mede o quanto o meu computador é rápido?
Não. Publicamos se um modelo cabe. Não publicamos tokens por segundo, porque não medimos o seu computador, e um número que não medimos não vale ser impresso.
Um mesmo modelo pode precisar de duas quantidades de memória bem diferentes?
Sim. Alguns modelos saem em mais de uma versão, e as versões mantêm uma conversa de formas diferentes, então uma versão pode precisar de várias vezes a memória de outra para o mesmo modelo. O app oferece a versão que o seu computador comporta, e esta página mostra essa e não a média das duas.
Por que um modelo precisa de mais memória do que o download dele?
Porque o download é só o que o modelo aprendeu. Na memória ele guarda isso mais a conversa em que está trabalhando, e o número da memória conta as duas coisas. O menor modelo desta lista baixa 3.1 GB e precisa de 5.2 GB de memória.
De onde vêm esses números?
Da mesma lista que o app usa. A página guarda o tamanho do download de cada modelo e a memória que a conversa dele ocupa, e calcula todos os números a partir desses dois, então não existe uma segunda tabela para ficar desatualizada. As fontes de cada chip e de cada placa são publicadas ao lado dos dados.