ローカル AI
お使いのコンピューターは何を動かせますか？
Convira のローカルエンジンは、モデルをご自身のコンピューターの中に留めます。どのモデルが収まるかを決めるのは、メモリというたった一つの条件です。お使いのコンピューターを教えていただければ、このページはアプリとまったく同じ計算をします。
お使いのコンピューターを教えてください
入口は三つ。どれを選んでも同じ答えに行き着きます。
チェックはブラウザーの中で行われます。お使いのコンピューターについて、何もわたしたちに送られません。
ローカルモデル 31 件 · 会話メモリは常に 64,000 トークン
すべてのローカルモデルを、必要なメモリ順に
64,000 トークンの会話を保持するために各モデルが必要とするメモリの順に並べています。
- ここに 1 本の線が引かれます。お使いのコンピューター自身のメモリ枠です。
5.2 GB 最も小さいローカルモデル Qwen 3.5 4B、64,000 トークンで
メモリ
なぜメモリが動かせるものを決めるのか。
モデルが学んだことはすべて、動いている間ずっと、保持している会話のすぐ隣でコンピューターのメモリに置かれていなければなりません。その取り分に収まるものが、動かせるものです。
お使いのコンピューターが差し出す取り分
Mac では、Convira はメモリの 65 パーセントをモデルに渡し、残りは OS のために確保します。グラフィックカードのある PC では、カードの 65 パーセントに加えてシステムメモリの約 5 分の 1 をモデルに渡し、モデルの一部がプロセッサで動くときにはそれをお知らせします。
何十億という数字はほとんど何も語りません
このリストでは、パラメータ 14 十億のモデルが起動するまでに 21 GB を必要とします。パラメータ 29.6 十億のモデルが必要とするのは 20 GB です。 違いはモデルの大きさではなく、会話をどう保持するかにあります。だからこのページは何十億という数字の一覧ではなくギガバイトの一覧であり、だから表を刷るのではなく答えを計算しています。
下限と、その下にあるもの
どの実行にも少なくとも 64,000 トークンの会話メモリが割り当てられるため、モデルは隣に会話の分の余地があるときにはじめて収まったと数えられます。この計算でリストのどれも収まらないとき、Convira はクラウドエンジンをおすすめし、その理由をお伝えします。
これはおすすめであって、判決ではありません。アプリからそのコンピューターでモデルを動かすことはできますし、アプリはそれを許します。このページが見るのはメモリで、空き容量は見ません。アプリは両方を見るので、ダウンロードが入らなければ、このページが許したモデルを断ることもあります。
Private Box
1 台のコンピューターに収まる以上のもの。
Private Box はチームご自身のサーバーです。デスクトップ機と同じリストを、より多くのメモリを後ろに置いて動かします。
ごく普通の強いサーバー
つけたままにしておく機械は、グラフィックカードがなくても、デスクトップ機と同じリストを動かします。違うのはメモリの量だけです。128 GB から 256 GB の機械で、パラメータ 800 億から 1280 億のクラスまで届きます。
フロンティアモデル
これらにはデータセンター向けグラフィックカードを 2 枚以上積んだサーバーが必要で、ダウンロードは 242 GB から 756 GB にのぼります。それが正直なところで、だからこのページは 1 台のコンピューターに収まる範囲で止めています。
質問
みなさんが次に聞かれること。
ハードウェアについていただくほぼすべてのご連絡への答えです。
何十億という数字が大きいほど、必ずメモリも多く必要になりますか？
いいえ。そして、ここをほとんどの方が誤解されています。モデルのパラメータ数が示すのはその大きさで、会話を保持するために必要なメモリの量ではありません。このリストでは、小さいモデルがはるかに大きいモデルより多くのメモリを必要とすることもあります。だからこのページはモデルを名前で並べるのではなく、お使いのコンピューターに合わせて答えを計算します。
グラフィックカードは必要ですか？
いいえ。カードがなければモデルはプロセッサで動きます。長い依頼では最初のひと言までに秒ではなく分かかりますが、Convira はあきらめるのではなく待つように作られています。2 枚のカードもここでは足し合わせになりません。Convira はモデルを 1 枚のカードに載せるので、2 枚目のカードで収まる範囲が広がることはありません。
自分のコンピューターがリストにない場合はどうなりますか？
代わりにグラフィックスとメモリを選んでください。グラフィックスとメモリが同じコンピューターなら、答えも同じになります。部品をご自身で入力することもできますし、どちらの入口も肩をすくめる返事ではなく本当の答えに行き着きます。
自分のコンピューターは Convira を入れられる機種ではありません。どうすればいいですか？
Convira は macOS 12 Monterey 以降の Apple Silicon Mac、x64 プロセッサの Windows 10 と 11、そして x86_64 の Ubuntu 22.04 以降、Debian 12 以降、Fedora 38 以降にインストールできます。それ以外では動かせるビルドがないため、このページはモデルについての答えを出しません。
このページが自分のコンピューターにクラウドをすすめたらどうなりますか？
そのコンピューターではクラウドエンジンのほうが良い選択だということで、それでもモデルを動かすことはできます。アプリはいずれにせよローカルエンジンを提示します。このページはコンピューターが売られているときのメモリから考え、アプリは目の前にある実機から考えるからです。おすすめは助言であって、鍵ではありません。
モデルはどれくらいのディスクを使いますか？
約 3 GB から約 76 GB です。アプリはダウンロードの前に容量を表示します。ウェブページからは空き容量が見えないため、このページが許したモデルをアプリが断ることはあります。
Convira は自分のコンピューターの速さを測りますか？
いいえ。わたしたちが公開するのは、モデルが収まるかどうかです。毎秒トークン数は公開しません。お使いのコンピューターを測っていませんし、測っていない数字は載せる値打ちがないからです。
一つのモデルが、まったく違う二つのメモリ量を必要とすることはありますか？
あります。いくつかのモデルは複数のビルドで出ていて、ビルドによって会話の保持のしかたが違うため、同じモデルでも片方のビルドがもう片方の数倍のメモリを必要とすることがあります。アプリはお使いのコンピューターが収められるビルドを提示し、このページは二つの平均ではなくそのビルドを表示します。
なぜモデルはダウンロードより多くのメモリを必要とするのですか？
ダウンロードはモデルが学んだ分だけだからです。メモリの中では、それに加えて取り組んでいる会話も保持され、メモリの数字は両方を数えています。このリストで最も小さいモデルはダウンロードが 3.1 GB で、メモリは 5.2 GB 必要です。
これらの数字はどこから来ていますか？
アプリが使っているのと同じリストからです。このページは各モデルのダウンロード容量と、その会話が使うメモリを持ち、すべての数字をその二つから計算しています。ですから古くなりうる二つ目の表はありません。チップとカードごとの出典はデータのそばに公開しています。