ローカルLLMの7B・26Bとは?数字でPCに乗るか分かる
ローカルLLMのモデル名に付く「7B」「26B」の意味を、やさしく解説します。Bは10億のことで、7Bならパラメータが70億個。この数字が読めると、自分のPCで動くかの見当がつきます。4ビット版なら「Bの数字の半分」がギガバイトの目安になること、Gemma 4の「26B-A4B」や「8x7B」といったMoE型の見分け方、仕事でのモデルの選び方、環境構築をCodexやClaudeに任せるコツまでお話ししています。冒頭では、GMOあおぞらネット銀行のAPI一時停止にも触れています。 🕐タイムスタンプ 00:00 オープニング:7B・26Bってどういう意味? 00:41 本題の前に:GMOあおぞらネット銀行のAPI一時停止 01:37 今日のテーマ:モデル名の数字の読み方 02:24 結論:Bは10億、7Bならパラメータ70億個 03:00 Bはビリオン:7B・26B・70Bの読み方 03:27 パラメータとは何か 04:07 辞書の厚さにたとえると 04:25 大きさごとのざっくりした感覚 05:29 Bの数字から必要なメモリが分かる 06:17 4ビット版はBの半分のギガバイト 06:38 実際のファイルと、動かすときのメモリ 07:34 「乗る」と「快適」は別 07:57 B以外の数字:Gemma 4 26B-A4B 08:37 A4BはMoE型の目印 09:22…
The skinny
The skinny isn't ready yet — notes appear once the transcript is processed.