1-bit LLM「Bonsai」活用ガイド — 1.15GB で動く 8B モデルをローカルで使い倒す

AI 要約

Caltechスタートアップ PrismML が2026年3月31日に1-bit LLM「Bonsai」を発表。8Bクラスのモデルがわずか1.15GB・メモリ約1.5GBで動作し、GPUなしの一般PCでも実用的な推論が可能。量子化ではなく最初から1-bit（+1/-1）で学習した真の1-bitモデルであり、同クラス16-bitモデルの約1/14というフットプリントは、ローカルLLM活用の敷居を大幅に下げるため、一般ユーザーや開発者に広く影響する。