「スマホで動く」270億パラメーターLLM「Bonsai 27B」登場

AI 要約

「Bonsai 27B」は270億パラメーターを持ちながら、iPhoneなどのスマートフォン上で動作可能なサイズに圧縮された大規模言語モデル。これまで高性能なLLMはクラウドサーバーに依存していたが、このモデルはエッジデバイスでの実行を可能にする点で重要な技術的進歩といえる。スマートフォンユーザーや、オフライン・プライバシー重視のAI活用を求める開発者・企業に大きな影響を与える可能性がある。