わずか0.43GBでスマホ動作可能なAI「Ternary Bonsai 2」シリーズがオープンモデルとして登場、iPhone 18 Pro Maxで毎秒120トークンの高速処理が可能

親愛なる読者の皆さまへ。ご存じの通り価格高騰などの悪影響でサーバー運営がとても苦しい状態です。回線や台数を整理し見直せる部分は全て見直しましたが、やはりまだ危険水域です。このままだと1ページを10分割ぐらいして無理矢理PVを増やさざるを得なくなってしまいます。そこで、GIGAZINEの物理的なサーバーたちを、たった1円でも良いので親愛なる読者の皆さまに支援してもらえればとっても助かります！今すぐ寄付は上のボタンから！ ・ これまでGIGAZINEを支援してくれたメンバーのリスト

AI開発企業のPrismMLがスマートフォンでローカル動作する小型AIモデル「 Ternary Bonsai 2 2B 」「 Ternary Bonsai 2 4B 」「 Ternary Bonsai 2 9B 」を現地時間の2026年10月15日に公開しました。すでにiPhoneで動作する環境が整備されています。 PrismML — Introducing Ternary Bonsai 2 2B, 4B, and 9B: Bringing Local Agents to Everyday Devices https://prismml.com/news/bonsai-2-family 高性能なAIモデルを実行するには大容量なメモリが必要であり、スマートフォンやノートPCなどのメモリ容量の少ないデバイスで高性能モデルを実行するにはモデルの省メモリ化が必要です。PrismMLはモデルの性能低下を抑えつつ省メモリ化する技術を開発している企業で、2026年9月にはQwen3.8 27Bのメモリ使用量を5.9GBにまで削減した「Ternary Bonsai 2 27B」をリリースして話題となっていました。 Qwen3.8 27Bを5.9GBまで小型化しつつ性能は98.2％維持したAIモデル「Ternary Bonsai 2 27B」が登場 - GIGAZINE

そんなPrismMLが、Qwen3.5 2Bをベースとした「Ternary Bonsai 2 2B」、Qwen3.5 4Bベースの「Ternary Bonsai 2 4B」、Qwen3.5 9Bベースの「Ternary Bonsai 2 9B」を2026年10月15日に公開しました。各モデルはベースモデルを「-1」「0」「1」の3値で処理できるように改造したモデルであり、メモリ使用量はTernary Bonsai 2 2Bが0.43GB、Ternary Bonsai 2 4Bが0.95GB、Ternary Bonsai 2 9Bが2GBで、ベースモデルの9分の1以下に抑えられています。 各モデルはローカルで動作するAIアシスタントとして有用なものとなるように、「指示に従う」「処理ループへの突入を避ける」「適切なツールを呼び出す」「不要な出力を避ける」という要素に焦点を当てて設計されているとのこと。 各モデルとベースモデルの各種ベンチマークスコアをまとめた表が以下。ベースモデルからの性能低下を抑えられているだけでなく、一部のテストではベースモデルを上回っています。

「Ternary Bonsai 2 27B」「Ternary Bonsai 2 9B」「Ternary Bonsai 2 4B」「Ternary Bonsai 2 2B」「Qwen3.5 9Bの16bit版」「Qwen3.5 9Bの4bit版」の各デバイスでの秒間処理トークン数をまとめた図が以下。新モデル3種はiPhone 18 Pro Maxでも動作し、Ternary Bonsai 2 2Bは秒間120トークンという非常に高速な処理が可能です。

Here is Bonsai 2 9B running locally on an iPhone, performing agentic tasks. It’s a practical example of bringing reasoning and tool use directly into a mobile application. On iPhone 18 Pro Max, Bonsai 2 9B reaches up to 34 toks/sec, while the 2B model reaches up to 120 toks/sec. pic.twitter.com/q3RLVV6h4R

Meet the new @PrismML Bonsai 2 model family. Available in 2B, 4B, and 9B. Based on Qwen 3.5, these new models are more efficient and designed for everyday devices. Update your app on iPhone and iPad to try them out.