「大きなAIはクラウドの向こうにあるもの」──その常識が、また一歩崩れました。

米スタートアップのPrismMLは2026年7月14日、270億パラメータの大型AIモデル「Bonsai 27B」を無料公開しました。本来なら約54GBあるモデルを独自技術で約3.9GBまで圧縮し、「このサイズのAIがスマホで動くのは初」と同社はうたいます。さらに同社CEOは、Appleがこの圧縮技術を評価していることも認めました。

今日はこのニュースを、「すごい技術が出た」で終わらせず、中小企業にとって“手元で動くAI”が何を意味するのかまで掘り下げます。

何が起きたのか──「270億パラメータ」がスマホに入った

PrismMLの発表によると、Bonsai 27Bは中国Alibaba発のAIモデル「Qwen3.6 27B」をベースに、重みを極限まで軽くする「1bit量子化」という技術で圧縮したモデルです。

  • 1bit版: 約3.9GB（元の約14分の1）。フル精度の90%以上の性能を維持（同社測定）
  • 1.58bit版: 約5.9GB（約9分の1）。95%以上の性能を維持（同社測定）

画像も読めるマルチモーダル型で、スクリーンショットや書類、カメラの映像をその場で処理できます。同社発表では、iPhone 17 Pro上で毎秒11トークン（1秒に日本語数文字〜十数文字を生成するイメージ）で動作したとのこと。しかもApache 2.0ライセンスで、誰でも無料でダウンロードして商用利用できます。

「270億パラメータ」は、ChatGPTのような最上位クラウドAIには及ばないものの、少し前なら業務用サーバでしか動かせなかった規模です。それが電話機に収まった、というのが今回のインパクトです。

Appleも動いた──“手元で動くAI”は大きな流れ

このニュースをさらに大きくしているのが、Appleの存在です。

PrismMLのCEOは米CNBCに対し、Appleを含む複数の企業が同社モデルの速度・電力効率・性能を評価中だと認めました（AppleInsiderなどが報道）。交渉は「ごく初期。ただ順調に進んでいる」（原文は英語・大意）とのことです。

報道によれば、PrismMLはカリフォルニア工科大学発のスピンアウトで、今年3月にKhosla Venturesなどから1,625万ドルを調達したばかり。Appleはかねて「より大きなAIをiPhone上で直接動かす」道を探っていると報じられており（MacRumors）、実現すればSiriなどの処理をクラウドに送らず、スマホの中で完結するAIに近づきます。

つまりいまAIは、「大きく賢く」（クラウドの巨大モデル）と「小さく手元で」（オンデバイス）の二方向に同時進化しています。先週まで追いかけてきた新モデルラッシュが前者なら（詳しくはこちら：新モデルラッシュとの付き合い方）、今回は後者の大きな一歩です。

中小企業にとっての意味──“手元で動く”利点は3つ

「スマホでAIが動いて何がうれしいの？」に対する答えは、はっきりしています。

利点1：データが会社の外に出ない

クラウドAIを業務で使うとき、最初のハードルは「顧客情報や機密をAI会社のサーバに送っていいのか」でした。手元で動くAIなら、データは端末から一歩も出ません。見積書・顧客リスト・健康情報など、外に出しにくいデータを扱う業種ほど恩恵が大きくなります。

利点2：ネットがない場所でも動く

建設現場・工場・車内・災害時──電波の弱い場所でもAIが使えます。カメラや書類をその場で読ませる使い方は、マルチモーダル対応の今回のようなモデルと相性が良い領域です。

利点3：使うほど増える「API代」がかからない

クラウドAIは従量課金が基本で、使い込むほど請求書が膨らみます（詳しくはこちら：AIの請求書問題）。手元のAIは電気代と端末代だけ。毎月のランニングコストを固定費に変えられるのは、経営目線では大きな違いです。

なお「手元で動くAI」の基本や始め方は、以前の記事で詳しく解説しています（詳しくはこちら：ローカルで動くAIという選択肢）。

冷静に見るポイント──「9割の性能」の残り1割

良い話ばかりではありません。押さえておくべき注意点が4つあります。

  1. 性能の数字は自社測定──「90%以上維持」はPrismML自身のベンチマーク結果で、第三者による独立検証はまだ見当たりません
  2. 落ちる1割は「知的な仕事」──圧縮による数%の性能低下は、数学・コーディング・事実の推論といった領域に出やすいと報じられています。「ほぼ同じ性能」と思って使うと肩透かしの可能性があります
  3. Appleとの話は「ごく初期」──採用が決まったわけではありません。報道には、スタートアップの発表には宣伝の側面もあるとして慎重な見方を促すものもあります
  4. 動くのは高性能な端末──今回の実績は最新のiPhone 17 Proでのもの。古いスマホや安価なPCで同じように動くわけではありません

まとめ──今日から慌てる話ではない。ただし方向は覚えておく

  • PrismMLが270億パラメータの「Bonsai 27B」を無料公開。54GB級のモデルが約4GBになり、iPhoneで動いたと発表
  • Appleも同社の圧縮技術を評価中と報道。「手元で動くAI」は業界の大きな流れに
  • 中小企業にとっての利点は「データが外に出ない」「オフラインで動く」「API代がかからない」の3つ
  • ただし性能の数字は自社測定で、数学やコーディングは苦手になるとの指摘も。過度な期待は禁物

今日すぐに仕事のやり方が変わる話ではありません。ただ、「AIを使う＝クラウドに月額を払う」だけが選択肢の時代は、確実に終わりつつあります。半年後にAI導入を考えるとき、**「クラウドか、手元か、その組み合わせか」**という問いが当たり前になっている──今回のニュースは、その予告編です。

参考

※本記事は複数の公開情報をもとに作成しています。