見出しの事実は控えめだ。あるホビイストがPixel 7を3Dプリント製サイバーデッキに組み込み、Qwen2.5-abliterate:3bをローカルで毎秒約5トークンで実行した。ケース設計にはClaude Codeを使用した。だがその下にある戦略的シグナルは控えめではない。
ここでは2つのトレンドが衝突している。第一に、小規模モデルが静かに十分な性能に達しつつある。4年前のモバイルシリコン上で動く3Bパラメータモデルは遅いが、クラウドなし、API料金なし、デバイス外へのデータ流出なしで動作する。これはエッジ AI の経済性を再定義する。推論の限界費用はゼロに近づき、スマートフォンの寿命価値は小売上の関連性をはるかに超えて延びる。買い替えサイクルで成り立つハードウェア産業にとって、耐久性のあるオンデバイスインテリジェンスは両刃のシフトだ。
第二に、より不都合なのは「abliterated(検閲除去)」の部分だ。これは安全フィルタを剥ぎ取った検閲なしビルドで、完全にオフラインで実行される。エンタープライズガバナンスフレームワークは、制御可能な推論エンドポイント、APIゲートウェイ、ログ記録されたプロンプト履歴を前提としている。消費者向けハードウェア上でエアギャップで動作する有能なモデルは、これらの前提すべてを破壊する。コンプライアンスの問題は、もはや「どのベンダーを信頼するか」ではなく、「モデルがベンダーをまったく必要としなくなったら何が起きるか」となる。
日本市場にとって、このタイミングは示唆的だ。日本には旧型AndroidやPixelクラスのデバイスの膨大なインストールベースがあり、ここの企業はデータレジデンシーとオフライン運用に対して異例なほど敏感だ。製造現場から地方銀行、医療機関まで。オンデバイス小規模モデルは、クラウド推論が政治的または契約的に不可能な環境での AI への真の道を提供する。既存ハードウェアの再利用は、日本企業が直面するコスト規律とサステナビリティ報告にも合致する。
SIerや国内開発チームにとって、これは機会と警告の両方だ。機会は新しい統合カテゴリーだ。汎用または再生デバイス上でのプライバシー保護エッジ AI は、日本のSIerビジネスの中核であり続けるオンプレミス作業の自然な拡張だ。RPAベンダーは、その価値が常にローカル自動化にあったが、繰り返しのAPI露出なしに既存ワークフローに小規模ローカルモデルを重ねることができる。警告は、シャドー AI の取り締まりが一段と困難になったことだ。モデルが200ドルの携帯端末内に完全に収まるようになると、境界線はもはやネットワークではなくデバイスそのものとなり、中央集権的制御を前提に構築された日本のITガバナンスは適応を迫られる。
