株式会社グローバルゲート公式ブログ
ChromeがローカルAI実行環境になる衝撃 〜Built-in AI（オンデバイスAI）を使ってみた〜
こんにちは、株式会社グローバルゲートのモーリーです。
先週、映画ちいかわを観てきました（通算4回目）。
3回目までは小声のセリフや効果音などを聞き逃さないように、画面の隅々を見落とさないようにと集中して鑑賞していましたが、4回目は何も考えずに美しく楽しい映像と楽曲に浸ってきました。
そろそろ上映終了も見えてきた時期なのが寂しいですが、きっと配信やDVDの発売もあるでしょうしまだまだ楽しみは尽きません。
さて、今回はChromeに搭載されたAI機能「Built-in AI」についてご紹介したいと思います。
Chromeはご存じの通り、Webサイトを見るための「Webブラウザ」と呼ばれるアプリケーションです。
しかし現在のブラウザは、単にWebサイトを表示するだけのものではありません。
ブラウザやWebアプリケーションの進化によって、音声や動画の再生はもちろん、カメラやマイクの利用、WebAssembly（WASM）による複雑なプログラムの実行、IndexedDBを利用したデータの保存など、かつてはPCにインストールするアプリケーションでなければ難しかったことまで、ブラウザ上で実現できるようになっています。
そして現在、Chromeはさらに大きな進化を遂げようとしています。
ブラウザ上から、端末内で動作するLLMを直接利用できるようになったのです。それがChromeの「Built-in AI（オンデバイスAI）」です。
これまでローカル環境でAIを動かそうとすると、LM Studioなどの専用アプリケーションをインストールし、使用するLLMを選び、モデルデータをダウンロードし、実行環境を整える必要がありました。
現在では優れたツールの登場によって以前よりかなり簡単になったとはいえ、数GBから数十GBにもなるLLMのダウンロードや、CPU・GPU・メモリなどハードウェア環境による違い、設定や互換性の問題など、一般的なWebアプリケーションと比べると、まだまだ導入のハードルは高いものでした。
ChromeのBuilt-in AIは、こうした「ローカルAIを動かすための環境」をブラウザ側が担うという大きな進歩を遂げました。
Webアプリケーション側では、JavaScriptからAPIを呼び出してプロンプトを渡し、AIによる回答を受け取ることができます。
つまりWeb開発者から見れば、ローカルLLMの実行環境を自分で一から構築しなくても、ChromeをAIの実行環境として利用できるわけです。
さらに、必要となるAIモデルの準備についてもChrome側が担います。
従来のローカルLLMのように、ユーザー自身が「どのモデルをダウンロードすればいいのか」「自分のPCで動くのか」といったことを細かく意識する必要がありません。
これによって、WebアプリケーションへのオンデバイスAIの組み込みは、これまでよりもずっと身近なものになります。
ただし、現時点ではまだ発展途上の技術です。
AIモデルのダウンロードに大きなストレージ容量が必要になり、クラウド上の高性能なAIと比較するとモデルの規模や処理速度、回答能力などは劣ります。
しかし、個人的にはこの仕組みには非常に大きな可能性を感じています。
これまで「AIを使うWebアプリケーション」といえば、OpenAIやGoogleなどの外部APIへリクエストを送り、クラウド上のAIに処理してもらう構成が一般的でした。
しかしBuilt-in AIでは、ブラウザそのものがAIの実行環境になります。
Webサイトを表示するためのソフトウェアだったブラウザが、アプリケーション実行環境となり、さらにAIの実行環境にもなろうとしています。
そう考えると、ChromeのBuilt-in AIは単なる新機能というより、WebアプリケーションとAIの関係を大きく変える、ひとつのパラダイムシフトと言えるのではないでしょうか。
ブラウザの中だけでAIが動く 〜ローカルLLMをChormeだけでセットアップ・実行〜
これまでWebアプケーションに生成AIを組み込む場合、基本的には次のような構成でした。
ブラウザ
↓
Webサーバー
↓
OpenAI API / Gemini API / Claude API
↓
Webサーバー
↓
ブラウザ
つまりAIをブラウザ上で使うためには、外部サービスへのアクセスということになります。
WebアプリケーションはAIへ質問を送り、その答えを受け取って表示する、従来型のAPIと変わることはありません。
ですがChrome Built-in AIでは構成が大きく変わります。
Webアプリ
↓
JavaScript
↓
Chrome
↓
ローカルAIモデル
↓
CPU / GPU
↓
ブラウザ
AIそのものがユーザーのPC内に存在します。
アプリケーションの提供者（つまり開発者）はLMStudioもOllamaもPythonもインストールさせる必要はありません。JavaScriptからAPIを呼ぶだけです。
具体的には、最もシンプルな質問を投げて答えを受け取るPrompt APIでは、概念的には次のようなコードになります。
const session = await LanguageModel.create();
const answer = await session.prompt(
"この文章を要約してください"
);
Javascriptを少しでもご存知の方なら、全く問題なく理解のできるコードでしょう。
しかもAIはユーザーのChrome内にありますから、AIベンダーに課金する必要もなく、VPSなどでLLMを構築する必要もありません。
そして外部にプロンプトや添付ファイルを送信することがないため、セキュアな環境でAIを使用することができます。
Built-in AIのデメリット
ただ、開発者目線ではぜひ使ってみたくなるBuilt-in AIですが、現時点では次のような問題が残されています。
端末性能に左右される
クラウドAIとは違い、CPU・GPU・メモリ・ストレージなどユーザーPCの性能が処理速度に直接影響します。Built-in AIにはモデル・ハードウェア要件があります。
すべてのユーザーが利用できるとは限らない
ChromeのバージョンやOS、ハードウェア、各APIの提供状況によって利用可否が変わります。
クラウドの大型LLMほど高性能ではない
ローカル実行を前提としたモデルなので、複雑な推論、長文解析、高度なコーディングなどではクラウドLLMの方が有利です。
入力が大きくなると急激に遅くなる
Chrome公式も、大量の生テキストや不要なデータをそのまま渡すとレイテンシが大幅に増えると注意しています。
初回利用時に準備時間が発生することがある
モデルのダウンロードやメモリへのロードが必要になり、最初の実行がすぐ始まらないことがあります。Chrome公式も事前ロードを推奨しています。
端末によって体験が一定にならない
同じWebアプリでも、高性能PCでは快適、低性能PCでは遅い、といった差が生まれやすくなります。
スマートフォンを含めた全環境対応が難しい
「Webならどこでも同じように動く」という従来のWeb開発の強みをそのまま享受できる段階ではありません。
AIの誤回答は普通に発生する
Built-in AIでもハルシネーションはなくならず、Chrome公式もAI出力を最終決定として強制せず、ユーザーが修正・上書きできる設計を推奨しています。
セキュリティ対策は別途必要
ローカルAIだから安全というわけではなく、Prompt InjectionやAI出力のHTML挿入などへの対策は必要です。
モデルを自由に選べるローカルLLM環境ではない
OllamaのようにLlama、Qwen、Gemmaなどを自由に選んで差し替える仕組みとは性格が異なり、Chrome側の提供モデルやAPI仕様に依存します。
Chromeへの依存度が高くなる
Web標準化は進められていますが、現時点では「Chrome Built-in AIを前提にした機能」はブラウザ依存を意識する必要があります。Chrome側もクロスブラウザ標準化を進めている段階です。
特にユーザー端末のハードウェアスペックが求められる点とPC版のChorme/Edgeでしか使えない点が問題で、標準機能としてBuilt-in AIを使用することは現時点では難しいでしょう。
Built-in AIが開く未来
将来、端末のスペックが上がり、ChromeのBuilt-in AIが十分に普及して標準的に使えるようになると、かなり幅広い用途が考えられます。
現在ChatGPTやClaudeなどにアクセスして行っている次のような作業がオフライン環境でも端末だけで実行できるようになります。
文章の要約
長文記事、社内文書、メール、議事録などをブラウザ内で要約。
文章校正・リライト
誤字脱字修正、敬語変換、読みやすい文章への書き換え。
翻訳
Webページや入力文章をローカルで多言語化。
フォーム入力支援
入力内容から文章を補完したり、より自然な文章へ整形。
問い合わせ内容の自動分類
「営業」「採用」「サポート」などへ自動振り分け。
FAQの自然言語検索
キーワード検索ではなく、質問文から適切な回答候補を提示。
Webページの要点抽出
閲覧中ページから重要ポイントだけを抽出。
ブラウザ内AIチャット
外部AIサービスを使わず、Webアプリ内に簡易チャットを搭載。
CMSの文章作成支援
タイトル、見出し、概要文、メタディスクリプションなどを生成。
ECサイトの商品説明生成
商品スペックから説明文や特徴を生成。
レビュー要約
多数の商品レビューや口コミをまとめて傾向を表示。
検索結果の要約・再ランキング
検索結果を意味的に整理し、ユーザーの意図に近いものを上位表示。
入力内容からタグを自動生成
記事や商品にカテゴリ・タグを自動付与。
メール作成支援
下書き、返信候補、短文化、丁寧語変換。
チャット・SNS投稿支援
投稿文生成、短縮、トーン変更、炎上しそうな表現のチェック。
アクセシビリティ支援
難しい文章をやさしい日本語へ変換したり、説明文を補足。
子ども向け・初心者向け言い換え
専門用語を簡単な文章へ変換。
社内システムの操作支援
「先月の売上を見せて」のような自然言語から画面操作や検索条件を生成。
データ入力の補助
自由記述文から住所、氏名、日付、カテゴリなどを構造化抽出。
JSONなどの構造化データ生成
自然言語から決められた形式のデータを生成。
ローカルファイル解析
File System Access APIなどと組み合わせ、PC上の文書を外部送信せず解析。
ブラウザ内RAG
IndexedDBやベクトル検索と組み合わせ、ローカル文書検索AIを構築。
社内文書検索
NASや社内サーバーから必要な文章だけ取得し、ブラウザ内AIで回答生成。
議事録生成・要約
Web会議の文字起こしをその場で整理。
音声入力後の文章整理
音声認識結果を読みやすい文章へ変換。
コード説明・簡易コード生成
小規模なJavaScriptやSQLなどの生成・解説。
エラーメッセージの解説
Webアプリ内のエラーをユーザー向けに分かりやすく説明。
操作マニュアルの対話型案内
「この設定はどこ？」という質問に、そのWebアプリ内で回答。
教育系Webアプリ
問題生成、添削、ヒント生成、文章評価。
ゲーム内NPCとの会話
ブラウザゲーム内でローカルAIによるキャラクター会話。
文章からUIを操作
「今月だけ表示して」「価格順に並べて」などの自然言語操作。
パーソナライズされた画面表示
ユーザーの入力や行動から、情報の並び順や説明方法を調整。
クラウドAIへの振り分け判断
簡単な処理はBuilt-in AI、難しい処理だけクラウドLLMへ送る。
個人情報を含む処理のローカル化
機密情報や社内情報を外部へ送らず文章処理。
オフラインAIアプリ
ネット接続がない環境でも要約・分類・生成などを実行。
現在はチャットボットのようなAIによって応答する機能がWebサイトに組み入れられることも多くなってきましたが、Built-in AIが普及すればWeb開発者があえて仕組みを用意しなくても、AIによる応答をブラウザだけで実現できるかもしれません。
Built-in AIを使ったWebアプリを作ってみた 〜外部サービスを利用しないAIキャラクターチャット〜
ということで、Chrome Built-in AIを使用したWebアプリケーションを作ってみました。
Chromeが持つLLMを使用し、基本的な人格を定義したAIキャラクターとおしゃべりできます。
ローカルLLMを使用しているため、長時間会話を行ってもコストは発生せず、会話内容が外部に送信されることもありません。
ただし要求スペックがやや厳しく、
・デスクトップ版Chrome/Edge限定
・ストレージの空き容量が最低4GB以上、場合によっては20GB以上
・そこそこハイスペックなパソコン（GPUがないと動かないかも）
となります。
また、Chromeの設定でオンデバイスAIが無効になっていると動作しません。
設定よりご確認ください。
遊び方
喋りたい相手を7人の中から選んでください。
LLMがダウンロードされていない場合は「AIモデルをダウンロードしてはじめる」をクリックしてください。
4GB〜20GBのLLMがダウンロードされますのでストレージの空き容量には注意してください。
完了すると会話ができます。
外部へのデータ送信は一切行っていないので遠慮なく（良識のある範囲で）会話を楽しんでください。
一旦AIモデルをダウンロードしたもののストレージ容量を圧迫しているから削除したい、という場合は
chrome://on-device-internals/ にアクセスし、Uninstall Models を選択してください。
まとめ：WebブラウザからAIハブへ、そしてChromeがすべての窓口へ
ということで、今回はChromeだけでローカルAIを実行できるBuilt-in AIについてご紹介しました。
JavaScriptの進化やPWAへの対応など、ChromeをはじめとするWebブラウザは、単にWebページを見るためのソフトウェアから、さまざまなアプリケーションを動かすための実行環境へと進化してきました。
そしてBuilt-in AIの登場によって、今度はAIの実行環境としての役割まで担おうとしています。
こうした流れは、MicrosoftがWindowsにCopilotを組み込んだり、AppleがiOSやmacOSとApple Intelligenceの連携を深めたりしている方向性とも重なります。
OSやブラウザといった、私たちが日常的に使う環境そのものにAIを組み込む動きが各社で進んでいることを考えると、AI時代の主導権を巡る競争が、すでにモデルの性能だけではなく「どの環境でAIを使うのか」という領域にまで広がっているようにも見えます。
サブスクリプションに加入したり、高性能なGPUを搭載したPCを用意したりしなくてもAIを利用できる選択肢が増えていくことは、ユーザーにとって歓迎すべきことだと思います。
一方で、AIは提供する企業やモデルによって回答の精度や得意分野、考え方の癖などが異なります。
これまでは「どのOSを使うか」「どのブラウザを使うか」を選んでいましたが、これからはそこに「どのAIが組み込まれた環境を選ぶのか」という新しい判断基準が加わってくるのかもしれません。
AIがこの先、私たちの生活にどのような形で浸透していくのか、正直なところ私にも予想はつきません。
AIの高度化によって必要な計算資源やコストが増え、利用するためにある程度の投資が必要になる未来が来るのか。
それとも逆に、PCやスマートフォンはもちろん、テレビや自動車、家電などにも小さなローカルAIが当たり前のように搭載され、私たちがAIを使っていることすら意識しなくなるのか。
期待する部分もあれば、少し不安を感じる部分もあります。
それでも、この変化をリアルタイムで見られるのは面白い時代だと思います。
一人の消費者として、そしてWebに関わる開発者として、これからAIがどこへ向かっていくのかを引き続き注視していきたいと思います。
【関連記事】
