ローカルLLM アーカイブ - IoT MCUのHappyTech

AIスマホとAI PC、ローカルAIの使い方は何が違う?

2025年8月29日 WithHappy

8月20日発表のGoogle Pixel 10は、スマホAI機能を大幅に強化しています。この最新Pixel 10のローカルAI機能を例に、最新AIスマホと最強AI PCのローカルAIの使い方がどう違うのか考察しました。

フラグシップAI PCのローカルAI機能

AI PCは前稿で示したSoCトータル126TOPSを持つ現時点最強 Ryzen AI Max+ 395搭載Beelink GTR9 Proを例にローカルAI機能を示します。

大規模ローカルLLM：大量テキストデータ学習結果から、ユーザが判り易い文章を生成。ユーザとAIのインタフェース役も果たす（関連投稿：NPUとローカルLLM）。

AIエージェント：ユーザに代わり各種PCツール連携処理をAIが代行。学習や適応能力があるため、様々な状況変化にも対応可能。例えば、SNS投稿の感情分析など高度な処理も可能（関連投稿：AIエージェントの魅力）。

CoPilotサービス：ユーザアクションをAIが自動記録、後に自然言語検索・再利用ができるRecallなどの機能。

スマホAI機能に比べると、PC全体の広範囲なローカルAI機能が使えます。現在は、ローカルAI機能を有効にするか否かをユーザが選択可能です。

Summary：AIスマホとAI PC、ローカルAI使い方の違い

AIスマホとAI PCのローカルAIは、その対象と提供方法に違いがあります。

AIスマホのローカルAIは、日常タスク効率化とユーザ体験向上にフォーカスしてアシストします。

一方、AI PCのローカルAIは、高度AIモデル実行、操作カスタマイズ、AI開発などPC作業の広範囲アシストが可能です。但しAIアシストの有無は、ユーザが選択します。

スマホ/PCどちらも、クラウドへの情報漏洩無しに高度なローカルAIサービスが利用できる点は同じです。但し、ユーザ無意識なAIサービス提供がAIスマホ、アシスト有無明示のAIサービス提供がAI PCです。

Afterword：ローカルAI移設は必須

ローカルAIは学習・適応能力があるため、使えば使う程ユーザ好みの賢いアシスタントになります。AIスマホやAI PCのハードウェア平均運用年数は数年です。この運用年数を過ぎて新しいエッジ端末へ換えた時、果たして賢いアシスタントも新端末へ移設できるのでしょうか?

ローカルAI情報は、SoC内臓セキュリティチップに蓄えると思います。賢くなったアシスタントも移設必須ですね。

AI Max+ 395搭載GTR9 Pro先行販売

2025年8月22日2025年8月23日 WithHappy

5月の4種ミニAI PC比較時、未発表であった高AI性能、静音性にも優れるRyzen AI Max+ 395搭載Beelink社GTR9 Proが、先行販売されました。今なら$2,399が$1,985（¥293,000/2025-8-21換算）で35日以内に発送するそうです。

: GTR9 Pro概観とAI処理能力（出展：Beelink）

現在AI向けCPU（APU）プラグシップのAMD Ryzen AI Max+ 395搭載で、実用ローカルLLMが可能な128GB UMA実装済み、America’s AI Action Plan 5年後AI変化予測の100TOPS以上AI処理能力を持ちながら、静音/放熱性に優れ電源内蔵で移動性も優れるGTR9 Proを紹介します。

※APU：Accelerated Processing Unit、CPU/GPU/NPUをSoC（System on Chip）化したAI CPU。
※UMA：Unified Memory Architecture、RAM領域をCPU/GPU/NPUで共有する方式。AMD社やApple社のAI CPUがUMA採用中。

AI PC選択要件

ミニAI PC関連の過去投稿とその要点が下記です。

ローカルLLM活用はAPUと大容量・高速UMAが重要：2025/05/16投稿
APU内蔵Plutonプロセサがセキュリティ保護に重要：2025/06/20投稿
ノートAI PC比マルチモニタ接続容易で低価格なミニAI PCがAI活用開発に適す：2025/07/18投稿
Action Plan発表後5年間のAI PC能力予想：2025/08/08投稿（3章）
70B LLMサポートAI PC要件：2025/04/11投稿（Afterword）

まとめると、AI PCを選ぶ時は、APUとUMAによる高速AI処理、大容量メモリ、情報漏洩リスクが低いローカルLLM活用が重要で、更にAI開発向けは、拡張性と複数外部モニタ接続性も必要なためノートAI PCよりもミニAI PCが適すと結論しました。

本稿のBeelink社GTR9 Proは、これら要件を満たすミニAI PCの1つです。

GTR9 Pro製品特徴

クラウドAIのGoogle Gemini（2.5 Flash）を使ってGTR9 Proを調べると、前章AI PC要件を満たすだけでなく様々な製品特徴が判ります。

: GTR9 Proの優れた冷却システムと静音性の実現方法（出展：Beelink）

AI処理性能はCPU＋GPU＋NPU合計126TOPS
Ryzen AI Max+ 395の高いTDP（45-120W）を低い騒音レベル（32～37dB）で実現
静音デュアルターボファンとベイパーチャンバーが特徴の冷却システム
230W電源内蔵でMac Studio類似の180×180×90.8mmサイズ

筐体は、継ぎ目のないオールメタル製で優れた耐久性と高級感があります。内部設計も、フルアルミニウムのフレームシステム上にマザーボード/ヒートシンク/ファンなどの主要コンポーネントを固定し、ミニPCにありがちな応力によるコンポーネント損傷を排除、耐衝撃性も向上しています。

つまり、ノートAI PC比、ミニAI PCの弱点である移設・移動性も改善されています。GTR9 Proならバックに入れて持ち歩き、接続モニタがあるネットカフェなどでノートAI PC同様に活用できるでしょう（GTR9 Pro重量は投稿時不明）。

ミニAI PC課題

一方、GTR9 Proに限らずミニAI PCならではの課題もあります。

はんだ付けオンボードメモリのため容量増加不可
ベアボーンモデル選択肢無し
AMDハードウェアを最大活用するソフトウェア/ドライバ供給遅延
対中国の米国政策（最新AI半導体やOS提供可否）

AMDの第一世代ハードウェアは、ソフトウェア/ドライバの提供が遅れることはよくあります。暫く待てばよりハードウェア性能を引き出せるソフトウェア/ドライバが提供されると思います。

また、ミニAI PC製造が多い中国へ、最先端のAI半導体やOSを従来通り米国から輸出供給可能かも不透明です。

Summary：AI Max+ 395搭載GTR9 Pro先行販売

5月の4種ミニAI PC比較時、未発表であった高AI性能で静音性にも優れるRyzen AI Max+ 395搭載Beelink社GTR9 Proが先行販売されました。

現在APUプラグシップのAMD Ryzen AI Max+ 395を搭載し、ローカルLLM実用可能な128GB UMA実装済み、America’s AI Action Planの5年後AI変化予測100TOPS以上のAI処理能力を持ちながら、静音/放熱/移動性にも優れた電源内蔵ミニAI PCのGTR9 Proを紹介しました。

Afterword：Beelink GTR9 Pro製品動画はコチラ

Ryzen AI Max+ 395ノートAI PCとミニAI PCの開発シーン比較

2025年7月18日 WithHappy

本稿は、ノートPC向けAI SoCで現在最高性能のAMD社Ryzen AI Max+ 395に128GBメモリを実装したノートAI PCとミニAI PCをAI利用開発シーンの観点から比べ、どちらがどの点で優れているかを評価します。5月投稿で価格比較したノートAI PCとミニAI PCの続編です。

Ryzen AI Max+ 395搭載ノートAI PC利用シーン

AMD Ryzen AI Max+ 395搭載HPノートPC：ZBook Ultra G1a

価格比較でも用いたヒューレット・パッカード社ノートAI PC：ZBook Ultra G1aのAI利用シーンは、ZBook Ultra G1aでローカルLLMを試す、2025年7月10日、ITmedia記事を参考にしました。記事概要とLLM（大規模言語モデル）によるAI利用部分を抜粋したのが下記です。

【概要】ZBook Ultra G1a詳細解説。Ryzen AI Max+ 395と128GB RAMを実装したノートAI PCハードウェアをフルに活かすLM Studio利用ローカルLLM（LLAMA 2-13B）が、実用パフォーマンスを持つことが判る（ページ4）。

【所感】128GB RAMのうち96GBをGPUメモリにUEFIで設定し（ページ1）、その時のAI性能評価。メモリ割付を自動や変更した場合にローカルLLM性能が変わるか否か、つまり、LLM性能におけるUMA（Unified Memory Architecture）メモリ容量の比較が欲しい。

※UMAは、AI SoCのCPU/GPU/NPUが同一RAMへ高速アクセスできる特徴がありLLM処理に有利と言われる。現在Apple社M1、AMD社Ryzen AI Max+/300シリーズのAI SoCに採用中。

記事を総括すると、128GB実装Ryzen AI Max+ 395搭載ノートAI PCが、AI利用開発に十分使える点は各種AIベンチマークから判ります。

また、40TOPS以上のNPU要件を満たすMicrosoft Copilot PC購入検討の方にも参考になる記事です。

ローカルAIエージェントのメリット

A4サイズのZBook Ultra G1aは、14型（1920×1200）モニタ付属で1.57Kgです。付属キーボードや周辺機器接続性も申し分ありませんので、可搬性に優れたオールインワンAI環境をローカル構築できます。

このノートAI PCへLLMをインストールし、ローカルAIエージェントとします。開発者の様々な課題や相談事を、AIエージェントと協力して解決するのが、AI利用開発です。

AIエージェントには、CopilotやGeminiのクラウド版もありますが、情報漏洩を気にせずカスタマイズ利用できるローカル版ならではのメリットがあります。また、クラウドAIエージェントを上手く活用するためのアドバイスもローカル版から得られるなど、活用方法も多いです。

今後の開発案件は、ローカルAIエージェントを利用し、より高度で生産性の高いAI利用開発へ進化すると思います。

※LLMとローカルAIエージェントについては、ローカルLLMって何、2025年7月7日、＠IT記事に判り易い解説があります。

ミニAI PC開発環境構築

AMD Ryzen AI Max+ 395搭載ミニPC：GMKtec EVO-X2

ノートAI PCと同じAI SoCと128GB RAM搭載ミニAI PCのGMKtec社EVO-X2も、ローカルAIエージェントをAI開発で利用できる点はITmedia記事と同じです。但し、ノートPCからモニタとキーボードを外し小型筐体化したミニAI PCは、別途モニタ、キーボード、マウスなどが必要です。そこで、筆者主観でこれら周辺機器を下記の様に選定し、1章のノートAI PC開発環境と比較します。

【モニタ】開発用としては27型（2560×1440）モニタが、拡大/縮小なしの100%表示で使えるため、優れています。

4K（3840×2160）などの高精細モニタは、文字が100%表示では小さく表示されるため、150%程度の拡大表示が推薦されます。拡大表示は、モニタ単独使用の場合は問題ありませんが、マルチモニタ接続時に利便性が悪化します。例えば、100%表示ノートPCと150%表示のマルチモニタ接続時は、ノートPC側モニタの文字や絵が小さくなるなどです。

また、高精細モニタは、カーソル移動ピッチも大きくする必要があります。マルチモニタ接続時は、モニタ右端からもう片方のモニタ左端へマウスを移動するため、通常ピッチでは小さすぎるからです。

以上から、100%表示でA4サイズ紙面2～3枚をほぼ実寸で並列表示できる27型（2560×1440）モニタが筆者好みです。

【キーボードとマウス】筆者は、ThinkPadノートPCを長年使っているため、トラックポイント・キーボードが好みです。また、マウスよりカーソル移動スピードが簡単に可変できるトラックボールを愛用しています。

ローカルLLM活用AI開発シーンのノートAI PCとミニAI PC比較

ノートAI PCとミニAI PCのAI利用開発シーンのイメージ（出展：GMKtec）

ノートAI PCとミニAI PCのローカルLLM活用AI開発シーンのイメージ図です（PCは異なります）。

ノートAI PCでも外付けモニタ接続で生産性は上がります。しかし、14型モニタ単独利用の場合は、検討結果の表示には適しても、検討段階の様々な開発パラメタや比較表示には表示面積が小さすぎます。また、外付けモニタ接続時は、前章の拡大表示やカーソル移動ピッチに注意も必要です。

従って、AI利用の開発シーンでは、様々な検討を行い、その結果が簡単に表示できるミニAI PC環境が勝ります。ノートAI PCは、移動先で最終結果の顧客表示には適しますが、検討段階ではモニタ追加が必須です。

可搬性重視のノートAI PCは、付属入出力機器にそのしわ寄せが生じます。AI開発結果プレゼンが主用途です。

一方、ミニAI PCは、様々なAI活用開発シーンに合わせた機器接続が容易です。効率的なAI開発検討が主用途です。ミニPC本体自体は、無理すれば可搬可能です。

Summary：Ryzen AI Max+ 395ノートAI PCとミニAI PCの開発シーン比較

比較項目	ノートAI PC：ZBook Ultra G1a	ミニAI PC：EVO-X2
可搬性	A4サイズ小型・軽量で可搬性大 ACアダプタ140W付属	本体は可搬可能 ACアダプタ230W付属
出力モニタ	14型（1920×1200）単独でA4一枚表示モニタ接続で生産性向上するが接続問題もあり	27型（2560×1440）単独で実寸2枚A4表示モニタ追加接続は容易
入力機器	付属キーボードで最低限は可能	好みの入力機器接続容易

開発とは、AI利用の有無に限らずカット＆トライです。最終結果は、様々なトライから開発者が主観評価した結果の1つにすぎません。他にもっと良い結果が潜んでいる可能性もあります。AI利用開発は、AIエージェントから新な客観的評価結果が得られるかもしれません。

但しAI利用開発シーンでは、ハルシネーション対策のためAI出力の開発者検証プロセスは必須です。従来よりも多角的・多面的な開発視点が必要です。この意味でAI利用開発に出力モニタは最重要な周辺機器です。

付属モニタにしわ寄せが生じる可搬性重視ノートAI PCよりも、マルチモニタ出力容易なミニAI PCは、入手価格のみならずこの点でも優れています。

リンク

開発者AIの使い方

2025年6月27日 WithHappy

物書きを生業とする記者のクラウド/エッジAIの使い方2記事を参考に、我々開発者AIの使い方を考えました。両記事とも現状のAIは、プロが納得する内容をそのままAIは出力しない、が結論です。

クラウドAI利用の記事生成

無料Copilotにインタビュー記事を書かせた、2025年6月20日、窓の杜

【概要】クラウドAIのMicrosoft無料Copilotが、プロ並みインタビュー記事を書けるかを探ります。初めに筆者自身がCopilotへインタビューし、その結果をCopilotでインタビュー記事へ仕上げる段取りです。初版Copilotインタビュー記事を、筆者が再調整した結果、高品質記事に変わりました。

【所感】無料クラウドAIのCopilot強み弱み、現状AI利用実用性と将来への筆者期待が良く判ります。

エッジAI利用の記事生成

生成AIのローカルPC検証（前編）、2025年5月13日、（後編）5月20日、TechTarget

【概要】64GB UMA RAM実装Apple M1 Max（TOPS非公開）のAI PCに、LM Studioを使い複数LLM（大規模言語モデル）をエッジAI化、このローカルLLMが記事を生成できるかを検証しています。LLMプロンプトで記事の出来が左右しますが、ローカルLLM生成記事の完成度は高いです。しかし、そのまま公開できる水準ではありません。

【所感】エッジAI活用は、メモリ量とCPU/GPU/NPUが同一RAMアクセスできるUMA（Unified Memory Architecture）が重要で、検証ローカルLLM性能は、クラウド有料LLMと比べ遜色ないことが判ります。

※LLM StudioのローカルLLM実装方法は、コチラの関連投稿：3～5章参照。

記者AIの使い方2記事から判る事

現状クラウド/エッジAI生成記事は、プロ記者記事レベルの生成に未達
公開レベル化には、記者側プロンプト調整などがAGI（汎用人工知能）実現までは不可避
AGIならプロ記者代用も可能かも。それでも、生成記事の最終プロ記者チェックは必須

まとめると、AGI手前のLLMのため、記者側にLLMプロンプト調整などが必要だが、AGIならプロレベル記事生成の可能性は大きい。しかし、ハルシネーション対策に人間のAGI生成記事最終チェックは必須。

OpenAIのCEO）Sam Altman氏は、「AGIは現トランプ大統領在任中に実現されるだろう」と予想しています（AGI、2025年4月7日、KDDI Research）。つまり、2025年から2029年の間に新な労働力としてのAGIが実現されるかもしれないのです。

Summary：開発者AIの使い方

前章の「記事」を「ソフトウェア/ハードウェア」に、「記者」を「開発者」置換えれば、開発者の現状が推測できます。現状のAIはAGIへの過渡期でその進化スピードは凄まじいです。AI同様Windowsも大変革期です。AIの現状とその対応を考え、開発者環境の大変化に対応しましょう。

※Windows大変革期：例えば、AIエージェント向きMCP（Model Context Protocol）導入によるアプリ変化など。

Afterword：開発者話し相手CopilotとAI PC 64GB UMA

最初の記事から、無料Copilotが、話し相手としても十分使えることが判ります。開発中は、気分転換も必要です。そんな時、Copilotは良い気分転換相手になると思います。また、64GB UMA RAM以上のエッジAI PCなら、ローカルLLMを活用しクラウドAI同等性能が得られそうです。

関連投稿：ミニAI PC 4種比較、ミニAI PCとノートAI PC比較

Ryzen AI Max+ 395ノートAI PCとミニAI PC比較

2025年5月23日2025年5月25日 WithHappy

同じAMD社AI CPUのRyzen AI Max+ 395搭載ノートPCとミニPCを比較し、得失をまとめました。次期AI PC製品選択の参考になれば幸いです。

比較AI PC概要

Ryzen AI Max+ 395は、CPU/GPU/NPUをSoC化し、投稿時AMD社で最も高性能なAI CPUです。

AMD AI CPU	Cores / Threads	Boost2 / Base Frequency	Cache	Graphics Model	TDP	NPU TOPS
Ryzen AI Max+ 395	16C/32T	Up to 5.1 / 3.0 GHz	80MB	Radeon 8060S	45-120W	50

このAI CPUをノートPCとミニPCへ製品化したのが本稿の比較対象です。ノートPCは、HP社 ZBook Ultra G1a、ミニPCは、前投稿GMKtec社EVO-X2で、下記概要です。

比較AI PC	RAM容量/速度	SSD容量/速度	製品特徴	5/22参考価格
ZBook Ultra G1a （ノートAI PC）	64GB/8000Mbps	1TB/PCIe-4×4	14インチ1920×1200液晶	￥619,300～
ZBook Ultra G1a （ノートAI PC）	128GB/8000Mbps	2TB/PCIe-4×4	14インチ1920×1200液晶	￥739,200～
EVO-X2 （ミニAI PC）	64GB/8000Mbps	1TB/PCIe-4×4	DeepSeek-R1:32Bサポート	￥319,900
EVO-X2 （ミニAI PC）	128GB/8000Mbps	2TB/PCIe-4×4	DeepSeek-R1:32Bサポート DeepSeek-R1:70Bサポート Lama 4:109Bサポート	￥393,990

プロセサCPU/GPU/NPU、搭載RAM、SSDは同一仕様で比較します。従って、ノートPCとミニPCのエッジAI PC基本性能は、同じと考えて良いと思います。

また、前投稿同様、ローカルLLMをインストールし、パーソナルAIアシスタント構築をAI PCの前提条件とします。今後様々な開発に、エッジAIエージェントは必須と筆者が考えるからです。

※ローカルLLM構築方法は前投稿、LLMサポートAI PC要件は、関連投稿Afterwordを参照。

ノートPC：ZBook Ultra G1a

ミニPCと比較のため、64GB/128GB RAM仕様を前章で表記しましたが、16/32GB RAMやOLEDパネルなど豊富な選択バリエーションがあります。このクラスのノートPCは、CADやクリエイター向けモバイル・ワークステーション（WS）に分類されおり、カスタマイズ性も高いため参考価格は、最低価格～と表記しています。

コチラに128GB製品記事（2025年5月19日、インプレス）があります。要約が下記です。

PCMark 10や3DMarkスコアが高く、特にAIやGPUで優れた性能
AI画像生成やLLM動作にも適し、内蔵GPUはGeForce RTX 3050やRTX 3060に匹敵
約8.1時間駆動のバッテリ性能
付属ACアダプタは、140W
薄型・軽量：312×215×9.2、(前部)13.2、(後部)18.4mm、1.57kg

1と2は、Ryzen AI Max+ 395性能の高さを示しています。3、4、5は、モバイルWS製品の良さを示し、特にバッテリ駆動時間の8時間越えは、高性能WSではきわだつ長さです。Ryzen AI Max+ 395の電力効率が良いためでしょう。

ミニPC：EVO-X2

ミニPCは、ノートPCからモニタと内蔵バッテリ、キーボードなどを外し、低価格化と小型筐体化したPCです。ノートPCでは困難なSSD追加などの仕様拡張性を持つものもあります。

コチラに製品の簡単な紹介記事（2025年5月1日、ITmedia）があります。詳細評価はありませんが、前章1と2は、同じ制御系ですので成立つと思います。

注目すべきは、同じ性能を持つノートPCとのミニPC本体価格差です。

本稿の場合、￥319,900/￥619,300、または、￥393,990/￥739,200と、40%以上ミニPC本体が安いことが判ります（販売価格は、変動が激しいことに注意）。

目安として、同一性能ノートPCより30～40%低価格でミニPC本体が取得できます。もちろん、ミニPCは、外付けモニタやキーボードなども必要ですので、トータルシステム価格は同程度かもしれません。

Summary：Ryzen AI Max+ 395 ノートPCとミニPC比較

同じRyzen AI Max+ 395搭載ノートPC：HP社ZBook Ultra G1aとミニPC：GMKtec社EVO-X2を比較した結果、下記が判りました。

ミニPC本体価格は、同一性能ノートPC比、30～40%安価
AI Max+ 395搭載AI PCは、AI画像生成やLLM動作に適す
AI Max+ 395内蔵GPUは、GeForce RTX 3050やRTX 3060に匹敵
ノートPC：ZBook Ultra G1aは、バッテリ駆動8時間以上の薄型・軽量の高性能AI WS
ミニPC：EVO-X2は、SSD拡張スロットが1つある

ZBook Ultra G1aは、移動性に優れた高性能ノートAI PCです。エッジAIシステムを単独で構築できるため、AIスマホよりも高度でクリエイティブなAI PC開発を、いつでも・どこでも処理できます。

一方、EVO-X2は、ノートPC比、移動性は劣ります。つまり、AI PC開発をどこでもできる点は劣ります。しかし、ユーザが好むサイズのモニタやキーボードを追加・変更できる柔軟・拡張性があります。

仮に、複数エッジAI PC間のAI情報同期（Afterword参照）ができない場合は、ノートPC 1台のモバイルエッジAIシステム構築が強みになります。逆に、複数エッジAI PC間同期が可能なら、同一ノートPC性能比30～40%低価格なミニAI PCが、ローカルLLM適用エッジAI PCに適すと評価します。

Afterword：複数エッジAI PC間のAI情報同期

エッジAI PCには、ユーザ嗜好や質問傾向などのAIエージェント成功に必要なパーソナル情報が学習・蓄積されます。常にユーザが携帯し行動も共にするAIスマホは、このAIエージェントに向いています。

一方、エッジAI PCを複数所有しても、ユーザが同じAIエージェントのサポートを受けたいと思うのは当然です。Microsoft Build 2025発表AIエージェントIDは、これを実現する1方法です。但し、クラウドでパーソナル情報の蓄積や同期をユーザが嫌がるのも解ります。複数エッジAIエージェント同士で、パーソナルAI情報同期ができれば解決します。

リンク

NPUとローカルLLM

2025年5月2日 WithHappy

4月25日、Win11 24H2向け5月「先行」更新プログラム：KB5055627がリリースされ、Recallなど多くのAI PC機能がWin11 24H2へ追加されました。Rufus 4.7で手動アップグレードした弊社Win11 24H2は、NPUが無いためこれら新しいエッジAI PC機能は使えません😢。

なぜNPUが無いとAI機能が使えないのか、大規模言語モデル：LLMとは何か、急成長するAIへPCユーザはどう対処すべきか、を考察しました。

AI PC最重要ハードウェア：NPU（Neural Processing Unit）

AI PCと従来PCの差は、NPUハードウェアを持つか否かです。エッジAI最適設計のNPUは、高速並列処理で低消費電力なAI専用プロセサです。

筆者は、従来PCの高性能CPU/GPUでも無理やりエッジAI処理を行うことはできると思います。しかし、次章に示すLLMやAIアプリの処理速度、電力消費の点でAI専用NPUが優れ、その結果、AIアプリ実行要件にNPUハードウェアを指定したと思います（PC買換え喚起の狙いもあると思いますが…）。

NPUを持つAI PCは、今後のPC使い方を大きく変えます。AI活用でPCがより使い易く、高い生産性になるからです。AIスマホ同様、一度でもAI PCを使うと従来PCへは戻れないでしょう。

LLM（大規模言語モデル）

ローカルLLMは、プライバシー保護に優れたエッジAI PCとユーザ間インタフェースの役目

LLM：Large Language Modelは、大量テキストデータの学習結果から、ユーザに判り易い文章を生成するAIです。

このLLMは、既にクラウドAIの入出力インタフェースとして稼働中です。例えば、ブラウザのAI対話アシスタント：Gemini/Copilotへ、ユーザが入力した質問テキストを解析し、ユーザ自然言語で回答を出力するのもこのLLMがクラウドAIのフロントエンドにいるからです。

このLLMをエッジAI PCのNPUで動作させるのが、ローカルLLMです。オフラインでもLLMが動作しますので、AIアシスタントやビジネスデータのAI分析・解析などをPC上で行っても、クラウドへの情報漏洩は防げます。

つまり、ローカルLLMは、プライバシー保護に優れたエッジAI PCとユーザ間インタフェースの役目を果たします。

最初に示したRecallなどのAI機能操作は、殆どが未だ従来のGUIベースです。これは、自然言語対応済みのAIスマホに比べ、AI PCユーザインタフェースが遅れていることを示しています。

Win11 24H2は、従来PCとAI PC両方動作（＝中途半端）ですので、この遅れもやむを得ません。しかし、次期AI PC専用Win12では、GUIから自然言語対応PCへと改善されるでしょう。

ローカルLLM実装例

4月25日、AI PCのNPUへローカルLLMをインストールするとどう変わるか、RAM使用量による日本語対応などが判る記事がインプレスに掲載されました。ごく簡単に要約すると、

ローカルLLM：AnythingLLMアプリをAI PCへインストールすると、日本語テキストでAI PC情報を入出力できる。
使用RAM 4GBと6.5GBで比較すると、使用量が多いほど正確な日本語対話になる。

上記のLLMは、3B/8Bで、関連投稿で示したAIアプリ開発用ミニPCの70B LLM（700億パラメータの大規模言語モデル）に比べると小規模です。一般ユーザのAI PCなら、記事3B/8B程度のLLMでも役立ちそうです。

上記投稿Afterwordに示したようにLLMを効果的に使うには、高速大容量RAMがBetterです。AI PC専用Win12は、できだけ大容量のDDR5 RAMを実装したいです。

AI PCへローカルLLMをインストールすると、クラウド情報漏れを気にせず、GUIに代わる自然言語でAI機能やPCサポートが得られます。但し、クラウドAIに比べるとローカルAIは当然非力ですから、ユーザはこの点を考慮・工夫して利用すべきです。

AI PCのNPU能力に適したエッジAIアプリは、今後増えます（一例が次章）。ローカルとクラウド両方のAIを、必要に応じて使い分けるPC環境が整いつつあります。

Windows自動化AIエージェント：computer use

4月15日、Microsoftは、Windows操作を自動化するAIエージェント「computer use」を発表とキーマンズネット記事が掲載しました。

従来のWin自動化ツールとの違いは、対象アプリや利用サイトに変更が生じた場合でも、エッジAI推論により変更に自動対応できることです。市場調査とその洞察、請求書処理などをこのAIエージェント任せにできるそうです。5月19日開催Microsoft Buildで詳細発表が予定されています。

AIエージェントに任せた出力結果は、ユーザによる最終確認が必須です。しかし、自動化AIエージェントでPC生産性は上がります。AI PC普及に合わせ、このようなエッジAI活用アプリは急増します。

Summary：NPUとローカルLLM

AI処理専用ハードウェア：NPUは、AIアプリ高速処理と低消費電力の両方を満たすためエッジAI PCに必須です。NPU活用のAIは、従来PCの使い方を大きく変え、より使い易く、より高い生産性をユーザへもたらします。

例えば、クラウドAI稼働中のLLMをエッジAI PCへインストールすると、プライバシー保護に優れるローカルLLMを構築でき、従来GUIに代わる自然言語でAI PCが簡単に使えるようになります。

エッジのローカルAIとクラウドAIの利用環境が整ってきました。ユーザは、ローカル/クラウドAIを使い分ける能力も必要になります。

Afterword：筆者希望AIエージェントアプリ

Chrome/Edge/Firefox自動更新
複数メールアカウント巡回と迷惑メール自動削除
MCU/AI PCなど関心トピックの自動収集・分析

上記AIエージェント（アシスタント）処理を希望します。これでPC作業効率や生産性は確実に上がります。全ユーザ要求に対応するクラウドAI汎用性は、エッジAI PCには不要です。これらAIエージェントアプリだけなら、小規模LLM、少ないRAMのAI PCでも処理できるハズです。AIアプリを自作すれば、なお良いのですがね…😓。

タグ: ローカルLLM