AI PC NPUの役割

AI PC NPUの役割は?
AI PC NPUの役割は?

なぜAI PCNPUが必要か、Copilot+ PC要件40TOPS以上NPUの役割は何か、を整理しました。
従来PCAI PCへ買換える方の参考となれば嬉しいです。

NPUCPU/GPUの違い

AI PCの要:NPUNural Processing Unit)は、ユーザの癖や能力などの個人情報をPC利用中に自動収集し、利用ユーザに応じた適切なAI回答やアドバイス生成を助けます。まるでハードウェアのNPUが、ユーザ専属アシスタントのように変化、成長する訳です。性能がPC購入時のまま固定のCPUGPUとの違いがここです。

NPUが無い従来PCよりもAI PCが使い易く、より高い生産性を期待できるのは、このユーザ専属NPUのお陰です。

エッジNPUとクラウドAIの協調サービス

ブラウザCopilotGemini利用のPDF要約など「簡単なAI処理」は、NPU不要です。NPUを持たない従来PCでもこれらは可能ですので本稿対象から外します。

本稿対象は、AI PC内蔵NPUを本格的に使う「高度なAI処理」、例えばAIアシスタントやAIコンシェルジュサービスです。

AIアシスタントやAIコンシェルジュの高度AI処理は、主としてクラウドデータセンタのAIが行います。

クラウド内のあらゆる関連データをかき集め、そのデータから機械学習(ディープラーニング)で特徴抽出、その結果から生成AIで新しいデータを作成、ユーザへ提供するのがクラウドAI処理です。クラウドAI処理結果を、エッジ側PCから引出す手段が、ChatGPTなどの対話AIアシスタントサービスです(関連投稿:生成AI活用スキル)。

対話AIアシスタントは、NPU内蔵の最新AIスマホがPCの一歩先を進行中です。リアルタイム翻訳やスマホ写真の加工・修正、会話形式でのお勧め近隣店舗検索とその予約などです(AIコンシェルジュ)。スマホNPU単独処理の場合もありますが、多くの場合、スマホエッジNPUとクラウドAIの協調サービスです。

スマホエッジNPUとクラウドAI協調の結果、的確で高速なAI回答をユーザが取得できます。一度でもスマホAIコンシェルジュを使うと、AI無しスマホへは戻れないでしょう。

PCユーザは、AIスマホユーザよりも高度な質問や複雑処理、情報検索をAIへ要求します。AI PCNPUは、ユーザ質問をクラウドAIが処理し易いよう変換、逆に、クラウドAI出力をユーザに応じた判り易い回答へ変えるなどの高性能ユーザサポートの役割を持ちます。

つまり、クラウド側は速度追求AI処理、エッジ側はユーザオリエンテッドNPU処理、と処理を分け合いユーザへのトータルAI応答を高速化します。

AI高速化目的でEdge NPUとCloud AIで処理を分け合う
AI高速化目的でEdge NPUとCloud AIで処理を分け合う

急激に成長・変化するクラウドAIサービスを、エッジPC側で応答性良く上手く活用するには、ある程度(これが40TOPS以上)のユーザ専属サポート能力を持つNPUがエッジ側PC内に必須です。これが、AI PCNPU必要性です。

弊社が、OCuLink(データ転送速度最大64GbpsPCI Express 4.0対応)を次期AI PC要件と考えるのは、CPU内蔵NPU能力不足をOCuLink増設NPUで強化できるからです。増設NPUの例としては、SAKURA- IIモジュールなどがあります。より効率的、簡単にクラウドAIを利用するための方策です。

AMD/Intel AI CPUへもCopilot+機能提供

331日、Microsoftは、QualcommSnapdragon ARM64以外のAMD Ryzen AI 300シリーズやIntel Core Untra 200Vシリーズのx64 AI CPUにもCopilot+ PC機能の一部提供を開始しました。

未だ魅力的なPCビジネスAIサービスは、少ないです。しかし、今後はエッジNPU活用の文書作成やビジネスアプリが急増すると筆者は予想します。

SummaryAI PC NPUの役割

高度クラウドAIサービスのエッジPC活用にはNPU必須
高度クラウドAIサービスのエッジPC活用にはNPU必須

Copilot+ PC要件NPUがなぜAI PCに必要かを整理し、高度クラウドAIサービスをエッジPCで応答性良く活用するには、ユーザ専属サポートの40TOPS以上NPUがエッジPC内に必須だからと結論しました。

AI PCNPUは、PCユーザが要求する高度な質問や複雑処理、情報検索などを、クラウドAIが高速処理できるよう変換、逆に、クラウドAI処理結果をユーザの判り易い回答へエッジ側でリアルタイム変換など、AIサービスをエッジとクラウドで相互に補いながら高速で高度なAI処理を行います。

Copilot+ PCで先行するQualcommSnapdragon ARM64 AI機能が、ようやくARM/Intel x64 AI CPUへも提供されます。エッジNPU活用クラウドAIサービス急増の環境が整ってきました。

AI PCで効率的、高速にクラウドAIサービスの回答を得るには、エッジNPUは必須です。今後、40TOPS以上のエッジNPU能力がどれ程要求されるか現在不明です。対策に、OCuLinkPCI Express 4.0でエッジNPU能力をAI PCへ追加できる策を示しました。


低消費電力トレンド

MCU開発者は、消費電力に気を配りソフトウェア/ハードウェアを開発します。最近は、顧客の低電力指向が強くなり、全業界で電力不足対策がトレンドとなっています。

ドイツ、米国、日本、有力企業の電力不足対策記事を示し、低消費電力トレンドを活かしMCU開発すれば、顧客に好印象を与え他社差別化に寄与することを示します。

ドイツ)Volkswagen国内工場閉鎖示唆

ドイツ)フォルクスワーゲンの電力消費対策
ドイツ)フォルクスワーゲンの電力消費対策

2024年9月5日、ドイツ最大手の自動車企業Volkswagenが、国内工場閉鎖を検討しているニュースが発表されました。その主要因は、国内調達エネルギーコスト、つまり、電力コストの高騰です。

製造業の製品は、コストパフォーマンスで評価されます。同じパフォーマンスならより安い製品が顧客に売れるのは、当然です。

脱原発方針やロシアのウクライナ侵攻、中東情勢のため、ドイツ国内電力コストが従来比急上昇し、もはやドイツ製造では高いコスパ維持ができないのです。

ドイツ工場を閉鎖、代わりに電力コストの安い国外製造がドイツ)Volkswagenの取組みです。

米国)Microsoft向けスリーマイル原発再稼働

米国)Microsoftの電力対策
米国)Microsoftの電力対策

2024年9月21日、米大手電力コンステレーション・エナジーが、スリーマイル島原発1号機の再稼働を発表しました。Microsoft AIデータセンタへ、20年間電力安定供給のためです。

AIデータセンタ向け電力は、今後急増が予想されます。再生エネルギーやシェール天然ガス発電だけではAI電力需要にまね合わないため、米国各地で原発再稼働の検討が始まっています。

AI新電力需要に対し、既存(休止)設備の再利用で対処するのが米国)Microsoftの取組みです。

日本)NTT光電融合新デバイス開発

日本)光電融合デバイスによる電力対策(出典:NTT R&D Forum 2023)
日本)光電融合デバイスによる電力対策(出典:NTT R&D Forum 2023)

2024年9月20日、NTTは、AIデータセンタ消費電力増大の解決策として光回路と電気回路を組み合わせた、新しい光電融合デバイスの現在到達点と今後の展望公演を発表しました。

光電融合デバイスは、次世代ネットワーク:IOWNだけでなく、コンピューティングへも使えるとNTTは考えています。

AI新電力需要に対し、光電融合新技術で対処するのが日本)NTTの取組みです。

Summary:低消費電力トレンドとMCU開発

ドイツ、米国、日本、有力企業の電力不足の取組みを、最新記事からまとめました。

  • ドイツ)Volkswagen:ドイツ工場閉鎖、電力コストの安い国外拠点で代替
  • 米国)Microsoft:既存(休止)原発再稼働でAI新電力需要を補う
  • 日本)NTT:光電融合の新技術でネットワークとコンピューティング両方の電力不足解消を狙う

これら低消費電力トレンドは、MCU開発やその顧客へも影響を与えます。MCU単体の消費電力は僅かでも、IoT時代は数十億個ものMCUが稼働するからです。

開発MCU消費電力の少なさは、顧客に好印象を与え、他社差別化に大きく寄与します。

Afterword:低消費電力MCU開発

MCU IDEには、電力消費シミュレーションツールが付属しています。従来は、確認程度に使っていました。シミュレーションとはいえ、今後は顧客へのMCU低電力動作例を示すのに使えます。

また、新しい製造デバイスは、従来デバイスよりも高性能で低電力動作です。例えば、40nmプロセスのSTM32G0は、STM32F0/F1の半分以下の電力で高速動作します(弊社STM32G0xテンプレートP2参照)。MCU単体とシステム全体ハードコスト検討も必要ですが、評価価値はあります。

40nm汎用STM32G0シリーズとSTM32F0/F1シリーズの動作電力比較
40nm汎用STM32G0シリーズとSTM32F0/F1シリーズの動作電力比較

全ての弊社マイコンテンプレートは、低消費電力対策にSleep処理を組込み済みです。Sleep有無で消費電力がどの程度変わるか、コメント修正のみで実ハード確認ができます。

MCUプロトタイプ開発に最適、顧客への低電力動作アピールにも適すマイコンテンプレート、ご活用ください。