CPU アーカイブ - IoT MCUのHappyTech

AIのCPUとMCUへの影響

2024年2月2日2024年4月4日 WithHappy

2024年は、AIがPCへ急激な変化を与えそうです。そこで、 AIによる PCハードウェアの変化トレンドを調べました。これら変化は、組込みハードウェアのMCUへも影響すると思うからです。

CPU、GPU、NPUとは？ MCUとの違いは？

超簡単にCPU、GPU、NPUを整理します。ついでに、DSPとMCUも加えます。

CPU（Central Processing Unit）：パソコンの「汎用演算」装置。PCの頭脳。
GPU（Graphic Processing Unit）：「グラフィック演算」専用装置。
NPU（Neural Processing Unit）：GPU内の「AI関連演算」専用装置。
DSP（Digital Signal Processor）：積和演算等「リアルタイム信号演算」専用装置。
MCU（Micro Controller Unit）：組込みシステム「汎用演算」装置。ADC等周辺回路内蔵。

CPU～DSPまでが、PC向け演算装置、組込み向けの演算装置がMCUです。

MCUとPC向け装置の最も異なる点は、MCUは、ADC（Analog Digital Convertor）やメモリなどの周辺回路と汎用演算回路を一体化し小型装置にした点です。

GPU/NPU/DSPは、汎用CPU処理の一部を専用ハードウェアで高速処理します。CPUの代わりにこれら専用ハードウェアが処理するため、PC全体の処理速度が速くなります。

このようにPCハードウェアは、汎用CPUの高速化と汎用処理を補う専用ハードウェアにより進化を続けてきました。

NPUが行うAI関連演算は、Web会議の背景ぼかし、複数言語への同時翻訳、通話のノイズ除去などの処理です。これらは、GPUでも可能ですが、更なる高速処理が可能です。

AI PCのIntel Core Ultra

Intelは、AI処理のハイブリッド化が進むと考えているようです。

つまり、ネットワーク側データセンターやGPUのみを使ったAI処理ではなく、PCやスマホなどのエッジ側CPU/GPU/NPUも協力、ネットワークとエッジがハイブリッドにAI処理を行います。

これを実現するエッジ側PCが、Intel Core Ultra搭載AI PCだと発表しました。同記事でIntelは、2025年末までに1億台のNPU内蔵新CPU：Core Ultra搭載AI PCになる、とも宣言しています。

AI有効性が認識されれば、停滞気味のPC買換え需要は一気に加速するでしょう。また、AIハイブリッド化は、急増するAIリアルタイム処理の観点からも好都合です。

GPU＋NPU内蔵AMD Ryzen 8000G

2月発表のAMD Ryzen 8000Gは、従来比内蔵GPU強化とNPU（Ryzen AI）内蔵の新CPUです。CPU単体でも、フルハイビジョン（1920×1080、1080p）ゲームが十分楽しめる性能を持つそうです。

コストパフォーマンスに優れるAMD CPUユーザの筆者も、Ryzen 8000Gは気になります。ビジネス用途としても、従来CPUと同じ消費電力（TDP=65W）でGPU＋NPU高性能化、AIと高画質対応の新CPUは注目しています。

AI革命によるPCハードウェア変化

AI普及は、PCハードウェアに対し以下の変化トレンドを与えると思います。

・NPU内蔵CPU化
・エッジAIリアルタイム処理化
・低消費電力化

現状のままAIが普及すれば、世界の電力不足は避けられない、エッジ側はもとより、ネットワーク側でも更なる低電力化が必要との認識は、NTTのIOWNが広めました（関連投稿：IOWN、NTT）光電融合技術）。

現状のままでは2030年に世界総電力10パーセント程度をデータセンターが占める（出典：NTT STORY）

AIがもたらす便利さ、効率性、生産性向上は、「⽣成AI⾰命」と呼ばれます。生成AIとの直接ユーザインタフェースでもあるPCは、ハード/ソフト含め大きく変わるのは明らかです。

Summary：AIのCPUとMCUへの影響

前章にAIによるPC CPU変化をまとめました。

本ブログ対象のMCU/IoT MCUへのAI影響は、簡単に言うと「PC変化の後追い」です。しかし、生成AI革命が、PC後追い時間差を、従来比より少なくすると思います。

AIによるMCU/IoT MCU急変トレンドをまとめると以下です。

・Tiny AIエッジ処理（アプリ例：ポンプ異常検出、顔認識、人物検出、故障検出など）
・超低消費電力動作

MCUは、小型低価格化のためNPU内蔵、または、ソフトウェアでエッジAI処理を行います。小型なAIのためTiny AIとも呼ばれます。アプリ例から、AIハイブリッドのPCより、エッジMCU AI処理比率が高い気がします。

また、数十億ものMCU数が必要なIoT MCUは、1個1個のハード/ソフトの超低消費電力動作が必要になります。

これら動向に対し、MCU開発者は、自ら生成AIを活用し、短納期開発に備えておくべきでしょう。

関連投稿：ハードウェアまたはソフトウェアMCU AI機能とアプリ例、MCU AI現状、生成AI活用スキル

Afterword：慌てず、騒がず、遅れず準備

生成AI革命は、顧客のAIアレルギーを無くし、MCU開発者には、これまでと全く異なる異次元の短期開発や手法を求めるかもしれません。CPUやMCUへの新技術導入もより早くなりそうです。

人間開発者は、慌てず騒がず、しかし、変化にも遅れずに追随が必要です。そのためにも、動向を常に把握し、的確な対応準備を心がけましょう。

13世代と7000番台PC CPU選択

2023年3月3日2023年3月5日 WithHappy

2023年春のWindows最新CPU、Intelの13世代とAMDの7000番台の特徴をまとめます。

最新PC CPUを “最高速” 処理性能で選ぶなら13世代、消費電力で選ぶなら7000番台と言えそうです。

2023年春PC CPUまとめ

Intel 13世代CPUは、AMDの旧6000番台に対抗すべく旧12世代よりも最大動作周波数を上げた結果、同レベルのAMD 7000番台より性能向上しています。しかし、代償として消費電力と発熱量の上昇を招いています。

AMD 7000番台は、旧6000番台よりも性能向上していますが、向上分はIntelより控えめです。その代わり消費電力や発熱が、同レベルの13世代より低めです。

※ベンチマークで徹底比較（日経XTECH、2023-01-13）、13世代は以外なほど向上（日経XTECH、2023-01-12）、その他、最新CPU情報を参考にしました。

Windows CPU進化

Windows CPUは、先行Intelを後発AMDが追う開発競争が続いています。Intelは、Windows開発元MicrosoftとWintelと言われるほど親密です。新しいWindowsとIntel CPUの親和性が、AMDより高いと言われるゆえんです。

後発AMDは、Intel CPUよりもコストパフォーマンスに優れたCPUを開発することでシェアを伸ばしてきました。特に、6000番台は、従来CPUソケットを全面変更してまで高性能化を行い、旧12世代より性能も優れました。

対抗策にIntelは、12世代の最大動作周波数を上げ、高性能化を目指したのが13世代です。

一方のAMDは、6000番台から正常進化させた7000番台を、徐々に発売していきます。今後のAMD 7000番台は、更に進化し、13世代よりも高性能化する可能性も秘めています。このIntel 13世代市場を観察した上で7000番台を順次発売するのは、AMDの販売戦略です。

なお、Intel/AMDともにCPUアーキテクチャは、新旧両世代ともほぼ同じです。

新しいCPUアーキテクチャは、例えば、メタバースなどの新しいPCの使われ方や、13世代/7000番の販売結果が反映され生まれます。CPU世代が2つ変わると、アーキテクチャが大きく変わるのは、このためです。両社ともに、今回はアーキテクチャ変更が少ない世代進化です。

2023年春のPC CPU選択

さて、2023年春現在、PC CPUを選ぶならどちらが良いでしょう？

最初に決めるのは、高性能/汎用/低消費電力などのCPU特性レベルです。Intelで言えば、高性能ならCore i9/i7、汎用ならCore i5、低消費電力ならCore i3の各シリーズです。

※MCUで例えると、STM32H/Fシリーズが高性能、STM32Gシリーズが汎用、STM32L/Uシリーズなどが低消費電力に相当します。

同じ特性レベルで現在のIntelとAMDを比較すると、処理性能は13世代、消費電力は7000番台が優れます。

注意点は、処理性能がCPU最高速ベンチマークであることです。温度センサ内蔵の最新CPUは、処理負荷が大きく高温になると、動作速度を自動的に下げCPU保護を行います。従って、CPUの冷却能力が、高性能維持に必須です。

言い換えると、Intel 13世代の高性能を活かすには、いかに上手くPCを冷却できるかがポイントになる訳です。新PCを選ぶときは、冷却能力にも注意してください。

一方、AMDなら最新7000番台ではなく、旧6000番台のCPU選択もありと言えます。6000/7000番の性能差は現在少なく、6000番搭載PCの販売価格低下も予想されるからです。

2023年春に新PCを調達予定の方は、これらCPU世代交代や価格変化も考慮すると良いと思います。

価格変化実例

前投稿で2022年10月に比べ2万円以上価格低下した特売モデル：DELL Inspiron 16 Plusは、今週、売切れのようです。このように旧CPU搭載PCはねらい目ですが、直に売切れる可能性もあります。

また、13世代Inspiron 16 (5630）や12世代Inspiron 16 (5620）も、円高の反映か今週、価格が下がりました。

PC CPU選択同様、新PC購入タイミングも重要です！

IoT MCUコア次世代像

2020年11月27日2021年12月12日 WithHappy

PCのCPUは、IntelとAMDの2社が独占状態でした。しかし、AppleがARMベースの新CPU：M1を発表し、そのコストパフォーマンスは、Intel/AMDの3倍（！）とも言われます（記事：「ソフト技術者もうなるApple「M1」の実力、新アプリに道」や、「Apple M1の実力を新世代のIntel/AMD CPUと比較」など）。

本稿は、これらPC CPUコアの現状から、次世代IoT MCUコアの3層構造と筆者希望的観測を示します。

CPUコア：Apple/Intel/AMD

筆者が学生だった頃は、マシン語のPCソフトウェアもありました。CPUコア性能が低いため、ユーザ要求を満たすアプリケーション開発には、ソフトウェア流用性や開発性を無視したマシン語開発もやむを得ない状況でした。

現在のCPUコア性能は、重たいGUIやネットワーク処理を複数こなしても、ユーザ要求を満たし、かつ流用性も高いC/C++などの高級言語でのアプリケーション開発が普通です。Appleは、この状況でIntel/AMDコストパフォーマンス比3倍のM1 CPUを開発しました。

このM1 CPUを使えば、従来CPUのボトルネックが解消できるために、より優れたGUIや新しいアプリケーションの開発が期待できます。

このM1実現の鍵は、5nmルールの製造技術と新しいCPU設計にあるようです。

MCUコア：ARM/Non ARM

MCUはARMコアとNon ARMコアがありますが、Non ARMコアのコストパフォーマンス比は、M1程ではありません。従って、主流はARM Cortex-M系シングルコア採用MCUで、事実上ARMコア独占状態です。開発言語はC言語でベアメタル開発、製造プロセスも数10nmと、いわば、数10年前のIntel独占CPUコアに近い状況です。

RISC-Vという新しいMCUコアも出てきましたが、まだ少数派でその性能も未知数です。Intel/AMD CPUと比較記事の最後に記載された「競争こそユーザの利益」には、MCU世界はなっていません。

ARMはコア設計図のみ提供し、デバイス実装はMCUベンダが担当します。従って、現状のMCU世界が続く場合には、MCU高速化は製造技術進化とマルチコア化が鍵です。

ARMは、エッジAIに向けたNPUを発表しました。独自MCUコアと付随する開発環境を提供でき、かつコストパフォーマンスがARMコアの数倍を実現できるMCUベンダが無い現状では、ARMの頑張りがIoT MCUを牽引すると思います。

※NVIDIAによるARM買収が、今後のARM動向に及ぼす影響は気になる状況ではあります。

IoT MCUコア

MCUコアとCPUコアの一番の差は、ユーザ要求コストです。これは、同じコアのMCU製品に、内蔵周辺回路やFlash/RAM容量の異なる多くのデバイスをベンダが提供中であることからも解ります。ユーザは、MCUに対して無駄なコストは払いたくないのです。

つまり、MCUデバイスはアプリケーション専用製品、CPUデバイスは超汎用製品、ここが分岐点です。

IoT MCUには、エッジAI、セキュリティ、無線通信（5GやWi-Fi）などのIoT機能追加が必要です。これら機能を並列動作させる手段として、RTOSも期待されています。この状況対応に、MCUコアも高性能化やマルチコア化に進化しつつあります。

セキュリティや無線通信は、予め決まった仕様があり、これら対応の専用ライブラリがベンダより提供されます。但し、セキュリティは、コストに見合った様々なセキュリティレベルがあるのも特徴です。ソフトウェア技術者は、専用ライブラリのMCU実装には神経を使いますが、ライブラリ本体の変更などは求められません。この仕様が決まった部分を「IoT基本機能」と本稿では呼びます。

MCUソフトウェア開発者が注力すべきは、ユーザ要求に応じて開発するIoTアプリケーション部分です。この部分を、「IoT付加機能」と呼び、「IoT基本機能」と分けて考えます。

ユーザのアプリケーション専用MCU製品意識は、IoT MCUでも変わりません。例えば、IoT基本機能の無線機能は不要や、ユーザがコストに応じて取捨選択できるセキュリティレベルなどのIoT MCU製品構成になると思います。一方、IoT付加機能だけを実装するなら、現状のMCUでも実現可能です。

以上のことから、IoT MCUは3層構造になると思います。

層	機能	追記
Back End IoT MCU	IoT基本機能＋付加機能＋分析結果表示	収集データ分析結果ビジュアル表示
IoT MCU	IoT基本機能＋付加機能	高性能、マルチコア、RTOS利用
Front End IoT MCU	センサデータ収集などのIoT付加機能最小限セキュリティ対策	収集データは上層へ有線送信コスト最重視

最下層は、ユーザ要求アプリケーションを実装し、主にセンサからのデータを収集するFront End IoT MCUです。ここは、現状のARM/Non ARMコアMCUでも実現できIoT付加機能を実装する層です。デバイスコスト最重視なので、最小限のセキュリティ対策と収集データを有線、または無線モジュールなど経由で上位IoT MCUへ送信します。IoT MCUサブセット版になる可能性もあります。

中間層は、高度なセキュリティと市場に応じた無線通信、エッジAI機能などのIoT基本機能がフル実装できる高性能MCUコアやマルチコア、RTOS利用へ進化した層です。IoT付加機能も同時実装可能で、下層の複数Front End IoT MCUが収集したセンサデータを、まとめて上位Back End IoT MCUまたは、インターネット空間へ直接送信できます。製造技術進化とマルチコア化、ARM新コア（Cortex-M23/33/55など）が寄与し、IoT MCUの中心デバイスです。

最上層は、第2層のIoT MCU機能に加え、インターネット空間で収集データを分析・活用した結果をユーザへビジュアル表示する機能を追加した超高性能MCUコア活用層です。自動車のADAS（Advanced Driver-Assistance Systems：先進運転支援システム）のおかげでユーザへのビジュアル表示要求はより高度になります。このユーザ要求を満たす次世代の超高性能IoT MCU（またはMPU）が実現します。

最下層のFront End IoT MCUは、現状のCortex-M0+/M4コアで弊社テンプレート適用のMCUが生き残ってほしい、というのが筆者の希望的観測です。
それにしてもAppleのコスパ3倍M1、凄いです。iPhoneもそうですが、抜きん出た技術と経営能力、Jobs精神、健在ですね。