ツール革新が組み込みシステム向けVision AIをシンプルにする

日常製品へのビジョン統合は産業全体に変革的メリットをもたらしますが、カメラデータの抽出、機械学習モデルの組み込み、実用的インサイトの提供は依然として複雑な課題です。

鍵は適切なソフトウェア、ツール、ライブラリ、コンパイラの選択にあります。これらのリソースは通常ノンエンジニアにはアクセスできず、多くの組み込み開発者でさえビジョンシステム設計に必要な専門知識を欠いています。

主要な障壁の一つは、組み込みビジョン開発を促進するソフトウェアとツールへの認識不足です。Edge AI and Vision Alliance創設者のJeff Bier氏が、2021 Embedded Vision Summitに先立つEE Timesとのブリーフィングで説明したように、アルゴリズムとシリコンへの多大な投資と研究がなされる一方で、それらを仲介するソフトウェアツール（コンパイラ、最適化関数ライブラリ等）はある意味で軽視されてきた、とBier氏は指摘します。

適切なソフトウェアツール、コンパイラ、ライブラリを使えば、特定のマイコンやプロセッサ向けにアルゴリズムの非常に効率的な実装が可能です。しかし「過去30年間、半導体企業は典型的にソフトウェアツールへの投資を過小にしてきた」と、組み込みシステム業界と信号処理のベテランであるBier氏は言います。「ソフトウェアはしばしば『必要悪』と見なされ、コストセンターであり、それが表れています。組み込みソフトウェア開発者として、PCやクラウド開発者が利用できるツールと比較すると、『愛されない継子』のように感じるかもしれません。」

この議論をさらに進めると、「組み込みシステムの専門知識があっても、画像データやディープニューラルネットワークを扱ったことがない開発者がいる可能性があります」と付け加えます。

スキルは大きな課題だとBier氏は言います。「スプレッドシート計算で『この種のディープニューラルネットワークを十分な性能で動かせる』と判断できても、実際にどうやるか知っているか？スキルがあるか？ほとんどの組織では答えはノーです。過去にこの技術を商用で使う機会がなかったからです。商用世界では比較的新しい技術なので、専門知識がありません。社内に機械学習部門やコンピュータビジョン部門がないのです。」

ここ数年、これはコンピュータビジョンとディープニューラルネットワークの商用応用に関する、まさにノウハウの面からかなり大きなボトルネックになっています。

しかし、過去数年で企業がスキルギャップ解消に取り組んだことで、技術はよりアクセスしやすくなっています。「知識とスキルのギャップはかなり大きかったが、縮小しつつある」とBier氏。「『ある大手と一社の中小』がこの分野を牽引してきた」と付け加えます。大手はIntel、中小はEdge Impulseです。

「Intelはトレンドに逆行し、ソフトウェアツールに大規模投資する姿勢を見せてきた」とBier氏。「例えばOpenVINOツールチェーン（エッジコンピュータビジョンと推論向け）やDevCloud for the Edgeがあります。Edge Impulseもクラウドベース環境です。組み込み開発者にとって、クラウド環境は奇妙に感じられます。彼らにとって全ては机の上にあります——開発ボード、ワークステーション、ツール——インターネット接続すら不要です。全てが非常にローカルです。だから『コードをクラウドに置き、ツールをクラウドで実行しろ』と言われると、非常に奇妙に感じられます。」

このトレンドは導入時間とスキルギャップの両方に対処します。組み込み開発者の頻繁なフラストレーションは、ボードとツールへのアクセス、適切なインストールにあります。タイムラインは「通常数週間、時には数ヶ月単位で測られ、それが苦痛です。最終的に『それが必要ではなかった』と気づき、別のボードでプロセスを繰り返すことになれば特に。」例えば、「より高性能、または異なるI/Oインターフェースを持つ上位モデルが必要だった」と気づくかもしれません。

しかしサプライヤーが「全ての開発ボードをクラウドに置き、自社マシンに接続し、いつでもアクセスできるようにしていれば、それは途方もない利便性です。同様に、最新版のソフトウェアツールがあり、それらの依存関係も解決済みです。」

Vision AI導入の加速

では、スマートシティ、工場、小売、その他あらゆるアプリケーションで、物体検出・分析などの機能を可能にする組み込みビジョンの導入をどう加速するか？

Bier氏が指摘したペインポイントを認識し、企業は対応を進めています。一部はクラウドベース開発システムを提供し、コードやデータを投入すればほぼ瞬時に評価が得られます。他社はリファレンスデザインを提供し、カメラ出力を接続するだけで、一般的なアプリケーション向け推論アルゴリズムをライブラリやアプリから選べるようにしています。

前者の陣営にはIntel DevCloud for the EdgeとEdge Impulseがあり、最新ツールとソフトウェアへの容易なアクセスでほとんどのペインポイントを解消します。後者では、Xilinxなどがプロダクションレディなアプリケーションを備えた完全なシステムオンモジュールを提供し、より高い抽象化レベルのツールで導入可能にし、より専門的なスキルの一部を不要にしています。

クラウドでプロトタイプ、ベンチマーク、AI推論をテスト

Intel DevCloud for the Edgeでは、CPU、統合GPU、FPGA、ビジョン処理ユニット（VPU）を含む多様なIntelハードウェア上で、AI推論アプリケーションの開発、プロトタイピング、ベンチマーク、テストが可能です。Jupyter Notebookインターフェースを備え、チュートリアルと例が事前ロードされ、すぐに始められるために必要な全てが含まれています。これには事前学習済みモデル、サンプルデータ、最新版Intel Distribution of OpenVINOツールキットからの実行可能コード、ディープラーニング向けその他ツールが含まれます。全サポートデバイスは最適な性能で構成され、推論実行の準備が整っています。

開発者にとって最大のメリットは、ユーザー側でハードウェアセットアップが一切不要なことです。Jupyter Notebookのブラウザベース開発環境により、ブラウザ内でコードを実行し、結果を即座に可視化できます。これによりIntelのクラウド環境でコンピュータビジョンソリューションをプロトタイピングし、利用可能なハードウェアリソースのあらゆる組み合わせでコードを実行する様子を監視できます。

このクラウドベース提供には3つの主要メリットがあります。第一に、ハードウェア選択の麻痺問題を解決します。開発者は幅広いハードウェア上でAIアプリケーションをリモート実行し、推論実行時間、消費電力、コストなどの要因に基づいて自分のソリューションに最適なものを判断できます。

第二に、最新Intelエッジハードウェアへの即時リモートアクセスを提供します。ソフトウェア面では、最新版Intel Distribution of OpenVINOツールキットと互換性のあるエッジハードウェアへの即時アクセスにより、古いソフトウェアを扱う問題を解決します。

第三に、アプリケーション固有のパフォーマンスベンチマークへの、比較しやすい並列形式でのアクセスを提供します。

(Intel DevCloud for the Edgeを使った物体検出モデル実行チュートリアルはこちらで入手可能です。)

クラウドでモデル構築、ライブで動作確認

別のアプローチは、データをクラウドプラットフォームに投入し、学習モデルを可視化・作成し、組み込みデバイスに導入することです。Edge Impulseはまさにそれを実現し、機械学習の博士号がなくてもエッジデバイスに機械学習を簡単に追加できるクラウドベース開発環境を提供します。

同プラットフォームでは、現場で収集した画像データをインポートし、そのデータを解釈する分類器を迅速に構築し、モデルを本番用低消費電力デバイスに導入できます。Edge Impulse Webプラットフォームの鍵は、取得した全データの表示・ラベリング、データ拡張・変換のための前処理ブロック作成、画像データセットの可視化、UIから直接学習データでのモデル分類・検証が可能なことです。

コンピュータビジョンモデルをゼロから構築するのはかなり難しいため、Edge Impulseは転移学習プロセスを用いてモデル訓練をより簡単かつ高速にします。これはよく訓練されたモデルに相乗りし、ニューラルネットワークの上位層のみを再訓練するもので、はるかに信頼性の高いモデルが、時間とデータセットのわずかな量で訓練されます。モデルの設計・訓練・検証が完了すれば、デバイスにモデルを導入できます。モデルはインターネット接続なしでデバイス上で動作し、レイテンシ最小化、最小消費電力動作といった固有のメリットを発揮します。完全なモデルは前処理ステップ、ニューラルネットワーク重み、分類コードを単一のC++ライブラリにパッケージ化し、組み込みソフトウェアにインクルードできます。

より高い抽象化レベルへ

ベンダーが提供するもう一つのアプローチは、モジュールベースシステムを提供し、より高い抽象化レベルでの設計を可能にすることで開発時間を短縮することです。Xilinxは、新しいシステムオンモジュール（SOM）アプローチにより、ビジョンAIの複雑さ増大とエッジでのAI実装課題に対処し、ビジョンシステムの開発時間を最大9ヶ月短縮できると述べています。

Xilinxは最近、新しいSOMポートフォリオの第一弾製品として、スマートシティとスマートファクトリーのビジョンAIアプリケーションをターゲットにしたKria K26 SOM、そしてすぐに使える低コスト開発キットKria KV260 AIビジョンスターターキットを発表しました。

Xilinxの産業・ビジョン・ヘルスケアディレクターChetan Khona氏は、新モジュールファミリー発表の記者会見で、「プロダクションレディなシステムは埋め込みビジョンAIの迅速な導入に重要です。デバイスベース設計ではなくモジュールベース設計を使うことで、お客様は最大9ヶ月の開発時間を節約できます」と述べました。またスターターキットでは、ユーザーが1時間以内に開始でき、「FPGA経験不要」と付け加えます。カメラ、ケーブル、モニターを接続、プログラム済みmicroSDカードを挿入、ボードに電源投入、そして選択した加速アプリケーションを実行するだけです。

Kria SOMポートフォリオは、ハードウェアとソフトウェアプラットフォームをプロダクションレディなビジョン加速アプリケーションと結合します。これらのターンキーアプリケーションは全FPGAハードウェア設計作業を排除し、ソフトウェア開発者はカスタムAIモデルとアプリケーションコードの統合、必要に応じたビジョンパイプラインの修正のみに集中できます。TensorFlow、PyTorch、CaffeフレームワークやC、C++、OpenCL、Pythonといった馴染みの設計環境を使用可能です。

Kria SOMは、標準YoctoベースPetaLinuxのサポートにより、組み込み開発者向けのカスタマイズと最適化も可能にします。XilinxはCanonicalとの協業も進めており、AI開発者に広く使われる人気LinuxディストリビューションUbuntu Linuxのサポート提供を目指しています。これによりAI開発者に広く親しまれ、既存アプリケーションとの相互運用性が得られます。顧客はどちらの環境でも開発でき、どちらのアプローチでも本番投入可能です。両環境ともソフトウェアインフラと便利なユーティリティがプリビルドで付属します。

組み込みビジョンシステム開発のスキル・知識ギャップと導入時間に対処するベンダーのアプローチを3つ紹介しました。クラウドベースアプローチは、モデル作成・訓練能力とハードウェア評価を「民主化」し、組み込みデバイスへの極めて迅速な導入を可能にするツールを提供します。モジュールやリファレンスデザイン、アプリライブラリを提供するアプローチは、AI開発者が既存ツールを使って組み込みビジョンシステムを迅速に構築できるようにします。これらは全て、開発ボードとツールを違った視点で見る方向へ私たちを導いています。ベンダーのツールとモジュールに基盤レベルの作業を任せ、バリューチェーンの上流へ移行することで、組み込みビジョンから謎を取り除いています。

---

関連コンテンツ：

• Embedded Vision at the Tipping Point
• Five Trends to Watch in Embedded Vision and Edge AI
• Will Machines Ever Fully Understand What They Are Seeing?
• Xilinx SOM targets broader adoption of edge AI and embedded vision
• Embedded Vision Summit: ML perception on tiny FPGAs
• GWM adopts Ambarella AI vision SoC for new SUV
• AImotive shows 98% edge vision efficiency on Nextchip Apache5
• Low power AI vision board lasts ‘years’ on single battery
• OmniVision shrinks medical image sensor for deeper endoscopy