エッジAIを次元上昇させる：前例のない性能と電力効率の解放

技術の進化はおなじみの物語であり、人工知能も例外ではありません。各世代のAIチップは、より多くのMAC、より深い量子化、追加機能を搭載し、より高いTOPS/Wattを追求してきました。しかし、ユーザーの専門性が高まるにつれ、単なる使いやすさから、比類なきアルゴリズム柔軟性、最大スループット、最小消費電力へと要求がシフトしています。

CEVA NeuProプラットフォームを通じて、多様な市場でエッジAIソリューションを提供してきました。今日のユーザーは、漸進的なアップグレード以上を求めています。最先端を桁違いに凌駕する、革命的な改善を必要としています。

実世界でのインパクト測定

TOPS/Wattは便利なベンチマークですが、実用途では不十分です。視覚推論では、ワット当たりフレーム数（FPS/W）の方が遥かに意味があります。自動車安全分野では、知覚エンジンが最低100FPSを可能な限り低消費電力で処理できる必要があります。遅延は安全停止と事故の分かれ目になるからです。この性能達成には、従来指標が示す遥かに高いFPS/Wが求められます。

市場機会は明確です。自動車と通信がエッジAI成長の最大シェアを占め、インテリジェントイメージングが自動車を、そして「多カメラ」トレンドがスマートフォンを再構築しています。最新スマホカメラは、ノイズ除去、手ぶれ補正、超解像などのレガシーアルゴリズムをニューラルネットワークで置き換え、厳しいエネルギー包絡線内で60fps動作させています。

大躍進に必要なもの

アナログAIやスパイキングニューラルネットワークは興味深い可能性を秘めますが、製品メーカーには今日、量産可能なスケーラブルなソリューションが必要です。ここに豊富なアルゴリズム的潜在力があります：多様な量子化オプション、Winogradサポート、スパース最適化、多様なビット幅での多様なデータ型処理、並列ベクトル処理、データ圧縮、行列分解、トランスフォーマーや3D畳み込みといった次世代アーキテクチャサポート。これらはリファレンスネットワーク比で最大50倍の加速をもたらせます。

行動への呼びかけ

経験豊富なAI開発者は、自らが構築すべきものを正確に知っています。彼らが必要とするのは、信頼するすべてのニューラルネットワークコンポーネントと最適化を提供し、製品に最適なソリューションを構築できるプラットフォームです。

これは単なる要望リストではなく、高度なエッジAIが求める画期的な性能、スループット、低消費電力へのロードマップです。メーカーはもはや漸進的な向上で妥協できません。AIの可能性を深く理解する開発者の期待に応えるプラットフォームが求められています。

CEVAのエッジAIへの取り組みについては、こちらをご覧ください。

Roni Sadeh氏は、プロセッサおよびアクセラレータ設計で20年以上の経験を持ち、音声、音声認識、コンピュータビジョン向けのAI関連ソフトウェア・ハードウェアソリューションに注力。数百TOPSにスケールする次世代AIアクセラレータを開発中。

Technion大学で航空工学のB.Sc.を取得。

スマートリテール向け組み込みエッジAIプラットフォーム選定で評価すべき5つの重要要素 VarisciteとHailo、ターンキーエッジAIプラットフォームで高性能ディープラーニングを実現

モノのインターネットテクノロジー