ハードウェア推論チップは自動車アプリケーションを対象としています

ソフトウェアおよびハードウェアベースの自動運転技術の開発者であるハンガリーを拠点とするAImotiveは、aiWare3ニューラルネットワーク（NN）ハードウェア推論エンジンの知的財産（IP）の主要顧客への出荷を開始しました。

昨年発表されたそのaiWare3PIPコアは、高解像度の自動車用ビジョンアプリケーション用のハードウェアNNアクセラレータを提供し、ISO26262 ASIL A、B以上の認定サブシステム内のコンポーネントとして提供されます。コアは、システムオンチップ（SoC）内に展開することも、スタンドアロンのNNアクセラレータとして展開することもでき、完全に合成可能なRTLとして提供されます。その低レベルのマイクロアーキテクチャは、他のハードウェアNNアクセラレータよりもはるかに少ないホストCPUまたは共有メモリリソースを使用するように設計されています。

車載電子機器プラットフォームのさまざまな部分で使用されるaiWare3PIPなどの専用NNアクセラレータ（出典：AImotive）

EE Times Europe と話す AIMotiveの提供が他のソリューションとどのように異なるかについて、同社のエグゼクティブアドバイザーであるTony-King Smithは、ほとんどのチッププレーヤーが、ラボ環境でテストされたGPUとSoCに基づくアクセラレータについて、学術用語で話していると述べました。現実の世界へ。 「決定的な違いは、アクセラレータではなくニューラルネットワークの原理を理解する必要があるということです。私たちのソリューションには、DSPやNOC（ネットワークオンチップ）はありません。 aiWareは自動車の推論専用に設計されているため、入力から出力までのレイテンシを低く抑えることができます。」彼は、新しいコアのRTL出力の改善は、メインCPUサブシステムを解放し、コアを任意のアクセラレータSoCに接続できることを意味すると付け加えました。

aiWare3P IPコアには、パフォーマンスの向上、消費電力の削減、ホストCPUのオフロードの増加、より大きなチップ設計のためのよりシンプルなレイアウトを実現する機能が組み込まれています。各コアは2GHzで最大16TMAC / s（> 32 TOPS）を提供し、マルチコアおよびマルチチップの実装は最大50+ TMAC / s（> 100 INT8 TOPS）を提供でき、マルチカメラまたは異種に役立ちますセンサーが豊富なアプリケーション。コアはAEC-Q100拡張温度動作用に設計されており、ユーザーがASIL-B以上の認定を取得できるようにする機能が含まれています。

チップあたり50TMAC / s（> 100 TOPS）を超えるIPコアのパフォーマンススケーラビリティと低遅延の持続的推論は、その低レベルのマイクロアーキテクチャの結果です。特許取得済みのグラウンドアップ設計を使用して、高度に決定論的なデータフロー管理を実現します。高度に並列化されたメモリ中心のアーキテクチャは、他のハードウェアNNアクセラレータの最大100倍のオンチップメモリ​​帯域幅を備え、大規模で使用される複雑なDNNの最大95％の持続効率を保証します。複数のHDカメラなどの入力。

KhronosのNNEFとオープンスタンダードのONNX入力をサポートするaiWareSDKは、DSPやMCUの低レベルのプログラミングを必要とせずにバイナリを直接コンパイルします。高度なDNNパフォーマンス分析ツールのポートフォリオが増えていることに加えて、精度をほとんどまたはまったく損なうことなく、FP32からINT8への量子化のための自動化ツールが含まれています。後者は、ソフトウェアとAIエンジニアが、ラボでトレーニングされたNNを移行し、aiWareを利用した実稼働自動車ハードウェアプラットフォームで実行される効率的なリアルタイムソリューションに変換できるように設計されています。

aiWareハードウェアIPを含む自動車用AIアクセラレータの構成要素（出典：AImotive）

AImotiveのハードウェアエンジニアリング担当シニアバイスプレジデントであるMartonFeherは、次のように述べています。現在、自動車業界で最も効率的で説得力のあるNNアクセラレーションソリューションの1つであり、大量生産のL2 / L2 + / L3AIを実現しています。」

aiWare3PハードウェアIPは、さまざまなL2 / L2 +生産ソリューションに導入されているだけでなく、より高度な異種センサーアプリケーションの研究にも採用されています。顧客には、今後のApache5 Imaging Edge Processor用のNextchipと、高度な異種センサーフュージョン機能を実証するためのAImotiveとの共同プロジェクト用のONSemiconductorが含まれます。

AImotiveは、aiWare3P IPコアに基づいて、2020年第1四半期に公開ベンチマーク結果の完全な更新をリリースすると発表しました。これは、224×224入力を使用する非現実的な公開ベンチマークではなく、カメラの高解像度入力などの実際のアプリケーションを反映する、適切に制御されたベンチマークを使用したオープンベンチマークへの取り組みの一環です。

ホストCPUの介入は必要ありません

aiWare3PハードウェアIPの新機能には、事前に最適化された組み込みアクティベーションおよびプーリング機能のはるかに大きなポートフォリオのサポートが含まれ、ほとんどのNNの100％がホストCPUの介入なしにaiWare3Pコア内で実行されることを保証します。リアルタイムのデータ圧縮により、外部メモリ帯域幅の要件が軽減されます。特に、入力サイズが大きく、ネットワークが深い場合に必要です。 C-LAMコンボリューションエンジンとF-LAM関数エンジン間の高度なクロスカップリングにより、オーバーラップおよびインターリーブされた実行効率が向上します。

物理タイルベースのマイクロアーキテクチャにより、プロセスノードでの困難なタイミング制約を最小限に抑えることで、大規模なaiWareコアの物理的な実装が容易になります。論理タイルベースのデータ管理により、ボトルネックを作成し、決定性を減らし、より多くの電力を消費するキャッシュ、NOC、またはその他の複雑なマルチコアプロセッサベースのアプローチを必要とせずに、コアあたり最大16 TMAC / sまでの効率的なワークロードスケーラビリティが可能になります。シリコンエリアaiWare3PRTLは、2020年1月からすべてのお客様に出荷されます。アップグレードされたSDKには、オフライン推定とリアルタイムのきめ細かいターゲットハードウェア分析の両方のための改善されたコンパイラと新しいパフォーマンス分析ツールが含まれています。