AIチップは、超低電力デバイスでの推論をサポートします

ロンドン–次世代のGreenWavesの超低電力AIアクセラレータであるGAP9は、10倍大きいアルゴリズムを処理しながら、その前身であるGAP8の5分の1の電力を使用します。新しいデバイスは、50mWの全体的な消費電力で最大50のGOPSを提供します。これは、アーキテクチャの改善と新しい最先端のFD-SOI（完全に空乏化したシリコンオンインシュレータ）プロセス技術の組み合わせによるものです。

前世代のデバイスと同様に、GAP9は、小型のバッテリー駆動のIoTセンサーノードなど、ネットワークの最前線にあるシステムでのAI推論を目的としています。例として、GreenWavesの図では、GAP9が160 x160の画像でMobileNetV1を実行し、わずか12ミリ秒でチャネルスケーリングが0.25、消費電力が806μW/フレーム/秒です。

フランスのグルノーブルに拠点を置くGreenWavesは、GlobalFoundriesの22nm FDX FD-SOIプロセスを選択して、すでに超低電力アーキテクチャであったものの消費電力を最小限に抑えています。

「GAP9では、GAP8に関する顧客のフィードバックを使用してGAP8アーキテクチャを調整しましたが、同時に、市場をリードする半導体プロセスに移行しました」と、GreenWavesのマーケティング担当副社長であるMartinCroomeは述べています。 「FD-SOIのボディバイアス機能を使用して、さらに低い消費電力を実現しています。」

アーキテクチャの改善

GreenWavesは、GAP9のアーキテクチャをいくつか進歩させました。

RISC-Vコアがもう1つ追加され、合計が10になりました。1つのコアは、ファブリックコントローラーとして、および特定のモードでの低強度計算に使用されます。他の9つは、共有L1データ領域を持つ計算クラスターを構成します。このクラスターの1つのコア（新しいコア）は、タスクグループマスターとして使用され、メモリの移動を計算し、他の8つのコアでタスクを管理します。

内部RAMは3倍の1.6MBになり、メモリ帯域幅はL1では41.6 GB /秒、L2では7.2 GB /秒に増加しました。

「この[メモリ帯域幅]は、MCUクラスのデバイスにとって非常に重要です」とCroome氏は述べています。

GreenWavesのGAP9超低電力AIチップのアーキテクチャは、現在10個のRISC-Vコアを使用しています（画像：GreenWaves）

GAP9アーキテクチャへの変更には、はるかに高い最高周波数も含まれます。 GAP8は175MHzでクロックインされ、GAP9は400MHzまたはその近くで動作します。新しい電力状態も追加されました。これには、データを取得できるが電力消費量が1mW未満の「ドジー」状態が含まれます。この状態では、プロセッサは、迅速に起動できる低ドロップアウトレギュレータ（LDO）で実行できます。これにより、GAP9の最初の命令までの時間がわずか数マイクロ秒に短縮されます（GAP8は、DC-DCコンバーターが安定するのを待つ間、約700 µsかかりました）。このクイックスタートアップ機能は、音声などの時間ベースの信号をキャプチャするときに役立ちます。

10個のコアすべてが、「トランスプレシジョン」浮動小数点数を処理できるようになりました。IEEE形式の16ビットおよび32ビット浮動小数点に加えて、ベクトル化をサポートする追加の8ビットおよび16ビット形式です。この機能を使用して、浮動小数点を必要とするアルゴリズムのエネルギー要件を下げることができます。 GAP9は、深いレベルの量子化を利用するアプリケーション向けに、ベクトル化された4ビットおよび2ビット演算もサポートしています。

その他の新機能には、双方向マルチチャネルオーディオインターフェイスが含まれます。

GAP9は2021年に大量生産に達すると予想され、サンプルは2020年の前半に登場します。Croomeによると、価格はGAP8と比較して50％のプレミアムになると予想されています。タイミング、電力の数値、価格が異なることを考えると、同社は両方の製品が今後市場を見つけると予想しています。