プロセッサインメモリチップはAI計算を高速化します

ImecとGlobalFoundriesは、最大2900 TOPS / Wのエネルギー効率を達成できるプロセッサインメモリチップを実証しました。これは、今日の商用プロセッサインメモリチップを約2桁上回っています。このチップは、GlobalFoundriesの22nm完全空乏型シリコンオンインシュレータ（FD-SOI）プロセステクノロジのSRAMに実装された確立されたアイデアであるアナログコンピューティングを使用しています。 Imecのアナログインメモリコンピューティング（AiMC）は、GlobalFoundriesのお客様が、同社の22FDXプラットフォームに実装できる機能として利用できるようになります。

測定と特性評価に使用されるPCBに取り付けられたImecのAnIAテストチップは、最大2900 TOPS / Wを達成できます（画像：Imec）

アナログ計算

アナログコンピューティング、つまりプロセッサインメモリは、スタートアップのMythic、Syntiant、Gyrfalconなどの商用AIアクセラレータチップですでに使用されている確立された手法です。

ニューラルネットワークモデルには数千万から数億の重みがある可能性があるため、メモリとプロセッサの間でデータをやり取りするのは非効率的です。アナログコンピューティングは、メモリアレイを使用して重みを格納し、積和演算（MAC）を実行するため、メモリからプロセッサへの転送は必要ありません。各メモリスタ要素（おそらくReRAMセル）のコンダクタンスは、必要な重量に比例するアナログレベルにプログラムされています。

入力アクティベーションに比例した電圧を印加すると（デジタルからアナログへの変換-下の図の左側）、各要素を流れる電流がアクティベーションと重量の積に比例することを意味します。各垂直ビットライン（下の図の垂直ライン）を流れる電流は、これらのアクティベーションウェイト積の合計であり、アナログ-デジタルコンバーターを介して供給することができます。アクティベーションウェイト積のこの合計は、ニューラルネットワークアルゴリズムの計算に重要です。

アナログコンピューティングは、メモリスタセルの配列を使用して、メモリとプロセッサ間でデータを送信することなく、行列ベクトルの乗算を計算します（画像：Imec）

「実際には、ReRAM以外にも多くのオプションが可能です。MRAM、フラッシュ、DRAMを使用できます。このプログラムの目的は、アプリケーションに最適なものを理解し、各アプリケーションドメインのオプションを最適化することです」とプログラムのDiederikVerkest氏は説明します。 Imecの機械学習担当ディレクター。

テストチップ

Imecは、GlobalFoundriesの22nm FD-SOIプロセスに基づいて、アナログ推論アクセラレータ（AnIA）と呼ばれるテストチップを構築しました。 AnIAの512kアレイのSRAMセルに加えて、1024個のDACと512個のADCを含むデジタルインフラストラクチャは、4mm ² を占めます。 。約50万回実行できます

Ioannis Papistas（画像：Imec）

6ビット（プラス符号ビット）の入力アクティベーション、3値の重み（-1、0、+ 1）、および6ビットの出力に基づく動作サイクルごとの計算。

「0.8Vと0.6Vのさまざまな電源電圧でマトリックスベクトル乗算出力を生成できます」と、Imecの機械学習グループのIoannisPapistas氏は述べています。 「動作の精度に影響を与えることなく、より低い電源電圧で動作することで、動作の消費電力を大幅に削減できます。これは、エネルギーに制約のあるシステムでの推論にとって特に重要です。これは、22FDXプロセスによって実現される設計の重要な機能であり、エッジでの競争力のある推論を可能にします。」

Imecは、CIFAR 10データセットでのオブジェクト認識推論の精度結果を示しました。これは、同様に量子化されたベースラインと比較して1パーセントポイントしか低下しませんでした。供給電圧が0.8Vの場合、AnIAのエネルギー効率は23.5 TOPSで1050〜1500 TOPS / Wです。 0.6 Vの供給電圧の場合、AnIAは約1800〜2900 TOPS / Wで5.8TOPSを達成しました。

ImecのAnIAテストチップと比較したさまざまなAIアクセラレータのエネルギー効率（クリックして拡大）（画像：Imec）

主流のイノベーション

GlobalFoundriesのコンピューティングビジネスユニットのバイスプレジデント兼GMであるHirenMajmudarは、次のように述べています。 「検証済みのシリコンを使用してポストプロダクション段階にあるGlobalFoundriesのパートナーや顧客を目にしています…アナログコンピューティングベースのシリコンは、今年の終わりか来年の初めに生産されると予想しています。マスマーケットの展開に関しては、アナログコンピューティングが確実に2022年までにマスマーケットに参入し始めると予想しています。しかし、それよりも早く発生する可能性があります。」

Diederik Verkest（画像：Imec）

GlobalFoundriesは、エネルギー効率の高いAIアクセラレーターを実現するために、22FDXプラットフォームに実装できる機能としてImecのAiMCテクノロジーを組み込むよう取り組んでいます。 FD-SOIプロセスは、低消費電力向けに設計されており、1ミクロンあたり1ピコアンペアで0.5 Vまで動作し、スタンバイリークを非常に低く抑えます。新しいAiMC機能を備えた22FDXは、ドイツのドレスデンにあるFab1にあるGlobalFoundriesの300mm生産ラインで開発中です。

Imecについては、機械学習プログラムは継続されます。このグループの目標は、常時オンのスマートセンサーと消費者向けウェアラブルで10,000 TOPS / W（100mW未満で10 TOPS）に到達することです。

「私たちのMLプログラムでは、次のステップは、これらの計算セルのサイズを縮小し、この原理の次世代実装として新しいメモリデバイスを検討し始めることです」と彼は言いました。

>>この記事はもともと姉妹サイトのEETimes。