AIツールがチップ実行速度を高精度予測、インテルのモデルを上回る

MITの研究者たちが開発した新しい機械学習ツールは、特定のコードをコンピュータチップが実行するのにかかる時間を予測します。このツールは、インテル独自の予測モデルよりも高い精度を示しています。

プロセッサ性能予測の難しさ

プロセッサがアセンブリ命令ブロックを定常状態で実行するのに必要なクロックサイクル数を決定することは、パフォーマンスエンジニアとコンパイラ設計者の双方にとって極めて重要です。しかし、現代のプロセッサアーキテクチャでは解析モデルの構築が非常に複雑で、エラーが発生しやすく、プロセッサ世代ごとにゼロから作り直す必要があります。

MITの研究者たちは、このプロセスを自動化する機械学習ツールを開発しました。これにより、静的マシンコードアナライザーやコンパイラバックエンドで現在使用されている最先端の手作業ツールよりも、高速・容易・高精度な予測が可能になります。

3つの論文で構成される新しいパイプライン

研究チームはこの機械学習パイプラインを3つの会議論文で発表しています：

1. Ithemal（アイセマル）: ラベル付き基本ブロック（計算命令のブロック）で訓練されたニューラルネットワークモデル。未処理の基本ブロックをマイクロプロセッサが実行する時間を予測します。
2. BHive（ビーハイブ）: Ithemalを検証するため、暗号、コンパイラ、機械学習、グラフィックスなど様々な分野から30万以上の基本ブロックを収集し、オープンソースデータセットとして公開しました。テスト結果、Ithemalはインテルプロセッサのコード実行速度を、インテル自社の性能モデルよりも正確に予測できることが判明しました。
3. Vemal（ヴィマル）: 特定のコードをベクトルに変換して並列計算に利用できるアルゴリズムを自動生成する手法。産業用コンパイラ（LLVMコンパイラ含む）で使用されている手作りのベクトル化アルゴリズムを上回る性能を示しました。

チップのドキュメントではなくデータを活用

インテルはチップアーキテクチャの詳細なドキュメントを提供していますが、それを基に性能モデルを作成できるのは一部の専門開発者のみです。また、チップが独占技術であるため、ドキュメントには一定の情報が省略されています。

研究者たちは別のアプローチを取りました。ニューラルネットワークを用いて、チップが基本ブロック命令（特定コマンドの実行、シャットダウン、リブートなど）を実行する平均サイクル数を計測したのです。ニューラルネットワークは数百万のブロックを自動的にプロファイリングし、様々なプロセッサアーキテクチャがコードをどう実行するかを徐々に学習します。つまり、チップのドキュメントに注目するのではなく、AIモデルでデータを分析したのです。

Ithemalは未知の基本ブロックを入力として受け取り、特定のプロセッサがそのコードを実行するのにかかる時間を示す単一の数値を出力します。

インテルのモデルを上回る精度

第2の論文では、Ithemalが従来の手作りモデルより優れていることを実証しました。インテルの予測モデルの誤差率が20%だったのに対し、Ithemalは様々な分野の基本ブロックで10%の誤差率を達成しました。

このモデルは新しいアーキテクチャにも容易に対応可能です。そのチップからデータを収集し、プロファイラを通してIthemalを訓練するだけで、性能推定が可能になります。グーグルのTensor Processing Unit（TPU）を含む、あらゆるプロセッサアーキテクチャの性能速度を学習できます。

ただし、研究者たちはこのモデルがどのように予測を行っているのかをまだ完全には理解していません。機械学習の多くはブラックボックスだからです。次の研究では、これらのモデルを解釈する手法の探求を予定しています。