工業製造
産業用モノのインターネット | 工業材料 | 機器のメンテナンスと修理 | 産業プログラミング |
home  MfgRobots >> 工業製造 >  >> Industrial Internet of Things >> 埋め込み

GroqのTSP AIチップ、Nimbix経由でクラウド ワークロードを強化

Groqのテンソル ストリーミング プロセッサー(TSP)シリコンがクラウドに追加され、顧客がオンデマンドでAIワークロードを加速できるようになりました。Nimbixは現在、選ばれた顧客にTSPベースの機械学習 アクセラレーションを独占的に提供しています。

データセンターAIシリコンの競争領域において、GroqはGraphcoreとともに、商業的に利用可能なアクセラレーターをクラウド サービスに統合した唯一のスタートアップです。GraphcoreのチップはすでにMicrosoft Azureで提供されています。

「Groqの簡素化された処理アーキテクチャはユニークで、コンピュート集約型ワークロードに前例のない決定論的パフォーマンスを提供し、当社のクラウドベースAIおよびディープラーニング プラットフォームへのエキサイティングな追加となります」とNimbix CEOのSteve Hebert氏は述べています。

GroqのTSP AIチップ、Nimbix経由でクラウド ワークロードを強化
Groqはクラウドでハードウェアを提供する2番目のAIアクセラレーター スタートアップです(画像:Groq)

昨秋に発表されたGroqのTSPチップは、驚異的な1,000 TOPS(1ペタ演算/秒)を提供します。最近のベンチマークでは、チップは毎秒21,700回のResNet-50 v2推論を達成しました。これは現代のGPUベース システムの2倍以上の速度であり、最速の商用ニューラル ネットワーク プロセッサーの1つとしての地位を強調しています。

「これらのResNet-50結果は、Groqのユニークなアーキテクチャと機械学習 アクセラレーションへのアプローチが、競合他社よりも大幅に高速な推論パフォーマンスを提供することを検証するものです」とGroq共同創業者兼CEOのJonathan Ross氏は述べています。「業界標準ベンチマークに基づくこれらの実世界の実証ポイントは、シミュレーションやハードウェア エミュレーションではなく、Groqのテクノロジーによって可能になる機械学習と人工知能アプリケーションの測定可能なパフォーマンス向上を確認します。」

Groqの設計は、CPUとGPUに典型的な同期オーバーヘッドなしで、ディープラーニング アクセラレーションに必要な大規模並列処理を実現します。制御ロジックをコンパイラにオフロードすることで(Groqのソフトウェア駆動戦略の特徴)、同社はコンパイル時に定量化できる完全に決定論的で予測可能なパフォーマンスを提供します。

際立った利点は、Groqのパフォーマンス向上がバッチ処理に依存しないことです。バッチ処理は、複数のサンプルを同時に処理してスループットを向上させる一般的なデータセンター戦術です。TSPチップはバッチ=1でもピーク パフォーマンスに達し、リアルタイム推論ストリームに最適です。チップは大きなバッチサイズではGPUに対して2.5倍のレイテンシ優位性を提供しますが、バッチ=1では優位性が17倍に上昇します。

埋め込み

  1. GE、産業データ・分析専用プラットフォーム「Predix Cloud」を発表
  2. オンライン食料品買い物客は迅速サービスに支払う——ただし限度あり
  3. Bluetooth Mesh設計の選択:モジュールかディスクリートデバイスか
  4. Nucleus SEのセマフォ:概要、設定、API要点
  5. Cadence、Cloud Passportパートナープログラム発表 - チップ設計のクラウド移行を加速
  6. u-blox、内蔵セラミックアンテナ搭載の超小型Bluetooth 5.0モジュールBMD-380を発表
  7. MITブレークスルー: 1.6mm²暗号IDチップ、テラヘルツバック散乱で偽造対策
  8. クラウドサービスSLAの必須要素:ビジネスを守る5つの条項
  9. 堅牢なリソースタグ付けポリシーでクラウド管理をマスターする
  10. 共有責任モデルで実現する安全なクラウド移行の極意
  11. Azureクラウドサービスを解説:IaaS、PaaS、SaaS – ビジネスへの意味