Electronics Information Service

組込みシステム技術者向け
オンライン・マガジン

MENU

SOLUTION

EdgeCortixが業界をリードする低レイテンシーと高エネルギー効率を実現するSAKURA AIコプロセッサ発表

2022.4.22  3:11 pm

EdgeCortix

エッジAI推論用の業界最高クラスの計算効率と低レイテンシーの実現に焦点を当てたファブレス半導体設計企業のEdgeCortix株式会社(東京都渋谷区)は、TechInsights社(https://www.techinsights.com/ja)Linley Spring Processor Conferenceにおいて、エネルギー効率に優れたAIコプロセッサ(アクセラレータ)であるフラッグシップブランド「SAKURA」を正式に発表しました。
東京にある同社の開発センターで設計されたSAKURAは、人気の高いTSMCの12nm FinFET技術によって製造され、省電力なPCI-Eベースの開発ボードとして、2022年7月にEdgeCortix Early Access Program(EAP)の参加企業に提供されます。

EdgeCortixが業界をリードする低レイテンシーと高エネルギー効率を実現するSAKURA AIコプロセッサ発表
EdgeCortix SAKURAチップダイの写真と、Yolov3オブジェクト検出ベンチマークでのエッジユースケースの主要なGPUとのAI推論効率の比較。
現在の主要なGPU SoCが、32 TOPSおよび30W TDPであるのに対し、EdgeCortix SAKURAは40 TOPSおよび10W TDPです。SAKURAは10倍以上の電力効率を実現します。すべてのデータは、Yolov3 608x608のベースラインに正規化され、バッチサイズは1です。

       
EdgeCortixの創設者兼CEOであるサキャシンガ・ダスグプタは次のように述べています。
「SAKURAは、技術面から見ても、競争面からみても革新的で、特にリアルタイムのエッジアプリケーション用の従来のGPUをベースとしたAI推論ソリューションと比較すると、10倍以上のワットパフォーマンスを実現します。生産過程において、AIプロセッサアーキテクチャの設計を複数のFPGA顧客企業で検証した後、AI推論を大幅に高速化するための、ほぼ全ての既存システムのホストプロセッサに接続できるコプロセッサとしてSAKURAを設計しました。当社の特許であるランタイムで再構成可能なインターコネクト技術を用いたSAKURAは、従来のプロセッサと比較すると本質的に柔軟であり、過去40年以上にわたって開発された多くのAIプロセッサとは対称的に、最適なコンピューティング使用率を達成することが可能です。」
     
SAKURAは、40 TOPSのシングルコアであるDynamic Neural Accelerator(DNA)IPを搭載しています。これは全ての計算エンジンをつなぐ再構成可能なデータパスを内蔵した当社の独自のニューラルプロセッシングエンジンです。DNAは新製品であるSAKURA AIコプロセッサにおいて、優れたTOPSを維持しながら、超低レイテンシーで複数のディープニューラルモデルを実行することが可能です。
この独自の特性は、SoCの処理速度、エネルギー効率、寿命を強化するカギとなり、TCO(総保有コスト)においても大きな利益をもたらします。DNA IPは、特にストリーミングデータや高解像度データの推論に最適化されています。
       
SAKURAは省電力かつ低レイテンシーのAI推論を必要とするあらゆる産業分野において活用できます。
       
主な産業分野

  • インテリジェントモビリティ
  • インテリジェント電気自動車
  • 防衛とセキュリティ
  • 監視カメラ
  • 5G通信
  • VR/AR
  • スマート製造
  • スマートシティ
  • スマートリテール
  • ロボット工学

また、SAKURAは、複数のハードウェアのフォームファクタで購入できるほか、基盤となるDNA IPは、独自に半導体を設計する顧客向けに、EdgeCortixのソフトウェアスタックと組み合わせて、IPライセンスとして提供することも可能であると発表しました。

SAKURAの主な特徴:

  • 最大40 TOPS(シングルチップ)/200 TOPS(マルチチップ)
  • PCI-eデバイスのTDP @10W~15W
  • 代表的なモデルの消費電力 ~5W
  • 2x64 LPDDR4x - 16GB
  • PCIe Gen 3 - 最大16GB/sの帯域幅
  • 2つのフォームファクタ - デュアルM.2/ロープロファイルPCIe

SAKURAを搭載したDNAプロセッシングエンジンが実現すること:

  • シングルコアで+24K MAC @800MHz
  • INT8とバッチサイズ1に最適化
  • ランタイムで再構成可能なデータパス
  • 大容量オンチップメモリ - 20MB
  • ソフトウェアで定義された複数の並列度を利用することでコンピューティング使用率を最大化
  • Yolov3やYolov5、ポイントクラウド処理ベースのAIなど、要求の厳しいワークロードで超低レイテンシー(4ms未満)を実現

また、EdgeCortixは、MERAコンパイラとソフトウェアフレームワークのオープンソース化を正式に公表し、同時に即日適用開始であることを発表しました。

MERAは、今日ますます複雑化し、計算量の多いAIワークロードをシームレスに高速化することで、ソフトウェアエンジニアがSAKURAや、DNA IPを搭載した主要FPGA、その他のサードパーティーのシリコンをCPUやGPUのドロップイン代替品として使用できるようにします。

EdgeCortix Newsroom
https://www.edgecortix.com/