LeapMind開発の超低消費電力AIアクセラレータ「Efficiera」従来デバイスと比較し5倍の性能を発揮

最終更新日:2024/02/02

LeapMindは、超低消費電力AIアクセラレータIP「Efficiera」にて、従来のデバイスの約5〜100倍にあたる電力効率107.8TOPS/Wを達成しました。

このAIニュースのポイント

LeapMind、超低消費電力AIアクセラレータIP「Efficiera」にて、電力効率107.8TOPS/Wを達成。市場にある他のデバイスの約5〜100倍の電力効率
近年では「AIに求められる演算性能が従来以上に非常に高くなっていること」と「高性能AIチップを搭載するデバイスの消費電力」についてが課題視されている
LeapMindは「極小量子化」を用いて、精度低下を抑えつつ、電力効率、演算効率らの最適化に取り組む

LeapMind株式会社は、極小量子化技術を使った超低消費電力AIアクセラレータIP「Efficiera」で、業界トップクラスとなる電力効率、107.8TOPS/Wを達成しました。現在市場にあるデバイスは、GPUの場合で1~5TOPS/W、エッジ向けAIアクセラレータでも20TOPS/W程度となっており「Efficiera」は、同じ消費電力で約5〜100倍の性能を有します。

近年、様々なデバイスでAIタスクの実行が実用化されている中で、AIタスクは年々大規模化、複雑化しています。2012年以降、AI処理で使用される計算量は、3～4ヶ月で2倍の速度で指数関数的に急増しており、そうした中で「AIによる学習時・推論時に必要とされる演算性能が従来以上に非常に高くなっていること」及び「複雑なAIタスクを処理するような高性能AIチップを搭載するデバイスの消費電力」の二点が、エッジAIの実用化に伴う技術的な課題として挙げられています。

ディープラーニングを使った演算では、通常、精度を確保するために32ビットの浮動小数点数で計算されますが、この方法では多くの演算リソースが必要となり、メモリや電力に制約のある、かつリアルタイム実行が求められるエッジデバイスでは、軽量化されたソフトウェアや、低消費電力のハードウェアなど、いくつかの要件をクリアしないとAIタスクの実行が出来ません。

LeapMindはソフトウェアとハードウェア両方に対する要求を「極小量子化」技術を用いて実現しており、ソフトウェア面では、モデルの軽量化に極小量子化を用い、精度低下を最小限に抑えた低ビット量子化に成功しました。また「Efficiera」専用のモデルコンバーターを開発し、演算効率の最適化とメモリ転送量の最適化を行い、ハードウェアの実行効率を最大限に高めることを実現しています。

LeapMindは「今回、従来のGPUやNPUを電力効率面ではるかに上回る、107.8TOPS/Wという電力効率を達成することができました。今後もお客様の課題解決に努め、AI技術の進化に貢献できるよう研究開発を進めていきます」とコメントしています。

出典：LeapMind株式会社