生成AI

AIエージェント
生成AI
ChatGPT連携サービス
AI受託開発
対話型AI -Conversational AI-
ボイスボット
バーチャルヒューマン
教師データ作成
AI研究開発
通訳・翻訳
声紋認証
機密情報共有・管理
契約書管理システム
ワークステーション
FAQシステム
AIカメラ
生体認証
インボイス制度対応システム
データセットの収集・購入
コールセンター
人事・総務向け
インバウンド対策
コンバージョンアップ
KYT・危険予知で労働災害防止
無料AI活用
顧客リスト自動生成
ロボットで自動化
LINE連携
セキュリティー強化
テレワーク導入
AI学習データ作成
配送ルート最適化
非接触AI
受付をAIで自動化、効率化
AIリテラシーの向上サービス
日本語の手書き文字対応AI-OCR
Windows作業の自動化RPAツール
リスク分析AIで与信管理
紙帳票仕分けAI-OCRサービス
サプライチェーン
AIコンサルティング
最終更新日:2024/02/02
LeapMind 省電力AIアクセラレータ開発
LeapMindは、超低消費電力AIアクセラレータIP「Efficiera」にて、従来のデバイスの約5〜100倍にあたる電力効率107.8TOPS/Wを達成しました。
このAIニュースのポイント
LeapMind株式会社は、極小量子化技術を使った超低消費電力AIアクセラレータIP「Efficiera」で、業界トップクラスとなる電力効率、107.8TOPS/Wを達成しました。現在市場にあるデバイスは、GPUの場合で1~5TOPS/W、エッジ向けAIアクセラレータでも20TOPS/W程度となっており「Efficiera」は、同じ消費電力で約5〜100倍の性能を有します。
近年、様々なデバイスでAIタスクの実行が実用化されている中で、AIタスクは年々大規模化、複雑化しています。2012年以降、AI処理で使用される計算量は、3~4ヶ月で2倍の速度で指数関数的に急増しており、そうした中で「AIによる学習時・推論時に必要とされる演算性能が従来以上に非常に高くなっていること」及び「複雑なAIタスクを処理するような高性能AIチップを搭載するデバイスの消費電力」の二点が、エッジAIの実用化に伴う技術的な課題として挙げられています。

ディープラーニングを使った演算では、通常、精度を確保するために32ビットの浮動小数点数で計算されますが、この方法では多くの演算リソースが必要となり、メモリや電力に制約のある、かつリアルタイム実行が求められるエッジデバイスでは、軽量化されたソフトウェアや、低消費電力のハードウェアなど、いくつかの要件をクリアしないとAIタスクの実行が出来ません。
LeapMindはソフトウェアとハードウェア両方に対する要求を「極小量子化」技術を用いて実現しており、ソフトウェア面では、モデルの軽量化に極小量子化を用い、精度低下を最小限に抑えた低ビット量子化に成功しました。また「Efficiera」専用のモデルコンバーターを開発し、演算効率の最適化とメモリ転送量の最適化を行い、ハードウェアの実行効率を最大限に高めることを実現しています。
LeapMindは「今回、従来のGPUやNPUを電力効率面ではるかに上回る、107.8TOPS/Wという電力効率を達成することができました。今後もお客様の課題解決に努め、AI技術の進化に貢献できるよう研究開発を進めていきます」とコメントしています。
出典:LeapMind株式会社
業務の課題解決に繋がる最新DX・情報をお届けいたします。
メールマガジンの配信をご希望の方は、下記フォームよりご登録ください。登録無料です。
AI製品・ソリューションの掲載を
希望される企業様はこちら