Algorithm Module 04 / 04

ELAI

Efficient Lightweight AI｜計算資源最適化AI

大きなAIを、現場の小さな計算機へ。

AIモデルの軽量化・量子化・推論高速化などにより、限られた計算資源でも高効率なAI推論を実現する技術。

ELAIとは

Overview

高精度なAIモデルほど、計算量とメモリを必要とします。しかし製造現場で推論が動く場所は、クラウドではなく、ラインの産業用PC、設備のマイコン、検査装置の組み込み基板です。タクトタイム内に判定を返し、ネットワークに依存せず、電力と発熱の制約を守る必要があります。

ELAIは、精度を保ったままモデルを小さく速くする技術群です。蒸留・枝刈り・量子化による軽量化、ハードウェアに合わせた推論の最適化、学習と推論の計算資源配分の設計により、限られた計算資源で高効率な推論を実現し、エッジでの学習継続まで視野に入れます。

Capabilities

ELAIが製造現場で担う役割です。

Methods

ELAIを製造現場で機能させるために使い分けている手法です。課題の構造とデータの状態に合わせて組み合わせます。

01
知識蒸留と枝刈り
大きなモデルの振る舞いを小さなモデルに移し、寄与の小さい重みを削除して、精度を保ったままサイズを縮小します。
02
量子化
重みと演算を低ビット（8ビット・4ビットなど）に変換し、メモリと計算量を削減してマイコンやNPUでの実行を可能にします。
03
推論コンパイルとハードウェア最適化
演算グラフの最適化と各デバイス向けのコンパイルで、CPU・GPU・NPU・マイコンそれぞれで最大の速度を引き出します。
04
計算資源の設計
精度・速度・電力・コストの要件から、クラウドとエッジの役割分担や、学習の頻度・場所を設計します。

Algorithm Modules

ELAI（計算資源最適化AI）の適用可否や、貴社データでの検証の進め方について、課題の整理段階からご相談いただけます。