AI・ロボティクスの技術を活用したソリューション提供を行うTRUST SMITHは、 深層学習モデルの量子化により、データ処理速度を最大5倍にすることに成功。本技術により、これまで膨大な処理が難しいとされた「エッジAI（端末近くにAIを搭載する技術）」で、深層学習モデルの実装が可能になったと発表しました。
モデルの軽量化に成功
昨今のディープラーニング（深層学習）の技術革新はAIの急速な発展を支え、自動運転・音声認識・画像処理といった、私たちの生活を便利にする様々な分野への実用化を推進してきました。しかしTRUST SMITH社によると「それらの最先端の深層学習モデルの多くは、人間の神経細胞の仕組みを模したニューラルネットワークを多層に用いるというモデル構造の特性上、その処理に膨大な計算量を要する」ことが課題だったといいます。
そのため、電力・ストレージ・メモリ・プロセッサ速度といった、あらゆる計算リソースに制約がかかるモバイルデバイスやIoTデバイス等のエッジデバイスでは、「ディープラーニングの技術を使用することが難しい」と考えられることが多かったのです。
東大発のベンチャーであるTRUST SMITH社は、この課題の解決を目指します。同社は、独自の量子化技術を活用することで、深層学習モデルの精度を維持しながら、モデルの軽量化を行うことに成功。
これにより、これまで一般的だった32bitの浮動小数点数で数値を取り扱っていた演算手法に対し、最低2bitまで演算に必要なbit数の削減を実現しました。つまり、同社が開発した量子化技術を適用すれば、あらゆる深層学習モデルに対して「そのデータ処理速度を最大5倍まで向上させる」ことが可能に。
工場のさらなるスマート化へ
また同技術は、組み込み分野での応用を見据え、Pythonで量子化したモデルをC言語で実行するための独自のライブラリとして開発。同社の担当者は「あらゆる深層学習モデルへの利用範囲の拡大や、AIアクセラレーターへの対応を進めることで、応用範囲の拡大やより高度な実用化に努めていく方針」と話しています。
つまり本技術を活用することにより、今までエッジAIでは扱えなかった大規模なモデルが、低スペックのマシンで動作するように。具体的な活用事例としては、省電力が求められるドローンの画像処理や、リアルタイム性が求められる工場機器への応用など、さまざまな場面での実用化が期待されます。
（文・Takeuchi）
- Original:https://techable.jp/archives/157354
- Source:Techable（テッカブル） -海外・国内のネットベンチャー系ニュースサイト
- Author:takeuchi