一般的なIoTデバイスは処理能力が低く、メモリがスマホの1000分の1未満のマイクロコントローラーで稼働している。そのため、パターン認識タスクなどをローカルで実行することがむつかしく、収集されたデータはクラウドに送信されて処理されることも多い。このことが、セキュリティリスクを招くなど、IoTデバイス利用の制限につながっている。
そこでMITの研究チームは、IoTデバイス上で最適なパフォーマンスを発揮するコンパクトなAIシステムを開発した。「MCUNet」と呼ばれる同システムは、メモリと処理能力が限られているIoTデバイスでのディープラーニングの速度と精度を向上させる。
さまざまなリソース条件に合わせてニューラルネットワークを最適化
研究チームは、さまざまな電力容量/メモリサイズを備えたマイクロコントローラ上でMCUNetを実行するのに必要な、2つのコンポーネントを開発している。
ニューラルネットワークの構造を自動で最適化するNAS（ニューラルアーキテクチャ探索）を、既存のままマイクロコントローラに適用するのはむつかしかったため、カスタムサイズのネットワークを作成する「TinyNAS」を開発。TinyNASでは、特定のマイクロコントローラーに対して、最適なパフォーマンスでコンパクトなニューラルネットワークを生成できる。
また、限られたリソースでMCUNetを機能させるためのムダのない推論エンジン「TinyEngine」を開発した。TinyEngineは、TinyNASによるカスタマイズされたニューラルネットワークを実行のに必要なコードのみを生成。不要となったコードは破棄され、コンパイル時間が短縮される。
生成コードはGoogleやARMによる推論エンジンの5分の1
テストの結果、TinyEnginによりコンパイルされたバイナリコードのサイズは、GoogleやARMのマイクロコントローラー推論エンジンによるものの1.9～5分の１だった。また、ピークメモリ使用量をほぼ半分に削減できたとのこと。
画像分類タスクによるMCUNetのテストでは70.7％の精度を達成。最先端のシステムによるマイクロコントローラー上の分類精度が54％だったのを考えると大きな進展といえる。
同技術を適用することで、十分なネットワーク環境がない場所でもAI搭載のIoTデバイスが設置でき、健康データなどのデリケートな個人情報を扱うことも容易になりそうだ。
参照元：System brings deep learning to “internet of things” devices/ MIT News
- Original:https://techable.jp/archives/142462
- Source:Techable（テッカブル） -海外・国内のネットベンチャー系ニュースサイト
- Author:YamadaYoji