SRI International（SRIインターナショナル）からスピンアウトしたスタートアップのLatent AI（レイテントAI）は、必要に応じてワークロードを動的に管理することで、エッジ（システム末端）でのAIワークロードの実行を容易にする。
Latent AIは、独自の圧縮技術およびコンパイルプロセスを使用して、ライブラリファイルを10分の1に圧縮し、他のシステムに比べて5分の1の待ち時間（レイテンシ）で実行させることが可能だという。同社は米国時間9月15日開催のTechCrunch Disrupt Battlefieldコンテストに出場しお披露目する。
CEOのJags Kandasamy（ジャグス・カンダサミー）氏とCTOのSek Chai（セク・チャイ）氏が設立した同社は、Future VenturesのSteve Jurvetson（スティーブ・ジャーベットソン）氏が率いてAutotech Venturesも参加した以前のシードラウンドで、すでに650万ドル（約6億9000万円）を調達している。
カンダサミー氏は、Latent AIを起業する前に、起業していたスタートアップのOtoSenseをAnalog Devicesに売却している（その前にはHPE Mid-Market Securityビジネスのマネージャーを務めていた）。OtoSenseは、音ならびに振動センサーからのデータを使って、保守ユースケースの予測を行うものだった。売却前には、デルタ航空やエアバスなどと提携していた。
画像クレジット：Latent AI
Latent AIはこの仕事の内容の一部を利用しており、それをSRI Internationalの特許と組み合わせている。
「OtoSenseでも、すでにある程度のエッジワークを行っていました」とカンダサミー氏はいう。「そのときは、音声認識部分をクラウドの外へと移動させていたのです。学習はクラウドで行いましたが、認識はエッジデバイスで行われていたため、学習結果をすばやく変換してダウンロードする必要がありました。最初の数カ月はそのように行っていましたが、データが長すぎるためLTEまたは3Gでストリーミングすることはできませんでした」。
一方、チャイ氏はSRIで飛行物体の電力を最適に管理する方法を研究するプロジェクトに取り組んでいた。そのシステムは1つの電力供給源から、飛行そのものに電力を供給するか、搭載コンピューティングワークロードを実行するかのリソース配分をインテリジェントに割り当てることが可能で、監視を行いながら必要に応じてそれらを切り替える。ほとんどの場合、監視のユースケースでは何も起こらない。そしてそれが事実であるために、観察されるすべてのフレームを計算する必要はない。
「私たちはそうしたやり方を採用し、ツールとプラットフォームとしてまとめて、音声からビジョン、断片的なもの、時系列なものまで、あらゆる種類のユースケースに適用できるようにしました」とカンダサミー氏は説明する。
ここで注目すべき重要なことは、同社がLatent AI Efficient Inference Platform（Latent AI推論プラットフォーム、LEIP）と呼ぶさまざまなコンポーネントを、スタンドアロンモジュールまたは完全に統合されたシステムとして提供していることだ。圧縮機能とコンパイラーはこうしたものの最初の2つであり、同社が今回発表するのはLEIP Adaptと呼ばれる。これは、カンダサミー氏が先に述べたような動的AIワークロードを管理するシステムの一部である。
画像クレジット：Latent AI
LEIP Adaptの実用的なユースケースは、例えばバッテリー式のスマートドアベルが、何かが発生するのを待ちながら、低電力モードで長時間動作できるようにする場合だ。そして、誰かがドアの前にやってくると、カメラが起動して画像認識のためのより大きなモデルを実行する（おそらく電源に接続されているドアベルのベースステーション上でも実行されるだろう）。そして、もし複数の人間が一度に到着した場合には（現在はそうなっていないが、おそらく来年、パンデミックが落ち着いたころには）、システムは必要に応じてワークロードをクラウドに委託することができる。
カンダサミー氏は、このテクノロジーへの関心は「非常に大きい」と語っている。彼の以前の経験とSRI Internationalのネットワークを考えれば、Latent AIが自動車業界の大きな関心を集めているのは当然のことだが、カンダサミー氏はまた、同社がカメラや補聴器メーカーなどの消費者企業と協力していることも指摘した。
さらに同社は、AI協調プラットフォームの一部としてLatent AIを検討している大手通信会社と協業しており、とあるCDNプロバイダーがJavaScriptバックエンド上でAIワークロードを実行することに協力している。
関連記事：The sound of impending failure（未訳記事）
カテゴリー：人工知能・AI
タグ：Latent AI SRI International Disrupt 2020
［原文へ］
（翻訳：sako）