特許取得！生成AIの稼働を最適化する新技術「EGAM」を開発

生成AIの技術が急速に進化し、社会の様々な場面で活用が進む一方で、その使用方法では適応しづらいドメインが存在します。

現状の生成AIはユーザーからの問いかけに対して回答するという一問一答のようなサービスが一般的ですが、その用法ではユーザーからの能動的な働きかけが必要です。製造業や医療、小売業などでは機器の稼働や周りの環境などが目まぐるしく変化するため、ユーザーが能動的にそれを察知して生成AIに問いかけを行うのが困難なケースが多く存在します。

そのため、近年では『自律型AI』と呼ばれる人間の介在無しに、ある目標に向けて自律的に行動するAIシステムが注目されています。しかし、そういった能動的に生成AIが稼働する運用が普及する際、深刻な課題が浮き彫りになっています。

近年、SaaSやGPUを介したクラウドでの生成AI稼働に代わり、エッジデバイスで生成AIを稼働させるためのAIアクセラレータが登場し、注目を集めています。たとえば、Sima.aiやHailo.aiといった企業が開発するAIアクセラレータは、低消費電力で高性能なAI処理を可能にし、製造現場の検査やスマートシティの監視カメラなど、リアルタイム性が求められる様々なエッジアプリケーションでの生成AI活用を推進しています。

特にHailo-10H AIアクセラレータのように、コンシューマー向けデバイスへの搭載を想定した製品も登場しており、エッジ生成AIの普及が本格化する兆しを見せています。

しかし、エッジデバイスでの生成AI稼働には課題も存在します。例えば、膨大なリアルタイムデータを逐次処理するほどの性能がすべてのアクセラレータで保証されるわけではありません。また、高性能なAI処理を実現するためには、依然として一定の消費電力が必要となる場合があり、バッテリー駆動デバイスへの搭載にはさらなる技術革新が求められます。

したがって、エッジでの生成AI活用を最大限に引き出すためには、AIアクセラレータの性能向上と省電力化が不可欠であり、今後の技術動向が注目されます。

アイ・エス・ビーの特許技術である「EGAM」は、生成AIの活用において企業が直面する二つの大きな課題、すなわち「ランニングコストの肥大化と消費電力の増大」および「エッジ生成AI向けAIアクセラレータの必要スペック」の解決に貢献します。

EGAMは、生成AIの稼働タイミングをリアルタイムデータに基づいて最適に制御することで、不要なAI稼働を大幅に削減します。これにより、クラウド環境における従量課金を抑制し、ランニングコストを低減できます。例えば、製造現場における異常検知システムにおいて、常に稼働するのではなく、特定のセンサーデータに異常の兆候が見られた場合にのみ生成AIを起動させるといった運用が可能になります。

また、EGAMは生成AIの処理負荷を軽減するため、エッジデバイスで生成AIを稼働させる際に必要となるハードウェアリソースの省スペック化にも寄与します。リアルタイムデータの一次チェックをEGAMが行い、生成AIが処理すべきデータを厳選することで、高性能なAIアクセラレータがなくても効率的な運用が可能になります。

これにより、導入コストを抑えつつ、より多くのデバイスや環境で生成AIの活用が促進されます。EGAMの導入は、生成AIの普及を後押しし、効率的で持続可能なAI活用の未来を切り拓きます。

EGAMは、生成AIの稼働をリアルタイムデータに基づいて最適に判断することで、データセンターの消費電力増加に起因する環境負荷の低減に貢献します。

具体的には、生成AIが常に稼働する必要がある従来のシステムとは異なり、EGAMは多様なセンサーやSaaS、現実世界のリアルタイムデータから得られる情報を一次チェックします。この一次チェックによって、生成AIを稼働させるべき「適切なタイミング」を特定し、その状況に応じた最適なプロンプトを生成AIに送ることで、不要なAIの稼働を大幅に削減します。