Definition
この手法では、トレーニング済みのAIモデルをスマートフォン、IoTセンサー、組み込みシステムなどのハードウェアに直接デプロイします。データをローカルで処理することで、エッジ推論はレイテンシを大幅に削減し、プライバシー保護と帯域幅の節約にも寄与します。
Summary
エッジ推論とは、集中型クラウドサーバーではなく、エンドユーザーのデバイス上で機械学習モデルを実行するプロセスのことです。
Key Concepts
- レイテンシの削減
- プライバシーの保護
- モデル量子化
- ローカル処理
Use Cases
- 自律ドローンにおけるリアルタイム物体検出
- スマートスピーカーでの音声認識
- 産業用IoTセンサーによる予測保全