Definition
AIエンジニアリングの文脈において、トレーシングとは、入力、出力、レイテンシ、各ステップでのリソース使用量など、データがモデルやアプリケーション内をどのように流れるかに関する詳細なログを取得することを指します。これにより、システム内部の動作を可視化し、ボトルネックの特定や改善が可能になります。
Summary
トレーシングは、デバッグやパフォーマンス最適化を支援するために、プログラムまたはAIモデル推論の実行パスと中間状態を記録する技術です。
Key Concepts
- 実行パス
- レイテンシ測定
- デバッグ
- 観測可能性（オブザーバビリティ）
Use Cases
- LLMのプロンプトチェーンのデバッグ
- 推論レイテンシの最適化
- モデル判断の監査