トレース、メトリクス、ログを受信・処理し、複数の監視バックエンドにエクスポートするベンダー非依存のサービス。
- スター
- 7,499
- フォーク
- 1,164
- 未解決の Issue
- 801
- 最終コミット
- 一昨日
これは何?
OpenLLMetryは、LLMアプリケーションにオブザーバビリティを追加する、OpenTelemetryベースの拡張機能群です。OpenAI、Anthropic、Bedrock、GeminiなどのLLMプロバイダーや、Chroma、Pinecone、Qdrant、Milvus、Weaviateなどのベクトルデータベース向けに、標準的なOpenTelemetryインストルメンテーションを提供します。また、すばやくセットアップできるTraceloop SDKも用意されています。
出力されるのは標準的なOpenTelemetryデータなので、Datadog、Honeycomb、Grafana、New Relic、Sentry、OpenTelemetry Collectorなど、既存のバックエンドにトレースを送信できます。traceloop-sdkパッケージをインストールしてTraceloop.init()を呼び出すだけでトレースを開始でき、ローカルで即時に出力するにはdisable_batchを設定します。
LangChain、LlamaIndex、CrewAI、LangGraphなどのエージェント/オーケストレーションフレームワークに加え、MCPにも対応しています。既にOpenTelemetryを利用している場合は、SDKを使わずに個々のインストルメンテーションを直接追加できます。
主な機能
- 01OpenAI、Anthropic、Bedrockなど主要なLLMプロバイダーへの呼び出しを計測
- 02Chroma、Pinecone、Qdrant、Weaviateなどのベクトルデータベースへのクエリをトレース
- 03多くのオブザーバビリティバックエンドと互換性のある標準的なOpenTelemetryデータを出力
- 04initを1回呼び出すだけでトレースを開始できるSDKを提供
- 05LangChain、LlamaIndex、CrewAIなどのエージェントフレームワークとの連携機能を搭載
ユースケース
- 本番環境のLLMサービスで、OpenAIやAnthropicの呼び出しのレイテンシやエラーを監視する
- ベクトルデータベースを使うRAGパイプラインで、検索処理の各段階をデバッグする
- LLMのトレースを既存のDatadogやGrafanaの環境に送信する
- LangChainやCrewAIで構築したエージェントにトレースを追加する
クイックスタート
- 1
pipでTraceloop SDKをインストールします
pip install traceloop-sdk - 2
コードにTraceloop.init()を追加してトレースを開始します
- 3
ローカルで使う場合は、Traceloop.init(disable_batch=True)を呼び出してバッチ送信を無効にすると、トレースをすぐに確認できます
使う前に知っておきたいこと
- トレースは設定したバックエンドに送信されるため、閲覧するにはアカウントまたはセルフホストのコレクターが必要です。
- v0.49.2より前のバージョンではテレメトリーが収集されていたため、v0.49.2以降にアップグレードしてください。
トピック
よくある質問
- openllmetry とは?
- PythonアプリのLLM呼び出し、ベクトルDBクエリ、エージェントフレームワークをトレースする、OpenTelemetryベースのオープンソース監視拡張機能。 OpenLLMetryは、LLMアプリケーションにオブザーバビリティを追加する、OpenTelemetryベースの拡張機能群です。OpenAI、Anthropic、Bedrock、GeminiなどのLLMプロバイダーや、Chroma、Pinecone、Qdrant、Milvus、Weaviateなどのベクトルデータベース向けに、標準的なOpenTelemetryインストルメンテーションを提供します。また、すばやくセットアップできるTraceloop SDKも用意されています。
- openllmetry は無料で使えますか?ライセンスは?
- openllmetry は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
- openllmetry は今もメンテナンスされていますか?
- 活発にメンテナンス中。openllmetry の最終コミットは 2026年10月19日 です。
- openllmetry は何に使えますか?
- 本番環境のLLMサービスで、OpenAIやAnthropicの呼び出しのレイテンシやエラーを監視する ベクトルデータベースを使うRAGパイプラインで、検索処理の各段階をデバッグする LLMのトレースを既存のDatadogやGrafanaの環境に送信する LangChainやCrewAIで構築したエージェントにトレースを追加する
- openllmetry のインストール方法は?
- pipでTraceloop SDKをインストールします: pip install traceloop-sdk コードにTraceloop.init()を追加してトレースを開始します ローカルで使う場合は、Traceloop.init(disable_batch=True)を呼び出してバッチ送信を無効にすると、トレースをすぐに確認できます
- openllmetry はどこで入手できますか?
- ソースコードとインストール手順は GitHub にあります:https://github.com/traceloop/openllmetry
概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。
関連プロジェクト
ホストからメトリクス、ログ、トレース、プロファイルを収集し、Datadogプラットフォームに送信するDatadogのオープンソースエージェントです。
Rust製のセルフホスト可能なオブザーバビリティプラットフォーム。ログ、メトリクス、トレース、RUM、LLM監視に対応し、DatadogやSplunkの代替として位置付けられています。
PythonアプリやLLMエージェントをOpenTelemetryのトレース、メトリクス、ログで計測する、Pydantic Logfire用のPython SDK。
KubernetesクラスターやLinuxホストのシステムデータを収集・調査するため、eBPFプログラムをOCIイメージのGadgetとして配布するツールキット。
Checkmkは、物理・仮想・コンテナ・クラウド環境のインフラとアプリケーションを監視するオープンソースのIT監視システムです。