Scale3-Labs/langtrace
🔧 ИнструментScale3-Labs
Наблюдаемость на основе OpenTelemetry для LLM-приложений: трассировка, оценки и метрики.
Langtrace использует OpenTelemetry для сбора трассировок, метрик и оценок при вызовах LLM, взаимодействиях с фреймворками и операциях с векторными базами данных. Предлагает облачную панель управления для визуализации задержек, использования токенов, стоимости и показателей качества. Ключевые функции: автоматическая инструментация популярных библиотек LLM, поддержка пользовательских оценок и интеграция с LangChain, OpenAI и различными векторными БД. Открытые SDK на Python и TypeScript упрощают интеграцию. Langtrace помогает разработчикам отлаживать, мониторить и оптимизировать LLM-приложения в продакшене.
💡Основное
- ├─Трассировка на OpenTelemetry
- ├─Оценки и метрики в реальном времени
- └─Поддержка LLM, фреймворков, векторных БД
🎯Для
- ├─Инженеры ИИ
- ├─Разработчики LLM
- └─ML DevOps