TensorOpsAI/LLMstudio
🏗️ フレームワークTensorOpsAI
プロダクション対応のLLMフレームワーク、プロンプトエンジニアリングとMLflow統合。
LLMstudioは複数のLLMプロバイダー（OpenAI、Vertex AI）を統一的に扱うインターフェースを提供し、LangChainによるチェーン処理をサポート、MLflowを用いたプロンプトバージョニングを含みます。プロトタイピングから本番への移行を簡素化するため、キャッシュやロギングを内蔵し、プロダクショングレードの監視、デプロイ、パフォーマンス追跡に重点を置いています。
💡ハイライト
- ├─複数プロバイダー対応 (OpenAI, Vertex AI)
- ├─バージョン管理付きプロンプトエンジニアリング
- └─トラッキングのためのMLflow統合
🎯対象
- ├─AIエンジニア
- ├─MLOpsチーム
- └─LLM開発者