Langfuse：开源 LLM 工程平台概览

用途与核心功能

根据项目说明，Langfuse 是一个开源 LLM 工程平台，面向团队协作开发、监控、评估和调试 AI 应用。它提供的核心能力包括：

• 可观测性：接入应用并上报 trace，跟踪 LLM 调用以及检索、嵌入、agent 动作等逻辑，用于检查复杂日志与用户会话。
• 提示词管理：集中管理、版本控制与协作迭代提示词，并声明服务端和客户端有较强缓存。
• 评估：支持 LLM-as-a-judge、代码评估器、用户反馈收集、人工标注，以及通过 API/SDK 接入自定义评估流程。
• 数据集与 Playground：用于测试集和基准评估；Playground 可调试提示词与模型配置，并可从 trace 跳转过去迭代。
• API 与 SDK：提供 OpenAPI 规范、Postman collection，以及 Python、JS/TS 类型化 SDK。

部署与集成

文档列出两种部署路径：Langfuse Cloud 托管服务，以及自托管。自托管说明包括 Docker Compose 本地运行、单机 VM、Kubernetes（Helm，文档称为首选生产部署方式）以及 AWS、Azure、GCP 的 Terraform 模板。README 还提示 Docker 默认 json-file 日志驱动不做轮转，可能耗尽磁盘，需配置 max-size 和 max-file 等选项；修改守护进程日志默认值后需重启 Docker 并重建容器。集成方面，列举了 SDK、OpenAI、LangChain、LlamaIndex、Haystack、LiteLLM、Vercel AI SDK、Mastra 等，以及 Instructor、DSPy、Ollama、Bedrock、AutoGen、Flowise、Langflow、Dify 等包或平台。

限制与待核实事项

来源为项目 README，内容已截断，未提供性能、价格或版本细节；文中“battle-tested”“几分钟自托管”等表述属项目自述，未做独立验证。许可证为 MIT，但 ee 目录除外，具体以 LICENSE 与文档为准。部署与集成能力需结合对应版本的文档核实。