Outlines：在生成阶段约束 LLM 结构化输出的开源工具

工具用途

Outlines 是 .txt 团队维护的开源 Python 库，定位为「LLM 的结构化输出」。README 指出，多数方案是在生成后用解析、正则或易碎的代码修补输出，而 Outlines 在生成过程中即约束结构，使结果符合指定类型。

工作方式

其接口风格模仿 Python 类型系统：调用 model(prompt, output_type) 时传入期望的输出类型。根据 README，可用的输出类型包括：

• Literal["Yes", "No"] 等多选约束；
• 基本 Python 类型，如 int；
• Pydantic 模型定义的复杂对象；
• JSON Schema、正则表达式、上下文无关语法；
• 函数签名，可用于推断函数调用所需的结构。

另外提供基于 Jinja 的提示模板（outlines.Template），可从字符串或文件加载。

模型接入范围

README 的集成表列出：服务端支持 vLLM 和 Ollama；本地模型支持 transformers 与 llama.cpp；API 支持 OpenAI、Gemini 及 Dottxt。示例代码展示了 outlines.from_transformers 的用法。

需注意区分：Outlines 本身是开源库，而 README 提到 .txt API 处于 early access（早期访问）阶段，属于另需申请的托管服务，两者能力不可相互套用。

示例场景

README 给出若干代码示例，包括客服邮件转为结构化工单、商品描述分类、事件信息抽取（信息不足时通过 union 类型返回「I don't know」）、文档分类、按函数签名抽取会议参数，以及模板化提示。这些示例展示了该库的用法方向，并未提供准确率或性能数据。

限制

页面内容被截断，安装部分之后的信息不完整；README 未给出性能基准、模型兼容性细节或版本说明。