LlamaIndex 智能体应用框架

能做什么

• 提供数据连接器，用于从 API、PDF、文档、SQL 等来源摄取数据。
• 将数据组织为索引、图等结构，便于与 LLM 配合使用。
• 提供面向数据的检索与查询接口，输入提示词后返回检索到的上下文和知识增强输出。
• 可集成到外部应用框架中，例如 LangChain、Flask、Docker、ChatGPT 等。
• 既提供高层 API 供入门用户快速摄取与查询，也提供底层 API 供进阶用户自定义数据连接器、索引、检索器、查询引擎、重排模块等。

适用场景

• 用私有数据增强 LLM 的知识生成与推理能力。
• 构建 RAG（检索增强生成）与智能体应用。
• 需要从多种数据源摄取、结构化并检索数据的 LLM 应用开发。

使用条件与限制

• 提供 Python 包 llama-index（入门版）和 llama-index-core（核心版），可按需搭配集成包使用。
• 文档中的示例涉及使用 OpenAI、Ollama、HuggingFace 等 LLM、嵌入模型与向量存储提供方，具体配置取决于所选集成。
• 默认数据存储在内存中，可通过 index.storage_context.persist() 持久化到磁盘并重新加载。
• llama-index-core 默认包含 nltk 与 tiktoken 缓存，并提供构建来源验证脚本供核对。
• 文档更新频率可能低于官方文档站点，最新信息以官方文档为准。
• 当前项目主线聚焦于文档解析与抽取方向（如 LlamaParse、LiteParse 及基准评测），开源框架作为开放工具集继续提供。