LlamaIndex 十分钟装完即用：从一键安装到本地模型的一页速查

LlamaIndex 十分钟装完即用从一键安装到本地模型的一页速查【免费下载链接】llama_indexLlamaIndex is the leading document agent and OCR platform项目地址: https://gitcode.com/GitHub_Trending/ll/llama_indexLlamaIndex前身 GPT Index是一个面向大语言模型应用的数据框架负责把文档、数据库、API 等私有数据接进 LLM帮你搭出能查自家资料的 RAG 应用。无论你是第一次装 LlamaIndex 的新手还是打算把索引跑进生产环境的工程师下面几条路线任选其一大约十分钟就能动手。先看你是哪种人30 秒选路只想跑个 Demo、用 OpenAI→ 走路线 A一条命令装完不想掏 API 钱想用 Ollama / 本地嵌入模型→ 走路线 B要上线、要容器化、要可观测→ 走路线 C要改核心代码、给仓库提 PR→ 走路线 D四条路线互不重复各给最小可行步骤。 路线 A一条命令的 5 分钟快速上手pip install llama-index装的是starter包llama-index-core加上一组常用集成适合先跑通再说。为什么用它而不是 core省得你逐个挑选集成包代价是依赖略多。默认用 OpenAI 服务密钥放环境变量里别写进代码一旦提交进仓库就收不回来了export OPENAI_API_KEYyour-api-key-here验证安装是否成功把目录换成你自己的文档文件夹即可from llama_index.core import VectorStoreIndex, SimpleDirectoryReader documents SimpleDirectoryReader(./my_docs).load_data() index VectorStoreIndex.from_documents(documents) print(index.as_query_engine().query(这些文档在讲什么))能打出回答就说明读取、建索引、查询三件事全通了 路线 B本地模型玩家零 API 开销只装你真正要用的零件pip install llama-index-core llama-index-readers-file \ llama-index-llms-ollama llama-index-embeddings-huggingface选包的思路记住一句core 必装然后按需挑llama-index-llms-*语言模型、llama-index-embeddings-*嵌入、llama-index-readers-*数据读取三个系列。这样装的好处是依赖干净、升级不扯皮。本地模型要和 token 切分对齐换模型时记得同步改from llama_index.core import Settings from llama_index.llms.ollama import Ollama from llama_index.embeddings.huggingface import HuggingFaceEmbedding Settings.llm Ollama(modelllama-3.1:latest, request_timeout360.0) Settings.embed_model HuggingFaceEmbedding(model_nameBAAI/bge-small-en-v1.5)后面加载文档、建索引的代码和路线 A 完全一样不用重复。 路线 C生产部署者的三件事版本钉死。安装时固定版本号如llama-index-corex.y.z否则某天上游发新版线上行为可能悄悄变化。缓存目录指个明确位置。运行时会缓存 nltk、tiktoken 等资源服务器磁盘权限往往有限制显式指定更稳export LLAMA_INDEX_CACHE_DIR/opt/myapp/cache别忘持久化。索引默认只在内存里进程一重启就没了落盘一行解决index.storage_context.persist() # 默认写入 ./storage上生产后建议把调用量、成本、用户反馈接进监控面板出问题能第一时间看到是哪一步劣化️ 路线 D从源码装动核心代码需要改llama-index-core或维护集成包时从源码起步git clone https://gitcode.com/GitHub_Trending/ll/llama_index cd llama_index uv sync uv run pre-commit install仓库统一用uv管环境先在全局层uv sync装好 pre-commit 钩子再cd进具体包目录比如llama-index-integrations/llms/llama-index-llms-openai该包会以可编辑模式装进环境改完代码直接uv run -- pytest跑测试。动手前先读一遍 CONTRIBUTING.md 里可以做 / 不建议做的边界。核心与集成包是可组合的一份文档进来被切成分层 Node再喂给不同的索引和查询引擎这也是源码里最该先读懂的一张图️ 踩坑速查症状 → 原因 → 一行解法症状原因一行解法装包时报依赖冲突多个项目共用同一环境每个项目独立 venv 或uv环境隔离pip 下载卡死或超时网络到不了 PyPI换国内镜像源或配置代理启动报磁盘权限错误资源缓存写不进默认目录export LLAMA_INDEX_CACHE_DIR/可写路径密钥泄露进代码库API Key 硬编码挪进环境变量历史提交做清理重启服务后索引消失数据只存在内存index.storage_context.persist()换本地模型后回答质量变差tokenizer 没跟着换按所用模型同步Settings.tokenizer下一步三件今天就能做的事打开 docs/examples/vector_stores/挑一个你最熟的向量库跑一遍官方 notebook对比它和内存索引的差别。翻一遍 docs/examples/query_engine/给今天的索引换成带引用来源的查询引擎。小目标拿自己写的 3 篇 Markdown 建成索引问出一个带出处的问题——做到这一步LlamaIndex 就算真正上手了。更多细节看 README.md它比任何教程都新。【免费下载链接】llama_indexLlamaIndex is the leading document agent and OCR platform项目地址: https://gitcode.com/GitHub_Trending/ll/llama_index创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考