1. 先把这五个词放回一个真实场景里你可能已经看过很多解释 prompt、memory、Agent、RAG、MCP 的文章每个词单独看都懂但合在一起就乱了到底谁调用谁谁先谁后为什么有的项目里只有 prompt有的却要搞一堆配置文件我换个方式讲。假设你开了一家小餐馆你自己是老板大模型是你雇来的一个记忆力只有七秒但知识面极广的厨师。prompt 就是你每次下单时说的话memory 是你怕他忘了把之前点过的菜写在小纸条上贴给他Agent 是那个帮你跑腿、传话、顺便去仓库拿货的服务员RAG 是仓库里那本随时能翻的食材手册MCP 则是仓库和厨房之间约定好的取货窗口规范。这五个东西不是替代关系而是各管一段串起来才是一条完整的流水线。这篇就按这条流水线走一遍然后落到实操用 TaoToken 的统一 Key 和 API 通道把 settings.json 和 config.toml 两个骨架配置写出来最后做一次连通性验证。目标很明确——概念能讲清配置能复制请求能跑通。适合刚接触 AI 应用开发、被这一堆缩写绕晕的入门者。2. 五个角色各自的活以及它们怎么接力2.1 prompt你唯一能直接控制的那句话大模型本质是文字接龙你给它一段文字它预测下一个字。prompt 就是你喂进去的那段文字。它决定了模型这次扮演什么角色、回答什么方向。你可以把它理解成给厨师的点菜单——菜单写得越清楚出来的菜越接近你要的。但 prompt 有个硬伤它是无状态的。你这次说“帮我写个 Python 函数”下次说“再加个参数”模型并不知道“再”指的是哪个函数。它每次都是从零开始接龙。2.2 memory把历史对话塞回上下文解决无状态的办法很朴素每次请求前把之前的对话记录一起塞进 prompt 里。这部分历史信息就是 memory。模型看到“上一轮我们聊了函数”就能接着往下答。memory 不能无限塞上下文窗口有长度上限。所以实际项目里会做压缩——把旧对话用模型总结成一段短摘要再放回去。这一步是很多入门者第一次踩坑的地方以为 memory 是模型自带的其实是你自己在代码里维护的一个列表。2.3 Agent那个帮你跑腿的程序模型只会说话不会真的去查数据库、发请求、读文件。于是你写一段程序让它代理你和模型沟通模型说“我需要查天气”程序就去调天气接口把结果再喂回模型。这段程序就是 Agent。Agent 的核心价值是减少你和模型之间的往返次数同时处理模型干不了的活。它不生产信息只是信息的搬运工。2.4 RAG让模型能翻你自己的资料模型的知识停在训练截止那天而且不知道你公司的内部文档。RAG 的思路是先把你的文档切成片段、转成向量存进向量库用户提问时先按语义相似度检索出最相关的几个片段塞进 prompt 的上下文里再让模型基于这些片段回答。它解决的是“模型参数里没有的信息”这个问题。和 memory 的区别在于memory 是对话历史RAG 是外部知识库。2.5 MCP工具调用的统一接口规范Agent 要调工具但工具五花八门。如果每个工具都写一套解析逻辑代码会烂掉。于是有了约定模型按固定格式比如 JSON输出它想调哪个工具、传什么参数程序解析后执行。这套约定早期叫 function calling进一步标准化、把工具拆成独立服务后就是 MCP模型上下文协议。它约定了 tools/list 返回工具列表、tools/call 调用具体工具这类规范。一句话串起来prompt 是输入memory 和 RAG 往上下文里补信息Agent 负责调度MCP 负责让 Agent 和工具之间的对话有章可循。3. TaoToken 前置统一 Key 和 API 通道上面这套链路不管你怎么搭最后都要发 HTTP 请求到某个模型服务。问题来了不同模型、不同工具Key 和 Base URL 经常不一样配置散落在各处改一个地方要翻好几个文件。TaoToken 在这里的角色是统一入口一个 Key、一个 API 地址兼容主流调用格式。官网在 https://taotoken.net/?utm_sourcetaotoken_aicg_blog_endutm_mediumcsdnutm_campaignrewriteutm_content API 根地址是 https://taotoken.net/api 这个不加 UTM。你需要先拿到 Key。进控制台创建https://taotoken.net/console?utm_sourcetaotoken_aicg_blog_endutm_contentconsoleutm_campaignrewrite 然后在 API Keys 页面生成https://taotoken.net/api-keys?utm_sourcetaotoken_aicg_blog_endutm_contentapi-keysutm_campaignrewrite 。生成后复制那串 sk- 开头的字符串后面配置里要用。注意Key 只显示一次复制后自己存好。不要写进会提交到 Git 的文件里用环境变量或本地配置文件。4. 可复制配置settings.json 与 config.toml 骨架不同工具读不同格式的配置。下面给两个骨架你按自己用的工具挑一个改。4.1 settings.json 骨架适合大多数以 JSON 为配置格式的客户端或自建脚本。核心是 base_url 和 api_key 两项。{ provider: taotoken, base_url: https://taotoken.net/api, api_key: sk-你的Key粘贴到这里, model: claude-sonnet-4-20250514, max_tokens: 4096, temperature: 0.7, memory: { enabled: true, max_turns: 20, compress_threshold: 12 }, rag: { enabled: false, top_k: 4 }, mcp: { servers: [] } }几个字段说明base_url 固定填 https://taotoken.net/api 不要带结尾斜杠。model 按你实际要用的填。memory 段是给你自己程序读的控制保留多少轮对话、超过多少轮触发压缩。rag 和 mcp 先留空等链路跑通再逐步加。4.2 config.toml 骨架如果你的工具用 TOML比如某些命令行编码助手结构对应如下。[provider] name taotoken base_url https://taotoken.net/api api_key sk-你的Key粘贴到这里 model claude-sonnet-4-20250514 [generation] max_tokens 4096 temperature 0.7 [memory] enabled true max_turns 20 compress_threshold 12 [rag] enabled false top_k 4 [mcp] servers []两个文件里的字段名可以按你工具的文档微调但 base_url 和 api_key 这两项是通用的改这两处就能把请求指向 TaoToken 通道。提示如果你用的是 Claude Code 这类工具配置方式略有不同可以参考接入文档https://taotoken.net/doc?utm_sourcetaotoken_aicg_blog_endutm_contentdocutm_campaignrewrite 。5. 验证请求一次连通性检查配置写完别急着上复杂逻辑先发一个最小请求确认通道是通的。用 curl 最直接。curl https://taotoken.net/api/v1/messages \ -H Content-Type: application/json \ -H x-api-key: sk-你的Key粘贴到这里 \ -H anthropic-version: 2023-06-01 \ -d { model: claude-sonnet-4-20250514, max_tokens: 128, messages: [ {role: user, content: 用一句话说明 prompt 和 memory 的区别} ] }如果你用的是 OpenAI 兼容格式换成这个curl https://taotoken.net/api/v1/chat/completions \ -H Content-Type: application/json \ -H Authorization: Bearer sk-你的Key粘贴到这里 \ -d { model: gpt-4o-mini, messages: [ {role: user, content: 用一句话说明 prompt 和 memory 的区别} ] }成功的话你会拿到一段 JSON里面 content 或 choices 字段就是模型的回答。如果返回 401说明 Key 不对或没带上返回 404检查 base_url 有没有多写或少写路径返回 429是频率或额度问题。想先在网页上确认模型能正常对话可以直接用模型对话入口https://taotoken.net/chat?utm_sourcetaotoken_aicg_blog_endutm_contentchatutm_campaignrewrite 。6. 本篇常见错排查6.1 base_url 写错导致 404最常见的坑。有人填成 https://taotoken.net/api/ 带斜杠或者填成 https://taotoken.net 少了 /api。正确是 https://taotoken.net/api 后面拼 /v1/messages 或 /v1/chat/completions。6.2 Key 没生效检查请求头字段名。Anthropic 格式用 x-api-keyOpenAI 格式用 Authorization: Bearer。两者别混。另外确认 Key 前后没有多余空格复制时容易带上换行。6.3 memory 越塞越长导致超限如果你自己维护对话历史记得设上限。上面配置里的 max_turns 和 compress_threshold 就是干这个的。超过阈值就调一次模型做摘要把旧轮次替换成摘要文本。不处理的话请求体越来越大最后报上下文超长。6.4 RAG 检索结果不相关向量检索效果差通常是切片粒度问题。片段切太大语义被稀释切太小上下文不完整。一般按 300 到 500 字一段带一点重叠。另外 embedding 模型和生成模型最好来自同一体系语义空间才对得上。6.5 MCP 工具列表为空MCP 服务没启动或者 Agent 没去拉 tools/list。先确认服务进程在跑再确认配置里的 servers 数组填了正确的启动命令或地址。工具调用失败时先看模型输出的 JSON 格式对不对格式错了程序解析不了。7. 把链路跑通之后往哪走概念理清、配置写好、请求通了接下来就是按需加东西。日常问答只需要 prompt 加 memory要查内部资料就开 RAG要让模型操作外部系统就上 Agent 加 MCP。不用一次全上链路能跑通比功能全更重要。如果你要长期做编码类或 Agent 类任务调用量大可以看看 Coding Planhttps://taotoken.net/coding-plan?utm_sourcetaotoken_aicg_blog_endutm_contentcoding-planutm_campaignrewrite 。接入细节和更多配置示例在文档里https://taotoken.net/doc?utm_sourcetaotoken_aicg_blog_endutm_contentdocutm_campaignrewrite 。Key 管理和新建在控制台和 API Keys 页https://taotoken.net/console?utm_sourcetaotoken_aicg_blog_endutm_contentconsoleutm_campaignrewrite 、https://taotoken.net/api-keys?utm_sourcetaotoken_aicg_blog_endutm_contentapi-keysutm_campaignrewrite 。我自己的习惯是先把 settings.json 里的 base_url 和 api_key 填对跑通一次 curl再往上叠 memory 和 RAG。顺序反了出问题你分不清是配置错还是逻辑错。
