1. 今日焦点AI圈的几件小事这篇日报我不打算做成流水账。9月5日这一天AI圈子里值得聊的东西其实不少从大模型厂商的更新节奏到开发者社区里正在讨论的工程实践再到越来越多人开始入局的AI短剧、AI漫剧信息量比想象中要大。我尽量挑几个我实际在关注、也认为对实践有帮助的方向展开聊聊而不是把每天的所有动态都罗列一遍。今天的核心关键词是“下沉”。一个明显的感受是AI大模型的能力底座已经逐步趋稳真正的热点正在从“模型本身”转向“模型怎么被用起来”——AI Agent、AI编程、AI应用开发、AI视频生成、AI短剧制作这些方向不再只是技术圈内部的讨论而是真的有团队在靠它们做事、赚钱、做产品。另一个信号是AI产品经理、AI测试工程师、AI Infra工程师这类岗位的讨论热度居高不下说明这个行业正在从“尝鲜期”进入“工程化期”。先说结论今天值得你花时间了解的不是某个模型又刷了多少分而是几件可以落地的事——怎么把Agent用起来、怎么用AI编程提效、怎么做AI短视频内容的低成本尝试、以及AI相关岗位到底要求什么能力。下面我们一条一条拆。2. 大模型与应用层不再拼参数拼“能干活”2.1 从对话到任务执行Agent正在成为主角最近圈子里聊AI Agent的频率明显变高了。过去我们习惯把大模型当聊天框用问一答一顶多让它写写文案、改改代码。但现在的风向是让模型自己去完成任务链条而不是人工一步步喂指令。比如让它根据一个需求去查数据库、写SQL、生成图表、再输出结论或者让它拿着一个bug描述自动翻代码、定位文件、给出修复补丁。我自己的体会是Agent并不是把模型API一接就完事。它真正难的地方在于任务拆解和容错。你让Agent做一件事它会先自己拆成几个子步骤每一步调用不同的工具或接口最后汇总结果。但模型在中间任何一步都可能理解偏、输出错所以必须有反馈回路——让它看到结果、判断对错、重试或者修正。这套机制在设计上有点像带新人你不能只告诉他目标还得给他检查清单和纠错机制。实操上现在不少框架已经有现成的Agent编排能力比如多智能体分工协作、规划与执行的分离、工具调用的标准化协议等。对于刚接触的人我的建议是先别追求复杂的多Agent架构从“单Agent 少量工具”开始跑通一个小场景比如写一个自动整理周报的Agent让它自己去读Git提交记录、汇总任务、生成Markdown。等跑顺了再加工具、加并行复杂度一点点上。直接上手分布式多Agent大概率会被各种状态不同步、结果不可控的问题劝退。2.2 垂直场景的模型选择别什么都用最大的另一个明显变化是大家在选模型时不再无脑上最大参数版本。大模型能力强是强但推理成本、延迟、部署难度都是实打实的代价。我在好几个团队里看到的情况是轻度任务用7B、14B级别的开源模型就够只有核心复杂任务才调用旗舰API。这种“混合路由”的做法能把单月API成本压到原来的三分之一同时响应速度快一大截。这里有三个实际考量点任务复杂度简单的文本分类、信息抽取、格式转换小模型表现并不差真正需要多步推理、长上下文理解的才需要大模型。延迟要求面向终端用户的产品首字响应超过2秒用户就开始流失。本地小模型在GPU上首字延迟能做到几百毫秒云端大模型往往受网络和排队影响。数据合规与隐私很多企业内部数据不能出域本地部署开源模型是唯一选择。这种情况下“够用就好”比“最强就好”现实得多。所以今天再说模型选型考验的不再是你知道多少个模型名字而是你会不会按场景做评估、定阈值、做降级方案。这也解释了为什么AI Infra和模型部署相关的话题会越来越热后面我会专门展开。3. AI编程与工程实践进入深水区3.1 AI编程工具从单点尝鲜到团队协作AI编程是这轮AI落地最扎实的方向之一。去年大家还在讨论Copilot能不能用今年已经有不少团队把AI编程工具嵌进了日常开发流程——从IDE插件到命令行工具从自动补全到自动生成测试、自动修bug甚至整仓库级别的代码理解与重构。但也要泼一盆冷水AI编程工具在个人开发者手里很好用团队落地却有不少坑。我见过最典型的问题有三个。第一AI生成的代码风格和团队规范不一致review起来很痛苦第二AI在大型代码库里的上下文理解有限改一处可能引入另一处回归第三团队成员水平参差提示词写得差的人拿到的代码质量也差反而拖慢进度。想解决这些问题我的经验是三个字定规矩。团队里要有一个“AI编程使用约定”什么场景能用、什么场景不能用、生成代码必须过哪些检查。比如我现在的团队规定AI生成的代码必须附带对应的测试用例而且不允许直接合并到主分支必须走MR让真人review。这样既保留了效率又把风险控制住了。另外提示词能力真的很关键。同样一个需求有人能问出“帮我写一个带重试机制、超时控制的HTTP客户端”有人只会说“写个http”。前者AI能给到可以直接用的代码后者AI只能给个骨架。你不需要成为提示词工程师但至少要学会把需求拆成功能点、约束条件和边界情况这对AI输出的质量有决定性的影响。3.2 从Spring AI看AI应用开发的框架化今天有个热搜词是Spring AI我猜是很多Java后端开发在关注。Spring这类框架在Java生态里地位特殊Spring AI的意义在于它把模型调用、Prompt编排、工具调用、输出解析这些能力做成了标准化组件让习惯了Spring风格的开发者能用熟悉的方式接大模型。实际用下来Spring AI让我感觉舒服的地方是它的抽象层。以前接一个模型API要自己处理请求格式、重试、超时、流式输出换成Spring AI之后这些都被封装好了配置一下API Key和模型名称业务代码里直接注入Template就能调用。它还支持多模型切换今天用OpenAI明天换通义、换本地模型接口层面基本不用大改。但这不代表引入Spring AI就万事大吉。它封装了很多东西同时也意味着出了底层问题你要扒框架源码才能查清楚。我的建议是中小团队、以业务开发为主的项目用Spring AI这类框架很划算但如果你的核心业务就是高并发调用模型、要做底层优化那就得自己封装别省这个功夫。3.3 模型部署与AI Infra真正的胜负手很多应用聊到后面都会碰到一个问题模型从哪来、怎么跑、怎么压成本。这已经不是算法团队单方面能解决的需要懂工程的团队来搭建一整套基础设施也就是大家常说的AI Infra。这个方向的热度为什么高因为模型推理的钱和资源是实打实每天在烧的谁先降下来谁就有利润空间。实际操作中降本最快的手段往往是模型量化。拿FP16模型转成INT8甚至INT4显存占用降一半甚至更多推理速度还有提升精度损失在大多数任务里可以接受。代价是量化过程可能影响模型边缘case的表现所以需要拿自己的测试集跑一遍不能盲信通用Benchmark。另一个性价比极高的方法是缓存。很多应用里用户请求的相似度极高比如AI客服、知识库问答。如果你把历史上算过的Prompt和结果存起来命中缓存直接返回能省掉大量重复计算。更细一点还有Prompt Cache模型在处理长上文时公共前缀部分是重复计算的有的推理框架支持缓存这部分计算结果实测在长文档问答场景能省30%以上的计算量。关于部署框架现在可选的东西很多vLLM这类以推理效率见长也有专注于低延迟场景的方案。选型的时候别只盯着吞吐量要看自己业务的核心指标。做To B问答业务延迟是命根子做离线的批量数据处理吞吐量才是关键。先把业务指标定明白再挑技术方案顺序别反了。4. AI生成内容的新风口短剧、漫剧与视频4.1 AI短剧和AI漫剧怎么就火了今天热搜词里有一串和AI短剧、AI漫剧相关的词比如AI漫剧制作教程、AI短剧制作全过程。我特意关注了一下这股风不是凭空来的。短剧市场本身就有巨大的内容需求传统制作方式成本高、周期长而AI生成内容恰好把门槛压低了——一个人加几款AI工具理论上就能做出一条完整的短剧。我拆过一个AI短剧的制作流程大致是这样的先用AI剧本工具生成剧本包括台词、分场再用AI绘画或AI视频生成工具做分镜画面接着用配音工具合成对白和旁白最后剪到一起、加字幕和BGM。整套流程走下来熟练的话一条3分钟以内的短片一两天就能出初版。这在传统剧组不可想象。但要说“零门槛”就夸张了。AI生成内容最头疼的问题是角色一致性。同一部剧里同一个角色第一集长这样第三集就换脸了观众根本看不下去。现在有些工具在处理这个概念上有一定能力比如通过参考图锁定角色外观但依然需要你在实际制作中反复调整。我的建议是如果你真想入局AI短剧第一优先级不是找最强力的视频生成工具而是先解决“角色不漂移”这个核心问题。另外做之前先想清楚变现路径。AI短剧的播放量不一定比真人短剧差但同质化严重差异化定位很关键。有人专做历史题材有人专做悬疑题材有人把IP小说转成AI漫剧。技术只是手段选题和讲故事的能力才是壁垒。4.2 AI视频生成的门槛正在下降几天不关注AI视频生成能力就往前跑一段。现在文生视频、图生视频的工具已经在往“可控性”走了。所谓可控不是随便输入一句话生成一段抽象动画而是能指定镜头语言、主体动作、场景切换这离商业可用就非常近了。实操下来我觉得提示词是个大学问。写AI视频提示词和写AI绘画提示词完全不是一回事后者重点描述静态画面构图、风格、色彩前者需要你描述时间线上的动作、镜头运动、场景变化和节奏。同一个提示词结构在不同工具上出来的效果差异巨大。所以想用好视频工具你要为它单独建一个提示词风格库记录哪些描述有效、哪些词会引入不想要的元素。成本上也值得算一笔账。高质量长视频的生成用商用API价格不便宜连续做十几条测试片花掉几百上千块很正常。新手起步我建议先用免费额度或低成本工具验证创意确认脚本分镜值得投入了再花钱上高渲染质量。先验证再重做能省下不少试错成本。4.3 AI绘画从“能看”到“能用”AI绘画的热度没有视频那么高但它默默渗透进了很多商业场景。游戏原画、电商详情页、UI配图、漫画素材、公众号头图……我接触到的大量中小团队已经在用AI绘画产出可用素材了。关键词是“可用”——不一定是艺术精品但放到项目里完全够用能把外包成本砍掉一大截。从一个设计师和内容创作者的角度AI绘画真正的价值是扩产。以前出一版配图要约稿、等稿、改稿折腾一两周现在AI生成一版之后设计师只需要做筛选和微调把时间花在创意和品控上。这个转变对于产出速度的提升是肉眼可见的。商用要特别注意版权问题。不同AI绘画模型的训练数据来源和授权条款不一样不是每一个都允许商用。我的建议非常直接商用之前仔细读你用的工具或模型的服务条款保留好生成记录。另外业界对“AI生成内容到底有没有版权”这个问题还没有统一结论大平台可能有自己的政策。你在依赖AI内容获利之前一定要确认自己用的产品允许这么做别赚钱之后被告侵权。5. 岗位生态AI产品经理与AI测试工程师的进阶路径5.1 AI产品经理不再只是会画原型AI产品经理这个话题能上热搜说明市场真的在分化。过去产品经理画原型、写PRD、跟开发现在AI产品经理多了一个核心任务判断模型边界。也就是你得知道哪些需求是模型能做的哪些是它干不了的别拿模型死磕一个它根本不擅长的任务也别放过一个能用模型能力创造差异化的机会。这个岗位的工作流也变了。传统的用户调研、需求分析依然要做但多了一个关键环节基于模型能力做快速验证。我通常会让团队先写一个提示词把核心需求丢给模型试跑看输出质量和稳定性。如果连小规模测试都不稳定那就不要指望上线后能稳定。产品经理最好自己也懂一点模型评测的方法否则会被算法团队牵着走。AI产品经理还要关心一个很实际的问题公域流量获取难度上升内容成本下降会导致大量低质AI内容冲进市场。怎么在AI产品的设计里突出真实价值、真正解决用户问题而不是做AI噱头是每个产品经理都要过的关卡。用户现在对“AI垃圾内容”的容忍度越来越低这里面存在机会。5.2 AI测试工程师从测UI到测模型AI测试工程师能成为热词我很高兴。AI系统最大的特点就是不确定性同一个输入模型今天和明天的输出可能不一样。这对测试来说是个颠覆传统测试是基于确定性的断言而AI测试要做的是在不确定中找规律、定边界。我给想做AI测试的朋友三个方向参考模型评测设计评测集、制定评测指标衡量模型在关键任务上的表现变化。每次模型升级之后都要做回归测试防止能力回退。数据质量测试训练数据决定了模型的上下限数据里有脏数据、偏见数据、重复数据模型输出就会出问题。数据测试是AI测试里最脏最累但最有价值的环节。系统稳定性与安全性测试高并发情况下模型服务的延迟抖动、超时和容错处理以及面对恶意输入时会不会输出异常结果。这都是AI系统上线前必须验证的事情。AI测试不是只会写脚本就行你得懂模型的基本原理、懂数据集、懂指标。这个岗位在国内还比较新但需求非常真实因为它处在“技术能跑”和“产品可用”之间的关键位置。如果你正在转行的路上这个方向值得重点关注。6. 最后说几句实在话日报写到这里如果把今天的热词串起来看背后的主线其实就一条AI正在从拼参数、拼分数的阶段过渡到拼落地、拼工程、拼场景、拼成本的阶段。Agent在进入工作流AI编程在重塑开发习惯AI短剧在探索新的内容形态AI相关岗位在变得具体而务实。所有这些都不是孤立发生的它们有一个共同的驱动力大家越来越不关心模型本身有多强更关心它能在自己手头的事情里省多少时间、赚多少钱、解决什么实际问题。我个人实际观察下来这个阶段最值得投入的不是追新模型、抢新工具的速度而是深耕一个具体场景的深度。无论你是做开发的、做产品的、做内容的还是做运营的把AI能力和你所处行业的Know-How结合远比追逐每一波技术浪潮更有长期价值。今天的日报就到这明天有新变化再接着聊。
