前言在之前的 LLM AgentDB 的章节我们已经谈论过如何使用大模型接入数据库并获取数据这一章我们聊聊大模型代理在数据分析领域的应用。数据分析主要是指在获取数据之后的数据清洗数据处理数据建模数据洞察和数据可视化的步骤。可以为经常和数据打交道但是并不需要太过艰深的数据分析能力的同学提供日常工作的支持已看到很多 BI 平台在尝试类似的方案。这里我们聊两篇论文Data-Copilot 和 InsightPilot, 主要参考一些有意思的思路~数据分析Data-Copilotpaper: Data-Copilot: Bridging Billions of Data and Humans with Autonomous Workflowgithub: https://github.com/zwq2018/Data-Copilot先介绍下浙大提出的已扩展的数据分析框架支持多种金融数据类型的查询数据处理简单建模和数据可视化。Data-copilot 以金融领域的数据分析为例提供了一套可以简单基于已有数据进行扩展生成的数据分析框架。整个框架分成两个部分基于大模型的 API 生成和基于生成 API 的 llm 任务规划和执行。其实说复杂也不复杂数据分析任务里面几个核心的要素就是分析啥提问的实体股票债券基金经理分析哪段时间数据的覆盖范围一季度今年用什么指标股票的收益率债券利率基金净值如何分析收益对比价格涨跌排名如何输出绘图表格文本API生成设计部分其实是使用大模型来构建更符合上下文语义的 API 调用语句以及 API 的输入输出。这部分代码并未开源…所以我们只依据论文和脑补做简单介绍。主要分成以下四个步骤1. 生成更多的用户请求API 的生成需要基于用户会问什么样的问题。而用户的提问又是基于你有什么样的数据。因此这里使用数据描述和人工编写的种子提问作为上文让 LLM 生成更多的用户提问。2. 生成 API 调用语句把以上生成的所有用户提问一个个输入模型使用以下 prompt 指令引导 llm 生成完成一个数据分析任务所需的多个步骤以及每个步骤对应的API 描述和伪代码Interface1{Interface Name: %s, Function description:%s, Input and Output:%s}3. 合并相似的 API 调用每得到一个新的 API function都会和已生成的 API function 配对后输入模型并使用以下指令让大模型判断两个 function 是否功能相似可以合并为一个新的 API。例如把查询 GDP 的 API 和查询 CPI 的 API 合并为查询 GDP_CPI 的 API。不过个人感觉这个方案时间和 token 开销颇大可能比较适合 online API 的在线构建在离线构建时先基于 API 的描述进行聚类然后每个 cluster 进行合并可能更经济实惠4. 为每个 API 生成对应代码最后针对合并后的 API使用大模型进行代码生成。这里使用了 pandas DataFrame 作为数据处理数据绘图的数据交互格式。这里论文把工具调用分成了 5 个大类数据获取数据处理合并切片建模和可视化。看完以上整个 API 构建流程不难发现使用 llm 来自动生成 API 有以下几个好处不过估计完全自动化难度不小…节省人力和 APE 的思路类似大模型生成的指令更符合模型生成偏好API 同理当前是离线批量生成如果可以优化为 online 的 API 生成的话可以使得 API 具有动态可扩展性API调用获得 API 之后就是如何排列组合规划 API 的执行来回答用户的提问/完成用户的任务。这里的任务流同样拆成了多个步骤意图识别第一步是意图识别这里其实融合了搜索中 query 预处理的几个功能意图识别用于缩小问题范围提高后面 API 调用的准确率时效性模块基于今天的日期和用户提问生成问题对应的具体时间范围包括时间范围标准化实体模块用于定位问题的核心实体输出形式的判别是绘图、表格还是文本输出论文把以上多个模块融合成了基于 few-shot 的大模型改写任务会把用户的提问改写成一个新的具有明确时间区间任务类型更加明确的文本与其说是意图识别其实更像 query 改写。如下个人感觉意图这里完全可以不基于大模型或者可以用大模型造样本再蒸馏到小模型上。以及整个意图识别的模块可以拆分成多个独立且粒度更细的模块在金融领域至少可以拆分成大类资产实体的抽取对齐针对不同资产类型的不同问题意图的识别以及独立的时效性生成/判别模块。意图模块直接影响后面的行为规划需要准确率和执行成功率都足够高。行为规划行为规划模块包含两个步骤第一步是任务拆解以上改写后的 query 会作为输入输入任务拆解模块。同样是基于 few-shot 的大模型指令任务把任务拆分成多个执行步骤每个步骤包括任务类型。这里作者定义了 stock_task、fund_task、economic_task, visualization_task、financial_task 这 5 种任务任务拆解类似 COT 把一个任务拆分成多个执行步骤但本质上还是为了缩小 API的调用范围。指令如下基于以上任务选择模块每个步骤的任务类型例如 stock_task会有不同的 few-shot prompt 来指导模型针对该任务类型生成多步的 API 调用包括每一步调用的 API输入输出和返回值。行为规划部分通用指令如下行为规划中一个有意思的点是论文构建的API中包含三种不同的执行方式串行操作常规单个输入单个输出并行操作获取一个证券的多个指标数据以及循环操作类似 map 对多个输入执行相同的操作。以下是Data-Copilot的Demo数据洞察InsightPilotpaperDemonstration of InsightPilot: An LLM-EmpoweredAutomated Data Exploration System相关 paperQuickInsights: Quick and Automatic Discovery of Insights fromMulti-Dimensional Data相关 paperMetaInsight: Automatic Discovery of Structured Knowledge forExploratory Data Analysis相关 paperXInsight: eXplainable Data Analysis Through The Lens ofCausalityhttps://www.msra.cn/zh-cn/news/features/exploratory-data-analysisInsightPilot与其说是一篇 paper更像是一份微软 BI 的产品白皮书。主打 EDA 数据洞察和上面的 Data-copilot 拼在一起也算是把数据分析最基础工作涵盖了。举个数据洞察的栗子最早在 UG 用户增长部门工作时每次 APP 活跃用户下降了数据分析组收到的任务就是赶紧去分析活跃用户数据看看到底用户为啥流失了是被竞品抢走了是最近上了什么新功能用户不喜欢还是之前活动拉来的用户质量不高留存较少基于这些数据洞察好制定下一步挽留流式用户激活沉默用户的具体方案。那如何发现数据中的异常点一个基础的操作就是对数据进行不同维度的拆分对比。例如把活跃用户分成男女老幼不同城市不同机型渠道来源不同阅读偏好等等维度观察不同 subgroup 的用户他们的活跃是否发生下降下降比例是否相同是否有某个维度的用户组流失最显著。这个维度拆分可以是平行维度也可以是下钻维度对比方式可以是一阶变化趋势对比也可以是波动率等二阶趋势的对比等等微软的实现方案其实是使用 LLM 把之前微软已经开发应用到 BI 的三款数据洞察工具进行了组合串联这三款数据洞察工具分别是 QuickInsightMetaInsight和XInsight。我们先简单介绍下这三款工具再看大模型要如何对数据分析工具进行组合串联。Insights 们QuickInsightQuickInisght 是最早也是功能最基础的数据分析工具它能快速发现多维数据中的 pattern。它的洞察数据单元由三个要素组成subject ≔ {()数据空间, 拆分维度, ()观察指标} 以下是{Los AngelesMonthSales}产生的数据洞察QuickInsight会先按不同维度计算不同指标得到多组数据。洞察部分则是预定了 12 种不同的数据分析方式例如异常值突变点趋势季节性相关性等等。每种洞察类型会基于显著性和贡献度进行综合打分排名靠前的应该是单维度数据变化最显著且对整体影响较大的。MetaInsightQuickInsight的洞察主要基于单个洞察数据单元进行MetaInsight可以聚合关联多个洞察数据单元产出更复杂高级的数据洞察。简单来说是在以上三元组数据洞察的基础上搜索不同的subsapce以及measure寻找具有相似数据洞察的三元组并进行组合分析。继续以上洛杉矶销量数据的洞察当我们扩展subspace到其他城市的销售数据时MetaInsight会产出以下关联分析。XInsight以上QuickInsight和MetaInsight都还停留在相关性数据分析的领域而XInsight着眼在因果性分析也算是前两年很火的因果推断方向。也就是我们不仅想知道手机里同时有快手和抖音APP的用户使用抖音的时间较短还想知道到底是快手APP抢夺了用户的时间还是这部分用户群体本身就属于东看看西看看没有固定偏好的群体。但真实世界中很难找到完全符合假设的因果推断因为哈哈没有平行世界呀因此只能通过一些控制变量和数学建模的方案来近似模拟因果场景。以下的案例中同样是按月份维度进行拆分航班延误时间作为指标。当在整个数据上进行洞察时会发现5月的延误时间比11月高了很多但当控制变量当日是否下雨时会发现在下雨天5月的航班延误时间是要低于11月的因此5月份更高的降雨率可能可以解释5月更高的航班延误时间。LLM PipelineInsightPilot就是基于以上三个数据分析引擎使用大模型进行串联来完成用户的数据洞察需求。还是那个观点LLMAgent的组合中真正重要的是AgentLLM只是负责基于上下文语义来选择最合适的Agent并基于Agent的返回内容来决定下一步的操作说白了就是串场子的当然最后也需要LLM来生成数据分析报告。这里大模型主要负责初始化-洞察选择-意图选择-洞察选择-意图选择…-报告生成初始化任务会先调用QuickInsight生成数据集的基础洞察然后使用Prompt让LLM基于Agent返回的多条数据洞察用户Query和数据集的描述类似DB Schema,来选择一条洞察结果来进一步分析。意图选择任务如何分析以上洞察这里分了三个意图分别对应以上的3个AgentUnderstand-QuickInsight, Summarize-MetaInsight, Explain-XInsight。大模型会基于用户query以上选择的洞察内容来选择一个Agent来继续分析洞察选择基于Agent新产生的多个数据洞察如果LLM判断无法回答用户问题则会选择一个洞察继续分析报告生成最后基于TopK数据洞察生成报告来解答用户问题在最后筛选保留Top-K洞察的部分论文还加入了Ranking环节说是排序但看实现上更像是消重相似度过滤打散。首先洞察之间两两消重如果A洞察包含B洞察的内容则删除B洞察其次是相似度过滤会过滤和用户提问关联较低的洞察。不过这里其实有些存疑因为洞察存在维度下钻和多维度对比似乎感觉相似度不太合适作为过滤标准。最后是打散策略是为了降低洞察之间的相似度提高最终内容的丰富度。这里使用了以下的二阶近似打分的策略如下其中|I|是每条洞察的有用性打分交集打分是两条洞察有用性的最小值*洞察重叠度整体策略是为了提高TopK洞察整体包含的信息量最终是InsightPilot生成的报告效果以及支持用户对报告内容的每个段落进行数据验证当点击第一个段落Inspire Me时会生成对应段落相关的数据图表右图。老实说只看这个Demo效果有些惊艳不过真正厉害的是上面的三个洞察引擎LLM只是大自然的搬运工和文案工作者。最后感谢你们的阅读和喜欢我收藏了很多技术干货可以共享给喜欢我文章的朋友们如果你肯花时间沉下心去学习它们一定能帮到你。因为这个行业不同于其他行业知识体系实在是过于庞大知识更新也非常快。作为一个普通人无法全部学完所以我们在提升技术的时候首先需要明确一个目标然后制定好完整的计划同时找到好的学习方法这样才能更快的提升自己。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】一、全套AGI大模型学习路线AI大模型时代的学习之旅从基础到前沿掌握人工智能的核心技能二、640套AI大模型报告合集这套包含640份报告的合集涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师还是对AI大模型感兴趣的爱好者这套报告合集都将为您提供宝贵的信息和启示。三、AI大模型经典PDF籍随着人工智能技术的飞速发展AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型如GPT-3、BERT、XLNet等以其强大的语言理解和生成能力正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。四、AI大模型商业化落地方案五、面试资料我们学习AI大模型必然是想找到高薪的工作下面这些面试题都是总结当前最新、最热、最高频的面试题并且每道题都有详细的答案面试前刷完这套面试题资料小小offer不在话下。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
