第七章 检查结果检查有害内容使用 Moderation API 对模型生成的输出进行二次审核确保输出安全。代码示例调用openai.Moderation.create检查final_response_to_customer。检查是否符合产品信息要求模型评估回复是否充分回答了问题并验证引用的事实是否正确。代码示例将客户问题、产品信息和代理回复组合成 Prompt要求模型输出 Y 或 N。应用如果输出为 N则拒绝该回复或生成新的回复。第八章 搭建一个带评估的端到端问答系统端到端实现问答系统流程输入审核 →→ 提取商品 →→ 查找信息 →→ 生成回答 →→ 输出审核 →→ 模型自评估。实现使用process_user_message_ch函数封装整个流程包含 Moderation API 检查、商品提取、信息检索、回答生成、输出检查和模型评估。持续收集用户和助手消息通过可视化界面如 Panel收集用户输入维护对话上下文Context实现多轮对话。将模型响应添加到上下文中使模型能记住之前的对话内容。
