TAC 如何利用 Haystack 构建智能聊天机器人，以转变贸易促销工作流程
了解领先企业 TELUS Agriculture & Consumer Goods (TAC) 如何在确保安全的前提下，为用户提供前所未有的数据访问权限
2025年10月6日当一家在农产品和消费品领域拥有强大影响力的领先企业 **TELUS Agriculture & Consumer Goods (TAC)**，转向人工智能来简化复杂流程时，值得我们深入了解。
TELUS Agriculture & Consumer Goods 帮助企业优化从供应链到零售运营的各个方面。他们最新的创新之一：一个 **由 Haystack 驱动的智能聊天机器人**，它简化了用户与贸易促销平台的交互方式。
我们与该项目背后的团队进行了交流，了解了他们是如何构建这个项目的，为什么选择 Haystack，以及他们对其他希望在生产环境中实施检索增强生成 (RAG) 和基于代理的人工智能解决方案的团队有什么建议。
挑战：简化复杂工作流程
该团队的任务很明确：**让用户即时、智能地访问他们的数据**，而无需让他们深入研究文档或仅依赖现有界面。
TAC 的贸易促销平台是大型消费品公司管理与零售商和分销商建立的 **销售激励和协议** 的地方。可以将其想象成折扣、店内特别陈列或季节性促销。该平台帮助团队 **规划、跟踪和衡量** 这些促销活动在产品、客户和时间段内的影响。
以前，用户需要查阅密集的说明手册来查找有关促销活动的信息。这减慢了决策速度，甚至使简单的问题也难以快速回答。
聊天机器人改变了这一切。用户现在可以像聊天一样提问并获得实时答案，而不是手动搜索文档或等待新的报告功能。例如，负责产品促销的人员可以快速查看正在进行的活动、已花费的金额或已取得的成果——并与整个组织共享这些信息。无论是临时性问题还是需要更深入的见解，该系统都能立即提供结果。
正如团队所说，这关乎于 **“赋予用户前所未有的数据访问权限”**，同时消除了传统报告系统的瓶颈。
选择 Haystack：从探索到生产
当团队开始探索选项时，他们在研究 RAG 工作流程 时发现了 **Haystack**。他们需要的是一个能够 **支持检索增强生成**、**处理工具调用**（例如生成 SQL 查询）并提供 **流式传输能力** 以实现实时交互的框架。
Haystack 迅速脱颖而出。
Kelsey 说：“Haystack 满足了所有要求，并且易于上手。切换到 Haystack 给了我们想要的一切。”
该团队虽然有使用其他框架的经验，但 Haystack 的灵活性、模块化设计和易用性让他们几乎立即构建了一个概念验证，赢得了早期认可，并帮助他们 **从实验快速过渡到生产**。
技术架构：从管道到代理
该系统的第一个版本使用了 **基于管道的架构**，包含两个独立的工作流
- 一个工作流在摄取用户文档并将其从原始 HTML 转换为可搜索格式后，通过 RAG 处理 **知识库查询**
- 另一个使用元数据和模式描述从用户输入生成 SQL 查询，然后将其在 SQL 数据库上执行
一个“**主题路由器**”决定触发哪个工作流。然而，这种设置很快被证明 **过于僵化**，不适合实际使用。
解决方案是转向 **基于代理的架构**。团队将 RAG 工作流和 SQL 工作流等每个功能包装到独立的“**工具**”中，代理可以动态调用这些工具，而不是使用孤立的管道。
切换到基于代理的模型是一个重大的改变。借助 Haystack Agents，该系统获得了以下能力：
- 在单一的对话流程中检索文档并查询 SQL 数据库
- 根据错误消息重试和重写查询（自我调试）
- 实现 **涌现行为**，例如整合来自多个来源的见解
解决方案的关键组件
- **知识库工具**：摄取用户文档（HTML → 可搜索文档）
- **SQL 工具**：生成具有元数据感知能力的查询，使用 MS SQL + SQL Alchemy。该工具使用户能够更快地获取数据，并访问以前难以获取的数据集。
- 可观察性与监控:
- OTEL (OpenTelemetry) 用于可观察性
- Langfuse + Sentry 用于监控和调试
- **ETL 与开发**：Kedro 用于 ETL 管道，Gradio 用于 UI 测试
- 护栏与安全:
- 限制传入的 SQL 查询为带 `LIMIT` 子句的 `SELECT` 语句
- 在输出之前清理 SQL 表/列名，以防止信息泄露
- 在生成的查询中强制执行用户身份约束
该团队对 **安全性和可靠性** 的关注，确保敏感数据受到保护，同时用户也能获得流畅的体验。
性能评估
为了跟踪性能，该团队关注三个主要信号：**延迟**、**准确性** 和 **用户参与度**。
使用 Langfuse 监控工具和 LLM 的响应时间，而准确性最初依赖于人工辅助评估，然后转向自动化基准测试。早期用户的反馈指导着迭代改进和功能优先级。
**知识库机器人** 于本月部署到生产环境，而 **SQL 生成机器人** 定于今年晚些时候部署。随着采用率的增长，该团队预计将分享更多关于生产力提升和用户采用的成功故事。
经验教训与给其他团队的建议
团队的首要建议是从小处着手，实现最小化的功能切片。
Kelsey 说：“从小处着手给了我们信心。我们的第一个概念验证很简单：两个带有主题路由的管道，通过 Gradio 演示。但它证明了价值，并帮助我们确信地进行扩展。”
给考虑类似项目的任何人的更多建议
- 尽早 **投资于可观察性** 以进行调试和洞察
- **使用代理** 以获得灵活性，而不是硬编码管道
- **自动化评估** 以加速迭代周期
下一步
旅程并未在此结束。TAC 计划 **自动化数据摄取** 流程，构建一个 基于 AI 的评估框架 来评估聊天机器人的响应，甚至为组织内的其他用例 **进行应用程序的白标**。
Kelsey 说：“我们将其视为未来的模板。我们的目标是将此能力推广到 TELUS Agriculture & Consumer Goods 的更多工作流程中，包括内部文档和 SQL 工具。”
分享您的故事
TAC 团队的历程展示了当创新团队将 **Haystack** 与现实世界的挑战相结合时所能实现的成果。从简化 SQL 工作流程到即时访问文档，他们将一个复杂的问题转化为一个强大、生产就绪的解决方案。 开始使用 Haystack，为您的团队构建可靠、生产就绪的人工智能应用程序。
我们知道还有很多类似的故事。如果您的团队使用 Haystack 构建了令人兴奋的东西，无论是聊天机器人、检索系统、代理还是由 AI 驱动的内部工具，请 与我们联系。我们很乐意介绍您的工作，并分享您如何用 Haystack 塑造未来。
