RAG LLM

使用 DeepSeek-R1 和 Haystack：演示和教程

在 deepset 演示中比较 DeepSeek-R1 和 OpenAI 的 o1，并探索它们的推理能力

2025 年 1 月 29 日

DeepSeek 的最新版本证实了一个关于 AI 的基本事实：不会有一个模型或提供商能统治一切。随着该领域的不断发展，显然不同的模型带来了独特的优势，使得模型无关的方法对开发人员和组织都至关重要。无论您是构建代理系统、检索增强生成 (RAG) 架构、搜索还是其他架构，模型无关的设计都能解锁灵活性、可扩展性和长期成功 🔐

保持模型无关方法的灵活性

将您的应用程序与特定模型或 API 分离，让您能够随着 AI 的发展而适应。模型无关的方法可让您选择最适合工作的工具——无论是生成类似人类的文本、回答复杂问题，还是处理特定领域的分析。通过 Haystack 的模块化架构，您可以轻松测试、替换或集成新出现的模型，而无需重新设计整个 AI 系统。这种灵活性确保您始终处于技术进步的前沿，根据行业需求进行微调，并在不被锁定在单一提供商生态系统的情况下保持最佳性能。

DeepSeek-R1：开源 AI 具备前沿推理能力

DeepSeek-R1 是 DeepSeek 最新推出的语言模型，专为高级推理任务而设计。在推理任务上的性能可与 OpenAI-o1-1217 相媲美，使其成为高级 AI 应用的可靠选择。此版本标志着开源 AI 的重大进步，为研究人员和开发人员提供了在宽松的 MIT 许可下提炼、部署和商业化模型的灵活性。

除了 DeepSeek-R1 之外，该版本还包含六个蒸馏模型，参数范围从 1.5B 到 70B，它们基于 Qwen 和 Llama，并从 DeepSeek-R1 构建。令人印象深刻的是，蒸馏的 32B 和 70B 模型在性能上可以与 OpenAI-o1-mini 相媲美。通过开源 DeepSeek-R1-Zero、DeepSeek-R1 以及全套蒸馏模型，创作者为研究社区做出了巨大贡献，促进了 AI 开发的创新和可访问性 💙

在这篇论文中了解更多关于 DeepSeek-R1 的信息。

亲自测试 DeepSeek-R1

DeepSeek-R1 可以与 Haystack 无缝集成。为了说明 DeepSeek-R1 的潜力，请尝试使用 Haystack 和 deepset 生态系统中的 DeepSeek-R1 此演示。在演示中，您可以将 DeepSeek-R1 与 OpenAI 的新推理模型 o1 进行比较，以了解这两个模型在准确性、性能和效率方面哪个更胜一筹。

“demo ui” — 在 deepset 演示中比较 DeepSeek-R1 和 OpenAI 的 o1

如果您想在 Haystack 应用程序中使用 DeepSeek-R1，您可以使用 OpenAIChatGenerator 结合 Together AI 来进行推理。

import os
from getpass import getpass
from haystack.utils import Secret
from haystack.components.generators.chat import OpenAIChatGenerator
from haystack.components.generators.utils import print_streaming_chunk

if "TOGETHER_AI_API_KEY" not in os.environ:
    os.environ["TOGETHER_AI_API_KEY"] = getpass("Enter TogetherAI API key:")

chat_generator = OpenAIChatGenerator(model="deepseek-ai/DeepSeek-R1",
    api_key=Secret.from_env_var("TOGETHER_AI_API_KEY"),
    api_base_url="https://api.together.xyz/v1",
    streaming_callback=print_streaming_chunk)

在此教程中可以找到完整的示例。

结论

AI 发展迅速，DeepSeek-R1 证明了没有一个模型适合所有用例。模型无关的方法可让您插入最适合工作的工具，而借助模块化系统，您可以随着新模型的出现而进行试验、优化并保持领先地位。无论您是在构建代理、智能搜索系统还是 RAG 架构，无缝切换模型的能力都能确保长期的可扩展性和成功。

我们很乐意看到您的作品！尝试使用该笔记本，根据您的需求进行调整，并在 LinkedIn 或 Discord 上与我们分享您的成果。您也可以通过此表格提交您的 Haystack 故事。