deepseek-recipe ≠ DeepInfer 引擎

是 / 不是

协议面

• 格式：Messages、Chat Completions、Responses — 流式与完整响应
• 提示词：DeepSeek V4 / V4.1 对话渲染 + tokenizer 编码
• 思考模式、reasoning effort、temperature、top_p、输出 token 上限
• 输出解析：推理内容、工具调用、JSON、停止序列
• 结构化输出：JSON Schema / regex（是否约束解码由调用方后端决定）
• 图像（V4.1）：base64 或 URL；V4 将图像替换为 [Unsupported Image]

max_tokens 默认值

依据 recipe README：编码后若请求未设 max_tokens，由 ConversationRequest::resolve_max_tokens 补默认：

Python 安装

Python 3.10+：

python3 -m pip install deepseek-recipe

from deepseek_recipe import ChatCompletionRequest, ConversionOptions, DeepseekV41Encoding

request = ChatCompletionRequest({
    "model": "DeepSeek-V4.1-Flash",
    "messages": [{"role": "user", "content": "Hello"}],
})
converted = request.convert(ConversionOptions())
rendered = DeepseekV41Encoding().render_conversation(converted.conversation)
print(rendered.prompt)

Rust 安装

cargo add [email protected] [email protected] serde_json@1

源码构建与图像依赖见上游 development guide。演示：cargo run -p encoding-decoding-demo --locked → http://127.0.0.1:7778。

胶水说明

• 单独使用 recipe 不会下载 DeepInfer 权重，也不会启动引擎
• 可接 DeepInfer 离线、其他后端，或官方 API
• 智能体 / harness → dshbase.com
• 仓库内示例：server-rs（Axum + mock）、server-py（FastAPI + mock）

API 三件套（Messages · Chat Completions · Responses）

依据 recipe README 与生产解读：共享一套 Conversation；适配器完成 Messages / Chat Completions / Responses 进出。控制特殊 token 按 ID 编码，用户文本里“长得像标签”的内容保持字面量，避免注入。流式解析用状态机跨 UTF-8 / DSML / 工具参数分片。