共绩科技
共绩科技

预制服务

共绩算力 Clef-Flash 镜像使用说明

Clef-Flash 是什么

Clef-Flash 是 Cloudflare 推出的 9B 多模态决策模型,基于 Qwen3.5-9B 后训练,权重采用 Apache 2.0 许可开放。它接收业务状态和一组预设问题,对每个问题允许的答案进行评分,返回各选项的概率。文本、JSON 和图像都可以成为判断依据,官方自托管代码也支持视频帧输入。

它适合处理候选答案能够提前定义的任务,例如判断一条消息是否紧急、将请求分配给某个团队、从工具列表中选择下一步动作,或者评估业务影响程度。开发者定义问题和选项,模型根据输入评分,业务程序依据结果采取行动。

Clef-Flash 与 Qwen3.5-9B 有什么区别?

Qwen3.5-9B 是 Clef-Flash 的基础模型。Clef-Flash 保留了它的视觉编码能力,并经过面向决策任务的后训练,加入专门的联合评分模块。

两者最直接的区别是如何产生答案。Qwen3.5-9B 按生成式模型的方式逐个生成 token,可以通过提示词要求它回答某个选项或输出 JSON。Clef-Flash 则从模型内部表示中直接计算候选项的分数,在一次非自回归计算中联合评分,返回概率分布。

以客服工单为例,使用 Qwen3.5-9B,可以要求它判断处理团队并解释原因;使用 Clef-Flash,则提前定义“账务、技术、销售”三个选项,读取各自的概率,再由程序执行分流。

对比项Qwen3.5-9BClef-Flash
决策延迟通常较高通常较低
输出结果文本/JSON选项概率
内容生成支持不支持
解释理由支持不支持
答案范围开放预设
适用任务通用生成分类、路由、评分

Clef-Flash 的输出:选项、评分与概率

Clef-Flash 返回结构化的决策结果。每个问题的答案位于响应的 answers 中,以请求时定义的问题 ID 对应。不同问题类型,返回形式也不同。

问题类型输出内容示例用途
noul:是非判断判断为真的概率是否紧急
choice:分类选择选中项、置信度、各选项概率分配处理团队
score:等级评分期望分数、置信度、等级说明及各等级概率评估影响程度

部署流程

01. 进入弹性部署服务并新增任务

访问 弹性部署服务页面,在左侧找到“新增部署任务”。
点击“新增部署任务”,进入 任务创建页面。若页面跳转到登录,先完成账号登录。

Image

02. 选择计算资源

在计算资源区域选择 RTX 5090,卡数从 1 卡开始;RTX 4090 可作为备选。核对可用资源、CPU、内存和价格后,继续下拉至服务配置。

Image

03. 选择 Clef Flash 预制服务

在“服务配置”中查找并选择 Clef Flash,使用平台对应的预制镜像与默认配置。

Image

04. 等待实例就绪

Image

返回任务列表或详情,观察实例状态与启动日志。首次启动可能涉及镜像拉取、权重加载和运行时初始化。
等待日志中出现 The server is fired up and ready to roll! 即为成功

小例子:工单自动分流

假设客服系统收到一条工单:

The application crashes every time I open settings. Please help today.

每次打开设置时,应用都会崩溃。请今天帮我解决。

我们希望一次请求完成两个判断:

  • 负责团队:从技术、账务和其他三个选项中选择。
  • 是否请求今天得到帮助:返回这一判断为真的概率。

使用 cURL 调用

下面的服务地址已经替换为本次部署的 URL,可以直接运行:

export SERVICE_URL="https://deployment-452-lvmyacyt-30000.550w.link"

curl --fail-with-body --max-time 120 \
  "${SERVICE_URL%/}/v1/systemone" \
  -H "Content-Type: application/json" \
  --data-binary @- <<'JSON'
{
  "model": "Cloudflare/clef-flash",
  "state": "The application crashes every time I open settings. Please help today.",
  "questions": {
    "department": {
      "type": "choice",
      "instructions": "Which team should handle this ticket?",
      "criteria": {
        "technical": "Application bugs or outages",
        "billing": "Payments, invoices or refunds",
        "other": "Other requests"
      }
    },
    "urgent": {
      "type": "noul",
      "instructions": "Does the user request help today?"
    }
  }
}
JSON

其中,state 是待判断的工单内容,questions 定义需要回答的问题。department 和 urgent 是自行定义的问题 ID,响应会通过相同 ID 返回答案。

choice 用于在候选项中选择,criteria 描述各选项的含义;noul 用于返回指定判断为真的概率。

本次实测未携带 API Key。如果服务后续开启鉴权,需要设置真实密钥,并在请求中增加:

-H "Authorization: Bearer ${SERVICE_API_KEY}"

实际响应

响应如下:

{
  "model": "/models/Cloudflare/clef-flash",
  "answers": {
    "department": {
      "type": "choice",
      "choice": "technical",
      "confidence": 0.9207158211680799,
      "probabilities": {
        "technical": 0.9471438807787199,
        "billing": 0.012205522519939324,
        "other": 0.04065059670134076
      }
    },
    "urgent": {
      "type": "noul",
      "noul": 0.9241418199787566
    }
  },
  "usage": {
    "input_tokens": 246,
    "output_tokens": 0
  }
}

输出说明

字段本次结果含义
answers.department.choicetechnical模型选择技术团队。
probabilities.technical94.71%技术团队选项的概率。
probabilities.billing1.22%账务团队选项的概率。
probabilities.other4.07%其他选项的概率。
answers.department.confidence约 0.9207服务额外返回的置信评分。本次值与所选项概率不同,各选项概率应读取 probabilities。
answers.urgent.noul92.41%“用户请求今天得到帮助”这一判断为真的概率。
usage.input_tokens246服务报告的输入 token 数。
usage.output_tokens0服务报告的输出 token 数,响应仍包含结构化评分结果。

工单提到应用崩溃,因此技术团队的概率最高;“Please help today” 则与第二个问题对应,因此该判断为真的概率较高。

这里的 urgent 只是问题名称,实际判断的是“用户是否请求今天得到帮助”。若要判断故障等级、业务影响或是否需要立即升级处理,应另行定义对应问题。

在程序中使用结果

获得响应后,可以读取所选团队和概率,并设置业务规则:

# result 为接口返回的 JSON 对象
answers = result["answers"]

department = answers["department"]["choice"]
department_probability = answers["department"]["probabilities"][department]
help_today_probability = answers["urgent"]["noul"]

print(f"负责团队:{department}")
print(f"所选团队概率:{department_probability:.2%}")
print(f"请求今天得到帮助的概率:{help_today_probability:.2%}")

# 示例规则:概率达到 80% 时标记为优先处理。
# 该阈值由业务程序设置,应结合实际数据确定。
priority = "优先处理" if help_today_probability >= 0.8 else "常规处理"
print(f"按示例规则设置优先级:{priority}")

使用本次实测响应,输出为:

负责团队:technical
所选团队概率:94.71%
请求今天得到帮助的概率:92.41%
按示例规则设置优先级:优先处理

这样,模型负责评分,程序依据结果将工单分配给技术团队,并按示例规则标记为优先处理。这些概率是本次实测值,后续调用可能变化,也不等同于分类准确率。