跳转到正文
开发动态Hugging FaceGETAI.APP查看原文

Hugging Face 介绍直接输出决策概率的模型

面向路由、分流和分类任务,在预定义选项上作选择,减少逐字生成的环节。

Decision Models 状态与决策原语,Hugging Face 原图

Hugging Face 于 11 月 10 日介绍 decision models,即针对预定义选项直接计算决策和概率的模型工作方式。文章结合 Jev 等项目说明了这一方向。

在客服分流、优先级判断或工具选择场景中,应用已经知道有哪些候选结果,可以让模型给各选项分配概率,而非先生成一段文字再解析答案。

这类模型关注结构化选择,相关工具链正在补充训练和推理支持。文章同时列出了模型标签、训练实现和 llama.cpp 适配,具体效果取决于选项定义与任务数据。

来源:Hugging Face 原文。

图片来源:Hugging Face。

登录

每一次探索,都更进一步。

从这里,开启新的灵感。

还没有账号?