Hugging Face 于 11 月 10 日介绍 decision models,即针对预定义选项直接计算决策和概率的模型工作方式。文章结合 Jev 等项目说明了这一方向。
在客服分流、优先级判断或工具选择场景中,应用已经知道有哪些候选结果,可以让模型给各选项分配概率,而非先生成一段文字再解析答案。
这类模型关注结构化选择,相关工具链正在补充训练和推理支持。文章同时列出了模型标签、训练实现和 llama.cpp 适配,具体效果取决于选项定义与任务数据。
来源:Hugging Face 原文。
图片来源:Hugging Face。
