跳转到正文

GETAI EDITORIAL DISPATCH新闻报道

InflEns 用同一套分配规则训练和选择专家模型

研究者先划分训练样本,再用相同规则为新问题选择 LoRA 专家,检查预期分工和实际表现是否吻合。

返回资讯研究arXiv作者 · GETAI.APP查看原文

11 月 18 日公开的 InflEns 预印本研究了一个专家模型系统里的实际问题:训练时给某个专家更多同类样本,是否意味着新问题到来时就可优先交给它?作者想让这种分工在训练前就能查看,同时减少额外训练一个路由模型的需要。

AI 生成主题插画

方法先在固定的提示特征空间中为各专家选择位置,再根据它们对不同提示的分配份额,确定训练各个 LoRA 专家时所用的样本权重。推理时沿用同一规则选择专家。分配过程中没有使用专家训练后的损失,因此可以在留出的数据上检查这套规则的预测是否成立。

在取自七个安全相关基准的语料中,团队考察了四种核函数。在论文指定的特征表示下,份额最高的专家在约 90% 的提示上给出了最低的回答负对数似然。将提示与分配关系打乱后,这一比例约为 15%。这里比较的是专家对留出回答的拟合程度,不能直接当成所有任务的正确率。

arXiv · 论文摘要及版本 · arXiv · 论文全文

配图为 GETAI.APP 使用 ImageGen 生成的主题插画。