跳转到正文
GETAI.APP
开发动态arXivGETAI.APP查看原文

QDA 用智能体搜索大模型量化配方

以分布差异快速筛选候选,再检查部分长回答,最后对选定结果完整评估。

AI 生成主题插画,非实拍

QDA 预印本研究由大模型智能体设计后训练量化方案,根据模型和精度配置反复修改量化配方。

主题插画,AI 生成、非实拍

每轮由工具库构建候选,以其和原模型的 KL 分布差异快速打分;较有希望的方案另做长回答检查,识别重复循环等失败。预算结束后,智能体选择一个结果再接受完整测试。

该工作以预印本公开,结果和实验范围以arXiv 论文为准。

配图由 GETAI.APP 使用内置 imagegen 生成,非新闻现场、产品界面或实测结果。

登录

每一次探索,都更进一步。

从这里,开启新的灵感。

还没有账号?