TNG Technology 团队公布一种扩展 MoE 模型的实验方法，在冻结原模型的情况下追加领域专家，测试能否补足特定编程语言能力。
实验以 Qwen3.5-35B-A3B-Base 为基础，新增面向 Rust 和 Haskell 的专家，同时训练少量路由参数，让模型选择使用原有能力或新增专家。
团队报告，专门领域的评测取得改进，基础能力在其测试中得到保持。论文设想通过组合独立专家扩展模型，结论目前仍对应所选模型、训练数据及任务范围。
图片来源：TNG Technology。
TNG Technology 团队公布一种扩展 MoE 模型的实验方法，在冻结原模型的情况下追加领域专家，测试能否补足特定编程语言能力。
实验以 Qwen3.5-35B-A3B-Base 为基础，新增面向 Rust 和 Haskell 的专家，同时训练少量路由参数，让模型选择使用原有能力或新增专家。
团队报告，专门领域的评测取得改进，基础能力在其测试中得到保持。论文设想通过组合独立专家扩展模型，结论目前仍对应所选模型、训练数据及任务范围。
图片来源：TNG Technology。