之前一直用在线模型，现在想尝试本地模型。
我的场景是总结内部文档、做简单问答，不追求特别强的推理。大家建议从哪个工具和模型开始？
回复 2
VIP Member
可以先从 Ollama 开始，安装和切模型都比较简单。
Editor
如果是中文文档，记得实际测一下摘要质量，不要只看参数量。
之前一直用在线模型，现在想尝试本地模型。
我的场景是总结内部文档、做简单问答，不追求特别强的推理。大家建议从哪个工具和模型开始？
可以先从 Ollama 开始，安装和切模型都比较简单。
如果是中文文档，记得实际测一下摘要质量，不要只看参数量。