本期收录五篇报道,涵盖本地模型推理实测、终端编程助手、提示词脱敏,以及对词嵌入和编程竞赛的两种观察。
已核实动态
-
开发者用 Loom 优化 Inkling-2-Mini,在 Strix Halo 上测得每秒 44.8 个词元:参与 AMD Loom 项目的开发者 sa1sr1 发布了一组本地推理测试。他让搭载 Gemini 4 Neon 的编程智能体为 Inkling-2-Mini 调整计算内核,使用公开的量化权重,约 4.3 小时后完成优化和正确性检查。
-
llmao 让开发者直接在终端输入提示词,调用已有编程助手:开发者 mquan 在 Show HN 展示了 llmao。用户在终端输入一句自然语言,工具即可把提示词交给已配置的编程助手,在当前目录启动会话。
-
Shield 在调用语言模型前替换敏感字段,并在本地还原回答:PromptAudit 的开源工具 Shield 提供了一个无外部依赖的文本脱敏步骤。程序可以在调用模型前把匹配到的个人信息和密钥替换为占位符,将对应关系保存在当前进程内存中。
-
三种视锥细胞如何编码光?一篇图解借色觉解释词嵌入:Federico Magnani 在 11 月 22 日发表了一篇面向语言模型初学者的图解,从人眼如何处理光谱讲起,解释为什么模型需要用一组数来表示词元。
-
当对手可以反复让模型调策略,机器人编程比赛还能怎样设计?:长期参加机器人编程比赛的 Neil Naveen 在 11 月 21 日发表文章,讨论自动生成策略对参赛体验的影响。在这类比赛中,玩家编写程序,让它与其他玩家的程序在同一套规则下交手。
配图为 GETAI 原创 AI 主题插画。
凌晨更新 · 训练评测、开发工具与行业观察
-
OpenAI 首席科学家提议用困惑度比较预训练进展:OpenAI 首席科学家 Jakub Pachocki 在 11 月 22 日发表文章,公开了团队从 GPT‑3.5 起追踪的一项指标,并建议模型开发者探索在共同数据上比较困惑度。
-
Sarvam 发布 105B 新权重,提供可在单卡运行的 65 GB 量化版:Sarvam AI 于 11 月 22 日发布 Sarvam-105B-1711,为 3 月推出的模型更新权重,重点改进长对话、工具调用和印度语言任务。
-
8 张 H100 上训练耗时 29.90 秒,modded-nanogpt 纪录申请待复核:Amund Tveit 于 11 月 22 日公布 modded-nanogpt 训练竞速的新尝试。在租用的同一台八卡 H100 节点上,12 次运行得到 29.90 秒,对照方案为 30.05 秒。
-
一张照片怎样还原棋局?开发者公开浏览器识别流程:Dennis Forbes 在 11 月 22 日公开了一个能在浏览器中读取棋盘图像的项目,并在文章中嵌入了使用实际模型权重的交互演示。
-
Gitfold 将 Git 分支挂成目录,编程助手可按需读取不同版本:Gitfold 的维护者在 Show HN 展示了一个面向大型仓库的 Linux 工具。用户可以把已有克隆挂载为目录,在文件系统里直接浏览分支和修订版本。
-
数据中心为何成了地方议题?Paris Marx 谈居民如何追问用水:TechCrunch 于 11 月 22 日刊出对《Hyperscale》作者 Paris Marx 的专访。Marx 从社区角度解释,生成式 AI 带来的算力扩张如何把供水、电力和土地使用带进地方公共讨论。
-
《以撒的结合》更新移除含 AI 生成音乐的文件:据 The Verge 11 月 22 日报道,Nicalis 已更新《以撒的结合:忏悔+》,移除一段游戏内戏仿内容所使用的生成式音乐文件。
-
AI 数据中心的碳排放怎么算?Brian Merchant 比较两种统计口径:Brian Merchant 在 11 月 22 日的专栏中讨论了一个容易被数据中心排放数字掩盖的问题:测算是否只涵盖运营用电,以及样本到底包括哪些设施。
