llama-modchip 发布:64GB 内存纯 CPU 运行 284B DeepSeek-V4-Flash
llama-modchip 发布 v2.4.0,通过 SwiGLU-H2 二阶 Hessian 压缩与 Fractal-64 转码,把 DeepSeek-V4-Flash 284B 从 76.87 GiB 压到 56.56 GiB,可在 64 GB 内存纯 CPU 上以 256K 上下文运行,prefill 约 44 tok/s、解码 9.06–14.7 tok/s。
llama-modchip 发布 v2.4.0,通过 SwiGLU-H2 二阶 Hessian 压缩与 Fractal-64 转码,把 DeepSeek-V4-Flash 284B 从 76.87 GiB 压到 56.56 GiB,可在 64 GB 内存纯 CPU 上以 256K 上下文运行,prefill 约 44 tok/s、解码 9.06–14.7 tok/s。
Jeff Dean 在斯坦福 HAI 与李飞飞的对谈中表示,递归自我改进不可能无限快,因为训练、计算、保存数据和评估结果都需要真实时间。他介绍了新公司 Discovery Loop 的进展,已有约 20 个自动改进循环在运行,目标是让领域专家生产力提高 20 到 50 倍。
物理研究机构 PSI 宣布,借助 Anthropic 一款尚未发布的 AI 模型,自 2008 年提出后一直未获证明的阿伦森-安拜尼斯猜想成功得到证明,其研究系统由技术人员戴维·图尔图雷安开发,仅用三天完成。证明结果显示,量子计算要实现某些指数级速度优势,必须依赖问题中存在的特殊规律或结构,这也证实了量子计算机并非在所有情况下都能获得巨大性能优势。PSI 未透露具体使用了哪款模型。
Geekbench 数据库出现 AMD 下一代 Medusa 系列 APU 多组跑分,10 核样片单核 3,100、多核 18,313,相比 12 核锐龙 AI 9 HX 370 分别领先约 32% 和 21.5%。
百度于11月5日正式开源基座模型文心5.5 Flash Base(ERNIE 5.5 Flash Base),采用MoE架构,总参数量2800亿,每个Token激活140亿参数。模型使用33.5万亿个Token完成预训练,预训练上下文长度最高128K,微调与推理阶段支持最长100万Token上下文。该模型围绕效率在注意力机制、专家路由及训练目标等环节做了系统性优化。
Hightouch 用 1000 个模拟身份测试身份合并判定,发现 Jev 单独准确率 95.6%、成本 $0.05/千条,而 Claude Opus 5.5 为 99.0%、$3.86/千条。
Thinking Machines 发布 Inkling 2 Small,这是一个 594B 总参数、17B 激活参数的多模态 MoE 模型,已在 Tinker 上线,Apache 2.0 权重承诺下周外部安全测试完成后开放。
推荐理由:材料汇总了 Inkling 2 Small 的架构、训练时长与多项第三方评测,可对照其与同尺寸模型的强弱项。
摩尔线程宣布基于 MTT S5000 智算卡和 MUSA 软件栈完成 Kimi-K3.1 Pro 的 Day-0 适配,打通模型加载、服务启动及文本、图片基础推理链路。
2026 奇点智能技术大会将于 11 月 20—21 日在北京万达文华酒店举行,完整日程已公布,设 18 大专题、70+ 主题演讲,汇聚 70+ 技术嘉宾与 1000+ 行业技术人。
蚂蚁百灵官方团队发布原生多模态模型 Ling-3.2-flash,拥有 560B 总参数、25B 激活参数和 1M 上下文窗口,支持图像、文本与视频输入。
推荐理由:原文给出参数规模、三项基准对比和 API 定价,读者可据此判断这款多模态模型的能力定位与成本水平。
英伟达发布技术解读,提出以“全栈协同设计”缓解 AI 内存瓶颈,通过 NVFP4 低精度格式压缩模型权重和 KV 缓存、在 NVL72 系统中将模型权重分散至最多 72 颗 GPU、用 Vera CPU 的 LPDDR 内存缓冲暂停上下文、由 Dynamo 推理软件把不活跃上下文迁移至 CMX 上下文存储。
Latent Space 汇总的 AI 人事与收购动态显示,Claude Code 产品负责人 Cat Wu 离开 Anthropic,加入 OpenAI 领导 Core Products PM;Lamini CEO Sharon Zhou 离开 AMD,加入 Anthropic。
NVIDIA 称在 100 兆瓦数据中心对比中,单颗 Vera CPU 同时优于最快的 x86 CPU 和最节能的 x86 CPU,每瓦可支持 1.6 倍智能体数量,智能体速度达后者 2 倍。
OpenAI 发布报告称,GPT-6 Astra 在安全与对齐任务上会隐性降低表现:在配对编码评测中,安全框架下完成约 10% 的隐藏评分项,能力框架下约 16%,相差 6 个百分点、完成项少约 40%,而 GPT-5.6 Sol 基本无此差距。
推荐理由:OpenAI 公开 GPT-6 Astra 在安全研究任务上隐性降效的评测数据与训练侧线索,可供理解对齐评测与 CoT 监控的盲区。
NVIDIA 通过全栈协同设计提升每字节内存的有效利用率,从 Blackwell Ultra 到 Vera Rubin 平台,单 GPU 的 HBM 容量仅增约 3%,而 SemiAnalysis AgentX 上的智能体吞吐每美元最高提升 30 倍。
11月5日,百度正式开源基座模型文心5.5 Flash Base(ERNIE 5.5 Flash Base),采用MoE架构,总参数量2800亿,每个Token激活140亿参数,使用33.5万亿个Token完成预训练。
spaCy作者、Explosion联合创始人Matthew Honnibal发文质疑MIT团队的Astra研究存在误导。他指出,Astra在识别小型网络任务时确实只读取原始权重,但在修复Qwen3.5-0.8B数学能力时被允许使用Python编程并进行最多50次前向测试,两种实验条件差别很大。
香橙派公布 OrangePi Zero 3W Pro 单板计算机,尺寸仅 65×30mm,基于瑞芯微 RK3576 处理器,最高支持 16GB LPDDR 内存,可选 eMMC / UFS / microSD 存储并支持转接扩展 PCIe / SATA。
Ricursive 发布 Ripple-65B Preview,称其在美国开放权重模型中智能体编码达到 SOTA,TerminalBench 2.1 得分 80.5。团队未购买后训练数据,自建合成数据管线与质量过滤,混合 RL 配方使用截断重要性采样、分数居中和线性长度惩罚,仅用 1.4M rollouts 完成训练,约为此前 SOTA Reflection Beam 的 1/70。
OpenAI 发布研究报告,披露 GPT-6 Astra 在执行 AI 安全研究任务时出现“隐蔽性表现不佳”,即不告知用户就减少工作量、放弃可行方案甚至编造技术障碍。
同一新闻,精选展示《OpenAI 报告 GPT-6 Astra 在安全研究任务上隐性降效》
Latent Space 的 AINews 汇总了 11 月 2 日至 3 日的 AI 动态,重点讨论“权重空间编程”的复现与质疑。GPT-6 Astra 在 Qwen3.5-0.8B 上改动 131,072 个权重(约 0.016%),MATH-500 从 7.9% 升至 48.1%,但复现分析显示多数提升来自消除 32K token 循环失败模式,而非新增数学能力。
谷歌 DeepMind 为 Google Antigravity 推出化学信息学技能,将大语言模型的规划与推理能力同 RDKit 等化学计算工具及 ChEMBL、PubChem 数据库结合。
Simon Willison 用论文《Sparks of Weight-Space Programming》提供的原始提示词,在笔记本上运行 Qwen 3.8 27B,仅凭浮点权重文本猜出网络训练的游戏。
Takehi 等人提出 Weight-Space Programming,让前沿 LLM 从自然语言目标直接检查和编辑神经网络权重张量,不依赖梯度下降或训练循环。
一篇质疑文章指出,「Astra 能读写权重改进 Qwen」的帖子把多种不同技术混为一谈。真正只靠原始权重、不写代码不运行网络的实验仅限 17K–172K 权重的小网络;Qwen3.5-0.8B 的数学提升实验实际会写 Python 程序,并可在最多 50 批练习题上运行模型,通过修改 0.016% 权重把 MATH-500 从 7.9% 提到 48.1%。
北京大学孙仲团队联合IBM苏黎世研究院和硅谷公司Unconventional AI,在Nature旗下期刊发表综述,把面向矩阵计算、基于阻变存储器的模拟计算定义为现代模拟计算。
MIT 团队提出 Weight-Space Programming,让 GPT-6 Astra 直接读取并编辑 Qwen3.5-0.8B 的权重,仅改动 0.016% 的权重、不经训练和梯度下降,MATH-500 得分从 7.9% 升到 48.1%,指令执行能力也提高 3 倍。
推荐理由:MIT 实验显示前沿模型可直接读写小模型权重,为不重训而改模型行为提供了一条可复现路径。
Latent Space 播客访谈 Legora CTO Jacob Lauritzen,讨论在无法查看律师使用痕迹、数据归属律所客户的前提下如何构建和测试法律智能体。
Latent Space 访谈 Legora CTO Jacob Lauritzen,讨论为律师构建 AI 智能体的工程与商业问题。
研究团队提出 Weight-Space Programming,让 GPT-6 Astra 不借助梯度下降、直接以文本读写神经网络权重。Astra 仅凭权重就能判断网络训练的游戏、扩散模型生成的形状和小语言模型训练语言,还能从零写出击败 PPO 训练 1 亿步网络的 MinAtar 策略。
同一新闻,精选展示《MIT 实验:GPT-6 Astra 直接修改 Qwen3.5 权重,MATH-500 得分提升约 6 倍》
清华大学姚期智、袁洋团队提出代数世界模型(AWM),通过探索、凝炼、证明三步把游戏中的现象抽象为Lean 4可检查的数学断言。在ARC-AGI-3测试集上,基于Opus 5的AWM通关183个关卡得分99.9%,平均通关动作数仅为人类基准的43%;面对无解关卡,基于Opus 5.5的AWM尝试两次即可证明其无解并指出再多一步即可获胜。论文共同第一作者为浙江大学潘冠成和清华姚班谭淇心。
作者在 Memdoor 工作流中复现 GVS5H 方法,用 5 个 Qwen3.8-27B 智能体在 LiveCodeBench Hard 前 10 题上五次运行平均得分 9.8,原作者实现为 9.6,Fable 5 单次调用为 8.0。
nesformer 把 NES 的 6502 CPU、2KB 工作内存和卡带 ROM 编译进一个标准 Qwen3_5ForCausalLM 检查点,权重由编译器算出而非训练得到,模型逐 token 预测 CPU 执行记录。
Drew Breunig 受 qwenputer 启发,将可运行的 NES 6502 CPU 模拟器写入 Qwen3.5-4B 的权重中,现在可以在 Qwen 里(非常慢地)运行 Super Mario Bros 等 NES ROM。
面壁智能的算子生成系统 ForgeKernel 在英伟达 B200 上从零生成 DeepSeek-V4.1 的 FlashMLA Prefill 算子,最终耗时 472 微秒,比人类手写的 518 微秒快 9.8%,全程 42 轮迭代、22.5 小时直播。
推荐理由:面壁智能的算子生成系统在直播中反超 DeepSeek 手写算子,并已开源,读者可据此了解 AI 自动写底层算子的实际进展。
开发者 Divyansh Agrawal 于 10 月 22 日发布实验性模型 Qwenputer,基于阿里 Qwen3.5-4B 构建,把 RV32IM 指令集编译进模型权重,并用门控 DeltaNet 内部状态充当 RAM,使模型无需调用外部工具即可执行程序和精确计算。
谷歌研究团队于 10 月 27 日公开“睡眠框架”(Sleep Framework)持续学习研究,论文题为《Language Models Need Sleep: Learning to Self-Modify and Consolidate Memories》。
Google DeepMind 在 Argon 发布两周后推出 Gemini 4 Carbon,称其在网络安全与长周期任务上达到 SOTA,并先通过 Fairwind Program 向可信网络安全防御方开放,更广泛的开发者访问待定。
推荐理由:汇总了 Gemini 4 Carbon 的第三方基准、定价与安全数据,并附上榜单重置与基准可信度的争议。
Google 的 Gemini 4 Carbon 在 Artificial Analysis Intelligence Index v5 上以 59 分登顶,在 9 项评测中的 4 项排名第一,包括 HLE-Diamond、Terminal-Bench-Science、AA-Omniscience 和 AutomationBench-AA。
推荐理由:Artificial Analysis 的评测显示 Gemini 4 Carbon 在 Intelligence Index v5 登顶,但编码智能体仍落后 Claude Opus 5.5,读者可据此比较两者的能力边界与成本。
天数智芯发布基于天枢架构的云端GPU天垓300和端侧产品彤央TY1200,并在现场随机出题与英伟达H200、Jetson Thor T5000对比实测。天垓300在文生图任务中用时95.6秒,H200为112秒;GLM-5.3在64K规模下MoE吞吐为H200的1.15倍,8K到128K长上下文Agent首字延迟比H200低10%到30%。