ARTICLE SIGNAL

翁荔回OpenAI,Thinking Machines发布新模型Inkling-Small

翁荔刚回OpenAI,Thinking Machines反手发布276B新模型Inkling-Small。本文为您带来最新AI资讯,深入解析该大模型如何以12B激活参数逆袭万亿模型,探讨AGI与LLM前沿趋势。

type
status
date
slug
summary
tags
category
icon
password
网址
人工智能领域的竞争正变得前所未有的戏剧化。就在Thinking Machines的联合创始人翁荔官宣离职并重返openai带队攻坚“递归自我提升”(RSI)的第三天,这家刚刚失去核心大将的初创公司,便直接甩出了其第二款重磅大模型——Inkling-Small的全量权重。
这一举动不仅在开源社区引发了巨大轰动,也为当前的AI资讯头条贡献了最具戏剧性的一幕。作为一个仅有2760亿(276B)总参数、120亿(12B)激活参数的MoE架构模型,Inkling-Small以四分之一的体量,成功实现了对前代万亿参数“老大哥”Inkling的性能反超。想要获取更多实时AI新闻与前沿技术深度解析,欢迎访问AI门户

临阵折将却反手甩出王炸:Inkling-Small的逆袭之路

在AI圈子里,Thinking Machines的剧本堪称跌宕起伏。就在半个月前,他们开源的975B巨无霸模型Inkling才刚刚掀起巨浪;而紧接着,核心创始人翁荔的离职回归,让外界一度猜测这家公司的研发节奏是否会受到重创。然而,Inkling-Small的火速发布,直接用实力回应了市场的质疑。
作为一款原生多模态LLM,Inkling-Small支持高达100万token的上下文窗口。在ARC-AGI-2等核心推理基准测试中,它不仅刷新了开源SOTA,更在数学、推理、智能体编码等多模态基准中,堪比甚至超越了初代Inkling以及DeepSeek V4 Flash等竞品。在HLE、Terminal-Bench和IFBench等指标上,Inkling-Small的“每FLOP性能”曲线全程碾压前代模型,真正实现了“学生超越老师”的奇迹。

核心技术揭秘:如何用四分之一体量实现性能反超

根据官方公开的后训练细节,Thinking Machines并没有采用“举全村之力”的暴力堆砌参数路线,而是精炼了机器学习配方,并巧妙地通过两步走策略跑通了一条高效的模型产线:
  1. On-policy 蒸馏:首先以初代万亿参数的Inkling作为教师模型,进行on-policy蒸馏,提炼出一个高质量的预览版检查点。
  1. 智能体强化学习:在此检查点基础上,团队接着进行了整整两周的智能体编码强化学习(RL)。
这种训练方式不仅吃掉了前一轮预训练数据配比踩过的所有坑,更证明了Thinking Machines已经具备了可持续、高效率产出优质模型的管线化能力。这对于整个人工智能行业来说,意味着大模型开发正在从“手工作坊式”走向“工业化量产”。

120亿激活参数:民主化大模型定制的“甜点位”

对于广大的开发者和企业而言,万亿参数模型的部署门槛高不可攀。初代Inkling的BF16版本最低需要2TB的聚合显存,这意味着至少需要8张B300或16张H200显卡,即使是量化版也需要600GB起步。
而Inkling-Small将这一门槛彻底拉低。276B总参数配合12B激活参数,被业内公认为强化学习的“甜点位”(Sweet Spot)。在这种架构下,LoRA微调和全参数训练对于中等规模的团队来说都变得“够得着”。在SGLang推理框架下,使用8张B200显卡跑Inkling-Small,其解码速度最高可达648 tok/s。这意味着,以前只有科技巨头才能玩的深度定制,现在中小团队也能真正落地应用。

创始团队四分五裂,机器车轮却加速向前

Thinking Machines最初由Mira Murati、John Schulman、Barret Zoph、翁荔等六位来自openai的明星成员联合创立,估值曾一度高达120亿美元。然而,随着融资受阻和行业竞争加剧,如今的六人创始团队仅剩两人坚守,其余四人中有三人(包括翁荔)已先后重返OpenAI。
尽管面临核心人才流失的动荡,Thinking Machines的模型发布速度却在不断加快。人才在流失,模型在狂飙,这两条背道而驰的曲线,恰恰是当前AGI探索之路上最真实的写照。这也向行业昭示了一个趋势:无论团队如何变动,AI技术演进的车轮只会越转越快。
获取更多关于claudechatGPT等主流大模型的最新动态与实用Prompt教程,敬请关注AI日报,带你解锁更多AI变现与技术落地新机遇。
Loading...

没有找到文章