全球首个,英伟达用AI两个月造出「全新PyTorch」!震撼整个行业_运行_内核_系统
- 人气:
新智元报道
编辑:Aeneas
【新智元导读】仅用两个月,AI 就「自己」写出了一个能跑模型、对标PyTorch的深度学习系统!陈天奇、贾扬清纷纷大赞:AI终将完全超越人类程序员。
最近,英伟达又发布了一个炸裂成果。
英伟达高级工程师Bing Xu开源了VibeTensor项目,并且表示:「这是第一个完全由 AI智能体生成的深度学习系统,没有一行人类编写的代码。」
这是什么概念?深度学习运行时(Deep Learning Runtime),是让神经网络真正跑起来的底层系统系统。
仅仅用两个月,AI就自己写出了一个「深度学习运行时」。
它不是demo,不是PPT里的概念,是真正能跑起来的、对标PyTorch的一个系统!
这个项目也获得了陈天奇、贾扬清等大佬的盛赞。
两个月,AI写出比肩PyTorch的成果
AI,能不能从零生成一整套「深度学习系统软件」?这里指的,是那种真正的、工程师平时根本不敢让AI碰的底层系统。
答案是,可以。
VibeTensor是一个受PyTorch启发的即时运行时,它具有全新的C++20内核(CPU + CUDA)、torch风格的Python覆盖层以及实验性的Node.js/Type API。
注意,它并不是一个轻量级封装器。它实现了自己的张量/存储、调度器、自动微分引擎、CUDA运行时和缓存分配器和插件ABI。
在VibeTensor项目中,人类只需要做这几件事:给出高层架构、定义约束条件,设定性能与可靠性目标。
剩下的事,就可以全部交给LLM驱动的编码智能体,包括C++核心运行时,Python API,Node.js接口等等。
英伟达工程师们,再也不用手动编写每一行代码了。
速度也是很惊人:仅仅用两个月时间,整个系统就开发完成了。
两个月,是什么概念?要知道,PyTorch经过了十年级别的演进,需要成百上千名工程师,进行无数次架构的重构。
而VibeTensor只需要2个月,由AI生成大量代码,还覆盖了完整的运行时链路。
当然,VibeTensor现在还不能取代PyTorch。虽然某些特定内核的速度更快,但它整体的训练性能仍然比PyTorch慢。
但这根本不是重点。
随论文一同发布的AI生成算子内核套件的宏观结构示意图,该套件包含多个后端实现(Triton、CuTeDSL以及PyTorch参考路径)
重点是,AI已经能造出PyTorch级别的复杂系统了。
这就证明:人工智能智能体已经足够强大,能够构建复杂的、功能齐全的软件系统,而不仅仅是简单的脚本。
编码智能体不仅能写函数,还能在测试约束下,协同生成并验证一个跨越多层抽象的复杂系统。
网友们纷纷惊呼:库兹维尔预言的递归改进循环,正在发生!
当然,AI智能体虽然可以编写大量代码,但最终成功与否,还要取决于项目是否附带评审。
有人说,英伟达真正的秀肌肉之处,在于敢把生产级的C++内核交给智能体来写。
这就意味着,英伟达背后,有着世界一流的测试基础设施,以及完善到位的运行时遥测体系。
用AI快速交付,其实并不难,真正困难的是如何可靠地交付——而这,依然是人类的护城河。
VibeTensor架构
这个架构的宏观视角,是这样的。
从使用体验上看,VibeTensor是一个受PyTorch启发的即时运行时,包括torch风格的Python API,以及熟悉的张量、算子、自动微分体验。
但在实现上,VibeTensor并不是PyTorch的封装或裁剪版,而是实现了自己的一整套系统栈。
从宏观层面来看,它由如下部分组成——
前端:Python(nanobind)和 Node.js(N-API)都向同一个C++运算符注册表分发。
核心运行时:张量/存储 + 调度器 + 自动微分 + 索引 + 随机数生成器。 CUDA运行时:流/***包装器、分配器、图、内核启动助手。
计算层:内置CUDA内核 + 可选Triton/CuTeDSL内核 + 插件加载内核。 多GPU实验 :Fabric张量和可观测性(统计+***环)。
更关键之处在于,它真的能训练模型。
针对Blackwell架构(SM100/SM103)的warp级特化ring all-reduce内核的宏观与微观视图
在评估阶段,论文并没有止步于单算子正确性或micro-benchmark,而是刻意选择了完整训练闭环作为验证手段,覆盖了三类具有代表性的工作负载:序列反转任务、CIFAR-10 上的Vision Transformer,以及一个miniGPT风格的语言模型。
这三个任务并非随意挑选。
序列反转任务是经典的自动求导与时序依赖sanity check,能够快速暴露梯度回传、参数更新或状态复用中的隐藏错误。
CIFAR-10上的ViT则引入了更复杂的算子组合,验证系统在中等规模模型下的稳定性。
而miniGPT风格的语言模型则进一步拉长了训练步数,对长时间运行、多步梯度累积、显存管理和数值稳定性提出了更高要求。
论文展示的训练曲线表明,在这些任务上,VibeTensor与PyTorch在整体收敛趋势上是高度一致的:loss能够稳定下降,accuracy或perplexity持续改善,没有出现梯度爆炸、训练发散或「跑几步就崩」的情况。
这一点尤其关键,因为它意味着系统中的多个核心子系统能够在真实训练循环中正确协同工作。
真正颠覆性的意义:工程边界被打破
英伟达这项研究真正颠覆性的意义,不在性能,而在「工程边界被打破」。
需要强调的是,作者非常克制:他们反复声明VibeTensor性能明显落后PyTorch,也不适合生产环境。
但这恰恰让这篇论文更有分量了。
因为它要证明的不是「AI能不能写出最优代码」,而是——系统软件,第一次被证明是「可被AI整体生成」的!
在过去,大家都默认一个隐含前提:AI可以写应用代码、脚本、业务逻辑,但系统软件、运行时、内存管理、并发控制,只能人写。
VibeTensor 第一次用一个可运行、可复现的工程告诉你:这个边界,正在被打穿。
另外,论文里一个非常重要、但容易被忽略的点是:测试不再只是验证工具,而是约束 AI 搜索空间的核心机制。
在这个项目中:测试约等于可执行的设计文档,回归测试是对抗「AI 局部正确、全局崩坏」的唯一手段,多步训练测试,则可以揪出单步算子永远发现不了的bug。
这本质上是在说:未来系统工程的核心能力,可能不是写代码,而是「设计好一套让 AI不敢乱来的测试体系」。
重要反面教材:「弗兰肯斯坦效应」
论文最后还非常坦诚地总结了AI写系统的典型失败模式,作者称之为弗兰肯斯坦效应。
简单说就是:每个子模块单独看都很合理,拼在一起却会把系统性能彻底拖垮。
比如,为了安全性,AI在autograd引擎里加了一个全局backward锁。
从单点看这是对的,但结果却是:GPU kernel空转、并行性被扼杀、系统整体变慢好几倍。
这部分内容其实非常有价值,因为它说明了一件事:AI非常擅长「局部最优」,但极其不擅长全局性能目标。
而这,正是下一阶段AI系统工程必须正面解决的问题。
总之,如果用一句话来概括VibeTensor这篇论文的意义,那就是:这是第一篇用完整可运行系统证明「AI已经可以触碰深度学习系统工程核心腹地」的论文。
它不是终点,但很可能是一个分水岭。
英伟达3万工程师全员All in AI编程
最近,还有另一个内幕消息曝出:英伟达的30000名工程师在引入AI编程助手后,代码产出狂翻3倍!
英伟达很早就在内部尝试各种AI代码生成辅助工具,但自从定制版Cursor广泛部署之后,效能提升才真正「爆发」。
注意,Cursor并不是简单补全,而是一套可以:自动生成新代码、生成单元测试与集成测试、理解大规模代码库深层依赖关系、自动修bug的的「全流程AI编程助手」。
据英伟达工程负责人描述:Cursor现在在所有产品线、所有开发阶段都在使用。它能自动从 ticket、设计文档获取上下文,然后基于规则自动生成包括代码、测试、CI 在内的完整变更。
三倍代码量,是说AI写了很多垃圾代码吗?事实相反,英伟达强调:代码质量仍由人工负责审核和监督。
工程师会留出更多时间,给设计决策和复杂逻辑,把重复性工作交给AI完成。
从英伟达的角度来看,这种「让 AI 进入关键路径」的做法其实并不陌生。早在多年前,DLSS就已经在超算上运行了。
可见,英伟达并不是第一次将AI引入高风险、高复杂度的工程系统,而是已经积累了长期经验。
参考资料:
秒追ASI返回搜狐,查看更多
- 2026-09-08雷军:初代小米SU7停产,新一代门把手符合新国标_销量_直播_汽车
- 2026-09-08特斯拉4680电池干成了,国产车眼巴巴看着,不开放专利没法抄啊_电车_固态_干法
- 2026-09-08狂融500亿美元!千亿债务难阻甲骨文梭哈AI?_融资_OpenAI_Cowen
- 2026-09-072026,巨头大战AI教育_作业_大厂_智学
- 2026-09-08跌崩!黑天鹅重演?_市场_沃什_Cowork
- 2026-09-08“硅基少女”Moya亮相上海!全球首款完全仿生机器人,能走会说还会“脸红”_卓益得_自由度_温度
- 2026-09-08AI这块蛋糕,英伟达只吃奶油_OpenAI_Triton_NVLink
- 2026-09-08中国光刻机崛起!杀进全球前20名,落后ASML不多了?_微电子_上海_技术
- 2026-09-08欺骗、勒索、***、演戏,AI真没你想得那么乖。_Claude_训练_实验
- 2026-09-082026 年最「不是人」的一届春晚_机器人_刘谦_宇树
- 2026-09-08贾跃亭发布人形机器人,造车还没造好又玩机器人了?_概念_融资_赛道
- 2026-09-07你的AI会救你吗?19个大模型实测揭秘:GPT牺牲自己,Claude自保,Grok直接开炸_道德_人类_逻辑
- 2026-09-07中国500强最新排名来了!台积电第一 小米首次超越华为 但都输给了拼多多_胡润_企业_价值
- 2026-09-0810亿红包砸不出“新微信”:元宝派的冷场,腾讯AI补不上的课_模型_时代_混元
- 2026-09-08青藏高原发现天然氢:可以拉开能源变革的序幕么?_氢气_开***_全球
- 2026-09-08和机器人发生关系?有调查显示:近一半美国男性对此表示十分乐意_***_Abyss_社会
-
DeepSeek更新后被吐槽变冷变傻:比20年前的青春伤感文学还让人尴尬!业内人士:这一版本类似于极速版,牺牲质量换速度_模型_用户
DeepSeek更新后被吐槽变冷变傻:比20年前的青春伤感文学还让人尴尬!业内人士:这一版本类似于极速版,牺牲质量换速度_模型_用户 -
“发展速度太快了”!马斯克点赞Seedance 2.0,字节:还远不完美_模型_***_能力
“发展速度太快了”!马斯克点赞Seedance 2.0,字节:还远不完美_模型_***_能力 -
用千问下单买奶茶里,我看到AI正在创造一个新时代_阿里_应用_购物
阿里千问开场不是最早,但却是最早抛弃红包大战,转向一场AI生活方式的全民科普。在应用边界上,千问比豆包走得更快也更远,已经陆续接入了超过400项“AI办事”功能,实现了“聊天”到“办事”的跨越,有望增强用户… -
马斯克宣布有望10年内建首座“月球城市”:火星***“没熄火”,但“月球更快”_SpaceX_美国_目标
马斯克周日在社交平台上发帖,解释了这一优先级的变化。他写道:“SpaceX也将努力建设火星城市,并在大约5到7年内开始行动,但压倒性的优先事项是保障文明的未来,而月球(实现起来)更快。”目前的具体目标是在2…
- 加拿大给中国电车降税,是想和美国下大棋?_关税_配额_出口
- 2025,中国商业十大意外,外卖大战只排第五_星巴克_哪吒_Tiktok
- ChatGPT开测广告!OpenAI终于向“钱”看_用户_模型_-Codex
- 世界首富的烦恼:马斯克感叹“金钱买不到幸福”,两天浏览量破亿_爱泼斯坦_阿克曼_文件
- 中国车企和特斯拉的下一战,战场已定_机器人_人形_Optimus
- 史上最长春节,为何依然绕不开在线旅游“顽疾”?_平台_消费_投诉
- SU7 Ultra销量暴跌,雷军“豪车梦”遇阻?_小米_销售_汽车
- 咱不找机器人“代磕头”就不错了_斯基_年轻人_服务
- 年销5500台全球第一,谁在买宇树的人形机器人?_市场_产业_行业
- 热搜榜一!机器人全面入侵春晚 网友:这才一年进步就这么大_宇树_蔡明_科技
- 大模型红包爆火,算力租赁成最大赢家_***_Kimi_应用
- APP崩了!千问发文:求放过!网友:两天了还没能下单_奶茶店_用户_大厂
- 科学界神雕侠侣,“吵”出一款世界级新药_隋建华_李文辉_研究
- GPT-4o正式退役,OpenAI倒逼用户转向定价更高的专用推理模型GPT-5_文心一_场景
- 阿里神秘芯片公开!整体性能与H20相当,“中国版谷歌”来了?_模型_推理_Qwen
- 县城狂欢,当***都成了AI头号玩家_奶茶_精英_线下
- 48亿,阿里腾讯百度字节,过年集体送钱!_App_红包_活动
- 首个“逆转细胞衰老”人体试验获批,长寿科技迎来关键验证节点_患者_因子_体细胞
- 消息称字节跳动正研发AI芯片,并与三星洽谈代工事宜_SeedChip_***_供应
- 曝DeepSeek春节不发大招,友商疯狂偷家_模型_Qwen_阿里




