主题:
字号:
16
行距:
2.0

第623章 前世的终局与今生的起手[3 / 5]

数据。

二十层、三十层、四十层、五十层,精度曲线一路攀升,没有出现以往深层网络必然遭遇的性能坍塌。

“以前整个学术界都默认,网络超过二十层就没法有效训练了。这个假设,被我们推翻了。”

顾屿靠在椅背上,目光停留在屏幕上那条稳步上升的曲线上。

他没说话。

不是因为震惊。而是因为他太清楚这个东西是什么了。

残差网络。ResNet。

前世,这篇论文在2015年12月发表,第一作者正是任少卿。

它不仅横扫了当年所有计算机视觉的顶级竞赛,更从根本上改写了整个深度学习的工程范式。

从此以后,“网络可以无限加深”不再是空想,而是被数学和实验双重验证的事实。

它是后来所有大模型架构的地基之一。

没有残差连接,就没有后来的GPT,没有BERT,没有任何你能叫得出名字的大语言模型。

而现在是2014年4月。

任少卿提前了将近一年半。

顾屿闭上眼睛。

前世的记忆潮水般漫上来,不受控制。

2020年。他拿到天使轮的那个夏天,北京五道口的一间地下室办公室,八个人,六台电脑,空调坏了三天没人修。

他站在白板前画Transformer的架构图,给团队讲什么是自注意力机制,什么是多头注意力,什么是位置编码。那时候他以为自己看到了未来。

2022年。A轮融资到账,团队扩到四十多人,搬进了望京的写字楼。

他们基于Transformer训练中文大语言模型,做垂直行业应用,对标ChatGPT。烧了两个多亿,模型效果勉强能打。投资人说,再坚持一轮,B轮估值翻三倍,上市不是梦。

他信了。

然后2024年底,DeepSeek的技术报告发了出来。

不到六百万美金的训练成本。

用了一种叫MoE的混合专家架构,让模型学会了“只激活需要的那部分参数”,不用的部分直接休眠。

配合极致的底层算力优化和开源策略,效果直接对标上亿美金训练出来的顶级模型。

一夜之间,他那套靠堆参数、堆数据、堆算力硬撑出来的商业故事,全部归零。

投资人撤资的邮件是

本章未完,请点击下一页继续阅读!

重回1982小渔村
米饭的米
公若不弃,愿拜为义父
辣酱热干面
第四天灾从不相信钢铁洪流!
喀秋莎第一可爱
修仙界只有妖女了是吗
月下千早
四合院之扮猪吃老虎
戈壁孤狼夜
青山
会说话的肘子
仙命在我
杜养吾
半岛头号玩咖!
HKDoll
被夺一切后我成了仙道魁首
盛唐无夜
诸天影视从四合院开始
洒家要吃肉
秦时小说家
偶米粉
重生鉴宝:我真没想当专家
眀智
华娱从洪世贤开始
在下励志师
工业克苏鲁,从海岛领主开始
刀如故
娱乐:我就是顶峰
疑似风月
长生修仙:从福修开始
宅到时间尽头
以一龙之力打倒整个世界!
唐宋元明氢
美警生存实录:以德服人
夜叶总差
循规蹈矩能叫重生吗?
法学院新生
全球觉醒:开局加入聊天群
飞翔的四眼
发薪就能变强,我有十亿员工!
今月曾经照古河
大明:从战场捡属性开创诸天大明
无谅888
税收只在机枪射程内!
践行践远
混沌天帝诀凌峰苏琳
剑轻阳
魔王大人深不可测
晨星LL
穿越,然后被富家JK堵门
晚不鸽
路明非,成为艾尔登之王吧!
苏三十二
人在斗破:天赋绝世竟带系统
仪昔
超武斗东京
木隐红尘
诸天:谁把他放进恐怖片的?
三维的乱象
F1:车神养成日记
诸位贱笑了
从梁祝开始燃烧世界
小黑帽
嫡明
戈昔
人在峨眉,开局获取金色词条
黑白大团子
祭祀百年,我成了部落先祖
山人有妙计
穿越者纵横动漫世界
龙之宫
斗罗:三位一体,我贯穿了时间线
我不开挂
谁教他这么复国的
星罗封陈
别打扰邪术师搞科研
一枚有趣的土豆
穿越七零做外贸
青铜老五
精灵:开局格斗馆主,被娜姿缠上
今天洛尘涅槃了么
黑木崖抄书百年,我成了魔道祖师
仍是少年
重生华娱,95小花养成日记
闻风太白
坐忘长生
飞翔的黎哥
超凡崛起:开局契约银龙女伯爵
汤姆不吃糖
六十大寿来系统,儿子被退婚了!
九月有二
我靠烧香爆红娱乐圈
容焉
从肝熟练度开始长生不死
乌鸦还是黑的好
战锤之黑皇帝
辣椒炒恶魔
华娱浪子,怎么被天仙改造了?
快出栏的猪