主题:
字号:
16
行距:
2.0

第623章 前世的终局与今生的起手[3 / 5]

二十层、三十层、四十层、五十层,精度曲线一路攀升,没有出现以往深层网络必然遭遇的性能坍塌。

“以前整个学术界都默认,网络超过二十层就没法有效训练了。这个假设,被我们推翻了。”

顾屿靠在椅背上,目光停留在屏幕上那条稳步上升的曲线上。

他没说话。

不是因为震惊。而是因为他太清楚这个东西是什么了。

残差网络。ResNet。

前世,这篇论文在2015年12月发表,第一作者正是任少卿。

它不仅横扫了当年所有计算机视觉的顶级竞赛,更从根本上改写了整个深度学习的工程范式。

从此以后,“网络可以无限加深”不再是空想,而是被数学和实验双重验证的事实。

它是后来所有大模型架构的地基之一。

没有残差连接,就没有后来的GPT,没有BERT,没有任何你能叫得出名字的大语言模型。

而现在是2014年4月。

任少卿提前了将近一年半。

顾屿闭上眼睛。

前世的记忆潮水般漫上来,不受控制。

2020年。他拿到天使轮的那个夏天,北京五道口的一间地下室办公室,八个人,六台电脑,空调坏了三天没人修。

他站在白板前画Transformer的架构图,给团队讲什么是自注意力机制,什么是多头注意力,什么是位置编码。那时候他以为自己看到了未来。

2022年。A轮融资到账,团队扩到四十多人,搬进了望京的写字楼。

他们基于Transformer训练中文大语言模型,做垂直行业应用,对标ChatGPT。烧了两个多亿,模型效果勉强能打。投资人说,再坚持一轮,B轮估值翻三倍,上市不是梦。

他信了。

然后2024年底,DeepSeek的技术报告发了出来。

不到六百万美金的训练成本。

用了一种叫MoE的混合专家架构,让模型学会了“只激活需要的那部分参数”,不用的部分直接休眠。

配合极致的底层算力优化和开源策略,效果直接对标上亿美金训练出来的顶级模型。

一夜之间,他那套靠堆参数、堆数据、堆算力硬撑出来的商业故事,全部归零。

投资人撤资的邮件是凌晨两点发来

本章未完,请点击下一页继续阅读!

至尊神眼
薯条
综影视:系统助我一飞冲天
跳跳糖麦丽素
让你当收尸人,你直接解刨了前女友
夜无声
小保姆和大领导
九八八呀
综:白月光她媚色撩人
妤画
循规蹈矩能叫重生吗?
法学院新生
谢邀,人在长安,正准备造反
一灯阑珊
给美女花钱能返现,屌丝逆袭
半世逍遥
星沉战史
落雪成雨
网游:我的普攻可以盗取万物
火火火
顶罪五年后,我医武双绝的身份瞒不住了
清风万里
快穿:那个炮灰我穿过顾陌欧司承
偶葱
错付六年,我潇洒离场,你哭什么
岁岁有琳琅
高门继室
唯一
相亲坐错桌,闪婚千亿豪门继承人
麻米
问鼎仙途
我要哭了啊
离婚后,她马甲太多根本掉不完
日料小姐
嫁入豪门生存难?我怎么被宠上天了!
叶叶
误闯总裁套房,高冷上司缠上瘾
小高
带崽村姑炸翻军区,高冷首长宠疯了
灯符
换嫁冷脸飞行员,一胎三宝赢麻了
炒鱿鱼花
开局流放?不怕,我有千亿物资
菜秧子
七年陪伴你不娶,我提分手你别疯啊
艾北
宿舍求生,我被拉进了管理群辰北曹青青
翻滚的蛋蛋
唔唔,妻主你不要抓我尾巴
左边
战总,小罪妻一胎二宝了
南南
开局入赘:我苟到举世无敌
柚子牛
我的徒弟们都太逆天了!
炒方便面
我的抗战有空间
六零山人
抗战之随身空间
六零山人reborn
天才降临,傅总,该你养娃了
宴礼
穿书七零,换嫁绝嗣大佬后多胎了
果味泡芙
道心不稳?不,贫道初心一直不变
夜天下
东京少女们大有问题
掠过的乌鸦
重生:发动大姑娘小媳妇帮我赚钱
从此不再装逼
重回1982小渔村
米饭的米
公若不弃,愿拜为义父
辣酱热干面
第四天灾从不相信钢铁洪流!
喀秋莎第一可爱
修仙界只有妖女了是吗
月下千早
四合院之扮猪吃老虎
戈壁孤狼夜
青山
会说话的肘子
仙命在我
杜养吾
半岛头号玩咖!
HKDoll
被夺一切后我成了仙道魁首
盛唐无夜
重生鉴宝:我真没想当专家
眀智
华娱从洪世贤开始
在下励志师
工业克苏鲁,从海岛领主开始
刀如故
娱乐:我就是顶峰
疑似风月
长生修仙:从福修开始
宅到时间尽头
以一龙之力打倒整个世界!
唐宋元明氢