5200小说

手机浏览器扫描二维码访问

第86章 视觉新范式(第2页)

识别分类有竞赛结果,生成式网络的论文已经放出,而检测的网络随着白度的布会,大家也已经了解它的威力。

至于分割网络,则是这两随着dreamnet的论文一起放出的u-net工作。至此,可以说视觉类几大任务的基础范式已经被孟繁岐奠基。

今后不论是识别分类,分割检测,还是迁移生成,都很难绕得开这些轻便又好用的办法了。

“可以看到,这种思想席卷视觉领域之后,使得目前主要的研究方向都有了颠覆性的突破。”

孟繁岐将这几篇论文的主要试验结论摆在了幻灯片的第二页,就是要先以结果震撼众人。

“显然,这些算法在诸多领域都与第二名拉开了巨大的差距,而相当一部分的功劳应当属于残差思想对网络深度的革命。”

“在1o年11年,我们仍在使用人工设计的sIFT,hog还有sVm,12年,阿里克斯的八层a1exnet取得了巨大的突破。”

“而今年,残差思想引的深度革命,使得训练15o+层的神经网络成为可能。”

“深度神经网络是很多任务场景,尤其是视觉任务场景的基础引擎和骨干,这也是为什么它能够迅影响几个主流的任务。”

“从结构上看,dreamnet并没有什么特别的,比起之前每一层都单独设计的网络,我其实故意希望它变得简单,重复。”

孟繁岐身后的幻灯片展示了一个极其细长的图案,这就是一百多层深的dreamnet结构图。

放大展示它的基本设计,众人现,它的单层设计非常简洁朴素,只采用了最常规的算子操作。

长长的结构图滚动了起来,观众们都现,原来每一层并没有任何区别,只是单纯在重复。

由于一百多层的滚动需要太久,在这个严肃的场合显得有些喜感,场内出了一阵阵笑声。

“那么这里就引出了一个问题,那就是是否单纯把网络做大作深,就总是可以取得更好的结果呢?”

孟繁岐的这个问题,直到2o23年也没有一个理论上的答复,但很显然,巨大的模型还在持续创造一个个奇迹。

不管是绘画,对话,还是图像操作,都还远没有到达极限。

“我非常希望自己能够清楚从理论上告诉大家这个答案,但由于能力有限,我也只能给出自己的猜测,那就是yes。”

“我相信,只要更多更好的gpu,更多更好的数据,以及更大大模型和更好的优化办法,我们就可以持续创造奇迹。”

“而之前的网络在深度上遇到的阻碍,我认为并不是网络的能力问题,而是我们没有找到合适的办法去优化好它。”

让网络多重复几次,这是很多人都试过的事情,很显然,得到的结果是比原本要差的。

这在传统方法中,不是什么奇怪的现象,很多人都将这个现象解释为维度灾难或者过拟合,没有进行足够深度的探索。

“稍加思索,这显然是一个反直觉的现象,对于更深的网络,我们完全可以将小版本网络的所有参数复制进来,而多出来的部分只要什么事情都不做,这个模型就至少不会更差。”

“但事实上,却并非如此,我相信很多人都观察到了这样的普遍现象,那就是更深的模型反而变差了不少。”

热门小说推荐
洪荒历

洪荒历

起点VIP20230823完结69862万字27742万总推荐文案那是在很久很久很久之前发生的故事那是人类沉沦在无边血色中,叫天天不应,叫地地不灵,求生不得,求死不能的年代那一天,一个名为盘的部落,诞生了一个名为古的婴儿那一天,一个名为鸿的部落,诞生了一个名为钧的婴儿那一天,一个名为李的部落中,三兄弟正在苟延残喘那一天,一个名为耶的部落,诞生了那是发生在很久很久很久之前发生的故事那是人类以无穷奋斗,万千牺牲而最终开天辟地的故事,那是洪荒历!作者自定义标签洪荒流铁血...

人间鬼差

人间鬼差

作品简介这是鬼怪的天下,人类困守城市,科技展缓慢,佛道咒法盛行。然而,一个阴阳眼少年,生逢百鬼乱世,不修佛不练道,展开一段以鬼之异能灭鬼的热血传说!各位书友要是觉得人间鬼差还不错的话请不要忘记向您QQ群和微博里的朋友推荐哦!...

神诡世界,我能修改命数

神诡世界,我能修改命数

这是一个人道皇朝,宰执众生的世界!这是一方阳间阴世,诡异横行的天地!太古的仙佛绝迹,只留下道果归墟。昔日的神话复苏,等待上苍之门开启。十大真龙,天命魔星,祸国妖党,武骨圣体...

综漫:纠缠不休,任务不止

综漫:纠缠不休,任务不止

简介关于综漫纠缠不休,任务不止刘庆是名穿越者,为了完成某些不同的任务,他开始了自己不同世界的穿越之旅,同时由于世界的坑性导致他不得不以不同的方式解决问题。在魔法世界里他是男变女的女魔法师,性转魔法师在怪医黑杰克里他是掉落于这个世界花国的兽人亚雌而在驱魔少年里面他是不死具备复活能力的亚人第一个世界魔法世界(哈利波特祖时代蛇祖x性转异世界魔法师,生蛋)第二个世界怪医黑杰克(黑杰克x猫系兽人李文论中西科技可行性)第三个世界驱魔少年(亚当夏娃,无性别如何诞生人类)第四个世界人间失格(作家和人性)第五个世界在樱花树下(双女)第六个世界文豪野犬(克系)第七个世界犬夜叉(虫族)第八个世界火影忍者(寄生)第九个世界咒术回战(数据)第十个世界电锯人(脑内妄想)...

弃婴被诅咒的人生

弃婴被诅咒的人生

简介关于弃婴被诅咒的人生女婴一出生就成为弃婴,后来去到巴塞罗那邂逅了一生的挚爱齐策,无奈天意弄人,情感一波三折,精神一度崩溃到需要入院治疗。似乎怎么努力都逃不过命运的枷锁,难道她的人生真的受到了某种诅咒吗?书中还有男主女主与女魔头克拉拉的各种纠缠,以及比克拉拉更坏的恶魔纳吉的各种交锋!开篇先写女主和男二的情感纠葛,然后男三受虐,男主和女主和故事放在后面。...

替嫁新娘:傲娇宴少的心尖宠

替嫁新娘:傲娇宴少的心尖宠

简介关于替嫁新娘傲娇宴少的心尖宠先婚后爱追妻火葬场1V1萌宝为了母亲高昂的治疗费用,6初月把自己卖了。被逼娶妻的宴北辰对她一脸不屑,我有意中人,我不爱你更不会碰你。,在那之后宴北辰的刻意刁难她照单全收。当6初月递上一纸离婚书,某人黑着脸将她抵在墙上,离婚?你说说,你能跑哪去?整个江沅市都是我的!身居高位的公子哥宴北辰,听闻被迫娶了一位上不了台面的私生女,众人擦亮眼睛看女孩儿怎么被他玩死。可某一天,有人在街上听到城府极深的宴少总裁对女孩儿说以后出街不准穿短裙,不准对别的男人笑,不准看别的男人,不准6初月皱皱眉,不准什么?宴北辰低声说不准让我跪搓衣板!...

每日热搜小说推荐