您的方位:主页>>业界动态

2019深度学习结构排行榜(从TOP 10到TOP 3)

发布时刻:2019-08-20 18:56:11  来历:互联网    布景:

  1.写在前面

  5G能够说是2019年上半年十分闪烁的那颗“星”了,美方还不惜代价地企图封闭我国的5G技能出海。5G之所以重要,是因为其将和AI技能,大数据技能一道推翻咱们现有的日子形式,让智能化成为实际。

  在智能化的国际,5G技能供给高速率(>1 Gbps),低延时(1ms)的根底网络服务,组建物联网(IoT,Internet of Things),大数据技能供给对万物互联发生的海量数据的整合才能,而AI技能则供给整个智能生态的核算与决议方案才能,深度学习技能是十分高效的完成方法,在曩昔10年,已被学术界和工业界重复证明,能够依托各种模型算法达到比人类判别更精准,更快速的“灵丹妙药”。

  Figure 1 智能年代

  技能需求高效的完成形式来进行运用,深度学习结构便是那个完成“灵药“的“炼丹炉”,能够经过深度学习算法模块化的封装,快速建立模型,输入数据,进行各种模型的练习,调优,测验和布置,为整个智能生态供给猜测,决议方案等中心揣度才能。

  2.深度学习结构排行榜

  得益于深度学习结构开展初期各家为更好的推动技能开展而造就的开源生态形式,现在,林林总总的结构百家争鸣,百家争鸣,快速推动了深度技能在工业界的落地运用。当然,好“药”也得有好“炉”炼,下面咱们就介绍下现在干流的深度学习结构的开展状况,各自的特色以及适宜的场景等,找到适宜的“炉“。

  从业界影响、资源投入、开发生态、文档系统、模型全面性、工业实践和开源热度(github)等七个方面评价各结构的开展状况,成果如下图(供参阅)。

  Figure 2 十大深度学习结构开展程度(caffe,caffe2分隔核算)

  再来看一下GitHub对应的一些数据状况,Pytorch,TensorFlow,PaddlePaddle曩昔两年坚持了较快的开展速度,特别Pytorch的星数有3倍增加,博得了很多人的眼球。而Caffe&Caffe2,Theano,CNTK等,尽管现已中止迭代,但在AI启航的时刻点仍然有必定的增加。

101_190820122937_1_lit (1).png

  Figure 3 十大深度学习结构github概览(caffe,caffe2分隔核算)

101_190820123007_1_lit.png

  Figure 4 十大深度学习结构增加率(caffe,caffe2分隔核算)

  上图中,前三个(Pytorch,TensorFlow,PaddlePaddle)是个人认为现在开展快,并且比较完善的结构,结束的四个是现已官宣不再更新的,而其他的是开展到平稳期或资源有限的一些结构。

  3.十大深度学习结构详解

101_190820123034_1_lit.png

  Google的TensorFlow,能够说是当今十分盛行的深度学习结构。Airbnb, DeepMind,Intel,Nvidia,Twitter以及许多其他闻名公司都在运用它。

  Google自开源TensorFlow起,投入许多的人力,物力,财力逐步构建了一个AI生态,从根底研究、AI教育、再到运用完成,而这个生态的中心便是TensorFlow。如前所说,深度学习是AIoT年代的柱石,毫无疑问,Google仍然走在年代转折点的前列。

  TensorFlow供给全面的服务,无论是Python,C++,JAVA,Go,乃至是Javascript,Julia,C#,简直一切开发者都能够从了解的言语下手开端深度学习的旅程。TensorFlow构建了活泼的社区,完善的文档系统,大大降低了咱们的学习本钱,不过社区和文档首要以英文为主,中文支撑有待加强。别的,TensorFlow有很直观的核算图可视化出现。模型能够快速的布置在各种硬件机器上,从高功用的核算机到移动设备,再到更小的更轻量的智能终端。

  TensorFlow的缺陷现已被诟病多年,比较Pytorch,Caffe等结构,TensorFlow的核算速度能够说是“牛拉车“。并且经过它构建一个深度学习结构需求更杂乱的代码,还要忍耐重复的屡次构建静态图。

  归纳来说,关于英文阅览和英文沟通毫无妨碍的同学,TensorFlow仍然是深度学习结构的优选方案,究竟能够和人流通沟通是学习和作业的要点。

101_190820123056_1_lit.png

  Pytorch是依据用Lua编写的Torch库的Python完成的深度学习库,它由Facebook创立,现在被广泛运用于学术界和工业界,跟着Caffe2项目并入Pytorch,也安定了Pytorch紧追并迫近TensorFlow在深度学习运用结构范畴的位置。

  Pytorch官网的标题语简明的描绘了现在Pytorch的特色以及行将发力的方向。Pytorch在学术界优势很大,关于用到深度学习模型的文章,除了Google家的,其他大部分都是经过Pytorch进行实验的,究其原因一是Pytorch库满足简略,跟NumPy,SciPy等能够无缝衔接,并且依据tensor的GPU加快十分给力,二是练习网络迭代的中心-梯度的核算,Autograd架构(借鉴于Chainer),在Pytorch,咱们能够动态的规划网络,而无需蠢笨的界说静态网络图,才能去进行核算,想要对网络有使命修正,都要从头开端构建静态图。依据简略,灵敏的规划,Pytorch快速成为了学术界的干流深度学习结构。

  Pytorch的下风在于模型布置,因为对其布置难度早有耳闻,我没测验过布置Pytorch的模型,一般是在Pytorch快速的实验新的模型,承认好的作用再去找“现成的”的TensorFlow模型做简略的优化。

  不过现在,假如略微深化的了解TensorFlow和Pytorch,就会发现他们越来越像,TF参加了动态图架构,Pytorch致力于其在工业界愈加易用。翻开各自的官网,你也会发现文档风格也越发的类似。

101_190820123128_1_lit.png

  PaddlePaddle是由百度自主开发的开源深度学习结构,近期发现有了中文姓名,飞桨。官网截图也很有意思,许多小人在划桨。飞桨刚发布的时分,并不被看好,感觉更像是Google有,百度也要有的声调,可是近来在做一个关于语义辨认的项目,其他结构支撑中文的模型实在是少的不幸,时刻严重也没有时刻大规模练习,于是就来试试飞桨,其间依据BERT的ERNIE模型取得了较好的作用,布置也不折腾。个人认为能够将模型库中的经典模型套在自己的问题上,作为baseline模型快速实验,然后渐渐调优寻求更好的作用。

  从模型库找到适宜自己的模型,依照实践教程一步步进行就行了,进程仍是比较简略的,遇到的问题在github的issues中都有找到,尽管不像TF那么活泼,可是支撑也是很及时的。我是从官网找模型,发现官网又更新了,盗张图过来感触下支撑的模型。

101_190820123217_1_lit.png

  Figure 5 PaddlePaddle模型库

  功用上,飞桨一起支撑动态图和静态图,能便利的调试模型,便利的布置,十分适宜事务运用的落地完成。飞桨也现已支撑数百个节点的高效并行练习。能够说在曩昔2年的时刻里,深度学习范畴在大规模的落地运用,各家结构也都在快速的开展,可是百度的PaddlePaddle看来是这个阶段开展更快的结构,乃至是开展更快的AI开发生态。

  以上三个结构能够说是现在开展比较快的,并且在安稳更新,维护的。功用上来说,各结构现已“越长越像”了,三个结构仍是会有各自的特色,怎样挑选仍是要依据自己的方针来看。

  下面来简略介绍下其他的一些首要结构。

101_190820123244_1_lit.png
101_190820123311_1_lit.png
101_190820123350_1_lit.png

  4.怎样挑选?

  那么怎样在很多的结构中挑选呢,我的主张有3个结构:TensorFlow,Pytorch,飞桨。其他的不是投入资源有限,便是现已不再维护了。实际上,咱们或多或少应该都了解下这3个结构,针对不同的意图能够快速选型。

  假如是刚刚触摸深度学习,以学习为意图的,我主张从TensorFlow和飞桨开端,至少现在来看,Google和百度是倾全力打造这两个渠道的,他们现已不只是一个深度学习结构了,更是一个AI开发的生态,从根底的视频课程,完善的文档系统到项意图敞开落地供给的是一致的服务。多说一句,百度飞桨的根底文档适当具体,不只有代码完成,数据流进程的教程,一起也包含了具体的算法原理,这点关于还不是那么了解相应模型的同学来说是极大的便利。关于学有余力的同学,仍是主张对这3个结构都了解下。

  假如是出于学术意图的,主张从Pytorch开端,究竟学术研究要紧盯着前沿,看文章,复现文章中模型的作用,选咱们都用的能够节约不必要的时刻本钱,把要点放在优化模型提高模型作用上。

  假如是想要开箱即用,想立刻将深度学习技能运用到自己的场景中测验,我会主张挑选飞桨,飞桨中有许多的实战事例,根本套到相应的场景就能迭代起来了。并且在NLP范畴,需求对各种言语进行预处理,毫无疑问对中文支撑更好的是飞桨,比方ERNIE,其发掘海量的中文数据,对先验语义常识进行建模,增强了语义表达才能,能够作为NLP,NLU运用的根底服务不同的场景。

  顺手贴几个招聘网站上的JD,也能够帮咱们清晰一下方向,供参阅。

101_190820123408_1_lit.png
101_190820123426_1_lit.png
101_190820123453_1_lit.png

  5.未来

  咱们处在更好的年代。

  感谢互联网文明,感谢开源文明,让技能能够以指数级的速度开展,咱们更要感谢在年代转折点的那些引路人,没有Google,百度等企业竭尽全力地测验将新技能运用于各工业,就没有技能的飞速开展,就没有夸姣的日子形式的变迁。

  AI技能的平民化是智能年代开展的催化剂,咱们运用深度学习技能,从原理到结构,再到运用渠道化东西将其落地到一切的场景,这是未来的开展趋势。得益于5G技能的开展,信任在不久的将来,咱们将完成万物互联。深度学习是AIoT年代的要害,各渠道已有的实践落地项目给咱们供给了工业落地的完成途径。可谓星星之火,已成燎原之势,别的,开展我国自己的AI开发生态也相同重要,考虑到近期的“华为事情”,未雨绸缪。

  结束想说,结构、渠道都只是为咱们供给了东西,清晰咱们的方针并找到适宜的场景,推动运用在事务上的落地,完成商业价值才是中心竞争力。

特别提示:本网内容转载自其他媒体,意图在于传递更多信息,并不代表本网附和其观念。其原创性以及文中陈说文字和内容未经本站证明,对本文以及其间悉数或许部分内容、文字的真实性、完整性、及时性本站不作任何确保或许诺,并请自行核实相关内容。本站不承当此类著作侵权行为的直接职责及连带职责。如若本网有任何内容侵略您的权益,请及时联络咱们,本站将会在24小时内处理完毕。


101_190820123512_1_lit.png 本文来历:互联网

本文谈论
101_190820123527_1_lit.png
在曩昔的一个月里,全国人民都在用自己的方法与“看不见”的病毒作战,跟着返程复工大军的...
日期:02-25
回来网站主页
遭到疫情影响,在线教育、在线健身/文娱、在线工作等在线服务迎来迸发,这些本来不属于家庭场景的新...
日期:02-25
华为云“目录区块链”助力北京市精准防治疫情
坐落东湖区雄图路8号的武汉客厅曾是武汉的文明地标修建。从半个月前开端,这儿成为了“方舱医...
日期:02-25
联通阿里联合抗疫:暖心流量包、精灵才智课
2020年2月18日,由华为与天津大学智能与核算学部协作开设的《人工智能运用根底》校级选修课选用华为...
日期:02-25
同济大学隶属东方医院经过华为云WeLink连线武汉
跟着全国各地复工复产的有序推动,社会全体经济也在全面康复。2月25日,合肥市2020年严重工业项目集...
日期:02-25
合肥市工业项目“云签约”经过华为云WeLink满意完成
2月25日音讯 今日午间vivo官方微博再度放出APEX 2020预告:全新APEX 2020将支撑高倍率“接连光...
日期:02-25
ABM+集客营销,助力To B企业获大单?
英特尔今日正式发布全新第二代英特尔至强可扩展处理器。全新第二代英特尔至强金牌处理器比较榜首代...
日期:02-25
vivo发布新海报:APEX 2020支撑高倍率接连光学变焦技能
2月25日下午音讯,vivo旗下iQOO今日举办新品发布会,推出了5G手机iQOO 3。
日期:02-25
英特尔发布全新第二代英特尔至强可扩展处理器
微软Xbox One游戏主机总算能够经过按击游戏手柄上的按钮来弹出光盘了。依据部分参加Xbox Insider项...
日期:02-25
王自健回应“玄乎”手机没做成:投了钱但抛弃了 怕给国产机丢人
2月25日音讯 据三星官方泄漏,三星电子今日宣告现已开端大规模生工业界榜首个16GB 的 LPDDR5移动 DR...
日期:02-25
总算能够用游戏手柄弹出光盘了:微软正测验Xbox One新功用
宅家战疫情,停课不停学
  连日来,各大高校接连线上开学
  而线上教育对师生两边都...
日期:02-25
三星宣告全球首发量产16GB LPDDR5内存 将用于旗舰手机
时至移动互联年代,咱们获取信息仍然需求经过某些必要的途径。品种繁复的APP给咱们供给了愈加多元化...
日期:02-25
科达才智教室 | 清华、浙大、交大等双一流高校怎样正确翻开在线讲堂?
依据三星5nm工艺的高通骁龙X60基带已发布,台积电下半年也将依据5nm(N5)为苹果代工A14、华为代工麒...
日期:02-25
华为快服务才智渠道,重构手机信息服务途径
继武汉体育馆方舱医院后,硚口区第二座方舱医院——新华工业园方舱医院行将建成,估计近...
日期:02-25
Intel眼中的“假7nm” 台积电:N7制程节点命名遵从常规、确非物理规范
本年1月初在拉斯维加斯举办的CES 2020展会上,英特尔曾表明与谷歌扩展协作,将Chromebook参加&ldquo...
日期:02-25
擎朗智能呼应一线需求 送餐机器人助阵武汉新华工业园方舱医院
2月25日音讯,据国外媒体报导,音讯人士泄漏,苹果的下一代智能手机估计将被命名为iPhone 12,iPhon...
日期:02-25
三星Galaxy Chromebook正式发布 价格999美元
跟着疫情局势的逐步好转,各行各业也逐步开端进入复工状况。全新的日子行将开端,也更要坚持本身及身...
日期:02-25
外媒:iPhone 12或许支撑全新短距离WiFi规范 数据传输更快
2月24日晚8点,苏宁召开了一场特别的线上发布会。苏宁易购侯恩龙戴着口罩,化身主播,宣告自27日起...
日期:02-25
国美美店精选复工必备神器 助力无忧健康日子
近来,全国各地进入复工高峰期。苏宁帮客大数据显现,自消杀功用上线以来,北京、上海、南京、广州...
日期:02-25
  专栏介绍
海尔、美的、格力、西门子等全面呼应苏宁24期免息
王涵 的专栏
王涵宣告的文章
积分:
毛遂自荐 :