本篇文章6155字,读完约15分钟

旷视天元深度学习框架全球首发!3个实习生写下一行代码,27项全球ai竞赛冠军背后的绝密武器正式开源

新智元报道【新智元领先】刚,中国ai独角兽开源深度学习框架广泛发布天元( megengine ),试图为中国ai的应用奠定新的基础。 六年前,三名实习生从第一行代码开始写,在困难的创业中在世界ai比赛中获得了27项冠军,今天在天元开源,敢与tensorflow等世界主流深度的学习框架竞争。 这个绝密武器又处理了开发者的痛点吗? “新智元急忙聘请主笔、高级主任,追加hr微信( dr-wly )或扫描文末二维码了解详细情况。 “ 。

刚才,中国ai领导公司召开了震撼行业的网上发布会,为世界开发者开放了ai生产力平台brain++的核心组件天元( megengine )。 天元也成为中国ai企业开发的第一个国产深度学习框架。

天元项目负责人兼游视研究院高级技术负责人田忠博表示,此次开源天元是训练推理一体化、动态一体化的工业级深度学习框架,完善了使用训练和推理在同一框架、同一个人体系内支持的设计,

游戏研究院高级技术负责人田忠博

这几年,游视在研究开发过程中遇到了很多痛点,这些痛点也是领域共同的痛点,这些痛点由天元处理。

根据开放的元体系结构,具体分为计算界面、图表示、优化和编译、运行时管理和计算内核五个级别。 在顶级计算接口中,天元配置了c++和python接口,处理框架的学习接口不同,在模型难以再现问题的图显示层中,天元内置了动态静态转换功能,开发者启动

我以为megengine起了中文名字的时候,有很多想法。 田忠博最后选定的“天元”有很多意义,首先,“天元”在围棋中位于棋盘的中间,另一方面,megengine不仅是技战术大图的最核心“布局”,还以深度学习框架这样的ai基础设施为身体。 其次,在古代数学的概念中,“天元”代表一元方程式,是许多复杂方程式的基础。 在古代天文学中,“天元”的地位和“太一”一样指的是北极星,是万物的本源和开始。 总之,将megengine命名为“天元”,这一系统真的是大家共同的基础,成为ai系统的重要组成部分,希望各行业能促进更好的应用和落地ai。 根据“深度学习、简单开发”的理念,天元有四个优点:

1 .训练推理一体化的玩耍天元支持研究者的算法训练,训练的模型和产物可以直接为产品进行推理、封装。 通过省略模型转换,不仅大大简化了算法开发过程,还实现了速度和精度的无损转移,即使引入了模型的交叉设备,天元也可以实现精度的对齐。 部署时,天元也有助于开发者自动删除冗馀代码,实现模型的自动优化。

2 .动静一体型

静态图性能高,资源少,易于部署。 动态图简单灵活,调试方便,使用方便。 视天元综合动态图和静态图各自的特征,完全利用动态图模型的训练特征时,通过动态静态一键变换功能,以静态图的形式完成生产和配置。 另外,天元也支持动态静态的混合编程,灵活性很高。

具备pythonic API的兼容性和包视天元,对一直以来在Python进行机器学习的开发者非常友好,学习价格低,使用方便,天元支持pytorch module功能,直接引入模型,转移价格 天元内置高性能计算机视觉算子和算法,在计算机视觉相关模型的训练和应用中实现深度优化。

4 .灵活高效

视天元具备较强的多平台多设备适应能力,通过汇编和指令排序等技术,天元内置操作员在推理和生产环境中完全利用多核的特征,可以灵活调用设备的计算能力,特别是大规模模型

孙剑: 1400+名研发人员全部录用,天元就像我们的孩子

玩的首席科学家、研究院院长孙剑介绍了使用玩的天元进行更好的研究的方法。

根据有1400多名研发人员,全员采用玩天元引擎,在一百个产品、数十种计算平台上。 孙剑亲切地把天元比作他们的“孩子”,介绍了这种“孩子”的三大特色优点:

优点之一是框架和算法的合作。 现在计算平台的差异非常大,只设计一个互联网并不容易,可以满足所有的诉求。 以天元框架为中间桥梁,根据不同设备的计算特点,通过共同设计网络结构和框架运算符,得到了最高的性能。 shufflenet是共同设计的成果,近年来在边缘非常有效地工作的神经互联网的设计是有效的。

优点2 .高效的训练系统。 在coco物体检测和识别挑战中,取得了年、年、2019三连冠的好成绩。 其中一个非常重要的特征是看天元这样训练快的系统。 第一次从框架中引入synced bn技术可以支持非常大的mini-batch训练,因此可以非常快地训练系统。

好处3,大规模能力。 孙剑表示这与大数据有关,推出了最新版的objects365v2版本。 这是世界上最大或更大的物体检测数据集,该数据集有365种一般物体,有200多万张图像,超过2800多万个体的工标框架。

来自ai业务的深度学习框架

从年到年,alexnet不叫框架,写了一套可以跑扩大的NV GPU的软件。 之后,贾扬清博士在伯克利建立了caffe的开源系统。 这个系统成为了第一代被广泛采用的深入学习框架。

megengine是第二代深度学习框架的训练进化,是根据计算图理念开发的。 这种方式非常灵活,很多计算完全自动化,编程整体变得容易。 年晁视基本完成了megengine的开发,也参考了以前的开源软件。 直到2010年tensorflow发布开源,大家才意外地发现是基于计算图的。 但是,tensorflow刚发送的开源软件不完整,内部也发现与此相比,自己做的利润很大,所以在一面又做了好几次。 现在内部版本重复到8.0。 广视的框架综合了实用时的深度学习、人工智能落地的问题。 从实际问题来看,也是建立这个框架的初衷。

与google和facebook等大型平台企业开发的深度学习框架不同,广视是100%的ai企业,广视的深度学习框架成长为自身的核心业务,因此ai企业的深度学习框架和普拉 我想从这个方向可以确定ai的方向为开发者提供实用的平台和方便的工具。

当前主流框架的开源时间、开发主体和框架特征

除了看开源( 300109,股吧)的天元外,现在世界主流的深度学习框架包括蒙特利尔理工学院2007年推出的theano、加利福尼亚大学伯克利年推出的caffe、谷歌大脑年开源 ois chollet年发售的keras、亚马逊年末开源的mxnet、facebook年开源的pytorch、微软年开源的cntk、百度年开源的桨等。

其中,tensorflow和pytorch有两个极端,pytorch采用动态图灵活方便地调整,适合学术科学研究,但tensorflow使用静态图有利于引进,适合工业界的采用,适合开发者使用。

这次的开源可以说是在国产深度学习的框架上打了强心剂。 比起市场主流深度的学习框架,看空元出手更快,学习价格和转移价格都很低。 作为一家成功ai的公司,实践是最宝贵的经验。 比起实现开源框架,开源框架的最大区别在于开源是唯一的ai本业公司,开源本身是ai solution,开源框架是ai。

天元是怎么产生的?

众所周知,玩耍是中国的领导者ai公司之一。 近年来,他席卷了世界cv大赛,获得了27个世界ai大赛的冠军。 数据、算法和计算能力三个核心组件集成到brain++系统中。 作为伴随自己6年ai产业实战经验的框架,天元不仅可以在ai比赛淘汰赛中追加buff,还支撑着工程化、产品化的一半天空。 年,疫情现在,游戏为什么突然选择公开镇上的家宝,向业界共享绝密武器? 这也从天元的起源开始。 天元诞生——在清华宿舍开发面部算法,三个实习生写框架第一行代码创立,三个清华“姚班”学霸创立。 初期,用以前传下来的论文进行了算法的开发。 年中深度学习才刚刚开始,游戏研究院就开始采用深度学习检测器。 清华宿舍的实习生填补了前两周,开发了面部识别检测算法。 在昏暗的光线条件下也能正确检测到脸,前所未有的算法性能技术让我吃惊,所以游戏正式开辟了神经互联网( nn )的所有道路。 当时,由于条件苛刻,服务器、主板、显卡等设备需要把人肉一张一张地从美国背回去,训练神经互联网的第一台机器是牵手组装的四卡游戏用台式机。 最初,必须用theano框架写模型代码,训练神经网络,一次训练编译几个小时。 随着互联网的增长,越来越多的复杂性增加,低效且耗时的框架不仅会崩溃,还会在theano等早期框架中包含简单的代码,处理冗长的代码。 虽然期待“炼丹的工作会更快”,但训练的效率依然无法满足快速发展的诉求,炼丹进程可能需要3~5周才能完成。 年末,当时的研究开发负责人曹志敏提议构建通过数据、训练和业务的自动化算法研究开发系统cycle++,在不投入很多人才和时间的情况下,从算法的研究开发到应用的自我循环系统(游戏brain++ 因此,年初,游视研究院的3名实习生(贾开、李百恩、魏铭)写了第一篇代码,不到半年,游视自研的初版深度学习框架——megengine正式诞生。 随后,为了跟上快速发展的进度,研究院理解了业务的深度信息表现和一线诉求,再现了业务所需的神经网络,又花了半年时间,每年完成了扩大自研框架和内部所有业务的轨道,业务在线的模式 年11月9日,谷歌正式宣布,开放源代码tensorflow。 而且,研究院的几个实习生坐不住。 他们惊讶地发现tensorflow接口、理念等设计思路出乎意料地一致。 tensorflow的开源对开放的自我学习框架产生了巨大的冲击。 那是保留问题。 大工厂既然开源了,是否依然有必要建立自己的框架? 对此,游视内的部分成为两派,进行长期大讨论,最终决定用科学的方法决定,经过大规模评价,游视研究者认为开源的tensorflow的性能不理想,实际上是游视自我研究的框架的10倍 这使得游视更坚定地走上了自研的道路。

在27个全球ai比赛冠军的背后,绝密武器是“三位一体”brain++随着业务的加速扩张,强调了业务实践中游视自研框架的特征,算法训练周期从2、3周缩短到3-5天。 那时tensorflow还没有处理多卡的扩展性问题,一张卡和八张卡的计算效率没有很大差异。 但是,玩耍的自我研究框架的效率接近线性加速比,开始疯狂购买八卡机。 当时,由于环境严峻,框架开发小组为了服务器能稳定运行,请制冰企业每天放冰物理降低温度,但高速运行的服务器吃了太多电,被大楼的不动产警告为“定时炸弹” 从研发到业务全面的自我学习框架和自我计算集群的转移,标志着数据、算法、计算能力三个核心组件正式完成了“大统一”,从此出现了ai生产力平台brain++雏形 -2019年,根据brain++大规模分布式训练能力和由业界领先的分布式计算技术训练的超大规模深度学习模式,累计获得27场全球ai比赛冠军,包括云、移动、 开发了大量引进边缘全球计算平台的先进深度神经网络,强大了个人物品的互联网、城市物品的互联网、供应链物品的互联网这三个垂直场景的能量 为了加快ai技术的落地,让更多的开发者和公司顾客采用ai“源动力”,从2019年开始将brain++最核心深度的学习框架作为开源,开始为megengine加上中文名字——天元做准备。 在此期间,框架研究开发小组可以说经历了公共汽车火灾的再生。 必须分解和重新组织原始打包的代码,以适应广泛的开源客户招聘体验。 与其喂人鱼,不如喂鱼。 开源深度学习框架的理由很简单,因为自己想用好的东西和大家分享。 学习ai,让立志用ai改变世界的开发者们更简洁高效地用ai创造,一方面实现ai+产业释放本插件的生产力,另一方面,框架代码接受大众的检查,激发越来越多的技术贡献者。 现在,为了进一步提高研究者在训练上的便利性,游视天元( megengine )从以前传来的静态图计算模型向动态方向转移,将来随着天元的开源,brain++的各种能力逐渐向开源开放

深度学习简单,为一般开发者创造ai界的“炼丹炉”

为了处理在无限场景中层出不穷的新问题,我们认为无限的算法是必要的。 要得到无限的算法首先必须建设ai的基础设施,从长远来看只有两个叫做ai基础设施: ai芯片和ai基础的平台级产品。 众所周知ai芯片是ai的计算平台,但对于ai基础的平台级产品,联合创始人兼cto唐文斌给出了具体的定义: ai生产力平台。 纵观内部,有一个生产力平台——brain++。 brain++是数据、算法、计算能力一体化的大平台概念,中心能力包括数据的解决、清洗、管理能力、计算能力的共享、调度、分散能力、算法的训练、推理、部署能力 简单来说,brain++是作为ai制作的visual studio的一套,可以比较有效地处理ai的研发门槛高、价格高、效率低的问题,为产学研各界提供一站式、全工艺的人工智能专业处理方案 正如公开会上提到的,brain++的能力以开源和开放的形式与业界逐步共享。 业界喜欢用“炼丹”来比喻算法的研究,数据是金木水火土等各种矿物和自然元素,框架是炼丹的炉子,计算力是炼丹炉下的火。 元素不全,炉子好不好,火不旺,决定了ai开发者能否练习一种ai的万能药。 从开源发布会可以看出,开源的中庭已经有设施齐全的炼丹房。 ——brain++,今天他们打算免费采用他们炼丹炉的开源给大家。 关于炼丹的原材料和柴火,可以根据客户的诉求合作采用。 开源并不意味着完美。 开源发布了天元alpha版,计划6月提供第一个里程碑版beta版,在这个过程中,开源对天元提出批评、提出建议、对code做出贡献的人在增加,唐文斌说:“新一代的天元是ou 所有深度学习框架的存在是为了方便开发者,天元站在前人的肩膀上蓝色优于蓝色,展开深度学习开源框架的新图,也为开发者们提供了新的选择。 天元开源地址和通信社区门户

那么,这个炼丹炉到底好用吗? 发布会上,发布了github和openi的天元代码管理地址,发布了名为megstudio的在线深度学习工具和模型中心modelhub,支持开发者开箱后不久。 其中,modelhub收集了世界级算法的一些事先训练的模型,以及游戏研究院的最新技术、研发成果。 表明sota的型号在增加。

你想尽快开始吗? 天元megengine深度学习框架官网: megengine/github开源地址: github/megengine/megengine最后一个鸡蛋上写的:天元和新智元 。

玩是新智元的融科邻居,特别有缘:新智元所有的办公室,会议室以“天”字开始,一个办公室的名字正好是“天元”。 看了“天元”的发表,希望天时地利人,和新智元携手打造“天元”,与中国数百万开发者一起创造学ai使用ai的精彩新天地。 【视频:新智元创始人、ceo杨静送天元】

人工智能吹响了智能大航海时代的号角,ai也成为了疫情救援的技术主题词。 新智元特发表了“ai方舟”的直播公开课,根据“ai开放创新平台”的小程序,请一线ai技术专家分享实战经验,带你一起迈向装载干货的新旅程。

本文是首次在微信公共平台上发表:新智元。 复印件是作者个人的观点,不代表搜狐网的角度。 投资者据此,风险请自己承担。

来源:搜狐微门户

标题:“旷视天元深度学习框架全球首发!3个实习生写下一行代码,27项全球AI竞赛冠

地址:http://www.shwmhw.com/shxw/69097.html