站长站首页| 下载首页| 源码下载| 软件下载| 素材下载| 模板下载| 安卓下载 最新 | 最热 | 地图 | xml

您的位置: 首页 > 源码下载 > 其他源码 > 开发框架 > MindSpore深度学习框架 v1.3.0
MindSpore深度学习框架

MindSpore深度学习框架

v1.3.0开发框架
下载地址
  • 软件大小:353.08MB
  • 软件语言:简体中文
  • 更新时间:2021-07-19
  • 软件类别:国产软件
  • 软件授权:开源软件
  • 软件厂商:Home Page
  • 运行环境:Python
  • 软件等级:
  • 演示网址:Demo Url

下面我们对MindSpore深度学习框架v1.3.0文件阐述相关使用资料和MindSpore深度学习框架v1.3.0文件的更新信息。

MindSpore深度学习框架是一种适用于端边云场景的新型开源深度学习训练/推理框架。 MindSpore深度学习框架提供了友好的设计和高效的执行,旨在提升数据科学家和算法工程师的开发体验,并为Ascend AI处理器提供原生支持,以及软硬件协同优化。

同时,MindSpore作为全球AI开源社区,致力于进一步开发和丰富AI软硬件应用生态。

 

MindSpore深度学习框架特点:

自动微分

当前主流深度学习框架中有三种自动微分技术:

基于静态计算图的转换:编译时将网络转换为静态数据流图,将链式法则应用于数据流图,实现自动微分。

基于动态计算图的转换:记录算子过载正向执行时网络的运行轨迹,对动态生成的数据流图应用链式法则,实现自动微分。

基于源码的转换:该技术是从功能编程框架演进而来,以即时编译(Just-in-time Compilation,JIT)的形式对中间表达式(程序在编译过程中的表达式)进行自动差分转换,支持复杂的控制流场景、高阶函数和闭包。

TensorFlow早期采用的是静态计算图,PyTorch采用的是动态计算图。静态映射可以利用静态编译技术来优化网络性能,但是构建网络或调试网络非常复杂。动态图的使用非常方便,但很难实现性能的极限优化。

MindSpore找到了另一种方法,即基于源代码转换的自动微分。一方面,它支持自动控制流的自动微分,因此像PyTorch这样的模型构建非常方便。另一方面,MindSpore可以对神经网络进行静态编译优化,以获得更好的性能。

MindSpore自动微分的实现可以理解为程序本身的符号微分。MindSpore IR是一个函数中间表达式,它与基础代数中的复合函数具有直观的对应关系。复合函数的公式由任意可推导的基础函数组成。MindSpore IR中的每个原语操作都可以对应基础代数中的基本功能,从而可以建立更复杂的流控制。

 

自动并行

MindSpore自动并行的目的是构建数据并行、模型并行和混合并行相结合的训练方法。该方法能够自动选择开销最小的模型切分策略,实现自动分布并行训练。

目前MindSpore采用的是算子切分的细粒度并行策略,即图中的每个算子被切分为一个集群,完成并行操作。在此期间的切分策略可能非常复杂,但是作为一名Python开发者,您无需关注底层实现,只要顶层API计算是有效的即可。

MindSpore深度学习框架v1.3.0

本类排行

本类热点