
深度学习算法:
1.卷积神经网络(convolutional neural network), 这种算法在图像识别中应用广泛。
2.Recursive neural network, 这种算法主要用在时序数据集中,比如语音。
3.neural autoregressive topic model, 这种算法主要用在自然语言处理(主题模型)中。
4.基于autoencoder, restricted Boltzmann machine的深层模型。
5.sum-product network,这种模型是基于和积运算的。
平台、框架:
印自:
一、Caffe。源自加州伯克利分校的Caffe被广泛应用,包括Pinterest这样的web 大户。与TensorFlow一样,Caffe也是由C++开发,Caffe也是Google 今年早些时候发布的DeepDream项目(可以识别喵星人的人工智能神经网络)的基础。
二、Theano。2008年诞生于蒙特利尔理工学院,Theano派生出了大量深度学习Python 软件包,最著名的包括Blocks和Keras。
三、Torch。Torch 诞生已经有十年之久,但是真正起势得益于去年Facebook 开源了大量Torch的深度学习模块和扩展。Torch另外一个特殊之处是采用了不怎么流行的编程语言Lua(该语言曾被用来开发视频游戏)。
除了以上三个比较成熟知名的项目,还有很多有特色的深度学习开源框架也值得关注:
四、Brainstorm。来自瑞士人工智能实验室IDSIA 的一个非常发展前景很不错的深度学习软件包,Brainstorm 能够处理上百层的超级深度神经网络——所谓的公路网络Highway Networks。
五、Chainer。来自一个日本的深度学习创业公司Preferred Networks,今年6月发布的一个Python框架。Chainer 的设计基于 define by run原则,也就是说,该网络在运行中动态定义,而不是在启动时定义,这里有Chainer的详细文档。
六、Deeplearning4j。 顾名思义,Deeplearning4j 是”for Java”的深度学习框架,也是首个商用级别的深度学习开源库。Deeplearning4j由创业公司Skymind于2014 年6月发布,使用Deeplearning4j的不乏埃森哲、雪弗兰、博斯咨询和IBM等明星企业。
DeepLearning4j 是一个面向生产环境和商业应用的高成熟度深度学习开源库,可与Hadoop和Spark集成,即插即用,方便开发者在APP中快速集成深度学习功能,可应用于以下深度学习领域:
人脸/图像识别 语音搜索 语音转文字(Speech to text) 垃圾信息过滤(异常侦测) 电商欺诈侦测
七、Marvin。是普林斯顿大学视觉工作组新推出的C++ 框架。该团队还提供了一个文件用于将Caffe模型转化成语Marvin兼容的模式。
八、ConvNetJS。这是斯坦福大学博士生Andrej Karpathy开发浏览器插件,基于万能的JavaScript可以在你的游览器中训练神经网络。Karpathy还写了一个ConvNetJS 的入门教程,以及一个简洁的浏览器演示项目。
九、MXNet。出自CXXNet、Minerva、Purine 等项目的开发者之手,主要用C++ 编写。MXNet 强调提高内存使用的效率,甚至能在智能手机上运行诸如图像识别等任务。
十、Neon。由创业公司Nervana Systems 于今年五月开源,在某些基准测试中,由Python和Sass 开发的Neon的测试成绩甚至要优于Caffeine、Torch 和谷歌的TensorFlow。
另外:
【BDTC先睹为快】邹永强:腾讯Mariana深度学习平台实战细节大曝光-CSDN.NET
Mariana针对腾讯多种应用,打造了三套框架:1)Mariana DNN:深度神经网络的多GPU数据并行框架 ;2)Mariana CNN:深度卷积神经网络的多GPU并行框架 ;3)Mariana Cluster:深度神经网络的CPU集群框架。Mariana基于GPU集群进一步提升模型规模和训练性能。Mariana在微信语音识别、微信图像识别均已成功落地应用,在图文类效果广告点击率提升方面也取得初步应用。
【重磅】Google 分布式 TensorFlow,像 Android 一样带来 AI 复兴?
TensorFlow:
TensorFlow 是为使用数据流程图的数值计算开发的开源软件库。图中的节点表示数学运算,而图的边代表着彼此沟通的多维数据阵列(Tensors)。在只使用单个 API 的情况下,灵 活的架构可以让你在桌面、服务器或者移动设备的单个或多个 CPUs 和 GPUs 部署计算。TensorFlow 最早由 Google Brain 团队的研究人员和工程师研发,目的是管理机器学习和深度神经网络的研究工作,但是这个系统也足够通用,适用于其他的应用领域。
