2018上半年深度学习框架小结

2018上半年深度学习框架小结
ps,
总算,《零起点2机器学习与量化建议》全部完稿,正常年底应该可以出版。
至此,《零起点2Python量化》三部曲全部完成,
作为国内Python量化的开荒原创作品,虽然部分内容有些零乱,但在广大读者的支持下
整体效果还是不错的,是国内目前Python量化最好的中文图书
并获得不少大学、金融公司,培训机构认可,成为杭州科大、光华MBA的量化教材

  • @@
    到年底还有半年,可以尽心研究一下神经网络、深度学习在量化实盘的具体应用。
    下午在github,对几个深度学习的框架做了一个简单扫描:
    tensorflow 102k
    pytorch, 16.3k
    torch,7.9k
    mxnet 14.1k
    gluon 2.5k
    keras 30.4k

@@star

TF还是一枝独秀,102K的star,比其他全部框架加起来还多
pytorch,16k加上torch,8k,差不多也25k的star了,前几天0.4版才支持win平台,1.0后,可能会好一点
mxnet 14k,加上gluon 2.5k,差不多18k
keras 30k,不愧为老牌AI,基本上从传统机器学习,存活到神经网络时代,也就keras了

 

@@个人角度

就个人角度而言,年轻的华人团队

比较喜欢mxnet,特别是其新一代的,gluon简化接口。
mxnet因为win版本迟迟不出,到前几天0.4版本才支持win
pyTorch,本质上相当于GPU版本的numpy,再套上一个神经网络的app,非常舒服,除了backward的函数定义调用模式
keras除了速度慢一点,基本上可以通吃所有架构。

@@LFD二进制版本

机器学习模块库,大部分都需要用户二次编译,因此LFD提供了二进制版本,
TF、keras、pytorch,都有cuda9的最新二进制版本模块库支持
奇怪都是,LFD网站没有提供mxnet的二进制版本,
上半年,TOPO极宽量化开源组编写《MXNet与量化交易》(已经完稿,下半年出版),在github找到一个非官方的二进制版发布网址:
https://github.com/yajiedesign/mxnet/releases
这个是mxnet团队成员每天都会更新的 二进制编译模块库 可以直接安装到zwpy 和其他py环境
今天又检查了一下,发现还可以下载,而且基本上cpu版本的每2-3天更新一次,GPU版本的一周更新一次

@@gan对抗学习

gan对抗学习是目前深度学习,神经网络最热门的领域。
理论上,gan对抗学习,在量化分析方面也大有用武之地
可是,一直没有发现合适的案例和资料
在gan对抗学习,pyTorch一直是大哥大般的存在,
TF虽然因为开源早,star多,小白用户多,可到专业领域,每年的AI论文发布,原创新项目,还是torch居多
keras因为简单,通吃所有框架,在gan方面也有不少项目
而mxnet,tf两个框架,在gan对抗学习,相关的项目就非常零乱,而且在级别,创新方面都有些low

github上面,有个开发人员,把20个经典的gan对抗学习案例,做成了一个集成项目
而且分为keras和pytorch两种不同的版本
https://github.com/eriklindernoren

@@目标检测模型YOLO

以“快到没朋友”著称的流行目标检测模型YOLO v3也发布了
而且有keras版本版
https://github.com/qqwweee/keras-yolo3
这个和笔者早年的字库项目:百字工程# 汉字笔画拆分 课题 有些关联
《字王·百字工程·第一阶段纪念》http://www.topquant.vip/?p=371

 

@下一步

下一步,在对以上架构进行几个案例的分析后,大概率考虑会侧重pyTorch和keras
至于 mxnet,虽然也是华人团队的作品,但影响力太弱,还需要增强
keras虽然速度慢,不过keras2已经优化不少,也是TF的核心模块
再考虑到金融量化,属于非专业的AI领域,而且金融领域,资金方面还是相对充裕的,速度不行可以堆硬件
keras的另外一个好处,就是可以通吃所有架构

发表评论

电子邮件地址不会被公开。 必填项已用*标注