获得徽章 0
#ChatGPT,计算逻辑来自transformer算法

最近很火的聊天机器人ChatGPT,是当前资本市场上最大热点,不少A股相关概念公司在4、5个交易日内涨幅70%-80%甚至更多。

作为一款基于文本的AI机器人,ChatGPT因广泛应用先进AI技术而备受关注。从准确修复编码错误、生成烹饪食谱、创建3D动画,到制作完整的歌曲,ChatGPT展现了AI的惊人能量,为世界带来了不可思议的新能力。

除此之外,它还能听懂你的言外之意。询问很隐晦的问题时,它仍能按照大家约定俗成的理解去回答。

北密歇根大学的一位学生用ChatGPT写了一篇世界宗教课程的论文,导师认为其质量“全班最好”:段落简洁、举例恰当、论据严谨。

ChatGPT的计算逻辑来自于一个名为transformer的算法,它来源于2017年的一篇科研论文《Attention is all your need》。这篇论文是聚焦在自然语言处理领域,但由于其出色的解释性和计算性能开始广泛地使用在AI各个领域,成为最近几年最流行的AI算法模型,无论是这篇论文还是transformer模型,都是当今AI科技发展的一个缩影。

在机器学习算法中有大量的超级参数,比如在transformer里多头机制需要几头N,文字变成向量是512还是更多,学习速率等都需要在训练之前提前设置。由于训练时间长,参数复杂,要想遍历更优秀的计算效果,则需要非常长的摸索时间。

#人工智能 #AI #聊天机器人 #transformer #算法模型 #论文
展开
评论
#非凸大事件分享·第1期

作为市场最活跃的机构投资者,量化行业将受益于全面注册制的落地。某券商金融科技负责人表示,全面注册制将扩大融券券源范围,增加了更多对冲工具,利好量化对冲策略,可以更好地实现稳健收益,并提升规模容量。
#注册制 #量化发展史 #机构业务
非凸科技于2023-02-03 19:22发布的图片
评论
为什么很多项目开始使用Rust语言进行重写?

据报道,KCL项目组最初使用Python编写,出于用户使用体验、性能和稳定性的考虑,决定用Rust进行重写,并获得了以下好处:
1. 更少的 Bug,源于 Rust 强大的编译检查和错误处理方式
2. 语言端到端编译执行性能提升了 66%
3. 语言前端解析器性能提升了 20 倍
4. 语言中端语义分析器性能提升了 40 倍
5. 语言编译器编译过程平均内存使用量变为原来 Python 版本的一半

越来越多的编程语言的编译器或运行时特别是前端基础设施项目采用 Rust 编写或重构,此外基础设施层,数据库、搜索引擎、网络设施、云原生、UI 层和嵌入式等领域都有 Rust 的出现,这在编程语言领域实现方面经过了可行性和稳定性验证。通过Rust可以获得更好的性能和稳定性,让系统更容易维护、更加健壮。

Rust的开发效率可以用先抑后扬来形容。如果团队成员没有接触过函数式编程相关概念以及相关的编程习惯,开发速度将显著慢于Python、Go和Java等语言,不过一旦开始熟悉Rust标准库常用的方法、最佳实践以及常见Rust编译器报错修改,开发效率将大幅提升,并且原生就能写出高质量、安全、高效的代码。

如果你对Rust语言有兴趣,一起学习起来吧~
来源:Rust中文社区 #编程语言
展开
评论
2023非凸招聘,来啦!

【招聘岗位】Rust开发工程师/商务经理/量化策略研究员
【投递邮箱】recruit@ft.tech
【官方网站】ft.tech
【工作地点】北京/上海/成都/新加坡

【公司福利】1.新人培训体系完善,1对1导师制;2.弹性工作制,上下班不打卡;3.顶配Macbook,宽敞办公桌,人体工学椅;4.五险一金,协助落户,年度体检,定期团建。

云参观非凸:www.zhihu.com
展开
非凸科技于2023-01-31 16:49发布的图片
非凸科技于2023-01-31 16:49发布的图片
非凸科技于2023-01-31 16:49发布的图片
非凸科技于2023-01-31 16:49发布的图片
评论
瑞兔呈祥,新程启航!非凸科技祝大家开工大吉!
非凸科技于2023-01-28 09:57发布的图片
评论
非凸定制红包,限量领取哦[庆祝][666][发][胜利]
#春节 #兔年 #红包
非凸科技于2023-01-21 18:17发布的图片
评论
除夕之夜辞旧岁,非凸科技祝您阖家团圆![庆祝]新年快乐![耶]

#兔年 #除夕 #年夜饭 #团圆
非凸科技于2023-01-21 08:54发布的图片
评论
私募量化回顾,2022这一年

2022年的指数增强策略依然还是那个王者,平均业绩表现明显强于大盘和基金指数,量化私募们的超额alpha依旧存在。

经历过2021年四季度的超额集体大回撤后,超额已经不再性感。2022年1000指增超额约13%,500指增超额压缩到约10%,300指增超额约8%。结合海外成熟市场的经验,大家对超额收益已经形成共识,未来可能会逐渐衰减,但不会完全消失。

规模是业绩的敌人,如果无法有效提高超额稳定性,只能寻求降低交易频率,放松风控,加大偏离容忍度等方式,与之而来的风险也大幅提升,业绩魔咒需要警惕。

2022年的Barra风险因子表现,成长和盈利因子全年表现低迷,beta、市值、动量等因子波动大,出现明显回撤。流动性和非线性市值趋势较为稳定,相比于2021年风格方向的趋势性更为稳定一些。

2022年量化中性策略业绩平均涨幅仅3.6%,大幅低于2020年平均15%,以及2021年8%左右的中性收益水平。

中证1000股指期货IM于2022年7月22日正式上市交易,也为多年冷寂的股指期货市场带来重磅衍生品工具,IC/IF/IH/IM四足鼎立。

来源:二叔说市
展开
评论
2023年A股市场回暖已成共识

近日,多家私募认为,2022年A股市场结构性行情并不明显,这对机构投研水平给予了较高难度考验,从整体策略来看,量化指数增强相对表现较好;站在当下,A股市场回暖已经成为共识,周期股和成长股具备较明显配置价值。

思勰投资表示,2022年对于证券类私募基金来说,整体表现各不相同,但相对来看,量化交易中的指数增强策略相对较好;一方面,通过胜率捕捉市场投资机会,另一方面,积极做好投资者教育工作,主动把握市场节奏,并以自购基金的实际行动鼓励投资者建仓,与投资者同行。

对于2023年投资展望,思勰投资认为,当前A股市场回暖已成为市场共识,站在复苏行情起点上,更看好权益类市场投资策略中的量化交易;其中,对于量化策略中的CTA投资,目前已处于历史最大回撤区间,新行情或将启动,量化CTA的投资价值同样值得关注。

远信投资首席研究官黄垲锐认为,2023年将是非常好的投资窗口,市场正在走出“颠簸”阶段,很多行业逐渐进入新的上行期,A股难得站在了基本面变化、估值、利率流动性、风险偏好均相对有利的时点,当前有很多高置信度、高性价比的投资机会。2023年经济复苏确定,但幅度仍需要进一步跟踪。

来源:证券日报
展开
评论
2023新年聚餐,又多了很多可爱的新同事!

2023年,非凸科技将继续扩大团队规模,提升服务质量,迭代最优算法,坚守初心,让中国自己的算法交易实现跨越式发展。

新的一年,祝大家兔年身体健康!心想事成!再创佳绩!
非凸科技于2023-01-16 14:09发布的图片
评论
去年逾70%百亿规模私募亏损,2023年有望获取正收益

中国证券投资基金业协会发布的最新数据显示,截至2022年底,存续私募证券投资基金92754只,资金管理规模5.56万亿元;存续私募股权投资基金31550只,资金管理规模10.94万亿元;存续创业投资基金19354只,资金管理规模2.83万亿元,均呈现稳步增长。

但这背后,是众多私募基金经历不平静的一年。70%百亿规模的私募亏损,百亿规模私募频繁发布道歉与投资失误反思公开信,PE基金普遍遭遇募资难,等等。

值得注意的是,防疫措施优化令宏观经济回升,正持续提振国内高净值投资者的投资信心,带动各类私募基金募资趋于回暖。

百亿量化私募基金负责人透露,近期不少高净值投资者开始主动询问是否新发基金产品,以及绩优私募基金的打开申购时间,这预示着更多增量资金开始回流私募市场,正给私募行业高质量发展注入新的“活水”。

相比去年私募证券基金平均收益为-8.03%,量化私募似乎相对抗跌。以28家百亿级量化私募为例,去年他们平均收益为-1.33%,其中11家百亿级量化私募取得正收益,占比40%。

多位量化私募基金人士表示,这主要得益于股票增强型量化私募产品业绩跑赢行业平均水准,究其原因,一是量化模型对市场波动的预测性较好与精细化运营能力较强,另一方面不排除存在某些量化投资策略通过加大风格暴露以博取更高回报。
展开
评论
Rust 2024,增强用户间的彼此合作

Rust 2024 Edition目标是广泛使用,即让越来越多的人开始使用 Rust。Rust 结合了所有权和借用、底层系统控制以及过程宏等强大的可扩展性机制,使其成为编写库的绝佳语言。而且多亏了 Cargo,在程序中使用一个库只需要几行代码。尽管如此,仍有许多事情是库作者不能做或不容易做到的。例如,他们无法控制用户看到的错误消息或部署需要特殊选择加入的“Unstable”功能。

Rust 2024 希望通过帮助管理功能生命周期或扩展库的功能来构建使库作者能够更好地为用户服务的功能。

(1)功能生命周期:帮助库作者在功能从实验阶段过渡到最终完成阶段时为其提供支持。帮助库作者管理他们的开发生命周期和演变。

(2)更丰富的抽象:扩展语言让库作者表达更丰富的抽象。比如,支持 GAT ,让开发者编写更通用的库。

(3)定制开发人员体验:许可库作者可以定制开发人员体验,例如,定制未实现 trait 或引入自定义 lints 时用户收到的错误消息。

(4)互操作性:库生态系统可以轻松协调,使库协同工作,而无需将它们捆绑在一起。库作者可以根据需要编写可在多种环境中移植或特定于一种环境的代码。

来源:Rust语言中文社区
展开
评论
为什么选择Rust作为项目语言?

KCL项目开发者选择使用Rust进行重写后,提速了40倍,bug也更少了。KCL 是一种基于约束的记录与函数开源语言。KCL之前用 Python 进行编写,考虑到用户体验、性能和稳定性等因素,决定用 Rust 重写。

选择理由:
1.相同场景下,Go和Rust的性能差不多,Python明显落后一些。综合考虑,决定选择Rust。

2.越来越多的编程语言编译器或运行时,开始用Rust进行编写或重构。此外Rust还广泛出现在基础设施、数据库、搜索引擎、网络、云原生、UI、嵌入式等领域。从这个角度,Rust 语言的可行性和稳定性至少有所保障。

3.KCL项目开发者考虑到后续项目开发将涉及到区块链和智能合约方向,发现社区中有大量区块链和智能合约项目都是用Rust编写的。

4.使用Rust可以带来更好的性能和稳定性,让系统更易于维护且更加健壮。Rust 还可以通过 FFI 对外开放 C API,借此实现多语言使用与扩展、方便生态融合。

5.Rust 能很好地支持 WASM。目前有很多 WASM 生态系统都是由 Rust 构建而成。

非凸科技也不例外,将Rust应用于量化交易项目开发,之前用C++,目前已全部改写为Rust语言。在重写过程中,发现Rust的综合素质确实非常优秀(性能高、抽象度好)。虽然某些语言特性还不完善,比如生命周期上会带来一定额外成本且生态不够丰富,但 Rust 仍给大家留下了深刻印象。
展开
2
深度学习算法

深度学习的三要素包括算法、数据、算力。目前深度学习算法主要基于Transformer骨干网络进行分支网络的创新,如引入扩散模型、强化学习等方法。

深度学习时代的开启依托于 2011 年 Relu 激活函数被提出、梯度消失问题被大幅缓解,此后深度学习算法和应用的发展均突飞猛进。

最初卷积神经网络(CNN)通过对高层次特征的提取和压缩,擅长图像分类等任务;循环神经网络(RNN)通过对时序信息的提取,擅长文字、语音识别和理解等任务。2017 年 Transformer 的提出让深度学习进入了大模型时代、2020 年 Vision Transformer 的提出让深度学习进入了多模态时代。由于 Transformer 在大数据并行计算方面具备优势,且训练数据增长后对模型精度提升明显,自此各模态和各任务底层算法被统一为 Transformer 架构。

深度学习底层算法发展放缓,数据无监督学习、数据生成以及高算力芯片成为行业发展的重点方向。目前深度学习算法主要是基于 Transformer 骨干网络来进行分支网络的创新。但随着 Transformer 基本完成底层算法统一之后,整个行业底层算法发展速度开始放缓,静待骨干网络的下一次突破。同时基于Transformer 对大数据的需求,催生了无监督学习、高算力芯片的发展。
展开
非凸科技于2023-01-05 16:11发布的图片
评论
机器学习的技术发展趋势

据预测,截止到2023 年,人工智能市场总额将高达5000亿美元,到2030年将达到 15971亿美元,意味着,不久将来,机器学习技术仍将继续处于高需求状态。

1.基础模型。是人工智能工具,经过大量数据训练后,甚至不输于常规神经网络。基础模型对于内容生成和汇总、编码和翻译,以及客户支持方面都有积极贡献。它们可以快速扩展,并处理以前从未见过的数据,因此具有出色的生成能力。

2.多模态机器学习。建议通过多种方式来体验世界,从而构建更好的模型。可以组合不同类型的信息,并使用它们来训练模型。

3.Transformer(转换器)。一种人工智能架构,它使用编码器和解码器对输入数据序列进行转换,将其转换为另一个序列。广泛用于翻译及其他自然语言处理任务。

4.嵌入式机器学习。是机器学习的一个子领域,目标是让机器学习模型能够在不同的设备上运行。多用于家用电器、智能手机和笔记本电脑、智能家居系统等。

5.低代码和无代码解决方案。机器学习和人工智能已经渗透到各个领域,即便是非技术人员也能使用的机器学习解决方案被视为保持整个组织效率的关键。与其投入大量时间、精力和成本来学习编程,不如选择零或接近零编程技能的应用。

在一些技术领域,2023年机器学习的应用也将继续增长,包括创造性人工智能、自主系统、分布式企业管理以及网络安全。Gartner预测,2023年机器学习将继续渗透到更多业务领域,帮助各个组织提高效率和工作安全性。

来源:CSDN
展开
评论
下一页
个人成就
文章被点赞 37
文章被阅读 17,841
掘力值 770
收藏集
0
关注标签
18
加入于