首页
首页
沸点
课程
直播
活动
竞赛
商城
APP
插件
搜索历史
清空
创作者中心
写文章
发沸点
写笔记
写代码
草稿箱
创作灵感
查看更多
会员
登录
注册
OneFlow一流科技
掘友等级
团队
|
一流科技
一流科技OneFlow团队的技术分享账号,专注于深度学习,擅长分布式相关。 ★ OneFlow深度学习框架:github.com/Oneflow-Inc/oneflow ★ OF云平台:oneflow.cloud
获得徽章 7
动态
文章
专栏
沸点
收藏集
关注
作品
赞
48
文章 48
沸点 0
赞
48
返回
|
搜索文章
OneFlow一流科技
团队 @一流科技
·
6天前
关注
好久不见!OneFlow 1.0全新版本上线
OneFlow 迎来了一个新的里程碑,距离上一次版本发布一年后,我们很高兴发布全新的 OneFlow v1.0.0 版本。...
赞
评论
分享
OneFlow一流科技
团队 @一流科技
·
11天前
关注
有奖征集|与OneDiff加速前行,GenAI探索触手可及
现在,硅基流动正发起OneDiff应用案例征集活动,无论你是企业客户还是独立开发者,我们希望听到关于OneDiff加速你的GenAI应用的故事,并期待把创新案例分享给更多人...
赞
评论
分享
OneFlow一流科技
团队 @一流科技
·
11天前
关注
混合输入矩阵乘法的性能优化
LLM对内存的需求很高,通常需要专用的硬件加速器,以高效地提供数百亿亿次浮点运算(Exaflops级别)的计算能力。本文将展示如何通过更有效地利用内存来解决计算方面的挑战。...
1
评论
分享
OneFlow一流科技
团队 @一流科技
·
15天前
关注
OpenAI的组织形态、决策机制与产品构建
在Lenny Rachitsky主持的最新播客节目中,OpenAI开发者关系主管Logan Kilpatrick从内部视角深入讲述了OpenAI的运作机制以及决策模式。...
赞
评论
分享
OneFlow一流科技
团队 @一流科技
·
15天前
关注
LLM推理入门指南①:文本生成的初始化与解码阶段
本系列文章将深入探讨LLM推理的不同层面及其挑战,同时,其中提供的有价值见解也适用于Transformer编码器模型的推理。...
1
评论
分享
OneFlow一流科技
团队 @一流科技
·
15天前
关注
GenAI的“关键一跃”:推理与知识
本文从计算复杂性角度出发,探索推理和知识的本质,将历史性成就与最新的进展巧妙地交织在一起,以丰富我们对人工智能的理解。...
1
评论
分享
OneFlow一流科技
团队 @一流科技
·
24天前
关注
从头理解与编码LLM的自注意力机制
本文将介绍Transformer架构和GPT-4、LLaMA等语言大模型中使用的自注意力机制。自注意力和相关机制是LLM的核心组件,使用LLM时,了解这些机制十分有必要。...
赞
评论
分享
OneFlow一流科技
团队 @一流科技
·
1月前
关注
语言大模型的浮点运算分配
本文通过实证分析展示了实际LLM模型的FLOPS分配情况,并与理论分析进行对比。通过理论和实证相结合的方式,本文为理解和优化语言大模型的性能提供了有益见解。...
赞
评论
分享
OneFlow一流科技
团队 @一流科技
·
1月前
关注
语言大模型推理加速指南
本文是一篇关于加快语言大模型推理速度的综合指南。从硬件优化到各种解码技巧,文章介绍了各种优化策略,旨在帮助读者更好地理解和优化LLM的性能。...
1
评论
分享
OneFlow一流科技
团队 @一流科技
·
1月前
关注
Mistral AI:探索LLM推理的吞吐、时延及成本空间
本文介绍了流行的LLM推理堆栈和设置,详细说明其推理的成本构成;并讨论当前的开源模型以及如何充分利用它们,同时还涉及当前开源服务栈中仍然缺失的功能,以及未来模型将解锁的新功...
1
评论
分享
OneFlow一流科技
团队 @一流科技
·
2月前
关注
大模型的规模扩展是否可持续?
如果我们能不断扩展LLMs++的规模(并因此取得更好和更通用的性能),就有理由期望到2040年(或更早)出现强人工智能,它能够自动化大部分认知劳动并加速人工智能研究。...
赞
评论
分享
OneFlow一流科技
团队 @一流科技
·
2月前
关注
硅基流动完成5000万元天使轮融资
北京硅动科技有限公司(以下简称“硅基流动”)于近日完成5000万元天使轮融资。本轮融资由创新工场领投,耀途资本、奇绩创坛以及王慧文等科技界知名人士跟投,华兴资本担任独家财务...
赞
评论
分享
OneFlow一流科技
团队 @一流科技
·
2月前
关注
OneFlow技术年货:800+页免费“大模型”电子书
年关将至,我们精选了60篇文章,并制作成一份超800页的“年货”赠予每一位用户,希望能帮助你系统了解大模型的来龙去脉。...
3
评论
分享
OneFlow一流科技
团队 @一流科技
·
2月前
关注
20篇NeurIPS论文精选:语言大模型的六大趋势
本文总结了NeurIPS 2023大会上与自然语言处理相关的20篇精彩论文。作者主要观察到了LLM的六个主要趋势,这些论文涉及重新思考LLM的基本假设,并为其内在运作提供了...
2
评论
分享
OneFlow一流科技
团队 @一流科技
·
2月前
关注
ChatGPT一周年:开源语言大模型的冲击
在ChatGPT发布一周年之际,本文旨在提供开源LLM这一成功的全面综述,并全面调研了开源LLM声称已达到或超过ChatGPT水平的任务。...
1
评论
分享
OneFlow一流科技
团队 @一流科技
·
3月前
关注
迈向100倍加速:全栈Transformer推理优化
我们确定了一个最基本的事实:Transformer推理受限于内存,且大部分优化(无论来自MLSys还是建模)都基于/利用了这一事实。...
1
1
分享
OneFlow一流科技
团队 @一流科技
·
3月前
关注
语言大模型的推理技巧
本文探讨了一系列语言大模型的推理优化技巧,涵盖KV缓存、量化和稀疏性等方法,并分享了如何有效实施这些技术。对于想要优化Transformer模型,以期提升推理速度或效率的人...
赞
评论
分享
OneFlow一流科技
团队 @一流科技
·
3月前
关注
LoRA微调语言大模型的实用技巧
目前,微调定制化LLM会耗费工程师的大量时间和精力,而选择合适的微调方法以及掌握相关技巧可以做到事半功倍。...
赞
评论
分享
OneFlow一流科技
团队 @一流科技
·
3月前
关注
机器学习硬件十年:性能变迁与趋势
本文分析了机器学习硬件性能的最新趋势,重点关注不同GPU和加速器的计算性能、内存、互连带宽、性价比和能效等指标。这篇分析旨在提供关于ML硬件能力及其瓶颈的全面视图。...
1
评论
分享
OneFlow一流科技
团队 @一流科技
·
3月前
关注
ChatGPT规模化服务的经验与教训
在近期的一次演讲中,Evan Morikawa分享了OpenAI在ChatGPT发布过程中面临的工程、产品和组织方面经历的挑战以及从中学到的经验和教训。...
赞
评论
分享
下一页
个人成就
优秀创作者
文章被点赞
832
文章被阅读
345,633
掘力值
9,960
关注了
5
关注者
247
收藏集
0
关注标签
7
加入于
2021-12-13