首页
沸点
课程
数据标注
HOT
AI Coding
更多
直播
活动
APP
插件
直播
活动
APP
插件
搜索历史
清空
创作者中心
写文章
发沸点
写笔记
写代码
草稿箱
创作灵感
查看更多
登录
注册
zjun3021
掘友等级
AI追风者
获得徽章 0
动态
文章
专栏
沸点
收藏集
关注
作品
赞
0
文章 0
沸点 0
赞
0
返回
|
搜索文章
最新
热门
AscendC从入门到精通系列(五)调用基于工程开发AscendC算子
基于工程代码框架完成算子原型定义、kernel侧算子实现、host侧tiling实现,通过工程编译脚本完成算子的编译部署,之后再进行单算子API的调用
AscendC从入门到精通系列(四)使用Pybind调用AscendC算子
如果已经通过Ascend C编程语言实现了算子,那该如何通过pybind进行调用呢? 1 Pybind调用介绍 通过PyTorch框架进行模型的训练、推理时,会调用很多算子进行计算
AscendC从入门到精通系列(三)基于自定义算子工程开发AscendC算子
本次主要讨论下AscendC另外一种开发流程,基于自定义算子工程的算子开发。从算子工程创建、代码编写、编译部署到运行验证的开发全流程,让您对算子开发工程有个宏观的认识。
SelfAttention在Ascend上的实现
SelfAttention是什么? Self-Attention(自注意力)机制是深度学习领域的一种重要技术,尤其在自然语言处理(NLP)任务中得到广泛应用。
AscendC从入门到精通系列(二)基于Kernel直调开发AscendC算子
本次主要讨论下AscendC算子的开发流程,基于Kernel直调工程的算子开发。AscendC算子开发的基本流程
AscendC从入门到精通系列(一)初步感知AscendC
什么是AscendC Ascend C是CANN针对算子开发场景推出的编程语言,原生支持C和C++标准规范,兼具开发效率和运行性能。
如何在c++侧编译运行一个aclnn(AOL)算子?
、AOL算子库 CANN(Compute Architecture for Neural Networks)提供了算子加速库(Ascend Operator Library,简称AOL)。
Ascend推理组件MindIE LLM
MindIE LLM是MindIE解决方案下的大语言模型推理组件,基于昇腾硬件提供业界通用大模型推理能力,同时提供多并发请求的调度功能,支持Continuous Batching等。
ATB概念之:算子tiling
什么是算子tiling 在计算机科学和深度学习领域,算子 tiling(有时也被称作操作符 tiling 或者循环 tiling)是一种优化技术,主要用于提高计算效率。
如何使用Ascend的ATB加速库?
Ascend Transformer Boost加速库(下文简称为ATB加速库)是一款高效、可靠的加速库,基于华为Ascend AI处理器,专门为Transformer类模型的训练和推理设计
下一页
个人成就
文章被阅读
7,801
掘力值
250
关注了
0
关注者
0
收藏集
0
关注标签
9
加入于
2024-11-08