获得徽章 0
动态
文章
专栏
沸点
收藏集
关注
作品
赞
12
赞
12
返回
|
搜索文章
最新 热门
  • 从13B到1.3B：Deepseek-R1工业级蒸馏实战，5倍推理加速完整指南
    本文详解Deepseek-R1知识蒸馏全流程：从教师模型输出概率提取、学生模型轻量化设计，到动态温度调节和注意力对齐等核心技术，结合ONNX Runtime与移动端NNAPI部署实战。
    • 3月前
    • 698
    • 5
    LLM DeepSeek
    从13B到1.3B：Deepseek-R1工业级蒸馏实战，5倍推理加速完整指南
  • DeepSeek为何能低算力实现高性能模型？
    本文介绍Deepseek实现低算力成本高性能模型。在模型架构上采用稀疏注意力机制和混合专家系统；训练方式运用渐进式蒸馏和量化感知训练；推理优化使用自适应计算和混合精度推理；硬件协同优化等技术。
    • 3月前
    • 378
    • 评论
    LLM 人工智能
  • 大模型蒸馏：如何让小模型“继承”大模型的智慧
    文章探讨大模型蒸馏技术，介绍其将大模型知识迁移至小模型以降成本、提效率的原理，通过图像分类代码案例展示实现过程，分享进阶技巧与避坑指南，分析技术内涵，还列举应用案例并展望未来趋势。
    • 3月前
    • 1.6k
    • 4
    PyTorch LLM
  • AutoGen 技术博客系列 (四)：自定义智能体的高级技巧
    本文将深入探讨如何利用 AutoGen 的高级特性，包括状态管理，消息处理，工具集成，条件控制，团队协作，记忆功能等，创建更加灵活、强大的自定义智能体，并通过实战案例进行详细讲解。
    • 3月前
    • 397
    • 评论
    人工智能 LLM
  • AutoGen 技术博客系列 (三)：内置智能体的应用与实战
    在 AutoGen 的世界里，智能体（Agent）构成了构建多智能体应用的基石。AutoGen 0.4 版本带来了一系列预设智能体，本文将深入剖析这些预设智能体以及其实战使用和原理分析。
    • 3月前
    • 818
    • 评论
    Python LLM
  • AutoGen 技术博客系列 (二)：深入自定义智能体
    本篇博客将深入探讨 AutoGen 的一个核心特性：如何创建和使用自定义智能体。介绍AutoGen在自定义智能体时的一些基本概念和一些入门的demo。
    • 3月前
    • 445
    • 评论
    人工智能 LLM
  • AutoGen 技术博客系列 (一)：基础介绍与入门教程
    这篇博客提供了对 AutoGen 的基础介绍和入门教程，包括核心概念、特点，以及一个使用 AssistantAgent 和 RoundRobinGroupChat 的简单示例。希望能够帮助你快速上手。
    • 4月前
    • 912
    • 评论
    人工智能 LLM
    • 个人成就
    文章被点赞 18
    文章被阅读 8,345
    掘力值 416
    收藏集
    3
    关注标签
    15
    加入于