Marten

利用AI集群，使机器学习算法更好地从大数据中训练出性能优良的大模型是分布式机器学习的目标。为了实现该目标，一般需要根据硬件资源与数据/模型规模的匹配情况，考虑对计算任务、训...

从三方面看嵌入在 AI 框架中的深度学习编译器：从 AI 框架演进看深度学习编译器、深度学习编译技术面临的挑战、商汤 SenseParrots 的深度学习编译方案...

大家好，我是极智视界，本文来谈谈 MLC-LLM 让语言大模型运行在任何设备上。希望我的分享能对你的学习有一点帮助。...

过参数化主要是指在训练阶段，在数学上需要进行大量的微分求解，去捕抓数据中的微小变化信息，一旦完成迭代式的训练之后，网络模型推理的时候就不需要这么多参数。而剪枝算法正是基于过...

其它机器学习、深度学习算法的全面系统讲解可以阅读《机器学习与应用》，清华大学出版社，雷明著，由SIGAI公众号作者倾力打造，自2019年1月出版以来已重印3次。 目前在深度...

模型压缩算法旨在将一个大模型转化为一个精简的小模型。工业界的模型压缩方法有：知识蒸馏、轻量化模型架构、剪枝、量化。...

前言 工作中越来越重度使用k8s，想进一步了解k8s的工作原理。一方面学习业界优秀系统设计思路，另一方面多了解也可以提高日常工作效率，比如和k8s开发的沟通效率等。今天第一...

刘书浩，中国移动DBA，负责“移动云”业务系统的数据库运维、标准化等工作；擅长MySQL技术领域，熟悉MySQL复制结构、Cluster架构及运维优化；具有自动化运维经验，...

Percona XtraDB Cluster (简称 PXC) 是 Percona 公司开源的实现 MySQL 高可用的解决方案。它将 Percona Server 和 P...

前言：服务在运行过程中存在很多意外情况，如：如服务器宕机、磁盘损坏、RAID卡损坏等。如何保证数据库在服务发生意外的情况下数据不丢失呢？服务还能继续提供服务呢？ 我们一般通...

然后创建Controller的单元测试，一般有两种创建方法。 perform : 执行一个RequestBuilder请求，会自动执行SpringMVC的流程并映射到相应的...

通常我们只要引入 spring-boot-starter-test 依赖就行，它包含了一些常用的模块 Junit、Spring Test、AssertJ、Hamcrest、...

事务由一组操作构成，我们希望这组操作能够全部正确执行，如果这一组操作中的任意一个步骤发生错误，那么就需要回滚之前已经完成的操作。也就是同一个事务中的所有操作，要么全都正确执...

Kubernetes存活探针和就绪探针被称作健康检查，这些探针返回的结果（成功，失败或者未知）反映了容器在Kubernetes的状态，Kubernetes会据此判断如何处理...

本文不是一个吹嘘的文章，不会讲很多高深的架构，相反，会讲解很多基础的问题和写法问题，如果读者自认为基础问题和写法问题都是不是问题，那请忽略这篇文章，节省出时间去做一些有意义...

上一章节我提到了基于zk分布式锁的实现，这章节就来说一下基于Redis的分布式锁实现吧。 在开始提到Redis分布式锁之前，我想跟大家聊点Redis的基础知识。 setnx...