拉夫德鲁

本文以论文和官博为主来进行分析ZeRO，这是微软开发的一个可以高效利用显存的优化器，其会将模型状态量分布在多个并行 GPU 之上，目的是在不使用模型并行的情况下对让数十亿参数模型进行训练。

最近有创业的朋友咨询，说手里有钱，但不知道要干些啥。想到的点子，放眼四顾，早已经被人实现了。我推荐他去当网红，但他又比较内向，抹不开面子，还是想在轻车熟路的互联网行业捞一把块钱。 但现在，很难了。 经验并不总是有效的，今日不比往常。一个不小心，就得把过去赚的钱，全部给吐出来。 …

搜索引擎介绍 搜索引擎(Search Engine)，狭义来讲是基于软件技术开发的互联网数据查询系统，用户通过搜索引擎查询所需信息，如日常使用的Baidu、Google等；广义上讲，搜索引擎是信息检索

1、缘起 事情是这样的，上周我接到了个需求，产品经理想在微信内嵌的H5里，静默获取图片的详细信息，比如拍照的时间、地理位置、设备指纹等。 一方面最近活儿太多影响我摸鱼，另一方面是这个需求没办法完全实现

曾经有遇到过这样一个问题，有一个共享变量keepRunning=true,线程A中执行while (keepRunning)；，线程B中执行keepRunning = false;，在main函数中同时开启A，B线程，然后会发现程序会一直运行且不会退出。说白了这其实就是一个典型…

带着问题阅读 1、什么是AQS，它有什么作用，核心思想是什么 2、AQS中的独占锁和共享锁原理是什么，AQS提供的锁机制是公平锁还是非公平锁 3、AQS在Java中有哪些实现

带着问题阅读 1、什么是池化，池化能带来什么好处 2、如何设计一个资源池 3、Java的线程池如何使用，Java提供了哪些内置线程池 4、线程池使用有哪些注意事项

今天我们要探讨的问题是：Service层需要接口？ 现在结合我参与的项目以及阅读的一些项目源码来看。如果「项目中使用了像Spring这样的依赖注入框架，那可以不用接口」！ 先来说说为什么使用了依赖注入

带着问题阅读 1、什么是代理，代理有什么好处 2、正向代理和负向代理有什么区别 3、反向代理和负载均衡有什么关系 4、四层负载均衡和七层有什么区别