1 背景

目前 chatgpt 已经属于人工智能更高级的一端，但是特定任务的模型也很重要。

而大模型已经可以构建特定任务的小模型，微软、AIzip 等多个公司正在研究这个方向。

AI、java面试大全：kdocs.cn/l/cfoqiIIJ4…

2 小模型的大发展

只执行一项任务的单任务模式也有很大的用处，就好像计算机的芯片（cpu）和洗衣机里面的芯片（单片机），一个完成通用任务，一个完成特定任务。

image.png

小成本的模型可以快速构建，然后应用到现实中，而且运行更方便，更省钱，这种 AI 生万物的迭代正在加速。

上周 12 月 12 日微软宣布了 Phi-2 小模型，更小反而更强大，27 亿参数，在复杂的基准测试中，Phi-2 匹配或优于高达 25 倍的模型，这要归功于模型扩展和训练数据管理方面的新创新。

也就是 27 亿的能媲美 675 亿模型的的

与 Meta 人工智能的 70 亿和 130 亿参数模型相比，Phi-2 在常识推理、语言理解、数学和代码方面获胜。

image.png

SLM 小模型（small language model）是 LLM （Large language model）的一种高效的替代方案。当它们为了要求 LLM 强的任务时，较小的模型也很有用。

微软的 Phi-2解决复杂的数学方程和物理问题。除此之外，它还可以识别学生在计算中犯的错误。

这样的小模型可以在 Google Pixel 8 Pro 手机上使用

目前 Phi-2 可以在 Azure AI Studio 使用了

训练数据组合包含专门为教授模型常识推理和一般知识而创建的合成数据集，包括科学、日常活动和心理理论等。我们进一步使用精心挑选的网络数据来扩充我们的训练语料库，这些数据根据教育价值和内容质量进行过滤

大模型就好像是开发语言，小模型就是开发的 app，未来可能就是模型的竞争。我们目前所有的 app 开发内容，有以下分类：

1、教育类；2、社交类； 3、阅读类；4、购物类； 5、体育类；6、工具类； 7、娱乐类；8、金融类； 9、生活类

教育类：

社交类：手机上能够实现社交连接的应用软件

阅读类：在手机上阅读的应用软件，比如阅读 chatgpt、新闻 chatgpt、图书 chatgpt

购物类：线上购物已经变成我们的日常消费了比如：淘宝、京乐、盒马、拼多多等。

体育类：健身的 keep，运动 chatgpt

工具类：在手机上进行实用工具操作的应用软件，比如：笔记本、时间、照明、简悦

娱乐类：给用户提供各种娱乐休闲方式的 chatgpt

金融类：各种银行、证券、还有保险等

生活类：一旦某些 app 没有拥抱小模型的 ai，那么很有可能就有新的模式后来居上

美团、大众点评、饿了吗携程、去哪儿、飞猪支付宝、微信高德地图、百度地图

通过使用大模型对落地场景进行验证，再基于中国丰富的数据资源训练中小模型，前面这些 app 场景都会相应的 ai 产品来进行颠覆或者重构。

AI 就好像远古人的火，现代人的电，这一基础能力可以放大个人成就。

让个人成长为解构大公司的超级工具人。每个人都能训练自己的 chatgpt ，完成打工人翻身为老板的逆袭