周末来 Google 参加这场技术沙龙,Google 作为 Transformer 的鼻祖,对于模型的理解确实足够的深刻,这次开源了小参数的端侧全模态模型 Gemma4(2B,4B,27B,32B系列,还有一系列量化模型),使用了 Apache 2.0 开源授权许可,在算法上有很多的创新,而且相应的部署配套方案也非常的完善,利用了 LiteRT 工具加速端侧 AI 功能和部署,这个工具也开源在了 GitHub,LiteRT 这种“推理操作系统”本身不直接赚钱,它的价值在于:控制端侧 AI 的执行入口,从而变现云服务、模型 API、应用分发和生态锁定。顶级的公司做平台,做基座,其他的人就在这个基座上开发应用。另外在现场环节也有大模型微调和使用本地模型作为自己的编程助手的实战环节,这个环节相对比较鸡肋,介绍的微调方案非常的初级,使用情感分析的例子,完全看不出微调的效果,另外正常人也不会使用一个小参数模型作为编程助手,不过还是比较完整的介绍了微调的过程,一个小时的时间也比较有限。
前两位做演讲的嘉宾是 Google 自己的员工,介绍的质量相对较高,尤其是第二位介绍 LiteRT 的女生,长相非常清秀,表达和逻辑清晰,看到前面好多的男生都不是在拍 PPT,在拍人:)感慨优秀的企业确实能够吸引到各方面都很好的人,优秀的人一般都比较注意自己的外表,这是投资收益非常大的事情,每天稍微多花几分钟,给人感觉是受尊重的,职业化的,有追求的。
今年 AI 应用层已经开始出现了各种惊艳的产品,可以真正实现工业生产,各个大公司的基座模型,AI Infra 也在不断地完善,一切变得更加了具有想象力,AI 是一场比肩互联网的革命。