OneFlow一流科技

Stability AI正式开源了Stable Diffusion 3 Medium（2B），这是迄今为止最先进的文生图开源模型，现在，硅基流动团队在SiliconCloud上线了该开源模型。

SiliconCloud是集合主流开源大模型的一站式云服务平台，为开发者提供更快、更便宜、更全面的模型API，为生成式AI应用带来更高效的用户体验。

AIGC应用周刊第二期：20+公司AI应用产品分析；24名工程师的LLM使用痛点；更多最新前沿资讯详情见全文。

一周AIGC应用最新前沿资讯整理：Chat GPT4o“全能”模型发布；2人AI团队被收购；3款AI搜索引擎

四年前，我对开源机器学习生态系统进行了分析。自那时起，情况就发生了变化，所以这次我打算重新讨论这个话题，本次主要关注的是基础模型的技术栈。

本文说明了优化吞吐量（throughput）的现有serving系统，在时延标准下并不是最优选择。作者主张使用有效吞吐量（goodput）的每秒完成请求数量，作为衡量LLM serving性能的指标。

本文将转变方向，探索可能影响机器学习模型速度的不同性能瓶颈。本文所详细介绍的概念广泛适用于任何ML模型，无论是用于训练还是推理，不过提供的示例主要聚焦于LLM推理设置。

目前，头部AI芯片厂商都在推进现有芯片设计和制造技术的极限，但问题是，当这些“花招”用完后怎么办呢？

当前的GenAI经济模式是否还会持续下去？该领域未来的价值会在哪些方面累积，又该如何实现？本文对GenAI领域的当前的产业价值分层和利润分配进行了解读，并对未来发展作了预测。