NVIDIA Q1 同比增长 近4倍,主权 AI 基建 如火如荼,台积电先进封装产能将提升一倍
受惠于 LLM 的大规模研发与应用,NVidia最近财季净利149亿美元,营收260亿美元,同比增长近4倍。
黄仁勋在财报中指出新一轮工业革命已经展开。
NVIDIA 将主权 AI 描述为一国建构和控制其自身 AI 的能力。而除美国外,加拿大、日本等许多国家当前主权 AI 基建正在推升对该公司的芯片需求。
NVIDIA 的合作厂商台积电也在提升其先进封装产能以应对激增的市场需求,台积电 4月曾预测 2024年先进封装产能将提升一倍以上。
微软 Azure 新一代虚拟机基于 AMD GPU 以及 ARM 架构 的 Cobalt 100
Azure 推出基于 AMD GPU 的 ND MI300X 系列虚拟机和 Cobalt 100 处理器的虚拟机。
ND MI300X 系列虚拟机:
- 适用于 AI 领域。
- 具有大内存,高带宽,高吞吐量和低延迟的优势, 并使用了新的 Azure AI 架构, 这种架构允许用户轻松地将大规模的 GPU 虚拟机扩展到数千个,以满足其需求。
- 根据 Huggingface 的博文,以 Llama 3 70B 为例,从 MI250 迁移到 MI300X 获得了 2-3 倍的性能加速。
Cobalt 100 处理器的虚拟机:
- 适用于数据库,应用服务器,Web 服务器,以及容器化应用。
- 较上一代 Arm 架构的虚拟机有更强的 CPU 性能和更高的网络带宽。
相关链接:
OpenAI 公司宣布和新闻集团(News Corp)合作
新闻集团和 OpenAI 本周三宣布了一项多年协议, 将新闻集团的新闻内容引入 OpenAI。
- OpenAI 将获得新闻集团主要新闻和信息出版物的访问权限,包括《华尔街日报》,《纽约邮报》,《泰晤士报》等 15 家刊物。
- OpenAI 获准在回答用户问题时显示答案来源于新闻集团的内容
- 该合作伙伴关系不包括新闻集团其他业务的内容。
来源:A landmark multi-year global partnership with News Corp
更多内容请查阅 : blog-240524
关注微信官方公众号 : oh my x
获取开源软件和 x-cmd 最新用法