@sama 在最新一期 YC 训练营启动会上,内部分享了一些关于 LLM 的最新进展。他认为,我们已经接近于实现通用人工智能(AGI),并且应该以此为目标进行迭代。他还提到,GPT-5 可能会是一个相比 GPT-4 的指数级飞跃,尽管 GPT-4 已经发布近两年,目前还没有哪个模型能超越它。
LLM 的快速发展对创业公司和现有企业都带来了许多问题。目前,大家普遍预期模型的改进只是逐步演进,但事实似乎并非如此。因此,他建议正确的做法可能是使用最先进的模型(State of the Art,SOTA),而不是花太多时间进行微调和过早优化。
他认为,更好的策略是设想一个“godlike(类似神的)”模型会如何运作,并以此为基础来构建最好的产品。他以 Cognosys 公司为例,说明他们正努力利用智能代理来打造最佳产品和用户体验,而不是从头开始训练模型或过早进行优化。他相信,模型越好,他们的产品就能有质的飞跃,甚至能提高10到100倍。
LLM 的快速发展对创业公司和现有企业都带来了许多问题。目前,大家普遍预期模型的改进只是逐步演进,但事实似乎并非如此。因此,他建议正确的做法可能是使用最先进的模型(State of the Art,SOTA),而不是花太多时间进行微调和过早优化。
他认为,更好的策略是设想一个“godlike(类似神的)”模型会如何运作,并以此为基础来构建最好的产品。他以 Cognosys 公司为例,说明他们正努力利用智能代理来打造最佳产品和用户体验,而不是从头开始训练模型或过早进行优化。他相信,模型越好,他们的产品就能有质的飞跃,甚至能提高10到100倍。
展开
评论
4
![[看]](http://lf-web-assets.juejin.cn/obj/juejin-web/xitu_juejin_web/img/jj_emoji_97.39cdc9f.png)