获得徽章 9
- 看到《硅谷101》专访田渊栋,也就是上个月被Meta突然裁掉的大佬,说实际上在被裁之前就拿到别家的offer了。
讨论的主要话题:
关于离职与裁员: 田渊栋说,他实际上在被裁之前已经拿到了其他offer,并且已经向上司表达了不满,所以裁员只是加速了他的离开。
AI自动化的趋势: 他认为AI领域的裁员是自动化大趋势的一部分。随着AI工具越来越强,重复性的工程执行工作会减少,而更多人会转向探索性研究和AI在垂直领域的应用(but,普通人哪有这么容易转型?)。
开源模型的未来: 他认为开源会继续存在。一个模型是否有用是关键问题,而是否开源则取决于公司的战略和模型的具体用途。
LLM的局限: 他觉得LLM是一个“很有意思的路线”,但不确定是否是“正确的路线” (毕竟是杨立昆的学生)。LLM最大的问题是需要海量数据,学习效率远低于人类。人类可以从极少样本中获得深刻见解,这是模型目前缺失的。
强化学习(RL)的优势: 他认为强化学习最大的好处在于它是一种“主动学习”,能积极地影响数据分布。在推理等问题上,他认为RL优于SFT(监督微调),因为SFT可能只是在记忆过程,而非真正学会泛化。
对Scaling Law的看法: 他称Scaling Law是一个“悲观的未来”,因为它依赖指数级增长的数据和资源,这是不可持续的。他认为行业需要寻找更高效的智能发展路径。
在FAIR的遗憾与收获: 他最大的遗憾是自己没能做更多的工程工作,并指出当下最理想的是兼具顶尖研究和工程能力的人才。他最大的收获则是培养了“研究的品位”(research taste)。
对AI开发者的建议: 他建议不要盲目追逐市场的热点,因为技术周期变化太快。更重要的是找到自己真正想做的事情,并结合对未来的判断。
个人未来动向: 他尚未确定下一步,但他最理想的目标是能将前沿研究和工程应用结合起来。展开评论点赞 - 智能系统正在迅速吸收人类的知识和能力。那些曾经被视为技能的东西,也逐渐被算法内化为基础功能。从 fine-tuning 到 RL,现在它可以做到理解语言、执行指令、完成一些复杂的任务,甚至主动学习新的模式来创造工具。
有没有发现?这变得和人类有些类似了。也正因如此,智能的边界开始变得清晰。AI 更擅长重现确定性的世界,却没法自发地提出问题。它可以在规则内进行优化,但不具备打破规则的动机。
所以人的价值正在被重新定义。执行性的工作会逐渐转向机器和智能,而探索成为新的分工,人类的优势不再是熟练度,而是方向感和创造冲动。
当机器学习世界的规律,人类必须学习如何拓展世界的边界。展开赞过32 - 有时候我觉得岗位JD写得具体,有吸引力,也侧面表达出这个团队的TL对业务的深刻认知。
譬如下面这个小红书的校招岗位需求,写得是真的好。
【REDstar】用户理解算法工程师
小红书集团 · 北京|上海
职位描述
1、用户兴趣建模:基于小红书社区用户海量的行为数据,利用迁移学习、多场景多目标、序列建模等方式构建统一用户表征、人群圈层和可解释用户兴趣;
2、核心场景落地:推动用户理解能力在多场域的召回、排序、人群定向等场景落地,优化用户推荐、搜索、广告、电商等核心场景的体验;
3、技术前瞻探索:推动LLM、Agent 等前沿技术在小红书落地,共同构建覆盖全站用户&人群兴趣变迁和消费意图的知识基座;
职位要求
1、本科及以上学历,计算机或相关专业本科以上学历,具备扎实的数学、统计学以及计算机基础;
2、熟悉常见的机器学习、深度学习、数据挖掘方法,能熟练使用至少一种深度学习框架,如tensorflow、pytorch等;
3、至少精通一门编程语言,包括但不限于C++/python/java/scala;
4、具备优秀的研究和创新能力,在KDD/NIPS/RECSYS等顶会上发表过论文或KDD CUP/ACM获奖者优先;
5、有良好的沟通协作能力和探索欲望,乐于钻研新事物、并且在不同场景表达和实践自己的想法;展开评论点赞 - 工作的幸福感来自于对方向的选择,以及对环境的选择。
知道自己想做什么、为什么要做、怎么做才对,就不会盲目追求绩效。把每一个任务放进自己的“人生系统”去规划和判断,会获得更长期和更有效的 ROI,这是对方向感的把握,让自己远离“瞎忙”的幻觉。
遇到让自己不舒服或者限制生产力的人或事,坚决远离!坚定 Say no!如果同事让你低效,那就少接触。如果上司让你窒息,那就换个部门。如果整个组织都让你无法发挥,那就换个生态。这不是逃避,而是主动优化自己的生存环境。
高效能不是靠隐忍堆出来的,而是靠选择筛选,真正的成熟,是明白“环境比努力更重要”。展开1点赞 - 今天给程序大佬们分享一下
对于程序员来说,什么叫正确迭代吧?
1. 你读完经济学才明白:原来世界本身不是0和1的,而是黑的、白的、灰的都有。最关键的是,非程序世界的人看到这些黑白灰以后,他们不是像程序员那样去较真,为什么那件事情是对的?那件事情是错的?他们只会想一件事情,我做那件事情的成本是多少?我不做的成本是多少?外面的世界很多都是根据执行成本相关的,因为非程序的世界除了物理规律还有一条是经济规律,经济规律本质是什么?本质是几千年人的人性,符合人性的就是对的,不符合的就是不对的
2. 你真的跑过商务就能明白:原来技术牛逼在真正的商务合作来看,只是很小的一部分。剩余的大部分是,你个人或者公司在业界出名不?出名就是品牌背书。不出名呢?找一个名人给你担保,在中间给你背书。如果都没有了,那就谈钱。至于程序是不是第1,在大多数行业其实不是那么重要的。所以,这时候你会发现,程序里面你骄傲的东西在现实世界有时候很孤独,因为大多数人有钱,不懂技术,不听你讲
3. 创业过你才能明白:原来自己写代码强没用,自己写代码强,你的同事只会看着你干活。反而是那些自己写代码弱的老板,明白自己的弱势,拿钱去请互补性仁人才。他们的队伍反而越来越强。这是为什么?因为创业的根本是,创始人的品德和远景,团队的团结和稳定,产品的强大和价值。而技术在创业过程中也只占很小一部分展开等人赞过34 - 今天刷到一个观点,觉得很有意思,我个人是比较认同的,分享出来。
即「熟练才会上瘾」。
就是对于我们生活中绝大多数的事情来说,真正让我们上瘾的不是这件事情本身,而是做这件事情给我们带来的正反馈。
可以回想一下生活当中那些我们不太感兴趣甚至不喜欢的事情,大多是不擅长,不熟练,做起来没有办法得到正反馈,就无法获得能量。而那些我们现在很喜欢的事情,可能一开始也是很不熟练的,只是阴差阳错的坚持了下来,看到一点效果,也是进入一个正反馈循环,一直做一直爽。
我个人感受比较明显的两件事,第一个就是健身,刚开始健身的时候,我实在是坚持不下来,因为我不知道每天花那么多时间干什么,直到有一次我发现我的手臂在变粗,以及我的胸肌开始增长,并且明显感觉到感冒的频率在直线下降。所以从那儿开始爱上健身,并且持续坚持。
第二件事,说的比较虚就是打破自己。否定自己当前做事的状态,开始尝试和精进用更好的方式来做事,以此实现飞跃性的突破。我现在做生意,也是打破自己的产物之一,刚开始否定自己其实是很不熟练的,而且心里很难接受。当然也是被逼无奈,被带自己的大哥不断的打压和否定,极度压抑的状态下被迫习惯,并且意外发现了打破自己并且重塑的好处。
所以在我眼里学习,不光是看书和听课,有一个非常漫长并且重要的过程就是练习。基本上练习的过程决定了学习的最终效果,就类似于以前的刷题。
所以刷到这个观点的时候,我还是蛮认同的,因为练习就决定了你的熟练程度,进而决定了你在实践过程当中获得正反馈的频率和程度。
我个人觉得现在很多人之所以什么都懂但是什么都干不好,就是因为根本没有花时间去练习,所有的pipeline都在刚开始的阶段,却想要得到最终的结果。只得到了一个知识点的短期记忆,并没有将这个东西转化为熟练度,所以最终当然无法得到正反馈了。
我一直都持有一个观点,就是当我知道我的目标在哪里的时候,我就会尽早上那条路,这样我就可以花更多的时间和精力在这条路上摸爬滚打,等有一天足够的熟练和精进的时候,我还依然非常年轻有活力,可以将这个业务突破一个更高的天花板。其实是类似的意思。展开赞过12 - 未来的AI行业,一定是赢家通吃,少数几个头部公司吃掉大部分利润。
AI不可能是百花齐放,是少数企业的天下;头部公司是平台型企业,大模型、生态。一旦一家公司建立起生态,其他公司基本要关门。
令人遗憾的是,国内大多数人把这些公司说成概念,讲故事。未来这些龙头企业现在是很多人眼中的概念公司。评论点赞 - 冷知识:
1. 保持一个好习惯,即温故而知新,对自己的认知和能力提升非常有帮助。
2. 正常情况下,一周花0.5人日复盘一次自己本周做了啥事情,解决啥问题,可以放弃(删掉)什么过时的知识和内容。
3. 在最坏的情况下,一个月花1人日复盘和整理已有知识。
坚持以上1-3点,坚持10年,持续坚持下去,你会超越身边90%的人。展开评论点赞