掘友等级
获得徽章 0
大模型训练中的 “微调” 和 “蒸馏”:
微调是垂直优化:让模型在某个任务上表现更好。
蒸馏是横向压缩:牺牲少量精度换取效率提升。
举例:先对教师模型微调(使其在特定任务上性能更强),再用蒸馏将知识迁移到学生模型,最终得到一个轻量且针对目标任务优化的模型。
-- from chatting with DeepSeek R1
美国国际开发署(USAID),成立于1961年,主要任务是向世界各地的发展中国家提供人道主义援助。
马斯克领导的政府效率部门(DOGE),表示 USAID 存在严重的资金使用和意识形态问题,宣布要关闭USAID。
在短短几天内,USAID超过一万名员工中的大部分被停职或解雇。
-- 来源:ChatGPT
比特币核心开发者群体像是在扮演宗教中"技术神职"的角色
The cost to use a given level of AI falls about 10x every 12 months, and lower prices lead to much more use
使用一定水平的人工智能的成本每 12 个月下降约 10 倍,价格下降会带来更多的使用
-- Sam Altman
blog.samaltman.com
目前有这样的博客服务吗?
1. 可公开访问,通过一个 url 访问到列表或详情
2. 通过页面而不是代码进行编辑和发布
3. 像发 twitter 或朋友圈一样,不强制输入标题,并支持简单的富媒体编辑
4. 支持内容备份和迁移,比如备份到网盘或本地
5. 支持标签/分组/频道
6. 支持 RSS
7. 提供 Web 服务,也支持自己建站
Humanity's Last Exam(人类终极考试)是由人工智能安全中心(CAIS)与 Scale AI 联合推出的 AI 大模型评测基准,包含跨学科、多模态的复杂题型(如图表分析),当前顶尖AI准确率不足10%.
agi.safe.ai
花了几天时间调研了一个 web3 功能点(一次交易过程)的执行逻辑。
因为缺乏开发者文档,所以我从很多个信息源和调试环境中(使用文档 + demo 源代码 + sdk 源代码 + 合约源代码 + 线上 demo 服务 + 本地搭建的 demo 服务 + 区块链浏览器),人工获取、学习、梳理我需要的知识和逻辑。
这个过程目前可以通过 ai agent 来完成吗?我把需求告诉 ai, 让 TA 来解决,ai 需要能够解决并给我讲清楚。
代码比语言更容易表达逻辑和信息,尤其是逻辑细节、信息细节、与其他信息(程序)的交互细节。所以有时读源码比读文档更有用,源码和文档结合起来阅读效果更佳。
蒸汽机带来动力工业革命,计算机带来信息工业革命,AI 带来知识工业革命
以前,我调研知识时常用搜索引擎:我会先想一些关键词,再通过关键词去寻找零散的信息,再拼凑出一个完整的理解或方案。这种方式像是自下向上的摸索。
现在,我会直接向 AI 提出最终问题。AI 会一次性给出一个有条理、连贯的回答,让我能够顺着它的思路学习,感觉就像有人先替我整理好了整个脉络,我再顺着脉络去学习。
另外,AI 的回答往往包含了主流的解决方案或最佳实践,做为领域小白,我能通过 AI 迅速了解最靠谱的信息。而在以前,我需要自己筛选和判断信息质量。
随着 AI 的大模型质量越来越高,而且具备推理和搜索能力后,AI 变得更强大了。
ChatGPT 也免费提供了“推理”功能,和 deepseek “越来越像” 了
上班时制定项目 KPI 和排期,与自由职业时零活时制定项目需求和交付时间,本质上是一样的。都是在和甲方(上级或客户)博弈,在合作中竞争,争取花更少的时间,更少的强度,挣更多的钱。
写代码时,有些问题还不适合完全交给 AI 处理,还需要自己负责解决问题,在过程中把 AI 当做助手。原因有 2 点:1. 自己完全不了解时,连怎么提问都不知道,无法提出明确的任务。 2. 有的上下文 AI 并不了解,与其把上下文做成知识库,不如自己学习这些上下文。
Google Meeting 感觉不错,不需要安装应用,直接在浏览器中使用,还有实时字幕。
微信小程序审核太垃圾了,对个人开发者极度不友好。我前几次提交审核都通过了,突然这一次提审被拒了好几次,且每次被拒原因都不一样,而且不一次说完,每次被拒只说一个原因。最后一次,被拒原因是包含信息:
developers.weixin.qq.com 。作为开发者,对微信小程序太失望了。
有时问 AI 一个认真思考后产生的问题,听到 AI 回复 “这是一个很好的问题”,感到很开心
你有定期主动或自动备份微信数据吗?你有定期主动或自动备份手机本地的数据吗?
使用低代码(Coze)搭建 AI 应用的过程中,发现稍复杂一些的应用,这种低代码的交互远远没有写代码的体验好。
对于复杂逻辑并且需要人类来写逻辑的应用,感觉还是直接写代码更好。
下一页