AI探索指南

  1. 又一个必读内容,Huggingface 出品的 LLM 训练手册

    又一个必读内容,Huggingface 出品的 LLM 训练手册

    非常详细的介绍了完整的 LLM 训练流程,包括训练指南(是否需要预训练)、预训练、后训练、基础设施

    主要以他们自己训练的 SmolLM3 这个 3B 模型为例子

    文章或者说手册包含了他们训练模型过程中对一系列决策、发现和死胡同的梳理,全是实践经验

    详情:https://huggingface.co/spaces/HuggingFaceTB/smol-training-playbook

  2. 终于有这么一本读物了,几个 AI 大佬研究员一起出了一个详细讲解扩散模型原理的论文

    终于有这么一本读物了,几个 AI 大佬研究员一起出了一个详细讲解扩散模型原理的论文

    我翻译了一个双语版本,链接放下面了👇

    可以非常全面的理解现在图像和视频模型的基石扩散模型,具体内容有:

    第一章:概览生成模型的定义、重要性与谱系,为统一理解奠基。

    第二章(VAE 视角):以变分推断连接到 DDPM,用潜变量与重构/去噪目标解释训练与采样。

    第三章(EBM/Score 视角):从能量模型到 NCSN/Score SDE,以分数匹配和连续时间 SDE 描述生成动力学。

    第四章:采样即沿时间反向求解 ODE/SDE,用扩散漂移向量场逐步逼近数据分布。

    第五章(NF 视角):从正规化流到 Flow Matching,以可逆变换/流场学习统一“概率随时间运输”的思想。

    第六章:以微积分的换元公式为统一底座,并以“条件化技巧”把难题化为回归,实现稳定可控的训练。

    第八章:在 ODE 框架重审 DDIM、DPM-Solver,澄清与经典数值法的关系并解释快速采样原理。

    第九章:系统化更优数值积分与误差控制,加速迭代采样同时保持保真度与稳定性。

    第十章:提出一致性模型等“流映射”思路,直接学习任意时刻到任意时刻的解映射以少步生成。

    第十一章:扩展一致性轨迹与 Mean Flow,以学习整条轨迹(积分)实现单步或极少步高质量生成。

    双语 PDF:https://pan.quark.cn/s/2a5100e32b51

  3. 去年五月出来创业,九月完成种子轮融资和团队组建,12.6 日发布 YouMind 0.1 蹒跚起步版

    去年五月出来创业,九月完成种子轮融资和团队组建,12.6 日发布 YouMind 0.1 蹒跚起步版。

    后续基本保持两三个月发一个大版本。今年九月去 PH 打榜,没氪金,做到了真实票数三榜第一。

    从三月发布 0.2 版本,一直到九月去 PH 打榜的 0.4 版本,付费转化率和用户留存都挺好。但总的网站流量和注册用户数,确实没怎么大规模自然增长。

    于是这次 0.5 版本的发布,意识到纯靠自然流量能起来,可能只在媒体故事或面向投资人的 PPT 里。从童话故事里醒来,开始学习并实践真实的商业增长,才是每个创业者要经历的真实故事。

    于是花了一小笔预算,找到了靠谱的朋友开始合作。合作第一天,发现起量效果确实不错。同时还很惊喜发现,不少 YouMind 老用户也开始自发传播,在帮助 YouMind 运营。

    有幸通过创业,越来越见到了一个真实的商业世界,充满挑战,非常赤裸裸,也因此比童话故事精彩太多。

    创业一年多,YouMind 的产品刚到 0.5 版本,初步完成了“万物化稿、稿生万物”的前半部分。AI 的发展瞬息万变。YouMind 的发展,在快而不急中,越做越笃定。

    期待有喜欢并相信 YouMind 产品方向、同时有全球化增长运营经验的领头人加入。产品功能和商业增长,是创业公司的左右脚,是往前跑的头等大事。

    欢迎有增长实操经验的朋友多多指点。特别期待优秀的你能考虑加入。一起让“人人皆可开心创作”的时代早日来临。

  4. 昨天和朋友聊起美国的裁员潮,大家都对一件事看得越来越清晰:

    昨天和朋友聊起美国的裁员潮,大家都对一件事看得越来越清晰:
    AGI 为人类带来最大的威胁,根本不是安全对齐,而是朴素的就业问题
    在 AGI 真正实现之前,甚至都不需要完全实现,人类就没多少工作了
    为什么会这样?
    这和人类公司的 ROI 导向有关
    当公司更需要显卡而不是员工,股东和CEO就会裁掉员工买显卡
    人类的行为是相当被动的,很难靠意志转移。
    有一只无形的手在把人类推向那个未来。

    而为什么人类需要就业呢?
    除了金钱的因素外,也是和人类的本性有关
    大部分人无法给自己设定目标
    在无所事事的状态下,会越来越堕落
    工作给了他们一个目标,一个循环,一个月薪的奖励机制
    其实是人类文明几千年下来是一种有效的社会机制
    所以就业不仅是经济需求,还是精神需求

    而 UBI 无法提供这个奖励,不会满足这个需求

    破局点在人类要找到一个自己的健脑房
    能在不需要工作的时候也能获得这种奖励
    这就需要一种既能顺人性又不会导致精神堕落的产品
    这也是 AGI 时代内容行业的新机会

  5. 在 YouTube 刷到 Sam Altman 在 YC 的时候分享一个分享

    在 YouTube 刷到 Sam Altman 在 YC 的时候分享一个分享
    主题是《创业公司如何成功》,感觉太有道理了。
    整理了一些核心观点:

    关于趋势判断

    最重要的事情,不是只看现在的市场规模,要看哪个市场在指数级增长。
    真趋势和假趋势的区别:真趋势是早期用户痴迷使用并到处推荐,假趋势是被买回家但没人用。iPhone 是真趋势,2018年的VR是假趋势。
    抓住平台转移的机会。当年移动应用起来的时候,初创公司调整战略比大公司快太多了。

    关于产品

    产品是80%的成功。是做出让用户自发推荐的东西,这比什么都重要。
    初创公司最好的方向是非共识,看起来不太行,但实际却很行。因为大公司内部"一个人说不行"就能杀死项目。
    在快速变化的市场里,初创公司的速度优势才能发挥出来。

    关于团队

    至少一个创始人要能感染别人,负责招人、卖货、搞PR、拿钱。还得有远大愿景,不然招不到顶尖人才。
    团队要有这些特质:乐观、爱想点子、"我们能搞定"的精神、偏向行动。
    缺乏经验有时候反而是优势。
    最后一点:创始人的核心工作就是保持势头。一旦失去,很难找回来。

    这是十分钟中文播客版
    萨姆·奥特曼:创业公司如何获得成功 - ListenHub
    https://listenhub.ai/episode/6903f6688521b0ca13592e2b

  6. 这绝对是我见过最清晰、最实用的 AI 工具列表了,用好他们能省下大把时间!

    这绝对是我见过最清晰、最实用的 AI 工具列表了,用好他们能省下大把时间!

    日常助手
    1. Perplexity:AI 搜索引擎和研究助手
    2. Claude:通用聊天机器人,超适合做项目和分享成果
    3. ChatGPT:记得开启高级语音模式,直接和 AI 对话

    效率工具
    1. Granola:AI 会议笔记工具,自动生成摘要
    2. Wispr Flow:语音转文字工具,在任何应用里把说的话变成文本
    3. Gamma:用 AI 快速制作演示稿、文档和网站
    4. Adobe:和 PDF 对话,还能自动总结内容
    5. Cubby:协作研究专用的 AI 工作空间
    6. Cora:AI 邮件助手,帮你智能整理收件箱
    7. Lindy:搭建 AI 智能体,自动处理工作流程

    粉丝增长
    1. Delphi:创建 AI 克隆分身(文字、语音、视频),和粉丝互动
    2. HeyGen:用 AI 虚拟形象批量制作内容或给视频配音翻译
    3. Argil:专为社交媒体视频打造的 AI 虚拟形象
    4. Overlap、Opus:把长视频自动剪成爆款短视频
    5. Persona:为创作者打造的 AI 智能体搭建工具
    6. Captions:AI 视频剪辑,自动加字幕还能修正眼神接触

    产品开发
    1. Cursor:懂你代码的 AI 编程编辑器
    2. Replit:用自然语言描述,AI 智能体直接帮你建应用和网站
    3. Anychat:一站式调用各种 AI 模型
    4. Codeium:AI 驱动的代码自动补全工具

    创意设计
    1. ElevenLabs:逼真的 AI 语音生成
    2. Suno、Udio:用文字描述直接生成音乐
    3. Midjourney、Ideogram、Playground:AI 图片生成
    4. Runway、Kling、Viggle:AI 视频生成
    5. Krea:创意画布,实时生成和增强图片/视频
    6. Photoroom:AI 图片编辑器,产品图修图神器

    学习成长
    1. Rosebud:交互式日记,用 AI 帮你分析内心想法
    2. Good Inside:育儿助手,提供个性化支持
    3. Ada Health:AI 驱动的症状健康评估
    4. Ash:个性化 AI 心理咨询和教练
    5. NotebookLM:把任意文档变成 AI 播客
    6. Particle:AI 新闻应用,多篇文章整合成一篇摘要

    娱乐玩耍
    1. Remix:AI 图片/视频创作与分享的社交应用
    2. Meta Imagine:在 Meta 系应用里生成自己和朋友的 AI 形象
    3. Grok:xAI 出品的聊天机器人
    4. Curio:给孩子的 AI 互动对话玩具

  7. 终于有这么一本读物了,几个 AI 大佬研究员一起出了一个详细讲解扩散模型原理的论文

    终于有这么一本读物了,几个 AI 大佬研究员一起出了一个详细讲解扩散模型原理的论文

    我翻译了一个双语版本,链接放下面了👇#ai创造营##ai画图#

    可以非常全面的理解现在图像和视频模型的基石扩散模型,具体内容有:

    第一章:概览生成模型的定义、重要性与谱系,为统一理解奠基。

    第二章(VAE 视角):以变分推断连接到 DDPM,用潜变量与重构/去噪目标解释训练与采样。

    第三章(EBM/Score 视角):从能量模型到 NCSN/Score SDE,以分数匹配和连续时间 SDE 描述生成动力学。

    第四章:采样即沿时间反向求解 ODE/SDE,用扩散漂移向量场逐步逼近数据分布。

    第五章(NF 视角):从正规化流到 Flow Matching,以可逆变换/流场学习统一“概率随时间运输”的思想。

    第六章:以微积分的换元公式为统一底座,并以“条件化技巧”把难题化为回归,实现稳定可控的训练。

    第八章:在 ODE 框架重审 DDIM、DPM-Solver,澄清与经典数值法的关系并解释快速采样原理。

    第九章:系统化更优数值积分与误差控制,加速迭代采样同时保持保真度与稳定性。

    第十章:提出一致性模型等“流映射”思路,直接学习任意时刻到任意时刻的解映射以少步生成。

    第十一章:扩展一致性轨迹与 Mean Flow,以学习整条轨迹(积分)实现单步或极少步高质量生成。

    双语 PDF:网页链接