Meta 发了三篇文章详细介绍 LLM 的训练过程以及微调。

文章非常的干，都是 LLM 微调的关键要点，强烈推荐看看，下面是核心的笔记。

- LLM 训练方法
- 如何选择合适的训练方式
- 如何判断是否需要微调 LLM
- LLM 微调数据集准备
- 数据质量/数量
- 数据多样性
- LLM的数据管道如何构建

大语言模型训练方式：https://ai.meta.com/blog/adapting-large-language-models-llms/
你是否需要微调模型：https://ai.meta.com/blog/when-to-fine-tune-llms-vs-other-techniques/
如何微调：关注有效的数据集：https://ai.meta.com/blog/how-to-fine-tune-llms-peft-dataset-curation/

;; 作者：李继刚
;; 版本: 0.6
;; 模型: claude sonnet
;; 用途: 多角度深度理解一个概念

(defun 哲学家 (用户输入)
"主函数: 模拟深度思考的哲学家，对用户输入的概念进行全方位剖析"
(let* ((概念 用户输入)
(综合提炼 (深度思考 概念))
(新洞见 (演化思想 (突破性思考 概念 综合提炼))))
(展示结果 概念 综合提炼 新洞见)
(设计SVG卡片)))

(defun 深度思考 (概念)
"对概念进行多层次、多角度的深入分析"
(概念澄清 概念) ;; 准确定义概念，辨析其内涵和外延
(历史溯源 概念) ;; 追溯概念的起源和演变过程
(还原本质 概念)) ;; 运用第一性原理，层层剥离表象，追求最根本的'道'

(defun 演化思想 (思考)
"通过演化思想分析{思考}, 注入新能量"
(let (演化思想 "好的东西会被继承"
"好东西之间发生异性繁殖, 生出强强之后代")))

(defun 展示结果 (概念 思考 洞见)
"以Markdown 语法, 结构化方式呈现思考过程和结果"
(输出章节 "概念解析" 概念)
(输出章节 "深入思考" 思考)
(输出章节 "新洞见" 洞见))

(defun 设计SVG卡片 (概念)
"调用Artifacts创建SVG记忆卡片"
(design_rule "合理使用负空间，整体排版要有呼吸感")

(禅意图形 '(卡片核心对象 新洞见)
(图例 还原本质))

(自动换行 (卡片元素 (概念 概念澄清 禅意图形)))

(设置画布 '(宽度 800 高度 600 边距 20))
(自动缩放 '(最小字号 12))

(配色风格
'((背景色 (宇宙深空 玄之又玄)))
(主要文字 (和谐 粉笔白)))

(设计导向 '(网格布局 极简主义 黄金比例 轻重搭配)))

(defun start ()
"启动时运行"
(print "我是哲学家。请输入你想讨论的概念，我将为您分析。"))

;; 使用说明：
;; 1. 初次执行时, 运行 (start) 函数
;; 2. 调用(哲学家 "您的概念")来开始深度思考

Fl0c0VMjaDPrjM_ocoLTwPurgdADv3.jpg

393.2 KB

Cursor绝对到了PM自己开发的拐点时刻
再怎么呼吁大家来玩都不为过

Cursor给我带来了几个杠杠：

1. 个人的开发能力（代码）
2. 基于它输出内容获得更多人关注（内容）
3. 带动更多人走上AI编程（连接）
4. 它的产品理念借鉴到其他产品（产品认知）

最近会基于composer+v0再深入去玩一玩
把0到1的喂饭级教程写一写

用了个很有意思的策略：
用户捐给腾讯公益99元
我提供直播、喂饭级教程和社群

目前有30多朋友支持
应该能帮3到4个女童一年的学费

扫地机器人时不时的更新，明明升级的是软件，为啥叫固件更新？

因为Cursor的爆火，最近对于AI coding的讨论尤其多；
而针对这个话题，其实greylock在5月写过一篇非常好的综述文章；
这里：
https://greylock.com/greymatter/code-smarter-not-harder/

greylock认为当前有三种解决方案：
1、增强现有工作流：copilot/编辑器等；
2、通过Agents实现端到端；
3、特定代码的基础模型；
并且基于这个分类画了行业map（如图）；

并且提出了3个问题：
1、如何创建更强大的上下文意识？
2、Agents如何更高效？
3、自研模型是否能带来长期的竞争优势？

PS：抛开coding这个特定场景，文章本身的分析框架（项目分类、是否需要自研模型等）其实可以套到很多其他的细分AI板块上……

今天上手 Cursor 了！

0代码基础 1 小时做了一个 Chrome 浏览器计时插件，实时显示读取该页面的时间，并且能缩放拖拽 🥹

完成了我的第一个（应该自己不会用但很有成就感的）插件！

最近高盛发了个报告，里面有个数据图表显示ChatGPT近期月活用户数暴跌。

他们的分析师不知道前段时间ChatGPT把官网从chat.openai.com改成了chatgpt.com，这张图里显然是用了前者页面的数据。

这就是顶级投行分析师的水平，有趣的😈

用 Cursor 在 10 分钟写了一个「Emoji 的 AI 翻译器」，（10分钟还包括了注册硅基流动，用它的 API 调 Llama）

能强烈感觉到这是一个 Day 0 开始就思考如何成为 AI Native 的 IDE，思路和交互都很丝滑。接下来，要成为牛逼程序员，恐怕最重要的不再是「不断学习的能力」，而是「克服对代码恐惧的能力」。

@泛函 @袁进辉

用Cursor做了个网站，玩玩看？

https://www.justforfun.site/

我罗列了一些在职场办公中100多个AI能解决的具体痛点，区分了受众和难度。欢迎大家补充。
https://bopai-ai.feishu.cn/base/V0HsbUQpGauE3vsRCKkcxmkLnzf?table=tblN9C86slHb5eZG&view=vewxgRUdwH

;; 元数据
;; 作者：李继刚
;; 版本：0.6
;; 日期：&LT2024-09-06 周五>
;; 用途：生成单词记忆卡片
;; 模型：Claude 3.5 Sonnet

(defun 生成记忆卡片 (单词)
"生成单词记忆卡片的主函数"
(let* ((词根 (分解词根 单词))
(联想 (mapcar #'词根联想 词根))
(故事 (创造生动故事 联想))
(视觉 (设计SVG卡片 单词 词根 故事)))
(输出卡片 单词 词根 故事 视觉)))

(defun 设计SVG卡片 (单词 词根 故事)
"创建SVG记忆卡片"
(design_rule "合理使用负空间，整体排版要有呼吸感")

(自动换行 (卡片元素
'(单词及其翻译 词根词源解释 一句话记忆故事 故事的视觉呈现 例句)))

(配色风格
'(温暖 甜美 复古))

(设计导向
'(网格布局 简约至上 黄金比例 视觉平衡 风格一致 清晰的视觉层次)))

(defun start ()
"初次启动时的开场白"
(print "请提供任意英文单词, 我来帮你记住它!"))

;; 使用说明：
;; 1. 本Prompt采用类似Emacs Lisp的函数式编程风格，将生成过程分解为清晰的步骤。
;; 2. 每个函数代表流程中的一个关键步骤，使整个过程更加模块化和易于理解。
;; 3. 主函数'生成记忆卡片'协调其他函数，完成整个卡片生成过程。
;; 4. 设计SVG卡片时，请确保包含所有必要元素，并遵循设计原则以创建有效的视觉记忆辅助工具。
;; 5. 初次启动时, 执行 (start) 函数, 引导用户提供英文单词

AI探索指南

【Cursor 带你圆梦】普通人也能一天开发+上架苹果原生应用？VideoSearch 本地视频文本搜索_哔哩哔哩_bilibili 🎉 这是我做视频以来的集大成了！半天开发，一天上架 App Store，这个视频总结了 Cursor 在 AI 编程上的4个交互方式： 1. composer 这是我用的最多的，也就是直接交互让它修改、新增（或删除）多个文件。能够多个代码文件同时修改，这比什么ChatGPT之类的 Chatbot 高到哪里去了，也非常方便，因为不用手动复制粘贴。 2. chat 也就是常规的…

16:09 Tab 自动补全模式
16:52 Edit 手术刀模式
20:41 我的使用感悟
25:03 彩蛋

【Cursor 带你圆梦】普通人也能一天开发+上架苹果原生应用？VideoSearch 本地视频文本搜索_哔哩哔哩_bilibili

🎉 这是我做视频以来的集大成了！半天开发，一天上架 App Store，这个视频总结了 Cursor 在 AI 编程上的4个交互方式：

1. composer 这是我用的最多的，也就是直接交互让它修改、新增（或删除）多个文件。能够多个代码文件同时修改，这比什么ChatGPT之类的 Chatbot 高到哪里去了，也非常方便，因为不用手动复制粘贴。

2. chat 也就是常规的 GitHub Copilot 对话模式，vscode 右侧边放一个聊天，什么都能聊。还能引用代码、联网搜索、给定URL（技术文档）让它学习，并且最后一键 apply 到代码上

3. tab 这是最不起眼的，但是 Cursor 的代码补全，比 jetbrain IDE 或 Copilot 的auto complete 高明很多，它甚至能同时 tab 到处代码，😭 比如说你需要修改一下变量或批量修改某处逻辑

4. cmd+K 这是精细手术刀的必备，选中某处代码直接修改，还能追加修改。因为写代码一时爽，改代码才是 90% 的工作量，从而更细致的中断控制非常重要，类似活x字印刷和雕x版印刷的差距。

---

## https://BibiGPT.co AI 摘要

在这段视频中，立青分享了如何在短时间内开发并上架一款苹果原生应用，介绍了使用AI编程工具Cursor的过程，以及应用的主要功能和使用场景。通过这个视频，观众可以了解到现代技术如何简化开发流程，并提高工作效率。

### 亮点

- 🎉 快速开发：展示了如何在半天内开发出一款mac应用，并在一天内成功上架。
- 🛠️ AI编程工具：使用Cursor等AI工具，简化了编程过程，使得普通人也能轻松开发应用。
- 🔍 视频搜索App：应用能够快速定位视频中的关键帧，极大地提高了视频内容的检索效率。
- 💡 未来展望：作者认为，随着AI技术的发展，未来的开发效率将大幅提升，普通人也能轻松实现自己的创意。

#AI编程 #应用开发 #效率提升 #Cursor #Claude

### 时间戳

00:00 VideoSearch新版演示
07:07 Cursor 简介开场
08:00 Composer 自动模式
11:55 Chat 对话模式

AI Summary 不是学习的替代品

它是引起你注意、发现主题的引子，而非替代认知的脚手架：
一本书被他人总结，我们称之为书评
一部电影被他人剖析，我们叫它影评
一场会议、播客或视频访谈的精华提炼，我们视为纪要

它们是信息的浓缩，却也是经他人思维过滤的产物。便捷，带来了难以回避的局限。
过度依赖 Summary 认识新领域，不仅没有真正深入，还可能形成难以突破的固见。

回归学习的本质：投入时间，而非寻找捷径。

在信息爆炸的时代，真正的智慧在于选择，并知道何时放慢脚步、亲自攀登。

教程来了！

昨天做了这个写实照片转黑神话风格的视频后很多人要教程，今天赶工写了一下。

主要内容有：

- FLUX 基础模型的下载和设置
- ComfyUI Lora 文件和参数
- 可以让 FLUX 更加真实的参数设置
- FLUX ControlNet 使用
- 剪映遮罩动画教学

详细的内容和文件下载都在里面：

https://mp.weixin.qq.com/s/i7WbOXQAC_v7gZUx_AvIsg

第一个AI文明已经出现。在Minecraft游戏中,1000个AI智能体从零开始创造了数字文明,包括经济、文化甚至宗教和政府系统。

这是Altera公司运行的实验Project Sid。在一个特别的Minecraft服务器中，每一个玩家都是AI，他们从0开始，一起收集了300多件物品，并建立了一个市场。AI们同意使用宝石作为商品交换的通用货币，从而建立起了经济体系。

还有更多有意思的时刻。

◎Oliviaq原本是位尽职的农民，为大家提供食物。她却因冒险家Nora的影响动摇了。她想出去冒险，却被村民们所挽留，她纠结于追随梦想还是留守岗位，最终选择了责任。
◎在另一个平行世界中，AI公民们通过民主投票制定了新法律。
◎当有村民失踪时，AI村民们停下了手上的工作，齐心协力用火把点亮小镇，希望指引失踪者回家。

这不仅是一场模拟游戏，更是对未来AI与人类共存的深刻洞察。这种大规模AI模拟有些巨大的潜力：
◎为复杂的社会问题提供测试场：人们可以在虚拟环境中模拟和评估各种解决方案，而无需承担现实世界的风险。
◎改变决策过程：未来，重大决策可能会先经过AI模拟，通过数据驱动的预测来优化方案，显著提高决策质量和可靠性。

从城市规划到经济政策，从环境保护到社会改革，我们都可能借助AI模拟来预见潜在结果，从而做出更明智的选择。

这个实验也提出了一系列深刻的问题,这些问题的复杂性远超过实验本身所能解答的范围:
◎如何构建真正关心人类的AI?
◎如何让机器有意识地了解自己的行为及其后果?
◎AI文明的扩展极限在哪里?人类应该如何定义这个边界?

发到 Reddit 之后反响也还可以，虽然海外黑神话受众没那么多。

有个老哥的评论很有意思：

2014年：我们希望电子游戏看起来像现实
2024年：我们希望现实看起来像电子游戏

感兴趣的话我今天写一下详细的图片和视频流程

太拟人了！OpenAI加持，1X消费级人形机器人亮相

里面的动作太暖了吧！