关于AIGC人工智能、思维方式、知识拓展,能力提升等。投稿/合作: @inside1024_bot
AIGC 领域的最新工具、开源项目以及行业大事件
**已经有超过 1 万个年轻人用「AI 遗嘱」写下自己的遗嘱了。**

「AI 遗嘱」是什么?是新世相发布的一个产品,帮助人们写遗嘱。

首先,别被"遗嘱"这个词吓到。这不是什么不吉利的事,恰恰相反,它是一次让人可以深度思考生命的机会。我们希望通过这个产品,激发年轻人去直面死亡、进而思考生命中真正重要的事情是哪些,真正重要的人是谁。

「AI 遗嘱」怎么写呢?并不是让 AI 帮你写,而是请 AI 来对你进行采访,AI 很会引导,它会不断追问细节、追问答案背后的深层思考。AI 大概会提出 10 个问题,之后, AI 将根据对话,整理出一篇完整的遗嘱。

目前,已经有超过 10000 人在 AI 的帮助下写了自己的遗嘱,也欢迎你来试一试。

通过写遗嘱,在与死亡四目相对后,我们或许能看清,人究竟在为什么而活。

从对死亡的思索中,获得对生的领悟。

**祝你聊得愉快。祝你活得尽兴。**

Invalid media: video
卧槽,太爽了家人们。

Claude 上线了桌面客户端,支持Mac和Windows。

这里下载:https://claude.ai/download
Midjourney 中国实验室产品 – 悠船同步上线区域重绘(inpainting)和转绘(style transfer)功能啦~!

盼 MJ 出这功能得有一年了吧,时间过得好快。

世界第一梯队的模型能力就是强~ 要在 comfy 里完成同样的需求,需要搭建很复杂的工作流,还得有本地算力,在悠船很轻松就搞好了~

能用中文写 prompt 方便好多,不过手动区域涂抹还是有些麻烦,感觉以后补上 SAM 自动分割会方便许多。

测试地址:https://desktop.youchuan.cn/
AI探索指南
🎯 Critique Shadowing: 一个让AI稳定输出优质内容的实用工作流 我相信很多AI团队和我们一样,都头疼这个工程问题:如何保证AI生成质量的优质与稳定? fine-tune也好,RAG也好,RL也好,结合具体的业务场景,我们也花了很多精力研究最适用的、更低成本、ROI更高的方法。 不得不说,最近发现的Critique Shadowing 工作流,让我觉得很有启发💡 这个方法来自 Hamel Husain 最新发表的一篇重磅文章🔗https://hamel.dev/blog/posts/llm…
- 计算不同维度的错误率并识别分布规律
- 必要时建立专门的评估器
- 出现系统性问题时返回步骤3

👉 个人实践启发

在涉及到我们团队具体的工程实践上,我理解 Critique Shadowing 相当于在向用户输出output前的workflow里,自行加了一步evaluation,评估通过则展示给用户,评估不通过则返回继续生成再评估,循环往复直至评估通过为止再输出。流程如下:

A[用户输入] --> B[LLM生成回答]
B --> C[Critique评估器]
C -->|通过| D[展示给用户]
C -->|不通过| E[重新生成/优化]
E --> B

再进一步地,我还想到,也可以通过 Critique Shadowing 的评估结果来指导 prompt 优化。流程如下:

A[用户输入] --> B[LLM生成回答]
B --> C[Critique评估器]
C -->|不通过| D[分析不通过原因]
D --> E[自动调整Prompt]
E --> B
C -->|通过| F[记录通过模式]
F --> G[更新Prompt库]

总结来看,这个方法特别适合内容质量控制、代码审查自动化、用户反馈分析等需要专业判断同时又面临大规模数据处理的场景。

但是也很显然,这个方法论明显的弊端就是系统的复杂度及其token成本。实践中首先还是要基于自己的业务场景做合理评估,以ROI为导向,选择最适合自己的LLM质量控制策略。

我也很好奇大家都是怎么解决AI生成质量的优质及稳定性问题的?以及大家都在做哪些内容场景?不同的内容场景对内容质量及稳定性的需求差异还是挺明显的。

大家有什么好思路或者心得体会,也求分享😊
🎯 Critique Shadowing:
一个让AI稳定输出优质内容的实用工作流

我相信很多AI团队和我们一样,都头疼这个工程问题:如何保证AI生成质量的优质与稳定?

fine-tune也好,RAG也好,RL也好,结合具体的业务场景,我们也花了很多精力研究最适用的、更低成本、ROI更高的方法。

不得不说,最近发现的Critique Shadowing 工作流,让我觉得很有启发💡

这个方法来自 Hamel Husain 最新发表的一篇重磅文章🔗https://hamel.dev/blog/posts/llm-judge/,整整 6000 字的干货。

这个工作流本质上是在构建一个能够对齐领域专家判断的 LLM 评估系统。整个工作流包括:

1. 首先找到真正的领域专家
2. 建立多样化的测试数据集
3. 让专家进行系统评判和详细解释
4. 根据反馈进行迭代优化
5. 构建和训练 LLM 评判器
6. 进行全方位的错误分析

这个工作流通过系统化地将专家经验转化为可扩展的 AI 评估系统,特别适合那些需要专业判断但又面临大规模数据的场景。

这也让我想起 Hamel 之前那篇广受好评的 🔗https://hamel.dev/blog/posts/evals/index.html,都是非常务实的方法论。

在我看来,Critique Shadowing 的价值在于它不是纯理论的框架,而是一个能够真正落地、能够帮助团队构建可信赖的 AI 评估体系的方法。

👉 工作流程详解

1. 领域专家选择(Principal Domain Expert)
- 需具备深入的领域知识和丰富实践经验
- 能够清晰表达判断标准和评判理由
- 愿意参与迭代优化过程

2. 数据集创建
- 生成覆盖所有用例的多样化examples
- 结合真实和合成的用户交互数据
- 从小规模高质量样本开始,逐步扩充

3. 专家评审
- 进行通过/不通过的基础判断
- 提供详细的评判理由(用于训练 LLM)
- 记录关键决策点和评判标准

4. 错误修正
- 发现问题后修正并返回步骤3进行专家验证
- 持续积累和分类错误模式
- 重复验证直至专家确认问题解决

5. LLM 评判器构建
- 将专家示例转化为 few-shot examples
- 测试与专家判断的一致性
- 持续优化prompt直至达到满意的一致性水平

6. 错误分析与优化
如果说学Cursor,开始AI编程有什么真正的诀窍的话,那就是:

先做出来,发布出来再说,不要怕不完美。

现在有Claude和GPT加持的AI编程工具,让大多数第一次有机会去真正完成一个由自己构建的产品。毕竟,在此之前,不管你是程序员还是产品经理,绝大多数人在此之前都没有完整做过一个产品。

如果你是产品经理的话,你的工作可能是画画原型,写写PRD,界面设计和代码工作都不在你手上。甚至以我之前在美团和阿里接触到的产品经理来说,他甚至不做“产品”本身的工作,只负责一个功能模块的一小点的细节优化和设计。

而对于程序员,也是类似的道理,前端的只做前端,后端只做后端,数据库的只管数据库。而我之前接触的程序员也大多不了解业务逻辑,不知道自己参与的产品用户群体是谁,其他模块的实现逻辑是什么样的,只是去用自己的能力忠实的实现产品的需求。

在AI的加持下,只要别有害怕、恐惧的情绪,你将第一次获得真真正正的去实现自己的想法的权利。

你需要产品经理,Claude和ChatGPT可以是产品经理。
你需要设计师,Claude、ChatGPT、Ideogram、Midjourney、Flux.1、v0.dev都可以是设计师。
你需要程序员,那更不用说了,Claude、ChatGPT精通所有编程语言。

你唯一需要担心的只是,你是否真的有想法,你是否真的想清楚了你想要去创造什么。

也许你没有想清楚,那也没问题,你可以边做边思考。前几天Paul Graham发了篇文章,认为有了AI之后,人的写作能力会进一步退化,因为写作是需要清晰的思考的,你想不清楚,你就没办法把东西写清楚。很多人会恐惧在写作过程中发现自己大脑中一团浆糊的状态,因此对此心生恐惧。而有了AI之后,大多数人确实是更不需要写作了。

但问题是,不写作的话,你怎么思考呢?

写作不是对思考的记录,而是思考本身。

同样的,去创造去完成一个产品的过程,也是你思考的过程。你没办法完全想清楚了才行动。你需要行动你才有机会想清楚。

而且,在做完之后一定要快速发布。只要完成了发布,你就等于让一个东西从你的大脑中解放了。很多人会想着先把东西做得更好更完美再发布,我想告诉你,千万不要!

完美是完成最大的敌人。世界上没有发布之后就不需要迭代的产品。

许多人之所以不愿意早早发布,其实是有些恐惧心理在其中的,担心其他人觉得不够好,担心这是否会让人觉得自己的水平不行。我真的建议你跟自己脑中的这些恶魔做些斗争。

举个例子,我发布的第一期关于Cursor的教学视频是做一个很简单在网页中生成二维码的Chrome插件,有不少人在底下评论,就做个这?

对的,那时候的我,只能做个那东西。但是我现在做了多个网站、上架了app,我相信评论我的那个人肯定没做到。而且我在做这些东西的过程中感受到了太多的心流和快乐,这个过程本身就是巨大的奖赏了。

而且我非常认同一个关于什么时候该发布自己的产品的观点,那就是如果你发布的产品的第一个版本不让你感到尴尬的话,那就说明你发布得太晚了。

所以,那个会让你尴尬的产品,你打算什么时候发布?
最近两个月用上Cursor之后,每天都舍不得睡觉,很想早起去创造些东西。

上一次有这症状还是GPT Store发布后,上上次是GPT-4。

但是上班时好像从来没过这种感觉。
虽然是一年前就玩过的能力,但还是觉得好惊艳啊!

https://desktop.youchuan.cn
AI探索指南
📷 回归本质:Runway 不是AI 公司 Hans 荐语:这篇来自Runway CEO Cristóbal Valenzuela的最新推文,充满了对AI、媒介和创造本质的深刻洞察,不愧是当代科技与创意交汇领域的领军人物之一。 如果你正在进行AI产品创造、媒介探索,或将AI应用于教育和研究等广泛领域,相信会在这段文字中找到大量共鸣和启发。Enjoy~ 全文如下: Runway不是一家AI公司。Runway是一家媒体和娱乐公司。实际上,我认为AI公司的时代已经结束了。 这并非因为AI失败了 -…
传统媒体的运作像一条单行道。创作通过既定渠道流向消费者。即使在分发被颠覆时 - 首先是社交媒体,然后是流媒体 - 基本模式仍然保持:有人创作,他人消费。角色清晰,界限分明。但我们现在见证着不同的事物。想象观看某个随着你观看而自我生成的内容 - 真正动态的内容,能响应你、理解你、为你创作。通用模拟和世界构建。当内容能实时塑造自己时,创作和分发之间的界限就消失了。这是全新媒体景观的基础。这关乎从根本上重新想象媒体可以成为什么:交互式的、生成式的、个性化的 - 同时又是共享的和普遍的。

这也是为什么纯AI公司正在过时。有趣的问题不再是关于技术 - 而是关于我们用它建造什么。下一波创新不会来自专注于建造更好模型的公司。模型是商品。技术基础现在已经完善并为所有人所知。没有秘密可言。变革的浪潮将来自那些懂得如何使用这些工具来创造新形式媒体、新型体验、新的讲故事方式的人。基础设施已经铺设。基础已经建立。现在来到激动人心的部分:用它创造有意义的东西。

AI公司的终结标志着更有趣事物的开始:真正新媒体的诞生。不仅仅是新平台或格式,而是全新的创作和体验内容的方式。我们不是在打造一家AI公司。这是一个更令人兴奋的使命。就像一直以来那样,回到我们的初心。
📷 回归本质:Runway 不是AI 公司

Hans 荐语:这篇来自Runway CEO Cristóbal Valenzuela的最新推文,充满了对AI、媒介和创造本质的深刻洞察,不愧是当代科技与创意交汇领域的领军人物之一。

如果你正在进行AI产品创造、媒介探索,或将AI应用于教育和研究等广泛领域,相信会在这段文字中找到大量共鸣和启发。Enjoy~

全文如下:

Runway不是一家AI公司。Runway是一家媒体和娱乐公司。实际上,我认为AI公司的时代已经结束了。

这并非因为AI失败了 - 恰恰相反。这是因为AI正在成为基础设施,就像电力或互联网一样基础。今天自称是AI公司就像自称是互联网公司一样。这毫无意义,因为它已经普遍存在。每个公司都使用互联网,每个公司都将使用AI。

对Runway来说,我们的重点是艺术、媒体和整个娱乐领域。我们近七年前创立Runway时的愿景至今基本保持不变:AI是讲故事的必要工具。为实现这一愿景,我们必须反向工作,打造最好的研究团队,以提供最好的模型,在此基础上开发最好的产品。

我经常将我们的工作比作一种新型相机。不是字面意义上的捕捉图像,而是就其历史影响而言。相机不仅创造了摄影 - 它还催生了整个产业、经济和艺术形式。电影、电视、抖音 - 都是那个最早能捕捉光和时间的革命性工具的产物。

我认为我们在Runway所做的工作是全新媒体景观的基础之一。就像相机改变了我们捕捉现实的方式一样,AI正在改变我们创造现实的方式。我们建立的模型和技术能力仅仅是开始 - 它们相当于最早的银版照片,虽然原始但充满可能性。许多人的错误在于将AI视为最终目标。事实并非如此。AI是机制,是支持更伟大事物的基础设施。真正的革命不在于技术本身,而在于它所能实现的:新的表达形式、新的讲故事方式、新的连接人类体验的方法。
Back to Top