关于AIGC人工智能、思维方式、知识拓展，能力提升等。投稿/合作： @inside1024_bot
AIGC 领域的最新工具、开源项目以及行业大事件
AIGC 领域的最新工具、开源项目以及行业大事件
正式向大家介绍我们最新的产品：🚀Dodoboo🚀，AI驱动的儿童绘画产品，Best AI Practice for kids!!!, 我们可以将孩子们的几笔涂鸦变成一个Masterpiece，释放他们无限的创造力。欢迎大家也来体验。希望大家可以Upvote + Comment支持⬆️💪
https://www.producthunt.com/posts/dodoboo
有PH账号的朋友麻烦点个赞啊
https://www.producthunt.com/posts/dodoboo
有PH账号的朋友麻烦点个赞啊
AI 产品经理到底该长什么样子，该怎么招、怎么培养？我觉得这期对市场的意义很大，相信很多人听完就会开始读 paper 和自己实践做产品了😃
阳萌:『以前我在 Google 做搜索工程师，2008 年我们内部的评价标准下，Google 搜索就已经能到 62、63 分了，但十几年过去了，这个分数也没有提高特别多。
这个背后有一些底层逻辑。首先，分治法因为要避免累积误差，所以要把每个步骤都尽可能做好。然后就发现很多步骤越往细做，其实都是在越钻牛角尖，没有意义。例如机器人要讲重定位精度，而人的重定位精度很差，也能做很复杂的操作。
其次，分治法在不断细分问题时会消耗大量人力。搜索要一千人打底，自动驾驶也要一千人。到后面更糟的情况是，分得越精细，代码越复杂，所需要的理解和迭代成本指数上升。最终它的天花板就到了，这个时候再加更多的人，或者拆得再细，都弊大于利了。…（ ➠ 详见正文）』🤔
转发自通往AGI之路的ai大模型的微信🤖️搭建教程：
张梦飞｜微信机器人搭建小小白教程：https://waytoagi.feishu.cn/wiki/A9w1wUcXSihF6XkeKVic8CXxnHb
Yaki｜新手小白可以看这个教程：https://waytoagi.feishu.cn/wiki/UADkwZ9B0iAWdTkFJIjcN7EgnAh
熊猫大侠｜梳理更详细的教程
https://waytoagi.feishu.cn/wiki/YNNuwEqCXiSj2akS5mlcjpZgnrb
丁先生｜全程白嫖 - 拥有一个AI大模型的微信小助手
https://waytoagi.feishu.cn/wiki/EYdCw5tTTimCOukGiSfczj2Gnqd
张梦飞｜微信机器人搭建小小白教程：https://waytoagi.feishu.cn/wiki/A9w1wUcXSihF6XkeKVic8CXxnHb
Yaki｜新手小白可以看这个教程：https://waytoagi.feishu.cn/wiki/UADkwZ9B0iAWdTkFJIjcN7EgnAh
熊猫大侠｜梳理更详细的教程
https://waytoagi.feishu.cn/wiki/YNNuwEqCXiSj2akS5mlcjpZgnrb
丁先生｜全程白嫖 - 拥有一个AI大模型的微信小助手
https://waytoagi.feishu.cn/wiki/EYdCw5tTTimCOukGiSfczj2Gnqd
评估系统所积累的数据和流程,可以很自然地应用到 LLM 产品的微调和数据管理中。微调最关键的是数据质量,而评估系统可以通过筛选、清洗、合成等手段来生成高质量的微调数据。评估系统中记录的跟踪数据、断言规则、人工反馈等,都可以直接用于微调数据的管理。总的来说,评估基础设施和微调及数据合成所需的基础设施有很大重叠。
✲ 调试
LLM 产品的调试也可以受益于评估系统。理想的评估系统应该能够支持快速定位错误,找到问题的根本原因。其中的关键是丰富的跟踪数据、可以标记错误的机制、高效的日志搜索和导航工具等。此外,系统的设计应当允许快速测试解决方案并验证有效性。总之,调试和评估所需的基础设施在很多方面是共通的。
全文翻译：https://quail.ink/op7418/p/e4bda0e79a84e4babae5b7a5e699bae883bde4baa7e59381e99c80e8a681e8af84e4bcb0-e5a682e4bd95e8af84e4bcb0llme4baa7e59381
✲ 调试
LLM 产品的调试也可以受益于评估系统。理想的评估系统应该能够支持快速定位错误,找到问题的根本原因。其中的关键是丰富的跟踪数据、可以标记错误的机制、高效的日志搜索和导航工具等。此外,系统的设计应当允许快速测试解决方案并验证有效性。总之,调试和评估所需的基础设施在很多方面是共通的。
全文翻译：https://quail.ink/op7418/p/e4bda0e79a84e4babae5b7a5e699bae883bde4baa7e59381e99c80e8a681e8af84e4bcb0-e5a682e4bd95e8af84e4bcb0llme4baa7e59381
流程包括单元测试、人工评估、模型评估和 A/B 测试,强调快速迭代和数据管理的重要性。
一个好的测试流程是模型进步的必要条件，如果没办法准确测试模型质量，就没办法帮助模型进步。
👇下面是大致的内容整理，后面有全文翻译：
✲ 大语言模型产品的评估系统
评估系统对大语言模型(LLM)产品的成功至关重要。许多 LLM 产品之所以失败,根本原因在于未能创建健壮的评估系统。评估、调试和改进是 LLM 产品成功的关键,而良好的评估系统可以创造一个良性循环,加速产品的迭代和改进。案例研究中的 Lucy 就是一个典型的例子,它初期通过提示工程取得了进展,但后来遇到了性能瓶颈,需要建立系统的评估方法来突破瓶颈。
✲ 评估的类型
LLM 产品的评估主要分为三个层次:单元测试、人工评估和模型评估、A/B 测试。单元测试是通过编写一些断言语句,在开发过程中快速获得反馈。人工评估和模型评估是通过人工检查和训练评估模型来评估整个系统。A/B 测试则用于确保 AI 产品能够驱动期望的用户行为或结果。除了评估整个系统,还需要对子组件如 RAG 进行单独评估。
✲ 单元测试的步骤
单元测试是 LLM 产品评估的基础,通常包括三个步骤:编写特定范围的测试、创建测试用例和定期执行测试并追踪结果。编写测试时要针对 LLM 的不同功能和场景,检验相应的断言。可以利用 LLM 自动生成测试用例,触发不同的场景。测试应当定期执行,利用 CI 基础设施可以很方便地实现自动化测试和结果跟踪。测试通过率并不一定要达到100%,而是要在错误容忍度和产品目标之间取得平衡。
✲ 人工评估和模型评估
人工评估和模型评估是更高层次的测试手段。首先要记录 LLM 系统的跟踪数据,包括用户的输入和系统的响应,为后续分析提供数据基础。在查看数据时,定制化的查看工具和良好的可视化非常重要。将人工评估结果与评估模型的预测对齐,可以极大提高评估的效率。随着评估模型性能的提升,可以渐进式地用自动评估来替代人工评估。
✲ 微调和数据合成与管理
在Colab笔记本中,需要根据实际情况调整一些参数。例如,可以根据数据集的token数量来设置max_sequence_length参数,借助rope scaling技术,模型能够支持任意长度的上下文。此外,还可以选择使用Instruct系列模型作为base model,直接在其基础上进行指令微调。为了节省资源,可以启用4-bit量化。同时,参考Q-Lora论文的建议,调整R值和alpha值,以在资源占用和模型质量之间取得平衡。
✲ 训练过程中的资源使用监控：
在模型训练过程中,用户可以通过Colab的资源监控选项卡实时观察GPU、内存和硬盘的使用情况。如果发现资源不足,可以考虑从T4升级到A100。通过监控资源占用,用户能够及时调整配置,确保微调任务稳定高效地进行。
✲ 模型训练的loss变化和最佳checkpoint的选择：
通过记录不同训练步数下的loss值,可以判断模型的收敛情况。理想的做法是选择loss下降曲线趋于平缓的点作为最佳checkpoint,这样既能充分训练模型,又能避免过拟合。为了事后方便筛选,可以设置每隔一定步数保存一次checkpoint。
✲ 模型微调完成后的保存与使用：
微调完成后,可以选择只保存adapter layers以加快保存速度。但更推荐的做法是保存完整模型,并使用float16精度,这样可以得到一个更通用和标准的模型格式,方便后续的部署和使用。
✲ 在Hugging Face上公开或私有发布微调后的模型：
用户可以选择在Hugging Face的模型库中公开或私有地发布自己微调后的模型。发布之前,需要在Hugging Face账号中创建一个访问令牌,并在发布时提供相应的用户名和令牌信息。通过在Hugging Face上发布模型,用户可以方便地与他人分享自己的微调成果。
✲ 使用微调后的模型进行推理(inference)：
在使用微调后的模型进行推理时,首先需要加载保存的模型。接着,使用tokenizer对输入的文本进行处理,并将其传入模型。进行推理时,max_length参数需要与训练时保持一致,以确保生成的结果不会被截断。完成以上步骤后,就可以利用微调后的模型进行各种实际应用了。
来源：https://youtu.be/rANv5BVcR5k?si=7pJoD7X6JpRWo_Ex：
✲ 训练过程中的资源使用监控：
在模型训练过程中,用户可以通过Colab的资源监控选项卡实时观察GPU、内存和硬盘的使用情况。如果发现资源不足,可以考虑从T4升级到A100。通过监控资源占用,用户能够及时调整配置,确保微调任务稳定高效地进行。
✲ 模型训练的loss变化和最佳checkpoint的选择：
通过记录不同训练步数下的loss值,可以判断模型的收敛情况。理想的做法是选择loss下降曲线趋于平缓的点作为最佳checkpoint,这样既能充分训练模型,又能避免过拟合。为了事后方便筛选,可以设置每隔一定步数保存一次checkpoint。
✲ 模型微调完成后的保存与使用：
微调完成后,可以选择只保存adapter layers以加快保存速度。但更推荐的做法是保存完整模型,并使用float16精度,这样可以得到一个更通用和标准的模型格式,方便后续的部署和使用。
✲ 在Hugging Face上公开或私有发布微调后的模型：
用户可以选择在Hugging Face的模型库中公开或私有地发布自己微调后的模型。发布之前,需要在Hugging Face账号中创建一个访问令牌,并在发布时提供相应的用户名和令牌信息。通过在Hugging Face上发布模型,用户可以方便地与他人分享自己的微调成果。
✲ 使用微调后的模型进行推理(inference)：
在使用微调后的模型进行推理时,首先需要加载保存的模型。接着,使用tokenizer对输入的文本进行处理,并将其传入模型。进行推理时,max_length参数需要与训练时保持一致,以确保生成的结果不会被截断。完成以上步骤后,就可以利用微调后的模型进行各种实际应用了。
来源：https://youtu.be/rANv5BVcR5k?si=7pJoD7X6JpRWo_Ex：
