Llama2发布了，这版本可以商用了，国内的大模型有救了，我详细整理了一些信息：

- Llama2 的性能和参数
- 如何使用和限制条件
- Llama2 的模型架构
- Llama2 的训练方法论

👇下面是详细的信息

Llama2 的性能和参数

- Llama2有三个大小的版本分别是7B 13B和70B
- Llama 2 的训练数据比 Llama 1 多 40%，上下文长度是 Llama 1 的两倍。
- 预训练的Token为2 万亿，上下文长度为4096
- 据Meta所说，Llama 2 在许多外部基准测试中都优于其他开源语言模型，包括推理、编码、熟练程度和知识测试。

如何使用和限制条件

- 与第一次泄漏的版本不同，这次Meta开放了商业使用的权限。
- 现在可以直接在这个页面申请下载模型：https://ai.meta.com/resources/models-and-libraries/llama-downloads/
- 日活大于7亿的产品需要单独申请商用权限
- 不得使用 Llama 材料或 Llama 材料的任何输出或结果来改进任何其他大型语言模型。

Llama2 的模型架构

- Llama 2-Chat 的基础是 Llama 2 系列预训练语言模型。Llama 2 使用标准的Transformer架构。

- Llama 2-Chat 通过监督微调和强化学习人类反馈进行了优化。先进行监督微调,然后应用包括拒绝采样和PPO在内的强化学习算法进行迭代改进。

- 采用了一些优化,比如预规范化、SwiGLU激活函数和旋转位置嵌入(RoPE)。

- Llama 2-Chat有70亿、34亿、13亿和7亿参数的版本。训练使用公开可获得的数据,没有使用任何Meta用户数据。

Llama2 的训练方法论

1. 预训练
• 使用公开可获得的在线数据进行预训练,总计2万亿个标记。
• 对数据进行了清洗,移除了一些包含大量个人信息的网站。
• 采用标准的Transformer架构,以及一些优化如RoPE等。

2. 监督微调
• 使用高质量的人工标注数据(约3万示例)进行监督微调。
• 优化回答标记,而不是提示标记。

3. 基于人类反馈的强化学习
• 收集人类偏好数据: letting人类比较并选择更好的回复。
• 训练奖励模型,给回复打分。
• 使用拒绝抽样和PPO算法进行迭代调优。

今天给大家分享个在小红书上做的不错的Ai绘画小说推文账号，做好了轻松月入5000不是问题（图1）

它的内容形式也很简单，就是用ai生成图片后，再配上一段求推荐的标题，用户自主性就会进行评论互动

这种形式的笔记，基本上每篇笔记的数据都很好，是一个很有潜力的参考案例，感兴趣的可以去试下

再说说小说推文的变现逻辑：

一句话说明：给小说平台做拉新推广，只要用户通过你的渠道注册账号或下载APP，就能获得推广费。

这里又分为大约两种变现模式。

第一种：以推广用户注册会员为盈利模式，只要用户成功注册并充值会员，平台会给你大概6块的佣金

比如知乎小说。这种叫CPS，用户不仅要下载一个知乎app，下载完以后还得充值会员，才会拿到推广佣金。

这种需要小说比较吸引人，而且需要恰到好处的引导读者充值会员。

由于用户的信任度问题，导致难度系数比较大，但是也有优点，就是项目可能比较长久，可以长期去做。

第二种，以app下载作为盈利模式，推广成功一个也是大概6块佣金

比如番茄小说，这种叫CPA，下载就给钱，不管你充不充值会员，都没有关系。

这种推广难度相对来说小一点。但是也有缺点，就是当APP下载量很大了以后，官方会停掉推广任务。

不过暂时不用考虑这个问题，做拉新活动的APP有很多，这个不行在找下一个（图2）

如何去做这个项目？

很简单，我以知乎举例

首先做Ai绘画小说推文，需要先搞定渠道，这关乎着最后佣金结算（普通人基本没办法对接平台的渠道，建议直接找能提供渠道的人，他们会抽取你成交的一小部分佣金）

搞定渠道后，再去找对标账号，最简单方法就是搜索小说推文，但搜出来的笔记质量会有些层次不齐

这里建议通过爆款笔记带的#话题 ，收录的笔记质量会更好些，搞不定的就用我发的当作参考对象也行（图3）

然后分析爆款笔记的框架，分析对标账号里的哪些类型的笔记互动数据比较好

例如：爆款笔记的标题是《想看男主非常有服务意识的文!!》，或者寻找对标笔记里比较热门的评论，作为寻找小说的线索

总之，一定要寻找比较热的、爆的小说文章

然后去知乎寻找相关类型的付费小说，再根据渠道的要求进行上传做登记（涉及佣金结算）

之后就是Ai绘画的制作环节，这部分没有标准的要求，只要跟主题比较贴切、吸睛的就好

搞定小说文章和Ai配图后，进行笔记的发布

这里是个小技巧

她在淘宝卖AI手机壳，单品一个月2000块。

我发现，这又是一个非常窄的领域，单价很低12-20块一个的手机壳。

每种卖的也不多，一个月100份往下浮动，加起来一款手机壁纸，月销2000块左右。

一般人是找不到的，因为即使ta搜了手机壳。

你也不知道哪一张是Ai画出来的，用的是什么咒语，复制成本自然就高了。

这就是一个很典型的入局了的人（同时熟悉AI绘画和小红书运营），才能看懂和操作的方向。

比如，我扫了一眼榜单，就能看出来，最近火的还是那几款，比如：

迪士尼公主、情侣头像、治愈系宠物、夏日水下风格。

但是说出来也没用。

因为这几周新类型的壁纸爆款有哪些？咒语去哪里找？用的什么绘画工具？怎么做手机壳？都是问题。

正是这些问题，形成了一个小门槛，堵住了大部分的人。

所以一个新行业，哪怕你不去做，偶尔也要看一看，有些新信息，只会出现在行业早期。