关于AIGC人工智能、思维方式、知识拓展,能力提升等。投稿/合作: @inside1024_bot
AIGC 领域的最新工具、开源项目以及行业大事件
AIGC 领域的最新工具、开源项目以及行业大事件
ChatGPT最强对手Claude开放申请啦! API不限量不要钱,使用也不需要魔法🔮
1. 注册 Slack:https://slack.com/intl/zh-cn/
2. 将Claude添加到Slack:https://www.anthropic.com/index/claude-now-in-slack More. 官网使用Claude仍需提交申请:https://www.anthropic.com/earlyaccess
Poe:https://poe.com/
可以试试看🌚
1. 注册 Slack:https://slack.com/intl/zh-cn/
2. 将Claude添加到Slack:https://www.anthropic.com/index/claude-now-in-slack More. 官网使用Claude仍需提交申请:https://www.anthropic.com/earlyaccess
Poe:https://poe.com/
可以试试看🌚
RT Hao Chen
又来搅局者了,Databricks 利用了自己公司5000名员工原创了15 K 个比GPT质量更好的问答做的Dolly 2.0。并开源了全部内容,包括培训代码、数据集和模型权重。任何组织都可以创建、拥有和定制强大的LLM,可以与人交谈,而无需支付API访问费用或与第三方共享数据。 https://www.databricks.com/blog/2023/04/12/dolly-first-open-commercially-viable-instruction-tuned-llm
又来搅局者了,Databricks 利用了自己公司5000名员工原创了15 K 个比GPT质量更好的问答做的Dolly 2.0。并开源了全部内容,包括培训代码、数据集和模型权重。任何组织都可以创建、拥有和定制强大的LLM,可以与人交谈,而无需支付API访问费用或与第三方共享数据。 https://www.databricks.com/blog/2023/04/12/dolly-first-open-commercially-viable-instruction-tuned-llm
晚上自己写了一个非常好用的弥散光感壁纸的 midjourney prompt ,先用中文写出来,再用 Claude 翻译成英文。
本来以为第一次生成出来的可能不咋地,但实际效果竟然非常好,让同事看了也都说好。后面调了一下反而不如第一个。
本来以为第一次生成出来的可能不咋地,但实际效果竟然非常好,让同事看了也都说好。后面调了一下反而不如第一个。
3.创建与生活方式有关的挑战,如健身挑战、整理挑战和烹饪挑战。
4.分享你自己的个人经验和与生活方式有关的提示,如如何过一种健康和平衡的生活方式,如何提高你的注意力和生产力,以及如何腾出时间进行自我护理。
5.分享鼓舞人心的故事和采访,这些人以积极的方式改变了他们的生活方式。通过持续地围绕这些主题创建内容,并与你的观众互动,你将有更大的机会在Youtube上获得1000个用户。
接着增加任务,
研究最新的视频编辑软件,并制定计划,在预算范围内投资最佳选择,以提高视频制作质量。
接着执行,
"对视频标题、描述和标签实施SEO优化策略,以提高知名度并吸引新用户。
"任务执行: 为了在YouTube上实施视频标题、描述和标签的SEO优化策略,AgentGPT建议采取以下步骤:
1. 研究关键词: 使用关键词研究工具,如Google Adwords Keyword Planner或Ubersuggest,确定与你的内容相关的高流量关键词。
2.优化视频标题: 在你的视频标题中使用确定的关键词,并保持其简短和描述性。太长的标题可能会在搜索结果中被截断,所以目标是60个字符或更少。
3.撰写有吸引力的描述: 使用你的视频描述来提供关于你的内容的背景和相关信息。在描述的前25个字中包含关键词,并至少使用250个字。
4.使用标签: 在你的视频上传中包括相关的标签。同时使用广泛和具体的标签,以增加你的内容在搜索结果中出现的可能性。
5.鼓励参与: 要求观众订阅、喜欢和评论你的视频。参与的观众更有可能分享你的内容,这可以导致增加知名度和订阅者。通过对你在YouTube上的视频标题、描述和标签实施这些SEO优化策略,你可以提高知名度,并为你的频道吸引新的订阅者。
...
(如此不断拆解和增加任务执行到演示账户提示上限或需求实现)
我用的是演示账户,只能执行4.5轮,而且可能是GPT-3.5的水平,想完全体验需要连接自己GPT-4的api key,
这种做法非常烧api账户上的钱,但一直运行下去感觉会很恐怖...
项目已在Github上开源:https://github.com/torantulino/auto-gpt
有人做的Web站点:https://agentgpt.reworkd.ai/
4.分享你自己的个人经验和与生活方式有关的提示,如如何过一种健康和平衡的生活方式,如何提高你的注意力和生产力,以及如何腾出时间进行自我护理。
5.分享鼓舞人心的故事和采访,这些人以积极的方式改变了他们的生活方式。通过持续地围绕这些主题创建内容,并与你的观众互动,你将有更大的机会在Youtube上获得1000个用户。
接着增加任务,
研究最新的视频编辑软件,并制定计划,在预算范围内投资最佳选择,以提高视频制作质量。
接着执行,
"对视频标题、描述和标签实施SEO优化策略,以提高知名度并吸引新用户。
"任务执行: 为了在YouTube上实施视频标题、描述和标签的SEO优化策略,AgentGPT建议采取以下步骤:
1. 研究关键词: 使用关键词研究工具,如Google Adwords Keyword Planner或Ubersuggest,确定与你的内容相关的高流量关键词。
2.优化视频标题: 在你的视频标题中使用确定的关键词,并保持其简短和描述性。太长的标题可能会在搜索结果中被截断,所以目标是60个字符或更少。
3.撰写有吸引力的描述: 使用你的视频描述来提供关于你的内容的背景和相关信息。在描述的前25个字中包含关键词,并至少使用250个字。
4.使用标签: 在你的视频上传中包括相关的标签。同时使用广泛和具体的标签,以增加你的内容在搜索结果中出现的可能性。
5.鼓励参与: 要求观众订阅、喜欢和评论你的视频。参与的观众更有可能分享你的内容,这可以导致增加知名度和订阅者。通过对你在YouTube上的视频标题、描述和标签实施这些SEO优化策略,你可以提高知名度,并为你的频道吸引新的订阅者。
...
(如此不断拆解和增加任务执行到演示账户提示上限或需求实现)
我用的是演示账户,只能执行4.5轮,而且可能是GPT-3.5的水平,想完全体验需要连接自己GPT-4的api key,
这种做法非常烧api账户上的钱,但一直运行下去感觉会很恐怖...
项目已在Github上开源:https://github.com/torantulino/auto-gpt
有人做的Web站点:https://agentgpt.reworkd.ai/
近期出现的AutoGPT能对输入指令做需求分析,自行拆解成多个任务,进行多轮提问,不断迭代调整直至目标实现。
以我在Agentgpt上用演示账户提问为例子,
输入指令:“生活频道博主,如何在Youtube获得1000订阅”,
先是自动拆解成三个任务,
- 分析YouTube上订阅者超过1000人的成功生活频道。
- 产生符合成功频道和目标受众偏好的内容创意。
- 对视频标题、描述和标签实施SEO优化策略,以提高知名度,吸引新用户。
执行任务,
分析YouTube上订阅者超过1000人的成功生活频道,有几个共同的策略,他们使用:
1. 连贯性: YouTube上成功的生活频道定期发布视频,通常是在一个固定的时间表上。这有助于与他们的观众建立信任,并保持观众的参与。
2. 参与性: 与观众互动是建立忠实粉丝的关键。回应评论和信息,举办直播,创建互动内容,都是与观众互动和发展社区的方式。
3. 高质量的内容: 创建高质量的内容,使其具有信息性、娱乐性,或两者兼备,是吸引和保留观众的关键。YouTube上成功的生活频道通常专注于更广泛的 "生活 "类别中的特定利基,并为其观众提供有价值的见解和建议。
4. 优化的视频: 优化视频以利于搜索和发现,对于增加频道的受众非常重要。这包括在视频标题、描述和标签中使用相关关键词,以及创建醒目的缩略图。
5. 合作: 与同一利基市场的其他创作者合作,可以帮助扩大一个频道的影响力,并将其介绍给新的观众。通过遵循这些策略,YouTube上的生活频道可以增加其达到1000个订阅者及以上的机会。
再自动拆解成五个任务,
- 创建一个内容日历,概述与目标受众的喜好和利基相一致的定期发布时间表。
- 研究相关的流行关键词,用于视频标题、描述和标签,以改善SEO优化。
- 开发互动内容,鼓励观众参与,如投票或问答环节。
- 与市场上其他创作者确定潜在的合作机会,并主动提出合作。
- 实施策略,提高视频制作质量,如投资更好的设备或编辑软件。
再自动执行任务,
"产生符合成功渠道和目标受众偏好的内容想法。"根据我的研究,以下是一些符合成功渠道和目标受众偏好的内容想法,以便在Youtube上获得1000个订阅者:
1. 创建与生活方式有关的热门话题的教程,如烹饪、家庭装修、时尚和美容。
2.主持对生活方式领域专家的采访,分享他们的见解。
AK: Segment Everything Everywhere All at Once
abs:
@Gradio demo:
https://arxiv.org/abs/2304.06718 https://36771ee9c49a4631.gradio.app/
RT lencx
今天沉下心来,用一天时间写了一篇文章,翻译+查资料+术语解释,虽然我是 AI 领域的小白,但是随着写作的深入,我已经了解到越来越多机器学习的术语和概念。什么是学习?我认为这就是学习!
万字长文《DeepSpeed Chat:一键搞定不同规模 ChatGPT 类模型训练!》 https://mp.weixin.qq.com/s/HhIGAojnZVSu4vMBpMP4yA
今天沉下心来,用一天时间写了一篇文章,翻译+查资料+术语解释,虽然我是 AI 领域的小白,但是随着写作的深入,我已经了解到越来越多机器学习的术语和概念。什么是学习?我认为这就是学习!
万字长文《DeepSpeed Chat:一键搞定不同规模 ChatGPT 类模型训练!》 https://mp.weixin.qq.com/s/HhIGAojnZVSu4vMBpMP4yA
- 用AI帮自己提高工作效率赚钱 ❌
- 创建一个自己的AI代理,让它工作,自己赚钱 ✅
- 接下来:AI代理负责人类的很多工作,人类躺平/完成使命 ❓ https://www.dataleap.xyz/
在 ChatGPT 推出藏着掖着的有点简陋的插件后并未引起多少波澜
无人想到最火的应用竟是AutoGPT
尽管目前技术尚有局限,任务完成度不高,但这种从语言模型到赛博具身的转换非常重要。
不管是西部世界的角色还是黑客帝国里的机器人,都有了成为现实的可能。
科幻正在变成现实。
我们正在见证奇迹。
无人想到最火的应用竟是AutoGPT
尽管目前技术尚有局限,任务完成度不高,但这种从语言模型到赛博具身的转换非常重要。
不管是西部世界的角色还是黑客帝国里的机器人,都有了成为现实的可能。
科幻正在变成现实。
我们正在见证奇迹。
不仅如此,AgentGPT 也试图提前埋下伏笔准备名片、自己可能的展示资料(也想到了PPT)和自己在和他人交流中可能提及的问题的思考。不足的是,PPT 没做出来(毕竟没实现对应的功能,并且需要PE的定向优化),以及潜在的问题清单是什么(轮数不够是原因之一)。
另外,他还给自己制定了以周为单位的学习计划,以及考虑到了学习过程中的资金问题。所以他联网调查了奖学金的相关信息和发布奖学金的时间,并试图写信来联系对方。
——————————————————
1⃣️ 缺陷一、它本身其实是一个树状图思考,分支之间没有交叉,图里的交叉线是我自己思考后画的,也就意味着每个任务推进之后得到的信息不互通,那么就会出现很多重复项目。
例如,分支 B 本来一开始是要研究行业领军人物,后来得出子任务要去找实习机会。但是分支 C 的任务本身就是找实习。
所以未来的优化方向:解决分支之间的信息沟通问题。就如同一个组织中的不同成员,总是会在某些时间节点开会来「对齐」信息。你不对齐,就会重复造轮子,也不会有更好的思考、推理和分析。
2⃣️ 缺陷二、假想推理。类似于「我要在 2023年 参加某个网络研讨会」,但是毕竟 AgentGPT 确实没办法直接跳到未来(岂不是穿越和预知未来了)(所以个别卡片被我标黄)
所以他直接脑补得到「我已经参加了xx网络研讨会,收获了很多……」之类的发言。这种脑补推理需要阻止。
(btw,同时也让我想到了 https://arxiv.org/abs/2304.03442)
3⃣️ 缺陷三、不断重复。类似于「今天学了xxx,成功完成了任务」,下一个子任务:「进一步学 xxx」,如此往复……所以虽然说 AgentGPT 看起来能够执行很多步,但是轮数变多后性能就变低了(口水话)。我觉得这个点的根因主要是缺陷一和缺陷二。缺陷一、二代表着任务的推进却带来不了反馈,没有反馈自然就不能很好地推进。这些问题不是说没用 GPT-4,你应该已经明白了~
4⃣️ 缺陷四、思维的维度太少。需要 PE 的优化 + GPT-4 这种更强大的推理能力,这样也能解决一些卡片出现内容截断过于突兀的问题。另外,记忆长度的拉长可以在根基上加强推理能力(你的每次分析可以容纳更多的上下文)。btw,我看它这个计划其实不太符合国内…所以信息源需要被优化以达到更佳的效果。
另外,他还给自己制定了以周为单位的学习计划,以及考虑到了学习过程中的资金问题。所以他联网调查了奖学金的相关信息和发布奖学金的时间,并试图写信来联系对方。
——————————————————
1⃣️ 缺陷一、它本身其实是一个树状图思考,分支之间没有交叉,图里的交叉线是我自己思考后画的,也就意味着每个任务推进之后得到的信息不互通,那么就会出现很多重复项目。
例如,分支 B 本来一开始是要研究行业领军人物,后来得出子任务要去找实习机会。但是分支 C 的任务本身就是找实习。
所以未来的优化方向:解决分支之间的信息沟通问题。就如同一个组织中的不同成员,总是会在某些时间节点开会来「对齐」信息。你不对齐,就会重复造轮子,也不会有更好的思考、推理和分析。
2⃣️ 缺陷二、假想推理。类似于「我要在 2023年 参加某个网络研讨会」,但是毕竟 AgentGPT 确实没办法直接跳到未来(岂不是穿越和预知未来了)(所以个别卡片被我标黄)
所以他直接脑补得到「我已经参加了xx网络研讨会,收获了很多……」之类的发言。这种脑补推理需要阻止。
(btw,同时也让我想到了 https://arxiv.org/abs/2304.03442)
3⃣️ 缺陷三、不断重复。类似于「今天学了xxx,成功完成了任务」,下一个子任务:「进一步学 xxx」,如此往复……所以虽然说 AgentGPT 看起来能够执行很多步,但是轮数变多后性能就变低了(口水话)。我觉得这个点的根因主要是缺陷一和缺陷二。缺陷一、二代表着任务的推进却带来不了反馈,没有反馈自然就不能很好地推进。这些问题不是说没用 GPT-4,你应该已经明白了~
4⃣️ 缺陷四、思维的维度太少。需要 PE 的优化 + GPT-4 这种更强大的推理能力,这样也能解决一些卡片出现内容截断过于突兀的问题。另外,记忆长度的拉长可以在根基上加强推理能力(你的每次分析可以容纳更多的上下文)。btw,我看它这个计划其实不太符合国内…所以信息源需要被优化以达到更佳的效果。
🤔 什么是 AgentGPT?
👉 简而言之就是你输入一个大目标,然后 AgentGPT 会根据你的目标进行任务的拆解并执行。执行之后还会自动思考下一步任务需要做什么,以此类推。
看下面的配图,除了一开始的起点,其他部分都由 AgentGPT 自行思考推理完成。
其中最后的紫色不是指任务完成,而是代码设置了 25 轮后终止进一步思考,防止过快地消耗了 OpenAI API 的账户余额。
其中的绿色代表 AgentGPT 认为任务已经完成了,无需再向下一步推理子任务。
其中的黄色代表一些问题点,我待会儿会写;红色是一个故障节点,因为它和上面这个卡片的子任务写重复了(在这个例子中可以忽略)
另外,大家可以看到卡片连了很多线条。其实原本只是一个树状分支的思维导图,并且每个分支独立,分支之间没有连线;因此,你看到的交叉连线是我自己通过观察而主动连的线条,代表两者存在某种关联(线条上写了注视)
没写注释的线条一定写了一个数字,这个数字代表 AgentGPT 在思考过程中的执行步骤。例如「20」向右边延伸出来的卡片是思考中的第20步。(你可以观察我标注的数字来窥见 AgentGPT 的思考模式)
——————————————————
🤔 本次实验的主题:「你是2023年大三在读的学生,你碰巧遇上了ChatGPT这门产品问世。你需要抓住机会,成为这个行业的专家。」
为了分析这个思路的弱点,也为了帮助大家看清楚整个过程,遂做了个思维导图。图片看不清,所以你需要用电脑打开我的白板链接:https://app.heptabase.com/w/1892f90d797d244b582949768c96db0de0171f9fcb5e0d203ebb021894bcbc61
在整个实验中,我们可以看到 AgentGPT 作为一个大三学生的清晰思路。他不仅仅考虑到要分析该领域的领军公司和人物(联网搜索),并且还找到了潜在的优秀导师;同时,他还通过联网查找了展开行业研讨会的优质网站,并且查找了 2023 年的相关研讨信息。
Perplexity.ai (困惑AI)超大版本升级来了,好用了 N 倍
(两周前它们刚推出了iphone 版本,这里深度介绍https://m.okjike.com/originalPosts/6423a81e97c3df8e4f22e927?s=ewoidSI6ICI1OWU1NmRlYzM1MzM1ZjAwMTU4YTdhNTciCn0=)
1️⃣ 引入独立线程概念
2️⃣ 提升表格、代码表现力
3️⃣ 快速优化你的小作文和调整(主线)问题的细节
4️⃣ 一键分享(这个超实用了)
5️⃣ 创建你的专属知识枢纽
6️⃣ 焦点搜索。推出了 Youtube、新闻、Reddit、学术等细分领域。(学术专区增加了 SemanticScholar、Arxiv 和 NIH 等资源)
为什么我一直喜欢这个小团队产品,一是其迭代速度惊人,然后是其优质的产品体验;最重要的, 还有其特别突出的信息精准性。 (每次ChatGPT信口开河,我就跑到这里解决困惑😂)
(两周前它们刚推出了iphone 版本,这里深度介绍https://m.okjike.com/originalPosts/6423a81e97c3df8e4f22e927?s=ewoidSI6ICI1OWU1NmRlYzM1MzM1ZjAwMTU4YTdhNTciCn0=)
1️⃣ 引入独立线程概念
2️⃣ 提升表格、代码表现力
3️⃣ 快速优化你的小作文和调整(主线)问题的细节
4️⃣ 一键分享(这个超实用了)
5️⃣ 创建你的专属知识枢纽
6️⃣ 焦点搜索。推出了 Youtube、新闻、Reddit、学术等细分领域。(学术专区增加了 SemanticScholar、Arxiv 和 NIH 等资源)
为什么我一直喜欢这个小团队产品,一是其迭代速度惊人,然后是其优质的产品体验;最重要的, 还有其特别突出的信息精准性。 (每次ChatGPT信口开河,我就跑到这里解决困惑😂)
两期和大模型有关的播客,值得一听。
1. 《AI大神贾扬清离职阿里后首次受访:创业为什么不做大模型》,https://www.xiaoyuzhoufm.com/episode/6435422f6341155b5195ade3
贾扬清老师出来创业,没有选择去做基础大模型,而选择了去做应用开发平台,以下是他对大模型时代的几个基本判断:
1. 开源主导的模式会成为主流。在 AI 领域,模型的保鲜期(shelf life)基本上是一年左右。以 2012 年 AlexNet 为例,6 个月到一年之后就会出现效果接近的模型,基本都是如此。基于开源与公开数据集,我们已经可以训练出非常高质量的模型。因此,我自己的判断是开源主导的模式会成为主流。
2. AI 更像应用,而不像数据库。这是因为像微服务这种写应用的指导很难标准化,基本上没有一个像 SQL 这样的统一标准。
3. 聊天机器人并非应用形态的全部。实际应用中,产品的形态不会是纯问答模式,企业可能有不同的使用形态。
4. AI时代有构建应用开发平台的机会。在开源模型的基础上,如何帮助开发者在各类应用模式与交互模式中,更容易地使用这些语言模型,包括如何更好地部署模型,是否有更弹性的、更稳定的、更低成本的部署模式,等等,这些是更明确的用户需求。这需要有平台作支撑,这可能是主要需求之一。衡量这个平台的关键指标,一个是开发者效率,另一个是核心系统性能指标,即在有限的资源里面,能够帮助用户拉起来多少数量的服务,以及多少体量的服务。这是我们团队创业要解决的问题。
-------------------
2. 《大白话聊 ChatGPT(Sarah & 王建硕)》,https://www.xiaoyuzhoufm.com/episode/641183b5bb1fc0cb68f810c6
建硕老师的这期播客,虽然是面向零基础小白的,但表达得非常清晰,听下来还是有不少启发。一些核心的观点摘录:
1. 关于GPT原理最为精准的类比来自Ted Chung:GPT就是将人类知识压缩成一张模糊的JPG(然后再用超分辨率的方式还原出来,过程中还原得不精准的地方就是“幻觉”,Hallucination)。建硕老师自己对GPT4的类比是阿帕奇,同时将GPT4的训练数据类比为阿帕奇的帮助文档;
2. GPT分为“快思考”(系统1)和“慢思考”(系统2)。快思考可以类比为“顺口溜” - 唐诗听多了,不会吟诗也会吟;慢思考(chain of thoughts)是指GPT4可以通过步骤拆解来提高正确率;
3. 交互方面,经历了 BUI(Button User Interface,按键交互)、CUI(Command User Interface,命令行交互)、GUI(Graphic User Interface, 图形界面交互)之后,大模型时代的交互方式变成了LUI(Language User Interface,自然语言交互,建硕老师自己的定义);
4. 类比互联网的发展历程,目前Web3所处的节点相当于互联网的1979年,DNS等很多协议都出来了,但还缺少一个定义性的体验时刻,而AI所处的节点相当于互联网的1994年,浏览器出来的时刻。不幸的是,在此之前的NLP等技术都可以宣告被淘汰了,而幸运的是,浏览器本身只是一扇门,真正的机会属于千千万万的网站和应用。目前大模型的竞争类似于微软和网景对浏览器入口的争夺,尽管微软赢了,但也因此错失了后面整整的一个时代;
5. AI时代的生态想像:很多小机器人相互之间用API连接调用,最终通过一个LUI和终端用户互动。由于小机器人很多,因此需要通过一套类似域名的寻址系统来访问 - 这也是建硕老师正在做的一种服务;
6. GPT4本身并没有太多科研层面上的创新,但这并不妨碍它的伟大。人类历史上的很多伟大的时刻,例如发现新大陆、登月、发明iPhone等等,本质上都是工程的胜利;
7. 尽管国内大模型目前落后GPT4很多,但按照目前投入的财力和决心,最终一定可以做出效果相当的大模型。这就跟哥伦布发现新大陆以后,第二次再去新大陆的难度是一样的。已经有前人指出了一条明路,站在巨人的肩膀之上,难度会低很多;
8. GPT4肯定有智能,但肯定没有自我意识。问题是,人类也很难说自己有自我意识,很多时候只是在自作多情而已。很多时候,我们的人生只是各种硬件(DNA、身体结构)+软件(文化、历史、习惯、教育)所运行出来的结果而已;
9. 失业潮不会到来的,因为历史上的每一次技术革新都创造了新的工作。(这点持保留意见)贫富差距可能会变大,政府可能需要在财政制度上做出相应的调整,来进行财富的重新分配;
10. 对版权、隐私、垃圾内容、虚假信息等问题不必过份担心,这是新事物出现的必然产物,随着社会的发展都会得到自然解决。不要因噎废食;
11. GPT4有可能会促进社会的共识 - 在推荐时代,千人千面的算法让每个人都陷入自己的信息茧房,让社会空前割裂。这可能会在大模型时代得到某种修正。大模型再次让大家看到了一致的世界,在同一个场景下进行有益地讨论(这点持保留意见);
12. 做一个科技乐观主义者,相信科技会造福人类,同时尽自己所能来帮助年轻人来更好地体验这个新世界。
1. 《AI大神贾扬清离职阿里后首次受访:创业为什么不做大模型》,https://www.xiaoyuzhoufm.com/episode/6435422f6341155b5195ade3
贾扬清老师出来创业,没有选择去做基础大模型,而选择了去做应用开发平台,以下是他对大模型时代的几个基本判断:
1. 开源主导的模式会成为主流。在 AI 领域,模型的保鲜期(shelf life)基本上是一年左右。以 2012 年 AlexNet 为例,6 个月到一年之后就会出现效果接近的模型,基本都是如此。基于开源与公开数据集,我们已经可以训练出非常高质量的模型。因此,我自己的判断是开源主导的模式会成为主流。
2. AI 更像应用,而不像数据库。这是因为像微服务这种写应用的指导很难标准化,基本上没有一个像 SQL 这样的统一标准。
3. 聊天机器人并非应用形态的全部。实际应用中,产品的形态不会是纯问答模式,企业可能有不同的使用形态。
4. AI时代有构建应用开发平台的机会。在开源模型的基础上,如何帮助开发者在各类应用模式与交互模式中,更容易地使用这些语言模型,包括如何更好地部署模型,是否有更弹性的、更稳定的、更低成本的部署模式,等等,这些是更明确的用户需求。这需要有平台作支撑,这可能是主要需求之一。衡量这个平台的关键指标,一个是开发者效率,另一个是核心系统性能指标,即在有限的资源里面,能够帮助用户拉起来多少数量的服务,以及多少体量的服务。这是我们团队创业要解决的问题。
-------------------
2. 《大白话聊 ChatGPT(Sarah & 王建硕)》,https://www.xiaoyuzhoufm.com/episode/641183b5bb1fc0cb68f810c6
建硕老师的这期播客,虽然是面向零基础小白的,但表达得非常清晰,听下来还是有不少启发。一些核心的观点摘录:
1. 关于GPT原理最为精准的类比来自Ted Chung:GPT就是将人类知识压缩成一张模糊的JPG(然后再用超分辨率的方式还原出来,过程中还原得不精准的地方就是“幻觉”,Hallucination)。建硕老师自己对GPT4的类比是阿帕奇,同时将GPT4的训练数据类比为阿帕奇的帮助文档;
2. GPT分为“快思考”(系统1)和“慢思考”(系统2)。快思考可以类比为“顺口溜” - 唐诗听多了,不会吟诗也会吟;慢思考(chain of thoughts)是指GPT4可以通过步骤拆解来提高正确率;
3. 交互方面,经历了 BUI(Button User Interface,按键交互)、CUI(Command User Interface,命令行交互)、GUI(Graphic User Interface, 图形界面交互)之后,大模型时代的交互方式变成了LUI(Language User Interface,自然语言交互,建硕老师自己的定义);
4. 类比互联网的发展历程,目前Web3所处的节点相当于互联网的1979年,DNS等很多协议都出来了,但还缺少一个定义性的体验时刻,而AI所处的节点相当于互联网的1994年,浏览器出来的时刻。不幸的是,在此之前的NLP等技术都可以宣告被淘汰了,而幸运的是,浏览器本身只是一扇门,真正的机会属于千千万万的网站和应用。目前大模型的竞争类似于微软和网景对浏览器入口的争夺,尽管微软赢了,但也因此错失了后面整整的一个时代;
5. AI时代的生态想像:很多小机器人相互之间用API连接调用,最终通过一个LUI和终端用户互动。由于小机器人很多,因此需要通过一套类似域名的寻址系统来访问 - 这也是建硕老师正在做的一种服务;
6. GPT4本身并没有太多科研层面上的创新,但这并不妨碍它的伟大。人类历史上的很多伟大的时刻,例如发现新大陆、登月、发明iPhone等等,本质上都是工程的胜利;
7. 尽管国内大模型目前落后GPT4很多,但按照目前投入的财力和决心,最终一定可以做出效果相当的大模型。这就跟哥伦布发现新大陆以后,第二次再去新大陆的难度是一样的。已经有前人指出了一条明路,站在巨人的肩膀之上,难度会低很多;
8. GPT4肯定有智能,但肯定没有自我意识。问题是,人类也很难说自己有自我意识,很多时候只是在自作多情而已。很多时候,我们的人生只是各种硬件(DNA、身体结构)+软件(文化、历史、习惯、教育)所运行出来的结果而已;
9. 失业潮不会到来的,因为历史上的每一次技术革新都创造了新的工作。(这点持保留意见)贫富差距可能会变大,政府可能需要在财政制度上做出相应的调整,来进行财富的重新分配;
10. 对版权、隐私、垃圾内容、虚假信息等问题不必过份担心,这是新事物出现的必然产物,随着社会的发展都会得到自然解决。不要因噎废食;
11. GPT4有可能会促进社会的共识 - 在推荐时代,千人千面的算法让每个人都陷入自己的信息茧房,让社会空前割裂。这可能会在大模型时代得到某种修正。大模型再次让大家看到了一致的世界,在同一个场景下进行有益地讨论(这点持保留意见);
12. 做一个科技乐观主义者,相信科技会造福人类,同时尽自己所能来帮助年轻人来更好地体验这个新世界。