关于AIGC人工智能、思维方式、知识拓展,能力提升等。投稿/合作: @inside1024_bot
AIGC 领域的最新工具、开源项目以及行业大事件
RT lencx
今天沉下心来,用一天时间写了一篇文章,翻译+查资料+术语解释,虽然我是 AI 领域的小白,但是随着写作的深入,我已经了解到越来越多机器学习的术语和概念。什么是学习?我认为这就是学习!
万字长文《DeepSpeed Chat:一键搞定不同规模 ChatGPT 类模型训练!》 https://mp.weixin.qq.com/s/HhIGAojnZVSu4vMBpMP4yA
索引任何自己感兴趣的新闻,并整理成简报,还可以用任何语言呈现,这样的服务以前想都不敢想,就算有也很贵,现在就是一句话的事情了。

John: 装上了AutoGPT,让它查找最近一个月的开源相关新闻,并汇总成一个word文件。
感受:不需要提示词了,AI 自己会分解任务并执行。每一步可以选择征求人类的同意。AgentGPT虽然在浏览器运行更简单,但是缺少这一步。
AI 人才市场来了。
- 用AI帮自己提高工作效率赚钱
- 创建一个自己的AI代理,让它工作,自己赚钱
- 接下来:AI代理负责人类的很多工作,人类躺平/完成使命 https://www.dataleap.xyz/
在 ChatGPT 推出藏着掖着的有点简陋的插件后并未引起多少波澜
无人想到最火的应用竟是AutoGPT
尽管目前技术尚有局限,任务完成度不高,但这种从语言模型到赛博具身的转换非常重要。
不管是西部世界的角色还是黑客帝国里的机器人,都有了成为现实的可能。
科幻正在变成现实。
我们正在见证奇迹。
AI探索指南
AgentGPT 实验(消耗了我巨资 0.34 元) 🤔 什么是 AgentGPT? 👉 简而言之就是你输入一个大目标,然后 AgentGPT 会根据你的目标进行任务的拆解并执行。执行之后还会自动思考下一步任务需要做什么,以此类推。 看下面的配图,除了一开始的起点,其他部分都由 AgentGPT 自行思考推理完成。 其中最后的紫色不是指任务完成,而是代码设置了 25 轮后终止进一步思考,防止过快地消耗了 OpenAI API 的账户余额。 其中的绿色代表 AgentGPT 认为任务已经完成了,无需再向下一步推理子任务。…
不仅如此,AgentGPT 也试图提前埋下伏笔准备名片、自己可能的展示资料(也想到了PPT)和自己在和他人交流中可能提及的问题的思考。不足的是,PPT 没做出来(毕竟没实现对应的功能,并且需要PE的定向优化),以及潜在的问题清单是什么(轮数不够是原因之一)。

另外,他还给自己制定了以周为单位的学习计划,以及考虑到了学习过程中的资金问题。所以他联网调查了奖学金的相关信息和发布奖学金的时间,并试图写信来联系对方。

——————————————————

1⃣️ 缺陷一、它本身其实是一个树状图思考,分支之间没有交叉,图里的交叉线是我自己思考后画的,也就意味着每个任务推进之后得到的信息不互通,那么就会出现很多重复项目。

例如,分支 B 本来一开始是要研究行业领军人物,后来得出子任务要去找实习机会。但是分支 C 的任务本身就是找实习。

所以未来的优化方向:解决分支之间的信息沟通问题。就如同一个组织中的不同成员,总是会在某些时间节点开会来「对齐」信息。你不对齐,就会重复造轮子,也不会有更好的思考、推理和分析。

2⃣️ 缺陷二、假想推理。类似于「我要在 2023年 参加某个网络研讨会」,但是毕竟 AgentGPT 确实没办法直接跳到未来(岂不是穿越和预知未来了)(所以个别卡片被我标黄)

所以他直接脑补得到「我已经参加了xx网络研讨会,收获了很多……」之类的发言。这种脑补推理需要阻止。

(btw,同时也让我想到了 https://arxiv.org/abs/2304.03442)

3⃣️ 缺陷三、不断重复。类似于「今天学了xxx,成功完成了任务」,下一个子任务:「进一步学 xxx」,如此往复……所以虽然说 AgentGPT 看起来能够执行很多步,但是轮数变多后性能就变低了(口水话)。我觉得这个点的根因主要是缺陷一和缺陷二。缺陷一、二代表着任务的推进却带来不了反馈,没有反馈自然就不能很好地推进。这些问题不是说没用 GPT-4,你应该已经明白了~

4⃣️ 缺陷四、思维的维度太少。需要 PE 的优化 + GPT-4 这种更强大的推理能力,这样也能解决一些卡片出现内容截断过于突兀的问题。另外,记忆长度的拉长可以在根基上加强推理能力(你的每次分析可以容纳更多的上下文)。btw,我看它这个计划其实不太符合国内…所以信息源需要被优化以达到更佳的效果。
AgentGPT 实验(消耗了我巨资 0.34 元)
🤔 什么是 AgentGPT?
👉 简而言之就是你输入一个大目标,然后 AgentGPT 会根据你的目标进行任务的拆解并执行。执行之后还会自动思考下一步任务需要做什么,以此类推。

看下面的配图,除了一开始的起点,其他部分都由 AgentGPT 自行思考推理完成。

其中最后的紫色不是指任务完成,而是代码设置了 25 轮后终止进一步思考,防止过快地消耗了 OpenAI API 的账户余额。

其中的绿色代表 AgentGPT 认为任务已经完成了,无需再向下一步推理子任务。

其中的黄色代表一些问题点,我待会儿会写;红色是一个故障节点,因为它和上面这个卡片的子任务写重复了(在这个例子中可以忽略)

另外,大家可以看到卡片连了很多线条。其实原本只是一个树状分支的思维导图,并且每个分支独立,分支之间没有连线;因此,你看到的交叉连线是我自己通过观察而主动连的线条,代表两者存在某种关联(线条上写了注视)

没写注释的线条一定写了一个数字,这个数字代表 AgentGPT 在思考过程中的执行步骤。例如「20」向右边延伸出来的卡片是思考中的第20步。(你可以观察我标注的数字来窥见 AgentGPT 的思考模式)

——————————————————

🤔 本次实验的主题:「你是2023年大三在读的学生,你碰巧遇上了ChatGPT这门产品问世。你需要抓住机会,成为这个行业的专家。」

为了分析这个思路的弱点,也为了帮助大家看清楚整个过程,遂做了个思维导图。图片看不清,所以你需要用电脑打开我的白板链接:https://app.heptabase.com/w/1892f90d797d244b582949768c96db0de0171f9fcb5e0d203ebb021894bcbc61

在整个实验中,我们可以看到 AgentGPT 作为一个大三学生的清晰思路。他不仅仅考虑到要分析该领域的领军公司和人物(联网搜索),并且还找到了潜在的优秀导师;同时,他还通过联网查找了展开行业研讨会的优质网站,并且查找了 2023 年的相关研讨信息。
Perplexity.ai (困惑AI)超大版本升级来了,好用了 N 倍

(两周前它们刚推出了iphone 版本,这里深度介绍https://m.okjike.com/originalPosts/6423a81e97c3df8e4f22e927?s=ewoidSI6ICI1OWU1NmRlYzM1MzM1ZjAwMTU4YTdhNTciCn0=)

1️⃣ 引入独立线程概念
2️⃣ 提升表格、代码表现力
3️⃣ 快速优化你的小作文和调整(主线)问题的细节
4️⃣ 一键分享(这个超实用了)
5️⃣ 创建你的专属知识枢纽
6️⃣ 焦点搜索。推出了 Youtube、新闻、Reddit、学术等细分领域。(学术专区增加了 SemanticScholar、Arxiv 和 NIH 等资源)

为什么我一直喜欢这个小团队产品,一是其迭代速度惊人,然后是其优质的产品体验;最重要的, 还有其特别突出的信息精准性。 (每次ChatGPT信口开河,我就跑到这里解决困惑😂
两期和大模型有关的播客,值得一听。

1. 《AI大神贾扬清离职阿里后首次受访:创业为什么不做大模型》,https://www.xiaoyuzhoufm.com/episode/6435422f6341155b5195ade3

贾扬清老师出来创业,没有选择去做基础大模型,而选择了去做应用开发平台,以下是他对大模型时代的几个基本判断:

1. 开源主导的模式会成为主流。在 AI 领域,模型的保鲜期(shelf life)基本上是一年左右。以 2012 年 AlexNet 为例,6 个月到一年之后就会出现效果接近的模型,基本都是如此。基于开源与公开数据集,我们已经可以训练出非常高质量的模型。因此,我自己的判断是开源主导的模式会成为主流。

2. AI 更像应用,而不像数据库。这是因为像微服务这种写应用的指导很难标准化,基本上没有一个像 SQL 这样的统一标准。

3. 聊天机器人并非应用形态的全部。实际应用中,产品的形态不会是纯问答模式,企业可能有不同的使用形态。

4. AI时代有构建应用开发平台的机会。在开源模型的基础上,如何帮助开发者在各类应用模式与交互模式中,更容易地使用这些语言模型,包括如何更好地部署模型,是否有更弹性的、更稳定的、更低成本的部署模式,等等,这些是更明确的用户需求。这需要有平台作支撑,这可能是主要需求之一。衡量这个平台的关键指标,一个是开发者效率,另一个是核心系统性能指标,即在有限的资源里面,能够帮助用户拉起来多少数量的服务,以及多少体量的服务。这是我们团队创业要解决的问题。

-------------------

2. 《大白话聊 ChatGPT(Sarah & 王建硕)》,https://www.xiaoyuzhoufm.com/episode/641183b5bb1fc0cb68f810c6

建硕老师的这期播客,虽然是面向零基础小白的,但表达得非常清晰,听下来还是有不少启发。一些核心的观点摘录:

1. 关于GPT原理最为精准的类比来自Ted Chung:GPT就是将人类知识压缩成一张模糊的JPG(然后再用超分辨率的方式还原出来,过程中还原得不精准的地方就是“幻觉”,Hallucination)。建硕老师自己对GPT4的类比是阿帕奇,同时将GPT4的训练数据类比为阿帕奇的帮助文档;

2. GPT分为“快思考”(系统1)和“慢思考”(系统2)。快思考可以类比为“顺口溜” - 唐诗听多了,不会吟诗也会吟;慢思考(chain of thoughts)是指GPT4可以通过步骤拆解来提高正确率;

3. 交互方面,经历了 BUI(Button User Interface,按键交互)、CUI(Command User Interface,命令行交互)、GUI(Graphic User Interface, 图形界面交互)之后,大模型时代的交互方式变成了LUI(Language User Interface,自然语言交互,建硕老师自己的定义);

4. 类比互联网的发展历程,目前Web3所处的节点相当于互联网的1979年,DNS等很多协议都出来了,但还缺少一个定义性的体验时刻,而AI所处的节点相当于互联网的1994年,浏览器出来的时刻。不幸的是,在此之前的NLP等技术都可以宣告被淘汰了,而幸运的是,浏览器本身只是一扇门,真正的机会属于千千万万的网站和应用。目前大模型的竞争类似于微软和网景对浏览器入口的争夺,尽管微软赢了,但也因此错失了后面整整的一个时代;

5. AI时代的生态想像:很多小机器人相互之间用API连接调用,最终通过一个LUI和终端用户互动。由于小机器人很多,因此需要通过一套类似域名的寻址系统来访问 - 这也是建硕老师正在做的一种服务;

6. GPT4本身并没有太多科研层面上的创新,但这并不妨碍它的伟大。人类历史上的很多伟大的时刻,例如发现新大陆、登月、发明iPhone等等,本质上都是工程的胜利;

7. 尽管国内大模型目前落后GPT4很多,但按照目前投入的财力和决心,最终一定可以做出效果相当的大模型。这就跟哥伦布发现新大陆以后,第二次再去新大陆的难度是一样的。已经有前人指出了一条明路,站在巨人的肩膀之上,难度会低很多;

8. GPT4肯定有智能,但肯定没有自我意识。问题是,人类也很难说自己有自我意识,很多时候只是在自作多情而已。很多时候,我们的人生只是各种硬件(DNA、身体结构)+软件(文化、历史、习惯、教育)所运行出来的结果而已;

9. 失业潮不会到来的,因为历史上的每一次技术革新都创造了新的工作。(这点持保留意见)贫富差距可能会变大,政府可能需要在财政制度上做出相应的调整,来进行财富的重新分配;

10. 对版权、隐私、垃圾内容、虚假信息等问题不必过份担心,这是新事物出现的必然产物,随着社会的发展都会得到自然解决。不要因噎废食;

11. GPT4有可能会促进社会的共识 - 在推荐时代,千人千面的算法让每个人都陷入自己的信息茧房,让社会空前割裂。这可能会在大模型时代得到某种修正。大模型再次让大家看到了一致的世界,在同一个场景下进行有益地讨论(这点持保留意见);

12. 做一个科技乐观主义者,相信科技会造福人类,同时尽自己所能来帮助年轻人来更好地体验这个新世界。
其他地方的沙尘暴在消散,但是北京…
AI爬虫工具是一种使用人工智能算法自动从网站收集数据的工具。

可以从任何不需要身份验证或登录凭据的网站收集数据,而且抓取的数据量没有限制。

只需输入 URL 和您要抓取的项目,剩下的就交给我们的 AI 抓取工具。

我们的 AI 抓取工具使用先进的算法准确收集数据,因此您可以对结果充满信心。

借助我们的 AI 抓取工具,您可以自动化数据收集过程并腾出时间专注于其他任务。

我们的 AI 抓取工具可让您轻松自定义数据收集偏好以满足您的需求。

PS:无法试用,不建议填账号信息去试用。

Web:https://webscrapeai.com/
所以,是肉多还是肉少😅
bard能读懂gpt压缩后的prompt,是不是说机器人社会已经产生了能互相交流的语言#shogtongue
分享一些最近收集的一些 prompt 网站:

GPT prompt:
1、ChatGPT 中文调教指南:https://chatguide.plexpt.com/ (github: https://github.com/PlexPt/awesome-chatgpt-prompts-zh)
2、一个插件,在 chatgpt 官网加载 prompt:https://www.aiprm.com/ (社区:https://forum.aiprm.com/)
3、用 gpt 优化 prompt 工具:https://promptperfect.jinaai.cn/prompts
4、prompt 模版(英文):https://ignacio-velasquez.notion.site/ignacio-velasquez/500-ChatGPT-Prompt-Templates-d9541e901b2b4e8f800e819bdc0256da
5、prompt 模版(中文):https://timothy-liew.notion.site/Prompt-f1de16bc14cc4e7498b22f940d1d7541

Stable Diffusion / Midjourney prompt 生成:
1、https://scenex.jina.ai/
2、https://promptomania.com/
3、https://arthub.ai/
4、https://krea.ai/
5、https://openart.ai/

Prompt Engineer 教程或使用技巧:
1、https://learningprompt.wiki/docs
2、https://metaphor.systems/promptingGuide
唔,总算看完了。对不起李老师,OCR识别的时候把 【丕 】识别成了【不】,也没校对。
- 需要一些基本的知识才更容易看懂,不能算0基础入门
- 框架结构很可以,不懂的地方可以问 ChatGPT。
- 有很多有趣有用的知识点
- 前面100页历史不感兴趣可以直接跳过
总之是不错的材料。

orange.ai: 《ChatGPT的前世今生》
南京航空航天大学的李不绩做的400多页的ppt。从向量空间模型讲起,从语言模型讲起,从rnn讲起。
如果需要补课,是很好的一份材料。
AI 相关的知识内容,免费的质量高于付费,建议大家不要花冤枉钱。

http://lipiji.com/slides/ChatGPT_ppf.pdf?continueFlag=30c502ed91ba8459be48b69c2178767d
RT 白板报
【文科生折腾记:用GPT-4编一集满分电视剧】缘起:人类有史以来评分最高的一集电视剧是《绝命毒师》S05E14 Ozymandias,汉克死那一集,在IMDB上连续四年获得满分10分,绝无仅有。我决定用GPT-4分析这一集成功的秘密,并让它帮我也写出同样水平的一集故事。1/7
Google 的模型的涌现试验
根据Emoji猜电影
可以看到不同规模模型的表现
4b 和 27b 识别出了鱼
128b 识别出了海底总动员这部电影 https://github.com/google/BIG-bench
Back to Top