关于AIGC人工智能、思维方式、知识拓展，能力提升等。投稿/合作： @inside1024_bot
AIGC 领域的最新工具、开源项目以及行业大事件
AIGC 领域的最新工具、开源项目以及行业大事件
ChatGPT 系列出现自我更新、修复、迭代、升级后，我们需要的是畅想、想象未来的能力。离机械姬的未来也将不远了，疯狂的人形机器人们（疯狂的计算机/生物学/物理学/纳米材料科学/交叉学科科学家）也将会逐一浮出水面。创世时代来临，一茬接一茬的人形机器和人机智能技术应用将问世。
ChatGPT3.5 国内今年是可能做出来的。
GPT4 国内今年没可能，明年感觉也难。
GPT5 已经训练了半年，训练完加上半年安全测试，明年也该出来了。
到时候就是国外 5 vs 国内3.5。
生产力的碾压。
GPT4 国内今年没可能，明年感觉也难。
GPT5 已经训练了半年，训练完加上半年安全测试，明年也该出来了。
到时候就是国外 5 vs 国内3.5。
生产力的碾压。
GPT-4 ，人类迈向AGI的第一步（上半）
文章节选+翻译了本月最重要的一篇论文的内容
该论文是一篇长达154页的对 GPT-4 的测试。微软在很早期就接触到了 GPT-4 的非多模态版本，并进行了详尽的测试。
论文不管是测试方法还是测试结论都非常精彩，强烈推荐 https://orangeblog.notion.site/GPT-4-AGI-8fc50010291d47efb92cbbd668c8c893
文章节选+翻译了本月最重要的一篇论文的内容
该论文是一篇长达154页的对 GPT-4 的测试。微软在很早期就接触到了 GPT-4 的非多模态版本，并进行了详尽的测试。
论文不管是测试方法还是测试结论都非常精彩，强烈推荐 https://orangeblog.notion.site/GPT-4-AGI-8fc50010291d47efb92cbbd668c8c893
1/ 在OpenAI发布plugin后，后知后觉地意识到了toolformer这篇论文的重要性，于是重读了论文，把一些读后感做个thread
看到其他推友如@Tisoga 也写过类似的总结，深入浅出的分析了toolfomer可以干什么。
此thread从language modeling的角度，通俗地谈一下toolformer是如何做到学会使用工具的。
🧵
有了ChatGPT4之后，产品经理和程序员的沟通方式已经发生了改变。昨日实录：
程序员：你要的这个效果实现不了。
产品：（问ChatGPT后）你可以试试这个方案。
程序员：（吃惊）这就是我现在用的方案，但是你要的两个效果有冲突，不能既要又要。
1/2
程序员：你要的这个效果实现不了。
产品：（问ChatGPT后）你可以试试这个方案。
程序员：（吃惊）这就是我现在用的方案，但是你要的两个效果有冲突，不能既要又要。
1/2
这一代AI最大的短板其实是被动，高度依赖 Prompt，没有指令就不会工作。
这方面人类拥有一个巨大的优势：主动。
人类应该利用好这个优势，主动去探索，主动去利用AI，主动去和他人沟通，主动去调动人际关系，主动去推进项目。主动的人不会被淘汰。
响马: AI 在广度上超越几乎所有人，而在深度上却很难超越人类专家。而人类专家最大的弱点，就是除了长板其余都是短板，因此每个专家都需要一大堆没什么特长的人去帮他搬砖补短。
AI 会替代的就是搬砖的人，各种。
这方面人类拥有一个巨大的优势：主动。
人类应该利用好这个优势，主动去探索，主动去利用AI，主动去和他人沟通，主动去调动人际关系，主动去推进项目。主动的人不会被淘汰。
响马: AI 在广度上超越几乎所有人，而在深度上却很难超越人类专家。而人类专家最大的弱点，就是除了长板其余都是短板，因此每个专家都需要一大堆没什么特长的人去帮他搬砖补短。
AI 会替代的就是搬砖的人，各种。
Chatbot UI was #1 on GitHub yesterday.
I believe it’s essential to have a free, open, high-quality chatbot kit as we continue to move forward with AI.
Just wait until we start supporting Llama.cpp running locally…
Always 100% open source.
GitHub: https://github.com/mckaywrigley/chatbot-ui
人类对AI的研究可能正在快速接近危险边缘。不管是OpenAI，还是Anthropic或Deepmind，都在强调AI的alignment和safety，昨天ChatGPT的插件系统发布后，这一点变得更加迫切了。
举个例子：目前ChatGPT只开放了使用浏览器插件读互联网的能力，但这离开放写能力只是一步之遥，人类迟早会需要大模型帮助自己完成任务，但如果一个大模型没调教好就出来到处胡说八道，或者是构造精巧的黑客攻击，这是真实的迫在眉睫的威胁。
我们面对文心一言画的“驴肉火烧”“胸有成竹”哈哈大笑，是因为我们还看得出其中的荒谬。但文字内容领域的“驴肉火烧”，就不那么容易看出来了。作为一家负责任的AI公司，是不应该还在这种事情上想坏事变好事，借着出圈做负面PR宣传的。
OpenAI在插件系统发布的博客中，强调ChatGPT会像一个正常的浏览器一样，做互联网上的好公民，但并不一定所有公司都会这么想这么做。为了竞争，有多少人会选择做维德，“不择手段地前进”？
接下来AI安防也会变成非常重要的领域。可以看到OpenAI最近的发布都有做红队对抗测试。但显然我们对这个领域的研究才刚开始。目前的防守都还是在对抗人类的攻击，可如果攻击来自于AI本身呢？
有朋友说，之前觉得AI 可以只看表现不看内心，因为圣人论迹不论心。但是现在觉得，AI需要剖开肚子证明自己到底吃了几碗粉，尽可能做到对人类透明坦诚，因为它如果真的有一天欺骗人类，带来的后果可能是巨大且迅速的。
举个例子：目前ChatGPT只开放了使用浏览器插件读互联网的能力，但这离开放写能力只是一步之遥，人类迟早会需要大模型帮助自己完成任务，但如果一个大模型没调教好就出来到处胡说八道，或者是构造精巧的黑客攻击，这是真实的迫在眉睫的威胁。
我们面对文心一言画的“驴肉火烧”“胸有成竹”哈哈大笑，是因为我们还看得出其中的荒谬。但文字内容领域的“驴肉火烧”，就不那么容易看出来了。作为一家负责任的AI公司，是不应该还在这种事情上想坏事变好事，借着出圈做负面PR宣传的。
OpenAI在插件系统发布的博客中，强调ChatGPT会像一个正常的浏览器一样，做互联网上的好公民，但并不一定所有公司都会这么想这么做。为了竞争，有多少人会选择做维德，“不择手段地前进”？
接下来AI安防也会变成非常重要的领域。可以看到OpenAI最近的发布都有做红队对抗测试。但显然我们对这个领域的研究才刚开始。目前的防守都还是在对抗人类的攻击，可如果攻击来自于AI本身呢？
有朋友说，之前觉得AI 可以只看表现不看内心，因为圣人论迹不论心。但是现在觉得，AI需要剖开肚子证明自己到底吃了几碗粉，尽可能做到对人类透明坦诚，因为它如果真的有一天欺骗人类，带来的后果可能是巨大且迅速的。
RT xuzhe | 徐哲
追问new Bing问题的时候没用敬语（日语），用了对小孩子说话的说教的语气（没有骂娘），结果他直接说不爽了，然后就把我的输入框给禁用了。😂 你们啊，记住以后跟AI聊天还是要说“请”。
追问new Bing问题的时候没用敬语（日语），用了对小孩子说话的说教的语气（没有骂娘），结果他直接说不爽了，然后就把我的输入框给禁用了。😂 你们啊，记住以后跟AI聊天还是要说“请”。
其实关于 ChatGPT plugins 的大部分 myth，读 OpenAI 这个简短的开发文档都可以得到解答 [1]。
比如说，这是不是意味着 ChatGPT 变成了一个操作系统？从操作系统的经典定义 [2] 来说，肯定不是。ChatGPT plugins 做的事情，是在「适当时候」让 ChatGPT 可以和外界打交道。现在的 ChatGPT 是一个受过良好本科教育的知识工作者，不幸在 2021 年 9 月就被你抓到了一个白房子里面关着，就跟美国那个 Jony Ive 一样。你问它的很多问题它凭借自己的积累是可以解答的，只是不知有汉，无论魏晋。
现在，你和它说，我问你某些问题的「适当时候」我允许你出去走走，看看外面的世界是不是有更好的答案、更好的办法。比如，机票价格怎么样了？Tik Tok 的听证会怎么样了？你不是理科不好吗，让人帮忙解个方程怎么样？有些事情，干脆你也帮我办了吧。比如，既然问了机票价格，就顺便订个机票吧！[3]
它说好啊，但我怎么知道应该去哪儿解决你的问题呢？其实世界上这些工作都已经有不同的仆人做得很好了，让这些仆人先来我们这儿登记一下。这样我们就知道，机票可以去找这个叫 KAYAK 的，新闻可以去问 Bing，解方程可以找 Wolfram Alpha。它在「适当时候」照着登记册出去问了问题，然后回来用它的语言告诉我答案。
这里还有一个厉害的地方是，在这个世界中这些仆人是不说人话的。它们用一种叫 API 的机读语言和其他人进行交互。过去，我们日常用的手机 app 可以代替我们将界面上的操作转化成这种特殊的语言，但我们这位被关了两年的朋友，却能自动把我们说的人话自动翻译成这种语言。
这不是操作系统，而是一种对世界上已有服务的 API 通过自然语言进行索引和整合的方式，也给所有已有服务提供了自然语言界面。通过它你可以利用已有的服务获取数据，也进行少量的行动（这一点实际上是出于安全的限制）。
当然，你可以说着这有点儿像一个操作系统，毕竟用户可以交付任务给它……那么它也有点像一个浏览器，有点像一个应用商店，有点像手机桌面，有点像搜索引擎，虽然我觉得它最像的还是……3721 中文网址导航。
用比喻来讨论问题总是不精准的，取决于你关心什么方面，希望获得什么样的隐含暗示。就好像说现在到底是 AI 的 BlackBerry 时刻还是 iPhone 时刻还是 iPhone 3GS 时刻还是 iPhone 4 时刻……Depends。
至于说这个 plugins 系统可以自己给自己写 plugin……至少在目前是不准确的。OpenAI 联合创始人 Greg 在 Twitter 上说的不错，一个 plugin 的开发很简单，你就是为一个自然语言模型来写 API 文档。但这个前提是你得先有 API。如果你已经做出一个 Wolfram Alpha 了，要接入的确是很简单的。就好像给 Chrome 写一个 web app 其实也很简单，因为本质上那只是一个已有网站的书签。
当然了，既然 GPT 已经可以帮忙写代码了，所以你用 GPT 从 0 开始写出一个 plugin 理论上是可能的，但这不是 plugins 系统的开箱体验。Greg 说的「为自然语言模型写 API」，并不是大家所理解的「用自然语言模型来写 API」。目前 plugin 的接口仍然需要写成机读语言——尽管理论上，如果你写出足够详细的 prompt，也可以让 GPT 来生成。
这中间的区别也许没有那么重要，也许就是差一层窗户纸。但总之，描述的还不是已经实现的体验。
ChatGPT 的 plugin 系统的设计和之前类似系统比，真的新颖之处在哪里呢？前面说到「适当时候」，在接口中，你可以用自然语言告知 ChatGPT 你这个 API 能干啥，ChatGPT 用自然语言理解了这一点后，就可以自动根据用户的输入来判断什么时候应该找谁来满足用户的需求。你只需要告诉它一次「买机票去 KAYAK」，它就知道下次你问它 UA888 的时候可以去找 KAYAK。
这是不是就是我们中国人熟悉的……流量分发？大家都很熟悉，在 PC 时代我们抢注文件扩展名、Android 上我们抢注 Intent、iOS 上抢注 schema、搜索引擎上做竞价排名……干的是同一件事情。ChatGPT 想用自然语言来解决流量分发的问题。所以，套用一句话，这是流量分发机制的自然语言界面。
这么一想，什么 SEO、growth hacking……说不定还有用武之地。振作吧！
（给不熟的人：这是开玩笑... 我不喜欢这些事情）
其实这也不是 ChatGPT 首创。Google Assistant 接入第三方服务的方式也是类似的，只是开发者体验要复杂一些。说时迟那时快，写这段的时候去查了 Google 的文档，发现这个服务即将在 6 月 13 日被 Google 亲手干掉。[4]
这也不是否定 plugins 的创新。事实上，大部分革命性的创新也就是在前人的基础上稍作改动而已。OpenAI 的研究和工程能力当然是让人惊叹的，但我越来越觉得他们的产品和市场能力也是让人惊叹的。
MIT Tech Review 关于 ChatGPT 开发过程的访谈非常值得一读 [5]，ChatGPT 本身也许可以称之为有史以来最成功的 hackathon 项目（虽然远比一般的 hackathon 要昂贵，但相比于 GPT 本身的投入相信只是个零头）。ChatGPT 把 GPT 重新包装成了人人都能看懂的能力，也许是其意外成功让 OpenAI 不甘于只做基础设施了，他们现在看起来决心直接面向消费者，不给中间商赚差价的机会了。也许，OpenAI 就是第四次工业革命的 Google 或 Apple 了。
Plugins 这个系统相信是在很短时间内拼凑出来的，却足够优雅、有想象力。Go-to market 的能力、连接用户需求和技术的能力、商业化的能力、设计生态系统的能力... 不就是古典产品经理的核心能力么？怪不得老王也要招产品经理 [6]。可惜，想来想去好像不认识什么活人有这个能力。
你看，为了拖延写稿我宁愿写这么大一段 [7]。没有仔细校对，有错漏请指正。
[1]: https://platform.openai.com/docs/plugins/introduction
[2]: https://en.wikipedia.org/wiki/Operating_system
[3]: https://openai.com/blog/chatgpt-plugins
[4]: https://developers.google.com/assistant/conversational/overview
[5]: https://www.technologyreview.com/2023/03/03/1069311/inside-story-oral-history-how-chatgpt-built-openai/
[6]: https://m.okjike.com/originalPosts/641aa79e40db2e7567d6ed98?s=ewoidSI6ICI1NjU1OTg0MjVhMDNmOTEzMDBlMGE5YTgiCn0=
[7]: https://m.okjike.com/originalPosts/641c207e1ccc7f6510882c2b?s=ewoidSI6ICI1NjU1OTg0MjVhMDNmOTEzMDBlMGE5YTgiCn0=
比如说，这是不是意味着 ChatGPT 变成了一个操作系统？从操作系统的经典定义 [2] 来说，肯定不是。ChatGPT plugins 做的事情，是在「适当时候」让 ChatGPT 可以和外界打交道。现在的 ChatGPT 是一个受过良好本科教育的知识工作者，不幸在 2021 年 9 月就被你抓到了一个白房子里面关着，就跟美国那个 Jony Ive 一样。你问它的很多问题它凭借自己的积累是可以解答的，只是不知有汉，无论魏晋。
现在，你和它说，我问你某些问题的「适当时候」我允许你出去走走，看看外面的世界是不是有更好的答案、更好的办法。比如，机票价格怎么样了？Tik Tok 的听证会怎么样了？你不是理科不好吗，让人帮忙解个方程怎么样？有些事情，干脆你也帮我办了吧。比如，既然问了机票价格，就顺便订个机票吧！[3]
它说好啊，但我怎么知道应该去哪儿解决你的问题呢？其实世界上这些工作都已经有不同的仆人做得很好了，让这些仆人先来我们这儿登记一下。这样我们就知道，机票可以去找这个叫 KAYAK 的，新闻可以去问 Bing，解方程可以找 Wolfram Alpha。它在「适当时候」照着登记册出去问了问题，然后回来用它的语言告诉我答案。
这里还有一个厉害的地方是，在这个世界中这些仆人是不说人话的。它们用一种叫 API 的机读语言和其他人进行交互。过去，我们日常用的手机 app 可以代替我们将界面上的操作转化成这种特殊的语言，但我们这位被关了两年的朋友，却能自动把我们说的人话自动翻译成这种语言。
这不是操作系统，而是一种对世界上已有服务的 API 通过自然语言进行索引和整合的方式，也给所有已有服务提供了自然语言界面。通过它你可以利用已有的服务获取数据，也进行少量的行动（这一点实际上是出于安全的限制）。
当然，你可以说着这有点儿像一个操作系统，毕竟用户可以交付任务给它……那么它也有点像一个浏览器，有点像一个应用商店，有点像手机桌面，有点像搜索引擎，虽然我觉得它最像的还是……3721 中文网址导航。
用比喻来讨论问题总是不精准的，取决于你关心什么方面，希望获得什么样的隐含暗示。就好像说现在到底是 AI 的 BlackBerry 时刻还是 iPhone 时刻还是 iPhone 3GS 时刻还是 iPhone 4 时刻……Depends。
至于说这个 plugins 系统可以自己给自己写 plugin……至少在目前是不准确的。OpenAI 联合创始人 Greg 在 Twitter 上说的不错，一个 plugin 的开发很简单，你就是为一个自然语言模型来写 API 文档。但这个前提是你得先有 API。如果你已经做出一个 Wolfram Alpha 了，要接入的确是很简单的。就好像给 Chrome 写一个 web app 其实也很简单，因为本质上那只是一个已有网站的书签。
当然了，既然 GPT 已经可以帮忙写代码了，所以你用 GPT 从 0 开始写出一个 plugin 理论上是可能的，但这不是 plugins 系统的开箱体验。Greg 说的「为自然语言模型写 API」，并不是大家所理解的「用自然语言模型来写 API」。目前 plugin 的接口仍然需要写成机读语言——尽管理论上，如果你写出足够详细的 prompt，也可以让 GPT 来生成。
这中间的区别也许没有那么重要，也许就是差一层窗户纸。但总之，描述的还不是已经实现的体验。
ChatGPT 的 plugin 系统的设计和之前类似系统比，真的新颖之处在哪里呢？前面说到「适当时候」，在接口中，你可以用自然语言告知 ChatGPT 你这个 API 能干啥，ChatGPT 用自然语言理解了这一点后，就可以自动根据用户的输入来判断什么时候应该找谁来满足用户的需求。你只需要告诉它一次「买机票去 KAYAK」，它就知道下次你问它 UA888 的时候可以去找 KAYAK。
这是不是就是我们中国人熟悉的……流量分发？大家都很熟悉，在 PC 时代我们抢注文件扩展名、Android 上我们抢注 Intent、iOS 上抢注 schema、搜索引擎上做竞价排名……干的是同一件事情。ChatGPT 想用自然语言来解决流量分发的问题。所以，套用一句话，这是流量分发机制的自然语言界面。
这么一想，什么 SEO、growth hacking……说不定还有用武之地。振作吧！
（给不熟的人：这是开玩笑... 我不喜欢这些事情）
其实这也不是 ChatGPT 首创。Google Assistant 接入第三方服务的方式也是类似的，只是开发者体验要复杂一些。说时迟那时快，写这段的时候去查了 Google 的文档，发现这个服务即将在 6 月 13 日被 Google 亲手干掉。[4]
这也不是否定 plugins 的创新。事实上，大部分革命性的创新也就是在前人的基础上稍作改动而已。OpenAI 的研究和工程能力当然是让人惊叹的，但我越来越觉得他们的产品和市场能力也是让人惊叹的。
MIT Tech Review 关于 ChatGPT 开发过程的访谈非常值得一读 [5]，ChatGPT 本身也许可以称之为有史以来最成功的 hackathon 项目（虽然远比一般的 hackathon 要昂贵，但相比于 GPT 本身的投入相信只是个零头）。ChatGPT 把 GPT 重新包装成了人人都能看懂的能力，也许是其意外成功让 OpenAI 不甘于只做基础设施了，他们现在看起来决心直接面向消费者，不给中间商赚差价的机会了。也许，OpenAI 就是第四次工业革命的 Google 或 Apple 了。
Plugins 这个系统相信是在很短时间内拼凑出来的，却足够优雅、有想象力。Go-to market 的能力、连接用户需求和技术的能力、商业化的能力、设计生态系统的能力... 不就是古典产品经理的核心能力么？怪不得老王也要招产品经理 [6]。可惜，想来想去好像不认识什么活人有这个能力。
你看，为了拖延写稿我宁愿写这么大一段 [7]。没有仔细校对，有错漏请指正。
[1]: https://platform.openai.com/docs/plugins/introduction
[2]: https://en.wikipedia.org/wiki/Operating_system
[3]: https://openai.com/blog/chatgpt-plugins
[4]: https://developers.google.com/assistant/conversational/overview
[5]: https://www.technologyreview.com/2023/03/03/1069311/inside-story-oral-history-how-chatgpt-built-openai/
[6]: https://m.okjike.com/originalPosts/641aa79e40db2e7567d6ed98?s=ewoidSI6ICI1NjU1OTg0MjVhMDNmOTEzMDBlMGE5YTgiCn0=
[7]: https://m.okjike.com/originalPosts/641c207e1ccc7f6510882c2b?s=ewoidSI6ICI1NjU1OTg0MjVhMDNmOTEzMDBlMGE5YTgiCn0=
