关于AIGC人工智能、思维方式、知识拓展，能力提升等。投稿/合作： @inside1024_bot
AIGC 领域的最新工具、开源项目以及行业大事件
AIGC 领域的最新工具、开源项目以及行业大事件
突发了一个脑洞🧠：
如果ChatGPT取代了教师或者是各种语境下的上位者，中国的人情社会会不会改变？
再也没有“有关系” “打理一下人际” “疏通一下人脉”这类词汇了。
只有一句冰冷的“对不起，我们机器人无法感受人类的偏爱和善意，我们吃专供的电和油。无法接受家长您的人类礼物。”
历史会不会不再是当代史？
如果ChatGPT取代了教师或者是各种语境下的上位者，中国的人情社会会不会改变？
再也没有“有关系” “打理一下人际” “疏通一下人脉”这类词汇了。
只有一句冰冷的“对不起，我们机器人无法感受人类的偏爱和善意，我们吃专供的电和油。无法接受家长您的人类礼物。”
历史会不会不再是当代史？
ChatGPT 系列出现自我更新、修复、迭代、升级后，我们需要的是畅想、想象未来的能力。离机械姬的未来也将不远了，疯狂的人形机器人们（疯狂的计算机/生物学/物理学/纳米材料科学/交叉学科科学家）也将会逐一浮出水面。创世时代来临，一茬接一茬的人形机器和人机智能技术应用将问世。
ChatGPT3.5 国内今年是可能做出来的。
GPT4 国内今年没可能，明年感觉也难。
GPT5 已经训练了半年，训练完加上半年安全测试，明年也该出来了。
到时候就是国外 5 vs 国内3.5。
生产力的碾压。
GPT4 国内今年没可能，明年感觉也难。
GPT5 已经训练了半年，训练完加上半年安全测试，明年也该出来了。
到时候就是国外 5 vs 国内3.5。
生产力的碾压。
GPT-4 ，人类迈向AGI的第一步（上半）
文章节选+翻译了本月最重要的一篇论文的内容
该论文是一篇长达154页的对 GPT-4 的测试。微软在很早期就接触到了 GPT-4 的非多模态版本，并进行了详尽的测试。
论文不管是测试方法还是测试结论都非常精彩，强烈推荐 https://orangeblog.notion.site/GPT-4-AGI-8fc50010291d47efb92cbbd668c8c893
文章节选+翻译了本月最重要的一篇论文的内容
该论文是一篇长达154页的对 GPT-4 的测试。微软在很早期就接触到了 GPT-4 的非多模态版本，并进行了详尽的测试。
论文不管是测试方法还是测试结论都非常精彩，强烈推荐 https://orangeblog.notion.site/GPT-4-AGI-8fc50010291d47efb92cbbd668c8c893
1/ 在OpenAI发布plugin后，后知后觉地意识到了toolformer这篇论文的重要性，于是重读了论文，把一些读后感做个thread
看到其他推友如@Tisoga 也写过类似的总结，深入浅出的分析了toolfomer可以干什么。
此thread从language modeling的角度，通俗地谈一下toolformer是如何做到学会使用工具的。
🧵
有了ChatGPT4之后，产品经理和程序员的沟通方式已经发生了改变。昨日实录：
程序员：你要的这个效果实现不了。
产品：（问ChatGPT后）你可以试试这个方案。
程序员：（吃惊）这就是我现在用的方案，但是你要的两个效果有冲突，不能既要又要。
1/2
程序员：你要的这个效果实现不了。
产品：（问ChatGPT后）你可以试试这个方案。
程序员：（吃惊）这就是我现在用的方案，但是你要的两个效果有冲突，不能既要又要。
1/2
这一代AI最大的短板其实是被动，高度依赖 Prompt，没有指令就不会工作。
这方面人类拥有一个巨大的优势：主动。
人类应该利用好这个优势，主动去探索，主动去利用AI，主动去和他人沟通，主动去调动人际关系，主动去推进项目。主动的人不会被淘汰。
响马: AI 在广度上超越几乎所有人，而在深度上却很难超越人类专家。而人类专家最大的弱点，就是除了长板其余都是短板，因此每个专家都需要一大堆没什么特长的人去帮他搬砖补短。
AI 会替代的就是搬砖的人，各种。
这方面人类拥有一个巨大的优势：主动。
人类应该利用好这个优势，主动去探索，主动去利用AI，主动去和他人沟通，主动去调动人际关系，主动去推进项目。主动的人不会被淘汰。
响马: AI 在广度上超越几乎所有人，而在深度上却很难超越人类专家。而人类专家最大的弱点，就是除了长板其余都是短板，因此每个专家都需要一大堆没什么特长的人去帮他搬砖补短。
AI 会替代的就是搬砖的人，各种。
Chatbot UI was #1 on GitHub yesterday.
I believe it’s essential to have a free, open, high-quality chatbot kit as we continue to move forward with AI.
Just wait until we start supporting Llama.cpp running locally…
Always 100% open source.
GitHub: https://github.com/mckaywrigley/chatbot-ui
人类对AI的研究可能正在快速接近危险边缘。不管是OpenAI，还是Anthropic或Deepmind，都在强调AI的alignment和safety，昨天ChatGPT的插件系统发布后，这一点变得更加迫切了。
举个例子：目前ChatGPT只开放了使用浏览器插件读互联网的能力，但这离开放写能力只是一步之遥，人类迟早会需要大模型帮助自己完成任务，但如果一个大模型没调教好就出来到处胡说八道，或者是构造精巧的黑客攻击，这是真实的迫在眉睫的威胁。
我们面对文心一言画的“驴肉火烧”“胸有成竹”哈哈大笑，是因为我们还看得出其中的荒谬。但文字内容领域的“驴肉火烧”，就不那么容易看出来了。作为一家负责任的AI公司，是不应该还在这种事情上想坏事变好事，借着出圈做负面PR宣传的。
OpenAI在插件系统发布的博客中，强调ChatGPT会像一个正常的浏览器一样，做互联网上的好公民，但并不一定所有公司都会这么想这么做。为了竞争，有多少人会选择做维德，“不择手段地前进”？
接下来AI安防也会变成非常重要的领域。可以看到OpenAI最近的发布都有做红队对抗测试。但显然我们对这个领域的研究才刚开始。目前的防守都还是在对抗人类的攻击，可如果攻击来自于AI本身呢？
有朋友说，之前觉得AI 可以只看表现不看内心，因为圣人论迹不论心。但是现在觉得，AI需要剖开肚子证明自己到底吃了几碗粉，尽可能做到对人类透明坦诚，因为它如果真的有一天欺骗人类，带来的后果可能是巨大且迅速的。
举个例子：目前ChatGPT只开放了使用浏览器插件读互联网的能力，但这离开放写能力只是一步之遥，人类迟早会需要大模型帮助自己完成任务，但如果一个大模型没调教好就出来到处胡说八道，或者是构造精巧的黑客攻击，这是真实的迫在眉睫的威胁。
我们面对文心一言画的“驴肉火烧”“胸有成竹”哈哈大笑，是因为我们还看得出其中的荒谬。但文字内容领域的“驴肉火烧”，就不那么容易看出来了。作为一家负责任的AI公司，是不应该还在这种事情上想坏事变好事，借着出圈做负面PR宣传的。
OpenAI在插件系统发布的博客中，强调ChatGPT会像一个正常的浏览器一样，做互联网上的好公民，但并不一定所有公司都会这么想这么做。为了竞争，有多少人会选择做维德，“不择手段地前进”？
接下来AI安防也会变成非常重要的领域。可以看到OpenAI最近的发布都有做红队对抗测试。但显然我们对这个领域的研究才刚开始。目前的防守都还是在对抗人类的攻击，可如果攻击来自于AI本身呢？
有朋友说，之前觉得AI 可以只看表现不看内心，因为圣人论迹不论心。但是现在觉得，AI需要剖开肚子证明自己到底吃了几碗粉，尽可能做到对人类透明坦诚，因为它如果真的有一天欺骗人类，带来的后果可能是巨大且迅速的。
