关于AIGC人工智能、思维方式、知识拓展，能力提升等。投稿/合作： @inside1024_bot
AIGC 领域的最新工具、开源项目以及行业大事件
AIGC 领域的最新工具、开源项目以及行业大事件
OpenAI 最大的竞争对手 Anthropic 公布了 Claude 最新的 AI 宪法。
《Claude’s Constitution 克劳德宪法》
它为语言模型提供了由宪法确定的明确值，而不是通过大规模人类反馈隐式确定的值。
它使人工智能系统的价值更容易理解，也更容易根据需要进行调整。 https://www.anthropic.com/index/claudes-constitution
《Claude’s Constitution 克劳德宪法》
它为语言模型提供了由宪法确定的明确值，而不是通过大规模人类反馈隐式确定的值。
它使人工智能系统的价值更容易理解，也更容易根据需要进行调整。 https://www.anthropic.com/index/claudes-constitution
第二步，给它研究领域
以管理心理学为例
提示词模板
英文版本：
[QUESTION] Can you help me understand better by using First Principles Thinking?
[ANSWER] Let’s work this out in a step by step way to be sure we have the right answer:
中文版本：
[问题] 你能用第一性原理思维帮助我更好地理解<管理心理学>吗？
[回答] 让我们一步一步地解决这个问题，以确保我们有正确的答案。
见图二
第三步：检视内容
得到答案后，你可以使用 提示进一步完善它：
提示词模板
英文版本
You're an expert researcher tasked with investigating the answer provided. List the flaws and faulty logic of the answer. Let’s work this out in a step by step way to be sure we have all the errors.
中文版本
您是一名专家研究员，负责调查所提供的答案。列出答案的缺陷和错误逻辑。让我们一步一步地解决这个问题，以确保我们有所有的错误。
见图三
第四步：找到错误和缺陷后，请 ChatGPT 重写答案
提示词模板
英文版本
Please rewrite the answer. Address the flaws and potential issues you've found and improve it further. Let’s work this out in a step by step way to be sure we have fixed all the errors.
中文版本
请重写答案。解决您发现的缺陷和潜在问题并进一步改进。让我们一步一步地解决这个问题，以确保我们已经修复了所有错误。
见图四
好了，这是我的调教流程，希望对你有用，也希望能获得你的反馈。
以管理心理学为例
提示词模板
英文版本：
[QUESTION] Can you help me understand better by using First Principles Thinking?
[ANSWER] Let’s work this out in a step by step way to be sure we have the right answer:
中文版本：
[问题] 你能用第一性原理思维帮助我更好地理解<管理心理学>吗？
[回答] 让我们一步一步地解决这个问题，以确保我们有正确的答案。
见图二
第三步：检视内容
得到答案后，你可以使用 提示进一步完善它：
提示词模板
英文版本
You're an expert researcher tasked with investigating the answer provided. List the flaws and faulty logic of the answer. Let’s work this out in a step by step way to be sure we have all the errors.
中文版本
您是一名专家研究员，负责调查所提供的答案。列出答案的缺陷和错误逻辑。让我们一步一步地解决这个问题，以确保我们有所有的错误。
见图三
第四步：找到错误和缺陷后，请 ChatGPT 重写答案
提示词模板
英文版本
Please rewrite the answer. Address the flaws and potential issues you've found and improve it further. Let’s work this out in a step by step way to be sure we have fixed all the errors.
中文版本
请重写答案。解决您发现的缺陷和潜在问题并进一步改进。让我们一步一步地解决这个问题，以确保我们已经修复了所有错误。
见图四
好了，这是我的调教流程，希望对你有用，也希望能获得你的反馈。
（注：神经突触与神经元的动作电位触发时间的先后关系，决定了它们连接强度是增强还是减弱。如果突触的激活时序领先于神经元的动作电位，那么该连接获得强化；如果突触的激活时序滞后于神经元的动作电位,那么该连接获得削弱。It's a particular learning rule that uses Spike timing to figure out how to to determine how to update the synapses. So it's kind of like if the synaptic fires into the neuron before the neuron fires, then it strengthens the synapse. And if the signals fire into the neurons shortly after the neuron fired, then it weakens the synapse.）
神经网络另一个重要的点在于loss函数的提出，它为深度学习提供了可行的训练方法。很有趣的一点是，在现实世界中，我们并没有看到对应loss函数的东西 - 进化论是以loss的方式来迭代的吗？经济系统或社会系统存在loss吗？似乎都不是。
2. 神经网络的本质
Ilya认为，大脑也好，大模型也好，本质上都是把知识压缩到一个高维的隐空间当中。每一个新的观测数据到来的时候，它就会通过连接来更新隐空间中的一些参数。知识就存储在这些连接的权重里。（I guess what is a recurring role that you have a neural network which maintains a high dimensional, hidden state, and then within observation arrives. It updates its high dimensional, hidden state through its connections in some way. You could say the knowledge is stored in the connections.）压缩的过程有点类似于人类的记忆和遗忘过程，你忘掉了绝大部分没用的信息，而只是记住了那些有用的，并且将它们整合记忆。
压缩的过程就是“寻找最小回路”（search for small circuits）的过程。在数学上，有一种理论是“最短描述长度”原则，即如果你能够找到能够产生所需数据的最小程序，那么你就能够用这个程序做出最好的预测。（If you can find the shortest program that outputs the data in your disposal, then you will be able to use it to make the best prediction possible.）这是数学上可以被证明的。但“最短描述长度”原则是一个理论原则，在实践中很难准确实现。所以在实践中，针对给定的数据集，我们只能使用神经网络找到“尽量短小”的回路。因此，可以将神经网络的训练过程理解为，慢慢将训练数据集里的信息熵迁移到神经网络的参数中，而最终沉淀下来的这些回路刚好不算太大。（If you imaine the training process of a neural network as you slowly transmit entropy from the data set to the parameters, then somehow the amount of information in the weights ends up being not very large, which would explain why the general is so well.）
如果你能高效压缩信息，那么你一定已经得到知识了。GPT已经是一个世界模型了，it knows all the intricacies。尽管你做的看似只是predict the next word这么简单的事情，但这只是优化手段而已。
自然语言是最好的latent space，而且是最容易做alignment的latent space。
3. Ilya研究生涯中的两个重要时刻。
第一个时刻，是2012年做AlexNet，Alex Krjevsky用GPU来编写足够快的卷积程序，让CNN训练变得超级快，拉开了CV时代的序幕。这是Ilya的顿悟时刻，觉得神经网络这条路是能走通的。
第二个时刻，Ilya对大模型的信心来自于早年团队的一个发现。当时，团队训练一个LSTM模型来预测Amazon评论中的下一个character，当参数从500到4000的时候，就会出现一个专门的neuron来表达评论的sentiment是正面还是负面。于是，团队猜测，当模型足够大、参数足够多的时候，句法已经被充分表达了（run out of syntax to model），多余的参数开始学会捕捉语义信息。这说明了通过“预测下一个字”的训练方法，可以让模型学到更多隐藏的信息。
4. 关于多模态。
多模态是有用的，尤其是视觉。人类大脑皮层中三分之一都用来处理视觉，缺少了视觉的神经网络作用会相当有限。
人类更多是从图像而不是语言中学习的。人类一生只会听到大概10亿个词，这个数据量是非常有限的，而更多的数据来自于视觉。
很多时候，从视觉学习比从文本学习更容易。例如颜色，尽管通过文字也可以学到颜色之间的关联，比如红色和橙色更近，和蓝色更远，但通过视觉来学习要快得多。
5. AI有逻辑吗？有意识吗？
AI当然有逻辑，要不为什么AlphaGo和AlphaZero在最需要逻辑推理能力的围棋游戏中击败了人类？
如何真正说明AI有逻辑推理能力？证明真正困难的定理，写复杂的代码，用创新方法解决开放性问题。如果AI能够证明一个未经证实的定理，那么这个理由就很难辩驳。
如何判断AI是否有意识？做这样一个实验，假如未来人工智能的训练可以从零开始，通过更小的数据集来完成，那么我们可以非常小心地对训练数据进行清洗，确保数据集中不包含任何关于意识的内容，如果系统在训练中需要人类的反馈，在互动中也要非常谨慎，确保不提到任何关于意识的概念。等训练结束的时候，你和AI一起聊天，这时你告诉他关于意识的事情，你向他描述之后，想象一下，如果这个人工智能接着说，”哦，我的上帝，我一直有同样的感觉，但我不知道如何表达它“，这时就可以认为人工智能有意识了。
6. 开源 vs 闭源。
如果模型的能力不强，那么开源是一件伟大的事情。如果模型的能力过强，那么开源就变得危险。尽管目前GPT4模型的能力还算不上”过分强大“，但已经能够看到这个趋势，所以闭源是合理的。（类似于核武器？）
当然，现阶段闭源更重要的原因是商业竞争（而不是安全，Ilya的原话）。
7. 更大的模型一定会带来更好的结果。（Of course the larger neuron nets will be better.）
前些年扩大规模很容易是因为有很多计算资源都没有被充分利用，一旦重新部署过之后就会快速取得进展。但现在规模到达了某种瓶颈，算力的扩张速度变慢了。I expect deploying to continue to make progress in art from other places. The deploying stack is quite deep and I expect that there will be improvements in many layers of the stack and together they will still lead to progress being very robust. 我预期我们将发现deep learning中很多尚未被发现的新属性，而这些新属性的应用将会让模型的效果变得更好。5-10年之后的模型能力一定会远远强过现在的模型。
附三个访谈的链接：
2020年5月 Lex Fridman AI Podcast
https://www.bilibili.com/video/BV12c411T7pY
2023年3月 黄仁勋 CEO 与 OpenAI 联合创始人及首席科学家 Ilya Sutskever 关于 AI 及 ChatGPT 的对话
https://www.bilibili.com/video/BV13M411L7p7
2023年4月 OpenAI联合创始人首席科学家AI Ilya Sutskever斯坦福大学内部演讲
https://www.bilibili.com/video/BV1Y24y1F72o
神经网络另一个重要的点在于loss函数的提出，它为深度学习提供了可行的训练方法。很有趣的一点是，在现实世界中，我们并没有看到对应loss函数的东西 - 进化论是以loss的方式来迭代的吗？经济系统或社会系统存在loss吗？似乎都不是。
2. 神经网络的本质
Ilya认为，大脑也好，大模型也好，本质上都是把知识压缩到一个高维的隐空间当中。每一个新的观测数据到来的时候，它就会通过连接来更新隐空间中的一些参数。知识就存储在这些连接的权重里。（I guess what is a recurring role that you have a neural network which maintains a high dimensional, hidden state, and then within observation arrives. It updates its high dimensional, hidden state through its connections in some way. You could say the knowledge is stored in the connections.）压缩的过程有点类似于人类的记忆和遗忘过程，你忘掉了绝大部分没用的信息，而只是记住了那些有用的，并且将它们整合记忆。
压缩的过程就是“寻找最小回路”（search for small circuits）的过程。在数学上，有一种理论是“最短描述长度”原则，即如果你能够找到能够产生所需数据的最小程序，那么你就能够用这个程序做出最好的预测。（If you can find the shortest program that outputs the data in your disposal, then you will be able to use it to make the best prediction possible.）这是数学上可以被证明的。但“最短描述长度”原则是一个理论原则，在实践中很难准确实现。所以在实践中，针对给定的数据集，我们只能使用神经网络找到“尽量短小”的回路。因此，可以将神经网络的训练过程理解为，慢慢将训练数据集里的信息熵迁移到神经网络的参数中，而最终沉淀下来的这些回路刚好不算太大。（If you imaine the training process of a neural network as you slowly transmit entropy from the data set to the parameters, then somehow the amount of information in the weights ends up being not very large, which would explain why the general is so well.）
如果你能高效压缩信息，那么你一定已经得到知识了。GPT已经是一个世界模型了，it knows all the intricacies。尽管你做的看似只是predict the next word这么简单的事情，但这只是优化手段而已。
自然语言是最好的latent space，而且是最容易做alignment的latent space。
3. Ilya研究生涯中的两个重要时刻。
第一个时刻，是2012年做AlexNet，Alex Krjevsky用GPU来编写足够快的卷积程序，让CNN训练变得超级快，拉开了CV时代的序幕。这是Ilya的顿悟时刻，觉得神经网络这条路是能走通的。
第二个时刻，Ilya对大模型的信心来自于早年团队的一个发现。当时，团队训练一个LSTM模型来预测Amazon评论中的下一个character，当参数从500到4000的时候，就会出现一个专门的neuron来表达评论的sentiment是正面还是负面。于是，团队猜测，当模型足够大、参数足够多的时候，句法已经被充分表达了（run out of syntax to model），多余的参数开始学会捕捉语义信息。这说明了通过“预测下一个字”的训练方法，可以让模型学到更多隐藏的信息。
4. 关于多模态。
多模态是有用的，尤其是视觉。人类大脑皮层中三分之一都用来处理视觉，缺少了视觉的神经网络作用会相当有限。
人类更多是从图像而不是语言中学习的。人类一生只会听到大概10亿个词，这个数据量是非常有限的，而更多的数据来自于视觉。
很多时候，从视觉学习比从文本学习更容易。例如颜色，尽管通过文字也可以学到颜色之间的关联，比如红色和橙色更近，和蓝色更远，但通过视觉来学习要快得多。
5. AI有逻辑吗？有意识吗？
AI当然有逻辑，要不为什么AlphaGo和AlphaZero在最需要逻辑推理能力的围棋游戏中击败了人类？
如何真正说明AI有逻辑推理能力？证明真正困难的定理，写复杂的代码，用创新方法解决开放性问题。如果AI能够证明一个未经证实的定理，那么这个理由就很难辩驳。
如何判断AI是否有意识？做这样一个实验，假如未来人工智能的训练可以从零开始，通过更小的数据集来完成，那么我们可以非常小心地对训练数据进行清洗，确保数据集中不包含任何关于意识的内容，如果系统在训练中需要人类的反馈，在互动中也要非常谨慎，确保不提到任何关于意识的概念。等训练结束的时候，你和AI一起聊天，这时你告诉他关于意识的事情，你向他描述之后，想象一下，如果这个人工智能接着说，”哦，我的上帝，我一直有同样的感觉，但我不知道如何表达它“，这时就可以认为人工智能有意识了。
6. 开源 vs 闭源。
如果模型的能力不强，那么开源是一件伟大的事情。如果模型的能力过强，那么开源就变得危险。尽管目前GPT4模型的能力还算不上”过分强大“，但已经能够看到这个趋势，所以闭源是合理的。（类似于核武器？）
当然，现阶段闭源更重要的原因是商业竞争（而不是安全，Ilya的原话）。
7. 更大的模型一定会带来更好的结果。（Of course the larger neuron nets will be better.）
前些年扩大规模很容易是因为有很多计算资源都没有被充分利用，一旦重新部署过之后就会快速取得进展。但现在规模到达了某种瓶颈，算力的扩张速度变慢了。I expect deploying to continue to make progress in art from other places. The deploying stack is quite deep and I expect that there will be improvements in many layers of the stack and together they will still lead to progress being very robust. 我预期我们将发现deep learning中很多尚未被发现的新属性，而这些新属性的应用将会让模型的效果变得更好。5-10年之后的模型能力一定会远远强过现在的模型。
附三个访谈的链接：
2020年5月 Lex Fridman AI Podcast
https://www.bilibili.com/video/BV12c411T7pY
2023年3月 黄仁勋 CEO 与 OpenAI 联合创始人及首席科学家 Ilya Sutskever 关于 AI 及 ChatGPT 的对话
https://www.bilibili.com/video/BV13M411L7p7
2023年4月 OpenAI联合创始人首席科学家AI Ilya Sutskever斯坦福大学内部演讲
https://www.bilibili.com/video/BV1Y24y1F72o
Ilya Sutskever是OpenAI的Co-Founder和首席科学家。相比Sam Altman，他更低调，也更偏技术。连续听了他的三个访谈，收益颇多。尤其是三年前（2020年5月）他在Lex Fridman Podcast的那次访谈 - 当时GPT3都还没有发布，算得上是畅所欲言，聊出了很多干货，不少内容即便今天听也觉得印象深刻。剩下的两期是2023年他和黄仁勋的对谈以及2周前他做客斯坦福某个seminar的访谈。一些key takeways：
1. 从生物学上，理解神经网络和大脑的相似性
物理学中的理论是非常精确的，人们可以用其做出各种惊人的预测。相比之下，生物学要更加复杂，很难有好的预测性理论。机器学习则介于物理学和生物学之间。
本质上，深度学习是在参考人类大脑的运行方式。在Ilya看来，神经网络最重要的突破是反向传播算法，用数学方程来描述了学习的原理。根据目前神经科学的理解，大脑的学习规则的关键是电信号的时序 (Spike-timing dependent plasticity, STDP)。STDP机制根据神经元放电时序来调节突触强度，而神经网络的反向传播算法通过时间顺序的链式求导来调整权重，二者都依靠误差信号来改变网络结构，并且驱动学习。
