AI探索指南
-
- RT 宝玉
OpenAI最新的论文：《Let’s Verify Step by Step》
OpenAI训练了一个模型，通过奖励每一个正确的推理步骤（“过程监督”），而不仅仅是奖励正确的最终结果（“结果监督”），在数学问题解决方面达到了新的最高水平。…
AK: Open AI releases paper + dataset
Let’s Verify Step by Step
trained a model to achieve a new state-of-the-art in mathematical problem solving by rewarding each correct step of reasoning (“process supervision”) instead of simply rewarding the correct final answer (“outcome…
https://twitter.com/i/web/status/1663981726647894027 - 木头姐改名叫韭菜姐算了😂
- 如果学会了让AI越狱的方法，就可以让它模仿人的任何行为。
仔细想想这种能力是很可怕的，在文字里可以幻想一切。
人又很懒得去主动幻想，还是更喜欢消费别人幻想好的内容。 - 吴恩达公布了三门新的AI课程
- 使用 ChatGPT API 构建系统
- 使用 Langchain 构建应用
- 扩散模型的工作原理
特别是 langchain 的课程和资料，应用开发者都应该看看。
Andrew Ng: 1/Thrilled to announce: 3 new Generative AI courses!
* Building Systems with the ChatGPT API, with OpenAI’s @isafulf
* LangChain for LLM Application Development, with LangChain’s @hwchase17
* How Diffusion Models Work, by @realSharonZhou
Check them out:
http://deeplearning.ai/short-courses/ - OpenAI 今年的 Roadmap
- 又快又便宜的 GPT4，这是首要目标，决心要把人工智能的价格压到最低
- 100k到1M的tokens上下文，更长的就需比较难了
- API 微调服务，目前ChatGPT和GPT4还不支持微调，未来也会开放
- 有记忆的 API，目前大部分 token 被浪费在上文的传输中，未来会有要给记忆对话历史的 API - RT 宝玉
最近OpenAI创始人Sam Altman在一次访谈中讨论了OpenAI的API和他们的产品计划。Sam非常坦诚。讨论涉及到实际的开发者问题，以及与OpenAI的使命和AI的社会影响相关的更大范围的问题。以下是主要的要点：
1. OpenAI目前严重依赖GPU。… 
- 开拓了新思路，Disney在2023 SXSW展现的Relatable Robotics原型，对于非强任务导向的场景，让用户产生“心里共鸣”也许更重要
之前都还太关注LLMs对于机器人对于任务拆解能力的增强 - 没有什么比处理各种流程更令人觉得自己一无是处，从念书时开始——转移户口、办签证、认证学分，随着年纪增长一路上升为办税、开对公户头、转手大件资产。每一件，哪怕只是最轻微的拉扯，都够令人魂飞魄散，提前三天已经一边做功课一边绝望，不知有多少铁壁在那里等着你去碰，一边碰一边努力不在意柜台里经办人那冷冷的、俯瞰的微笑。这样的职业，全部被机器人替代掉也无妨，机械的微笑只怕还经心些。
一天苦战，回家路上和猫猫人说：“我想正常人不是这样的，这总是我们的问题。”
“因为正常太难了。” 
