关于AIGC人工智能、思维方式、知识拓展,能力提升等。投稿/合作: @inside1024_bot
AIGC 领域的最新工具、开源项目以及行业大事件
AIGC 领域的最新工具、开源项目以及行业大事件
claude 100k 现在就可以通过 api 直接调用
价格和标准版相同,可以说非常良心了
(与此同时 gpt4 api 还在 waitlist,特别扯)
现在就缺一个支持100k的 claude 客户端了。。。
谁来做一个啊?
Anthropic: To answer your questions: Right now, our 100K context window is a beta feature and will be priced at our standard API pricing rates during this period!
价格和标准版相同,可以说非常良心了
(与此同时 gpt4 api 还在 waitlist,特别扯)
现在就缺一个支持100k的 claude 客户端了。。。
谁来做一个啊?
Anthropic: To answer your questions: Right now, our 100K context window is a beta feature and will be priced at our standard API pricing rates during this period!
又一个 AI大新闻:@StabilityAI 公布了stable animation sdk,根据介绍,他们能从文本,图像,和视频中生成视频。
用户可以使用所有的Stable Diffusion models,包括 Stable Diffusion 2.0 和 Stable Diffusion XL
stable animation提供三种方式来创建动画:…
Stability AI: Introducing Stable Animation from Stability AI - the ultimate text-to-animation tool that brings your imagination to life!
🚀With this powerful SDK, developers can create stunning animations in no time.
🚨Bring your ideas to the big screen today!
https://stability.ai/blog/stable-animation-sdk
100K 真的很棒,大预言模型的记忆问题越来越不是问题了。
(感觉自己的 Claude api 价值越来越高了
Anthropic: Introducing 100K Context Windows! We’ve expanded Claude’s context window to 100,000 tokens of text, corresponding to around 75K words. Submit hundreds of pages of materials for Claude to digest and analyze. Conversations with Claude can go on for hours or days.
(感觉自己的 Claude api 价值越来越高了
Anthropic: Introducing 100K Context Windows! We’ve expanded Claude’s context window to 100,000 tokens of text, corresponding to around 75K words. Submit hundreds of pages of materials for Claude to digest and analyze. Conversations with Claude can go on for hours or days.
论文阅读:FrugalGPT,降低LLM的成本。
常规方法:
1. 优化 Prompt
2. Query 合并
3. 语义相似缓存
4. 使用贵模型对便宜模型微调
LLM 级联:(重点)
5. 便宜模型回答后对回答自动打分,分数过低则调用更贵的模型,直到调用 GPT-4
感觉可以用 LangChain 自己实现一个。 https://arxiv.org/abs/2305.05176