关于AIGC人工智能、思维方式、知识拓展,能力提升等。投稿/合作: @inside1024_bot
AIGC 领域的最新工具、开源项目以及行业大事件
AIGC 领域的最新工具、开源项目以及行业大事件
在社区摘要应用中,GraphRAG 在全面性和多样性上以 70-80% 的胜率大幅领先于传统 RAG。
GraphRAG 是一种基于图的 RAG 工具,通过 LLM 从文档集合中自动提取丰富的知识图谱,助力处理私有或未知数据集的问答。
GraphRAG 能通过检测图中的“社区”(即密集连接的节点群组),从高层主题到低层话题,层次化地划分数据的语义结构。
它利用 LLM 为这些社区生成摘要,提供对数据集的全面概览,无需事先设定问题。
这种方法尤其适合回答全局性问题。
项目页面:https://www.microsoft.com/en-us/research/blog/graphrag-new-tool-for-complex-data-discovery-now-on-github/
📖 暂时不会工具没关系,只要你愿意和群友一起学习~而我们也会互相帮助,甚至制作一些教程。
☝️ 最重要的是,你的学习 / 工作目标是否确实相关。(要不然难以持续~)
🧪 Workflow / Agent 主题不是固定的,由你自己决定。例如,有群友是心理学相关专业,那么他准备尝试做相关的探索…
最后,如果你感兴趣的话,加我 v:lyson_ober
备注:Dify 研究
通过后咱可以简单聊聊关联背景,之后我会拉你进群
☝️ 最重要的是,你的学习 / 工作目标是否确实相关。(要不然难以持续~)
🧪 Workflow / Agent 主题不是固定的,由你自己决定。例如,有群友是心理学相关专业,那么他准备尝试做相关的探索…
最后,如果你感兴趣的话,加我 v:lyson_ober
备注:Dify 研究
通过后咱可以简单聊聊关联背景,之后我会拉你进群
以下为正文:
😉 接下来 1 年想要聚焦一些(和我 & 朋友们的专业有关),找了 @Zeeland_ @KleinHE 等小伙伴建立了一个「以 Dify 为实验工具」的 Agent / Workflow 探索实验群。
📌 主线任务(关键词:具体、落地)
👉 如果你接下来也正在研究同样的主题,以期做一些「提高生产力」的方案,欢迎你联系我~
👉 当然,我们并没有局限说必须用到 Dify,只不过我认为这是一个让技术人员和非技术人员交叉配合的最佳实验工具。(Dify 对开发人员非常友好,也能让不了解技术的同学,如运营人员借助可视化搭积木的方式迅速上手)~~
👉 举例:销售人员 A 懂得自家销售的 SOP、话术,并且懂得记录为文档,以期复盘或教会实习生。但 A 只会基本的 Dify 操作(或者能够在草稿纸上表达清楚自己的思考流程),那么他可以和其他 Workflow 设计人员 B 协同完成这件事情。~~
📌 支线任务(关键词:抽象、思维实验)
👉 仍在思考的暗线,是关于科学观念的复刻,以至于能用 Workflow 沉淀一些较为抽象的思维模型。可以用来启发思想。(虽然我没有太多精力去做这件事情,但如果你有类似的想法并正在寻找伙伴一起研究,非常欢迎 👏💡)~
👉 由于这一项任务实在过于抽象,所以暂时还没有写好合适的表达方式来记录核心主旨~~
👉 不过打破「知识的诅咒(Curse of knowledge)可能是重要目标之一~~
📌 关于入群门槛(关键词:不是围观者就好 😉)
1️⃣ 如果你是围观群众,那么这个群可能对你来说没有太大帮助哦~
---
2️⃣ 你可能有实际的「业务需求 / 行业经验 / Workflow 设计经验(可以是能在草稿纸上画清楚你的逻辑)~
3️⃣ 这项探索与你未来一段时间的工作 / 学习目标匹配,以至于你有足够的时间投入~
4️⃣ 你可能正在开发某个软件,期间需要使用到 Dify 或是直接在代码中进行 Prompt 编排~
5️⃣ 你可能正在积累 Dify 编排经验,为未来的客户 / 你的公司定制解决方案~
🥳 总而言之,只要你想要成为「创作者」就好。
介绍了他们的 LLM 推理服务架构。Mooncake的创新架构使得Kimi能够处理更多请求,同时保证服务质量。
Mooncake的核心思想是将LLM推理过程中的prefill(预填充)和decoding(解码)阶段分离,并以KVCache(键值缓存)为中心进行优化。
它充分利用GPU集群中的CPU、内存和SSD资源来实现一个分布式的KVCache系统,从而提高资源利用率和推理效率。
Mooncake还采用了一系列创新策略来应对长上下文和系统过载等挑战,显著提升了LLM服务的性能和吞吐量。
项目地址:https://github.com/kvcache-ai/Mooncake
免费AI合集:https://freeaihunter.com
后面会把聚合AI的平台也一起收集放上来,大家可以推荐一些,回头一起收录。
数据开源:https://github.com/EasyChris/freeaihunter
希望这些资源能帮到大家,祝各位顺利开发出更多精彩的AI产品!
Google在Chrome开发者版里集成了Gemini Nano,支持离线使用内置AI模型进行简单的任务,即使在断网情况下依然可以正常使用。on-device AI不仅保证了数据安全,响应速度也非常快。
🌟体验流程
1.安装Chrome开发者版本:https://www.google.com/chrome/dev 并登录账号
2.在Chrome开发者版访问"chrome://flags/#prompt-api-for-gemini-nano"并设置为"Enabled"
3.访问"chrome://flags/#optimization-guide-on-device-model"并设置为"Enabled BypassPerfRequirement"
4.访问"chrome://components",搜索"Optimization Guide On Device Model"组件,检查更新并确保是最新版本
5.完成以上步骤后即可在console里调用window.ai,或访问我做的网页https://ChromeAI.org 进行体验
🌟https://ChromeAI.org 对Chrome built-in AI做了些优化:
1.用对话的形式和Chrome内置AI交互
2.支持本地缓存历史生成纪录
3.支持实时对话模式,AI响应时间在200-300毫秒
4.支持离线使用,不会存储任何数据(项目已开源)
🌟体验流程
1.安装Chrome开发者版本:https://www.google.com/chrome/dev 并登录账号
2.在Chrome开发者版访问"chrome://flags/#prompt-api-for-gemini-nano"并设置为"Enabled"
3.访问"chrome://flags/#optimization-guide-on-device-model"并设置为"Enabled BypassPerfRequirement"
4.访问"chrome://components",搜索"Optimization Guide On Device Model"组件,检查更新并确保是最新版本
5.完成以上步骤后即可在console里调用window.ai,或访问我做的网页https://ChromeAI.org 进行体验
🌟https://ChromeAI.org 对Chrome built-in AI做了些优化:
1.用对话的形式和Chrome内置AI交互
2.支持本地缓存历史生成纪录
3.支持实时对话模式,AI响应时间在200-300毫秒
4.支持离线使用,不会存储任何数据(项目已开源)
这份产品动向专栏,是CyberRobo为在研究和创造人形机器人的伙伴提供的一份信息通讯,追踪那些灵巧手、机器人皮肤、传感器等核心部件的产品、技术或模型的进展,目的是让人形机器人可以更好地执行任务和服务人类。
本期的主题是机器人皮肤、可感知机械手、机械臂、3D打印刚性机器人