AI探索指南

关于AIGC人工智能、思维方式、知识拓展，能力提升等。投稿/合作： @inside1024_bot
AIGC 领域的最新工具、开源项目以及行业大事件

AI探索指南

  3. AI探索指南

    Lovot 的创造者所写的书太好了，看完我也想去做自己的机器人了

    Lovot 的创造者所写的书太好了，看完我也想去做自己的机器人了。
    作者对机器人和人工智能的思考，深刻得令人敬佩
    他对大模型的边界也很清楚，知道即便是到了 AGI，机器人也无法成为人
    对，这也是为什么大模型公司无法吃掉一切应用
    大模型模拟的只是人类有意识的部分，而人类的绝大部分行为都是无意识的控制的
    比如你知道刷抖音不对，但就是停不下来。
    比如你知道演讲的时候不应该紧张，但就是会紧张得说不出话
    比如你知道早睡早起对身体好，但就是忍不住熬夜

    他对机器人和人类的本质也看得很透
    因此他的判断是机器人绝对不会威胁人类
    因为人类会死，人类自私的基因又以延续生命为目的
    因此人类常常把保全自己放在第一位
    因为我们无法抗拒延续生命、繁衍后台的本能
    经常有意识无意识（更多的是无意识）地做出本能的选择
    而机器人虽然有智慧，但没有这个自私的基因，没有延续生命的需要。
    机器人存在的根本理由是利他的。
    因此机器人可以成为人类真正的伙伴。

    这些深刻的思考和洞察
    让人感慨，具身智能的核心也许不是具身，也不是智能
    更核心的是智能之下的无意识的部分

  4. AI探索指南

    Lovot 的创造者所写的书太好了，看完我也想去做自己的机器人了

    Lovot 的创造者所写的书太好了，看完我也想去做自己的机器人了。
    作者对机器人和人工智能的思考，深刻得令人敬佩
    他对大模型的边界也很清楚，知道即便是到了 AGI，机器人也无法成为人
    对，这也是为什么大模型公司无法吃掉一切应用
    大模型模拟的只是人类有意识的部分，而人类的绝大部分行为都是无意识的控制的
    比如你知道刷抖音不对，但就是停不下来。
    比如你知道演讲的时候不应该紧张，但就是会紧张得说不出话
    比如你知道早睡早起对身体好，但就是忍不住熬夜

    他对机器人和人类的本质也看得很透
    因此他的判断是机器人绝对不会威胁人类
    因为人类会死，人类自私的基因又以延续生命为目的
    因此人类常常把保全自己放在第一位
    因为我们无法抗拒延续生命、繁衍后台的本能
    经常有意识无意识（更多的是无意识）地做出本能的选择
    而机器人虽然有智慧，但没有这个自私的基因，没有延续生命的需要。
    机器人存在的根本理由是利他的。
    因此机器人可以成为人类真正的伙伴。

    这些深刻的思考和洞察
    让人感慨，具身智能的核心也许不是具身，也不是智能
    更核心的是智能之下的无意识的部分

  5. AI探索指南

    昨天我去 CSDN 的产品经理大会演讲

    昨天我去 CSDN 的产品经理大会演讲。
    三个月前 CSDN 的朋友们邀请我来产品经理大会做演讲的时候，我其实是想拒绝的。
    理由是，我的创业公司才刚成立半年，也没有太多真知灼见，可以给大家分享。
    不过 CSDN 的朋友们说，没关系，大会还有三个月，还有的是时间，也可以分享一下之前的一些产品经验。
    好巧不巧，上周我们发布 FlowSpeech 之后，产品口碑爆棚，MRR 增加3倍，ARR 也突破了一个小目标，更重要的是，我们的用户通过使用产品赚到了真金白银，这是对我们产品力的最佳证明。
    所以我昨天在演讲的时候，我跟大家开玩笑说，今天这份 PPT 的含金量已经直线上升了，请大家好好听。

    演讲整理成的文章，点击查看：
    https://mp.weixin.qq.com/s/3m86TvTNB-UKMDyd7KR90Q

  6. AI探索指南

    重要的是，“惊奇概念”的背后揭示了“抽象梯度”：越大的模型，跨语言、跨任务共享的内部语义层越集中，最终形成“通用语义空间”，这解释了为何 Claude 能在多语言中保持一致表现

    AI探索指南
    Anthropic 模型可解释团队的研究员录了一期播客#ai创造营# 介绍了模型的可解释性和模型安全的的关系，以及两者为何重要 其中可解释性的研究流程和一些我们常见的模型概念解释比较有意思 可解释工具链的核心目标是绘制一张从「输入提示 A」到「输出文本 B」的完整“思维流程图（flowchart）”。 研究流程主要分为五步： 数据采样：向模型投喂多样化提示（对话、代码、诗歌等），记录每一层激活。 特征分解：利用聚类、稀疏编码将上亿维激活压缩成可人类理解的「概念向量」。 概念标注：通过统计「何…
    重要的是，“惊奇概念”的背后揭示了“抽象梯度”：越大的模型，跨语言、跨任务共享的内部语义层越集中，最终形成“通用语义空间”，这解释了为何 Claude 能在多语言中保持一致表现。

  7. AI探索指南

    Anthropic 模型可解释团队的研究员录了一期播客#ai创造营#

    Anthropic 模型可解释团队的研究员录了一期播客#ai创造营#

    介绍了模型的可解释性和模型安全的的关系，以及两者为何重要

    其中可解释性的研究流程和一些我们常见的模型概念解释比较有意思

    可解释工具链的核心目标是绘制一张从「输入提示 A」到「输出文本 B」的完整“思维流程图（flowchart）”。

    研究流程主要分为五步：

    数据采样：向模型投喂多样化提示（对话、代码、诗歌等），记录每一层激活。

    特征分解：利用聚类、稀疏编码将上亿维激活压缩成可人类理解的「概念向量」。

    概念标注：通过统计「何时点亮」的方法，为向量贴上“咖啡”“Golden Gate Bridge”“拍马屁式赞美”等标签。

    因果干预：人为增减激活强度，观察输出如何改变，以验证标签的因果性而非仅是相关性。

    流程可视化：把多层概念依时间顺序连线，形成人读得懂的步骤图，类似可追踪代码调用栈。

    团队将该系统比喻为“显微镜”，但也坦言显微镜 still 有极限：目前只能解释约 20% 的决策路径；大模型（Claude 4 级别）的规模更让工具疲于奔命。

    视频里面列举了多条令人会心一笑的内部概念：

    “拍马屁式赞美（sycophantic praise）”：只要上下文出现过度恭维，某一簇神经元就高亮，驱动输出“绝妙”“天才”等华丽辞藻。

    Golden Gate Bridge 表征：无论输入是描述驾驶跨桥场景的文字，还是桥的图片标注，甚至仅 “金门（Golden Gate）”的暗示，该向量皆被触发，说明模型形成了跨模态、抽象且稳健的“地标”概念。

    “6 + 9” 加法电路：凡遇到以 6 结尾与 9 结尾数字相加，无论在算式、参考文献年份 (1959+6)、还是故事情节中的门牌号相加，都会走进同一条计算通路，证实模型使用的是“通用算子”而非死记硬背。

    Bug Tracker：当阅读代码时，特定神经簇负责标记潜在错误并在后续回答中引用，显示出“延迟呼应”能力。

    这些案例共同反驳了“模型只是训练数据记忆库”的观点：若仅靠记忆，模型不可能在从未见过的跨域场景中复用同一逻辑通路。

    研究员进一步发现，模型在处理长篇故事人物关系时，会给首位出现的角色分配“编号概念”，其后所有动作、情绪均与该编号绑定，从而维持叙事一致性；此策略与人类“变量绑定”高度相似，却是自发涌现。

  12. AI探索指南

    昨天我在 CSDN 演讲的 PPT

    昨天我在 CSDN 演讲的 PPT
    核心想表达的观点是这个公式
    在存量用户时代

    新用户=突破点-惯性

    比如中国用户没有给软件付费的习惯
    这句话不太对
    直播投流就是为软件付费
    只要ROI是正的，就没有花钱的不是
    只要ROI巨大，就能打破原有习惯
    AI 软件也是如此
    让用户赚到钱，获得流量
    就能打破惯性，获得收益