关于AIGC人工智能、思维方式、知识拓展，能力提升等。投稿/合作： @inside1024_bot
AIGC 领域的最新工具、开源项目以及行业大事件
AIGC 领域的最新工具、开源项目以及行业大事件
中午和 AnimateDiff 团队的朋友吃饭，好开心，好久没见到这样心思澄澈地一直坚持做开源的团队了，还是国内的团队。
上次产生这种感动是 SD 的朋友和我介绍团队里的人说，“开源是他们加入的最大目的。”
这个世界还是有许多自由和浪漫的。
上次产生这种感动是 SD 的朋友和我介绍团队里的人说，“开源是他们加入的最大目的。”
这个世界还是有许多自由和浪漫的。
人形机器人几乎在人类的讨论声和繁忙琐碎的工作间隙里，“入侵”我们的世界，我们可能还未准备好，他们就来“抢夺”人类的工作，比如波兰饮料公司引入人形机器人CEOMika....而今天，在这场“似乎有预谋的行动”里，另一家AI公司，推出了他们的第一个人形机器人原型，走下地面，同样大摇大摆地走进人类的视野。
最近一周最大的 insights 是周伯远教授周六的分享，周教授是清华电子系长聘教授外加IEEE/CAAI FELLOW，是当年 IBM WATSON GROUP首席科学家。
Bert 跟 GPT 单向/双向上下文训练的思路差异，Bert 是双向上下文，而 GPT 是单向自回归，之前知道这个实现细节，但没当回事。
周教授做了个非常形象的类比，本质上相当于训练的时候，Bert 是给了「标准答案」的，而 GPT 没给「标准答案」…
Bert 追求的是文本生成的局部最优，而不是为了 AGI，因为他们从一开始就不相信语言模型可以实现 AGI。
内心忽然咯噔了一下，「标准答案」不就是「应试教育」吗…自己到目前为止的学习经历里面，好像成长最大的时候，都是来自于解决没有标准答案的问题时。
Invalid media: image
Bert 跟 GPT 单向/双向上下文训练的思路差异，Bert 是双向上下文，而 GPT 是单向自回归，之前知道这个实现细节，但没当回事。
周教授做了个非常形象的类比，本质上相当于训练的时候，Bert 是给了「标准答案」的，而 GPT 没给「标准答案」…
Bert 追求的是文本生成的局部最优，而不是为了 AGI，因为他们从一开始就不相信语言模型可以实现 AGI。
内心忽然咯噔了一下，「标准答案」不就是「应试教育」吗…自己到目前为止的学习经历里面，好像成长最大的时候，都是来自于解决没有标准答案的问题时。
Invalid media: image
