AI探索指南

  1. [整理] Boris Dayma 对谷歌 Gemma 技术报告的一些总结,觉得技术报告太长懒得看的可以看看:#ai##llm##gemma#

    [整理] Boris Dayma 对谷歌 Gemma 技术报告的一些总结,觉得技术报告太长懒得看的可以看看:#ai##llm##gemma#

    ◆这个模型的架构(architecture)和llama非常相似。

    ◆7B模型使用了惊人的6T tokens!

    ◆词汇量巨大。

    ◆在前馈神经网络(FFN)中使用了GeGLU,我希望他们能对那里使用的维度进行更深 ...

  2. AI探索指南
    💎 重磅:Google 刚刚发布了一个超强的开源模型 Gemma 这是 AI 开源模型生态的一大步。 Google DeepMind CEO Demis 表示:「我们长期以来一直支持负责任的开放源代码和科学,这可以推动快速的研究进展,因此我们很自豪地发布了 Gemma:一套轻量级的开放模型,其大小在同类产品中名列前茅,其灵感来源于双子座所使用的相同技术。 」 ✨ Gemma 开放模型的特点 - Gemma 是一个轻量级、最先进的开放式模型系列,采用了与Gemini相同的研究和技术。 - Gemma…
    Fkkk6FiHn68H6RDt1dtBQ6K2e2Spv3.png
    3 MB

  3. 💎 重磅:Google 刚刚发布了一个超强的开源模型 Gemma

    💎 重磅:Google 刚刚发布了一个超强的开源模型 Gemma

    这是 AI 开源模型生态的一大步。 Google DeepMind CEO Demis 表示:「我们长期以来一直支持负责任的开放源代码和科学,这可以推动快速的研究进展,因此我们很自豪地发布了 Gemma:一套轻量级的开放模型,其大小在同类产品中名列前茅,其灵感来源于双子座所使用的相同技术。 」

    ✨ Gemma 开放模型的特点

    - Gemma 是一个轻量级、最先进的开放式模型系列,采用了与Gemini相同的研究和技术。

    - Gemma 由 Google DeepMind 和 Google 的其他团队共同开发,其灵感来源于双子座,名字反映了拉丁语 gemma,意为「宝石」。

    - 两种尺寸:Gemma 2B 和 Gemma 7B。每种规模都发布了预训练和指令调整变体。(Hans 注,在图2中,你能看到 7B 在多项核心指标, 大幅领先Llama-2。)

    - 经过预训练和指令调整的 Gemma 模型可在你的笔记本电脑、工作站或Google Cloud上运行,并可在 Vertex AI 和谷歌 Kubernetes Engine 上轻松部署。

    💰 使用、研究和AI 伦理方面的补充:

    - 允许所有组织(无论规模大小)以负责任的方式进行商业使用和分发。

    - Gemma 专为推动人工智能创新的开发人员和研究人员组成的开放社区而打造。

    - 现在就可以开始使用 Gemma,免费访问 Kaggle,免费使用 Colab 笔记本,首次使用 Google Cloud 的用户还可获得 300 美元的积分。

    - 研究人员还可以申请高达 500,000 美元的 Google Cloud 信用额度来加速他们的项目。

    🔗 详情部署和使用,现在就可以访问:

    http://ai.google.dev/gemma

  4. 见鬼了,谷歌居然开源LLM模型了,Meta要慌了

    见鬼了,谷歌居然开源LLM模型了,Meta要慌了。

    Gemma 采用了和Gemini一样技术的开源LLM,同时质量也比同规模的模型要强。

    下面是一些要点:

    ◈ 两种尺寸的模型权重:Gemma 2B和Gemma 7B。每种尺寸都有预训练和指导调整的变体。

    ◈ 一个生成式人工智能工具包,为使用Gemma创建更安全的人工智能应用提供指导和必要工具。

    ◈ 通过原生Keras 3.0为所有主要框架(JAX、PyTorch和TensorFlow)提供推理和监督微调(SFT)的工具链。

    ◈ 准备好的Colab和Kaggle笔记本,以及与Hugging Face、MaxText、NVIDIA NeMo和TensorRT等流行工具的集成,使得开始使用Gemma变得非常容易。

    ◈ 预先训练和经过调整的Gemma模型可以在您的笔记本电脑、工作站或Google Cloud上运行,并可以轻松部署到Vertex AI和Google Kubernetes Engine(GKE)。

    ◈ 跨多个人工智能硬件平台的优化确保了行业领先的性能,包括NVIDIA GPU和Google Cloud TPU。

    ◈ 允许所有组织进行负责任的商业使用和分发,无论规模大小。

    ◈未来还会发布Gemma更大模型变体。

    了解更多:https://blog.google/technology/developers/gemma-open-models

  5. 见鬼了,谷歌居然开源LLM模型了,Meta要慌了

    见鬼了,谷歌居然开源LLM模型了,Meta要慌了。#ai##llm#

    Gemma 采用了和Gemini一样技术的开源LLM,同时质量也比同规模的模型要强。

    下面是一些要点:

    ◈ 两种尺寸的模型权重:Gemma 2B和Gemma 7B。每种尺寸都有预训练和指导调整的变体。

    ◈ 一个生成式人工智能工具包,为使用Gemma创建更安全的人工智能应用提供指导和必要工具。

    ◈ 通过原生Keras 3.0为所有主要框架(JAX、PyTorch和TensorFlow)提供推理和监督微调(SFT)的工具链。

    ◈ 准备好的Colab和Kaggle笔记本,以及与Hugging Face、MaxText、NVIDIA NeMo和TensorRT等流行工具的集成,使得开始使用Gemma变得非常容易。

    ◈ 预先训练和经过调整的Gemma模型可以在您的笔记本电脑、工作站或Google Cloud上运行,并可以轻松部署到Vertex AI和Google Kubernetes Engine(GKE)。

    ◈ 跨多个人工智能硬件平台的优化确保了行业领先的性能,包括NVIDIA GPU和Google Cloud TPU。

    ◈ 允许所有组织进行负责任的商业使用和分发,无论规模大小。

    ◈未来还会发布Gemma更大模型变体。

    了解更多: 网页链接

  6. Meta 的手指追踪神经腕带演示,感觉这个比纯光学的追踪更好一些,操作更精细,而且不会受到光线环境的影响

    Meta 的手指追踪神经腕带演示,感觉这个比纯光学的追踪更好一些,操作更精细,而且不会受到光线环境的影响。#ai##vr#

    这个手指追踪方法是通过感知从大脑通过手腕传递到手指的神经电信号,使用一种称为肌电图(EMG)的技术。

    理论上,这种方法可能具有零甚至负的延迟,完美的准确性,不受光照条件的影响,并且不会受到遮挡的影响。

    根据去年的时间表:手环将提供两种型号,价格不同 - 一种只有神经输入技术,另一种还配备显示屏和摄像头,可作为智能手表。

    来源:网页链接歸藏的AI工具箱的微博视频

  7. 早上尝试Stable Cascade的时候,试了几张图发现 SC 模型生成图片质量比 SDXL 刚发布的时候好不少

    早上尝试Stable Cascade的时候,试了几张图发现 SC 模型生成图片质量比 SDXL 刚发布的时候好不少。#ai画图#

    于是就做了一个更详细的测试,SC 和 Midjoureny 使用完全相同的提示词,Midjoureny不是用特殊的参数,一次生成 4 张,各选出一张比较好的进行测试。

    下面是对应的测试图,先说我的结论:

    在写实场景 SC 生成的内容在美学表现上和细节上跟 Midjourney 差别不是很大,细节上差一些,偶尔可以替代使用。

    SC 由于模型规模的原因对于一些概念的理解不够,提示词响应比 SDXL 好但是比 Midjourney 要差。

    整体美学表现上相比 SDXL 更发布的时候有大幅提高,虽然还是不如 Midjourney,但是风格表现上很相似,估计拿 MJ 图片做的训练。