AI探索指南

  1. Prompt engineering techniques with Azure OpenAI - Azure OpenAI Service

    Prompt engineering techniques with Azure OpenAI - Azure OpenAI Service

    我不知道为什么吴恩达和 OpenAI 合作的Prompt Engineering 视频课程这么受推崇。看完我只有两个字:就这??
    尽管有 OpenAI 的人参与,属于官方课程,但实在太浅了。
    相比较而言,微软推出的 Prompt 帮助文档有用不少,并且是文字稿,方便反复琢磨。
    从权威性来说,以微软现在的身份,至少也算是半官方文档了。

  2. 吹的太过了,实际上是一篇有启发的小作文

    吹的太过了,实际上是一篇有启发的小作文。
    在对齐方面微调模型只需要很少量的高质量数据集就能出不错的效果。
    而且这些高质量数据集编写起来需要编写者的知识水平也是极高的。
    这些高质量数据集的成本未必就比大量的低质量数据集成本低。
    但是如果有一个高知人类共建的高质量数据集,大家都会受益。

    Yann LeCun: LIMA :
    LLaMA 65B + 1000 supervised samples = {GPT4, Bard} level performance.

    From @MetaAI
    https://arxiv.org/abs/2305.11206

  3. 几千年前,《圣经旧约》记载,上帝为了阻止人类的巴别塔计划,上帝让人类说不同的语言,使人类相互之间不能沟通,计划因此失败,人类自此各散东西

    几千年前,《圣经旧约》记载,上帝为了阻止人类的巴别塔计划,上帝让人类说不同的语言,使人类相互之间不能沟通,计划因此失败,人类自此各散东西。

    几千年后,人类运用《圣经新约》的文本和语音资料,做出了能让1000多种语言互通的 AI 模型。

    再过几千年,也许会成为一个从旧神到新神的历史传说。

    orange.ai: 这项研究的关键是使用了一个巧妙的宗教语言数据集:
    - 目前最大的语音数据集仅涵盖100种语言
    - 但是圣经等宗教文本已经被翻译而且有公开的录音
    - 我们创建了包含1100+语言的圣经新约数据集,每种语言32小时的数据
    - 在纳入其他基督教读物的无标签录音后,将可用语言数量增加到4000+