AI探索指南

  1. AI套壳应用如何把壳做厚?

    AI套壳应用如何把壳做厚?

    1.一阶:直接引用Open ai接口,ChatGPT回答什么,套壳产品回答什么。卷UI、形态、成本。

    2.二阶:构建Prompt。大模型可以类比为研发,Prompt可以类比为需求文档,需求文档越清晰,研发实现得越精准。套壳产品可以积累自己的优质Prompt,卷Prompt质量高,卷Prompt分发。

    3.三阶:Embedding特定数据集。把特定数据集进行向量化,在部分场景构建自己的向量数据库,以达到可以回答ChatGPT回答不出来的问题。比如垂直领域、私人数据等。Embedding可以将段落文本编码成固定维度的向量,从而便于进行语义相似度的比较,相较于Prompt可以进行更精准的检索从而获得更专业的回答。

    4.四阶:微调Fine-Tuning。使用优质的问答数据进行二次训练,让模型更匹配对特定任务的理解。相较于Embedding和Prompt两者需要消耗大量的Token,微调是训练大模型本身,消耗的token更少,响应速度也更快。

    一个AI应用产品如果停留在做一阶和二阶,注定是个门槛极低的产品,没有任何壁垒。

    而什么场景,何时以及如何使用三阶和四阶的能力,是个关键性的问题。

  2. 「AI直接读网页」这个功能的厉害之处,绝对被很多人低估了

    「AI直接读网页」这个功能的厉害之处,绝对被很多人低估了。

    话不多说,今天先举一个「直接用 kimi 翻译和精读万字英文网页」的例子。

    1、2.5 万字一口气翻译完

    翻译的提示词,是在宝玉老师的提示词基础上改的,所以 LLM 不会被翻译成“法律硕士”,翻译结果既贴近原文也没有过浓的译腔。

    但重点不在这里,重点在于,只要我把英文博客的网页链接放进去,2.5 万字的《Year One of Generative AI: Six Key Trends》可以“一口气”翻译完。

    当然,说“一口气”有点夸张。为了保证2.5万字英文译文的稳定输出,我需要发一次直译的提示词,再发一次直译结果自我反思的提示词,最后发一次意译的提示词。直译和意译的过程中,再发一次继续,以免翻译不完。

    但这是直接翻译完 2.5 万字的英文博客啊,我全程发 3 段提示词,输 2 个“继续”,翻译好的结果就全部出来了。

    2、这是我之前不敢想象的

    生成式 AI 爆发的这一年,很多优质信息在英文网页上。

    中文自媒体的翻译,我只敢当做初筛工具,非一手的信息还是有点信不过。

    但直接看英文网页,哪有看中文速度快?所以我每次都开着沉浸式翻译的插件,中英对照着看。但 LLM 每次都翻译成“法学硕士”,体验确实有点糟糕。

    过程中遇到不懂的,我一般会先关掉插件,然后整段复制粘贴给 ChatGPT,请它帮我解释和分析。

    没有上下文的解释,终究是欠了点意思;偶尔会自己手动写上下文,但也觉得有点浪费时间;遇到「内容的确很好但不懂的又很多」的情况,我就要不断地复制粘贴,就挺累人的。

    现在好了,直接把网页丢给 kimi,先让它一口气翻译完。然后,我可以基于原始网页的全文信息,哪里不懂问哪里。

    3、其他的话

    我也试过用ChatGPT-4 和webpilot的官方 GPTs 去读。

    开头能读,但 2.5 万字的量还是有点大,没点击几次“继续”按钮,整个就罢工了。

    目前能保证这么长的输出的,暂时只看到 kimi。

    最后,再次感谢宝玉老师的翻译提示词,感谢 kimi免费「翻译和精读万字英文网页」的功能。#AI工作流