LLM得上下文越来越长，模型搜寻信息的能力却未必线性提升
总体而言，模型会更注意开头的文本
准确性方面，有时上下文更长的Claude100k表现不如 ChatGPT16k
利用ChatDoc/ChatPDF 来获取信息并帮助模型筛选信息块、或重新排序信息块也能提升效果
最后，价格高贵的GPT4效果拔群😂
https://arxiv.org/pdf/2307.03172.pdf https://t.co/oL91J2TVAm