不是官方数字。很难量化训练成本，因为很大一部分属于研究和实验。
在制作 K2 thinking 的过程中，你们遇到的最大挑战是什么？谢谢！
一个挑战是支持交错的“思考 - 工具 - 思考 - 工具”模式。这在 LLMs 中是相对新颖的行为，实现起来需要大量工作才能正确运行。
K2 thinking 在几个月来经过许多评测后，已经能抓到 Sonnet 4.5 和 Opus 4.1 漏掉的问题。说实话，感觉 K2 thinking 只差一点系统提示（system prompt）调整就能达到同等水平。这全都要归功于你们的新架构吗？还是你们的训练数据质量也有提升？
我认为拥有合适的评估方法和数据对性能至关重要。架构和优化器提高了样本效率。
你们训练堆栈的硬件是什么样的？想了解你们的基础设施如何与那些美国大型公司使用的堆栈相比？
使用带有 Infiniband 的 H800 GPU；它们不如美国的高端 GPU，而且数量也不占优势，但我们把每一张卡都充分利用起来#ai创造营##kimi#
在制作 K2 thinking 的过程中，你们遇到的最大挑战是什么？谢谢！
一个挑战是支持交错的“思考 - 工具 - 思考 - 工具”模式。这在 LLMs 中是相对新颖的行为，实现起来需要大量工作才能正确运行。
K2 thinking 在几个月来经过许多评测后，已经能抓到 Sonnet 4.5 和 Opus 4.1 漏掉的问题。说实话，感觉 K2 thinking 只差一点系统提示（system prompt）调整就能达到同等水平。这全都要归功于你们的新架构吗？还是你们的训练数据质量也有提升？
我认为拥有合适的评估方法和数据对性能至关重要。架构和优化器提高了样本效率。
你们训练堆栈的硬件是什么样的？想了解你们的基础设施如何与那些美国大型公司使用的堆栈相比？
使用带有 Infiniband 的 H800 GPU；它们不如美国的高端 GPU，而且数量也不占优势，但我们把每一张卡都充分利用起来#ai创造营##kimi#
