https://mp.weixin.qq.com/s/5MEu2eeqNfBWXlkCKTd6sg
DeepSeek 这次开源的不是模型,而是生产 AI 的“工厂”
DeepSeek 这次开源了推理框架 DeepInfer。我觉得这件事可能比再开源一个更强的大模型还值得关注。
我的核心判断是:模型开源,让更多人有能力开发 AI 产品;推理技术进步,则可能让一些原本算不过账的 AI 生意,第一次算得过账。
过去开源模型,主要解决的是“谁能用上 AI”的问。而这次开源推理框架,解决的是另一个问:怎么用更低的成本,让 AI 同时服务更多人?
如果说模型是产品设计图纸,推理框架就像工厂的生产线。
DeepInfer 的技术优化主要集中在几个方面:
* MoE 专家并行: 让不同 GPU 分工协作,减少算力闲置。
* 推测解码: 提前预测多个 Token,再批量验证,减少生成时的等待。
* 异步调度: 让 CPU 准备任务和 GPU 计算尽可能同时进行,提高利用率。
* 批次不变推理: 减少不同批处理方式对输出结果的影响,提高可复现性。
说白了,它不是让模型更聪明,而是让同样的算力干更多活。
当然,目前 DeepInfer 还不是开箱即用的完整线上服务系统,实际性能优势仍需要验证。
但如果未来被广泛采用,DeepSeek 就可能不只是一家大模型公司,还可能成为全球 AI 基础设施的重要技术标准制定者,让人联想到 Linux、LLVM 等开源基础设施的发展路径。
那这跟普通人赚钱有什么关系?
过去几年,模型开源让越来越多人能够开发 AI 产品,但并没有让所有人都赚到钱。
因为会做产品,不代表有人买单。技术门槛降低,竞争反而可能更激烈。
而推理成本下降,可能改变另一件事:过去 AI 能做、但做一次太贵的生意,现在可能开始有利润了。
举三个我比较看好的场景:
1. AI 员工:一个人服务几十家小企业
比如给跨境电商提供 24 小时 AI 客服,自动处理询盘、订单、退换货。过去需要大量人工处理的工作,现在可能由 AI 完成大部分,创业者按月或按处理量收费。
2. AI 行业情报:一个人做出过去一个团队的产出
比如每天自动追踪几百家新能源公司的公告、专利、产品动态,整理成行业情报,卖给有需求的中小企业。AI 负责信息处理,人负责判断和核实。
3. AI 软件测试工厂:让 A