https://techcrunch.com/2023/02/21/openai-foundry-will-let-customers-buy-dedicated-capacity-to-run-its-ai-models/
结合最近的一则新闻来聊聊人工智能云。ChatGPT背后的公司OpenAI最近计划推出“Foundry铸造厂”服务-客户可以租用独有的服务器来运行GPT3.5等服务,Azure AI 以及aws等云服务商也早已提供类似的云AI服务,例如web app开发商可以调用API在Azure的服务器上实现如手写识别的机器学习功能,而不需要依赖设备本身的性能。云服务的普及使得本地电子设备的网络传输速度逐渐成为最重要的性能指标,而大量的如AI对话,游戏渲染等计算任务可以在电力便宜稳定的服务器所在地实现,如有着充沛水电资源的地区。
Foundry的概念在芯片设计制造领域也早已有所运用,意味着芯片的实际代工制造和设计可以分开。例如英伟达Nvidia就是一家纯设计公司,绝大部分的Nvidia图像处理单元GPU芯片的实际生产是在台积电TSMC完成。业务的分离使得各个企业可以发挥自己的优势,使成本效率大大增加。
p.s. 文中提到的gpt3.5服务器(含100张显卡)价格 每月$3万以内