OpenDiT 一个专门用来加速类似Sora的DiT架构模型推理和训练的项目，GPU 加速高达 80%，内存减少 50%。#ai##sora#

主要特点有：

GPU 加速高达 80%，内存减少 50%，内核优化包括FlashAttention、Fused AdaLN、Fused Layernorm内核。

FastSeq：一种新颖的序列并行方法，专为激活大小较大但参数大小较小的类似 DiT 的工作负载而设计。

使用方便，通过一些生产线更改即可获得巨大的性能提升，用户不需要了解分布式训练的实现。

支持文本到图像和文本到视频生成的完整流程。

项目地址：网页链接