#Zero Bubble

该项目开发了两种新型流水线并行算法：零气泡和可控内存流水线并行。零气泡算法几乎消除了流水线并行的气泡，保持同步语义；可控内存算法显著降低激活内存使用，同时维持或提高吞吐量。项目实现了ZB1P、ZB2P和ZBV等多种调度策略，平衡吞吐量和内存效率。另外，项目还采用优化器后验证等技术来进一步增强性能。