#注意力网络

iTransformer

iTransformer是一种基于注意力机制的时间序列预测模型，由清华大学和蚂蚁集团研究人员开发。该模型采用倒置Transformer结构，支持多变量和多步长预测。iTransformer引入了可逆实例归一化等技术，旨在提高预测准确性和处理长序列数据的能力。这个开源项目为时间序列分析提供了新的研究方向。项目提供Python实现，支持使用PyTorch框架。用户可通过pip安装并轻松集成到现有的时间序列分析工作流程中。该项目还包括实验性功能，如二维注意力和傅里叶变换增强版本，为研究人员提供了探索和改进的空间。

spear-tts-pytorch

Spear-TTS是一个基于Pytorch的多说话人文本转语音模型。该项目实现了高效的文本到语义转换，可用于SoundStorm项目的条件控制。Spear-TTS支持最小监督下的高保真语音合成，集成闪速注意力和推测性解码等技术，为TTS研究和开发提供了有力工具。