#神经网络

dl_note项目是一个综合性深度学习资源库，涵盖从数学基础到模型部署的全过程。内容包括神经网络基础、深度学习技巧、模型压缩、推理优化及大语言模型等。项目注重实际应用，提供详细代码解析和实战经验，适合深度学习技术的学习者和从业者参考使用。

该项目汇集了深度学习领域的优质教程和资源,覆盖计算机视觉、自然语言处理、语音处理等多个方向。内容包括入门教程、高级课程、技术博客和开源代码库,涵盖模型量化、AutoML、图神经网络等前沿主题。同时提供深度模型训练的实践指南,适合系统学习和深入研究深度学习的人员参考。

MedMNIST是一个标准化的生物医学图像数据集，包含18个2D和3D子集。数据集提供28x28及更大尺寸的图像，涵盖多种医学影像模态，适用于不同的分类任务。总计约708K个2D图像和10K个3D图像，支持生物医学图像分析、计算机视觉和机器学习研究。MedMNIST以其多样性、标准化和易用性，成为评估机器学习算法和开发医学模型的重要资源。

Catch-A-Waveform是一个开源的AI音频生成项目，通过单一短音频样本学习生成多样化音频。该项目支持无条件生成、带宽扩展、音频修复和降噪等功能，可用于音乐创作、语音处理和音频修复等领域。Catch-A-Waveform不仅能创造新的音频内容，还能提升现有音频质量，为音频处理技术开辟新的研究方向。

CoDA是一个开源的开放词汇表3D目标检测框架，通过协作式新颖框发现和跨模态对齐技术提高对未见类别的检测能力。该项目支持ScanNet和SUN RGB-D数据集，提供完整的代码、预训练模型和数据集。CoDA的创新方法在NeurIPS 2023发表，为3D场景理解研究提供了新的思路。项目基于PyTorch开发，并提供详细的安装和使用指南。

该项目整理了李宏毅2021年机器学习课程的详细笔记，涵盖从基础概念到前沿技术的15个主题。内容包括深度学习、CNN、Transformer、GAN等核心知识，以及自监督学习、对抗攻击等新兴领域。每个主题都配有相应的视频链接，便于深入学习。项目采用Notion平台展示，提供完整的课程大纲和PDF版本。笔记内容基于课程视频和幻灯片，力求准确理解和呈现。适合机器学习初学者和研究人员系统学习和参考。

Guided-pix2pix项目推出创新的图像转换方法，运用双向特征变换技术提高引导式图像生成的精确度。该方法在姿势迁移、纹理迁移和深度上采样领域展现出优异性能，生成的图像质量更高、更贴合引导信息。项目开放完整代码和预训练模型，为研究人员提供便利的实验和开发环境。

subword-nmt是一个文本子词分割预处理工具，主要应用于神经机器翻译领域。它实现了字节对编码(BPE)等算法，具备多语言联合学习、词汇过滤和BPE dropout等功能。该工具支持pip安装，提供命令行接口，适用于各类NMT任务，可有效处理罕见词。

STCN是一个创新的视频对象分割框架,通过改进内存覆盖重新构建时空网络。该方法在多个基准测试中达到了最先进水平,同时保持20+ FPS的高效运行。STCN采用简洁的网络结构,建立图像间亲和力,并使用L2相似度替代点积,显著提升内存利用率。这种方法在准确性和效率间实现了理想平衡,为视频对象分割研究带来新思路。

该项目提出了一种基于掩码引导的迭代训练方法，用于交互式图像分割。这种方法能够分割新对象，也可从外部掩码开始修正。采用简单前馈模型，无需额外优化即可达到先进性能。项目提供训练和测试代码、预训练模型及交互式演示，支持多种数据集和评估指标。

Pytorch-Medical-Segmentation是一个开源医学图像分割框架，支持2D和3D多模态分析。该项目集成多种先进算法，兼容主流医学影像格式，提供灵活配置选项。内置训练推理流程和评估指标，便于研究人员和开发者快速实现各类医学图像分割任务。

Thought Cloning是一种模仿学习框架，训练智能体模拟人类思维模式以提升性能和可解释性。该项目基于BabyAI环境实现，采用合成思维数据集。研究显示，这种方法能提高智能体在复杂任务中的表现和泛化能力。项目开源了代码、数据集和预训练模型，为研究人员提供了分析智能体思维过程的工具。

Flood-Filling Networks (FFNs) 是一种专为复杂大型形状实例分割设计的神经网络模型，特别适用于大脑组织的体积电子显微镜数据集。FFN模型在处理大规模、高分辨率的神经影像数据时表现出色，能够准确识别和分割复杂的神经元结构。该开源项目在FIB-25数据集上展现了优秀性能，为神经科学研究提供了强大的分割工具，适合需要高精度神经元分割的研究人员使用。

本项目整理了双曲空间表示学习和深度学习领域的前沿研究成果。内容涵盖基础理论和实际应用,包括双曲浅层模型、双曲神经网络和双曲图神经网络等方法,以及在推荐系统、知识图谱等方面的应用。项目将相关论文进行分类整理,为研究人员提供便捷的学习资源,促进该领域的发展。

本项目展示了深度学习技术在金融交易领域的应用。从简单回归到LSTM和策略网络,逐步介绍不同复杂度的算法模型。内容包括TensorFlow使用、深度强化学习概念,以及交易策略的构建与优化。通过代码示例和详细说明,读者可学习如何将深度学习应用于金融数据分析和算法交易。这是一个面向学习者和从业者的教育资源,展示了深度学习在非传统领域的创新应用。

SharpNEAT是一个基于C#的NEAT算法实现，专为.NET 8设计。这个进化算法框架致力于通过神经网络进化解决复杂问题。其模块化架构有利于进化计算研究，同时优化网络结构和连接权重，为探索神经进化潜力提供了有力支持。

Machine-Learning-Goodness项目汇集了丰富的机器学习和人工智能资源,包括Jupyter notebooks、Python代码、ML项目、库和使用技巧等。项目还收录了推荐书籍、实用工具和优质代码库,涵盖从基础到高级的Python编程、机器学习算法和深度学习内容。通过持续更新,为AI工程师和开发者提供全面的学习参考资料。

本项目汇集了数据科学、机器学习和深度学习领域的重要论文和综述文章。涵盖数据预处理、深度学习技术、推荐系统和计算机视觉等多个主题。资源按重要性分类,并提供链接,方便读者学习和追踪最新进展。项目持续更新,欢迎贡献新的学术资源。

这是一个综合性的人工智能资源库,涵盖深度学习和机器学习领域。收录了业界顶尖专家的文章、代码实现和核心概念,内容从基础理论延伸到实际应用,包括迁移学习、强化学习和自然语言处理等热门主题。项目汇集了丰富的学习材料,适合AI研究者和从业者参考使用。

pytorch-ood是一个专为深度学习设计的异常检测库。该库提供多种检测方法、损失函数、数据集和神经网络架构，支持预训练权重，并兼容pytorch-lightning等框架。它涵盖开放集识别、新颖性检测、置信度估计等领域，采用统一的异常分数约定，方便比较不同方法。这个基于PyTorch的工具库为研究人员和开发者提供了全面的异常检测解决方案。

TinyNeuralNetwork是一个开源的深度学习模型压缩框架，提供神经架构搜索、剪枝、量化和模型转换等功能。该框架支持计算图捕获、依赖解析、多种剪枝算法、量化感知训练和模型转换，为深度学习模型优化提供全面解决方案。TinyNeuralNetwork已应用于天猫精灵、海尔电视等超过1000万IoT设备，实现AI能力部署。

nn-Meter是一个用于预测深度神经网络模型在边缘设备上推理延迟的系统。其核心是将模型推理分解为内核级别进行预测。系统在26000个模型的数据集上评估了4个主流平台,在移动CPU、GPU和VPU上达到较高预测精度。无需部署即可预测延迟,可用于硬件感知的神经架构搜索,并支持构建自定义设备的延迟预测器。

NeuralPDE.jl是一个基于Julia语言的偏微分方程求解器，采用物理信息神经网络(PINNs)技术。该工具具有较高的通用性，可处理常微分方程、随机微分方程等多种方程类型。NeuralPDE.jl支持自定义损失函数、自动构建物理信息损失函数，并整合了多种训练加速技术。此外，它与Flux.jl和Lux.jl兼容，可利用GPU进行深度学习计算。

项目为Web开发者和创意工作者提供了机器学习在浏览器环境中的应用指南。内容覆盖预训练模型运行、自定义数据模型创建等全流程,聚焦机器学习在创意项目中的实际应用。涉及图像/声音分类、人脸/姿势识别、多媒体生成等主题,运用迁移学习、卷积神经网络等技术。通过实践,参与者可掌握常见机器学习模型的工作原理、训练方法及其在创意领域的应用潜力。

NeuralBlock是一个开源的神经网络项目，致力于自动识别YouTube视频中的赞助内容。它能够判断整段文本或单个词是否属于赞助部分，为用户提供精准的视频内容分析。该项目基于大规模众包数据训练，采用先进的深度学习技术，并提供便捷的Web应用界面。NeuralBlock不仅提高了视频观看体验，还为内容创作者和广告主提供了有价值的数据洞察。未来，项目将进一步提升识别准确度，整合视频图像信息，并扩展多语言支持，为全球用户提供更全面的服务。

Linformer是一个基于PyTorch的高效自注意力机制实现。通过将注意力矩阵投影到低维度空间，它实现了线性复杂度，适合处理长序列数据。项目提供简洁API，支持构建语言模型和自注意力层。尽管在自回归任务和可变序列长度方面有局限，但其高效性已在Facebook的生产环境中得到验证，为处理大规模数据提供了新的解决方案。

asteroids-genetic是一个开源的交互式AI训练模拟器，结合神经网络和遗传算法来训练小行星游戏AI。该项目通过自然选择规则实现AI进化，支持AI模型的保存和加载，并提供人类玩家游戏体验。提供网页版和多平台桌面版，是AI学习、游戏开发和算法研究的实用工具。

FANN是一个用C语言实现的开源神经网络库，支持多层网络结构和多种连接方式。它具备跨平台兼容性、高性能计算能力和易用性，提供丰富的训练算法和激活函数。该库支持15种以上编程语言绑定，附带完整文档和图形界面，适用于研究和商业开发。FANN让用户能够便捷地构建、训练和部署神经网络模型。作为一个广受欢迎的项目，FANN日均下载量约100次，支持RPROP和Quickprop等多种训练方法，实现了多种激活函数，并可在固定点和浮点数系统上运行。其执行速度比类似库快达150倍，同时保持了良好的灵活性。FANN持续维护，为人工智能研究和应用提供了可靠的基础设施。

NeuralNetworkRacing是一个使用Python开发的2D自动驾驶模拟项目。它结合神经网络和进化算法,训练虚拟汽车在生成的赛道上自主行驶。项目基于pyglet和numpy库实现,包含环境模拟、赛道生成等功能。通过配置文件,用户可以调整人口数量、突变率等参数。该开源项目为AI和自动驾驶领域提供了一个实验平台。

Netsaur是Deno生态系统中的一款轻量级高效神经网络库。它提供简洁API用于创建和训练神经网络，支持CPU运行，GPU支持正在开发中。Netsaur无需额外依赖，适用于serverless环境，可快速构建和部署多种机器学习模型。这个库适合各层级的机器学习实践者使用，从入门到专业均可上手。

本项目汇集了Transformer模型硬件实现的研究资料，包括BERT及其优化方案。内容涵盖算法-硬件协同设计、神经网络加速器、量化和剪枝等技术。项目提供了详细的论文列表，涉及FPGA实现、功耗优化等多个领域，全面展示了Transformer硬件加速的最新研究进展。

LibtorchSegmentation是基于LibTorch的C++图像分割库，提供高级API和多种模型架构。支持15种预训练编码器，推理速度比PyTorch CUDA快35%。该库简单易用yet功能强大，适合快速开发和部署各类图像分割应用。

ivis是一种基于暹罗神经网络的数据降维算法，专门用于处理高维数据集。该算法支持无监督和有监督学习，能够有效保持数据的局部和全局结构。ivis适用于大规模数据集，支持多种数据格式，包括numpy数组、稀疏矩阵和hdf5文件。它在聚类、异常检测等任务中表现出色，为数据分析提供了强大的可视化工具。ivis算法采用基于三元组的神经网络结构，能够高效处理百万级数据点和上千维特征，在保持数据结构方面常常优于t-SNE等传统方法。支持新数据点的转换，可以轻松集成到sklearn管道中，在高维数据可视化、聚类分析和异常检测等领域具有广泛应用前景。

Hey-Jetson项目旨在为边缘计算设备提供高效的语音识别解决方案。该平台利用深度学习技术，整合了膨胀卷积、双向GRU和注意力机制等先进方法，在LibriSpeech数据集上进行训练。经测试，模型在测试集上达到78%的余弦相似度和18%的词错误率，展现出良好的识别性能。此外，项目还提供了基于Flask的API接口，方便在Nvidia Jetson等嵌入式设备上进行实时语音识别推理。

H-Transformer-1D是一个开源项目，实现了基于分层注意力机制的Transformer模型。这种实现使序列学习达到亚二次方复杂度，在Long Range Arena基准测试中表现优异。项目支持可变序列长度、可逆性和令牌移位等功能，适用于长序列数据处理。该实现主要提供编码器（非自回归）版本，为自然语言处理和机器学习领域提供了新的研究方向。

ruby-fann是一个将FANN库集成到Ruby环境的开源项目。它为开发者提供了在Ruby中构建和使用多层人工神经网络的便捷方式，支持全连接和稀疏连接网络。这个库具有易用性、多功能性和高性能的特点。用户可以通过它训练神经网络、保存训练数据和网络状态，还能使用自定义回调函数实现高级训练控制。ruby-fann为Ruby生态系统带来了强大而灵活的神经网络开发能力。