#C++
ADI-Stable-Diffusion: 基于ONNXRuntime的高性能Stable Diffusion推理框架
Tiny Dream: 一个嵌入式、仅头文件的稳定扩散C++实现
DataFrame
DataFrame是一个高效的C++数据分析库,提供类似于Python的Pandas和R的DataFrame功能。它支持数据切片、连接、分组操作,并具备统计、金融及机器学习算法。该库特别适合处理大数据集,拥有优异的性能和多线程支持。通过多种内置算法和可添加的自定义算法,用户可以灵活分析和处理数据。DataFrame还与Polars等工具进行了性能对比,展现了其在大数据处理上的显著优势。
SummerTTS
SummerTTS是一个无需外部依赖,本地独立运行的中英文语音合成工具。该系统支持一键编译,基于Eigen和最新的vits语音合成算法,并支持多平台包括Linux,能够有效运行。最新版本增加了纯英文快速模型并优化了文本正则化处理,旨在输出更自然和高质量的语音。详细使用说明及模型下载均可在项目页面获取。
realtime-bakllava
实时Bakllava Llama C++项目的详细教程,适用于Apple silicon芯片,提供从库克隆、模型下载到演示运行的全流程指南。适用于MacOS和Windows系统,包含摄像头脚本运行和图片处理方法。
Deep-Learning-in-Production
项目详细介绍了如何将PyTorch、TensorFlow、Keras和MXNet等深度学习模型部署至生产环境,包括模型转换、API集成、服务器运作及跨框架策略。这一资源库提供实际细节和案例,帮助开发者全面了解部署流程,并通过Flask、C++、Go等多种技术实现模型应用。
mlpack
mlpack是一个高效的C++机器学习库,以纯头文件形式实现,支持Python、R、Julia和Go等多语言绑定。它特别适用于快速原型开发和高性能产品部署。mlpack提供广泛的机器学习算法和便捷的命令行程序,用户可以通过详细的文档和多种入门指南快速掌握使用方法。同时,mlpack支持多种系统和自定义构建选项,以满足广大开发者和研究者的需求。
LlamaGPTJ-chat
一个使用C++编写的命令行聊天程序,支持GPT-J、LLaMA、MPT等语言模型。适用于Linux、MacOS和Windows系统,有详尽的安装和使用指南,并支持多线程、保存/加载聊天日志、设置AI角色等多种功能。
codex_py2cpp
codex_py2cpp项目借助OpenAI Codex将Python代码转换为C++代码。无需掌握C++编程,只需输入Python脚本并调用Codex API,即可生成并编译C++程序,显著提升运行速度。适合需要提高性能的开发者,提供详细的安装、使用步骤及示例代码转换。
chatglm.cpp
ChatGLM.cpp 是一个使用C++实现的实时聊天项目,支持ChatGLM-6B、ChatGLM2-6B、ChatGLM3和GLM-4模型,兼容多种硬件和操作系统。项目通过int4/int8量化、优化的KV缓存和并行计算技术,实现了高效的CPU推理,并支持P-Tuning v2和LoRA微调模型。该项目还提供Python绑定、网络演示和API服务器,扩展了使用场景,适用于高效实时聊天。
dlib
dlib是一个功能丰富的C++工具库,专注于机器学习解决方案,支持快速编译和高效运算。提供完整的Python集成和标准Boost许可,适用于各类项目。